Mit der zunehmenden Bedeutung der Digitalisierung und insbesondere der Verbreitung von Künstlicher Intelligenz (KI) wachsen die Anforderungen an die verantwortungsvolle Entwicklung solcher Systeme. Informatikerinnen und Informatiker sind hier besonders in der Pflicht. Die EU hat mit dem AI Act das weltweit erste Gesetz zum verantwortungsvollen Einsatz von KI erlassen und dafür sowohl Lob als auch Kritik geerntet. Im Kern der KI-Verordnung werden vier Risikoklassen definiert und zusätzlich Regeln für den Einsatz von sogenannten General Purpose AI (GPAI) models definiert, wie sie etwa in großen Sprachmodellen wie ChatGPT, Gemini oder spezialisierten KI-Modellen etwa zur Bilderzeugung wie Midjourney oder DALL-E eingesetzt werden. Der Vortrag wird der Frage nachgehen, wie berufsethische Grundsätze für den verantwortungsvollen Umgang mit Hochrisiko-Anwendungen und sicherheitskritischen Systemen, Dual-Use und militärischen Einsatzszenarien aussehen könnten. An einigen Fallbeispielen (Drohnen, KI-Einsatz bei Cyberangriffen, Online-Marketing) wird gezeigt, wie schwierig die Abgrenzung zwischen den verschiedenen Risikoklassen ist, wie sie vom AI Act definiert werden.

Zum Vortragenden:

Hannes Federrath ist Professor für Sicherheit in verteilten Systemen an der Universität Hamburg. Er promovierte 1998 an der TU Dresden zur Sicherheit mobiler Kommunikation. Von 1999 bis 2000 forschte er am International Computer Science Institute Berkeley, Kalifornien. Danach vertrat er eine Professur an der FU Berlin. Prof. Federrath war von 2003 bis 2011 Inhaber des Lehrstuhls Management von Informationssicherheit an der Universität Regensburg. Seit 2011 forscht und lehrt er an der Universität Hamburg zu den Themen Technischer Datenschutz, Anonymität und Unbeobachtbarkeit, Cybersecurity und Schutz mobiler Systeme. Von 2018 bis 2021 war Prof. Federrath Präsident der Gesellschaft für Informatik e.V., von 2011 bis 2016 war er Vorsitzender der Special Interest Group Sicherheit - Schutz und Zuverlässigkeit von GI.