BreAkIng Bad: Hacking the AI Act
„In einem besonderen hermeneutischen Lehransatz treten die Studierenden als „Advocatus Diaboli“ auf: Die Beratungskonzepte sollen zeigen, wie der AI Act mit minimalem Aufwand erfüllt wird und dabei wirtschaftlicher Profit und Inkaufnahme von gesellschaftlichem Risiko maximiert werden können.“
In Kooperation mit dem Dienstleistungsunternehmen iDIGMA GmbH werden in diesem Lehrlabor im Studium Generale Beratungskonzepte zur Umsetzung des „AI-Acts“ entwickelt. Die EU will mit dem AI-Act den Einsatz von künstlicher Intelligenz regulieren, um die Gesellschaft vor möglichen Risiken zu schützen. Um aufzudecken, ob und inwiefern der AI-Act dies erfüllen kann, werden die Teilnehmenden angelehnt an das Konzept des „Ethical Hackings“ Beratungskonzepte erstellen, die mögliche Schwächen im AI-Act wirtschaftlich ausnutzen und damit aufdecken können.
In der ersten Phase der Lehrveranstaltung werden Grundlagen zu den Themen künstliche Intelligenz, Regulatorik und digitaler Ethik mit Hilfe von Online-Kursen sowie in regelmäßigen Präsenztreffen vermittelt. In Workshops mit dem Transferpartner iDIGMA GmbH bekommen die Studierenden außerdem Einblicke in Unternehmenspraktiken wie Risikomanagement und die Operationalisierung von Gesetzen. Darauf aufbauend können sie als „Advocatus Diaboli“ anhand eines konkreten KI-Systems eine Skizze für ein Beratungskonzept entwerfen. Vordergründiges Ziel dieser Konzepte ist es, Unternehmen aufzeigen zu können, wie sie den AI-Act mit minimalem Aufwand bei maximalem Gewinn erfüllen können. Das Konzept wird als Handreichung und Foliensatz ausgearbeitet. Daneben besteht auch die Möglichkeit, einen Prototypen für das KI-System mit Jupyter Notebooks zu entwickeln, Marketing-Kampagnen zu konzeptionieren oder detaillierte Profit-Risiko-Kalkulationen durchzuführen. Mit der Auflösung des „Advocatus Diaboli“-Szenario am Ende der Lehrveranstaltung können aus den identifizierten gesellschaftsschädlichen aber legalen Praktiken des Beratungskonzepts Maßnahmen für einen verantwortungsvollen Umgang mit künstlicher Intelligenz abgeleitet werden.
House of Computing and Data Science (HCDS), Fakultät für Mathematik, Informatik & Naturwissenschaften
Antragstellende: Dr. Michaela Regneri, Fabian Burmeister
Mitarbeiter: Lucas Memmert
Förderlinie: Transferorientierte Data Literacy
Kooperationspartner: iDIGMA GmbH
Förderzeitraum: 01.04.2023 - 31.03.2024
Lehrveranstaltung im WiSe 23/24: Projektseminar BreAkIng Bad – Hacking the AI Act (Link zum Stine Vorlesungsverzeichnis)