Italien verbietet zeitweise ChatGPT, Google verschiebt die Einführung des Chatbots Bard in Europa. Wo geht es hin mit der KI-Politik auf unserem Kontinent? Antworten liefert ein Blick in den geplanten AI Act, einen Gesetzesentwurf, der schon im Juni im EU-Parlament beraten werden soll.
❯ von Jan Kaden
Future LAB
Was ist die schärfste Waffe der Menschheit gegen die Bedrohungen durch künstliche Intelligenz (KI)? Gesetze. Das bekam ChatGPT-Entwickler Open AI Ende März 2023 zu spüren, als der Chatbot in Italien wegen Datenschutzbedenken gesperrt wurde. Diesmal ging es für Open AI glimpflich aus. Mit Datenschutzerklärung und einer Altersprüfung darf ChatGPT in Italien weiterarbeiten.
Es gibt also gute Gründe für KI-Entwickler und Anbieter, auf der Hut zu sein. Denn die europäische Union will mit dem AI Act (tinyurl.com/42mudech) ein Regelwerk für künstliche Intelligenz beschließen. Im Juni soll das EU-Parlament darüber beraten. Ein erster Entwurf der neuen Verordnung liegt bereits seit April 2021 vor. Was davon tatsächlich Gesetz werden wird, wird sich noch zeigen. Darüber wird heftig diskutiert.
Hohes Risiko – strenge Regeln
Zur Kontrolle von KI-Anwendungen empfehlen Fachleute zum Beispiel in der OECD (Organisation for Economic Cooperation and Development) (tinyurl.com/yjjadvwh) ein striktes Qualitätsmanagement sowie Audits. Diesem Rat ist die EU gefolgt. Allerdings sollen sich nicht alle KI-Anwendungen strengen Regeln unterwerfen müssen. Das könnte die KI-Entwickler aus Europa vertreiben. Der EU-Gesetzesentwurf teilt KI deshalb in Risikoklassen ein. Nur die Anwendungen mit „hohem Risiko“ müssen sich strengen Regeln unterziehen. „Harmlose“ KI-Systeme kommen ungeschoren davon. Für sie will die EU einen unverbindlichen Verhaltenskodex entwickeln.
Laut KI-Verordnung gibt es auch KI-Systeme mit nicht-vertretbarem Risiko. Diese sind verboten. Dazu gehören Anwendungen, die Menschen nach ihrer Persönlichkeit oder sozialen Situation bewerten, um sie deswegen – ungerechtfertigt – schlechter zu stellen.„Biometrische Fernidentifizierungssysteme“ wie Überwachungskameras mit KI-Funktionen sind in öffentlichen Räumen ebenfalls untersagt. Allerdings gibt es Ausnahmen für die Suche nach Vermissten oder bei schweren Straftaten (zum Beispiel Körperverletzung mit Todesfolge, schwere Vergewaltigung). Dieser Einsatz muss aber von einer Justizbehörde genehmigt werden.
Erst relativ spät kamen Werkzeuge für die „Vorhersagende Polizeiarbeit“ (predictive Policing) auf die Verbotsliste. Systeme zur Emotionserkennung, zum Beispiel Lügendetektore
