TECHNOLOGIE Ein neuer US-Gesetzentwurf sieht strenge Sicherheitsstandards für KI-Modelle vor und sorgt im Silicon Valley für Empörung. Der Streit um die behördliche Kontrolle der Spitzentechnologie spitzt sich damit weiter zu
In Kalifornien protestieren führende Unternehmen im Bereich künstliche Intelligenz gegen einen Gesetzentwurf, der sie zur Einhaltung eines strengen Sicherheitsrahmens zwingen würde. Dazu gehört auch die Einführung eines „Kill Switch“, mit dem sich leistungsstarke KI-Modelle ausschalten lassen.
Die kalifornische Regierung plant neue Auflagen für Technologieunternehmen, die in dem US-Bundesstaat tätig sind. Davon betroffen sind die drei größten KI-Start-ups OpenAI, Anthropic und Cohere sowie Large-Language-Modelle, die von Big-Tech-Unternehmen wie Meta betrieben werden.
Der Gesetzentwurf wurde im vergangenen Monat vom Senat des US-Bundesstaats verabschiedet und soll im August zur Abstimmung gestellt werden. Demnach müssen KI-Konzerne in Kalifornien gegenüber einem neu geschaffenen staatlichen Gremium garantieren, dass sie keine Modelle mit „gefährlichen Fähigkeiten“ entwickeln. Darunter fallen beispielsweise die Entwicklung von biologischen oder nuklearen Waffen oder die Unterstützung von Cyberangriffen.
Die Entwickler sollen laut dem geplanten „Safe and Secure Innovation for Frontier Artificial Intelligence Systems Act“ verpflichtet werden, über ihre Sicherheitstests Bericht zu erstatten und einen sogenannten „Kill Switch“ einzuführen, um ihre Modelle abschalten zu können.
Unterschiedliche Auffassungen Das Gesetz ist jedoch im Silicon Valley auf Kritik gestoßen, weil es angeblich KI-Start-ups dazu zwingen wird, den Bundesstaat zu verlassen und Plattformen wie Meta daran hindert, Open-Source-Modelle zu betreiben. „Wenn man sich Vorschriften ausdenken wollte, um Innovationen zu behindern, hätte man es kaum besser machen können“, sagt Andrew Ng, ein renommierter Informatiker, der KI-Projekte bei Google und dem chinesischen Unternehmen Baidu geleitet hat und im Verwaltungsrat von Amazon sitzt. „Das Gesetz schafft eine enorme Haftung für Science-Fiction-Risiken und schürt damit Angst bei jedem, der sich traut, Innovationen zu entwickeln.“
Der Milliardär Elon Musk, ein früher Investor des ChatGPT-Entwicklers OpenAI, bezeichnete die Technologie im vergangenen Jahr als „existenzielle Bedrohung“ für die Menschheit. Anfang Juni veröffentlichte eine Gruppe aktueller und ehemaliger OpenAI-Mitarbeiter einen offenen Brief, in dem sie davor warnen, dass „Pionierunternehmen im Bereich KI“ nicht ausreichend von den Regierungen beaufsichtigt werden und „ernsthafte R
