Governor Newsom lehnt Regulierung von Künstlicher Intelligenz ab und betont Innovationsförderung

Kaliforniens Gouverneur Gavin Newsom hat ein kontroverses Gesetzesvorhaben zur Regulierung künstlicher Intelligenz (KI) abgelehnt. Er begründete seine Entscheidung damit, dass das Gesetz Innovationen ersticken könnte, nachdem erheblicher Druck von Technologieunternehmen ausgeübt worden war. Diese Ankündigung kam buchstäblich in letzter Minute, nachdem das Gesetz Ende August den Staatskongress passiert hatte. Das Gesetz hätte von Entwicklern der mächtigsten KI-Modelle verlangt, strikte Regelungen einzuhalten, etwa die Implementierung eines Not-Aus-Schalters zur Verhinderung katastrophaler Schäden. Führende KI-Unternehmen wie Google, OpenAI und Meta hatten sich gegen das Gesetz ausgesprochen und intensiv Lobbyarbeit betrieben. Sie argumentierten, dass voreilige Regulierungen die Entwicklung von KI behindern und Kaliforniens führende Rolle in der Technologieentwicklung gefährden könnten. Im Gegensatz dazu unterstützten Anthropic, das von Amazon gefördert wird, sowie Elon Musks Start-up xAI das Gesetz. In einem Brief an den Senat von Kalifornien verteidigte Newsom am Sonntag sein Veto gegen das Gesetz „Safe and Secure Innovation for Frontier Artificial Intelligence Systems Act“ (SB 1047). Er erklärte, der Regulierungsrahmen könne „die Innovation, die den Fortschritt im Interesse des öffentlichen Wohls antreibt, einschränken“. Er hob hervor, dass Kalifornien Heimat für 32 der weltweit führenden KI-Unternehmen ist. Insbesondere kritisierte er die Bewertung von Modellen anhand ihrer Größe. Das Gesetz hätte Sicherheitsprüfungen und weitere Vorkehrungen für Modelle vorgeschrieben, die mehr als 100 Millionen Dollar in der Entwicklung kosten. Dies könne der Öffentlichkeit „eine falsche Sicherheit im Hinblick auf die Kontrolle dieser sich schnell entwickelnden Technologie“ vermitteln, während „kleinere, spezialisierte Modelle ebenso gefährlich oder sogar gefährlicher sein könnten“. Senator Scott Wiener, der das Gesetz eingebracht hatte, betonte, es verlange nur von den größten KI-Entwicklern, „grundlegende Sicherheitsprüfungen an extrem leistungsstarken KI-Modellen durchzuführen“, was sie wiederholt zugesagt hätten. Newsom hingegen entgegnete, dass das Gesetz „nicht berücksichtigt, ob ein KI-System in risikoreichen Umgebungen eingesetzt wird, kritische Entscheidungen getroffen oder sensible Daten verwendet werden.“ In den letzten 30 Tagen hat Newsom Gesetze unterzeichnet, die die Implementierung und Regulierung von generativer KI betreffen – darunter Deepfakes, KI-Wasserzeichen und Fehlinformationen. Experten für diese Technologie arbeiten auch mit dem Staat zusammen, um „praktikable Schutzmaßnahmen“ für den Einsatz generativer KI zu entwickeln, gestützt auf empirische und wissenschaftliche Beweise. Das Artificial Intelligence Policy Institute, ein Think-Tank, bezeichnete das Veto des Gouverneurs als „irreführend, leichtsinnig und im Widerspruch zu den Interessen der Menschen, die er regiert“. Daniel Colson, der Geschäftsführer des Instituts, sagte, Newsom habe die Gelegenheit gehabt, als Führer bei der Regulierung der demokratischen Governance der KI-Entwicklung zu agieren. „Newsom und die Gesetzgeber müssen im nächsten Sitzungstermin nach Sacramento zurückkehren, um sich auf eine Reihe von Maßnahmen zu einigen, die vernünftige Schutzmaßnahmen zur Entwicklung von KI beinhalten“, forderte Colson.