Kalifornisches KI-Sicherheitsgesetz: Rückschlag oder Chance?

Der Architekt des umstrittenen kalifornischen Sicherheitsgesetzes für Künstliche Intelligenz (KI), Senator Scott Wiener, betonte am Montag, dass lokale Gesetzgeber weiterhin an Schutzmaßnahmen für diese Technologie arbeiten werden, trotz der Entscheidung von Gouverneur Gavin Newsom, das Gesetzesvorhaben am Sonntag abzulehnen. Wiener äußerte gegenüber Bloomberg Television seine Enttäuschung, bekräftigte jedoch zugleich die Bedeutung des Themas: „Wir werden die Aufgabe erledigen.“ Das Gesetz mit der Bezeichnung SB 1047 hätte KI-Entwickler für gravierende Schäden, wie Massenopfer oder Sachschäden über 500 Millionen US-Dollar, zur Verantwortung gezogen. Zudem hätte es spezifische Sicherheitsvorkehrungen vorgeschrieben, wie die Aufrechterhaltung eines Not-Aus-Schalters und die Öffnung von KI-Modellen für Drittpartei-Testungen. SB 1047 stieß auf heftige Kritik von einigen prominenten Demokraten und großen Technologieunternehmen, darunter die ehemalige Sprecherin des Repräsentantenhauses Nancy Pelosi, der ChatGPT-Schöpfer OpenAI und die Risikokapitalfirma Andreessen Horowitz. Diese warnten davor, dass das Gesetz Innovationen im Bundesstaat hemmen könnte. Newsom beschrieb das Gesetz als „wohlmeinend“, kritisierte jedoch dessen Anwendung auf selbst grundlegendste Funktionen und verlangte eine Regulierung, die auf „empirischen Beweisen und Wissenschaft“ basiert. Er verwies auf eine eigene Exekutivanordnung und andere, von ihm unterzeichnete Gesetze, die bekannte Risiken wie Deepfakes regulieren. In seiner Veto-Erklärung kündigte Newsom an, externe Experten, darunter die KI-Wissenschaftlerin und Unternehmerin Fei-Fei Li, konsultieren zu wollen, um praktikable Schutzmaßnahmen zu entwickeln und weiterhin eng mit der kalifornischen Legislative an diesem Thema zu arbeiten. Wiener bezeichnete Newsoms Entscheidung, eine Arbeitsgruppe einzurichten und die potenziellen katastrophalen Risiken anzuerkennen, als „einen großen Schritt nach vorn“. Ob er das Gesetz in der nächsten Sitzung erneut einbringen wird, ließ Wiener offen, erklärte jedoch, dass er weiterhin mit Newsom und anderen an diesem Thema arbeiten wolle, insbesondere da der Kongress nur wenig Fortschritte in Richtung einer bundesweiten KI-Gesetzgebung gemacht habe. „Kalifornien, als Herzland der KI und Innovation, hat die Verantwortung, bei der KI-Sicherheit führend zu sein“, sagte Wiener.