Der kalifornische Gouverneur Gavin Newsom hat ein richtungsweisendes Gesetz zur Sicherheit von Künstlicher Intelligenz (KI) gestoppt, das das ambitionierteste Vorhaben der Nation zur Regulierung der neuen Technologie darstellte.
Das Gesetz S.B. 1047 sollte die Sicherheit großer KI-Systeme vor deren Veröffentlichung gewährleisten. Zudem sah es vor, dem Generalstaatsanwalt das Recht zu geben, Unternehmen aufgrund schwerer Schäden durch deren Technologien zu verklagen, und es verlangte die Implementierung eines Notabschaltmechanismus für Fälle von Biokriegsführung, Massenopfern oder Sachschäden.
Newsom begründete sein Veto damit, dass der Gesetzesentwurf allein auf die größten KI-Systeme, die sogenannten "Frontier-Modelle," abziele, ohne dabei potenzielle Risiken und Schäden durch die Technologie insgesamt zu berücksichtigen. Er forderte die Gesetzgeber auf, den Entwurf für die nächste Sitzung zu überarbeiten.
"Ich glaube nicht, dass dies der beste Ansatz ist, um die Öffentlichkeit vor den realen Bedrohungen durch die Technologie zu schützen," erklärte Newsom in einer Stellungnahme. "Stattdessen wendet das Gesetz strenge Standards sogar auf die einfachsten Funktionen an, solange ein großes System diese nutzt."
Die Entscheidung, das Gesetz zu stoppen, dürfte heftige Kritik von Technolgieexperten und Akademikern hervorrufen, die sich für das Gesetz eingesetzt hatten. Newsom, ein Demokrat, stand unter starkem Druck, das Gesetz zu blockieren, was eine hitzige nationale Debatte über die Regulierung von Künstlicher Intelligenz entfacht hatte. In den letzten Wochen hatte eine Welle von Lobbyisten sein Büro besucht: Einige priesen das Potenzial der Technologie, großen Nutzen zu stiften, während andere vor ihren möglichen irreparablen Schäden warnten.
Kalifornien war bereit, zur Speerspitze der Regulierung einer Technologie zu werden, die mit der Veröffentlichung von Chatbots sowie realistischen Bild- und Videogeneratoren in den letzten Jahren ins öffentliche Bewusstsein explodiert ist. Da es an bundesweiter Gesetzgebung fehlt, hatte das kalifornische Parlament mit seinem Vorschlag einen entschiedenen Ansatz zur Eingrenzung der Technologie verfolgt und beide Kammern hatten das Gesetz nahezu einstimmig verabschiedet.
Während Gesetzgeber und Regulierungsbehörden weltweit die Alarmglocken wegen der Technologie läuten, haben nur wenige gehandelt. Der Kongress hat Anhörungen abgehalten, jedoch keinen wirklichen Legislativfortschritt erzielt. Die Europäische Union hat mit dem AI Act die Nutzung riskanter Technologien wie Gesichtserkennungssoftware eingeschränkt.