Der kalifornische Gouverneur Gavin Newsom hat das umstrittene KI-Sicherheitsgesetz SB 1047 abgelehnt, das Unternehmen verpflichtet hätte, sicherzustellen, dass ihre KI-Modelle keinen größeren Schaden verursachen.
Das Gesetz galt als eines der bedeutendsten Regulierungsprojekte im Bereich Künstliche Intelligenz in den USA, insbesondere aufgrund der zentralen Stellung Kaliforniens im Technologie-Ökosystem und des Fehlens bundesstaatlicher Gesetze für KI. SB 1047 sorgte in den letzten Wochen für heftige Debatten innerhalb der KI-Branche und stieß auf erheblichen Widerstand von einigen Technologieführern und prominenten Demokraten.
Newsom erklärte in einer Stellungnahme: „Obwohl gut gemeint, berücksichtigt SB 1047 nicht, ob ein KI-System in risikoreichen Umgebungen eingesetzt wird, kritische Entscheidungen trifft oder sensible Daten verwendet.“ Das Gesetz würde strenge Standards selbst für die grundlegendsten Funktionen fordern, solange ein großes System es einsetzt.
In einem Brief zur Erläuterung seines Vetos schrieb Newsom, dass er mit den Befürwortern des Gesetzes darin übereinstimmt, dass „wir nicht auf eine große Katastrophe warten können, bevor wir Maßnahmen zum Schutz der Öffentlichkeit ergreifen“, betonte jedoch, dass jede Regulierung „auf empirischen Beweisen und Wissenschaft basieren muss“.
SB 1047 hätte von Unternehmen verlangt, „angemessene Sorgfalt“ walten zu lassen, um sicherzustellen, dass ihre Technologien keinen „schweren Schaden“ verursachen, wie Massenopfer oder Sachschäden über 500 Millionen Dollar. Das Gesetz, eingebracht von Senator Scott Wiener, hätte Firmen dazu verpflichtet, Sicherheitsmaßnahmen wie einen Ausschalter zu implementieren und ihre Modelle Dritten zur Prüfung vorzulegen.
Das Gesetz hätte auch Whistleblower-Schutz für Mitarbeiter vorgesehen, die Sicherheitsbedenken teilen möchten. Unternehmen, die gegen das Gesetz verstoßen, hätten von Kaliforniens Generalstaatsanwalt verklagt werden können.
Die Unterstützer argumentierten, SB 1047 würde vernünftige rechtliche Standards schaffen, um KI-Unternehmen zur Rechenschaft zu ziehen. Kritiker hingegen, einschließlich OpenAI, Y Combinator und Andreessen Horowitz, warnten, das Gesetz könnte Innovation behindern und möglicherweise KI-Firmen aus Kalifornien vertreiben.
Einige Politiker, darunter Nancy Pelosi und London Breed, äußerten Bedenken, dass das Gesetz Kaliforniens Führungsrolle in der KI-Entwicklung gefährden könnte.
Newsom kündigte an, eine Analyse zu Risiken und Fähigkeiten führender KI-Modelle durch mehrere Akademiker, darunter Fei-Fei Li, durchführen zu lassen.