Kaliforniens Gouverneur Gavin Newsom hat ein richtungsweisendes Gesetz abgelehnt, das die bislang strengste Regulierung von künstlicher Intelligenz (KI) in den USA vorsah. Der „Safe and Secure Innovation for Frontier Artificial Intelligence Models Act“ hätte Unternehmen, die über 100 Millionen US-Dollar in das Training von KI-Modellen investieren, verpflichtende Sicherheitsmaßnahmen auferlegt, um unter anderem Massenkollisionen zu verhindern und eine „Kill-Switch“-Funktion zu implementieren, die ein bösartiges Modell vollständig deaktivieren kann.
Newsom begründete sein Veto damit, dass der Gesetzesentwurf SB 1047 zwar „wohlmeinend“ sei, jedoch keine Berücksichtigung finde, ob ein KI-System in risikobehafteten Umgebungen eingesetzt wird oder sensible Entscheidungen trifft. Demnach würden selbst grundlegende Funktionen strikt reguliert, sofern ein großes System sie nutze. „Ich glaube nicht, dass dies der beste Ansatz ist, um die Öffentlichkeit vor den realen Bedrohungen der Technologie zu schützen“, erklärte der Gouverneur.
Im Zuge seines Vetos gab Newsom bekannt, dass er mit führenden Experten, darunter „die Patin der KI“ Fei-Fei Li, zusammenarbeitet, um Leitplanken für den Einsatz generativer KI zu setzen. Zudem wies er staatliche Behörden an, ihre Risikobewertung in Bezug auf die Technologie auszubauen.
Die Regulierung von KI hat in und außerhalb des Silicon Valley zu hitzigen Debatten geführt. Unternehmen wie OpenAI, Google und Meta sprachen sich öffentlich gegen das Gesetz aus, während Anthropic unter Bedingungen vorsichtige Unterstützung signalisierte. Ungeachtet der Opposition von Big Tech hatten über 100 aktuelle und ehemalige Mitarbeiter von Google, Meta, OpenAI und Anthropic Newsom gedrängt, das Gesetz zu unterzeichnen, und vor den potenziellen schweren Risiken leistungsstarker KI-Modelle gewarnt.
Mehr als 125 Schauspieler, Regisseure und Führungskräfte aus dem Unterhaltungsektor hatten ebenfalls an Newsom appelliert, das Gesetz zu unterzeichnen, und erklärten: „Wir glauben fest an das blendende Potenzial von KI, Gutes zu bewirken. Aber wir müssen auch realistisch über die Risiken sein.“
Der Gesetzesentwurf SB 1047 balancierte den Bedarf, Innovation in der sich rasant verändernden Branche zu fördern, mit der Notwendigkeit, die verantwortungsvolle Nutzung der Technologien zu gewährleisten. Bei der Dreamforce-Konferenz diskutierte Newsom seine Bedenken hinsichtlich SB 1047 mit Salesforce-CEO Marc Benioff und betonte, wie wichtig es sei, die Wettbewerbsfähigkeit Kaliforniens zu bewahren.
Prominente Befürworter des Gesetzes sind unter anderem der Milliardär und CEO von xAI, Elon Musk, sowie die „Godfathers of AI“, Yoshua Bengio und Geoffrey Hinton. Der Hauptautor des Gesetzes, Senator Scott Wiener, nannte es einen vernünftigen Rahmen für eine unterregulierte Technologie und betonte die Notwendigkeit eines starken bundeseinheitlichen Gesetzes.
Newsom äußerte seine Unterstützung für den Schutz der Öffentlichkeit vor realen Gefahren, wies jedoch darauf hin, dass jede Rahmenregelung mit der Technologie Schritt halten müsse. Während SB 1047 darauf abzielte, die langfristigen Risiken fortschrittlicher Modelle zu adressieren, hatte Newsom im letzten Monat 17 weitere KI-bezogene Gesetze unterzeichnet, die sich auf unmittelbare Gefahren wie Deepfake-Wahlinhalte und die Regulierung sexuell expliziter Inhalte durch KI konzentrieren.
Präsident Joe Biden betonte in seiner Rede vor der Generalversammlung der Vereinten Nationen die Notwendigkeit globaler Standards zum Schutz des menschlichen Lebens vor den Risiken der KI und nannte dies eine entscheidende Herausforderung für die zukünftige Führung.