Kaliforniens Gouverneur Gavin Newsom hat eines der umfassendsten Gesetzesvorhaben zur Sicherheit von Künstlicher Intelligenz (KI) in den USA mit einem Veto zurückgewiesen.
Das Gesetz, das zu den ersten zählen würde, die KI-Entwickler für schwere Schäden verantwortlich machen, stieß auf heftige Kritik von führenden Demokraten und wichtigen Technologieunternehmen. Darunter waren ChatGPT-Entwickler OpenAI und die Risikokapitalfirma Andreessen Horowitz, die warnten, dass dies die Innovation im Staat hemmen könnte.
Obwohl Newsom das Gesetz als 'gut gemeint' bezeichnete, vertrat er die Ansicht, dass es 'strenge Standards selbst für die einfachsten Funktionen' festgelegt hätte. Regulierung sollte auf 'empirischen Beweisen und wissenschaftlichen Erkenntnissen' basieren, so Newsom, und verwies auf seine eigenen Verordnungen und Gesetzesunterschriften, die bekannte Risiken wie Deepfakes adressieren.
Die Diskussion um das kalifornische SB 1047-Gesetz verdeutlicht die weltweite Herausforderung, KI-Risiken zu kontrollieren und gleichzeitig die Weiterentwicklung der Technologie zu fördern. Bisher haben US-amerikanische Politiker noch kein umfassendes Gesetz zu dieser Technologie verabschiedet, obwohl der globale Boom der generativen KI vor zwei Jahren durch die Veröffentlichung von ChatGPT ausgelöst wurde.
Demokratischer Senator Scott Wiener, der das Gesetz einbrachte, bezeichnete Newsoms Veto als 'Rückschlag für alle, die an eine Aufsicht über große Konzerne glauben.' In einer Erklärung auf X sagte Wiener, 'wir sind alle unsicherer als Ergebnis.'
Das Gesetz hätte von KI-Entwicklern verlangt, angemessene Vorsichtsmaßnahmen zu treffen, um sicherzustellen, dass die Technologien keinen 'schweren Schaden' wie Massenopfer oder Sachschäden über 500 Millionen US-Dollar verursachen. Unternehmen hätten spezifische Vorkehrungen treffen müssen, darunter das Vorhalten eines Not-Aus-Schalters. Zudem wären unabhängige Tests erforderlich gewesen, um gravierende Risiken zu minimieren.
Das Gesetz hätte auch Whistleblower-Schutz für Mitarbeiter von KI-Firmen geschaffen. Unternehmen, die dem Gesetz nicht nachkamen, hätten durch den kalifornischen Generalstaatsanwalt verklagt werden können.
Befürworter argumentierten, das Gesetz hätte vernünftige rechtliche Standards gesetzt. Investoren und Unternehmen wie OpenAI warnten jedoch, es könnte die Innovation verlangsamen und die Abwanderung von KI-Firmen aus Kalifornien fördern. Jason Kwon von OpenAI betonte in einem Brief, dass SB 1047 das Wachstum bedrohen und die Abwanderung von erstklassigen Ingenieuren und Unternehmern fördern könne.
Auch Politiker wie Nancy Pelosi, Ro Khanna und San Franciscos Bürgermeisterin London Breed äußerten Bedenken, dass das Gesetz Kaliforniens Führungsposition in der KI-Entwicklung gefährden könnte. Newsom äußerte kürzlich, dass das Gesetz eine 'abschreckende Wirkung' auf die KI-Entwicklung haben könnte.
Elon Musk und das sicherheitsorientierte Unternehmen Anthropic unterstützten das Gesetz teilweise, wenn auch mit Vorbehalten. Wiener hob hervor, dass die Bestimmungen des Gesetzes vor allem große Unternehmen betreffen, die über 100 Millionen US-Dollar für das Training großer Modelle ausgeben.
Newsom kündigte an, sich mit externen Experten wie KI-Forscherin und Unternehmerin Fei-Fei Li zu beraten, um gangbare Leitplanken für die Technologie zu entwickeln und weiter mit der Staatslegislative zusammenzuarbeiten. Zusätzlich unterzeichnete der Gouverneur am Sonntag ein weiteres Gesetz zur Regulierung der Verwendung von KI durch staatliche Behörden.