Wegweisende KI-Regulierung sorgt für Spannungen unter Innovatoren

Kaliforniens Pionierarbeit im Bereich der Künstlichen Intelligenz (KI) steht mit dem KI-Sicherheitsgesetz SB 1047 kurz vor einem entscheidenden Schritt. Der Gesetzesentwurf sieht vor, dass Entwickler, die mehr als 100 Millionen Dollar in die Entwicklung eines KI-Modells investieren, strengere Sicherheitsvorgaben einhalten müssen. Dazu zählen Sicherheitsprüfungen, die Implementierung von Schutzmaßnahmen und die Möglichkeit für den Generalstaatsanwalt des Bundesstaates, bei schweren Schäden rechtlich gegen die Entwickler vorzugehen. Eine zentrale Forderung des Gesetzentwurfs ist die Zustimmung zu Drittanbieter-Audits sowie die Einführung eines "Kill-Switch", der die Technologie jederzeit abschalten kann. Whistleblower sollen ebenfalls durch das Gesetz geschützt werden. Senator Scott Wiener, Mitverfasser des Gesetzes und Vertreter von San Francisco, wirft den Gegnern des Gesetzes Panikmache vor. Wiener betonte die Wichtigkeit der verpflichtenden Sicherheitsbewertungen durch große Labors, welche bislang nur auf freiwilliger Basis durchgeführt wurden. Der Entwurf hat den Senat des Bundesstaates bereits passiert und wird voraussichtlich noch diese Woche im Abgeordnetenhaus zur Abstimmung stehen, bevor er aufgrund mehrfacher Änderungen zu einer endgültigen Abstimmung in den Senat zurückkehrt. Sollte er verabschiedet werden, geht er zur Unterschrift an Gouverneur Gavin Newsom. Newsom selbst hat sich bisher nicht eindeutig positioniert. Wiener zeigte sich zuversichtlich: „Wir arbeiten sehr hart daran, meine Kollegen im Abgeordnetenhaus von der Unterstützung dieses Gesetzes zu überzeugen. Der Gouverneur hat bereits Äußerungen gemacht, die meine eigenen Überlegungen unterstützen: dass Regulierung hier angemessen sein könnte und wir Innovation fördern wollen.“ Letzte Woche äußerte das Unternehmen Anthropic in einem offenen Brief an Gouverneur Newsom vorsichtige Unterstützung für den geänderten Entwurf. Die Firma hält die überarbeiteten Regelungen für eine Verbesserung, die die Kosten rechtfertigen könnte. Die endgültige Version des Gesetzes verzichtet auf eine "Frontier Model Division", die ursprünglich zur Überwachung innovativer Modelle vorgesehen war, und auf strafrechtliche Betrugsvorwürfe bei Falschangaben, wobei bestehende Gesetze zur Anwendung kommen sollen. Jason Kwon von OpenAI betonte in einem Schreiben an Wiener, dass KI-Regelungen besser auf Bundesebene einheitlich festgelegt werden sollten, um Innovation zu fördern und globale Standards zu setzen. Jedoch zeigten sich zwei ehemalige OpenAI-Forscher enttäuscht über die ablehnende Haltung ihres ehemaligen Arbeitgebers gegenüber SB 1047 und forderten mehr Engagement für die Regulierung. Zusätzliche Kritik kommt von prominenten Branchengrößen wie Dr. Fei-Fei Li und weiteren kalifornischen Abgeordneten, die Nachteile für das Innovationsökosystem befürchten. Wiener äußerte sich offen für eine Bundesregelung: „Der Kongress ist bei Technologiepolitik bisher völlig gelähmt. Es gibt gute Kräfte im Kongress, die daran arbeiten, aber die Institution als Ganzes hat bisher nicht die notwendigen Schritte unternommen.“ Kalifornien hat bislang 50 Gesetzentwürfe für die Regulierung von KI auf den Weg gebracht und könnte mit SB 1047 die erste wirkliche KI-Regulierung in den USA einführen.