Die Europäische Union hat einen bedeutenden Schritt zur Regulierung von Künstlicher Intelligenz (KI) unternommen. Das neue KI-Gesetz, auch bekannt als AI Act, verbietet ab sofort den Einsatz von KI-Programmen, die Menschen auf Basis ihres sozialen Verhaltens kategorisieren. Solche Programme könnten ansonsten dazu genutzt werden, Personen in Gruppen einzuordnen, um sie zu belohnen oder zu sanktionieren.
Ein weiterer zentraler Aspekt des Gesetzes ist das weitgehende Verbot der Gesichtserkennung im öffentlichen Raum, beispielsweise durch Überwachungskameras an öffentlichen Plätzen. Dennoch gibt es Ausnahmeregelungen: Sicherheitsbehörden wie die Polizei dürfen diese Technologie einsetzen, um schwerwiegende Straftaten wie Menschenhandel und Terrorismus zu bekämpfen.
Unternehmen, die KI-Systeme entwickeln oder einsetzen, stehen vor der Aufgabe, bis zum 2. Februar 2025 ihre Technologien nach einem Risikofaktor zu bewerten. Die EU fordert, dass angemessene Maßnahmen ergriffen werden, um die rechtlichen Anforderungen zu erfüllen. Die Kommission hat klargestellt, dass diese Verordnung nicht nur den Schutz der Verbraucherinnen und Verbraucher sicherstellen soll, sondern auch den verantwortungsvollen Umgang mit KI-Systemen fördern möchte.