In einem wegweisenden Schritt hat die Europäische Union neue, umfangreiche Regelungen für den Einsatz von Künstlicher Intelligenz (KI) eingeführt. Diese Vorschriften, die durch das sogenannte KI-Gesetz (AI Act) der EU definiert werden, verbieten den Einsatz von KI-Programmen, die Menschen anhand ihres sozialen Verhaltens bewerten und kategorisieren können. Derartige Anwendungen, die das Potenzial haben, Personen in Belohnungs- oder Bestrafungskategorien einzuordnen, sind künftig nicht mehr erlaubt.
Ein weiterer zentraler Punkt der neuen Regelungen betrifft die Nutzung von Gesichtserkennungstechnologien im öffentlichen Raum. Grundsätzlich untersagt, gibt es dennoch Ausnahmen für Polizei und Sicherheitsbehörden, die diese Technologie bei der Verfolgung schwerer Straftaten wie Menschenhandel und Terrorismus einsetzen dürfen. Diese Ausnahme verdeutlicht den Balanceakt zwischen Datenschutz und öffentlicher Sicherheit, den die EU hier vollzieht.
Unternehmen, die Künstliche Intelligenz entwickeln oder anwenden, sind angehalten, ihre Systeme bis zum Stichtag 2. Februar 2025 nach ihrem Risikopotenzial zu bewerten und die entsprechenden Maßnahmen zur Einhaltung der gesetzlichen Standards umzusetzen. Die EU-Kommission betont, dass es bei dieser Verordnung nicht nur um den Schutz der Verbraucherrechte geht. Vielmehr wird auch der verantwortungsvolle Umgang mit KI-Technologien in den Vordergrund gestellt.