Die kompetenten Stimmen der Leopoldina appellieren, die Fähigkeiten und Grenzen Künstlicher Intelligenz (KI) mit einem sachlichen Blick zu betrachten. In einem frisch veröffentlichten Diskussionspapier mahnt die Nationale Akademie der Wissenschaften vor den vielseitigen „Täuschungspotenzialen“ der generativen KI. Nutzer könnten sich leicht täuschen lassen, indem sie der KI menschliche Qualitäten zuschreiben, selbst wenn ihnen nicht immer bewusst ist, dass sie mit einer Maschine kommunizieren. Diese Illusionen werden besonders problematisch, wenn es um den Einsatz in Propaganda oder kriminellen Aktivitäten geht.
Das Diskussionspapier der Leopoldina hebt somit hervor, dass dort, wo Transparenz unerlässlich ist – beispielsweise im juristischen Bereich –, ein besonders vorsichtiger Umgang mit KI-Technologien notwendig ist. Während Künstliche Intelligenz den Alltag erheblich erleichtern kann, birgt sie zugleich Risiken wie Deep Fakes, die durch ihre Fähigkeit zur schnellen Generierung von Inhalten wie Texten, Bildern und Videos entstehen.
Zusätzlich weist die Leopoldina auf die Tatsache hin, dass jede KI maßgeblich von ihren Trainingsdaten und den ursprünglichen Entwicklungszielen geprägt ist. Diese Aspekte entziehen sich häufig der Kontrolle durch etablierte Institutionen und Normen. Obwohl Ansätze existieren, um der Intransparenz und einseitigen Tendenzen der KI entgegenzuwirken, warnen die Autoren vor übermäßigen Erwartungen. Mit der Veröffentlichung „Generative KI – jenseits von Euphorie und einfachen Lösungen“ zielt die Leopoldina darauf ab, die Aufmerksamkeit auf einen ausgewogenen Umgang mit den Chancen und Herausforderungen der KI-Entwicklung zu lenken.