Künstliche Intelligenz zeigt nicht immer ihre smarteste Seite. Die Zunahme von Halluzinationen in transkribierenden Tools veranlasst Experten und ehemalige OpenAI-Mitarbeiter, die Bundesregierung zur Einführung von KI-Regulierungen zu drängen. OpenAI müsse das Problem dringend angehen, betonte William Saunders, ein ehemaliger Ingenieur, der über die Ausrichtung des Unternehmens besorgt ist. Verbreitete Überzeugungen über die Fähigkeiten von KI-Systemen könnten irreführend sein und in komplexeren Anwendungen zu Problemen führen.
Ein Sprecher von OpenAI erklärte, dass die Reduzierung von Halluzinationen ein kontinuierlicher Forschungsbereich der Firma sei und die Rückmeldungen von Forschern in die Modellaktualisierungen einflössen. Besonders im Fokus steht das Transkriptionstool Whisper, das in Plattformen wie Oracle und Microsoft integriert ist. Obwohl Entwicklern bewusst ist, dass solche Tools gelegentlich Fehler machen, überraschte Whisper durch seine Neigung zu Halluzinationen.
In einer Studie von Professorinnen Allison Koenecke und Mona Sloane erstellte Whisper unter anderem transkribierte Inhalte, die in ihrem ursprünglichen Kontext bedenklich und verfälscht waren. Die Halluzinationen traten häufig in Verbindung mit Hintergrundgeräuschen auf, was Entwickler vor Herausforderungen stellt.
Trotz dieser Probleme kommt Whisper in diversen medizinischen Einrichtungen zum Einsatz. Im Gesundheitssektor nutzen über 30.000 Fachkräfte Whisper-Tools, um die Dokumentation von Arztgesprächen effizienter zu gestalten. Allerdings kamen Bedenken auf, dass das Löschen von Originalaufnahmen, wie bei Nabla, die Verifizierung von Transkripten erschwert.
Datenschutzbedenken verstärken den Druck auf den Einsatz von solcher KI. Lokale Gesetzgeber wie Rebecca Bauer-Kahan widersetzen sich der Weitergabe medizinischer Gespräche an Technologiekonzerne. Nach Ansicht von OpenAI und beteiligten Gesundheitsdienstleistern besteht ein klarer Bedarf, die Balance zwischen technologischer Innovation und Datenschutz zu wahren.