Die chinesische KI-Anwendung DeepSeek steht im Kreuzfeuer der Kritik von Cybersicherheitsexperten und Behörden. Einflussreiche Sicherheitsbedenken betreffen nicht nur die umfangreiche Speicherung von Nutzerdaten, sondern auch die potenzielle Manipulierbarkeit der App zu kriminellen Zwecken. Zudem stellt sich die Frage nach dem Zugriff des chinesischen Spionage- und Überwachungsapparats auf die gesammelten Daten. Trotz dieser Risikofaktoren erfreut sich die Anwendung hoher Beliebtheit in deutschen App-Stores.
Ein zentraler Kritikpunkt liegt in der Erfassung und Speicherung sogenannter Tastatureingabemuster. Laut Informationen des Bundesamts für Sicherheit in der Informationstechnik (BSI) können diese Muster dazu verwendet werden, Nutzungsprofile zu erstellen. Im Unterschied zu einem klassischen Keylogger zeichnet DeepSeek nicht jede einzelne Eingabe auf, sondern analysiert die Art und Weise, wie Nutzer tippen.
Ein Forschungsbericht von Palo Alto Networks fand heraus, dass DeepSeek leicht zu kriminellen Aktivitäten manipuliert werden kann. Die Sicherheitsfachleute demonstrierten, wie die Anwendung durch gezielte Prompts Skripte zur Datenextraktion aus Mails und Dokumenten erzeugen konnte. Dabei fehlen DeepSeek wesentliche Sicherheitsvorkehrungen, die andere KI-Modelle schützen.
Zudem unterliegt DeepSeek dem chinesischen Gesetz, das zur Speicherung aller Daten in China verpflichtet – ein Aspekt, der Raum für die Interpretation als mögliches Spionageinstrument lässt. In Deutschland bereiten Datenschutzbehörden, unter anderem in Rheinland-Pfalz, Prüfverfahren gegen DeepSeek vor. Hier wird bemängelt, dass die KI keinen gesetzlichen Vertreter innerhalb der EU benannt hat, was einen Verstoß gegen die Datenschutz-Grundverordnung darstellt.
Um sich vor Cyberangriffen zu schützen, haben deutsche Ministerien und große Unternehmen umfassende Maßnahmen ergriffen. Das Bundesinnenministerium etwa hat die Nutzung externer Cloud-Dienste verboten, während das Finanzministerium die Verwendung textgenerativer KI zu dienstlichen Zwecken einschränkt. Große Unternehmen wie die Wacker Chemie und Siemens setzen ebenfalls auf strenge Sicherheitsprotokolle.