Die Implementierung von Künstlicher Intelligenz (KI) in Unternehmen bietet Chancen und Risiken gleichermaßen. Während die gezielte Nutzung von KI-Softwaresystemen enorme Produktivitätsgewinne verspricht, kann eine falsche Implementierung sowohl Unternehmen als auch deren Kunden erheblichen Gefahren aussetzen. An dieser Stelle treten neue 'Sicherheit für KI'-Startups auf den Plan, die sich den komplexen Bedrohungen wie Jailbreak und Prompt Injection annehmen.
Ein solches Unternehmen ist das britische Spin-off der Hochschule Mindgard, das sich neben israelischen und US-amerikanischen Wettbewerbern wie Noma, Hidden Layer, und Protect AI in diesem Bereich positioniert. Laut Professor Peter Garraghan, CEO und CTO von Mindgard, erfordern die undurchschaubaren und zufällig agierenden Eigenschaften von neuronalen Netzwerken einen innovativen Sicherheitsansatz.
Mindgard hat hierfür das 'Dynamic Application Security Testing for AI' (DAST-AI) entwickelt, ein Verfahren zur Erkennung von Sicherheitslücken während der Laufzeit. Diese Methode beinhaltet automatisierte Simulationen von Angriffen anhand einer detaillierten Bedrohungsbibliothek. So kann die Widerstandsfähigkeit von Bilderkennungssystemen gegen feindliche Eingaben getestet werden.
Garraghans umfassende Erfahrungswerte aus Forschung und Lehre im Bereich AI-Sicherheit haben maßgeblich zur Entwicklung der Mindgard-Technologie beigetragen. Während sich Technologien wie LLMs kontinuierlich weiterentwickeln, bleibt Mindgard durch seine enge Bindung an die Universität Lancaster am Puls der Zeit. Mit Zugriff auf die Forschungsergebnisse von 18 weiteren Doktoranden sichert sich Mindgard wertvolle Impulse für die kommenden Jahre.
Auch wenn Mindgard an die Forschung gebunden ist, stellt es bereits eine marktfähige SaaS-Lösung dar. Geleitet von Mitgründer Steve Street als COO, richtet sich die Plattform sowohl an Unternehmen als auch an KI-Startups, die ihren Kunden ein hohes Maß an Sicherheit garantieren möchten.
Um seine Präsenz in den USA zu stärken, hat Mindgard im Jahr 2023 eine Seed-Runde von 3 Millionen Pfund abgeschlossen und nun eine weitere Finanzierungsrunde in Höhe von 8 Millionen US-Dollar unter der Führung von Boston-basierten .406 Ventures abgeschlossen. Auch Atlantic Bridge, WillowTree Investments sowie die bestehenden Investoren IQ Capital und Lakestar beteiligen sich.