Cerence und NVIDIA: Neue Maßstäbe für Sprachmodelle im Auto

Cerence hat die Zusammenarbeit mit NVIDIA erweitert, um die Fähigkeiten seiner Sprachmodell-Familie CaLLM weiterzuentwickeln. Diese Partnerschaft fokussiert sich sowohl auf das cloud-basierte Cerence Automotive Large Language Model als auch auf das eingebettete kleine Sprachmodell CaLLM Edge. Grundlegende Aspekte dieser Modelle werden durch die NVIDIA AI Enterprise Plattform und NVIDIA DRIVE AGX Orin unterstützt. Für die anspruchsvolle Integration von agentischen Frameworks in Fahrzeuggesprächen erfordert es ein ganzheitliches Zusammenspiel aus Hardware, Software und Benutzererfahrung. Gemeinsam mit den Ingenieuren von NVIDIA hat Cerence AI seine Kapazitäten verbessert, um Produktionsziele zu erreichen und generative KI-Innovationen für den Automobilbereich produktiv zu machen. Kern dieser Entwicklung ist die Nutzung der NVIDIA AI Enterprise Softwareplattform, einschließlich NVIDIA TensorRT-LLM und NVIDIA NeMo. Durch die optimierte Nutzung der NVIDIA-Technologie hat Cerence seine Sprachmodelle so angepasst, dass sie schnellere Leistung auf NVIDIA-beschleunigten Recheneinheiten erbringen. Gleichzeitig wurde eine automotive-optimierte Version von NVIDIA NeMo Guardrails entwickelt, die den sicheren Umgang mit den Besonderheiten von Fahrzeuginteraktionen sicherstellt. Die Einbindung einer agentischen Architektur auf CaLLM Edge mittels NVIDIA DRIVE AGX Orin treibt zudem die nächste Generation von Fahrzeuginnenraumerfahrungen voran.