Der Technologie-Riese Meta hat erneut für Aufsehen gesorgt, indem er eine Reihe neuer KI-Modelle aus seiner Forschungsabteilung vorgestellt hat. Besondere Aufmerksamkeit erregte dabei der "Self-Taught Evaluator", ein Modell, das potenziell den Entwicklungsprozess von KI-Anwendungen effektiver gestalten könnte, indem es menschlichen Einfluss minimiert.
Die Veröffentlichung folgt auf eine ausführliche Vorstellung des Tools in einem im August veröffentlichten Papier. Darin wird erläutert, wie das Modell ähnlich wie die kürzlich von OpenAI vorgestellten o1-Modelle durch den Einsatz der "Chain of Thought"-Technik zu fundierten Entscheidungen hinsichtlich der Modellantworten kommt. Diese Technik zerlegt komplexe Problemstellungen in kleinere, logisch nachvollziehbare Schritte, wodurch die Genauigkeit der Antworten bei schwierigen Fragestellungen in Bereichen wie Wissenschaft, Programmierung und Mathematik verbessert wird.
Interessanterweise wurde der Evaluator von Meta ausschließlich mit KI-generierten Daten trainiert, was den menschlichen Einfluss in dieser Phase gänzlich ausschließt. Diese Fähigkeit, KI zuverlässig durch KI zu evaluieren, eröffnet Möglichkeiten für die Entwicklung von autonomen KI-Agenten, die aus ihren eigenen Fehlern lernen können. Solche selbstverbessernden Modelle könnten den derzeit gängigen, oft teuren und ineffizienten Prozess der Verstärkungslerntechniken, die menschliches Feedback erfordern, ersetzen.
Ein ambitioniertes Ziel sei es laut eines Meta-Forschers, dass KI in Zukunft besser als der Durchschnittsmensch darin werden könnte, ihre eigenen Ergebnisse zu überprüfen und zu verbessern. Die Selbstbefähigung und Fähigkeit zur Selbstevaluation seien essenziell für die Evolution hin zu einer übermenschlichen Stufe der KI.
Anders als Meta verzichten andere Unternehmen wie Google und Anthropic darauf, ihre Modelle der Öffentlichkeit zugänglich zu machen, obwohl sie ebenfalls an ähnlichen Konzepten wie Reinforcement Learning from AI Feedback arbeiten. Neben dem "Self-Taught Evaluator" hat Meta auch ein Update seines Segmentierungsmodells zur Bildidentifikation sowie Werkzeuge zur Beschleunigung der LLM-Antwortzeiten und Datensätze zur Entdeckung neuer anorganischer Materialien veröffentlicht.