LiberAI hat Liber-0 vorgestellt, ein World-Action-Modell, das menschliche Manipulationserfahrung auf Roboter übertragen soll. Das in Peking ansässige Startup erklärt, das Modell sei mit mehr als 2,2 Millionen Stunden menschlicher Erfahrung vortrainiert worden. Dafür wurden Videos, mit Handschuhen aufgezeichnete Handbewegungen und Lernverfahren kombiniert, die Unterschiede zwischen menschlichen und robotischen Körpern berücksichtigen.
LiberAI testete Liber-0 mit 60 von GPT-6 vorgeschlagenen Aufgaben aus den Bereichen Aufnehmen und Platzieren, sonstige Manipulationen und anspruchsvollere mehrstufige Tätigkeiten. Bei 600 Versuchen erzielte das Modell eine Gesamterfolgsquote von 36 Prozent. Die Erfolgsquoten lagen bei 63,5 Prozent für Aufgaben zum Aufnehmen und Platzieren, bei 34,0 Prozent für sonstige Manipulationsaufgaben und bei 10,5 Prozent für die anspruchsvollen Aufgaben.
Die Bewertung wurde als Zero-Shot beschrieben, da der Checkpoint nicht mit Roboterdemonstrationen trainiert worden war, die eigens für die Zielaufgaben gesammelt wurden. Das Vortraining umfasste jedoch Roboterdaten. Zu den Beispielen im Testsatz gehörten, einen Stift in ein Federmäppchen zu legen, eine Schublade zu schließen und einen Stift in ein Etui zu legen, bevor dieses in einer Schublade verstaut wurde.
LiberAI zufolge lernt das Modell aus gewöhnlichen Videos, indem es neben Aktionen auch zukünftige Einzelbilder vorhersagt. Außerdem nutzt es Handschuh- und Roboteraufzeichnungen mit gemessenen Bewegungen. Das LiberSense-Glove-System erfasst Handbewegungen, und eine Repräsentation der Verkörperung vermittelt dem Modell Informationen über Körperform und Gelenkbewegungen, damit es Aktionen an unterschiedliche Plattformen anpassen kann.
In einem separaten Experiment deckten Roboterdemonstrationen Aufgaben zum Aufnehmen und Platzieren ab, während Handschuhaufzeichnungen Aktionen wie Falten, Drücken und Öffnen hinzufügten. Der Fortschrittswert für Aufgaben ohne Aufnehmen und Platzieren stieg von 2,2 mit ausschließlich Roboterdaten auf 47,5, nachdem Handschuhdaten hinzugefügt worden waren, und auf 54,6, wenn der Handschuhdatensatz zusätzlich Aufgaben zum Aufnehmen und Platzieren enthielt. Eine mit Roboterdemonstrationen für jede Aktion trainierte Policy erzielte 56,3. Diese Ergebnisse stammen aus einer separaten Bewertung, nicht aus dem Test mit 60 Aufgaben.
In einem weiteren Experiment wurde untersucht, ob Handschuhaufzeichnungen den benötigten Umfang an Roboterdaten verringern könnten. Bei einer Bewertung mit acht Aufgaben erzielte eine Policy, die 25 Prozent des Pools an Roboterdemonstrationen und den gesamten Handschuhdatenpool nutzte, einen Fortschrittswert von 75,6. Eine Policy, die den vollständigen Roboterdatenpool verwendete, kam auf 72,8. In diesem Versuchsaufbau nutzte die gemischte Policy 75 Prozent weniger Roboterdemonstrationen, während sie weiterhin den vollständigen Handschuhdatensatz verwendete.
LiberAI berichtete außerdem, dass sein vortrainierter Checkpoint bei internen Benchmarks Fortschrittswerte von 81,4 für Aufgaben zum Aufnehmen und Platzieren sowie 72,3 für sonstige Manipulationsaufgaben erzielte. Durch das nachträgliche Training mit Roboterdaten stiegen diese Werte auf 83,6 beziehungsweise 73,8.
Das Unternehmen erklärte, das Handschuhsystem zeichne derzeit Handposen und Bewegungsbahnen auf, jedoch weder Kontakt noch Kraft. Als künftige Forschungsrichtungen nannte es taktile Sensorik und Kraftmessung sowie die Datenerhebung in einer größeren Vielfalt von Haushalten.
Quellen: The Robot Report.