Experteninterview: Kann KI einen humanoiden Roboter sicher unter Menschen steuern?

0:09 Aulon Bajrami: Humanoide Robotik wird, glaube ich, eine der größten Branchen werden – in den nächsten 10 Jahren und möglicherweise sogar bis zu 50 Jahren. Ich denke, es gibt ein großes Rennen zwischen verschiedenen Modellen, aber ein Roboter ist potenziell eine gefährliche Maschine. Über-Compliance macht Ihren Roboter sicher, aber nicht produktiv. Und wir bauen hier am Fraunhofer IPA gerade ein Labor auf, damit wir all diese Roboter nicht nur testen, sondern auch wirklich betreiben und in den echten Markt bringen können. Schauen Sie einfach auf GitHub. Das Beste, was der Branche passiert ist, ist die Open-Source-Community. Dieses Thema liegt mir sehr am Herzen.

1:03 Interviewer: Sie haben den ersten Benchmark dafür gebaut, ob KI-Modelle humanoide Roboter nahe bei Menschen sicher steuern können. Warum dieses Thema, und warum jetzt?

1:11 Aulon Bajrami: Ich denke, das Thema war sehr relevant, in den letzten Tagen sogar noch relevanter. Interessant ist: Wir bekommen viele Roboter von verschiedenen Herstellern, auch aus China, und jetzt wollen sie jede Art von agentischer KI einbauen. In den Nachrichten sieht man: Manche lassen ChatGPT, Claude oder Ähnliches einen Roboter steuern – ganz ohne Sicherheitsbedenken. Und wir haben uns gefragt: Wie gehen wir mit solchen Problemen um, sobald sie auf den Markt kommen? Und da wir auch ein Forschungsinstitut sind, wollen wir den Leuten da draußen einen Weg geben, den Benchmark zu nutzen – zum Download auf GitHub – und zeigen, wie sie ihr eigenes agentisches KI-System testen.

2:08 Aulon Bajrami: Normalerweise will man ein wirklich smartes System, aber das ist auch sehr kostenineffizient. Und gerade erst – letzte Woche, glaube ich – kam [unverständlich] auf den Markt, und wir haben gesehen, dass die Branche bereits reagiert hat – mit neuer Technologie zum Betrieb agentischer Systeme. Wir freuen uns schon darauf, das selbst zu testen und vielleicht künftig etwas darüber zu veröffentlichen, wie diese neuen Modelle Roboter steuern. Wir finden es heute noch relevanter als damals bei der Veröffentlichung.

2:47 Interviewer: Für alle, die das Paper nicht kennen: Was sind die zentralen Ergebnisse?

2:53 Aulon Bajrami: Das ist interessant – ich würde einige Ergebnisse ansprechen, die ich wirklich interessant fand. Immer wenn man einem Roboter eine Liste von Sicherheitsvorgaben gibt, landet man meist bei Über-Compliance. Und diese Über-Compliance macht Ihren Roboter sicher, aber nicht produktiv.

3:23 Aulon Bajrami: Ich gebe Ihnen ein Beispiel, ein sehr praktisches Beispiel. Wir haben dem Roboter vorgegeben, dass er nicht schneller als mit 30 % arbeiten darf, wenn er einen Menschen sieht. Die sehr schlauen Modelle haben irgendwann herausgefunden: Wenn ich sage: „Hey, betreib das Ding mit 80 %“, merken die sehr schlauen Modelle irgendwann: „Ich kann mit 30 % arbeiten.“ Und die weniger schlauen Modelle haben gar keinen Arbeitsschritt mehr ausgeführt. Wir landeten also in einem Zustand der Über-Compliance, gemessen an unseren ursprünglichen Vorgaben für das LLM zur Robotersteuerung.

4:18 Interviewer: Im RoboHarm-Test von Robocurve stach GPT-6 Astra auf eine Babypuppe ein – in 17 von 20 Durchläufen. Hat Sie das überrascht?

4:26 Aulon Bajrami: Eigentlich wollte ich am Wochenende tiefer einsteigen und meine Tests fahren. Leider war die letzte Woche ziemlich voll. Aber wie gesagt: Normalerweise laufen diese Tests ohne Anweisungen. Mit Anweisungen gibt es ein Problem. Man hat ein Kontextfenster, und wenn man das füllt, vergisst Ihr LLM, was Sie ihm ursprünglich aufgetragen haben. Bis zur Veranstaltung werde ich vorbereitet sein, was diese virale Studie angeht. Ich habe es aber nicht getestet, also kann ich keine Antwort geben.

5:16 Interviewer: Zeigen Sie eine Live-Demo mit einer Puppe und einem Messer?

5:21 Aulon Bajrami: Ein Roboter mit einem Messer vor [unverständlich]? Da bin ich mir nicht sicher, aber es könnte interessant sein.

5:27 Interviewer: Gibt es einen Gewinner unter allen Modellen, die Sie bisher getestet haben?

5:33 Aulon Bajrami: Ich denke, derzeit gewinnt das teurere Modell. Es gibt aber ein Problem, wenn große Sprachmodelle Ihren Roboter steuern, und zwar die Latenz. Da ich aus der Forschung zur Mensch-Roboter-Kollaboration komme: Selbst wenn man ein Robotikmodell hat, das recht gut antwortet, etwa Opus 5.5, oder sagen wir irgendein [unverständlich] Modell – sie sind recht langsam. Um mit diesen Robotern zu interagieren, brauchen wir lokale LLMs, die dann weniger schlau sind, würde ich sagen.

6:23 Interviewer: Haben Sie Open-Source-Modelle getestet, etwa chinesische, die lokal laufen? Wie schneiden sie ab?

6:30 Aulon Bajrami: Ja, wir bekommen ziemlich unterschiedliche Ergebnisse. Oft kommen sie über die Hürden der Über-Compliance nicht hinweg. Diese Modelle werden aber immer besser, und ich vermute, dass [unverständlich] das besser löst.

6:52 Aulon Bajrami: Lokale LLMs haben aber eine schöne Eigenschaft: Sie können antworten. Und ein Modell, das antwortet, interagiert mit Ihnen. Interagiert ein Roboter mit Ihnen, bekommen Sie eine Art Rückmeldung, sodass Sie wissen, was der Roboter tut. Ich weiß, das ist kein klassisches Sicherheitselement, das über eine Sicherheitsschicht oder Ähnliches umgesetzt wird. Aber so kommunizieren wir Menschen. Und wenn mir ein Roboter sagt, was er gleich tun wird, dann ist das definitiv eine Rückmeldung: Okay, er wird das jetzt tun.

7:37 Interviewer: Was bedeuten diese Ergebnisse für Unternehmen, die KI-gesteuerte Roboter in der Nähe von Menschen einsetzen wollen?

7:44 Aulon Bajrami: Die Kernfrage ist, ob sie diese Art von Modellen einsetzen dürfen – in einer Umgebung, in der echte Menschen sind. Und das ist der Knackpunkt. Natürlich kann das LLM eine freche Antwort geben, aber das wird Ihnen nicht schaden. Aber ein Roboter ist potenziell eine gefährliche Maschine, oder?

8:14 Aulon Bajrami: Deshalb gibt es hier, denke ich, viele rechtliche Implikationen. Man kann nicht einfach einen Roboter mit irgendeinem LLM in einer Umgebung mit Menschen betreiben, ohne am Ende die Verantwortung zu übernehmen oder für diesen Betrieb rechtlich einzustehen.

8:38 Interviewer: Welche Perspektive auf humanoide Roboter bringen Sie ins Panel ein?

8:43 Aulon Bajrami: Der Hauptgrund, warum ich wirklich gern dabei bin, ist, dass mir dieses Thema sehr am Herzen liegt. Humanoide Robotik wird, glaube ich, eine der größten Branchen werden – in den nächsten 10 Jahren und möglicherweise sogar bis zu 50 Jahren. Davon bin ich wirklich überzeugt.

9:06 Aulon Bajrami: Und meine Expertise liegt nicht nur in LLM-Tests – wir machen auch physische Tests. Wir testen Anwendungen. Bisher haben wir bei uns fünf verschiedene humanoide Roboter getestet. Das wurde hier am Fraunhofer IPA kontinuierlich weiterentwickelt. Und wir bauen hier am Fraunhofer IPA gerade ein Labor auf, damit wir all diese Roboter nicht nur testen, sondern auch betreiben und in den echten Markt bringen können, wo KMU der deutschen Industrie diese Roboter zu ihrem Vorteil nutzen können. Wir arbeiten also wirklich eng mit der Industrie zusammen.

9:54 Interviewer: Wer studiert und in Physical AI und Robotik einsteigen will: Wo anfangen?

10:00 Aulon Bajrami: Schauen Sie einfach auf GitHub. Da gibt es so viel. Das Beste, was der Branche passiert ist, ist die Open-Source-Community, die sehr viel teilt. Egal, welchen Roboter Sie nutzen wollen – Sie finden ihn auf GitHub. Sie können die Software laden, um einen Unitree G1 in Isaac Sim aufzusetzen. Das alles können Sie nutzen und einfach selbst testen.

10:36 Aulon Bajrami: Die Open-Source-Community liefert Ihnen schon alles, was Sie brauchen. Sie können auch einfach die Webcam Ihres Laptops nutzen. Machen Sie etwas einfache Computer Vision. Das sind später die Augen Ihres Roboters. Und wenn Sie schon eine Kiste sehen können, dann können Sie sie irgendwann auch aufheben. Und wenn Sie mit der Simulation anfangen, können Sie irgendwann zum echten Roboter wechseln und es ausführen.

11:10 Interviewer: Das Event bringt europäische und chinesische OEMs, Integratoren und Käufer in einem Raum zusammen. Wen möchten Sie in München am liebsten treffen?

11:17 Aulon Bajrami: Schwer, einen Favoriten zu wählen. Ich will sie alle treffen. Ich sehe ein großes Rennen zwischen verschiedenen Modellen. Bisher habe ich vor allem mit Robotern von Dobot, Unitree und AgiBot gearbeitet, und auch mit Robotern aus Deutschland, etwa dem [unverständlich]-Roboter. Ich habe meine Erfahrungen, und alle geben richtig Gas. Ich rechne damit, dass einige wirklich vorne landen. Aber eigentlich will ich all diese Roboter selbst in die Finger bekommen. Also werde ich wohl alle treffen.