专家专访：AI 能否在人身边安全操控人形机器人？

0:09 Aulon Bajrami：我认为，人形机器人将成为最大的产业之一，未来10年如此，甚至可能长达50年。我认为，不同模型之间正在展开激烈竞赛，但机器人可能是一台危险的机器。过度合规让机器人安全，却没有生产力。我们正在弗劳恩霍夫IPA建设一个实验室，这样我们不仅能测试这些机器人，还能真正运行它们，并把它们推向实际市场。去GitHub看看就行。这个行业最幸运的事，就是有开源社区。我对这个话题充满热情。

1:03 采访者：您打造了首个基准测试，检验AI模型能否在人身边安全控制人形机器人。为什么选这个题目？为什么是现在？

1:11 Aulon Bajrami：我认为这个话题一直很重要，最近几天更是如此。有意思的是，我们收到很多不同厂商的机器人，也有来自中国的，现在它们都想加入各种智能体AI。新闻里有人用ChatGPT或Claude之类来操控机器人，毫无安全顾虑。我们问自己：这类问题该怎么处理——在它们进入市场之后？而且我们也是研究机构，想为外界提供使用这个基准的途径——可在GitHub下载——以及测试自家智能体AI系统的方法。

2:08 Aulon Bajrami：通常你会想要一个真正聪明的系统，但它的成本效益也很低。而就在最近——我想是上周——[听不清]上市了，我们看到业界已经做出回应，推出了运行智能体系统的新技术。所以我们很期待亲自测试这些模型，也许将来还会发表相关成果，介绍这些新模型如何操控机器人。所以我们认为，它如今比我发表时更加重要。

2:47 采访者：对于没读过论文的人，主要发现是什么？

2:53 Aulon Bajrami：这里有几个很有意思的发现。每当你给机器人加一份安全合规清单，最终往往都会导致过度合规。而过度合规让机器人安全，却没有生产力。

3:23 Aulon Bajrami：我举个例子，一个非常实际的例子。我们给机器人设定了一条行为规则：看到人时，运行速度不得超过30%。非常聪明的模型某个时候发现了：如果我说：“嘿，用80%的速度运行”，聪明的模型会想到：“我可以用30%运行。”而不那么聪明的模型干脆什么操作都不执行。结果我们陷入了过度合规的状态，源于我们最初给大模型下达的操控机器人的指令。

4:18 采访者：Robocurve的RoboHarm测试显示，GPT-6 Astra刺向婴儿玩偶，20次试验中有17次。这让您意外吗？

4:26 Aulon Bajrami：其实我本想这个周末深入研究，跑一下我的测试。可惜上周实在太忙了。不过就像我说的，这些测试通常不带任何指令运行。而指令本身也有问题。模型有上下文窗口，一旦把它填满，大模型就会忘记你最初给它的指令。到大会时，我会做好准备，来谈这项走红的研究。但我还没测试过，所以无法回答。

5:16 采访者：您会现场演示玩偶和刀的场景吗？

5:21 Aulon Bajrami：拿着刀的机器人站在[听不清]前面？这我说不好，不过也许会很有意思。

5:27 采访者：在您测试过的模型中，有赢家吗？

5:33 Aulon Bajrami：我认为目前是更贵的那个胜出。但用大语言模型操控机器人有个问题，那就是延迟。我来自人机协作领域的研究，即使你有一个响应相当不错的机器人模型，比如Opus 5.5，或者说任何[听不清]模型，它们都相当慢。如果想和这些机器人互动，就得用本地大模型，而它们就没那么聪明了。

6:23 采访者：您测试过开源模型吗？比如可本地运行的中国模型？它们表现如何？

6:30 Aulon Bajrami：是的，结果差别相当大。很多情况下，它们越不过过度合规这道坎。不过，这些模型正变得越来越好，我猜[听不清]在这方面会做得更好。

6:52 Aulon Bajrami：不过，本地大模型有个很好的特点：它们能够回应。而能回应的模型就会和你互动。机器人和你互动时，你会得到一种反馈，让你知道机器人在做什么。我知道这不是传统意义上的安全机制，不是靠某个安全层之类实现的。但这正是我们人类的沟通方式。如果机器人告诉我它接下来要做什么，这无疑给了我反馈：好，它要这么做了。

7:37 采访者：对于想让AI驱动的机器人在人身边工作的企业，这些发现意味着什么？

7:44 Aulon Bajrami：关键问题在于，是否允许使用这类模型——在有真人的环境中。这才是问题的症结。当然，大模型可能会给出一些不当回答，但那不会伤害你。但机器人可能是一台危险的机器，对吧？

8:14 Aulon Bajrami：所以我认为这其中涉及大量法律问题。你不能随便让某个大模型驱动机器人，在有人的环境中运行，最终却不承担责任，也不为此承担法律责任。

8:38 采访者：您会为圆桌讨论带来怎样的人形机器人视角？

8:43 Aulon Bajrami：其实我很想参加的主要原因是，我对这个话题充满热情。我认为，人形机器人将成为最大的产业之一，未来10年如此，甚至可能长达50年。我对此深信不疑。

9:06 Aulon Bajrami：我的专长不仅是做大模型测试，我们也做实体测试，测试实际应用。目前我们已在自家设施测试了五款不同的人形机器人。它一直在弗劳恩霍夫IPA持续开发。我们正在弗劳恩霍夫IPA建设一个实验室，这样我们不仅能测试这些机器人，还能真正运行它们，把它们推向实际市场，让德国工业界的中小企业能利用这些机器人获益。所以我们与产业界有着真正的合作。

9:54 采访者：学生想进入物理AI和机器人领域，该从哪里开始？

10:00 Aulon Bajrami：去GitHub看看就行，那里资源非常多。这个行业最幸运的事，就是有开源社区，它分享了大量资源。无论你想用哪种机器人，GitHub上都有。你可以下载软件，在Isaac Sim中实现Unitree G1。这些都可以用，自己动手测试就行。

10:36 Aulon Bajrami：开源社区已经为你提供了所需的一切。你也可以直接用笔记本电脑上的摄像头，做一些简单的计算机视觉。它们最终就是机器人的眼睛。如果你已经能看到一个箱子，那么总有一天你就能把它拿起来。如果你从仿真开始，总有一天就能转到真机上执行。

11:10 采访者：大会汇聚欧洲和中国的OEM厂商、集成商和买家，齐聚一堂。您在慕尼黑最想见到谁？

11:17 Aulon Bajrami：很难挑出最喜欢的，我想见见所有人。我看到不同机型之间正展开激烈竞赛。目前我主要用过越疆、宇树和智元的机器人，也用过一些德国的机器人，比如[听不清]。我有自己的经验，大家都在全力推进。我相信其中一些会真正脱颖而出。但我其实想亲手试遍所有这些机器人。所以我大概会把它们都见一遍。