谷歌推出新“机器人准则”以防止科幻电影场景变成现实

谷歌制定新“机器人守则” 确保科幻片不会成真

DeepMind机器人团队最新公布了三项新进展，旨在帮助机器人在实验室外做出更快、更好、更安全的决策。其中之一是他们开发了一个系统，通过“机器人守则”收集训练数据，以确保机器人办公室助理可以为用户取更多的打印纸，但同时避免攻击碰巧挡道的人类同事。这一进展将进一步提升机器人的工作效率和安全性。

谷歌的数据收集系统AutoRT利用视觉语言模型(VLM)和大型语言模型(LLM)协同工作，以了解环境，适应陌生的情境，并决定适当的任务。这个系统的设计灵感来自于阿西莫夫的《机器人三定律》，它被描述为一套以安全为中心的指导原则，以确保AI在操作机器人时避免选择涉及人类、动物、尖锐物体甚至电器的任务。

为了提高安全性，DeepMind对机器人进行了编程，一旦机器人的关节受到过大的力，就会自动停止运行。此外，机器人还配备了一个实体的终止开关，由人类操作员可以立即关闭机器人。谷歌在七个月的时间里，在四栋不同的办公楼中部署了一个由53台AutoRT机器人组成的车队，并进行了77000多次试验。其中，一些机器人由人类操作员远程控制，而另一些机器人则完全自主地根据脚本或谷歌的机器人变压器（RT-2）AI学习模型进行操作。这样的安全措施和实验设计确保了机器人的安全性和可控性。

试验中使用的机器人主要以实用性为目标，配备了摄像头、机械臂和移动底座。每个机器人都使用VLM（AI视觉语言模组）来感知环境和识别物体。接着，LLM（AI大型语言模组）会提供一系列创造性任务的建议，例如“将零食放在台面上”，并充当决策者的角色，为机器人选择适合执行的任务。这种系统设计能够增强机器人的智能化水平，使其能够更好地适应不同的任务需求。