AI机器人又伤人了？谷歌起草“机器人宪法” 【文末有福利】

 

随着机器人在生活、工作中的普及，机器人与人的协调共生、安全共存愈发引起大家的关注。谷歌DeepMind机器人团队2024年1月4日公布了三项新进展，称这些进展将帮助机器人在做出更快、更好、更安全的决策。此次更新引入了AutoRT、SARA-RT和RT-Trajectory三个系统，分别改进了机器人的数据收集、速度和泛化。其中较为引人注目的是，DeepMind起草了“机器人宪法”，并将其引入数据收集系统AutoRT，以确保机器人助理不会伤害到人类。“机器人宪法”的灵感来自美国科幻小说家艾萨克·阿西莫夫（Isaac Asimov）提出的“机器人三定律”，它被描述为一组“以安全为重点的提示”，指示LLM避免选择涉及人类、动物、尖锐物体甚至电器的任务。机器人宪法AutoRT是一个数据收集系统，可以使用视觉语言模型（VLM）和大型语言模型（LLM）协同工作，以了解环境、适应陌生环境、并决定适当的任务。该系统设有安全护栏，其中之一是为其决策者提供“机器人宪法”——一套以安全为重点的提示，以便在为机器人选择任务时遵守。为了提高安全性，DeepMind对机器人进行了编程，对其关节处设限，使其在关节的用力超过一定阈值时自动停止，并安装了一个物理终止开关，操作人员可以使用它来关闭机器人。谷歌表示在过去7个月的时间里，部署了一支由53台AutoRT机器人组成的机群，分别部署在四个不同的办公楼，并进行了超过77000次试验。一些机器人由人类操作员远程控制，而另一些机器人则根据脚本或完全自主地使用谷歌的人工智能学习模型Robotics Transformer 2（RT-2）进行操作。试验中使用的机器人只配备了一个摄像头、机械臂和移动基座。这份报告中写道，“对于每个机器人，系统使用VLM来了解其环境和视线内的物体。接下来，LLM会提出一系列机器人可以执行的创造性任务，比如‘把零食放在台面上’，并扮演决策者的角色，为机器人选择合适的任务。”此外，DeepMind的其他新技术包括SARA-RT系统，这是一种神经网络架构，旨在使现有的RT-2模型更准确、更快。SARA-RT-2模型在接收了较短的图像历史后，准确率比RT-2模型高10.6%，速度快14%。该团队还宣布了RT-Trajectory系统，它增加了2D轮廓，以帮助机器人更好地完成特定的物理任务，比如擦桌子。

文章来源：财联社、IT之家、工业机器人

今日小编给大家带来工业机器人初级学习资料，欢迎大家收藏点赞

1.工业机器人系列连载 | No.1 工业机器人安全知识及注意事项！

2.工业机器人系列连载 | No.2 工业机器人工作站的概念及系统介绍！

3.工业机器人系列连载 | No.3 工业机器人各类型工作站简介！

4.工业机器人系列连载 | No.4 工业机器人本体介绍！

15.工业机器人系列连载 | No.15 ABB机器人标准IO板介绍！

16.工业机器人系列连载 | No.16 ABB机器人安全板！

17.工业机器人系列连载 | No.17 ABB机器人通讯！

18.工业机器人系列连载 | No.18 ABB机器人信号配置！

19.工业机器人系列连载 | No.19 运动指令MoveL、MoveJ、MoveC！

20.工业机器人系列连载 | No.20 赋值输出指令的介绍！

21.工业机器人系列连载 | No.21 等待指令的介绍！

22.工业机器人系列连载 | No.22 流程指令While、For、IF的介绍！

23.工业机器人系列连载 | No.23 流程指令TESTGOTO的介绍！

24.工业机器人系列连载 | No.24 运动控制指令的介绍！

25.工业机器人系列连载 | No.25 位置偏移函数OFFs的介绍！

26.工业机器人系列连载 | No.26 例行程序中断与功能类型！

>>更多关于“工业机器人系列文章” 请在公众号中查阅学习~

内容来源：远恒教育

商务合作：

13327841119/17314241119（微信同号）

免责声明

本公众号所载文章为本公众号原创或根据网络搜集编辑整理，文章版权归原作者所有。远恒教育尊重版权并感谢每一位作者的辛苦付出与创作，转载文章我们均在文末备注了来源；如文章视频、图片、文字涉及版权问题，请及时联系我们，我们将根据您提供的证明材料确认版权并立即删除内容！

您发现“点赞”和“在看”了么，戳我看看~