干啥不好 非要研发“机器人杀手”?

2018年04月06日14:26  来源:北京晚报
 
原标题:干啥不好 非要研发“机器人杀手”?

  韩国科学技术院开发的一款机器人 资料图

  全球超过50名人工智能研究人员4日联名抵制韩国科学技术院设立人工智能武器实验室,警告谨防“机器人杀手”。发起联名抵制的人工智能教授沃尔什说,抵制行动已经发挥作用,韩国科学技术院作出两大让步。“不能将决定生死的权力交给机器,这越过道德底线。”沃尔什说。

  “可能被恐怖分子利用”

  由澳大利亚新南威尔士大学人工智能教授托比·沃尔什发起,美国和日本等30个国家和地区的研究人员4日签署一封公开信,敦促韩国科学技术院停止人工智能武器研发。

  这些研究人员说,将拒绝访问韩国科学技术院、接待对方访客或与对方合作研究项目,直至这所韩国顶尖大学承诺放弃研发缺少“有效人工控制”的武器。联名信写道:“自动武器一旦成熟,战争发展速度和规模将前所未有。它们可能会被恐怖分子利用。”

  韩国科学技术院与韩国十大财团之一韩华集团旗下韩华系统公司合作,于今年2月开设人工智能研发中心,目的是研发适用于作战指挥、目标追踪和无人水下交通等领域的人工智能技术。

  促使联合国采取行动

  围绕人工智能武器的争议已促使联合国采取行动。包括美国特斯拉公司首席执行官埃隆·马斯克在内的上百名科技界领袖和人工智能研究人员去年8月签署联名信,敦促联合国遏制“机器人杀手”,以免为时过晚。

  信中写道,“机器人杀手”、即能致人毙命的自动武器会改变战争方式,使武力冲突“扩大至前所未有的范围”,甚至有可能“远超人们所能理解的程度”。联合国一个人工智能专家组去年11月启动讨论,以应对人工智能武器对全球安全造成的挑战。联合国123个成员国代表定于本月9日在瑞士日内瓦就这一议题召开会议。

  韩国科学技术院4日迅速回应遭遇抵制一事,强调“无意参与研发致命自动武器系统和‘机器人杀手’”。

  韩高校作出两大让步

  韩国科学技术院校长申成澈(音译)说,这所大学“显然意识到”关于人工智能有违人类道德的担忧。“我重申韩国科学技术院不会开展任何有违人类尊严的研究活动,包括研发缺少人工控制的自动武器。”按这一学府的说法,新设研发中心将集中研究如何运用人工智能命令和控制系统、导航大型无人潜水器、指导智能飞行训练以及追踪识别目标。

  沃尔什说,抵制行动已经发挥作用,“韩国科学技术院作出两大让步:不会开发自动武器,以及保证有意义的人工控制”。至于是否取消抵制,需与其他签署联名信的科研人员共同决定。沃尔什说,人工智能技术可以在军事领域发挥有利作用,“但我们不能将决定生死的权力交给机器,这越过道德底线。”据新华社

(责编:鲍聪颖、高星)

推荐阅读

探访北京新机场:无缝衔接综合交通枢纽 
1月18日,记者探访了正在紧张施工中的北京新机场。北京新机场建设项目作为北京市重点工程的“重中之重”,已于去年底完成航站楼封顶封围,今年将完成主体工程施工,并将于2019年10月投入试运行。【详细】探访北京新机场:无缝衔接综合交通枢纽 1月18日,记者探访了正在紧张施工中的北京新机场。北京新机场建设项目作为北京市重点工程的“重中之重”,已于去年底完成航站楼封顶封围,今年将完成主体工程施工,并将于2019年10月投入试运行。【详细】