机器人高峰论坛
  • 资讯
  • News
  • 行业资讯
  • IndustryNews
  • 当机器人进入我们的世界 安全防护体系是前提

    • 行业资讯
    • 时间:2016-11-22
    • 来源: 环球网
    • 编译:zy
    • 我要投稿
    • 0
       在不少科幻作品中,都出现过这样的场景:机器人拥有自我思维后,对人类进行反攻。而就在今天深圳高交会现场,传出一条让人惊诧的消息:一台名为小胖的机器人突然打砸展台玻璃,还砸伤了路人——这还是国内首次出现机器人伤人的新闻。
     
      高交会随后澄清事故原因为人为操作失当,误将“前进键”当成“后退键”,导致机器人撞向展台玻璃,玻璃倒地摔碎并划伤一名现场观众。这个回复的意思很明确,此次事故非机器人本意为之。
     
      不过,这条新闻仍引发了各方的关注。伴随机器人开始进入千家万户,面对铜头铁臂,人的安全该如何保障?关于这个话题,2016年世界机器人大会秘书长、中国电子学会副理事长徐晓兰做出了点评。
     

     
      徐晓兰:我认为,这次机器人伤人事件兼具偶发性和必然性。从我国机器人的发展来看,工业机器人的发展时间较长且设计比较完整,整体安全性能也比较成熟。但服务机器人还在小批量的试用阶段,没有形成规模化的使用,设计时的安全考量不是很完备。虽然服务机器人的应用还属于萌芽状态或是试用阶段,但很多企业忙于或是急于做市场推广,更多的是注重它的功能和应用,而对安全方面的设计恰恰是它的弱点。
     
      这次事件给我们带来了一个警示,提醒我们要更加注重服务机器人的安全设计。没有安全设计和认证的服务机器人,特别是提供对人服务的机器人不能走向市场。此外,随着对服务机器人需求的增长,市场变得更广阔。而服务机器人安全标准和现有设计是滞后的。其实在今年和去年的世界机器人大会都特别加强了对服务机器人进行安全认证的要求。
     
      这次高交会的机器人伤人事件,虽说是人为操纵失误,但它其实应该有紧急制动的功能,而不是在危急时刻要完全依靠人力控制,这是安全设计方面的天然缺陷,可能也是产业发展的必经过程,但要引起我们足够的警惕和重视。
     
      现在HBO大热的美剧——《西部世界》,也在讲述机器人开始觉醒的故事,里面有两点值得关注,一个是机器人具有自我学习的能力,人类往往忽视它已经学习到什么程度,没有意识到它的智慧,但其实机器人已经变得更加聪明了。未来这种情况在现实生活中怎么注意避免?
     
      徐晓兰:这实际上也是机器人技术和产业在推进过程中与其他信息技术或是科技成果不一样的地方,我们要更加注重法律和伦理的约束。智能机器人领域对法律和伦理约束的要求更高,如果这种约束缺失,智能机器人越聪明,越可能做出更多坏事,对人类破坏的作用越大,这要求研发智能机器人的科技工作者要加强设计上的道德约束。今年的世界机器人大会特别增加了一个专题论坛,讨论法律、道德、伦理应该进入智能机器人这种科技产品的话题,呼吁更多人关注这个领域,提醒要及早立法来约束智能机器人发展中可能出现的问题。
     
      除了产业安全标准的建立,此事引发的另一大思考在于:随着人工智能飞速发展,机器人的高度智能化并非遥不可及。当机器人具备自我意识、开始进入到人类日常工作与生活的时候,人类该与其如何相处?人类社会又该如何为那一天的到来做好准备?关于此话题,科幻作家、《三体》作者刘慈欣也做出了点评。
     
      刘慈欣:早在20世纪末,在日本的生产线上就有一个机械手把一个工人拿到生产线上去加工,导致了工人的死亡,别的领域也发生过类似事情。我认为,这类机器人伤人的事件应该分为两大类。一是意外,比如高交会上这起事件,包括程序错误、软件错误或是硬件错误都可能导致伤人的意外发生。第二种是机器人故意伤人,即机器人有自我意识,有很高的智能,故意伤害别人。通常遇到这类问题时,社会舆论往往都向第二类情况想,如果真的发生第二种类型的伤害,情况是相当严重的,因为这表明机器人有某种自我意识,有某种自我行动的能力,而且用以伤害别人。但迄今为止发生过的所有机器人伤人事件,包括高交会上发生的事件,都是普通事故。就好像一些别的家用电器如电视、洗衣机、冰箱等都可能出事,可能伤害到人类,前段时间还发生过手机爆炸伤人事件。本质上,现在的机器人伤人事件和这种事件是一样的。我们把它当作普通家用电器故障来处理就可以,没有必要因为这是个智能的机器而过度解读。目前人类所达到的人工智能水准离机器人觉醒还差着十万八千里,能不能克服大量技术障碍而走到高度智能化的地步尚未可知。
     
      现在公众和社会舆论,特别是中国公众和社会舆论,很倾向于把科幻的东西当成现实的科技,这其实是两码事。科幻世界中,设想机器具有自我意识,主动伤害人类是很平常的事,而现实中还是不可能的。以长远计,可以做这方面的学术考虑,但在现实生活中,因此来限制人工智能的发展是很可笑的。现在我们竭尽全力想造这种人工智能还造不出来呢,却反而被这种莫须有的恐惧所牵制,反而去限制它的发展,我认为这种做法是十分愚蠢的。
     
      目前为止的人工智能还是没有生命的普通机器,和其他机器设备没有区别,从社会地位及人文角度来看,都没有什么特别的。但假如未来机器人拥有自我意识,其智力和人类相当、甚至高于人类,这个问题是相当复杂的。这时候,不能再把它看做普通机器。到那时,我们如何界定机器的权利,是否给它以真正的权利,或给它以人权,要做社会学、哲学和文化方面的深邃思考。
     
      现在已经有很多学者在探讨这方面的问题,据我所知,美国现在已经有一个相当大的组织,探讨学术和其他机器伦理方面的探讨。但目前也只是理论上的探讨,与运用到实际上还有相当的距离。如果机器人高度智能的那一天真的到来,人类将面临相当大的社会学、伦理学挑战。因为地球上现存的其他高等生命,如大猩猩、海豚,人类都没有给予其应有的权利,没有生命的机器否要应该得到这种权利是很难抉择的。但这都还属于科学幻想领域,离真正实现还是很遥远的。
    声明:凡资讯来源注明为其他媒体来源的信息,均为转载自其他媒体,并不代表本网站赞同其观点,也不代表本网站对其真实性负责。您若对该文章内容有任何疑问或质疑,请立即与中国机器人网(www.robot-china.com)联系,本网站将迅速给您回应并做处理。
    电话:021-39553798-8007
    [打印文本] []
    
    全部评论(0
    TOP Bookmark