央视网|中国网络电视台|网站地图
客服设为首页
登录

更多 精彩视频排行

网友评分最高


首播

重播

  上海交通大学机器人研究所最近完成了“助行机器人”的研发。这种像一部“智能小车”的机器人(许多机器“人”其实并不是“人形”的),能自己识别道路,自行确定行驶路线……带着行动困难或视力有障碍的人出行。

  但这款机器人真要实际应用,甚至推向市场,障碍还很多:它应该遵守什么交通规则?是针对行人的交通规则,还是机动车行驶规则?如果它造成了交通事故,该如何处理?上海交大机器人研究所常务副所长曹其新教授说:“这些问号已经让我们纠结了很久。”

  曾经在上海世博会露过面的另一些机器人,比如伴侣机器人、餐厅机器人、医疗机器人,一样让人纠结:如果它们在工作中出了差错造成事故,该由谁负责?特别是,这些机器人都是“高智能”的,有学习功能、能“自学成才”,也就是说,一段时间之后,它不再是出生时的它了;它会像人一样,根据自己的所“见”所“想”自作主张——要是想法走偏瞎搞一气怎么办?

  人类创造了机器人,但机器人一旦拥有智能,需要的就不仅仅是维护和修理,更得做规矩约束,要让它的想法和行为合乎人类世界的伦理道德。

  “机器人三原则”

  “研究机器人,都知道‘机器人三原则’——机器人不能伤害人类,也不能眼看人类将要遇到伤害而袖手旁观;机器人必须服从人的命令,除非这些命令与第一条原则相违背;机器人应该能保护自己,但与前两条原则相违背的情况除外。”德国汉堡大学多模式技术研究所所长张建伟教授告诉记者,这三条原则,最早由美国科幻作家阿西莫夫在他写于1942年的一个短篇小说中提出;后来,有的科学家加了“第零原则”——“机器人可以什么都不做,除非他的行动符合三原则”,又有人加了“第四原则”——“机器人不得参与机器人的设计和制造,除非新的机器人的行为能服从三原则。”不过,大家广泛认同的还是“机器人三原则”。

  “机器人三原则”已经实际应用。

  曹其新教授介绍说,对于机器人用于医疗领域和研发医疗机器人,目前美国未加限制,欧洲定了一些规矩,而日本根据“机器人三原则”,明确禁止。这类机器人直接跟人的生命打交道,伦理问题最为突出:它具备人工智能,可以自主学习并独立手术,但如果“学艺不精”出了事故,那是不是意味着没有遵守“三原则”?或者,机器人在手术时发现患者病入膏肓、已没有继续手术的必要,因此不做了,那又如何评判这种行为的对错?曹教授说,“伦理道德还不完善”的机器人,不适合用在敏感领域。

  其实,现在大多数用于医疗的机器人,并不是智能机器人,都需要人工操作,可以说是一种高端医疗器械。

  有智能就复杂了

  随着智能机器人研发的不断进展,当机器人也会有想法时,问题就复杂了。

  今年5月初,欧盟评出了对未来影响最大的六项技术,其中一项是伴侣机器人。科学家们纷纷预言,不久的将来,家家户户都会有个机器人。

  当伴侣机器人成为家庭一员,这些能自主学习、自己成长,能像人一样思考和做决定,而行动能力比人更胜一筹的家伙,需要遵守哪些规矩?机器人的伦理道德,逐渐成为学界关注的热点。

  不久前,上海交通大学主办了全球机器人大会,收到好几篇探讨机器人伦理道德的论文。而据说在过去的会议上,这类论文几乎没有。前来参会的日本东北大学教授小菅一弘介绍,机器人研发领域的国际顶级期刊今年1月专门出了一期专刊,主题就是“RobotEthics”,这一前沿课题的几位重要学者都发表了文章。他还说,日本2002年就在福冈市尝试制订了针对机器人的交通规则,福冈由此成为全球第一个机器人可以上路行走的城市。

  韩国和一些欧洲国家表示,有意制订“机器人道德法”,以此作为机器人研制者、使用者以及机器人本身的道德伦理规范和行为准则;它对机器人产业将有重大指导作用,“机器人道德法”的各项规定将编写成电脑程序,安装于机器人。

  还有科学家提出,人的大脑的某些部分如果损伤,今后可以用芯片修复;如果芯片对人脑原有“部件”的替换率达到一定程度,这样的人该怎么定义?“机器人道德法”对他们是不是也部分适用?

  美国著名的神经科学家尼科莱利斯在他最新发表的一篇论文中提出:“这些都已是科学界应该思考的问题。”

  但愿不再“亡羊补牢”

  中科院微电子研究所所长、国家“02”重大专项专家组组长叶甜春研究员说,就目前的技术水平来说,让机器人自己作伦理道德判断并不可行。现在的技术还只能对机器人发出非常明确的指示,或者让机器人根据明确的标准作出“是”与“非”的判断,而伦理道德显然是一种复杂判断、模糊判断,机器人还处理不了。但叶甜春指出,随着技术快速发展和家用机器人出现,机器人的伦理道德我们必须关注,“千万不能等出问题了,再亡羊补牢”。

  目前,国内研究机器人伦理道德的学者寥寥无几。曹其新教授说,现在学界很看好第三代机器人技术,这种被称为“泛在机器人”即“无所不在的机器人”的有智能的家伙,可以识别人的声音指示,甚至能学会对主人察言观色,满足主人的需求……可是,“我们如何保证机器人的判断和行为符合人类伦理道德,包括保证它不为了满足主人的要求而违背人类伦理道德呢?当家用机器人普及之时,再去关注和思考这些事,将为时已晚。”

视频集>>

热词:

channelId 1 1 给机器人做规矩要趁早 智能机器人需“约束” 1 上海交通大学机器人研究所最近完成了“助行机器人”的研发。这种像一部“智能小车”的机器人(许多机器“人”其实并不是“人形”的),能自己识别道路,自行确定行驶路线