机器人可怕吗编辑本段回目录
撰文 Olivier Lascart, Pascal Pinteau
编译 李晓桦
机器人早已不是什么新鲜玩意，反而大有方兴未艾之势。从客厅到战场，我们都能发现它们的身影。然而，不论是走进人类日常生活还是参与战争，都要求机器人具备较强的判断力、极大的可靠性和对人类的绝对服从。我们的硅脑助手们能做到这些吗？且随我们前往未来实验室探查一番。
机器人，人类最好的朋友?
会跳舞、洗碗、照料病人的机器人……这已经不再是科幻小说的情节了！不久的将来，这种智能机器人会走进我们的日常生活。可是，要是有一天它不和我们做朋友了呢？
2009年2月，巴黎阿尔德巴朗司（Alde-baran Robotics）的一间办公室。身材矮小的Nao抬眼打量着让-保罗，认出了后者上装翻领上的一枚徽章。于是，它用略带颤抖的声音与来宾攀谈起来：“你戴着和我一样的徽章啊！”让-保罗就好像听到孩子第一次开口说话，不禁又惊又喜。原来，Nao不是有血有肉的人类，而是一个机器人！它的外表完全没有“终结者”的影子，倒像是结实可爱的皮诺曹。眼下，它正在阿尔德巴朗公司里进行演示。身为当地政界人士的让-保罗，是专程来见识即将在全球上市的这款“法国制造”机器人的。Nao的问世，预示着伴侣机器人将如海啸般席卷而来。第一波浪潮就是正在涌现的娱乐型机器人。它们和Nao一样，会跳舞，可以根据要求演奏所有MP3的曲子，甚至还能做帮助主人复习英文课这类实用性很强的工作。第二波浪潮是将于2020年左右出现的家用机器人，这些“田螺姑娘”会料理家务、洗碗、收拾房间。而在2050至2060年间，能像真正的护士那样护理病人的机器人也将闪亮登场！
简而言之，未来将是机器人的天下。这不是阿尔德巴朗公司的一家之见。日本和韩国也持相同观点，它们在机器人研究上大步推进，投入的经费动辄高达数百万欧元。这两国科学家的目标，是10年内在市场上推出面向大众的家用机器人，其售价大约为7000或8000欧元，相当于法国雷诺低端系列汽车洛根（Logan）的价格，意在使每个家庭都能承受。总之，未来社会的图景中将充斥着大量机器人，这已不再是科幻小说，而是可以预见的现实。
显而易见，事情由此变得复杂起来。因为，在所有科幻作家撰写的机器人故事里，为主人面包涂上黄油的机器人无一例外地都会有丧心病狂的时刻——把面包刀捅进主人的肚子里。
Hans Moravec机器人没有小鱼聪明
类似悲剧会真的上演吗？对于这个推测，阿尔德巴朗公司联络负责人巴斯蒂安·帕朗（Bastien Parent）并不以为然，他说：“机器人不可能为所欲为，它们只是工具而已，只能按照事先编好的程序行事。”也就是说，要动脑筋干出危险的勾当，机器人还不够聪明。毫无疑问，目前的情况确实如此，可是将来会怎样呢？因为明天的机器人不会只是简单的操作者，它们能够发挥主动性，会变得极为聪明伶俐。美国人工智能专家汉斯·摩拉维克（Hans Moravec）最近发表在《科学美国人》（Scientific American）上的一篇文章里预测，到2050年，机器人的智慧将与人类相当！之所以得出这个结论，是基于一个简单的事实：机器人就是有腿的计算机。因此，它们的智商直接取决于其计算能力。在过去的40年中，这项能力已经有了爆炸性增长！
在信息技术传奇式发展的20世纪70年代，计算机每秒钟处理100万条指令，还要费上九牛二虎之力。而如今，上乘的手提电脑每秒钟可以轻松应对100亿条指令！这个数字实在令人叹为观止。可是，与动物智力相比，机器人还不及一条小鱼聪明。汉斯·摩拉维克说道：“以目前的发展速度看来，在20多年后，将会出现每秒钟能够处理100万亿条指令的机器人，足以与人类的智力相媲美。这样一来，机器人不仅能够进行思考，而且速度飞快！眼下那些只会演奏密纹唱片、总是被同样的障碍绊住的傻乎乎的机器人终将被淘汰。未来的机器人将拥有强大的判断能力，能够对发生的意外情况进行分析并采取相应的对策。我们可以想象这样一个场景：机器人在厨房里走动，突然砰的一声，它碰倒一只花瓶，听到花瓶落在地面上摔碎时的响声后，机器人马上进行检查。发生了什么事呢？它的电路开始工作，追溯到此前几秒以便弄清真相。机器人会想：‘在这之前花瓶是摆在家具上的，我刚刚从家具旁经过，一定是碰到了家具或是花瓶。所以，我得离房间里的家具更远一点才行。’”
换句话说，这个机器人能够自行确定参数，不过不是自动生成中央计算机中的信息编码行，而是修改用于调节行为的程序中的可变量，例如机器人身体与墙壁之间应当隔开的距离。机器人还能够通过网络下载自身缺少的软件。可问题是，程序往往会发生执行错误。如果程序设计缺陷干扰了机器人的行为，会发生什么情况呢？你知道，计算机病毒会使屏幕上光标反向，上推鼠标时，光标下移，而下拉鼠标时，光标上移。如果机器人身上发生类似故障，它就会变得像公牛一样具有攻击性，也许会导致无法预料的结果。
坦率地说，目睹当今最先进的机器人，真让人有些不寒而栗。以日本前卫机器人HRP-3为例，如果亲眼看见它操作手电钻的样子（HRP-3是与一家大型公共工程公司合作研制完成的），人们不禁会双手合十，祈祷它只在木材或钢材上钻孔，千万别在其他地方打洞啊。
一个BUG就足以让机器人把你撕碎
对于研究人员而言，祈祷是不够的。他们正在想方设法寻找对策，使与我们共同生活的机器人不会危及到人类的安全。早在上世纪40年代，科幻小说作者艾萨克·阿西莫夫（Issac Asimov）已经对想象中人类面临的这个挑战深感不安。他在《机器人》一书里幻想在机器人体内植入一种良好行为代码。其中涉及的三个简单法则，被认为涵盖了机器人威胁人类的各种情况。只要稍有违反法则的情况，机器人便会立即中断工作……
今天，机器人专家都无一例外地熟知这些规则。然而，要把它们转化为代码却非常复杂。因为在计算机程序中，连续命题是二进制的，答案只有两种：是或否。机器人要么上楼，要么下楼；不是向右，便是向左。不能处于两者之间。著名的三大法则没有给出如此明确的答案。阿西莫夫规定，机器人应当“保护其生命”。什么是机器人的“生命”，机器怎么能意识到自己的“生命”呢？
正因如此，人们必须另辟蹊径，日本和韩国正朝这个方向努力。专家们正在编写确保机器人行为无害的运行规则，并声称不会立足于原来的三项法则。日本一个最新版本的工作文件多达60页！当然，编写者已经考虑到给机器人配备所有可能的和想象得到的传感器，比如力量传感器。有了它，机器人就不会在和人握手时，像对付核桃壳似的把人的手骨捏碎。
不过，文件编写者承认，即便采取了这些预防措施，意外还是会发生。为此，人们提出了一系列建议，将来有可能直接编入指导机器人行为的程序。全世界的机器人专家们将对这些软件不断进行修订和完善。一旦某个机器人出问题，受害者和相关方将把事故的来龙去脉记录到面向所有用户的庞大数据库中。这样，法国研究人员可以从中找到中国机器人发生这类问题后的解决方法，反之亦然。机器人可以下载以信息文件的形式保存的解决方法，从而完成软件更新并提高安全性，就像今天的计算机所采取的方法一样。这样可以最大程度地限制“机器人的威胁”。当然，完全避免威胁是做不到的，因为我们永远无法阻止人类将用于犯罪。正如阿尔德巴朗机器人公司的巴斯蒂安·帕朗所言，机器人只是工具而已。疯子、心理病态的杀手或嫉妒的丈夫可以改变其预定的用途，把它变成杀人机器。即便人们费尽心机，机器人的危险将会始终存在。因为，无论机器人存在与否，人类本身都没有发生任何改变……
处于人类监控之下的军用机器人?
全副武装的遥控机器人已经把战场团团围住。这些机器人战士今天对人类的命令言听计从，但它们会变得越来越自主。有朝一日，它们会发展到由自己来决定开火吗？
2020年2月，阿富汗一座山峰的侧翼。一支美军小分队遭遇塔利班武装。20分钟的枪林弹雨后，凄凉的战场重现宁静。塔利班分子倒在血泊中，伤亡惨重。此时，只见一个人从之前藏身的小山岗后站起身，挥舞着白旗走向敌人。突然，一声清脆的枪声响起，这个人应声倒下。他是被一名美军士兵，确切地说是被一个军用机器人击毙的。因为，机器人不明白敌人是前来投降的。
在我们看来，这类过失在今天是不可能发生的。虽然武装机器人已经出现在战场上，而且拥有了部分自主性，但它们去何地做何事都是遵从人类的命令，只是在行进过程中根据外部条件进行自行调整。是否开枪开炮，始终由人做出最后决定。以使人印象深刻的小坦克Talon Maars为例，这种遥控坦克配备有强大的坦克炮。士兵们通过坦克的眼睛——机载摄像机观察战况，远距离操控坦克。如果突然遭遇敌军，便可以遥控坦克开火。整个过程是由人指挥，而非机器！那么，这种情况是否会一直延续下去呢？答案是否定的！因为不久之后，武装机器人将能够自行决定何时开火。况且，现在已经有一类军用机器人，它体形庞大，名叫SGR-A1，是机器人哨兵。如果有人胆敢擅入韩国和朝鲜之间的缓冲区，它就会开枪射击。
为什么要由机器人的金属脑袋自己做出如此可怕的决定呢？对于这个问题，研究人员给出的答案令人十分惊讶。位于美国佐治亚州技术研究所研究人员罗纳尔德·C·雅金（Ronald C.Arkin）认为，机器人的决定会比人类更加负责！因为，它所做的判断不会受到紧张和愤怒情绪的影响。换言之，智能机器人能头脑冷静地做出决定。而人类不是这样，且与其相比差距极大。人会出于报复或单纯的敌对心理失去控制，做出可怕的举动。
针对驻伊美军进行的一项研究表明，10%的士兵承认曾经粗暴地对待当地平民，比如毁坏房屋或者在没有任何必要的情况下伤及平民；一半以上的士兵不理解为什么要尊重平民，还平民以尊严！对敌方生命缺乏尊重，是否就是造成战争时期众多失控行为的部分原因呢？去年8月，原本准备打击叛乱分子的美国空军，居然轰炸了阿富汗Azizabad村，部分国际观察员称，此举造成了90名平民死亡，其中有60名是儿童。这些情绪失控导致的悲剧，机器人是不可能引发的。当然，必须保证其程序正确无误，这也正是有待人们去解决的问题。将自主式军用机器人派往战场之前，就必须确保它能区分敌人和平民，区分准备交战的对手和试图投降的敌方士兵，简言之，就是使人工智能机器人明白战场规则……
眼下，雅金等研究人员正在绞尽脑汁地攻克这一难题，初步成果显示——成功大有希望。通过借鉴真实战争的实际情况，他们已经用计算机对军用机器人的行为进行了成功模拟。2006年9月的一天，在阿富汗南部，无人驾驶飞机“捕食者”在巡逻时发现了190名塔利班武装分子。如果只是按照事先编制的杀敌程序，飞机会用导弹击毙聚集的敌人。但是，这一切并未发生。原来，遥控飞机开火的地面小组发现敌方正在墓地参加葬礼。《国际人道法》规定，这种情况下禁止一切武装干预。雅金在计算机上再现了这种情况，程序编写颇费脑筋。军用机器人必须依靠GPS来识别墓地，更为棘手的是要说明敌人在墓地里所处的位置。他们是分散的、躲藏起来的、东张西望的，还是站立不动，正沉浸在祈祷的宁静氛围中呢？不管怎样，雅金的计算机模拟系统最终推断出，程序决定不开火！类似的研究成果使人们相信，自主型军用机器人出现在军队中只是时间早晚的问题。最多15年至20年后，这样的场景就会成为现实。
小心战争升级！
研制军用机器人首先会得到民众的支持。出资用高科技手段装备军队的国家都明白，这样可以在打仗时不危及士兵的生命安全。在美国，人们很清楚民意对于阵亡将士灵柩返国的照片是何等敏感。可是，任何事物都有它的另一面。谁知道呢，也许在未来，即使对于最小的争端，超级大国也许会出动军用机器人来解决。“领海上有海盗？没什么了不起的，派机器人杀手去清理一下。”如此前景实在令人堪忧。因为，对手早晚也会装备军用机器人的！我们的确有理由害怕电影“终结者”武器升级的场面会变成现实，想想都会让人脊背发冷。
电影中的机器人为何反抗人类
电影青睐机器人，特别是那些以凶恶面目出现的机器人！它热衷于利用人类的恐惧心理，让我们在变成超级暴力狂的机器人面前瑟瑟发抖。机器人为什么如此仇恨创造出它们的人类呢？
宇宙静悄悄
拯救地球上最后一片森林
自上世纪70年代起，面对人口过剩、若干动植物灭绝、一些风景惨遭污染破坏等局面，人们开始对于自身给地球造成的毁坏感到不安。电影《宇宙静悄悄》就反映了那个时代，它讲述了园艺师弗里曼·洛威尔（Freeman Lowell）如何在两艘宇宙飞船里，悉心照料保存在半透明温室中的地球上最后一片森林。由于维持费用过于昂贵，人们命令机组成员摧毁温室，然后各自回家。洛威尔不忍心放弃这片地球上最后的植物。在始终不离左右的3个小机器人的帮助下，他杀死同伴，掌控飞船，将植物天堂装扮得分外美丽，直到遭遇一支援军……最后，园艺师因杀人罪被处死，而机器人继续守护着生态宝藏。
终结者复活
对于机器而言，人类是无用且危险的存在
机器人是人类未来的对手吗？科幻作家在很久之前就提出了这个问题。早在1872年，英国作家在小说《埃瑞璜·埃里汪奇游记》（Erewhon）中，构想出拥有意识的智慧机器，这个形象在漫漫岁月里不断得到充实。可是，直到美国推出第一本科幻杂志《神奇故事》（Amazing Stories），反抗的机器人才成为大众喜爱的题材。故事中的金属机器不接受奴隶身份，试图成为世界的主人。奇怪的是，电影开发这个题材却颇费时日。毫无疑问，把机械军团搬上银幕在技术上可不容易！科幻迷们直至1980年传奇的《终结者》问世，才终于在银幕上目睹人类与机器人之间大战。在今年6月3日上映的《终结者4》中，我们可以看到由人工智能网“天网”创造的怪兽世界，美军向其交付了核防御系统。由于认为人类无用且会妨碍自身发展，天网引发原子弹雨，毁灭了90%的人类。18年后，在《终结者2》和《终结者3》里受施瓦辛格扮演的机器人保护的约翰·康纳（John Connor），成为抵抗天网制造的头批机器人杀手的人类领袖。在水中、陆地上和空中，人类所在之处均遭到机器人的血洗。最大的威胁来自马库斯（Marcus），这个死刑犯在被处死后又苏醒过来，发现自己成了被试验的机器人。半人半机器人的马库斯是约翰·康纳的同盟还是敌人呢？到影片中去寻找答案吧！
未来世界
计算机故障使机器人沦为杀人凶手
在未来世界乐园，有钱的游客可以花钱住在中世纪城堡或古罗马式别墅里。赛过真人的古代人物都是机器人，游客可以模拟电影情景与之决斗。按照程序设计，机器人均以失败告终。不料有一天，程序设计错误使计算机操纵系统陷于瘫痪。由于缺乏安全系统，与游客对决的机器人将其角色扮演到最后，直到将游客杀害！最顽强的机器人杀手是个射击好手，它不知疲倦地追逐大屠杀中唯一的幸存者。后者只得与其斗智斗勇，来摆脱恶兽般凶残的敌人。片中机器人一角由演员尤尔·伯连纳（Yul Brynner）扮演，他滑稽地模仿西方人痴迷的影片《七侠荡寇志》中的人物，举止简直如出一辙！
大都会
人类社会有太多的不公
上世纪20年代初，德国大导演弗里兹·朗（Fritz Lang）来到纽约后受到莫大冲击。这座有着摩天楼和峡谷般街道的城市，在他看来好像出自科幻书籍。他注意到，有钱人在大楼的高层生活和工作，寻常百姓则蛰居在低矮的公寓里。高层被相同的社会等级占据，普通人的住处则贴近地面。回到柏林后，朗与电影编剧蒂娅·冯·哈布（Thea Von Harbou）构思了一部科幻传奇片。影片中，纽约成了传奇中的大都会，工厂主占据了豪华的高楼大厦，精疲力竭的工人在地下坑道内开动机器生产能源。学者鲁特旺（Rotwang）痛恨社会不公，制造出外表如年轻姑娘的自主式机器人玛丽亚（Maria）和鼓动工人造反的程序。就这样，机器人玛丽亚引导工人获得了胜利和自由！若是影片中的机器人让你联想到星球大战中全身金光闪闪的机器人C3PO，那可并不意外。因为，乔治·卢卡斯（George Lucas）创作时拷贝了弗里兹·朗的机器人形象！
Phillip K.Dick银翼杀手
机器人不想死
机器人是什么？这个词最早出自剧本《罗索姆的万能机器人》，是捷克作家卡雷尔·恰佩克（Karel Capek）在1920年编写的。他发明的这个词指用作廉价劳力的机械工人。在捷克语中，robota意指艰苦的工作、苦差使。戏中，机器人意识到自身在智力和体力上的优势，毁灭了人类，后来发现爱情，成为新世界的亚当和夏娃。美国人菲利普·迪克（Phillip K.Dick）重拾这个题材，在小说《机器人梦到电子羊了吗?》中，他虚构了“反叛的机器人”这一形象。这种机器人有血有肉，感官能力和体力大大超过人类，但寿命只有4年。小说被改编成电影，取名《银翼杀手》。影片表现了侦探追寻变节的反叛机器人的故事。这些机器人不愿很快就死去，它们攻击研制机器人的学者以求延长寿命。这个故事让我们想到什么呢？的确，机器人生命影射了人类生命。和机器人一样，人类也无法接受死亡，只是不知道该找谁算账。
2001太空漫游
相互矛盾的命令让计算机发狂
影片开始时，人们看到向木星发射无线电信号的月球地下巨型长方形地堡，从而第一次找到了存在地球外智慧生命的证据。18个月后，宇宙飞船“发现者”1号飞往巨大的行星木星，目的是与外星人会面。了解此行目的的唯一机组成员是飞船上计算机HAL9000。然而，绝对控制着飞船内部的Hal却过于完美。机器人恼于不得不对人类撒谎，但程序却规定它只能说实话。由于过于焦虑，HAL出了一些差错。对此，宇航员深感不安，决定再发生故障时断开它的电源。时刻监视机组人员的Hal明白遇到了威胁，它竟然决定逐个消灭宇航员！幸好，唯一死里逃生的宇航员终于切断了计算机的记忆电路。HAL为何要下此毒手呢？原来是为了不留下它撒谎的证据，在钻牛角尖的机器人看来，撒谎是不能容忍的罪行。实际上，机器人发疯而陷入精神错乱的状态，是因为人类给出了两个相互矛盾的命令。根据科幻小说家阿瑟·克拉克（Arthur C.Clark）原作拍摄的影片续集“2010太空漫游”，描绘了机器人设计师治愈机器人精神病的过程。
土星三号
为了追求漂亮女人
50开外的亚当（Adam）和他的年轻妻子阿莱克斯（Alex）都是学者，住在太空空间站研究应对人口过剩的新食品。名叫班森（Benson）的优秀研究人员来到两人温馨的小窝，本想对研究工作给予有力的支持，不料却把一切搞得一团糟。他试图制造出拥有人脑的机器人Hector，还给机器人输入了自己的记忆。不幸的是，班森是个危险的精神病患者，他的犯罪倾向和对漂亮阿莱克斯的欲望也一同传输给了机器人。不久，机器人便杀死了它的制造者，还追杀亚当，以便独自占有年轻的女人。可惜，有着一双金属手和机械小脑袋的Hector与罗密欧相差千里，浪漫的爱情梦想只能落个悲惨结局！
