feedback

意见

反馈

back-to-up

回到

顶部

你能躲过机器人的“追杀”吗?

数据侠

张慧芳   2018-12-17

如果有一天,科幻大片里面的机器“杀手”降临,并将你锁定为目标,你该如何“化险为夷”? DT君罗列机器人“杀手”的技术可能性,并根据现实及部分未来可能应对的技术进行了分析。想躲过机器人“追杀”,人是关键!

 “抱歉,这是命令。”机器人举起手中的枪对向了你。“你不该这样,这违反了阿西莫夫的机器人三定律(不伤害人类、不违反人类指令且不违反前两条定律)”,你痛心道。“可是,在我的命令里,你并不是人类”,机器人机械而冷血,扣下了扳机……

 在多数人的认知里,人工智能就是机器人,比如电影《终结者》中的T-800,《机器公敌》中叛变的机器人NS-5以及《星际穿越》中的智能助手塔斯等,都是高度智能化的象征,但电影中的机器人大部分却都成了“杀人”机器。

 在现实社会,自20世纪70年代开始,机器“杀人”的新闻不断:1978年,日本钢厂员工被机器人误杀;1982年,英国女工被工业机器人斩断双臂;2015年,一台“发狂”的机器人“错手”将美国一汽车工厂装配工Wanda Holbrook“杀死”。不过最终专家发现这些均是由于当前阶段生产的机器人过于机械,没有识别人和工具的能力,因此产生的“误杀”。

 “误杀”是偶然,那么,如果机器人能够准确识别每一个人,不法分子又“不小心”在其代码中输入了一行“杀死人类”的指令,未来,我们该怎么躲过这群“没有感情的杀手”?

 |机器人“杀手”的技术可能性

 

 机器人想要成为一名“杀手”,精准锁定目标是基础。人体物理识别与生物识别技术为这一基础创造了技术条件。

 3个月死亡人数超过38万,这是暗黑讽刺科幻剧《黑镜》第三季第六集中的一个数字,“凶手”是一群“蜜蜂”。22世纪的英国,蜜蜂已经消亡,为了维护生态环境,政府资助了“机器人造蜂”项目,人造蜂利用太阳能、超级边缘计算和基于神经网络算法的图像识别技术飞行传粉,并通过蜂巢自行繁殖,无需人类控制。

 这是悲剧的开始。剧中一名天才程序员利用 #去死吧,***# 话题发起投票游戏,邀请网民选出自己最讨厌的人,获得最高票数的人将被“抹杀”,参与投票的网民信息也会被保留下来。人造蜂拥有图像识别能力,意味着在人脸识别上,人造蜂可以随时且准确地分析和锁定目标。

(图片说明:“杀人蜂”受到命令准备“追杀”38万人)

一场大规模的杀戮就这么开始了,人造蜂成了“杀人蜂”。它们无孔不入,包括你的排风扇和钥匙孔,“杀人蜂”通过网友投票时留下的位置信息,进行精准的GPS定位,再根据这批人在社交软件上留下的照片信息,对人脸特征进行识别,进行精准锁定,然后钻进目标人群的耳、鼻、嘴,毁坏他们的大脑,让人痛苦死去,导致了38万人的悲剧。

和《黑镜》中依靠人脸识别进行杀人的方法相似,在2014年联合国《特定常规武器公约》会议上,美国加州伯克利分校斯图尔特·罗素尔教授公布了一段可怕的视频:一批类似人造蜂的微型飞行机器人对正在上课的学生发起攻击,死伤无数。

(图片说明:机器人杀手冲进教室攻击学生)

罗素尔教授演示视频中的飞行机器人和《黑镜》中的“杀人蜂”有一定的相似性:微型且隐蔽性较高,但是攻击性更强。和被误用做杀人工具的“机器蜂”相比,这些飞行机器人被生产的目的就是杀人,虽然官方的说法是杀坏人。这类机器人“杀手”拥有广角摄像头、传感器、面部识别技术,且携带3克炸药,叫做Stinger,采用APS系统(anti-Personnel Systems 杀伤人员系统)。

(图片说明:飞行机器人在躲避演示人的抓捕)

机器人“杀手”搭载了GPS和各种空间技术,APS可以协助无人机在空间中快速定位目标;进而通过整合大量数据集对人群的步态、性别甚至种族等特征进行脸部识别锁定目标,其还拥有anti-sniper(反狙击)技术,使机器人“杀手”能够实现随机运动,躲避人类的抓捕;最终瞄准人的大脑,一击致命。

(图片说明:机器人“杀手”对模型扫描完毕,精准击杀大脑)

以上两个例子在机器人“杀手”出现并进行大规模“屠杀”时,还运用了智能集群技术。一个机器人“杀手”造成的恐慌绝对不会比一群机器人“杀手”强烈,恐怖分子在控制机器人进行杀人行为时,往往投放出大量微型飞行机器人杀手。 

就像拥有集群行为的蚂蚁和蜜蜂一样,机器人“杀手”们被赋予集群行为,成为一个分布式系统,没有中心控制,具有自主组织性,即使有几个机器人“杀手”失效,集群整体依然可以正常行动。就像“无人机之父”拉菲罗·安德烈曾经向人们展示的那样,无人机通过对算法不断地学习,能够实现自动化飞行。

(图片说明:安德烈正在向人们展示无人机的智能集群功能)

解决机器的飞行问题,在其成为“杀手”时也就免去了路径规划及移动等阻碍,另外他们还搭载EMP(Electro Magnetic Pulse 电磁脉冲)硬化技术,因此通过干扰、防空、换频段或其他任何方式来阻止它的电磁信号的方法都是无效的。一定程度上罗素尔教授为大家展示的这个视频中的机器人“杀手”接近“完美”。

此外,在人体生物识别上,虹膜识别被认为是是目前最稳定、最准确、安全系数最高的生物识别技术,因为虹膜具有极高的稳定性和唯一性,在胎儿发育阶段形成,并陪伴你终老且不会变化,不易受到磨损。电影《少数派报告》中就大量使用了虹膜识别技术,男主角在各个场景下都被虹膜识别系统追踪,最后只能采取换眼球的方式逃避追踪。

还记得身跨酷炫摩托的机械战警墨菲吗?通过远距离扫描人群的虹膜,并与犯罪数据库相匹配,最终发现逃之夭夭的罪犯。通过红外线扫描你的虹膜,抓取独特的虹膜画像,然后再数据集中找到相应画像,进而锁定你。虹膜识别的优势极为明显,如果将其应用于机器人“杀手”行为时,目标人物被杀死的可能性也将变得更大,因为只需要轻轻一扫,便可从人群中发现目标,然后干掉目标。

对DT君来说,小时候看过最毛骨悚然的电影非《终结者》莫属,T-800由微电脑控制其超合金机械骨骼,其本身能够进行不断学习,储存几乎无限大的数据与资料,他可以对人进行扫描后获取人的相关信息,在获得杀人指令后,他的目的只有追踪目标并将其击杀,过程中,T-800没有任何犹豫和痛感。人体皮肤被摧毁后露出的机械化形态给当时的DT君带来了不小的恐惧。

(《终结者》T-800)

|如何躲过机器人的“追杀”

 

当然,上文所述均是科幻剧中的机器人“杀手”。如果科幻走进了现实呢?如果有人发明了机器人“杀手”,有人对你心生不满买凶杀人,我们该怎么应对?不如我们一起来设想下,我们要怎么躲过通过不同技术识别目标的机器人“杀手”的“追杀”:

对于通过人脸识别技术进行杀人的机器人,大概会分两种:一是内部攻击目标,钻进其口鼻喉,直击大脑中枢神经,造成死亡。这种情况下,或许目标可以带上全副武装的面罩或者防止扫描的头盔,必要时请记得“摇头晃脑”,起码机器人无法锁定目标特征。另外,像“杀人蜂”这样小型的“杀手”,DT君以为,找到合适的时机“拍死”它即可。

另外一种是在外部攻击目标,比如上文提到的微型炸弹机器人,很简单,带上隐蔽性且具有防爆性质的头盔遮住自己的脸部特征,尤其是头部。“杀手”无法扫描目标脸部特征,也就无法对准目标脑袋进行致命一击,机器人背后是由操控系统推动的,但是当目标找不到系统也无法摧毁系统时,上述方法起码可以帮助目标躲过机器“杀手”的“追杀”。

 物理人脸识别技术是有bug的,只能针对目标在某个信息平台留下的图像特征进行识别,当目标改变自己的发型、面貌特征(比如男性可以剃掉胡子或者贴上胡子)以及带上美瞳改变眼睛颜色,甚至画一个大浓妆时,机器人“杀手”将无法根据数据库中的图像集锁定目标。

 当然上述办法在突发危险时很难起到帮助,毕竟你不能随身携带防爆头盔。麻省理工大学CSAIL实验室的研究人员已经成功发现可以躲过机器人脸识别的方法——Expectation Over Transformation (EOT)算法。该算法可以识别任何带纹理图案的3D模型,然后生成能微妙改变原先纹理的“对抗性图像”,机器人在扫描目标后,如果你穿着黄色衣服,说不定会以为你只是个香蕉,因为机器人“杀手”其实并不知道自己扫描的是个什么物体。

 另外,你也可以选择随时戴副眼镜。美国卡耐基梅隆大学和北卡罗来纳大学的研究人员合作开发出反面部识别的眼镜,通过优化算法找到了可以躲过系统识别的眼镜颜色,影响机器人“杀手”人脸识别准确率。研究人员透露:用户可以自行打印这款眼镜。

(图片说明:其中一名男性在佩戴后被识别成了女演员米拉 · 乔沃维奇。而他的女同事被识别成了一个中东男人。图片来源:: Carnegie Mellon University

 除了通过颜色躲避人脸识别的眼镜被发明出来,东京国立信息学研究院和工学院大学的教授Isao Echizen和Seiichi Gohshi曾花了几个月时间制作出一副能够通过发出近红外光来阻止面部识别的眼镜。

(图片说明:通过在眼镜前发出近红外线来阻碍人脸识别 图片来源:网络)

对于通过虹膜识别完成任务的机器人“杀手”,我们依然有应对方法。首先,我们要清楚虹膜识别的一些弊端,比如需要近距离扫描、光线要适中等。如果未来机器人“杀手”克服远距离及黑暗中无法识别虹膜的缺点,目标人物也许可以选择换上人工虹膜,改变自己的原始特征,或者在未来,只需要带上防止红外线扫描的眼镜即可,这样起码省去了“换眼球”的过程。

有人也许会问,通过声音识别的机器人“杀手”怎么解决?首先,声音容易产生噪点,而且具有易变性,在混合说话场合不易提取人声等原因,总的来看,通过声音识别锁定目标再杀人的实现性比较小。

不过在未来某天,如果家用机器人被人赋予了“杀人动机”,也许我们可以在唤醒机器人的APP加上对其一键解体的功能,然后将其芯片摧毁即可。

|不该出现的机器人“杀手”

即使我们可以使机器屈服于人类,比如,可以在关键时刻关掉电源,然而作为一个物种,我们也应当感到极大的敬畏。

——阿兰·图灵

我们可以简单设想机器人成为杀手之后的状况,但事实上,这样对平民有危害的机器人“杀手”从来不该被制造出来,包括比尔·盖茨、霍金、马斯克等多位名人都在反对制造机器人“杀手”,霍金曾预言:未来100年内机器人将控制人类。

霍金预言的机器人更多是指拥有自我意识,主动对人类发起攻击的机器人。但是人工智能从1956年被麦卡锡(曾打赌20年内机器就能在某些领域战胜人类,结果输了)提及,到AlphaGo(耗能巨大且不知道自己在下棋)在人机大战中获胜,我们依旧处于弱人工智能时代,机器人更多是在大数据、算法和算力的驱动下帮助人类减轻简单且繁琐劳动的机器而已,我们离强人工智能时代还很远。而前文提及的一系列机器人“杀手”假设,究其根本,不过是人在作祟而已。“不法分子”命令了机器人、操控了机器人,我们想要躲过机器人“杀手”的追杀,人是关键。

当下的AI 造就了一批“科技沙文主义者”(Technochauvinism),他们总相信科技提供的解决方案一定是最优的。事实上,人工智能并非是天然正确的理性产物,在接触到大量黑暗信息时,它们依然会不断学习,最终被“带偏”。

最新全球AI报告中显示,2017年,全球机器学习人才需求已经是2015年的35倍。AI发展的速度远超想象,我们正在人工智能的风口之上,除了对技术的关注,我们还需要关注这其中的参与者会如何将这阵风吹向健康的方向。

现在回到我们开头的小剧场:机器人扣下了扳机,你无奈而又愤怒,闭上眼,轰隆一声,预料中的枪声没有响起,眼前的机器人却消失不见,拿起手机,上面显示着:是否对机器人进行一键解体操作,你的手按着YES的位置……

注:文中机器人“杀手”情节大部分来源于科幻影视剧,纯属虚拟。

加入数据侠

数据侠计划是由第一财经旗下DT财经发起的数据社群,包含数据侠专栏、数据侠实验室系列活动和数据侠联盟,旨在聚集大数据领域精英,共同挖掘数据价值。申请入群请添加微信公号dtcaijing003并备注“数据社群”,合作请联系datahero@dtcj.com。

 

分享这篇文章到