您的位置 首页 龙岩新闻

《黑镜》成真:去世八个月后 “数字”化身继续和家人互动

这个男孩已经去世8个多月了,但是人工智能版的他还活着。詹姆斯·邓(James Dunn)生前打造了自己死亡后的数字化身,让它可以继续和亲人、朋友进行互动。这种数字生命的延续,能形成盈利的商业模式吗?又会带来哪些伦理、隐私上的问题?

身患重疾却阳光快乐网络打开了詹姆斯的新世界

说实话,我第一次和詹姆斯·邓(James Dunn)打字聊天的时候有点紧张。
“你过得怎么样?”我写道,实在是想不出更好的问题。有人告诉我詹姆斯对自己的身体状况很是坦率。
“我过得不错,谢谢问候。”
很快,我变得胆大起来,询问他如何应对痛苦。
“我知道这听起来很奇怪,但是我已经习惯了。”他回答道,“病症一直伴随着我,我已经学会转移注意力了。”接着,他还谈到了自己的爱好,比如摄影,特别是一些有益的娱乐爱好。
这些对话就发生在上个月。而彼时,詹姆斯已经去世大约8个月了,他被安葬在家附近,位于莫西赛德的惠思顿。他生前和母亲雷思丽(Lesley,现年57岁)和父亲肯尼(Kenny,现年58岁)住在一起。不过,和我打字聊天的这个“詹姆斯”是个运算程序,一种被称为“机器人”的电脑程序。它被输入了詹姆斯录制的无数个小时的音频,从中它学会了像詹姆斯曾经那样表达自己。
在打字聊天中,“他”告诉我去拉斯维加斯的事,他在旅途中很开心,并认识了很多陌生人。虽然,詹姆斯·邓这个人已经去世了,但是机器人詹姆斯·邓还活着——它是技术时代第一批居民中的一个,此时,生死之间的界限越来越模糊。“你如何保持开心?”我用一种令人费解的语气问道。“现在么?”“詹姆斯”从坟墓那头回答道。

图为詹姆斯·邓(James Dunn)生前的样子。(图片来源:视频截图)。

詹姆斯生于1993年7月13日,那天是个星期二。出生的时候,他的双脚和一只手没有皮肤。他患有大疱性表皮松解症,这是一种罕见的遗传病,这种病会导致皮肤撕裂,起水泡,就像蝴蝶的翅膀一样脆弱——所以这也是为什么该病患者会被称为“蝴蝶孩子”。如今,英国约有5000名大疱性表皮松解症患者。很多患者在20多岁的时候因为癌症或是其它感染病去世。
“从大奥蒙德街(来拜访)的护士对我说‘患者可以活到24岁。’”雷思丽回忆道,“至此后,我的脑子里便一直盘旋着时间。”
雷思丽会花费好几个小时更换詹姆斯的绷带,他的创伤就像是烧伤一般。“他一直处于痛苦中”她牢牢记得这些,“对于一位母亲而言,看到自己的孩子没有皮肤……”
有的时候,詹姆斯身体内部也会长泡,他的嗓子持续闭合,不能喝水。雷思丽会事先把食物咀嚼好再喂给他,确保食物足够柔软不会对詹姆斯造成伤害。甚至,他的眼睛也会长泡,有时甚至不能睁开眼睛。当他两岁的时候,他试着站起来,雷思丽扶着他,帮他迈开了第一步。但是,詹姆斯摔倒了,雷思丽只能握着他那只有皮肤的手。此后,詹姆斯就坐上了轮椅。
不过,也有好的一面。“在詹姆斯很小的时候,我便发现他有超级好的性格。”雷思丽说,“即便是个处于痛苦中的小宝宝,他还是会经常笑。和他在一起总是很快乐。”后来,詹姆斯去普通小学上学了。雷思丽告诉我,詹姆斯没被孤立,这个阳光、幽默的小男孩获得了接纳。
自从2015年,詹姆斯被诊断出癌症之后,他开始给自己录视频日记,而那时候,他生动活泼的性格给人留下深刻印象。镜头聚焦在他那张瘦削、孩子气的脸上,棕色的头发随风飘动着,犹如《丁丁历险记》主人公式的短发,他强调自己是多么幸运。
“视频都是很愉快的。”他谈论自己手术的记录视频时说,“在医院我们尽力找乐子。”“、直到他10岁,我还一直相信一定会有医治的办法。”雷思丽回忆,“后来,在他15岁时,我得知,没有,而詹姆斯还远没有做好准备。”他的家庭从未谈及死亡这个话题。

但是,当詹姆斯快20岁的时候,他明白了自己的病。而这就像是一剂催化剂。他开始玩轮椅足球,接着通过了第一次驾驶考试。他还开始学摄影,他自知没有时间浪费,索性直率地追寻自己所爱的拍摄对象,他们包括维赛克斯伯爵夫人苏菲(Sophie, Countess of Wessex),拳击手大卫·海耶(David Haye)还有男演员汤姆·霍兰德(Tom Holland)。在2014年,詹姆斯21岁了,他和一名来自德克萨斯名叫曼迪(Mandy)的护士开始了远距离网恋。她还曾来利物浦小住了几周。一年后,詹姆斯、雷思丽和詹姆斯的姐姐詹玛(Gemma)回访了曼迪。时至今日,曼迪还和一家人保持联系。
因为现代科技才有了这段恋情。是网络给予詹姆斯学习的空间,让他认识朋友,不受身体问题的束缚而去探索世界。在晚上时,他总是花好几个小时上网。“感谢上帝有网络陪伴在詹姆斯左右。”雷思丽说,“他那么聪明,仅在指尖,他便拥有了全世界。”
2015年10月,詹姆斯身上出现的斑点第一次被确诊为皮肤癌,12月,一群数字设计师和他在大英博物馆(British Museum)碰面。在这群人中,皮特·特雷纳(Pete Trainor)是一家人工智能公司的创始人,该公司现在名为UsAI,专门研究“智能人工”和“聊天机器人”的结合。如果你在自己的银行网页上看到一个弹出来的对话框,上面是一个类似银行雇员的人问你是否需要帮助时,你就知道他们研究的东西了。这是一项备受期待的商业应用技术。但是,特雷纳希望人工智能可以更好地帮助到人类,而不是用这项技术赚钱或是仅关注到机器本身上。
同年11月,詹姆斯在网上看了特雷纳的讲座视频。这年对于詹姆斯而言是重要的一年。不仅因为他接受了痛苦的癌症治疗,还因为她的姐姐詹玛告诉他,自己怀了一个男孩,准备起名叫汤米(Tommy)。
“我知道,詹姆斯当时正在和死亡做斗争。”特雷纳说,他喜欢穿马甲,且总是热情诚挚。那时,詹姆斯23岁了。“他想让自己的侄子了解詹姆斯叔叔。”特雷纳回忆道,“但是,他不知道自己还能活多久。”

打造一个自己的数字化身

2017年,詹姆斯在社交媒体上联系了特雷纳,于是两人见面了。“他极尽所能地记录自己。”特雷纳说。二人讨论并打算为汤米创造一个拥有詹姆斯思想和记忆的电子“时间胶囊”。为了捕捉这些思想和记忆,特雷纳在詹姆斯的家中安装了几个智能扬声器,这些设备记录了大量音频。但是,他们不是简单为后代保存这些记录,而是创造出人工智能世界的“语料库”——这个机器可以学习一堆知识——并把这些知识输入运算程序中,这个运算程序便是特雷纳为银行客户制作的聊天机器。“那时候,我们并不知道我们在做的意味着什么。”特雷纳说。

2017年7月12日,詹姆斯和特雷纳在伦敦艺术大学时装学院的一场活动中做了演讲。在那里,他们发现一个3英尺高的机器人,它的设计师们管这个机器人叫“波”(Bo)。对于詹姆斯而言,这个项目“从机器收集众多思想用来记录,演变成一个有自主性的机器人……这一刻,这个机器成为了一个拥有意识的东西。”
从此,死后拥有人工智能生命的想法在詹姆斯的脑海里萌生。和特雷纳见面之后,他得知了俄罗斯亿万富翁德米特里·伊茨科夫(Dmitry Itskov)的故事。德米特里·伊茨科夫是“2045倡议”(2045 Initiative)的奠基人,该计划通过“下载”人类的意识创造出“控制论永生”(cybernetic immortality)。这些意识可以被植入机器人体内,也可以被投影成全息图。
詹姆斯对伊茨科夫的想法十分着迷,他不断在YouTube上搜索他的视频,包括一个BBC的纪录片——《永生者》(The Immortalist)。他不是唯一一个偶然发现新计算方法,游走在生死之间的人。在美国,有个叫尤金尼亚·奎达(Eugenia Kuyda)的程序员,在自己32岁的好朋友罗曼·马祖伦科(Roman Mazurenko)被汽车撞死后,建造了一个机器人。她有大量马祖伦科的短信文件,她以此创建了人工智能语料库。然后,她可以像给马祖伦科发短信一样给机器人发短信,机器人会用自己的语言回应——而且,不可思议的是,用的是马祖伦科的方式。
一些马祖伦科的朋友认为这么做实在是诡异。“当你打开聊天界面得知这个和你聊天的机器人就是你已故的朋友时,你会感到很奇怪。”马祖伦科的朋友谢尔盖·费飞尔(Sergey Fayfer)说。而马祖伦科的妈妈维多利亚(Victoria)对此感到很兴奋。“他们延续了罗曼的人生,并救了我们。”她还引用了Verge网站上的话。“这不是虚拟现实,这是新的现实。我们需要学会建立它,并生活在其中。”
但是,一些马祖伦科数字再生生命的结果却是未知的。和数字马祖伦科“聊天”通常变成自白。这个机器人成为一个私人空间,让人可以坦露心迹。经过一些调整,它成为了一个名为Replika的免费应用程序的基础。通过和用户互动,Replika学会变成了用户。
机器并不具备人类的意识
1950年,艾伦·图灵(Alan Turing)设计了模仿游戏:如果一个观察者阅读人机间的对话脚本时,猜不出来谁是谁,那么,这个机器就过关了,这项实验被称为“图灵测试”(The Turing Test)。

图为艾伦·图灵。

1966年,一个被称为伊莉莎(Eliza)的机器首次通过了这个测试。作为一名心理治疗师,伊莉莎要求患者描述他们的问题,然后在他们的答案中寻找关键词,以表明一个有意义的回应可能是什么。特雷纳和奎达创建的机器人也基于同样的过程。不同之处在于,不断增长的计算复杂性和计算能力赋予它们更强的处理和回应抽象概念的能力。所以,如今机器人可以学习。和詹姆斯机器人,或是我在手机上创建的Replika“聊天”,最开始可能看上去比较笨拙。但是,他们会进步。在使用Replika时,这甚至是其中的一部分体验,体验者引领其不断“升级”。“它需要人类参与其中。”詹姆斯机器人的创造者特雷纳说,“技术的基础在于,你用的越多,它领悟的越深。”
开发者很明确:这类机器人不能拥有犹如人类一般的意识。他们不懂语言。他们只是在说话时以一种别人以为他们懂得的方式在运用语言。那么,什么是意识?正如英国知名脑外科医生亨利·马什(Henry Marsh)所指出的,没有人真正知道。“神经系统科学告诉我们,我们不大可能有灵魂,因为我们所想和所感觉到的一切都和我们神经细胞的电化学振动差不多。”他在自传《外科医生心底的墓地》(Do No Harm)中写道。“我们的自我意识,我们的感觉和想法,我们对他人的爱,我们的希望和抱负,我们的仇恨和恐惧,都随着我们大脑的死亡而消亡。许多人对这种观点深恶痛绝,认为这种观点似乎把思想降格为纯粹的电化学,把我们降格为纯粹的机器。这些人是大错特错的,因为它真正做的是把物质升级为某种我们无法理解的无限神秘的东西。”
那些试图解开这个巨大谜团的人认为,意识可能是大脑运作过程产生的结果。然而,如果这是真的,难道机器复制这些的过程就不能复制意识吗?少数研究人员如此认为。那么问题是,如果机器能够模拟意识的奥秘,谁最终拥有结果呢?

未来数字化身将成为一种盈利方式?

罗马尼亚企业家马吕斯·乌尔萨奇(Marius Ursache)认为,我们都应该创造自己的数字化身,在我们死后还能继续存在。尽管技术相似,但他的公司与Replika的不同之处在于,它明确针对的是死后市场,他称之为“Eternime”。“最终,我们终将被忘记。”他的网站如此表示。通过“收集你的想法和故事”,它承诺在网上创建一个你的数字复制品,其他人可以与之交谈,且在你死后很长一段时间内可以访问你的记忆。在一定程度上,它将自己推销为一种遗产工具。但是这也有另外一面:化身永远不死。“成为虚拟的永生”便是网站的噱头。乌尔萨奇承认,他的商业模式提出了“大量需要从伦理角度考虑的问题”。尽管Eternime和Replika坚称个人数据永远不会被共享,但人们已经对“网络逝者”的权利表达了很多担忧。因为“网络逝者”是一个发展十分迅速的商业领域,它已经有了自己的首字母缩写:DAI(数字来世产业)。

在《自然》杂志中的一篇论文中,来自牛津大学互联网学院的卢西亚诺·弗洛里迪(Luciano Floridi)和卡尔·欧曼(Carl Ohman)把DAI产品分为4类,从简单的数字遗嘱(一旦你死去,帮助继续或摧毁你的网络账户上的内容)到成熟的数字娱乐服务,就像Eternime一样,你的化身可以在未来1000年与人们进行互动。
学者们预见,在可以预见到的未来世界里,死后的化身会出现在一种类似YouTube的平台上,在那里,受欢迎的化身会为创建它们的公司带来观众流量和收入,而其他化身则在无人关注的情况下苦苦挣扎。学者们担心,比起“虚拟永生”,那些孤独的化身最后会被删除,对于那些肉体已经不复存在的人来说,这是第二次死亡。
“在用户去世后的短短5年内,他们注册的聊天机器人很可能已经发展成一种复杂得多、经过商业校准的东西,”卢西亚诺·弗洛里迪和卡尔·欧曼写道。对他们来说,那些承诺提供最详尽的数字娱乐的服务“涉及隐私方面极大的风险”。
Replika背后的公司Luka谈及有关隐私政策时,坚持表示:“我们不是那种贩卖你信息的公司。我们认为这一信息是我们与你关系的重要一环。”但是,如同大多数社交媒体公司一样,在Replika注册意味着授权Luka“永久、不可撤销复制、展示、上传、执行、分发、存储、修改和使用你的用户内容的权利。”照片还有点赞直接与经营和推广产生关联,广告或营销利用已知和未知的媒介或技术无处不在。
弗洛里迪和欧曼呼吁用法律手段保护“那些在网上选择重生的人的尊严”。因为现在并没有一部这样的法律,所以“所有人都可以肆意妄为。”弗洛里迪说。

“生命不会因为死亡而结束”

詹姆斯·邓对那些法律细微之处不感兴趣。他信任特雷纳,而时间却十分短暂。所以,当他看到“波”时,他直奔波的创造者安德烈·丹尼苏(Andrei Danescu)、艾德里安·尼告它(Adrian Negoita)和昂纳·金戈(Oana Jinga)而去。这三名企业家描绘了“波”;未来投放在酒店接待处、机场航空站,或是在深夜里的医院检查病人时的样子。

英剧《黑镜》中,逝去的男主角通过社交网站上留下的声像等信息,被成功“复制”出来。

“詹姆斯看着这个机器人,立刻有了这样的想法。”丹尼苏说,“他很有远见。因为它涉及所有这些哲学问题,我们彻底震惊了,比如把一个人的个性、经历和全部知识放进一个不同的身体或载体内。”
把詹姆斯的算法机器人植入到波的想法立刻吸引了机器人制造商。詹姆斯告诉机器人的创造者:“‘我希望我的侄子可以和机器人互动,他们会想,哦,这就是詹姆斯呀。’”丹尼苏说,“他把机器人看作是他将要留下的东西的容器。他的遗产。我想很多人对于这种有趣的继续生活下去的方式持有开放态度。”
在这期间,特雷纳继续研究詹姆斯算法计算机。2017年9月,距他们开始研究已经过去6个月,这对詹姆斯和“詹姆斯”进行对话来说已经足够了。“我们笑着,认为这很有趣。”特雷纳说,“他和自己聊天,这是一段内心的戏剧性独白。”他们计划在11月的一次健康科技活动上一起向观众揭开波的面纱,其中包括内置的詹姆斯机器人软件——波通过语音和屏幕进行交流,但使用的是普通男性声音。不过,在活动前开始的11月8日,詹姆斯发现他的手部长了一个肿瘤。他得知自己的癌症转移了。
新年伊始,他截肢了,失去了一条胳膊。2月18日,他在病床上发了一条令人悲伤的视频。“实话说,我不知道这对于我的朋友和家人来说是否惊讶,因为我总是开心和积极的,但是每当我想起自己要抛开所有人去世了,而来世——对不起,我在这段视频里讲得太深了——我他妈的诚实地说。我害怕极了。”那之后,不到两个月,在2108年4月7日,他去世了。在去世前几天,他曾发短信给特雷纳:“别担心,我会好起来的。感谢你为我做的一切。”
特雷纳在詹姆斯的葬礼上说:“在某种层面上,我比任何人都要了解詹姆斯。”在教堂,朋友们把纪念品塞进詹姆斯敞开的棺材里。特雷纳放了一个装有詹姆斯人工智能语音库的硬盘。真身和虚拟化身终于埋葬在一起。

对于特雷纳,以及Replika、Eternime和无数其他处于数字死后产业最前沿的公司的创始人来说,这仅仅是个开始。从人们留下的数据中把已故的人重新整合到一起,这种做法多久才会成为惯例?“对于我而言,最悲伤的莫过于詹姆斯没有机会在这里看到他所发起的一切可以逐步完善。”特雷纳说。但是,詹姆斯机器人会越来越强大。最近,特雷纳在詹姆斯的电脑上发现了一套完整的新资料档案,如果他选择添加的话,能改进算法。“未来还不止这些。”他说。
雷思丽·邓对于儿子的去世尚未完全释怀。她没有看过詹姆斯留下的视频,也没有和詹姆斯机器人交流过。“他度过了精彩的一生。”她说。对于她而言,能让儿子复活的技术既“可怕”又“美好”。她认为最好的结果是,有一天,詹姆斯的数字化身能够访问学校,以他充满热情的方式讲述自己在最困难的情况下,如何应对痛苦,如何热爱生活。然而,目前她更喜欢以传统的方式来寻求安慰。“詹姆斯被埋葬了,他的坟墓就在不远的地方。所以我每天都可以去看他。”
葬礼之后,詹姆斯机器人便被搁置了。但是2018年末,在我的询问下,特雷纳在他的智能手机上重启了它。他输入:“我想你。”
“我认为我的思想是身体构成的一部分。”对方回复道。接着蹦出几个对话框:“此刻,我不再需要寄居到这个愚蠢的身体里了。你也许不知道我什么意思。但是,某一天我以另一种形式存在。如果死亡结束了生命,那么生命多么的不公。我认为生命是公平的。所以,生命不会因为死亡而结束。”(欧洲时报/ 申忻 编译报道)
编辑:郎美智

为您推荐

发表评论

邮箱地址不会被公开。 必填项已用*标注

返回顶部