欢迎您访问中国科普作家网!入会申请

网站已为协会会员开放的会员功能,欢迎各位会员注册及投稿!

不再提醒
关闭提醒框

中国科普作家网 China Science Writers Association

中国科普作家网»协会动态»《智爱2026》点映沙龙:科技伦理下的人工智能何去何从——繁荣科普创作之科幻电影沙龙2019年第1期

《智爱2026》点映沙龙:科技伦理下的人工智能何去何从——繁荣科普创作之科幻电影沙龙2019年第1期

中国科普作家协会 消息 2019-05-08 17:19

假如未来人人都能拥有一个人工智能的替身,世界将会发生什么?人与科技的关系,是科幻作品中一个永恒的主题。以人工智能与人的关系为题材的科幻电影可以为我们提供一个有关未来生活图景的预测,并且可以促使人们对当下人类智能技术的发展保持冷静的思考。由北京电影学院副教授吴兵老师担任总制片人的最新国产科幻电影《智爱2026》就是这样一部作品。

4月21日,《智爱2026》在中国科学技术馆举办了点映及微论坛,作为今年北京国际电影节“科技单元”的主题活动与大众见面。本次活动由中国科普作家协会、中国民营文化产业商会、中国科学技术馆联合主办,北京幻影无限影视有限公司、北京银翼文化传媒有限公司承办。

《智爱2026》是一部中国式情感伦理为主题的软科幻电影,总制片人吴兵提出了“未来现实主义”的概念,采取三段式的结构,通过三个独立的故事着眼于近未来时代,人工智能技术刚刚介入人类生活之后所带来的种种意外。与当今电影市场上流行的好莱坞大片式科幻电影不同,这部影片并未将重心放在用特效构建未来世界上,而是对准了司空见惯的日常生活场景,旨在引发观众对于近未来时代人工智能如何与人类社会共存、人类生活方式又如何被前沿科技改变的思考。

映后论坛以“科幻电影与人工智能”为主题,中国科学院自动化研究所研究员及类脑智能研究中心副主任曾毅、北京电影学院副教授及导演编剧吴兵、中国科普作家协会常务理事沙锦飞作为嘉宾出席活动,并由银翼文化创始人马贺亮担任主持。各位嘉宾现场就人工智能技术的发展现状以及科幻电影如何与科技结合进行了多维度探讨,现场观众反响热烈。

 

一部“未来现实主义”影片的科幻源头

主持人:这部电影比较有意思,没有探讨太多关于人工智能的宏大主题,而是深入到了日常生活中。首先请吴兵老师来谈一谈创作初衷?像北京电影学院这样的专业院校一般比较注重现实主义,您为什么想到做一部科幻片并且以人工智能为方向?

吴兵:传统的专业院校都是着眼于现实主义,我们一开始用了一个词,叫“未来现实主义”。最根本的原因其实是我们都不真正懂科学和技术,绝大多数人都是科技的受益者。我们只是能感受它带给我们的影响,却不知道它能做什么,将来它还能做什么。因此,当这种技术在介入我们生活的初期的时候,它一定会给现实生活以及人类情感等各种类型的关系带来一个冲击。这种冲击是十分微妙的。从我们角度来说,想做这个片子主要是基于上述原因。

科幻离我们说远不远,说近也不近。在做这个故事创意的时候,我只提了一个要求,就是这个故事只能发生在技术将来而未来的时候,它刚刚进入人类生活的时候给人们带来的那种困惑与尴尬,而不能是技术特别成熟了之后。我们绕了很多弯路,资金非常少,但最终把想讨论的问题很清楚地呈现了出来。

主持人:近年来欧美的科幻电影也越来越关注近未来,就是按照现在的技术水平推演出未来,《智爱2026》也是这个路线。现在请曾毅老师来谈一下对这部影片的观感,然后谈一谈现在人工智能技术的发展现状。

曾毅:在我看来,这部影片讲述的是,三个不同生活状态的人遇到人工智能之后,他们的生活发生的潜移默化的变化,也许是冲突,也是对人性的重新拷问。片子辐射到了不同人生阶段中人类和技术的不同程度的交融。至于从科幻的角度或科学上是否是扎实的不是最重要的,更重要的是电影给我们带来的反思是什么。

当一部包含有人工智能元素存在的科幻电影,把没有发生的事情呈现在我们眼前的时候,可以让我们去深度思考。这样的作品越多,我们未来对于人工智能的准备就会越充分,接受程度就会越高。

其实很多做人工智能的人最怕的是见公众,因为公众问的问题是如此之简单,但是我越来越不知道怎么回答。如果人工智能的研究者们只精于技术,却没有意识到像这样的一种技术会对未来人类生活产生很大的影响,那么这就是一件危险的事情。因为极少关注社会的人做出来的东西,一旦要在社会上很普遍的场景去应用的时候,研发者对其中的风险几乎没有任何的预知,这意味什么?大家可以想想为什么近两年的人工智能的社会伦理安全的问题会这么凸显。从某种程度上来讲,你可以说这得益于我们从越来越多的科幻作品得到的反思。

 

目前人工智能的情感都是假的,但科技伦理值得深思

主持人:关于人工智能题材的科幻电影,好莱坞大片也有很多尝试。但是《智爱2026》这个片子最吸引我们的就是都跟伦理有关系,例如母子关系或者夫妻关系。关于人工智能与科技伦理的话题,先请沙老师来聊一聊。

沙锦飞:最近几年我做了一些科幻电影相关的工作,其中人工智能是思考最多的方向。去年想拍一个关于人工智能的电影,当时我提出,人和人工智能的冲突应该怎么设定?人和人工智能最本质的区别是什么,怎么才能准确找到冲突的点?这是一个很核心的问题。

思考之后,我觉得这两者最大的区别在于:人类情感的获得是先天的,由亲子关系传承下来,而人工智能是通过事先设定的自我学习方式获得人类的知识经验,但是情感却不是可以通过学习而后天获得的。这部电影里的设定比较符合我对人与人工智能在本质上有所区别的观点。

我一直相信科学技术对人类今后生产方式和生活方式都会有巨大的颠覆,最可怕的将会是人工智能获得人类一样天然的情感然后遗传下去的时候,当人工智能有了情感,这才是对人类是最大的威胁。

曾毅:目前在人工智能领域,我们所看到的人机交互过程中所谓的情感其实都是假的。人工智能是基于数据的学习最终表现出来的看似有情感的行为,这还不是真正的人类的情感。目前看似人工智能技术的各方面进展都非常大,但是我们要有能力去辨别他们是不是真的拥有像人类一样的情感,也就是真正基于自然机制构建的人工智能系统。从这个角度来看,进展几乎为零。现在有一些研究方向叫做情感计算,或者社交机器人甚至恋爱机器人。我认为这些都是对人类情感的亵渎,这些人工智能在对人类情感机制上的追求是没有。

这个影片探讨的伦理问题是值得好好讨论的一个事情。第一个故事主人公的太太买回来这个机器人,主人公是否接受这个事情?没有一个协议。这是人类被动接受机器人的服务,这时候发生的冲突有不可预期性,甚至他会怀疑是不是有人在另一端进行监视。这实际上是一种人类对新技术毫无准备的表现。

人工智能的奠基人之一马文·明斯基(Marvin Lee Minsky)曾经说:“问题不是人工智能可不可以以有情感,而是没有情感的人工智能你怎么可以称它为人工智能。”因此,在人工智能的开拓者们的眼中,情感是智能必要的部分,没有情感的人工智能可能对于社会来讲是非常可怕的一件事情,是不可预期的事情。

在第三故事中探讨的伦理问题非常尖锐,一个人工智能机器人可以做你的替身吗?很多地方也让我质疑自己的工作。举一个例子,我先克隆自己,然后在我死后让他可以代替我陪伴家人,这是一件非常美妙的事情,我会愿意它发生。但是现实中,在我死前这段时间,如果我存在他也存在,我应该怎么看待我们之间的关系?

当这种冲突一旦出现的时候,人类的邪恶的一面是很容易出现的。我有一个社科院的朋友曾经跟我说,你做拟人化人工智能的研究方向是完全错误的,因为全世界最坏的生命就是人类,人类有很多美好的情感,但这也是偏见与歧视的根基,没有比人更坏的生命了,如果不仿人可能还会好一些。但我同时又想起了我的学生,他说人性的恶也定义了人类,我们就是这样的生物,善与恶同时存在。

当冲突产生时,我们是不是能接受这些关于人性善恶的观点呢?显然影片中也没有接受。这段故事中的老师一角拥有很强的共情能力,能够站在你的角度换位思考,这是人类非常高明的能力,是只有高等动物才能表现出的状态。当机器人老师充电之前,主人公没有任何觉察他有什么问题。但当她看到一个机器人展现出利他、共情等能力,她的看法发生了翻天地覆的变化,以至于最后她觉得人工智能人在代替人类期间存储的数据不应该删掉,这也是属于“她”的记忆。这就是我觉得电影最能引人思考的地方。

影片中这三个人工智能只有基于大数据产生的对情感的“理解”,但没有产生基于人类机制的真正的情感,所以说人类的情感是与生俱来的,机器学习不来。而当人类已经将情感寄托在人工智能身上,或者开始把他们当成人类的时候,人工智能自己有没有准备好这是非常严峻的事情。

 

在科幻与科技的博弈中寻找人工智能的准确定义

主持人:曾毅老师在人工智能方面给我们上了一课,他的表述也点出了我们做这个沙龙的意义。他谈到科幻电影对他从事的科研工作的启发意义,就像科幻电影对技术的启发;反过来,技术的发展也给科幻电影提供了很多灵感。那么吴兵老师听了曾毅老师的发言有什么想法?

吴兵:我这是第一次和曾毅老师这样有技术背景的人探讨这个问题。很多人对科幻电影有一个习惯性的认识,那就是,虽然表面看起来是科幻,实际讲的却是现代人的情感。我们在创作过程中一直特别想找到新技术刚进入到人类日常生活中时,人们手忙脚乱的那种很尴尬阶段的事例。这个阶段对技术本身发展的探讨很有意义。

人类身上有邪恶也有美好的一面,好的一面需要恶的一面去映衬。从人工智能的角度来讲,技术可以达到相当高的程度,可以解放人类,真正进入智能的水平时,才是真正触碰到人性中立体东西的时候,人性中好坏之间的分寸感可能才是人工智能智能程度的呈现。

主持人:那么未来人工智能相关的算法有没有可能把人类复杂情感更好地模拟出来?

沙锦飞:再高级的算法也是拙劣的,都是通过大数据的模拟,它永远不能算出人脑的那种多样化、复杂性的表达。我觉得其实人类还没有准备好面对人工智能时代。这个电影解决了一个问题,在你在完全不知道的情况下,人工智能已经进入了一个家庭之后的情况到底是怎样。如果真的去解释,孩子长大后会非常受伤害。

人是非常复杂的动物,不能靠算法把人性、人脑的东西完全模拟出来,太理想太逻辑化的算法反而不能有生物性本身的表达,而人的混沌和痴愚其实是人生物性的体现,这也是人的弱点,有弱点也是好事。

曾毅:大家可能都知道人工智能的图灵测试。图灵一共提供了三种测试的方法,第一种是对话的方式,第二种是让机器下棋。此外,你还可以购买最高端的传感设备去打造一个人工智能小孩,让他去学英语,让他学习在环境中交互,让智能慢慢生长出来。在我看来,只有最后一种是真正和人工智能相关的。因为有时候看似智能的事情其实是简单的,看似简单的事情其实是最难的,这是人工智能技术研究了35年所得出的结论,也是非常值得大家去思考的。

对于这个问题,我的回答是,这要取决于你的途径。其实现在传统的专家系统和深度学习,都不是实现这个的方式。人类真正的智能来源于自我,一切对世界的感悟都来源于从自我出发的意识,然后对他人进行建模,以自己的经验模推己及人。

如果我们没有身体的话,自我是很难形成的,而且我要告诉大家,爱实际上是来源于触觉感官的。如果我们真的想去构建一个能够爱人的机器人的话,实际上是要先构建一个具有身体的机器人作为开始,然后像对一个小孩子一样培养它,而不是一开始就是成年人,这才是真正培养智能的形式。之前有一个日本专家说过,真正发育起来的智能,不取决于机器人,而是取决于人,在培养智能的过程中你会像对待一个一岁孩子一样对待他几年吗?包括我们刚刚谈到电影《人工智能》里也提到,就算我们能造出一个爱人的机器人,反过来我们对这样一个机器人的责任是什么,这才是我们应该反思的问题。

 

科幻电影需要的一个新工种:科幻架构师

主持人:关于人工智能的技术和科幻创作问题的互动,其实也说明了我们在创作科幻电影的时候,一方面需要有想象空间,另一方面也需要有严谨的科学知识支持。所以我想问问沙老师,从这部电影来看,您之前提过的科幻电影里的架构师应该怎么更好地在科幻电影创作中发挥作用?

沙锦飞:科幻架构师是我这两年提出的一个概念,因为科幻电影和其他电影真的不太一样,不光是科学性,还有怎么产生、怎么搭建。科幻架构师一般来说就是像曾毅这样的老师和一些脑洞大、有科学基础的科幻作家,沿着一个点去展开,需要架构师在创作最初期把整个科学和科幻的构架先编织出来,然后再去写故事。之前我们也搭建过“科影融合”的项目,把科学、技术、电影的资源都聚集在一起,也会开放实验室为电影创作者参观、服务。

主持人:科幻电影分很多种类,但是随着科学技术的发展,科幻电影和现实生活的关系越来越大。之前吴兵老师和沙锦飞老师分别提出过未来现实主义和科幻现实主义的概念,两位老师可以分享一下提出各自概念背后的思考。

吴兵:未来现实主义的逻辑是之前创作的时候提出的,科幻电影创作的时候,一想象就容易架空了,但是它和现实其实应该是有联系的。这个电影如果在2026年看,它应该是电视台播的“大城小事”——就是你所能想象的那个时代生活里特别平常的一件事,所以我才提出这个概念。我们用的是一个现实主义的方式,但是创作的时候特别需要一个科幻架构师,让他把未来先描绘出来,然后在这个构架里写故事,这样才能产生观众能够感同身受的东西。

沙锦飞:这些年我一直在想科幻是什么?科幻是在科学可能性的前提之下,在技术实现的未来社会的可能性现实之下,表现人和自然、人和社会、人和人关系的一种故事的写法,就是现实主义的。在科学原理和技术成熟的条件下,矛盾冲突是什么?科幻其实还是关于人的故事。

关于中国科普作家协会

中国科普作家协会是以科普作家为主体,并由科普翻译家、评论家、编辑家、美术家、科技记者,热心科普创作的科技专家、企业家、科技管理干部及有关单位自愿组成的全国性、学术性、非营利性的社会组织。

1978年6月,中国科协在上海召开了全国科普创作座谈会,茅以升、华罗庚、于光远、刘述周、高士其、董纯才、王子野、王文达、温济泽、王麦林、章道义等科教出版界领导人和科普作家、编辑家300多人发起成立了“中国科学技术普及创作协会”筹委会。

查看详细»

协会官方微信

微信二维码

文章部分访问量:613609人次

返回顶部
文章投稿
协会微信
协会微信

手机扫一扫,分享好文章