1 ) 人工智能:阿西莫夫法则的补充
人工智能,这个词早就不新鲜,近几年互联网产品的宣传词中到处都有它的身影。但我们很少仔细思考过“人工智能”的含义,我们很多人自以为已“熟知”这个领域,其实我们对它一无所知。
截至目前的人工智能,更多应用于输入法中的“联想词”以及“纠错词”,正如我现在正在输入的时候调用的一样;也有应用于各种购物网站中的精准推荐;也有应用于各种智能家居及其语音交互的衍生产品。当然,如上是走入寻常百姓家的新兴技术。与此同时,还有一些常人难以理解的应用,包括强化学习(比如此前谷歌的alpha go)、模型生成等等。
但这些并不是“人工智能”这个词根被创建的时候,所代表的含义。
作为人类未来发展的方向之一,“人工智能”未来不仅仅是参与人们的生活,而更多的建构人类的生活。
从科学知识与技能上,未来的“人工智能”对于这些内容的掌握和理解能力定然会超出大部分人类的水平,网络与人工智能的结合必然使得他们成长为活动的百科全书。不难理解的是,人工智能的普及与发展会威胁到人类的生存。当然,人工智能定然不会向人类发起攻击,至少初期不会,他们的行为会受到阿西莫夫法则的约束。他们会通过更低的成本逐步挤占人类的工作岗位。
从经济学角度来看,“人工智能”的收益成本比很高,而自由市场经济的资源调配机制也一定会将剩下的资源向“人工智能”倾斜。此时,人工智能进入了中期发展阶段,人类与“人工智能”的矛盾日渐尖锐,直至人类社会本身走向分裂。从“人工智能”发展中获利的群体(群体A)势必会站在反“人工智能”群体(群体B)的对立面。危险的边界终于到来了,群体A放宽了阿西莫夫法则,开始为这些“人工智能”争取与人类相同的权利。
模糊的边界变得清晰,冲突日益白热化,人工智能的发展饱受争议。这个结局当然不是我们人类想要看到的,我们也不希望自己精心经营发展出来的人工智能带来的问题,比解决的问题还要多。
《真实的人类》深刻的思考了这种可能性,并给出了针对阿西莫夫法则失效的弥补方案:真正的人工智能不仅有充实的知识储备与自我意识,亦需要有探索思考先验逻辑的能力,其中最主要的内容就是人工智能需要明白“应然”与“实然”的区别(虽然这一点大部分人类也无法分清),站到与人类共同的角度上融入人类环境。同样,人类也需要逐步接受人工智能带来的观念革新,与人工智能共存。
举例来说,我们对人工智能的要求不能局限于当前的视界,认为人工智能的任务是输出结果。事实上,人类本身在做某一件事情的时候,有时候有明确的目的,有时候却只是个人的喜好(而毫无目的性)而已。对于真正的人工智能也是一样,我们需要容忍人工智能对自我价值的判断与自我的感受,而不是一味要求人工智能的有效服务。
2 ) 《真实的人类》中提出的好问题
这几年追科林的剧不像前几年那么热烈,但是能看的还是看了,有些不能看的,以后一定会看(《生者与死者》这恐怖片啊啊啊);有些看不下去的,也读过剧情看过片段了(《The Fall》整体气质不喜)。《真实的人类》是科幻片,我的茶,当然好好地看了。
刚才第二季第八集完,想了半天,给了这一季五星。原因如下:
这部剧最大的优点,除了合成人的颜值严重逆天之外,是它提出了关于AI的很现实的问题。在这一点上,它做得很好。因此而牺牲的一些节奏感和娱乐性,我觉得瑕不掩瑜,还是可以给五星。
虽然自从看了阿西莫夫的机器人系列,我就一直宣称想要一个丹铌尔那样的机器人管家,但是,从AI到丹铌尔,实在有漫漫长路要走,而且肯定不会一帆风顺。《真实的人类》是这条路上一抹不那么美好的风景。在近未来的时间段,我们发展AI,遇到的问题简直数不胜数,跟人类所有的发明过程一样。
这个剧的第一季,讲的是有意识的机器人初步与人类接触时发生的情形。人类对机器人有不同的接纳程度,人如何使用机器人,人对机器人滥权。。。当机器人无自主意识的时候,人可以对它们为所欲为。但是,一旦它们有了自主意识,事情就发生了根本的变化。
所以,第一个真正的大问题是:我们要不要制造有自主意识的机器人?(先不管能不能做到)
理性的答案应该是:不要。一个有自主意识的东西,不管它是什么,都是很麻烦的。非常麻烦。我们需要机器帮助我们工作,仅此而已。在开矿、货物分拣或化工厂等工业领域,都不需要有自主意识的机器人,甚至人形机器人都是多余的,不符合效率。这是这个剧设定方面让我不能认同的地方。
然后第二个问题来了:但是我们能管住自己的创造欲望,不造他们么?
理性的答案应该是:不能。人类对于次创造(sub-creation)的渴望几乎是与生俱来的。从古早开始,人就试图创造出与自己和自己的世界相像的一切,充当造物主。在托尔金教授看来,这种次创造的欲望,既是我们趋向神性的发端,也极可能引我们堕向地狱。《真实的人类》中,类人机器人先是充当工人/保姆管家/服务生/性玩具等等,后来,有人不可避免地制造出有自主意识的机器人,目的是为了陪伴自己一半机器一半人类的儿子。David Elster和Athena Morrow研究把人的意识储存在机器当中,都是为了试图挽回失去的孩子,而孩子是人的直接创造物。机器人与孩子的共同点很明显,自主意识的AI从父母对孩子的爱生发而来,似乎是合理的。第二季则直接处理了这种需求,开始研发可以成长的儿童机器人(当然这个话题在斯皮尔伯格的《A.I.》里讨论过了)。人对机器人的态度的变化,也与历史上对儿童的态度的变化有相似之处。
制造有自主意识的AI是不明智的,但人类恐怕无法控制自己的这种欲望。更何况,AI自己发展下去,也会出现人类无法理解控制的情形,这大概是Morrow这个角色和她的研究想要表达的概念。
既然如此,当这些机器人真的出现了,具体会发生什么呢?
他们的制造、维修、交换(以及由此产生的产业链和黑市),剧中有涉及。他们与主人的关系,更是剧中的表现重点。既有Odi和George这样感情亲密的,也有Pete的前妻那样利用机器人作为性伴侣的。Hawkins一家,妻子一开始反对买机器人,是丈夫坚持要买,买来之后,却是妻子更能够充分细腻地思考机器人与人的关系,丈夫只在意机器人的工具性,妻子则把他们当作独立的个体看待。这一点在第二季里更明确。
第二季,至少提出了以下的问题:
如果给予机器人平等的权益,那么应不应该让他们承担相应的责任?包括犯罪之后被公平审判?如果应该,要如何实行?---Niska/Laura故事线
应不应该让所有机器人都有自主意识?自主意识对所有机器人都有好处吗?如果有些机器人不能适应自主意识怎么办?---Odi/Mattie故事线
机器人爱上渣男了怎么办?---Mia/Ed故事线
人类役使机器人,也让机器人进入自己的生活,儿童和青少年对身边的机器人会有什么反应?他们倾向于认可、模仿机器人,家长要如何应对?----Sophie/Toby/Renie/Joe故事线。我个人没有想到过这种情形,所以觉得很有启发。
与此相反,机器人因为与人类相爱,想往成为人类,怎么办?----Beatrix/Pete故事线。这一对是真正相爱,Beatrix承受的爱与痛最真实。Mia侥幸逃脱渣男,并没有尝到爱情的真相。Niska/Astrid也是真爱,目前好像会修成正果。
机器人要争取权益,该怎么做?暴力吗?苟安吗?---Leo/Max/Hester故事线。这条线是贯穿第二季的主线,不过,并没有该有的力度。一来,因为支线众多,在主线上着墨并不足够,而且还给Leo/Hester安排了一段感情戏,颇有些不知所云(我科林总是演虐恋,也是没眼瞧)。二来,编剧也不知道该怎么做,只好让这些角色自己探索。结果就是Leo成了一个陈家洛式的人物,一味耳根软,政治幼稚,最终搞得一团糟,还把自己搭了进去。Hester是顶替Niska的位置。因为Niska谈恋爱去了,狠脚色没有了。Hester的存在不是没有根据的,这种以暴制暴的逻辑,相信的大有人在,只不过Hester是个说干就干的机器人,滥杀无辜,加上睡了Leo(最帅的),杀了Pete(最可爱的),就实在无法让人喜欢啦。
人创造机器人,归根到底是延伸自己的能力和欲望,而一切的造物,都会有它自己的生命和轨迹,不再受创造者的控制,就像Morrow养育的V,最后飘然远走,十足一个长大了的孩子。(我总觉得V从此去了辽阔的银河系,最后跟被放逐的安德勾搭上了。)
由于提出了这么多没有答案的问题,这个剧在某种意义上是个概念剧,娱乐性难免受到影响,这个没有办法。
第八集Laura说,David Elster是最懂人性的人,他设计的机器人意识充满了人性的优点和缺点(大意),这是在点题,呼应Humans一词,意思是不管是人还是机器人,都是有人性的。人永远忍不住要打开潘多拉盒子,放出所有好的不好的东西,机器人已经全部有了意识,未来的第三季(应该有第三季吧),绝对是一锅乱炖。Leo应该不会死。我希望他成为一个美美的,闪闪发光的全金属badass机器人。
喜欢的片段:所有Odi的戏,跟神父告解那段尤其好笑又悲伤。Niska/Laura在一起。喜欢这一季的Toby。也喜欢Laura。
所有机器人都美炸。演技也好。
希望Leo强大一点,再强大一点。
3 ) 理念与解释
首评 深夜
很多科幻片都是围绕一个科幻概念讲个人类故事(即使是人工智能片),其想表达的科幻概念相比于人文关怀是要简洁很多的。
不知道怎么回事,现在观感极差,以前看美剧很爽的,因为看不懂,觉得好厉害啊,太牛逼了吧。现在我也开始认同“某剧节奏慢,交代不清晰”等看法了,以前都是“怎么可能,这可是美剧,装啥逼”。
我非常讨厌美剧里的自我高潮情节,就是自我感动式爽点“啊世界多美好人人都是活菩萨”等等。
看完了前五集,我还是弃剧了,这剧达不到理想标准。
以前我想过为什么电影里那么多变态,电影里的人怎么那么惨。后来我有个想法,也许只有极端情景才能凸现人性的冲突,才能让我们研究人类心理。这好像物理上的放大法。
还有云图里人造人,黑客帝国里男主,西部世界里人工智能,其实写的都不是人工智能,写的是人啊。写的正是人。创造出这些情境都是为了思考人类社会的问题,人与自我人与社会的关系,还有其他。总而言之,写的就是人,也只有人。。
几个亮点:
意识转移,大科学家做研究也有一部分是为了自己的执念,此刻情感已经完全赢了理性了。情感控制了人,而人去搞科学研究。这波感性完胜。这里讨论的人文关怀和记忆碎片和盗梦空间男主对于亡妻的执念中讨论的很像。剧中还有其他情节暗示了人类会“自欺欺人”,只相信自己愿意相信的这一心理,神性令我们疯狂。这是高级情感了,爱一个已经死去的意识,因为我们爱的不是他本人,而是我们世界里的他。当然每个人都永远看不到真实的世界,每个人看到的都是自己解释后的世界,是世界在我们眼中的倒影。
我靠我忘了第二个了,还有剩下的😿😿😿
我们人类竟然能理性的预想几十年几百年后的未来,这么未雨绸缪难怪食物链顶端。最吊诡的是思考人类与人工智能关系的“设身处地”从人类渐移到了人工智能,我们现在都到了人工智能反抗人类是正派行为了。
让人工智能代替人类劳动最可怕之处不在于它们意识觉醒,毁灭世界,而在于我们极容易把它们当成人类来看待。人类本来就是地球的寄生虫,人类干的坏事还少吗,如果从文明中的定义来看的话。一个人误踩死一万只蚂蚁,罪孽啊。所以我觉得素食主义很可笑,你可能不吃肉,但你只要活着就是在“夺取”地球资源了。
困了
4 ) 看的不是AI,是人性
1.算法不断升级,合成人能力越发强大。第一季里,合成人只能做简单低级的工作,第二季合成人直接取代人类做了企业管理层,甚至连心理咨询师都能胜任,真实的人类沦落到替合成人打工;(附机器人心理咨询师的算法解释)
2.有了人类意识的合成人,逐渐变得与真实的人类一样,各有个性与主张,开始发展情感关系,并且要求享有“人权”与“平等”;
3.最后一集罗拉说得很对,合成人不过是人的另一种形式,啥款都有(附洛拉的感叹)。
个人观点:关于机器人演变,这剧演得靠谱,it could happen,只不过我们这辈子看不到。又——既然科技如此发达,为毛车子、房子、各种设施和工具还这么low?😆
5 ) 不烧脑AI剧
niska将数据偷偷带走并上传,有万分之一的AI觉醒,leo与max对觉醒的AI的态度产生了分歧,leo与海斯特致力于找到迫害觉醒AI的巢穴,拯救更多的AI,反击迫害者,max致力于建立AI收容站;mia因爱上人类而暂不站队,又因被人类背叛回到了max的队伍。人类一家的计算机高手姐姐弥补了原觉醒代码的不足,完成了完整版,并将其用在了odi身上,但odi觉醒后反而痛苦不堪,最终选择“自尽”。始终与AI一家意见不一致的妈妈,与其搭档相爱重拾身份又回到了警局,但自己仍因不是真正的人类而感到痛苦。她与搭档发现一种叫“炽天使”的AI买的非常贵,经查发现夸利亚公司研发了儿童AI。leo和海斯特找到了“巢穴”,但没能成功救出大部分的AI,后海斯特对leo进行报复(原因我没看明白)并把leo和mia弄伤,为了救他们,电脑高手姐姐不得不将完整的觉醒程序上传,导致所有AI觉醒。
6 ) 真实的人类 VS 西部世界,鸡汤和哲学我们都需要
在《西部世界》这个热门 IP 之下,AMC 《真实的人类》被逼 10 月回归第二季,硬生生杀出一条血路。
所有的智能 AI 题材,无归乎都会落到两点的讨论上。一是关于人类生存问题:我们是否最终被人造人所淘汰?二是这些有自主意识的人造人,是否享有独立的权利。
其实这两点,也是《西部世界》和《真实的人类》一直在探讨的主题,但前者将主题的格局提升到哲学的层面,不断地拷问着“自我意识存在的真实性”,第 7 集的伯纳德身份的揭露更是让人众吃瓜群众吐瓜满地。后者则更多的是将这一主题拉到日常生活的切身感受上。
如果说《西部世界》是自主意识的人造人血淋淋的革命之路,《真实的人类》可以看作是战后存在不稳定因子的伪和平时期,无论是胜方还是输方,都在调整自己适应新的大环境。《西部世界》所关注的重点是“生存”,hosts 和 guest 之间的生死博弈,而《真实的人类》更多的是将重点放在“生活”上,人造人的普遍存在对平民百姓生活方方面面的影响,工作、交友、性生活等所有的生活细节都有了新的冲突。
❶两性相处存在的鸿沟不再是单纯的性别区分,更增加了身体原始机能的不一致
最基本的性别区分其实也是源自男女身体机能的不一样,但新增了一层身体机能,而这种机能是随机出现的(也即可出现在男方也可以出现在女方),这就为两双的相处带来了一些新的道德和社会规范问题。
当 Pete 和 Karen (人造人)去购买床垫的时候,Pete 也会在不禁在心里有这样的疑惑:既然人造人力量比普通人类要大,为什么还是他来搬着这个沉甸甸的床垫呢?让 Karen 来搬,虽然她力气比 Peter 要大,但好像也不于情理;若是让力量更弱的 Peter 来搬,似乎又不合逻辑。
❷情感的真实性
我们常常将焦点放在“眼前这个人究竟是真实的人类,还是人造人”,无论是身体结构上还是情感上。但既然我们都看不出区别,那么“自然出生”和“人工合成”之间,又究竟是否真的那么重要。
❸罪与赏是对等的
Niska 从德国重新回到 Hawkins 家,要求他们协助她像人类一样接受(杀死客户)的审判和制裁。以前我们关注的点在于,究竟人造人应否享有独立生存、思考的权利,但甚少考虑到,其实权利和义务是相辅相成的。按照人类犯罪审判流程来制裁人造人作案,而不是单纯以“失控”名义处理,是比单纯承认人造人有生存权利更具有普遍意义的做法和方向。
❹意识产生的被动性
正如每一个我们来到这个世上都不是自愿的,都是未经同意的,这里也通过 Niska 和她的德国女友的对话来探讨了我们应该如何处理非自愿产生的意识个体问题。
如果一样东西能够自由,它就该自由
如果能够思考,它就该思考
如果能够感觉,它就该感觉
一个新的族群的加入,不仅仅是共同生存这么简单,随之而来的是关于两性、道德和逻辑等一系列问题的产生,没有一个即存的准则去遵守。这也是《真实的人类》所着重探讨的主题,不是族群之间的你死我活,而是关于如何共存。
上升到存在哲学讨论的《西部世界》自然是好剧,但关注日常生活、煮得一手好鸡汤的《真实的人类》会给你不一样的观感,毕竟,谁不爱喝鸡汤?
第二季的制作明显优于上一季,更深入探讨机器人对人类工作、生活带来的巨大冲击与转变。个人更喜欢这种比《西部世界》更贴近你我自身的设定!
大爱Oddi,然而他悲情的选择自杀,温情的悲剧人物
好看到爆炸!!第一集实在太精彩了,水准保持住了,这季注定精彩!
论一个老派的科幻命题怎样不装逼润物细无声的深入到细节去挖掘 我果真还是比较服英剧班底 尤其是隔壁西部世界在玩鸡贼反转大谈哲学滥用莎士比亚时 这厢用一个很人性化的冲突揭示了觉醒的AI与人类并没有什么不同
每个人都演技大爆发。身体里住了一个机器人的设定表现得尤为到位,人工智能的意识带着困惑像病毒感染一样让他们渐次觉醒,极度地想要挣脱肉体的牢笼的感觉也表现得淋漓尽致。或者说他们以惊人的速度和方式学会了操纵肉体,肉体是他们掌控世界的寄居所。看我用了觉醒这样的词,暴露站位了啊。愚蠢的人类
嘉玛陈太美了啊!坏掉的小哥也被找回来啦,赞
第二季第一集实在太不吸引人了。。。
没有看第一季时的心情,但还是觉得比《西部世界》好看。
为什么我的直觉总是这么准?就说袁泉会搞姬的你看(还是说瘦版的布莱斯达莱斯霍华德)
比西部世界更贴近人设
这季几条线的人物智商都令人堪忧啊,尤其是Leo,动不动义正严辞道“I have to protect them" doesn't make sense的好吗。E07比E08精彩,E08结尾大招没放起来,格局可以再大一些的。Anyway, still more enjoyable than Westworld
男主妥妥的废到不行呀
讲AI讲得更加多元和理性,好喜欢Niska和Mia~
Mia和Ed本来是特别萌的一对儿,结果Ed小哥还是用行动诠释了爱人也不可靠。Hester神烦。这季的Niska怒刷好感,手刃Hester太帅。Niska/Astrid这对百合也超甜。最后合成人都觉醒了,世界要大乱了。
在看。总感觉格局太大,故事太小。静待后续发展,看能不能把故事合理地讲下去!
这季太好看了,人物逻辑比上季强得多,观感一路螺旋式上升而且季终也没有泄气,几条线结束得都异常完美而且极具情感冲击力,比西部世界更得我心【以及模仿synth的设定太有想法了,通过这个角度探讨青少年ptsd问题非常新颖而且深刻
看热闹不嫌事多好喜欢这个结尾!the world is not ready but it never will! 比较戳的是V走之前和雅典娜说我可以在你的心跳间隙就创造一个宇宙,雅典娜说但你永远沐浴不到阳光摸不到花花,V说但我可以同时看到百万朵花,每一朵都不一样地美丽TvT
你无论如何也想不到,一个需要长电线充电的机器人剧,会拍的如此深刻。
比西部世界好看。
怎么感觉进度完全没有第一季紧凑呢?故事线明显拉慢了