海纳百川

登录 | 登录并检查站内短信 | 个人设置 网站首页 |  论坛首页 |  博客 |  搜索 |  收藏夹 |  帮助 |  团队  | 注册  | RSS
主题: 河边 我看人工智能----兼答邑水寒网友(修改版)
回复主题   printer-friendly view    海纳百川首页 -> 驴鸣镇
阅读上一个主题 :: 阅读下一个主题  
作者 河边 我看人工智能----兼答邑水寒网友(修改版)   
light
警告次数: 1






加入时间: 2006/06/04
文章: 6100

经验值: 190821


文章标题: 河边 我看人工智能----兼答邑水寒网友(修改版) (474 reads)      时间: 2019-4-04 周四, 上午2:01

作者:light驴鸣镇 发贴, 来自 http://www.hjclub.info

河边 我看人工智能----兼答邑水寒网友

我看人工智能----兼答邑水寒网友(修改版)
本文前曾发出过,因为笔者的粗心,没有将写该文时用的一个旧的页面里面的无关内容清去,留下了很多让人看了不知所云的内容。笔者就此向已经读过该版的读者道歉!笔者将该文清理后又作了一些修改,是为下文,重新发出。
一、
读了邑水寒网友的文章(抱歉没有及时读到大作),我想就此从另一个角度来谈谈我对人工智能的看法。首先要说的是,我对人工智能的理解(即人工智能的定义)是:人工智能指的是人造的的机器,它具有人的智慧能力;通过这种智慧能力,机器就可以如人一样地生活,不仅可以做到那些依靠人的智慧才能做到的事情,甚至也能够复制自己。在上述理解之下,我认为现在我们看到的人工智能与人的智慧不是一回事,它算得上是一种智能,但完全不同于人的智能。因此,这里面牵涉到的重要问题是:究竟什么是人的智能(或智慧)?
邑先生说自己终于认识到,和人相比,“机器人永远都不可能拥有高等智慧,只能拥有低等智慧。” 但同时又说,人工智能可以通过 “最终形成一套完善的分析决策系统,来完成人类永远无法完成的庞大而复杂的任务。” 邑文这里所表达的观点显然是混淆的:如果人工智能系统能解决人类永远解决不了的问题,而这类问题的确包含了“分析决策”这样的智力因素,那就不能说“机器人不可能拥有高等智慧”。
邑文的结论是:“因此,人和人工智能只是互补关系,双方都是不可替代的。人擅长的是想象力创造力,人工智能擅长的是海量的精确处理分析能力。” 我以为邑文这段话把人的智能和人工智能看作两个不同的独立的智能,这就混淆了人的智能与其所创造的人工智能两者之间的主从关系,因此是对人工智能的认识在概念上的混淆,所以前面的认识才会出现自相矛盾。也就是如笔者开头所说,我们首先要弄清楚什么是人的智能然后才能来讨论“人工智能”。
人工智能是人造的机器,所作所为与人造的其他机器(工具)一样,都是为了扩展人的能力。工具有简单的、复杂的。简单的如棍棒刀斧,复杂的如飞机轮船。这些机器扩展的是人的肢体的能力,都需要人来操作。对于脑力的劳动,早先的工具如算盘就是简单的工具,帮助加快计算速度。后来有了机械式计算机,再后来有了电子计算机。这些机器通过少数人的操作可以取代很多人的数据处理工作,同样是增加劳动效率,不过是脑力劳动的效率。
再到后来,人们希望干脆造出具有整套人脑功能的机器来,把它装到 机器身上就成了机器人。这才有了“人工智能”的概念。如果人能够控制住这个机器人,要他完全按自己的命令工作,那就等于有了一个奴隶。不过对于人来说,以奴隶生活方式活着的人不是真正意义的人,或者说,人的智慧是天然地反抗奴隶式的生活方式的(但不等于不会被驯服为奴隶);又或者说,人的智慧的最主要的特征是生活在社会中的个体具有自由的意志,有了它,人才会除了有受因果律支配的行为之外,还有主动的学习与创造发明。而学习是人的智能的关键要素,没有学习就谈不上智能的发展与进步,也就不会有创造发明。
二、
“计算机领域的诺贝尔奖”图灵奖自2011年起(2012年颁奖)开始有人工智能方面的人物得奖。2011年的得奖者是朱迪亚-帕尔(Judea Pearl),得奖的工作是他在解决不确定性和相关的因果推理方面的算法上的贡献。今年发布的图灵奖(2018年)的获奖者有三位:本西奥、辛顿、勒求恩(Yoshua Bengio,Geoffery Hinton,Yann LeCun),他们的得奖都是因为在人工智能发展中做出了重要贡献。简单说来,他们的贡献就是发展人工智能的深度学习能力,也就是使得人工智的表现能更加接近人的智慧。其中一个重要的步骤就是模仿人的神经网络,建立机器的“深度神经网络”,并在此基础上建立相应的算法,使得机器具有类似人的学习能力。
颁布图灵奖的计算机协会(Association for Computing Machinery)配合颁奖专门在其网站上发表文章简单介绍了三个人的工作。由此可见,人工智能的研究已经开始向制造“机器大脑”方向发展。这不是一个幻想,而是实在的工作。因此,接下来的问题还是要回到本文开头的文题:究竟什么是人的智慧?
三、
现代科学的突破始于欧洲,英国这个地方又是这方面出了很多杰出人物的地方。这些人中,广为人知的是那些做出具体的理论与实践的突破的人。其实还有一些个人非常重要但却鲜为人知,他们是提供了梦想的人。他们的梦想给后人提出了宝贵的问题,以潜移默化的方式影响了科学的发展。从这个意义上说,回顾这些梦想对于我们理解如今的人工智能的发展会很有帮助。这些梦想如今通常称为“科学幻想”,大多幻想的是科学给人带来的美好的明天。
但第一部科学幻想小说却不是幻想科学给人类带来美好的明天,它说的是狂妄的科学家将会给世界带来什么样的灾难。这部小说发表于200年前的1818年,作者时年21岁,是著名诗人帕西-雪莱(Percy Shelley,1792年8月-1822年7月)的第二任妻子玛丽-雪莱(Mary Shelley, 1797年8月-1851年2月)。玛丽开始写此书时还没有与雪莱结婚,名字叫玛丽-古德温(Mary Godwin),不过书出版时已经与雪莱成婚,所以作者的名字就成了玛丽-雪莱了。诗人雪莱不仅是作者的丈夫,并且是该书第一版的序言作者。那部很多人都熟悉的科幻电影Frankenstein就是根据玛丽-雪莱的同名科幻小说《法兰肯斯坦》拍的。
《法兰肯斯坦》以第一人称写了一位研究自然科学的大学生维克多-法兰肯斯坦(Victor Frankenstein)如何创造了一个生命并与这个生命的互动的故事。1812年间还没有分子生物学,不过已经有了神经生理学的一些知识,其中电刺激导致肌电反应的现象是当时关于生命现象的一大谜团。维克多迷上了这个现象,发现电刺激能让死去的狗复苏,于是便进一步想到用强电来复活死人。于是他把死人的各部肢体缝合到一起成为一个完整的人体,把雷电引入实验室来电击这个他制造的人体,结果使死人复活,创造了一个新生命。
我手上有一本《法兰肯斯坦》的中译本(刘新民,2007年)。译者所写的“译本序”在笔者看来显然对于作者的思想有很多误解。对该作品比较好的注解,我以为要算著名的科学史作家Joel Levy所写的Frankenstein And The Birth Of Science (《法兰肯斯坦》与科学的诞生)。该书不长,其中介绍了很多玛丽-雪莱时代的科学进步的历史事实,以及这些事实与《法兰肯斯坦》的故事情节的联系,有兴趣的读者不妨找来一读。
玛丽-雪莱受过很好的教育,17岁时(1814年)与当时已婚的雪莱一见钟情,两人从此不能自拔,甚至不顾社会的反对而私奔。雪莱的原婚妻子1816年自杀后,雪莱与玛丽成婚。雪莱30岁时(1822年)死于海难,玛丽当时23岁,已经是《法兰肯斯坦》出版后的独立成名作家。玛丽在丈夫去世后回到英国,独自抚养与雪莱生育的唯一孩子,直到1851年52岁时去世,据诊断可能是死于脑瘤。
1831年玛丽为《法兰肯斯坦》的再版写了新版序言,其中介绍了该书的缘起,----雪莱和她一起拜访拜伦的故事(乔治•拜伦,George Byron, 1788年1月-1824年4月)。“有一次,他们(指雪莱与拜伦)讨论了各种观点,其中一点便是生命起源的本质,以及能否发现这一本质以创造生命。他们讨论了达尔文博士的实验(我不是说博士先生真的做了这些实验,我以前也没有这样说过,我只是说,当时人们传说他做过这些实验。我这样说也许更能表达我的意思)。他将一段细面条放置于一个玻璃容器中,直至它以某种方式开始作自发运动。然而,这样做并不能创造生命。也许一个生命体的各组成部分可以制造出来,再将它们组合起来,赋予生命,成为温暖之躯。”(摘自刘新民译本)玛丽的这番话说出了《法兰肯斯坦》的灵感的来源。
四、
当玛丽-雪莱写《法兰肯斯坦》时,除了达尔文关于生命演进的论述,欧洲的一些著名人物还早已就人性问题、心理起源、精神世界的存在等提出过重要问题。例如卢梭就问道:人的触觉、听觉、味觉、嗅觉等多种不同感觉,如果出生时就形成了,那就不须逐渐分化了。但是,实际上人是逐渐学会辨别不同的感觉的。那么,这些多种不同感觉是如何逐渐分化的?
再如莱布尼茨在自己发明的计算器基础上提出过“思维机器”(Leibniz’ Mill)问题:假定他发明的机械计算器发展成可以思考的机器,再将机器放大,大到可以让人走进机器去看机器如何运转,那个走进机器里的人除了看到机器在转动思考外,能够看到机器所产生的想法吗?莱布尼茨的问题若放到今天来说的话,就是:在大脑的神经细胞工作的同时,我们可以测到脑电波,但是在不同的个别大脑测到的脑电波都可以转译为同样的意识(如爱恨情仇)吗?
莱布尼茨还提出过一个“中国皇帝问题”,他问道:如果一位欧洲人把他以往的记忆全部抹去,让他去当一个中国皇帝,他会如何认同自己的身份?这话用今天的语言说,就是个人的身份认同究竟是如何形成的?可见那时候心理学尽管还没有诞生,但有关的雏形已经开始形成,玛丽-雪莱的故事中的情节就是建立在这些早期的科学探索的基础上的,因此才有了“科学幻想”的特征。
再说人工智能的研究,它现在的发展是朝着模仿人的学习能力,制作能够进行自学习,通过学习而使得机器的智能不断提高的人工智能。这里就有一个基本的问题:学习是从零开始(例如像儿童那样)还是从相当于人的智力发展的某个阶段开始?回答这个问题必然要产生两个相关问题:(1)从零开始学习的人工智能机器,其早期的工作环境如何设定?机器是要工作的,人工智能机器显然不可能从婴儿智能的水平开始学习如何工作。(2)如果人工智能机器从一定的智力发展阶段开始边工作边学习,这个初始智力水平该如何定?它会如何影响到后面的学习?因为人的学习的结果是开放的,并不是朝着一个“准确、不出错”的方向发展,通过给人工智能预设一个智力水平,那就不再是真正的对于人的学习智能的模仿了。人的智力的发展,用认知学的语言说,就是通过学习来发展自由意志,而自由意志的运用是无界限的,各种结果都有,所以人类文化才会“人上一百,形形色色”。如果运用人工智能的目的是更快、更准确,要排除人的“弱点”,那么模仿人的学习过程就没法达到预订的目的。
五、
就算不考虑人的智慧的“弱点”,如果人能够制造出与人的智能相同水平的人工智能机器,这个机器会死亡吗?死亡是所有生命形式都具有的特征,但只有人因为能够认识未来所以能够理解死亡,于是才会在这个基础上产生其他的各种相关的意识,生命才变得有意义起来。其他的动物有些尽管具有相当的智力,但都没有关于未来时间的概念,所以不会产生关于生命的意识。如果没有了死亡,人对于未来时间的认识就失去了意义,对于生命的意义也就失去了关心的必要。没有了这一点,人和动物的最重要的行为区别就消失了,人也就不再成为人了。
所以死亡在我看来其实是人的智慧的最大特征:建立在个人基础上的人的智力因为有死亡才会通过出生后的发展然后消失掉,再通过新的生命得以重新发展。以前的学习所获得的智力通过死亡固然会消失掉,但是又通过新的生命得以重新开始,去掉旧的,获得新的,个人的生命合在一起作为一个整体----人类----也才有了进步的可能。不会死亡的人工智能如果是模仿人的大脑建立神经网络来学习思考,那就会出现“大脑”塞满了的现象,成为顽固不化,失去了进步的可能。如果会死亡,人工智能的设计首先要做的就是了解人的大脑究竟是如何死亡的。
玛丽-雪莱看来是理解上面的道理的。她借法兰肯斯坦的口对教授他科学的教授说,“要了解生命,我先要知道什么是死亡。”
六、
邑文提出,中国由于人权保障方面的落后所以才会无所顾忌地拼命发展人工智能,但这个做法却又是好坏都有,它在一些方面却又使得中国的人工智能的发展走到了前面去。我以为如果把保障人权看作是一个社会伦理道德问题,邑文的分析似能成立。而如果把人权解释为诸如言论自由、信仰自由等人的基本自由,则人权问题不是中国拼命发展运用人工智能的原因。真正的原因恐怕在于现有的文化主体对于现代科学缺乏深刻的认识,同时过于相信人的力量,缺乏对于人的理性缺陷的理解。这不是一个仅仅与政府有关的问题,而是一个社会文化的问题,也就是说,大多数国人都是相信“科学决定论”。
如邑文说的“人和人工智能只是互补关系,双方都是不可替代的”这样的理解因此是建立在对于人工智能/人的智能的误解的基础上。人不可能发明一样机器以至于这个机器的智慧高于人,它懂得的东西人却不懂;或者说它与人处于同等地位的“互补关系”。人发明的机器都是用来做人指定的工作,人懂得这个工作如何做,但是因为固有的身心设计的特点而未必比机器做的好,发明机器是为了弥补人的缺陷,而不是让机器来教人懂得机器要做的工作的道理。
或许有人争辩说:一个雇主请来的人干的活,这个雇主未必懂得这个活,他只要付钱就行。为什么给人干活的机器干的活,人就一定要懂?答案是:机器是人造的,人是机器的造物主;给人干活的人不是人造的,人的造物主不是人。每个人都有学习能力,学习上走在前面的可以将自己所学到的与他人交流。人制造的机器是建立在人所了解的需要机器做的工作的基础上的,人不可能就自己不懂的工作来设计一个机器去解决问题,因为完成设计的基础不存在。
但是人的智慧的不完备使得人总会希望变成自己的上帝,成为自己的造物主。不久前发生报道的中国某教授运用Crispr技术改变胚胎的基因培养出新生儿的故事在我看来就是这样的例子。相比较而言,人工智能现在所能达到的“拟人”化还相当远。不过,200年前玛丽-雪莱想到的维克多的故事,自那时以来就随着科学的发展一直没有断过。
维克多少年期间对科学发生兴趣时就产生过很多别人看来很出格的想法。他回答人们的不解时说,200年前伽利略为着自己的想法还被教会迫害过,而现在人人都把他的看法当作常识。维克多身后又过了200年,现在的人们对于科学技术的魔力却已经不像维克多那样迷信了,知道科学回答不了的问题实在太多了。如果以绝对数量计算,人类已经解开的宇宙之谜比之200年前又增加了无数倍。如果以相对数量来计算,人解开的谜团与新发现的谜团相比,恐怕未必比200年前更多。
七、
绕了一圈,读者或许注意到了,笔者还是没有说清楚人的智慧究竟该如何定义。我曾经将人的智能定义为一种只能间接度量的品质,表现为所有的人类文明的总和。这就有点类似牛顿力学里的能量只能通过能量所做的“功”来表达。但是,人类文明是不断演化的,这是不是说,人的智慧因此是无法给出它的界定的呢?我尽管不知道这个问题的答案,但认为我们可以肯定地说,人的智能远远不止是与读、写、算相关的东西。凡是人的文化里反映出来的与智力有关的部分都是人的智慧,从裹小脚到“抓巫婆”,从骑马到登月,都是人类智慧的反映。随着人类文明的进步,人所从事的不同社会活动的种类越来越多。如果这个现象反映的是人的自由度的增加,那么人的智力的根本属性就是意志自由。
人所不知道的是自由的意志所产生的各种后果里,究竟哪些会给人增加自由,哪些会减少自由。-----因为自由虽然是个人的行为,但是它只能在社会里实现。因此少数人自由的增加不能以大多数人的自由减少为代价,那样做违反了人同时对于公平的追求。而人的自由意志是天然地有缺陷的。人工智能既然是人的自由意志的产品,因此一定是有缺陷的。或者说,我们要问的问题是:一种智慧是否能够制造出高于自身水平的智慧的机器?所谓的“科学狂人”,我以为就是那种法兰肯斯坦式的人,他们对于人的智慧确信无疑,最后必然走向“科学决定论”----其实就是对于建立了科学的人的崇拜。当一个社会里人的力量高于一切时,能够从人的内心来约束人的行为的道德伦理就不可能建立在对于高于人的智慧的超级智慧的信仰上,决定人的行为的力量于是就只有以强人的意志为最后依归,而单靠法律从外部来限制人是不能阻止维克多-法兰肯斯坦的出现的。
邑文里列举的种种关于人工智能现在与将来的应用,在我看来问题不在于这些应用本身,而在于它们今后的发展所追求的最终目标。一个完全建立在对于人的崇拜信仰基础上的社会,第一它不能建立法治从外部来约束人的行为;第二它所依赖的伦理道德的权威也就不可能超越于人的权威,终究要被个人的权威所代替,个人也就会失去了从内心来约束行为的力量。对于中国社会来说,上面两个问题始终没有解决过。对于西方社会来说,第一个问题的真正解决也不过是19世纪以来的事,而第二个问题一直存在着争论。即便如此,人也是总是有一个学习的问题,死亡固然可能消除顽固不化,但是也给后一代留下了一夜间回到原始状态的可能。玛丽-雪莱以她的《法兰肯斯坦》发表了自己的看法。玛丽笔下的法兰肯斯坦终于认识到了自己的狂妄,他死于自己的狂妄。200年过去了,玛丽的问题变得更加尖锐了。

作者:light驴鸣镇 发贴, 来自 http://www.hjclub.info
返回顶端
阅读会员资料 light离线  发送站内短信
显示文章:     
回复主题   printer-friendly view    海纳百川首页 -> 驴鸣镇 所有的时间均为 北京时间


 
论坛转跳:   
不能在本论坛发表新主题
不能在本论坛回复主题
不能在本论坛编辑自己的文章
不能在本论坛删除自己的文章
不能在本论坛发表投票
不能在这个论坛添加附件
可以在这个论坛下载文件


based on phpbb, All rights reserved.
[ Page generation time: 0.08119 seconds ] :: [ 28 queries excuted ] :: [ GZIP compression enabled ]