起航学习网

目前精英们对人工智能的担忧主要集中于可控性和失业方面。也有人在考虑伦理方面的问题。

对可控性的担忧其实有点科幻，短期做不到超出控制的水平的……毕竟目前的人工智能还处于“有多少人工就有多少智能”的阶段。

因为题主问的主要就在这个方面，那我就只讲这个方面好了，毕竟失业和伦理大家不是那么关注。

讨论这个问题，一定要明确两组概念：人工智能（Artificial Intelligence，AI）和人工生命（Artificial Life，AL），强人工智能和弱人工智能。（强弱人工智能是作为假说出现的，我这篇回答里指两个假说中的人工智能形态）

以下从人工智能和人工生命两个话题切入，并且穿插强弱两种人工智能的描述分析。题主在描述里的问题放在文末回答。

1.人工智能

人工智能（Artificial Intelligence），英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。 人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。

这是人工智能，许多码农在这个领域里挥洒着青春和荷尔蒙。

1) 人工智能应用的现状

目前对人工智能的应用其实相当原始。语言识别、图像识别看上去好像很厉害，其实就是那么几个算法拿语料库图像库训练出来的。这不是“智能”，而是对人类智能的模拟。

为什么这么说？上吧，中文屋！

“中文房间”最早由美国哲学家John Searle于20世纪80年代初提出。这个实验要求你想象一位只说英语的人身处一个房间之中，这间房间除了门上有一个小窗口以外，全部都是封闭的。他随身带着一本写有中文翻译程序的书。房间里还有足够的稿纸、铅笔和橱柜。写着中文的纸片通过小窗口被送入房间中。根据Searle，房间中的人可以使用他的书来翻译这些文字并用中文回复。虽然他完全不会中文，Searle认为通过这个过程，房间里的人可以让任何房间外的人以为他会说流利的中文。

中文屋是对强人工智能（机器拥有思想，能够独立决策）假说的第一次打脸（是强人工智能假说），Searle指出当时设想的绝大多数人工智能实现方案都不是强人工智能，而是弱人工智能（程序设计者预测会出现的情况，然后做出应对方案，由机器判断符合条件与否并加以执行）。

通过一套完整的流程（从字典里找对应的文字，然后翻译成英文，作答，然后用字典翻译回中文，发回去），一个不懂中文的人可以用中文回答中文问题，让屋子外的人以为他会中文。

这个人会中文吗？不会。

这其实就是目前人工智能在做的事情。

比如语音识别程序，其大致流程是：把声音中频率、音色转成数字，通过算法转化为一系列特征值，查找字典找到对应的文字然后显示出来。典型应用是Siri，Siri在语音识别的基础上加了一套应对。

Siri的表现让大家以为“这个程序听得懂人在说什么”，但其实这个程序听不懂人类说的话，它做的事情只不过是照着流程坐了一趟而已，不需要听懂你的话也能完成。真正听懂你的话的人是程序员。

<今年也请多指教。

>谢谢你，今年的充电也要拜托您了

大家都知道，后面那句话其实是程序员写上去的，是程序员在卖萌，不是手机里的Siri程序自发卖萌。

总之，这就是人工智能在应用方面的现状啦。这是一些不会自己思考的程序，设计者也没打算让它思考，实际上设计者也不知道怎样才能让它思考。它能做的事情就是按照设计者的安排，一步一步完成既定程序。

@klin 的回答在目前看来是多虑，神经网络模型最大的用处是配合各种数据库确定参数……也就是我在上面说的，拿来训练算法。神经网络模型虽然确实神奇，但并不是依赖于完整的智能才能实现，而是一套反馈修正的训练模式，并不是智能的本质。

2) 为什么目前人工智能只能做到这个程度？

原因很简单，人工智能是人类对“智能”的模拟，目的是实现某个人类能完成的工作，所以受人们对智能的理解限制。

即使配合上神经网络模型和遗传算法的训练，目前的程序也只能在“这个程序达到了预期目标但我也不知道它怎么达到目标的”方面让人吃惊而已，程序本身不会演化出崭新的能力（在我所知的案例中），即只会接受训练，不能创造新事物。

所以目前的人工智能只是工具而已。

2.人工生命

看完人工智能的描述会失望吧。

其实科幻小说里面描述的机器人拥有智能然后反过来统治人类什么的，跟人工智能的大部分领域不相关，主要跟人工生命的领域有关系。

人工生命(AL:Artificial life)是通过人工模拟生命系统,来研究生命的领域。人工生命的概念，包括两个方面内容：1）、属于计算机科学领域的虚拟生命系统，涉及计算机软件工程与人工智能技术，以及2）、基因工程技术人工改造生物的工程生物系统，涉及合成生物学技术。 AL是首先由计算机科学家Christopher Langton在1987年在Los Alamos National Laboratory召开的"生成以及模拟生命系统的国际会议"上提出。

在这里主要取用1）的定义，即广义的生命定义（强人工生命）。

强人工生命:主张"生命系统的演化过程,是一个可以从任何特殊媒介物中抽象出来的过程."(John Von Neumann). Notably, Tom Ray 在Tierra模拟试验中第一次展示了,进化过程在有着抢占计算机存储空间之争的计算机程序的某种群体中极易发生。

科普书《复杂》对此有描述。

人工生命涉及了广义的生命定义，生命在这里指代的是一个会对外反馈、自反馈的一套稳定系统。

比如一个炒股的人，这个人本身是一个生命，他会对股市上的各种现象做出反应，会对熊市恐慌对牛市兴奋；但这个由所有炒股者组成的股市也有类似的现象，中央银行调整利率汇率时股市会做出对应反应，经济危机时股市会萎靡不振，各类金融报道里会有“美国股市情绪相对稳定”之类的用词，实际上就可以把股市看做一个生命。

与此类似，单个蜜蜂是一个生命，一个蜂巢里整个蜂群也算作一个生命；一只白蚁算一个生命，一整个白蚁群体也可以算作一个生命。

实际上对人的个体进行切割的话，你会看到每一个细胞都有自己的职责，在微观层次上每个细胞也都是一个生命，一组细胞组成的一个器官也算一个生命，一组器官构成的人也是一个生命。

比较绕对吧……这是生命的广义定义，人工生命的定义基于此而产生。

比如一个程序，如果满足了广义上生命的定义，就可以看做是一个生命……也就是人工生命。

强人工智能（与前文弱人工智能相对）实际上必须基于人工生命才能成型，人们恐惧的也是强人工智能。

强人工智能要求程序有自己的思维，能够理解外部事物并自发做出决策甚至行动，其表现就像一个“人”一样，甚至很可能比人的反应更杰出、更可靠。（想到深蓝的知友请去面壁，深蓝和更深的蓝都是弱人工智能）

反过来，这些能够自行思考的人工生命，也有背叛人类的可能……甚至于很可能会背叛人类。

对于人工智能可控性的担忧主要就在强人工智能上。

但是这种担忧离二十一世纪初的我们还很远……目前对人工生命的研究仍然很原始，原始到所有的研究发现出来的东西都不知道能拿来做什么。

我觉得，这帮科技精英们有对强人工智能的担忧是很合理的，作为能影响人类社会科技研发方向的人，他们有责任提醒大家“这个方向上有狼往前走要小心”，有责任提醒大家人工生命的研究要在严格控制条件下进行。不过他们其实也没有很担忧，毕竟这玩意目前看来还是太科幻……

盖茨的发言已经能说明这一点了：

不明白为什么有那么多人并不担心这种技术对未来的影响

以及，比尔盖茨的担忧 竟是人工智能发展_TechWeb这篇报道的记者根本狗屁不通……盖茨担心的是强人工智能和人工生命，盖茨兴致勃勃在搞的是弱人工智能。

回答题主在描述里的问题。

Q: 这是因为人工智能要进入新阶段了？

A: 跟这个没啥关系。纯粹是因为特斯拉CEO马斯克跟媒体提到了这一点，于是人工智能变成话题了，其他人做出自己的表态而已。

Q: 这些名人是不是可能比较先得到信息，所以向人们预警？

A: 得到谁的消息？恐怖分子研发出强人工智能了？不要搞阴谋论啊……

Q: 或者是每年都有很多人提出这个问题，只是今年报道的比较多？

A: 应该这么说吧，确实是媒体的姿势水平不到位。

在学界，强人工智能有风险是一个不用讲大家都理解的事情，但是外界对此懂的太少，常常混淆强弱两种人工智能，这次马斯克一提出防范人工智能，媒体们漫天乱喊搞得跟个大新闻似的。换言之，这玩意在业内是常识，不会每年都有人提，这次捅出来给公众做了个科普但是没有科普到位。

Q: 人类跟人工智能之间，会不会出现类似三体里面的博弈？

A: 天知道……这也是大家在担心的事情。所幸离我们还远，通过图灵测试的程序还遥遥无期。

——————答案发布之前突然想到的——————

等等，该不会有人被前次的坑爹记者误导了吧？

电脑冒充13岁男孩 首次通过“图灵测试”（图）这根本不是通过图灵测试，只不过有30%的评委在五分钟交谈的记录中判断这有可能是一个13岁不懂英语的小孩而已。

够贱的。

而这玩意实际上仍然是弱人工智能：

这个程序实际上是一套人类对话的模拟脚本，从认知角度来说，它真不大能算得上是思考

通过图灵测试这个事儿吧，大家不要再提了，纯粹是媒体的姿势水平太低了。简直给人类丢脸。

文章出自：http://qh.itpxw.cn/ai/python/201737643.html

文章标题：人工智能带来了便利 何谈人工智能威胁



免责声明：本站文章均由入驻起航学习网的会员所发或者网络转载，所述观点仅代表作者本人，不代表起航学习网立场。如有侵权或者其他问题，请联系举报，必删。侵权投诉

(责任编辑：IT培训网)