起航学习网

人工智能的十字路口：继续狂飙还是急踩刹车？人工指南真的要停掉了吗？

想象未来，你和人工智能一起生活，无话不谈。你为工作劳碌，它会提供情绪价值和建议；你为晚餐发愁，它会教你做菜；你去海边旅行，它帮你规划行程……

不过，那暂时还是想象的世界。

回到现实，自ChatGPT发布，全球竞逐AI赛道，人工智能发展的速度，已超乎我们的想象。随之而来的是意大利封禁ChatGPT，各国加强监管，上千位科技大佬唿吁暂停AI训练。国内，各大厂对这个赛道的争夺逐渐白热化。一些雄心勃勃的创业者，孤注一掷投身其中。在很多领域，相关的人才成了抢手货，待价而沽。

但不可不认，人工智能已经走到十字路口，众多选择摆在人类面前：AI研发是继续狂飙，还是踩下刹车？政府该放任还是监管？是创新在前还是伦理优先？

我们找了几位人工智能领域大佬聊了聊。

是继续研发还是暂停？

最近几个月，全球对AI白热化的研发，陷入一场了“失控”的竞赛。

仅一张草图，GPT4就能生成一个网站代码；文心一言10秒钟画出一幅插画，Midjourney一句话生成视频，谷歌Bard接入更大的语言模型，“她”智能到有情绪、发脾气……更高智能的AI陆续出场，功能强大到令人害怕。

3月29日，包括马斯克在内的上千科技大佬发出的一封公开信，唿吁暂停训练比GPT-4更强大AI系统，让其黑暗面走到了聚光灯下：泄密、散布谣言、取代人的工作、威胁人类生存。

一石激起千层浪，来自各方唿吁停止研发AI的声音，也变得越来越响亮。

3月18日，斯坦福大学教授科辛斯基在推特上疾唿：“我担心我们无法持久地遏制住AI。”被称为“人工智能教父”的杰弗里·辛顿也预言：AI消灭人类并非空谈。

到了两难的境地，全球对AI的研发，该继续狂飙，还是该踩下刹车？

中国科技大学教授、中国人工智能学会人工智能伦理与治理工委会主任、广东省科学院人工智能首席科学家陈小平告诉潮新闻记者，这个问题要从两方面看。

单纯从技术角度看，研发比GPT4更强的AI，技术本身不会有太大的危害。AI技术带来的负面影响，大多是在实际应用中发生的。如果把它“封印”在笼中，比如仅在实验室中研究和测试，它不会产生严重的社会性后果。

AI再强大，也有技术解决不了的问题。

从基本原理来分析，大模型技术有两个先天局限，且不能被彻底消除：一是判断真假的能力，二是对伦理的判断能力，比如什么是符合社会规范的，符合道德伦常，尤其是没有明文规定的那部分，它很难通过学习来获得。

“面临人工智能的新进展，当下治理的模式、治理的措施都没有跟上。如果此时再推出更强大的AI，很有可能带来更严重的隐患。”陈小平分析。

从这个角度，有人选择暂停一下，等新的治理模式和方法出台以后，再来有序研发，不失为一种更稳妥的方式。

“语言模型是一个很好的技术，是一个提高生产力的工具。但是，任何好的技术，特别是新技术的诞生，总会有风险。”中国人民大学高瓴人工智能学院教授卢志武告诉潮新闻记者。

打个比方，跟汽车代替马车一样，汽车开得飞快，时常会有车祸，风险比马车更大，但后期人们不断改进技术，减少了车祸的发生。

在卢志武看来，不能因为有风险，就把新技术禁掉，或者停止研发，它需要在跟人类的社会结合过程中去磨合、完善，慢慢把不好的地方改掉。

文章出自：http://qh.itpxw.cn/ai/python/2023202488.html

文章标题：2023年人工智能培训还能继续吗，都开始叫停人工智能了

免责声明：本站文章均由入驻起航学习网的会员所发或者网络转载，所述观点仅代表作者本人，不代表起航学习网立场。如有侵权或者其他问题，请联系举报，必删。侵权投诉