【资料图】

人工智能（AI）潮流正席卷全球。很多人对AI技术的突飞猛进感到担忧，一封呼吁暂停开发更强大AI的公开信日前获得包括马斯克在内的上千名业界人士的联署。也有很多人看好AI的发展。比尔·盖茨就曾撰写题为“人工智能时代已经来临”的文章，并认为“应该将重点放在如何最大程度地利用AI技术及其带来的发展上”。不管如何看待AI，一个现实是，人工智能技术革命的浪潮已经呼啸而来，我们正在经历一场前所未有的人工智能全民大普及。

AI技术的这一轮发展带来的影响为何如此深刻而广泛？追溯历史，了解技术发展导致的历次社会变革，或许可以找到答案。

回溯10年，关注AI变革中的重大事件。2012年AlexNet在ImageNet竞赛中大幅领先传统机器学习方法，宣告深度学习的崛起；2016年 AlphaGo战胜人类顶级围棋大师，夺得博弈智能的圣杯； 2023年3月，多模态预训练大模型开启人工智能生成内容（AIGC）的大幕。从AlphaGo到如今，人工智能完成了从算法智能（AI）到语言智能（LI）的过渡，正向着想象智能（II）转移。如果说只会下围棋的AlphaGo是阳春白雪，那么能说会道的多模态预训练大模型就是下里巴人，人工智能技术从新闻中的明星进入普通人生活，人人都可能用上AI技术。

回看30年，重点看信息技术革命。20世纪90年代，万维网的出现使得PC互联，21世纪初的互联网创业大潮开始深刻影响人们的生活。2007年第一代智能手机iPhone上市，推动人类社会进入移动互联时代。从PC互联到移动互联是一次伟大的变革，通信交互人人参与，信息的流动无时不在。在此基础上，内容创作由专业制作（PGC）过渡到用户创作（UGC）。2021年以来，随着AI大模型的快速发展，人工智能生成内容（AIGC）成为又一个新的“iPhone时刻”，由此人人可以释放自己的想象力和创造力。

回看300年，看历次工业革命。18世纪70年代，瓦特制造出第一台实用蒸汽机，开启第一次工业革命；19世纪，法拉第、爱迪生、特斯拉等以发电机和电动机，开启第二次工业革命，推动人类社会进入电气化时代；发源于20世纪40年代的第三次工业革命伊始，维纳、图灵、冯诺依曼便奠定了计算机、智能、控制论的基础，90年代实现网络互通互联，人类进入信息化时代，五大洲成为地球村；21世纪20年代，大数据、算法、算力共同驱动的人工智能技术开启了第四次工业革命。根据马斯洛的需求层次理论，第一次、第二次工业革命满足了人的安全需求，第三次工业革命满足了人的社交需求，现在的第四次是智能化革命，来到了需求金字塔的顶层，帮助人们提升想象力和创造力，满足人们自我实现的需求。

智能化时代必然到来，也已经到来。在当前AI浪潮下，每个人都应积极了解AI技术的特点，抓住新一轮智能化带来的机遇。同时也需要认识到，技术是双刃剑，新一轮AI技术进入日常生活，将带来多层面的风险。美国总统拜登及其科技顾问委员会在4月4日举行的会议上就讨论了人工智能的“风险和机遇”。

首先，在个人层面上，使用AI生成模型作为工作助手，存在虚假信息制造和传播的风险。这一风险源于模型内容生成方法的概率特性，即生成的内容并不保证正确、真实，也不保证无害、合法。人们应该时刻认识到，使用AI工具之时，必须加以甄别、去伪存真。

其次，在社会层面上，随着预训练大模型的普及，其中蕴藏的偏见、失德、甚至违法的言论有可能广泛流传，危害社会良性发展。这一风险源于大模型的无监督自学习原理，其从多种开放渠道获得的学习语料良莠不齐。我们要加强大模型后期微调、对齐等方法的研究，最大程度防范大模型输出有害信息。

最后，在国家层面上，如果以上风险得不到很好的防范，也可能导致国家安全风险。这一风险源于大模型训练后期的指令学习和提示学习阶段，其学习基于人类标注员的演示、受到人类思想的引导，其中不可避免地会注入特定意识形态和政治偏见。对此，我们必须保持足够的警惕并做好相关的应对准备。

新一轮AI浪潮，带来前所未有的机遇和挑战。我们应认识到，AI在我们所见证的时代发生技术变革，对此要有“激动之心”；AI是科学技术发展至今的必然结果，对此要有“平常之心”；AI会让我们的生活更美好，也有可能形成对人类的威胁，对此要有“敬畏之心”。我们每个人都应当激起学好用好人工智能的“积极意愿”；同时也要看到我国AI发展与世界前沿的差距，增强长期艰苦努力的“不懈意志”。（作者分别是中国科学院自动化研究所复杂系统管理与控制国家重点实验室主任，中国科学院大学人工智能学院副教授）

关键词：