正视AI才能拥抱AI

　　文︱何积丰 编辑顾佳贇

　　以AI为代表的革命，实际上是知识生产力的变革，作为知识革命，这在人类历史上还没有先例。

　　1950年，在人工智能启蒙时期，艾伦·图灵提出了著名的“图灵测试”，给出了判断机器是否具有“智能”的方法。受限于技术水平，当时的人工智能仅限于小范围实验。

　　20世纪50年代至90年代中期，人工智能发展处于比较缓慢的阶段，原因一是当时算力基础较差，二是整个过程依赖符号计算、计算规则而非数据。

　　第二个发展阶段是从20世纪90年代至2015年前后，AI从实验性向实用性转变，受限于算法瓶颈，无法直接进行内容生成。主要是以深度学习开始，建设小模型，每5至7个月要求算力提高一倍。

　　从2015年前后至今，人工智能进入了快速发展阶段。生成式大模型时代到来后，对算力要求是每1至2个月翻一番，算力基础已落后于科技发展的需求。这个阶段深度学习算法不断迭代，人工智能生成内容百花齐放，以AI为代表的革命，实际上是知识生产力的变革，作为知识革命，这在人类历史上还没有先例。

　　人工智能学习知识的速度是人类平均速度的1倍以上，人工智能检索知识的时间是人类检索时间的20%。预计2026年后，人类历史上所有有价值的文字数据，智能系统都可以自动消化。

　　人类创造了一种物种，比人类学习得快，比人类聪明，但我们有驾驭的能力吗？这是人类第一次遇到这样的问题。过去三次工业革命，所有的东西都是由人创造，人工智能在这方面有明显差别。

　　“无孔不入”潜藏安全隐患

　　据不完全统计，人工智能的行业采用率达到60%左右，与各行业的关系非常密切，可以说没有一个行业与人工智能无关。好的技术出现后，我们往往会担心安全问题。人工智能的安全隐患客观上会产生哪些威胁？这里从两个角度进行分析：

　　一是大模型开启了真正意义上的通用人工智能，人类如何去应对一个比自己更强大的智能？当人类创造出比自己更聪明的“物种”，是否有足够能力去驾驭？这个问题现在并没有明确的答案。有人担心人工智能可能比核武器还危险，需要降低发展速度；也有人认为人工智能推动人类进步，应该尽可能发挥其作用。

　　二是大模型的通用能力让其能够应用到人类生产生活的各个场景中，可谓“无孔不入”，一旦AI出现安全问题，其影响将难以预估。

　　AI的三要素分别是数据、算力和算法。关于AI的安全隐患早已存在，大模型时代的隐私安全问题涉及三个维度：首先，训练过程会涉及大量用户个人信息和数据；其次，使用过程会涉及很多用户私密信息，这些信息没有受到应有的保护；第三，生成能力让“隐私泄露”的方式变得多样化，也让隐私保护更加困难。

　　在提供大模型训练数据的过程中，虽可通过脱敏处理使数据更加抽象和类型化，但因为大模型可以进行跨领域的交叉推理，所以依然能够还原原始数据里的信息。

　　大模型阶段使用过程需要通过互动进行，系统会将交流数据和训练数据捆绑在一起，记录互动过程中的对话用于下一步训练。除了在训练过程、使用过程中可能发生数据隐私泄露，生成式大模型依靠语料库，还会按照“意志”对数据进行修改，而为搜索引擎建立的数据保护策略对大模型也无法奏效。

　　“对齐”要求更审视人类文化

　　为了应对安全隐患问题，需要对人工智能进行对齐（alignment）。“对齐”是指系统的目标和人类价值观一致，使其符合设计者的利益和预期，不会产生意外的有害后果。

　　然而在实际操作中，做好“对齐”会遇到两大类挑战：

　　一是对齐的基础——“人类价值观”是多元且动态变化的，对齐需要标杆，而全世界有很多不同的价值观。人类的价值和判定系统本身就充满偏见和矛盾，有非常多相互矛盾之处和没有明确指出的潜在条件。这导致“对齐”成为一项令人眼花缭乱的跨学科研究，不仅考验我们的技术，也在审视我们的文化。

　　二是大模型“有用性”与“无害性”两个目标存在冲突。“对齐”会发生另一个悖论。训练大模型价格高昂，例如一个几十亿规模的大模型，训练所需的电费在100万元左右。而要想训练出一个“不会犯错”的大模型，那么“什么都不回答”，选择“躺平”反而是最有可能实现安全性的——这就导致人们在大模型的可用性和安全性之间面临艰难选择。

　　目前，我们对大模型时代的安全问题依然“心里没底”，在“黑暗丛林”中到处都能感受到安全威胁，但我们找不到安全威胁的源头，往往只能通过打补丁的方法“就事论事”，找到对付眼前问题的答案，却没有系统的解决方案。

　　AI重构社会分工

　　AI正在重构社会分工。主要体现在以下方面：

　　人工智能的应用使得那些例行性的任务变得更加次要，一些工作将会由AI来完成。人们将专注于更高层次的规划和分析工作。未来的职场将会更加重视发现和解决问题的能力、创造力，以及批判性思维，还有主动学习和获得新技能的能力。客户互动、文书写作、代码编写、资料搜索与收集、数据分析研究等工作内容可以由AI取代，节省大量人力成本。

　　AI带来的价值增长，约75%集中在四个领域：客户运营、营销和销售、软件工程、产品研发。

　　在客户运营方面，AI可改善客户体验并提升客服生产力。例如提供客户自助服务、在初次交流时就提供解决方案、减少响应时间、促进销量增加等。

　　在营销和销售方面，AI能够提高个性化、内容创建和销售效率。包括高效的内容创建、充分利用不同类型的数据、优化搜索引擎、实现产品和搜索个性化。

　　在软件工程方面，AI可以作为编码助理加快开发人员的工作，将直接影响软件工程支出的20%-45%。这一价值主要在于可减少部分工作时间，如生成初始代码、代码修正和重构、根本原因分析以及生成新的系统设计等。每一次软件革新都会孕育新一代超级平台：从早期的windows操作系统，到智能手机的各种App Store；ChatGPT的诞生将产生一种新的社会工业性服务平台，有望成为人人可使用的社会基础设施。

　　在产品研发方面，AI可减少研发和设计时间，改进产品模拟。包括提高产品研发的生产力、加速产品上市时间、优化产品设计、改善产品质量。下一步，生物制药工程可能会大量使用AI促进实验，预计降低成本可达10%-15%。

　　AI与实体经济紧密相关，智能化发展中的应用和创新主要体现在三方面：

　　一是数字孪生。由于成本、风险等原因，我们无法对物理世界的规律在物理世界完成全部的相应实验。因此需要在虚拟世界建立数学模型，通过数学模型进行实验，观察对应结果和实际理想是否一致。在数字孪生方面有很多大模型技术在应用，例如数据汇集、实时数据驱动、仿真模拟、数字工艺配置、打通数据脉络、优化制造流程等。

　　二是智慧工厂。高质量发展的重要部分是新生产工艺、新生产方式。在智慧工厂，AI可以完成智能运营、智能生产、物流管理、工艺优化、库存管理、质量管理等工作。

　　三是工业互联网。我国是5G大国，据统计，目前已建成超过330万数字5G基站，为工业互联网提供了很好的设施基础。通过AI可以进行海量数据处理、云边端协同、分布式计算、网络协同、知识复用、实现全面互联等。

　　勇于拥抱AI

　　AI可对社会经济带来正面影响。预估算，AI每年可为全球经济带来2.6万亿-4.4万亿美元的增长，生产力可以提高0.1%-0.6%，相当于每年贡献一个英国的GDP。

　　AI也会对个人工作产生重要影响。例如，AI可以使60%-70%的工作实现自动化，对高学历、高收入的知识工作者影响更大。在人工智能不断改变人类社会的今天，人要专精自己的优势和专业领域，不断提高自己的专业水平，思考如何把AI应用到自己的专业中，提高自己的产出效率。同时，不断接收新信息、拥抱新变化，拓展自己的事业，接触更多的人和行业。

　　在未来一段时间内，AI主要研究方向可聚焦以下方面：一是解决软件和硬件的融合问题；二是跨行业的多模态融合；三是提升使用便捷度。大模型受欢迎的原因就在于可以使用自然语言。在人机界面使用自然语言是极大的突破，当界面越容易使用，使用者就越多，市场面也就更广。

　　（作者系中国科学院院士、华科智谷人工智能研究院院长）