【转载】人工智能，是时候和我们“对齐”了？

*本文为「三联生活周刊」原创内容

新刊出炉！点击上图，一键下单↑↑↑

「通用人工智能与超级对齐」

主笔｜苗千

在2023年4月，我们以《ChatGPT改变世界——重新认识工作》为题，对人工智能技术进行了一次封面报道。做那一期报道最重要的原因就在于ChatGPT的横空出世，让我们在惊奇之余也很快意识到，人类社会很有可能会因此发生改变——很多传统的工作岗位会迅速被人工智能所取代，一些新兴工作岗位则会随之出现。

时隔不到一年，我们再一次以人工智能为主题进行封面报道，就是因为在刚刚过去的2023年里，人工智能的发展以及它对于人类社会造成的影响都远超我们的想象。各式各样的人工智能已经成为很多人日常生活和工作的重要的助手。整理文本、多种语言翻译、编写计算机程序，以及生成文字、图像、动画等工作皆可通过人工智能来轻松完成。

刚刚过去的2023年，注定将以“人工智能大爆发”的年份而被人铭记。

《攻壳机动队》剧照

一年多的时间里，ChatGPT从3.5升级到了4.0版本，进步肉眼可见：它的知识范围从固定的数据库发展到可以自行上网寻找资料；它与用户交流的方式从单纯的文字增加到了图片，它不但可以解读用户发送的图片，更是可以根据文字描述生成图像……通过一台联网的计算机，在对话框内与ChatGPT进行交流，用户仿佛能够感到，与自己进行对话的是和自己具有同等智力，但知识范围和解决问题的能力又远超自己的智能体。

另一方面，人工智能研究领域远不像看上去那样平静。ChatGPT展示出人工智能应用的巨大价值。它的开发者“OpenAI”公司的估值因此一飞冲天，内部的几位计算机科学家成为世界级明星，OpenAI最大的外部投资者微软公司更是因此收获匪浅。

其他几家科技巨头不可能对此视而不见。尤其是谷歌公司，多年来一直被认为在人工智能研究领域处于世界领先位置。所谓“GPT模型”中的“T”，指代的是“转换器模型”（Transformer），使得人工智能模型通过文字进行学习——这项关键技术正是出自谷歌公司，如今被OpenAI抢了先机，只能寻机后发制人。

2023 年6月1日，机器人艺术家 Ai-Da 在2023年伦敦双年展上亮相。它是首个使用人工智能算法来设计家居用品的机器人

谷歌公司果然不负众望，在2023年底推出了自己的人工智能产品“双子座”（Gemini）。产品尚未真正上线，其演示视频就足以让人目瞪口呆。这款多模态大模型人工智能产品分为三个版本，根据谷歌公司的评测，其在32项功能的评测中有30项的表现超过了ChatGPT。除了在文字方面的输出看上去与ChatGPT不相上下，Gemini还展现出对图片和视频信息有着超强的理解和推理能力，同时可以针对提问给出混合着文字和图像的多模态输出——这是ChatGPT尚且不具备的。到了2024年初，谷歌公司的聊天机器人“Bard”已经融合了Gemini的能力。很多使用者认为，升级版Bard的表现完全不逊于ChatGPT。

差不多同时间，在2024年1月3日，一段由“DeepMind”公司和斯坦福大学的研究人员合作开发的“Mobile ALOHA”人形机器人（humanoid）在厨房和卧室里进行各种家务工作的视频开始在网上流传。这个所谓的机器人，实际上是一对可以在小范围内活动的机器臂，每秒可以移动1.42米，最重可以举起100公斤的物体。在视频中它们操作锅碗瓢盆、扫把、各种家用电器，乃至洗衣叠被的精细程度都丝毫不输给人类。

“Mobile ALOHA”的开发者解释，这款机器人的开发经费只有3.2万美元，视频中有些任务是由操作者通过远程控制完成的，有些则是由机器人通过模仿学习尝试完成的。虽然这款家务机器人的真实能力未必像视频中展示的那么完美，但已经显示出巨大的潜力——它可以通过“模仿学习”（imitation learning），从操纵者的远程控制中习得技能，控制能力将越来越强。此外，除了“Mobile ALOHA”之外，还有多家公司的人工智能机器人正准备上线。

2023 年11月6日，OpenAI 首席执行官萨姆·奥尔特曼在旧金山举行的首届开发者大会上演讲

一个世界级热门研究领域已经出现，全世界劳动力市场随之发生变动已成定局。我们似乎很难准确描述当今人工智能领域的局面：各大科技公司似乎都酝酿着推出自己的产品。这些产品各有特色，犹如当年的五花八门的手机市场。我们也难免去想象，在不远的将来，所有这些人工智能产品若是能够全部统一起来，形成一个具有超级智能的智能体，会是怎样的情形。

人工智能究竟已经发展到了怎样的地步，能够帮助人类进行哪些工作？我们可能很难得出一个全面客观的结论，但是从《自然》（Nature）期刊发表的一些文章标题就可以大致了解其中的一个侧面：

《使用AlphaFold进行高度精确的蛋白质结构预测》（Highly accurate protein structure prediction with AlphaFold，2021年7月发表）；

《这款由GPT驱动的机器人化学家自主设计反应并制造药物》（This GPT-powered robot chemist designs reactions and makes drugs —on its own，2023年12月发表）；

《DeepMind人工智能在未解决的难题上胜过人类数学家》（DeepMind AI outdoes human mathematicians on unsolved problem，2023年12月发表）；

《人工智能与量子计算的结合：它会彻底改变科学吗？》（The AI–quantum computing mash-up: will it revolutionize science?，2024年1月发表）；

《不依赖人类演示解决奥林匹克竞赛几何问题》（Solving olympiad geometry without human demonstrations，2024年1月发表）……

可以看出，人工智能的发展已经远远超出了语言翻译和数据整理的范畴，即便是在最前沿的科研领域也开始与人类科学家并驾齐驱。正如OpenAI的首席科学家伊尔亚·苏茨克维所说，人工智能模型在受到训练的过程中可以逐渐展示出训练目标之外的能力，例如多款用于科学研究的人工智能模型已经具有了极强的理解能力和推理能力。

2023年11月2日，英国首相里希·苏纳克（左）就人工智能相关问题采访埃隆·马斯克（TGP/alamy 供图）

人工智能模型甚至可以通过自动生成训练数据进行“自监督学习”（Self-Supervised Learning）。根据DeepMind公司的介绍，这款用于研究几何问题的人工智能系统“AlphaGeometry”将神经语言模型的预测能力与规则约束推理引擎相结合，两者协同工作。又通过开发一种能够生成大量合成训练数据的方法产生出1亿个训练示例，最终达到可以在没有任何人类演示的情况下训练AlphaGeometry，从而绕过了原始训练数据不足的瓶颈。

通过AlphaGeometry进行训练的例子可以看出，人类在通往达到“通用人工智能”（Artificial General Intelligence，AGI）的路上又减少了一个阻碍，或许最基本的通用人工智能已经出现。

尽管在研究领域已经是一个热门话题，但目前关于“通用人工智能”仍然没有一个清晰的定义。我们大约可以将其理解为一种可以完成多种工作的深度学习系统——这种系统在任何方面都可以表现得不逊色于人类。从这个角度来看，我们所处的时代，是人工智能开始崛起的真正起点。

《机械姬》剧照

正是因为还没有明确的定义，关于通用人工智能将在何时出现，仍是一个充满争议的话题，但大多数人都对此表现得极其乐观。例如杰弗里·辛顿和伊尔亚·苏茨克维都曾经表示，通用人工智能可能会在未来5年至10年的时间里出现。甚至有人认为，目前的ChatGPT已经可以算作最初级的通用人工智能。

当通用人工智能出现，对于人类来说究竟意味着什么？对于过去而言，这大约意味着人类在此前数十年时间里试图通过电子计算机建造出与人类智力不相上下的智慧体的努力终于取得了成功。不过对于未来而言，则意味着更大的不确定性。当人类早已习惯了作为整个地球的主宰，宇宙中唯一已知具有智慧的生命，又该如何面对这个自己制造出来的智慧体？

我们可以想象一下这个距离现实可能并不太遥远的未来图景：这个智慧体或许就存在于你的手机或是电脑中，甚至可能是某个陪在你身边的实体。你们之间可以进行毫无阻碍的交流，相互理解。它给你的感觉或许与身边的其他朋友没有太大的区别，但实际上它进行计算几乎不会犯错，它拥有近乎无限的记忆力，它理解了人类社会几乎所有的知识，拥有超强的推理能力。你希望它拥有和你相同的道德感和价值观，但并不确定；你希望它是你的朋友，但也同样不确定。

2023年10月26日，在德国马格德堡大学举办的“人工智能与声学节”活动上，人形机器人“Ari”与人们握手互动（ICphoto 供图）

人类需要确定，一旦人工智能具有了意识，通用人工智能成为现实，那么它必须具有和人类相同的兴趣和价值观，否则很可能给人类社会带来危害。从2023年7月起，伊尔亚·苏茨克维便开始在OpenAI领导一个为期四年的名为“超级对齐”（superalignment）的项目，要利用占到OpenAI20%的算力来研究如何驾驭比人类更聪明的人工智能系统。

人工智能的能力在很多方面已经足以媲美人类大脑，并且已经帮助人类取得了诸多成就。但种种迹象表明，这一切还仅仅是一个全新时代的开端。通用人工智能的前景美好，但与真正抵达尚有一段距离；要实现所谓“超级对齐”，更是需要人工智能的开发者、使用者，乃至各国政府、立法机构统一目标，从模型设计、训练数据、训练方法等多个层面对人工智能的发展进行约束。

无论还有多远，很多人已经开始翘首企盼这种全新智能体的出现。实际上，无论人工智能发展到何种程度，它都源自人类的设计，因此也属于人类智慧的延伸。人类对它唯有寄予最美好的期盼。我们期待，当有一天通用人工智能以一种平等的姿态出现在人类面前，它会友好地说出一句：人类，我是你的朋友。

更多精彩报道详见本期新刊

「通用人工智能与超级对齐」

点击下图，一键下单

本期更多精彩

| 封面故事 |

通用人工智能与超级对齐（苗千）
通用人工智能与未来世界（苗千）
人工智能对齐：不仅是个科学和技术问题（陈璐）
人工智能需要有更大的自主性（苗千）
让机器人通过“模仿学习”来完成复杂任务（苗千）
与生成式AI共同工作的一天（慕明）
面对“无所不能”的大语言模型，如何对症下药？（高品天）
戴上头盔，做更大的梦（陈璐）

| 经济 |

市场分析：2023年增长5.2%，2024年会怎样？（谢九）

| 社会 |

调查：“虚拟绑架”：电信诈骗的升级剧本（吴淑斌）
调查：中产小区的岗亭外：愤怒的临界点（夏杰艺陈银霞）
调查：董宇辉和他的“丈母娘”们（李晓洁）

| 文化 |

文化：许倬云：我要从世界看中国，再从中国看世界（李菁）
话题：意外走红的顶流拍卖官（张星云）
文史：聚珍版书（卜键）