诺奖得主Hassabis：AGI影响规模与速度或为工业革命10倍，呼吁建立前沿AI标准机构

2024年诺贝尔化学奖得主、DeepMind创始人Demis Hassabis近日发表长文《前沿AI的框架与新时代的黎明》，指出通用人工智能（AGI）可能在短短几年内实现，其影响规模和速度将是工业革命的10倍。Hassabis认为，AGI将像人类发现电或火一样具有变革性，有望加速药物研发、开发清洁能源、创造新材料，甚至使资源不再成为人类进步的限制因素，开启物质丰裕的新时代。

核心观点与预测

• AGI临近：Hassabis称AGI“可能只需短短几年便会到来”，人类正站在“奇点的山脚下”。
• 影响量化：AGI的影响规模约为工业革命的10倍，发生速度也是10倍。工业革命历时一百多年，而AGI可能只需十年。
• 技术奇迹：他形容AI是“让沙子思考”的奇迹——硅基芯片在电流驱动下模拟大脑认知。

风险与挑战

Hassabis承认，前沿AI已带来网络安全挑战，未来可能涉及核安全、生物安全等高风险领域。随着模型能力提升，递归式自我改进系统可能使人类难以理解其决策。他强调，当前技术发展速度已超过人类对技术的理解，专家对AGI后果存在严重分歧，从乌托邦到灭绝风险不一而足。因此，他主张采取“审慎乐观”策略，在促进创新的同时强化安全。

前沿AI标准机构框架

Hassabis提议由美国牵头建立“前沿AI标准机构”，采用公私合作或行业自律模式（类似美国金融业监管局FINRA），董事会包括独立技术专家和开源社区代表。该机构将：

• 定义“前沿级”模型：基于一组定期更新的基准测试，达到门槛的模型需接受评估。
• 要求前沿实验室：发布模型卡、加强网络安全、审查关键岗位、投入安全研究。
• 实施预审机制：初期自愿提交模型提前最多30天评估，后续可强制化，未通过评估不得在美国市场部署。
• 测试内容：包括网络安全、生物威胁、智能体欺骗行为等，并强制数字水印和人类可读输出。
• 动态调整：评估基准每季度更新，机构可独立开发保留测试集，必要时协调全球实验室放缓开发。

深远影响与未解问题

Hassabis指出，即使技术难题解决，仍面临经济与哲学挑战：后稀缺时代需要何种经济模式？人类价值观、意义和目的如何重塑？他呼吁全社会共同参与定义新时代，而非仅由技术专家决定。他强调，AGI有潜力成为科学和医学的终极工具，但必须安全地“护送”其到来，才能迎来科学发现与人类繁荣的黄金时代。