谷歌警告！人工智能或在10年内超越人类，安全风险引关注

谷歌旗下人工智能部门 DeepMind 近日发布一份重磅技术报告，大胆预测通用人工智能 (AGI) 有可能在本十年结束前超越人类智能。这份题为《通用人工智能技术安全方法》的报告指出，虽然 AGI 的发展潜力巨大，但其广泛自主的能力也伴随着一系列复杂的技术、社会和安全风险，需要提前布局应对。

DeepMind 的研究团队在报告中明确表示，基于当前人工智能技术的发展趋势，他们“看不到任何根本性的障碍会限制人工智能系统达到人类水平的能力”，并认为“更强大的能力是一种严肃的可能性，我们必须为此做好准备”。这一论断无疑在人工智能领域引发了广泛关注。

与目前专注于特定任务（如翻译、图像生成等）的狭义人工智能不同，AGI 被定义为具备与人类大脑相似甚至更强的推理、规划、学习和行动能力，能够在各种复杂环境中自主运行。DeepMind 认为，虽然 AGI 将带来巨大的变革潜力，但也存在以下四大主要风险：

滥用风险：

AGI 可能被用于开发恶意软件、进行大规模信息操纵、实施自动化网络间谍和攻击等恶意行为。

不对齐风险：

即使没有恶意意图，AGI 也可能因为目标与人类价值观不对齐而做出不可预测甚至有害的行动。

技术错误风险：

AGI 系统中可能存在的漏洞、实施缺陷或训练偏差可能导致危险的后果。

结构性风险：

AGI 的广泛应用可能引发大规模的社会和经济变革，例如加剧不平等、导致大规模失业以及权力过度集中等问题。

面对潜在的风险，DeepMind 强调不能仅仅依靠泛泛的法规或良好的意愿来解决问题，而是需要具体且前瞻性的技术解决方案。报告透露，谷歌已经开始积极设计相关机制，以防止未来的 AGI 模型被恶意使用或发展出与人类利益相悖的行为。

DeepMind 提出了一系列主动安全措施，包括：早期检测模型是否正在发展潜在的危险能力（例如编写恶意代码、策划网络攻击）；实施更严格的访问控制系统；采用加密技术保护模型的核心数据；以及开发新的训练方法，使人工智能的行为与人类价值观更好地对齐。