近期，科技界迎来了一份重量级报告，由谷歌DeepMind实验室发布的关于人工智能安全性的深入研究，这份长达145页的报告，不仅预测了通用人工智能（AGI）可能在未来十年内达到人类智能水平，还提出了一个令人警醒的观点：AGI存在“永久毁灭人类”的风险。
报告中，DeepMind的研究人员详细阐述了AGI可能给人类带来的生存危机，他们强调，这是一个全社会都需要共同参与讨论的重大议题，而非DeepMind能够独自应对的挑战。
尽管报告并未具体描绘AGI导致人类灭绝的具体场景，但大部分篇幅都聚焦于如何防范这些潜在的风险。研究人员将AGI的风险划分为四大类别：滥用风险，即人类可能故意利用AI进行有害行为；错位风险，指AI系统可能发展出非预期的有害功能；失误风险，源于设计或训练中的缺陷导致的意外故障；以及结构性风险，涉及不同主体间的利益冲突。
为了缓解这些风险，DeepMind提出了一系列策略，其中重点之一是防止滥用，并强调尽早识别和应对潜在危险的重要性。报告还微妙地对竞争对手如Anthropic和OpenAI的安全策略提出了批评。DeepMind认为，Anthropic在AI的训练和监督方面做得不够，而OpenAI则过于专注于对齐研究，即确保AI的行为与人类价值观一致，却可能忽视了其他潜在风险。
这份报告不仅揭示了AGI可能带来的巨大风险，也引发了业界对于如何平衡AI发展与安全性的深入思考。面对未来可能出现的通用人工智能，人类社会显然需要做好充分的准备，以应对可能带来的各种挑战。
