OpenAI新动作：打造“集体对齐”系统 让AI更贴合人类价值观

【数据世界网】1月17日消息，人工智能领域的领先机构OpenAI，于美国当地时间周二宣布将组建名为“集体对齐”的新团队。这个团队由研究员和工程师组成，核心任务是设计和实施收集公众反馈的流程，以优化其AI模型的行为，并应对潜在的偏见问题。

OpenAI在官方博客中详细阐述了新团队的目标：“我们希望构建一个能够收集并‘编码’公众对于AI模型行为看法的系统，进而将这些见解融入我们的产品和服务之中。这样，我们未来的AI模型将更有可能‘符合人类的价值观’。”为了实现这一宏伟目标，OpenAI正在广泛招募具备不同技术背景的研究工程师加入这个团队，并与外部顾问和其他团队展开紧密合作。

据数据世界了解，这个新团队其实是OpenAI去年启动的一个公共项目的延伸。该项目旨在通过资助建立一个“民主程序”的实验，来确定人工智能系统应遵循的规则。OpenAI此前已明确表示，该计划将资助个人、团队和组织开发概念验证，以回答有关人工智能护栏和治理的问题。如今，随着“集体对齐”团队的成立，OpenAI在人工智能治理方面的努力再次迈出了坚实的一步。

OpenAI研究工程师、新团队创始成员泰纳·埃伦杜强调：“随着我们不断追求超级智能模型的发展，让人们有机会直接提供意见变得至关重要。”为了确保只有人类才能参与投票和提供意见，OpenAI还考虑与Worldcoin进行合作，这是一种由OpenAI首席执行官萨姆·奥特曼创建的加密货币项目，旨在有效区分人类和AI机器人。

自推出ChatGPT以来，OpenAI的生成式人工智能技术持续引发关注。然而，随着技术的快速发展，人们对其可能带来的问题也愈发担忧。特别是在即将到来的美国大选前夕，人们对于AI技术可能被用于制造“深度伪造”图片和其他错误信息感到不安。批评人士指出，像ChatGPT这样的AI系统由于其输入数据的影响而具有固有的偏见。为了解决这些问题，OpenAI正在积极寻求通过“集体对齐”团队收集公众意见并优化模型行为的方法。

在最新的博客文章中，OpenAI还回顾了资助受助者的工作成果，并公开了所有受助者工作中使用的代码以及每个提案的简要摘要。尽管有人质疑OpenAI的这项工作与其商业利益的关系，但奥特曼等OpenAI高层强调，人工智能的创新速度非常快，现有的权威机构无法充分控制这项技术。因此，他们提出了将这项工作众包的解决方案，以期通过更广泛的社会参与来推动人工智能的健康发展。