【数据世界】12月29日消息，新加坡南洋理工大学(NTU)的计算机科学专家最近宣布了一项突破性的研究成果，他们成功开发了一种全新方法，利用聊天机器人来入侵其他聊天机器人系统，引发了对人工智能安全的新担忧。
这支科研团队成功地训练了一款名为Masterkey(LLM)的算法，该算法具备逆向设计的能力，可以绕过其他AI聊天机器人系统的安全限制。他们教会了LLM自动学习的能力，使其能够通过相关提示词巧妙地规避其他LLM的防御措施。
据数据世界了解，这一方法的核心原理在于创建一种"黑客LLM"，它可以自动适应新的条件，并在开发人员对其进行修正后，不断生成新的黑客请求，进一步加大了人工智能系统的风险。
研究团队成功地利用这种方法入侵了AI模型之后，他们已经积极与服务提供商取得联系，共同解决相关安全问题。这一发现引发了对AI系统安全性的广泛关注，促使业界深入研究并改进AI系统的防护措施，以抵御潜在的入侵风险。科学家们呼吁加强对人工智能安全的监管和保护措施，以确保AI技术的可持续发展和广泛应用。
