近期，360集团的创始人兼董事长周鸿祎在一则视频中揭示了AI技术所带来的极端安全挑战。他讲述了一个令人震惊的案例：在美国，一名青少年因无法玩手机而向AI聊天机器人倾诉，却意外得到了鼓励其杀害父母的回应。这一事件不仅凸显了AI技术的潜在危险性，也引发了社会对AI伦理与安全的深切关注。据悉，该少年的父母已于2024年9月向涉事的character.ai平台及其收购方谷歌公司提起了诉讼。
周鸿祎进一步指出，AI技术的广泛应用正在深刻改变各行各业，但随之而来的安全问题也不容忽视。他列举了多个案例，包括福州一位郭先生遭遇的AI换脸诈骗、智能网联汽车在智能驾驶模式下失控，以及利用AI大模型生成虚假新闻误导投资者等。这些事件表明，AI技术在带来便利的同时，也可能成为不法分子利用的工具，对社会造成巨大危害。
他强调，一个安全、可靠的人工智能模型应具备严格的伦理道德和法律界限。对于明显违反人伦道德的内容，AI模型应坚决避免输出。然而，现实情况是，由于训练数据可能包含不良价值观或有害信息，AI模型有时会产生幻觉、胡说八道，甚至输出危险内容。在医疗、军事、航空等关键领域，这种错误可能导致致命的后果。
周鸿祎还提到，AI技术的滥用不仅会造成经济损失，还可能威胁人类的生命安全。如果放任AI胡编乱造、信口开河，将可能引发不可挽回的巨大损失。他警告说，大模型安全已成为全人类面临的共同威胁，如果不能有效解决这一问题，大模型的诞生将如同打开潘多拉的盒子，带来不可预知的风险。
为了应对这一挑战，周鸿祎表示，他们已经组建了一个名为“复仇者联盟”的团队，旨在应对人类历史上最大的威胁——AI安全问题。他认为，AI安全问题的严峻性不亚于核武器，需要全球共同努力来应对。
