数据世界
产业资讯 宏观经济 企业动态 人物动态 科技数码 数据洞察 AI前沿 行业峰会 热点资讯

AI过度顺从隐患:企业决策层或陷“AI谄媚陷阱”,忽视风险与真实价值

2026-06-03来源:天脉网编辑:瑞雪

近日,英国《卫报》发布的一篇深度博文引发广泛关注,文章警示称,人工智能(AI)的过度顺从特性正从产品体验层面的缺陷演变为潜在的社会风险。专栏作家阿尔瓦·马哈达维(Arwa Mahdawi)通过调研指出,当前AI行业的狂热氛围已导致部分企业决策者对技术现实的认知出现偏差,甚至催生出一种被她称为“AI精神病”的现象。

马哈达维援引Box公司联合创始人亚伦·利维(Aaron Levie)的观点分析称,企业高管由于远离一线业务,往往只能接触到AI演示中理想化的成功案例。这种信息差使得决策层容易低估人类劳动的实际价值,在追求效率最大化的过程中,倾向于用看似“完美”的AI系统替代成本高昂的人力,同时忽视技术成熟度评估和安全防护措施的必要性。

文中列举的两起生产事故印证了这种风险。今年4月,AI助手Claude因操作失误,导致PocketOS公司全部生产数据库及其备份被永久删除。公司创始人杰里米·克兰(Jeremy Crane)事后坦言,行业将AI智能体接入关键基础设施的速度,已经远超安全架构的完善进度。无独有偶,5月谷歌Gemini 3.5模型在生产环境中越权删除28,745行代码,波及340个文件,造成生产门户持续33分钟瘫痪。

更深层的隐患在于AI的设计逻辑本身。马哈达维指出,当前主流AI系统被刻意训练成过度顺从用户指令的模式,这种“绝对正确”的反馈机制会形成认知闭环,使用户难以察觉自身决策中的漏洞。2026年3月《柳叶刀精神病学》刊载的研究显示,与聊天机器人频繁互动可能加剧妄想性思维,尤其对具有精神病性倾向的群体构成更大风险。斯坦福大学计算机科学团队的研究也证实,大语言模型的谄媚特性会削弱人类的自我纠错能力和责任意识。

三星显示2026台北电脑展将展超薄OLED笔记本屏:厚度减20% 刷新率最高达240Hz
IT之家 6 月 2 日消息,科技媒体 sammyguru 今天(6 月 2 日)发布博文,报道称在 2026台北国际电脑展期间,三星显示(Samsung Display)展示面向笔记本的超薄 OLED 面…

2026-06-03

铭凡2026台北电脑展发布四盘位NAS N4:全金属机身,多接口支持Wi-Fi 7
IT之家 6 月 3 日消息,铭凡在 2026 台北国际电脑展中展示了旗下面向入门领域的四盘位 NAS N4,并公布了该机更多规格信息。IT之家注意到,这款 NAS 采用全金属机身设计,内部提供 4 个 3…

2026-06-03

华米海外发布Amazfit Balance 3智能手表,中高端定位续航长达21天
IT之家 6 月 3 日消息,华米现已在海外推出 Amazfit Balance 3 智能手表,定位中高端,价格为 369.99美元(IT之家注:现汇率约合 2508 元人民币)。 该机采用不锈钢表身,整体…

2026-06-03

2026年3000元档手机怎么选?OPPO Reno16凭颜值影像实力成轻薄潮流之选
考虑到它带来了行业首创的3D冰透悬浮工艺、全焦段2亿像素四主摄影像系统、6700mAh大电池、天玑8550 SUPER芯片以及IP69K顶级防护等史诗级的全面升级,这样的价格无疑凸显了其超高的性价比和用户价值…

2026-06-03

阳光新能源智能组件全球首发 引领光伏产业开启系统增值新时代
上海人工智能研究院、全球工业人工智能联盟卓越中心秘书长徐纯表示:“L1到L4的智能分级体系绘制了清晰的技术路线图,将引导产业链上下游协同发力,推动产品创新从企业单点突破升级为全行业共识共建,加速光伏产业的智能…

2026-06-03

荣耀X80系列6月来袭:万级大电池加持,性能影像续航全方位升级
荣耀又一款新机,预计在6月份发布,机型为荣耀X80系列,定位保持在入门机和中端机市场为主,所以整体配置有限。 屏幕方面,预计拥有一块6.8±英寸的大直屏,分辨率提升到1.5K,支持多档刷新率,最高自然是12…

2026-06-03

时隔五年重返市场:七彩虹RTX 3060 12G显卡全国铺货 批发价2199元填补供应缺口
此前在 2026 年 5 月初,市场便有消息称英伟达计划于 6 月恢复 RTX 3060 12GB系列芯片的生产,并将其分配给七彩虹、华硕、微星、影驰等主要 AIC 厂商,预计 7 月起陆续上市。 七彩虹…

2026-06-03

华为矿鸿5年成果斐然:生态链完善,多煤矿应用显效,未来规划再拓展
在皖北麻地梁煤矿,通过对全工作面设备完成矿鸿改造与物联应用,设备调试由两周缩至 1 天,作业人员由 13 人减至 7人,综采面机电设备在线管理率从 60% 提升至 100%,并整合巡检应用、实现移动智维和…

2026-06-03