数据世界
产业资讯 宏观经济 企业动态 人物动态 科技数码 数据洞察 AI前沿 行业峰会 热点资讯

AI智能体普及前,协议安全、开放与效率成关键挑战

2025-08-07来源:ITBEAR编辑:瑞雪

随着科技的飞速发展,人工智能(AI)智能体正逐渐渗透到我们的日常生活中,它们能够协助处理诸如邮件发送、文档创建和数据库编辑等繁琐事务。然而,这些智能体在市场上的初步反馈并不理想,原因在于它们难以与数字生活中的各种复杂组件有效互动。

问题的根源在于,我们仍处于为这些AI智能体构建必要基础设施的初级阶段。为了让智能体能够顺利完成任务,我们不仅需要赋予它们必要的工具,还需确保它们能够负责任地使用这些工具。因此,如何构建智能体与外部环境之间的有效桥梁,成为亟待解决的问题。

为了应对这一挑战,Anthropic和谷歌等公司正积极推出新的协议。这些协议旨在定义AI智能体之间以及它们与外部世界交互的方式,从而使智能体能够更轻松地控制电子邮件客户端、笔记应用等其他程序。其中,应用程序编程接口(API)作为线上世界中计算机与程序之间信息交换的基石,扮演着至关重要的角色。

然而,API的标准化信息回应方式并不完全适用于AI模型。AI模型的内在随机性使其对话显得自然且富有表现力,但同时也给调用API并理解其响应带来了困难。为了解决这个问题,Anthropic推出了模型上下文协议(MCP)。MCP旨在标准化AI智能体通过各种程序与世界互动的方式,并已相当普及,目前已有超过15,000个服务器上线。

与此同时,谷歌也推出了Agent2Agent(A2A)协议,试图协调不同智能体之间的信息交换。如果说MCP的作用是翻译语言和代码之间的请求,那么A2A则更注重于智能体之间的协作。已有150家公司,包括Adobe和Salesforce,与谷歌合作开发和采用A2A。从宏观层面来看,MCP和A2A都在引导AI智能体以安全、负责任的方式与世界互动。

然而,尽管这些协议取得了显著进展,但仍面临诸多挑战。其中,安全性问题尤为突出。由于AI模型的工作原理尚未完全理解,新的漏洞不断被发现。对于聊天机器人等AI应用,恶意攻击可能导致模型泄露训练数据或发表不当言论。但对于能够代表用户与世界互动的AI智能体而言,风险则更为严峻。

例如,一个用于读写邮件的AI智能体已被证实易受攻击。攻击者可以通过一封精心设计的邮件,劫持AI模型并使其发生故障。如果该智能体拥有用户文件的访问权限,它甚至可能被指令将私人文件发送给攻击者。因此,如何确保智能体的安全性,成为亟待解决的问题。

一些研究者认为,像MCP这样的协议应该能够阻止智能体执行有害行为,但目前它还做不到。安全研究员Bruce Schneier对此持怀疑态度,他认为赋予AI更多权力只会增加其造成现实世界物理伤害的能力。然而,也有人更为乐观。他们认为,通过将安全设计添加到MCP和A2A等协议中,可以更有效地发现和解决安全问题。

协议的开放性和效率也是值得关注的问题。尽管MCP和A2A是当今最流行的两种智能体协议,但还有许多其他协议正在开发中。如何确保这些协议的开放性和透明度,以促进更多人参与共建,从而推动协议更快、更透明地发展,成为亟待解决的问题。同时,自然语言接口虽然使智能体能够更自然地与人类交互,但也缺乏API的精确性,可能导致不正确的响应和效率低下。

因此,如何在确保安全性的前提下,提高协议的开放性和效率,成为未来AI智能体协议发展的重要方向。随着技术的不断进步和应用场景的不断拓展,我们有理由相信,AI智能体将在未来发挥更加重要的作用。然而,在此之前,我们仍需不断探索和完善相关协议和技术标准,以确保AI智能体的安全、可靠和高效运行。

舒福德S500睡眠智能体亮相,以数字生态革新开启全民睡眠健康新篇
作为麒盛科技旗下智能床品牌,自2005年自主研发智能电动床,开启探索智能睡眠体验:2017年推出全球首张智能床,初步实现睡眠数据的采集与分析;2022年作为北京冬奥会唯一智能床供应商,通过服务全球运动员,验证…

2025-10-22

OpenAI首款浏览器Atlas来袭:AI整合新体验,实测感受抢先看
AI 协助功能:在任何打开的文本输入框中输入内容时,ChatGPT 能提供实时修改建议和智能补全,帮你更高效地码字Agent(代理)模式:能让 ChatGPT 在浏览器中自主完成多步骤任务从今天开始,ma…

2025-10-22

中国核聚变领域迎突破:最大制冷功率氦制冷机成功启机并稳定运行
IT之家 10 月 21 日消息,据合肥综合性国家科学中心能源院消息,该院孵化企业河南中科清能科技有限公司 (简称“中科清能”) 研发制造的3kW@4.5K 氦制冷机近日在合肥一次启机成功,截至 2025 …

2025-10-22

华为Mate 70 Air或迎战iPhone Air:66W快充加持,配置亮点抢先看
值得注意的是,目前华为Mate 70 Air已上架电信终端产品库,有12GB+256GB和12GB+512GB两种配置,屏幕尺寸为6.9英寸,延续了华为Mate系列的中轴对称设计,镜头模组采用“奥利奥”设计…

2025-10-22

iQOO 15今晚登场:以跨代理念重塑性能旗舰,带来极致体验盛宴
iQOO 15以“跨代领先”为核心理念,在电竞体验、视觉观感、影像能力和续航表现等方面实现全方位突破,为追求极致的用户带来前所未有的使用体验。从电竞性能到视觉观感,从影像能力到续航表现,iQOO 15以全方…

2025-10-22

DeepSeek开源DeepSeek-OCR:用视觉压缩新招,为长文本处理降本增效
这次他们发布了一个名为 DeepSeek-OCR的模型,尝试用一种新颖的“上下文光学压缩”方法,来解决当前大语言模型处理长篇文档时效率不高、成本过高的问题。在 DeepSeek-OCR中,这个拥有约 5…

2025-10-21

电竞新旗舰iQOO 15登场:屏幕长焦SoC齐升级,定价略有上浮
这块6.85英寸三星2K直屏拥有144Hz高刷新率和8TLTPO技术,手动亮度峰值1000尼特,全局峰值亮度可达2600尼特,像素密度为508 PPI,还专门打造了硬件级游戏护眼。Q3的独赋能下,iQOO…

2025-10-21

性能狂飙!李杰揭秘一加15八大黑科技 10月27日携性能Ultra强势登场
【CNMO科技消息】10月21日,CNMO注意到,一加中国区总裁李杰发文称,一加15配备八项黑科技,每一项都是行业首发、独家、顶级,并定位为“性能Ultra”(性能的投入上不封顶)。 四、独家自研冰河芯片空调…

2025-10-21

余承东揭晓华为路由X3 Pro新品:独特日照金山设计 11月高端登场
前几日,华为常务董事、终端BG董事长余承东在社交媒体平台晒出了一个“日照金山”新品,并让网友猜测,该新品是什么。宣传海报显示,华为路由X3 Pro采用别具一格的圆锥造型,上半部分采用透明外壳,中间有金色山体图…

2025-10-21

宇树科技H2仿生人形机器人亮相:180cm高会跳芭蕾,仿生人脸设计引关注
宇树此前在8月19日就对这款产品进行了预热,当时海报展现了一款新机器人的剪影,身高180厘米,并配文31 jointDOF(6*2+3+7*2+2),即具备31个关节自由度。 9月26日,宇树创始人、CE…

2025-10-21