数据世界
产业资讯 宏观经济 企业动态 人物动态 科技数码 数据洞察 AI前沿 行业峰会 热点资讯

AI智能体普及前,协议安全、开放与效率成关键挑战

2025-08-07来源:ITBEAR编辑:瑞雪

随着科技的飞速发展,人工智能(AI)智能体正逐渐渗透到我们的日常生活中,它们能够协助处理诸如邮件发送、文档创建和数据库编辑等繁琐事务。然而,这些智能体在市场上的初步反馈并不理想,原因在于它们难以与数字生活中的各种复杂组件有效互动。

问题的根源在于,我们仍处于为这些AI智能体构建必要基础设施的初级阶段。为了让智能体能够顺利完成任务,我们不仅需要赋予它们必要的工具,还需确保它们能够负责任地使用这些工具。因此,如何构建智能体与外部环境之间的有效桥梁,成为亟待解决的问题。

为了应对这一挑战,Anthropic和谷歌等公司正积极推出新的协议。这些协议旨在定义AI智能体之间以及它们与外部世界交互的方式,从而使智能体能够更轻松地控制电子邮件客户端、笔记应用等其他程序。其中,应用程序编程接口(API)作为线上世界中计算机与程序之间信息交换的基石,扮演着至关重要的角色。

然而,API的标准化信息回应方式并不完全适用于AI模型。AI模型的内在随机性使其对话显得自然且富有表现力,但同时也给调用API并理解其响应带来了困难。为了解决这个问题,Anthropic推出了模型上下文协议(MCP)。MCP旨在标准化AI智能体通过各种程序与世界互动的方式,并已相当普及,目前已有超过15,000个服务器上线。

与此同时,谷歌也推出了Agent2Agent(A2A)协议,试图协调不同智能体之间的信息交换。如果说MCP的作用是翻译语言和代码之间的请求,那么A2A则更注重于智能体之间的协作。已有150家公司,包括Adobe和Salesforce,与谷歌合作开发和采用A2A。从宏观层面来看,MCP和A2A都在引导AI智能体以安全、负责任的方式与世界互动。

然而,尽管这些协议取得了显著进展,但仍面临诸多挑战。其中,安全性问题尤为突出。由于AI模型的工作原理尚未完全理解,新的漏洞不断被发现。对于聊天机器人等AI应用,恶意攻击可能导致模型泄露训练数据或发表不当言论。但对于能够代表用户与世界互动的AI智能体而言,风险则更为严峻。

例如,一个用于读写邮件的AI智能体已被证实易受攻击。攻击者可以通过一封精心设计的邮件,劫持AI模型并使其发生故障。如果该智能体拥有用户文件的访问权限,它甚至可能被指令将私人文件发送给攻击者。因此,如何确保智能体的安全性,成为亟待解决的问题。

一些研究者认为,像MCP这样的协议应该能够阻止智能体执行有害行为,但目前它还做不到。安全研究员Bruce Schneier对此持怀疑态度,他认为赋予AI更多权力只会增加其造成现实世界物理伤害的能力。然而,也有人更为乐观。他们认为,通过将安全设计添加到MCP和A2A等协议中,可以更有效地发现和解决安全问题。

协议的开放性和效率也是值得关注的问题。尽管MCP和A2A是当今最流行的两种智能体协议,但还有许多其他协议正在开发中。如何确保这些协议的开放性和透明度,以促进更多人参与共建,从而推动协议更快、更透明地发展,成为亟待解决的问题。同时,自然语言接口虽然使智能体能够更自然地与人类交互,但也缺乏API的精确性,可能导致不正确的响应和效率低下。

因此,如何在确保安全性的前提下,提高协议的开放性和效率,成为未来AI智能体协议发展的重要方向。随着技术的不断进步和应用场景的不断拓展,我们有理由相信,AI智能体将在未来发挥更加重要的作用。然而,在此之前,我们仍需不断探索和完善相关协议和技术标准,以确保AI智能体的安全、可靠和高效运行。

百度发布多项AI重磅成果,李彦宏:内化AI能力让智能不再是成本而是生产力
“当AI能力被内化,成为一种原生的能力,智能就不再是成本,而是生产力。”11月13日举办的2025百度世界大会上,百度创始人李彦宏演讲时表示,更应关心如何让AI跟每一项任务有机结合,“让AI成为企业发展和个人成长的原生推动力。”作为最早进军AI赛道的科技公司,百度正

2025-11-13

昆仑芯未来五年“按年上新”,百度智能云宣布打造最硬AI云
11月13日,在百度世界2025大会上,百度智能云正式发布全新一代昆仑芯及基于昆仑芯的超节点产品天池,并公布未来五年按年推出新产品的规划。百度集团执行副总裁、百度智能云事业群总裁沈抖表示,AI基础设施一定是长期投资,面向未来百度智能云将坚定长期布局,持续打造最

2025-11-13

双十一声学品类迎来“迷你风暴”,BOYAmini系列以技术革新领跑无线麦克风市场
随着“双十一”购物狂欢的开启,消费电子品类再度成为用户关注的焦点。在音频设备领域,轻量化、智能化与专业化的融合正成为新的趋势。据京东平台10月20日的“首小时战报”显示,BOYA品牌在数码影音娱乐类目中,专业音频解决方案厂商排名第一,搜索量与销售额双双跻身榜

2025-11-11

合合信息与上海交通大学开展课题合作研究,共探智能文档图像处理前沿技术
计算机视觉技术作为AI的“眼睛”,是当前人工智能领域的重要研究方向。近期,计算机视觉领域三大顶级学术会议之一的国际计算机视觉大会(ICCV 2025)顺利举行。会议期间,合合信息联合上海交通大学等机构主办了首届VQualA视觉质量评估研讨会,同时,为了推动建立智能文档

2025-11-07

伊利与京东启动“试销实验室” 打造新品孵化生态标杆
11月3日,伊利集团与京东联合举办战略合作发布会,正式启动“伊利x京东试销实验室”。此举标志着双方的合作由传统的渠道销售,全面迈向了基于用户洞察、共创产品、整合供应链的“价值共生”新阶段。现场直击:从“渠道铺货”到“用户造品”的战略升维依托京东新品创新中

2025-11-05

启信宝获得法博会“行业洞见奖”,相关服务即将登陆“深律通”
为构建多元联动、创新开放的法律服务体系,近日,以“以法律创新护航科技与产业创新”为主题的2025深圳法律服务博览会(下称“法博会”)顺利举办,吸引国内外权威机构和行业专家参与。合合信息旗下启信宝凭借其在法律科技领域的创新应用,于法律科技产品大赛中斩获“行业

2025-11-04

陈天桥在AIAS上提出:发现式AI而不是生成式AI是AGI的标准
10月27日、28日,AI驱动科学研讨会(Symposium for AI Accelerated Science,AIAS 2025)在美国旧金山举行。会议汇聚了近30位全球顶尖学者与产业领袖,与现场数百位学者、学生共同探讨AI如何驱动科学发现。会上,盛大集团、天桥脑科学研究院创始人陈天桥发表主题演讲,首

2025-11-03

从国家授时中心攻击事件,看数据中心安全的底层逻辑与实践路径
近期,国家安全教育日披露的美国国家安全局对我国国家授时中心的长期攻击案件,让关键信息基础设施的安全防护问题再次成为焦点。作为支撑金融交易毫秒级同步、电力调度精准控制、航空航天轨道计算的“时间中枢”,国家授时中心的安全直接关联国计民生运转,而此次攻击的

2025-10-30

Excel服务器2025实现了不用安装Excel也能实现Excel共享
想象一下这样的场景:企业信息化部门的王经理正在部署一套传统的Excel服务器,却被告知必须为每台电脑安装特定版本的Office软件;业务部门的小张发现,虽然名为“服务器”,但想要在手机上审批流程却无法实现;财务总监李总需要整合ERP和CRM系统的数据生成经营分析报告,

2025-10-28

全国盛会·智育未来——大沩赋能AI体育教育高质量发展
10月24日至26日,第86届中国教育装备展示会在青岛世界博览城成功举办。本届展会以“人工智能引领教育装备高质量发展”为主题,由中国教育装备行业协会主办,山东省教育厅和青岛市人民政府共同承办,集中展示了全国教育装备领域的最新技术成果与应用实践。浙江大沩携其智

2025-10-25