数据世界
产业资讯 宏观经济 企业动态 人物动态 科技数码 数据洞察 AI前沿 行业峰会 热点资讯

亚马逊发布Trainium3芯片及UltraServer,性能飙升,成本大降赋能AI新发展

2025-12-03来源:快讯编辑:瑞雪

在近日举办的全球云计算领域年度盛会中,亚马逊云计算服务(AWS)正式推出新一代自研AI训练芯片Trainium3,并同步发布基于该芯片的Trainium3 UltraServer服务器。这款硬件组合通过架构革新与工艺升级,为生成式AI模型的训练与推理提供全新解决方案,标志着AWS在垂直整合计算资源领域迈出关键一步。

据技术披露,Trainium3芯片采用台积电3纳米制程工艺,单芯片集成144GB HBM3E内存,内存带宽达4.9TB/s,在FP8精度下可提供2.52 PFLOPS算力。其性能较前代产品实现四倍跃升,能效比与内存带宽同样获得近四倍优化。通过新一代Neuron网络架构,芯片间通信延迟被压缩至10微秒以内,配合NeuronSwitch-v1实现的双倍内部带宽,有效解决了分布式训练中的通信瓶颈问题。

UltraServer服务器将硬件集成度推向新高度。单台设备最多可容纳144颗Trainium3芯片,形成20.7TB HBM3E内存池与706TB/s总带宽的超级计算单元,FP8算力峰值达362 PFLOPS。实测数据显示,该系统运行GPT-OSS开源模型时,单芯片吞吐量提升300%,推理响应速度加快4倍,显著降低企业应对流量峰值的硬件投入成本。目前Amazon Bedrock服务已率先在生产环境部署该硬件。

在应用场景方面,这套硬件组合展现出显著优势。对于千亿参数级模型训练,其可将周期从数月压缩至数周;面对智能对话、视频生成等高并发推理需求,能以微秒级延迟服务百万级用户。多家合作伙伴已验证其成本效益:Decart公司借助Trainium架构将实时视频生成速度提升4倍,同时将单位推理成本削减50%;生物科技企业metagenomi则通过硬件优化将基因序列分析效率提升3.5倍。

为满足超大规模计算需求,AWS同步推出EC2 UltraCluster 3.0架构。该集群通过高速互联技术可连接数千台UltraServer,形成百万级芯片计算矩阵,较上一代规模扩大十倍。这种扩展能力使得在万亿token数据集上训练多模态模型成为可能,同时可为千万级用户提供实时推理服务,为自动驾驶、气候模拟等前沿领域提供基础设施支撑。

市场布局方面,AWS正面临双重挑战。一方面需应对谷歌TPU在AI芯片市场的持续渗透,特别是Anthropic等战略客户近期宣布将采购百万级谷歌芯片;另一方面要巩固与现有合作伙伴的关系——该生成式AI公司仍计划年底前部署超百万颗Trainium2芯片,其中近半数将运行于Project Rainier超级计算机。为保持竞争力,AWS同步披露下一代Trainium4研发进展,新芯片在FP4精度下性能将提升六倍,FP8性能提升三倍,并首次引入NVIDIA NVLink Fusion技术实现异构计算协同。

这项技术整合计划引发行业关注。通过将Trainium4与Graviton处理器、EFA网络适配器部署在统一MGX机架,AWS旨在构建兼具成本优势与性能弹性的AI基础设施。这种模块化设计既支持纯CPU计算场景,也可灵活扩展GPU与Trainium混合架构,为不同规模的AI工作负载提供定制化解决方案。随着软硬件协同优化的持续推进,AI训练与推理的成本门槛有望进一步降低。

红米K90:中端价位邂逅旗舰体验,工艺性能影像续航全拉满
红米K90配备6.59英寸1.5K分辨率OLED直屏,采用M10发光材料与超级像素全RGB排列,支持120Hz刷新率,而全亮度DC调光与1nit极暗护眼模式的组合,更是解决了夜间用机的“频闪焦虑”——即使长…

2025-12-03

富光、宫菱、小米保温杯大比拼!多维度实测助你挑到心仪款
它之所以能拥有如此出色的保鲜成效,核心原因一方面这款保温杯的密封构造设计格外精良,即便施加力度摇晃,杯盖与杯身依旧能保持紧密贴合状态,可有效阻挡外界空气与湿气进入,另一方面该产品创新研发的三重保温锁鲜技术可与…

2025-12-03

2025拍照手机怎么选?荣耀500系列全场景出色,OPPO、vivo各有亮点
对于喜欢个性化影像和视觉冲击的用户,Reno15是“最强的拍照手机”横评中值得考虑的选择,但在真实感与夜景人像稳定性方面仍略低于荣耀500系列。OPPOReno15和vivo S40在风格化影像和远摄便携上…

2025-12-03

安科瑞能源物联网:破解园区能源管理难题,驱动运营效益跃升
常州某产业园引入了安科瑞能源物联网平台之后,园区的管理效率得到了根本性提升,能耗监管全覆盖,提升了园区本质安全水平,显著提升园区企业的满意度和服务体验。 安科瑞能源物联网平台以能效数据为核心驱动,深度赋能园…

2025-12-03

英伟达20亿美元入股新思科技,携手重塑工程流程赋能多行业创新
英伟达CEO黄仁勋强调,这次合作将使英伟达的技术覆盖规模达万亿美元的工业领域,“这是我们扩展到设计和工程领域的巨大机遇”,远超消费端AI应用的市场空间。通过与新思科技建立更紧密的合作关系,英伟达既能为对方注…

2025-12-03

无需编程基础,30秒生成AI应用!灵光上线两周用户狂建330万闪应用
12月2日消息,凭借“30秒生应用”上线即火爆后,通用AI助手“灵光”今日宣布,灵光App上线两周来,用户已成功创建出330万个“闪应用”。数据显示,用户普遍会与灵光进行多轮对话,反复打磨和完善应用构思。 …

2025-12-03

首款“豆包助手”手机售罄 3499元官方价 二手平台溢价最高达1500元
12月1日,字节跳动旗下AI助手豆包和中兴通讯先后宣布,搭载豆包手机助手技术预览版的工程样机nubia(努比亚) M153少量发售。 相比普通手机搭载的AI助手,仅能执行少量步骤的固定执行动作,豆包手机助手…

2025-12-03