数据世界
产业资讯 宏观经济 企业动态 人物动态 科技数码 数据洞察 AI前沿 行业峰会 热点资讯

大模型时代的人工智能+大数据平台,加速创新涌现

2023-11-01来源:互联网编辑:芳华

大模型和MaaS概念的出现,定义了以模型为中心的一整套AI开发新范式,而这背后日益增长的巨大算力需求,对AI工程底座提出了新的挑战。今天,大模型时代下的人工智能+大数据平台,需要具备计算效率、开发效率、处理效率为一体的高效能力才能保障服务AI时代下的业务创新。

10月31日,2023云栖大会上,阿里云计算平台事业部负责人汪军华宣布阿里云人工智能+大数据平台升级发布,以服务大模型时代下各行各业的业务创新。

高性能的AI基础设施,让计算效率达到极致

根据OpenAI测算,全球用于头部AI模型训练的算力需求以每年10倍的速度增长,计算需求处于持续爆发中。汪军华介绍,PAI灵骏智算集群在网络、存储、调度上做了深度优化,采用HPN 7.0新一代AI集群网络架构,存储计算分离架构,支持高达10万卡量级的集群可扩展规模,让超大规模集群像1台计算机般运转。

软硬一体的智算服务PAI灵骏,为大规模深度学习训练场景提供稳定和高效的支撑,大模型训练任务线性加速比可达到96%,大模型训练资源可节省超50%。在稳定性保障方面,PAI灵骏智算服务配置了弹性容错训练框架AIMaster和EasyCkpt模型自动保存与恢复能力,可让千卡规模任务稳定运行3周以上。

面向大模型的推理服务场景,PAI体系化地整合模型系统联合优化、运行时优化、LLM领域优化等能力,可将大语言模型推理吞吐提升3.5倍,大幅降低推理时延。单卡推理可支持的最大上下文长度达280K,超长的上下文推理将进一步推动LLM涌现。

多形态、更灵活的AI开发模式,支撑多样化需求

随着需求的不断涌现,AI开发者和AI开发需求越发细分。人工智能平台PAI 4.0发布,全面降低大模型AI开发门槛,提供完善的需求支撑,提升开发效率。

不论是需要定义模型结构和开发流程的深度学习开发者群体,还是有海量大规模计算任务的群体,亦或是需要高效快速串联起训练推理任务的业务算法群体,都可以通过PAI来实现研发,包含各类热门的计算框架、开源模型和开发场景,一站式地完成开发部署。

PAI灵积为广大开发者提供了通过云上API服务,可以用于应用模型开发和开发好的模型调用,允许开发者将大模型能力迅速集成到自己的业务和应用中,在PAI-灵积平台上,开发者不仅可以找到通义系列大模型(包括通义千问,通义万相等等),也可以找到来自业界最优秀的头部大模型,包括ChatGLM,百川,Stable Diffusion等。

汪军华宣布,今天这些模型都通过PAI 灵积上统一的API和SDK对广大开发者开放,开发者只需要几行代码,就能迅速把这些不同类别的大模型的能力,集成到自己的应用中去。

高效的数据服务提升大模型效果,大数据和AI更深融合

在机器学习开发过程中,80%的研发时间有用于数据准备,数据质量决定着大模型的效果,数据处理分析的重要性更加凸显。大数据作为AI基础设施的一部分,阿里云提供了从数据积累、清洗、建模、计算到服务的全套产品化方案,来节省AI开发过程中数据准备的时间。

同时,大数据和AI进行了更深度的融合。阿里云自研大数据处理平台MaxCompute 全面升级Dataframe能力,发布分布式计算框架Maxframe,100%兼容Pandas等数据处理接口,一行代码即可将原生Pandas自动转为Maxframe分布式计算,打通数据管理、大规模数据分析、处理到ML开发全流程,打破大数据及AI开发使用边界,大大提高开发效率。

大模型驱动的 AI 时代,AI 场景对数据时效性的要求也越来越高,Flink+Paimon新一代实时湖仓方案,为用户提供一站式数据入湖、实时加工和探查分析能力,拓展 Flink 在数据湖场景的实时计算能力,同时加速 AI 应用。

全托管向量检索服务DashVector正式发布,基于阿里云自研8年的高性能向量检索内核Proxima,提供具备水平拓展能力的云原生、全托管的向量检索服务。Hologres、OpenSearch、Elasticsearch分别升级了向量能力,满足不同场景下性能的提升。全新发布DataWorks Copilot,将大数据平台的一站式统一元数据、统一调度、统一数据集成、统一数据建模与AI大模型能力全面结合, 将AI与业务充分融合,创造新价值。

在面向大模型时代整体大数据AI产品能力升级后,汪军华宣布大数据AI产品全面完成Serverless化,致力于给客户提供开箱即用、按需付费的高性价比产品。作为大模型时代AI的基础设施,阿里云人工智能+大数据平台将坚定、持续的投入研发资源,服务各行各业的业务创新。

谷轮赋能中国绿色数据中心建设,打造面向未来的制冷解决方案
创新变频解决方案助力中国移动新一代数据中心实现能源与水资源高效利用12月8日,苏州 —— 谷轮,作为全球领先的压缩机技术与控制解决方案供应商,携手佳力图为中国移动京津冀(张家口)数据中心打造先进的数据中心制冷解决方案。该项目采用了谷轮创新的数据中心变频解决

2025-12-09

AI 生态重构正当时,联通云如何以“算网一体”撬动国产智算新局?
当AI大模型训练动辄需要万卡级算力集群支撑,当跨区域数据调度要实现分钟级响应,当“双碳”目标要求数据中心持续降低能耗——作为“东数西算”战略落地的关键力量,联通云如何通过“算网一体”核心优势,构建起适配数字经济发展的算力底座?带着这些行业核心问题,联通

2025-12-06

抖音生活服务 “洗浴季”团购3折起,联合20000余商家助燃冬日“暖经济”
上抖音,去泡汤!随着气温降低,“暖经济”逐渐升温。抖音生活服务数据显示,9月1日至10月24日,“泡澡”“搓澡”“足浴”“采耳”成平台搜索热词,上海、郑州、苏州、杭州和北京成为洗浴按摩订单TOP5城市。抖音平台内“洗浴中心”的搜索量同比增长36%,搜索后成交额同比

2025-12-05

豆包发布手机助手技术预览版 正与多家手机厂商洽谈合作
12月1日,字节跳动豆包团队发布豆包手机助手技术预览版。据介绍,豆包手机助手,是在豆包APP的基础上,和手机厂商在操作系统层面合作的AI助手软件。基于豆包大模型的能力和手机厂商的授权,豆包手机助手能够为用户带来更方便的交互和更丰富的体验。豆包大模型能力全面,

2025-12-01

以全自研内核重构基准,第五代骁龙8的底层创新与体验升华
提起安卓旗舰,肯定就绕不开骁龙8系移动平台,作为市场公认的最强移动平台之一,可以说一直担当着行业标杆的角色,特别是最近两年换成高通自研的Oryon CPU架构后,骁龙8至尊版的优异表现更是让许多用户感到惊喜。从去年的骁龙8至尊版到今年的第五代骁龙8至尊版,骁龙旗

2025-11-29

技术底蕴爆发:从全自研内核看第五代骁龙8的全面领先
今年 9 月,高通发布了第五代骁龙 8 至尊版芯片。在第三代Qualcomm Oryon CPU 和 Adreno GPU 切片架构的加持下,这颗 UU 的表现,同样称得上是「牙膏挤爆」。发布完还不到半年。已经有 12 款搭载第五代骁龙 8 至尊版的手机在国内面市,这含金量,懂的都懂。只是今年骁龙

2025-11-28

深度丨从“华彩杯”解锁我国算力产业高质量发展密码
沙场秋点兵!历经九个多月的酣战,超过1万个项目经过激烈的区域赛和专题赛等环节,11月11日,其中的150个候选项目在第三届“华彩杯”算力大赛总决赛现场集结,经过现场比拼,94个项目脱颖而出,最终折桂。(点击查看获奖名单)这场算力领域的大赛带给行业的不仅是巅峰对决

2025-11-26

驱动绿色智算 筑牢AIDC基石:华为携液冷热管理控制器TMU亮相2025CDCC大会
11月20日,2025中国数据中心标准大会在北京国际会议中心成功举办,本次大会汇聚行业领袖、技术专家、生态伙伴与企业代表等精英。华为展台人流如织,现场交流互动氛围热烈,重磅发布的数据中心液冷可靠关键性创新——液冷热管理控制器TMU,更是成为全场焦点。大会现场当C

2025-11-24

华系双智旗舰轿车 广汽昊铂A800内饰首发,为高速L3商用冲刺
11月21日,广州车展拉开帷幕。广汽集团旗下高端品牌——广汽昊铂,携“华系双智旗舰轿车”昊铂A800全球内饰首发。正值十五届全运会闭幕之际,作为全运会最高端的贵宾接待用车,广汽昊铂A800圆满完成所有贵宾接待任务,广受好评。广汽昊铂率先获时速120公里L3高速道路测

2025-11-22

2025 CDCC 中国数据中心标准大会胜利闭幕,共绘未来十年AI基础设施蓝图
2025年11月21日,由CDCC主办的2025数据中心标准大会在北京·国家会议中心圆满闭幕。为期两天的大会以“重新定义 AI基础”为主题,作为数据中心行业的技术风向标盛会,直面 AI 时代的产业重构逻辑。汇聚政产学研用多方力量,共话AI数据中心的发展方向。本届大会议程涵盖

2025-11-22