阿里云第八代企业级实例g8i算力升级 可支持72B大语言模型
科技日报记者 崔爽 1月11日,阿里阿里云宣布第八代企业级通用计算实例ECS g8i算力再升级,云第业级言模整机性能最高提升85%,代企大语AI推理性能最高提升7倍,实例算力升级可支撑72B参数的可支大语言模型,帮助中小规模模型起建成本降低50%。阿里同时新实例还提供了端到端安全防护,云第业级言模为企业构建可信AI应用提供隐私增强算力支撑。代企大语 阿里云弹性计算产品线总经理张献涛表示,实例算力升级这证明以CPU为中心的可支计算体系具备加速AI推理的巨大潜力,公共云不仅可胜任超大规模的阿里AI模型,也为AI应用加速落地开辟了新路径。云第业级言模 英特尔中国数据中心和人工智能集团至强客户解决方案事业部总经理李亚东表示,代企大语第五代英特尔至强可扩展处理器每个内核均内置AI加速功能,实例算力升级与上代相比,可支其AI训练性能提升29%,AI推理能力提升42%,希望以此助力AI技术普惠。 生成式AI掀起的技术革命,正在推动计算范式发生根本性的变化。当前,AI大模型推理在算力上依然面临诸多挑战,例如首包延迟受限于并行处理能力与浮点运算能力,吞吐性能则受限于内存带宽和网络延迟。 对此,阿里云ECS g8i实例进行了多方面优化,可以更迅速地响应中小规模参数模型,运行知识检索、问答系统及摘要生成等AI工作负载时,起建成本大幅下降。
- 最近发表
- 随机阅读
-
- 完全自主知识产权!这项技术,已跻身世界第一方阵
- 科技新突破丨我国科学家用转基因蚕合成了蜘蛛丝
- 3D打印纯素鲑鱼现身货架
- 人体内细胞数量确定,成年男性36万亿,成年女性28万亿
- 计划增加72架次 琼海博鳌机场继续加大航班增量保障游客返程
- 度小满宣布“轩辕70B”金融大模型发布,代码已开源
- 勇立潮头 诠释力与美!3D双威亚将首次亮相杭州亚运会开幕式
- 电子信号奏响癌细胞自毁“交响乐”,抗脑癌的首个“量子疗法”找到
- 新春走基层丨驰而不息的钢铁驼队——春节探班中欧班列长安号
- 小科跑亚运丨走进亚运村,体验“智能”之旅
- 全国首个《国际易货师职业标准》团体标准发布实施
- 文化和旅游部发布中秋节、国庆节假期出游提示
- 化草为龙,舞起!
- 甘肃:2023年玉门县域经济高质量发展年会举办
- 程一笑解读快手商业增长:内容社区是基石 多元业务形成正向飞轮
- 菜鸟计划数周内正式交表:或成阿里首个启动上市的业务集团
- 新春走基层丨厦门:“茶园+碳汇”点亮山居生活
- 强筋壮骨 铸就发展新优势——我国推进新型工业化综述
- 菜鸟计划数周内正式交表:或成阿里首个启动上市的业务集团
- 人体内细胞数量确定,成年男性36万亿,成年女性28万亿
- 搜索
-