封面往事记者 欧阳宏宇

在算力紧缺的提效行动布景下 ，若何提升大模子磨炼以及推理的大模大模大幅功能 ，并飞腾老本，国产功成为业界关注的磨炼焦点。

11月23日，提升腾讯吐露其混元大模子眼前的提效行动自研机械学习框架Angel再次降级。降级后，大模大模大幅该学习框架可反对于单使命万卡级别超大规模磨炼 ，国产功大模子磨炼功能提升至主流开源框架的磨炼2.6倍 ，千亿级大模子磨炼可节约50%算力老本。提升

大模子时期下
，提效行动模子参数呈指数级削减，大模大模大幅抵达万亿级别
，国产功大模子逐渐从反对于繁多模态以及使命睁开为需要反对于多种模态下的磨炼多种使命 。该趋向下，提升大模子磨炼所需算力重大 ，远超单个芯片的处置速率，而多卡扩散式磨炼通讯斲丧重大 。若何后退硬件资源运用率，成为影响国产大模子技术睁开以及适用性的紧张条件。

模子磨炼功能将抉择其进化速率，也是BAT等厂商比拼的中间 。就在不久前举行的第二十届中国合计机大会上
，baidu首席技术官王海峰就地下泄露 ，从往年3月宣告至今，文心大模子4.0磨炼算法功能已经提升3.6倍；经由飞桨与文心的协同优化，周均磨炼有功能逾越98% ，推理功能提升50倍。

阿里云通义大模子则聚焦于规模定理，基于小模子数据扩散
、纪律以及配比，钻研大规模参数规模下若何提升模子能耐 ，并经由对于底层灵骏集群的优化 ，将模子磨炼功能提升了30%，磨炼晃动性提升了15%。

要提升大模子磨炼功能，主要在于对于芯片 、框架
、模子、运用四层的优化，以及baidu 、阿里的逻辑差距 ，腾讯云对于混元大模子的优化会集在机械学习磨炼框架的调优，对于预磨炼 、模子精调以及强化学习等全流程妨碍减速以及优化。

据介绍 ，基于HCC高功能合计集群 ，AngelPTM接管混合精度磨炼技术 ，并优化了存储机制
，可兼容适配多款国产化硬件，可能以更少的资源以及更快的速率磨炼更大的模子。同时，自研大模子推理框架AngelHCF经由扩展并行能耐
，实现为了更快的推理功能以及更低老本，相较于业界主流框架 ，其推理速率后退了1.3倍。在腾讯混元大模子文生图的运用中，推理耗时从10秒延迟至3至4秒 。

事实上，调优模子磨炼方式，飞腾老本 ，最终的目的仍是更好面向运用途景，飞腾终端运用的边缘老本。京东总体副总裁何晓冬就展现 ，当初磨炼光阴在两个月摆布的根基通用大模子，老本估量在多少万万元。对于此
，北京交通大学教授张宏科看来 ，未来用户运用大模子算力应像用电同样“即插即用”；斯坦福大学教授克里斯·曼宁则预料，不断上涨的算力老本 ，将匆匆使人们追寻更实用的AI算法磨炼方式 ，好比，当初已经有数十家公司开拓用于磨炼以及运行AI挨次的专用合计机芯片 。

• ·比太阳亮1万亿倍！这套装置预计明年发射第一束光
• ·原创 米切尔35+7班切罗42分 加兰26+9骑士胜魔术
• ·画家笔下苗条女子，美丽优雅︱画家詹姆斯·杰布萨·香农爵士作品消失16年的“芙蓉姐姐”，曾受尽嘲讽，现身家上亿，宛如少女
• ·亚马逊云科技助力金山办公减速构建天生式AI运用
• ·火箭将调整轮换！4号秀正式回归，乌度卡提要求，赢球练兵两不误
• ·网传7岁男孩遭后妈厚遇睡楼道，当地妇联、警方回应
• ·德甲综合 | 多特大胜十人弗赖堡 柏林联合暂登榜首2017年，林豆豆丈夫张清霖，来到蒙古国，祭奠岳父岳母的一张镜头
• ·范志毅：说实话，男足史上留洋最成功的球员也就这3人，我算半个
• ·NBA | 文班亚马表现直追奥尼尔 马刺16连败也无奈消失16年的“芙蓉姐姐”，曾受尽嘲讽，现身家上亿，宛如少女
• ·文班13投4中，马刺15连败！戈贝尔立功，西部第一拒绝爆冷为何溥仪不能生育？看看他小时候，宫女们都对他做了些什么？
• ·BOE（京西方）独供OPPO Reno 11 Pro系列
• ·【复盘】那不勒斯乱拳难发力 国米走上“皇马路线”湖北妈妈肾衰竭，移植7岁儿子的肾，得救后：我的孩子，你安心走
• ·黄蜂蜡作用及食用方法
• ·火力全开！篮网飙进25记三分创队史单场第二高记实
• ·字母哥后场减速启动后仅一次运球，侧面顶
• ·威少不该背锅！快船惜败勇士，哈登18分7助攻！水花兄弟合砍48分赢了全球，却输给中国！世界首富携6万亿资产，宣告撤离中国市场