關注全球時事|洞察國際風雲
2025-03-18 17:24 星期二

AI产业链携手推动词元降本增效

时间:2026-07-20 09:55 来源:快讯社

  记者在2026世界人工智能大会暨人工智能全球治理高级别会议(WAIC 2026)上采访发现,随着智能体让词元消耗大幅攀升,降本增效成为众多企业的发力点。从芯片到算电协同,从大模型到智能模型路由,每个环节都在为降低词元成本而发力。

  当前,国内算力芯片创业市场上,张量处理单元(TPU)是热门赛道。在大规模纯张量AI训练或推理的场景下,最新代际TPU的能效、单位词元成本优于主流GPU产品。

  TPU芯片企业中昊芯英创始人杨龚轶凡表示,百万词元成本降到最低是当前优化的方向,因为高额算力成本已经制约AI商业化落地。公司新一代芯片的目标就是大幅压低单位词元成本,比上一代成本直接减半,后续迭代有望降到原有的十分之一。只有成本下探,各类AI应用才能规模化普及。

  算力中心的成本从源头决定词元成本。2026年政府工作报告中首次提及“算电协同”,对此,中科类脑董事长刘海峰告诉记者,算力基础设施全生命周期成本中,电力支出占比超20%,是决定算力产业核心竞争力的关键变量。以1000P标准算力集群为例,年度总耗电量约2000万度,依托平台优化可节约20%用电量,即每年减少400万度电力开支,节约成本直接转化为经营毛利,大幅提升价格竞争力。

  对于算电协同降本增效的路径,刘海峰表示,目前算电协同更多依靠物理空间靠近,未来重点是实现算力、电力双向柔性联动调度。例如通过统筹风电、光伏、储能多类型供电来源,动态测算不同时段最优供电成本结构,最大化绿电使用比例;同时基于分时电价、风光发电实时波动,灵活迁移算力任务负载,主动错峰使用低价清洁能源,从源头压缩算力用电成本。

  不少国产大模型在追求性能的同时,也在着力改善词元性价比。腾讯副总裁林松涛表示,混元HY3大模型以相对小的参数实现了比肩更大尺寸旗舰模型的能力,使用成本只有顶尖模型的百分之几,为企业的规模化应用提供了更加经济的选择。

  美团LongCat-2.0(龙猫)大模型在业内首次提出输入命中缓存不收费的模式。对此,美团相关负责人透露,典型智能体使用场景中,用户输入和输出比例约为150比1。经测算,针对输入部分的缓存词元采用不计费规则,用户的综合成本有望降低一个数量级。

  刚上线即引发关注的万亿参数旗舰模型Kimi K3,虽然单价不菲,却表现出了颇为不错的性价比。

  大模型评测机构SuperCLUE发现,通过测算完成同样任务的成本开支,Kimi K3在任务得分比第二名高出18%的前提下,任务平均成本却低约16%。这意味着,国产旗舰模型的性价比在持续优化。

  对此,SuperCLUE创始人徐亮认为,Kimi K3在处理多轮交互复杂任务时,依托更强底层能力减少迭代轮次,叠加优异的上下文缓存命中率,综合调用开销优于预期。

  由于不同大模型的能力和价格差别较大,“智能模型路由”也成为WAIC的热点。

  派欧云创始人姚欣介绍称,此前智能模型路线仅做简单“请求转发”,新的智能模型路由在处理高价值、高风险或结果不确定的关键步骤时,不是只问一个模型,而是将问题同时分发给多个擅长此道的专家模型,通过交叉验证和融合生成最终答案。同时智能路由会根据任务类型进行选择,比如简单问答用轻量模型,复杂推理用强模型,并压缩冗余上下文,复用之前的计算结果,设置预算护栏和失败回退机制。最终目标是用更经济的词元成本,完成同样质量的任务。

  派欧云综合测算发现,其智能模型网关可以将智能水平提升20%,同时将成本降低50%到60%。(记者 叶健 袁小康)


外交部:将本着科学原则研究日方关于恢复水产品输华请求
外交部:坚决反对美国向中国台湾地区出售武器
测试视频
综合看点 查看更多>>
匈牙利前最高法院院长鲍卡·安德拉什当选总统
防卫预算申请额再创新高,日本有何图谋?
沙土巴三国“共同防务”防什么
载货大减、运价暴涨 莱茵河旱情冲击德国工业
库存见底,美军关键弹药“补货”难
纵横天下 查看更多>>
美伊“中局”博弈的考量与变量
土耳其议会通过法案 推动解除库尔德工人党武装
警钟长鸣,日本拥核野心不可纵容
“全球发展青年领袖之家世界行”走进曼谷
伊朗与阿曼就霍尔木兹海峡拟定航道坐标达成一致
哥伦比亚地震:捐赠物资支援灾区
内塔尼亚胡拒加沙和平计划 以美一唱一和?
塞浦路斯有望2028年为欧洲供气
美媒称美国中情局秘密设立古巴工作组
韩国总统要求加速整合军校
叙利亚一法院缺席判处前总统巴沙尔死刑
哥伦比亚进入“国家灾难状态” 强震致超70人遇难
“绕不开”的霍尔木兹海峡
日本广岛废墟旁响起抗议声:勿忘历史 拒绝拥核
“新门罗主义”伸手,巴西“拒签”
2026年中国国际服务贸易交易会看点前瞻
中俄首条跨境索道主体工程完工
外交部:强烈敦促日方早日彻底清除日遗化武毒害
水清岸绿鸟翩跹——河南黄河流域生态治理观察
中亚专家:世界人工智能合作组织成立是“里程碑”
中国第16次北冰洋考察队“雪龙2”号开展冰站作业
五十载“追光”,璀璨一个大产业
中国与巴西等国联合打造BINGO射电望远镜 共同探寻宇宙膨胀的暗能量之谜
我国成功发射东方慧眼高光谱01、02星
提高人民军队打赢能力
粤港举行研讨活动 聚焦打造湾区游艇生活圈
中国驻日使馆:台湾非国家,不存在“国格”一说
李家超:目标第三季度内发表香港第一个五年规划
“今朝更好看”——庆祝中国共产党成立105周年名家作品展在港开幕
香港国际机场文化艺术节揭幕 展现沪港历史建筑风貌
福建新泉:红色文化助力乡村振兴
委内瑞拉地震死亡人数升至3342人
杭台高铁温玉段开始试运行
风沙渐远 生机绵长——“三北”工程攻坚一线观察
三江源:护万里清流 守中华水塔
最高法发布7件典型案例促进特许经营健康有序发展
最高法部署开展全国法院深化扫黑除恶专项斗争工作
马某林抢劫再审抗诉案等作为最高检指导性案例发布
今年上半年1535名纪检监察干部被处分
最高人民法院发布涉军维权司法典型案例
田间地头收获忙
安徽怀宁:再生稻开镰收割
云南丘北:万寿菊迎丰收
昔日盐碱地蝶变万亩良田
“黑土粮仓”开启农田“空中护航”
桑拿天比暴晒天更易中暑:藿香正气水、退烧药、掐人中不管用,还会加重病情
“超慢跑”火了,不累还能“暴击”内脏脂肪!还没试过就亏大了
国家卫生健康委关于修改和废止部分部门规章的决定(附解读)
发现甲状腺结节该怎么办?中医教您整体调理,改善结节状况
从中年“一身病”到74岁无“三高”,他坚持了这3件事!
前沿科技 查看更多>>
C919开启跨境常态化载客新征程
我国高能量密度一次电池功率获突破
国产大模型改写全球AI调用版图
我国6G推进组成立星地融合工作组
国内最大自航式纯电驱布缆船“蓝海领航”下水
健康生活 查看更多>>
“AI+汽车”应用再上大台阶
中国自动驾驶出租车“驶入”阿联酋
今年上半年人形机器人领域新设企业11.6万户
人工智能或可唤醒“沉睡”的文化宝藏
AI锻造电子信息制造业新优势
实用技术 查看更多>>
呼和浩特:AI赋能实体经济 从“概念”走向“生产线”
AI进药企,新药研发在提速
人形机器人在深圳多场景“上岗”(组图)
从“中国神器”看中国制造迭代升级
世界最大跨度斜拉悬索协作桥南北主塔成功“牵手”
科普博览 查看更多>>
车间一线:传统技工拥抱智能制造新赛道
现代化寄递网络加速集约智能
“翘边”的银河系,居然还“起皱”
AI推动天文观测向“智能分析与自主发现”演进
大科学装置强流重离子加速器首个实验结果发表
“典藏山河——沈阳故宫博物院建院百年百件文物展”开幕
在意大利宫廷珍宝展上感受东西方文化交流
千年王陵以美学破圈
“大音希声:中国绘画中的音乐”展览在纽约举办
上海民族乐团《中国色》音乐会在巴西利亚上演
从名校生到“村里人”——四位选调生在乡村开起“青春答疑铺”
沃土·甘霖·引路人——青年拔尖创新人才这样养成
“空中校车”托举云端求学路
青少年珠算文化非遗美育大会启幕
50天后,世界的脉搏将和上海一起跳动:第48届世界技能大赛主题片发布
亚洲大学生篮球联赛上海交大队夺冠
三大洲足联再批国际足联 全球足球治理分歧持续
沿黄河九省(区)青少年足球邀请赛收官
吴艳妮:亚运会轻装上阵、全力以赴
连续三轮“下克上” 解码足协杯黑马逆袭之路
体验“上新” 点亮文旅消费新空间
潮起大湾区 客从四海来——读懂不一样的广东
西藏日喀则:高原生态“林卡” 城郊避暑首选
云南暑期入境游持续升温 多数为避暑度假
“China Cool”成海外热词——今年夏天,去中国纳个凉