ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

AI推理Token成本暴跌37.5%,产业从建设转向变现,电力成基建瓶颈

AI推理Token成本暴跌37.5%,产业从建设转向变现,电力成基建瓶颈

AI推理Token成本暴跌37.5%,GPU租金逆势上涨15.2%

AI基础设施主线从“建设”转向“变现”,但并非资本开支见顶。AI推理Token成本从5月峰值暴跌37.5%至1.33美元/百万Token,同期Blackwell GPU租金逆势上涨15.2%至5.18美元/小时,AI产业进入推理经济的“剪刀差”阶段。

智能路由驱动Token降价,资本开支回报率达28%

花旗分析师Heath Terry判断,智能路由是Token降价的核心驱动力,企业按任务复杂度自动调度模型,压缩了推理开支。而供给侧方面,二季度超大规模厂商的AI资本开支回报率达28%,是融资成本(约6%)的近5倍,即便有建设禁令,谷歌、SpaceX仍加速扩张,亚马逊追加200亿美元资本开支。

电力成AI基建瓶颈,产能扩张拉长至5 - 10年

电力、许可和劳动力的三重约束,将原本预期3年完成的产能扩张拉长到5至10年。德克萨斯州审计冻住大量项目审批队列,数据中心占新增电力申请约90%,电力取代芯片成为AI基建最紧迫的瓶颈。谁能更早锁定供电时间,站点溢价和收入兑现就越快。

推理任务输出Token升11%,存储和互连需求持续走高

过去三周,每个推理任务的平均输出Token升了11%至2.4万个,推理密集型任务尾部涨9%到4万个,输出Token占比升至41%,缓存活动降至57%,输入Token稳定在2%。模型调用消耗计算资源增多,若无架构突破,对HBM和互连芯片的需求会持续推高。

全球开源与闭源差距收窄至4分,中美开源差距仍达21分

Artificial Analysis智能指数显示,领先闭源与领先开源模型差距从此前的9分收窄至4分,但主要靠中国厂商拉动,美国领先闭源与美国领先开源之间差距仍有21分。推理速度优化远快于智能提升,Top 20厂商中位推理速度周环比涨55.3%,行业重心转向“更快”。

编辑观点:企业应关注智能路由技术以降低推理开支,优先解决电力供应问题加快变现。同时,重视存储和互连芯片布局,在开源模型竞争中发挥优势,谨慎应对裁员波动。

返回列表