金年会深耕流畅稳定平台,观赛体验无忧领域,用心服务每一位用户。
Background

金年会官网:体育资讯,一手掌握

SemiAnalysis,一家专注于半导体研究的机构,披露了其内部大模型的实际成本:每百万Token仅需0.99美元。然而,令人震惊的是,该机构员工的Token支出已占到其总薪资的三成。

尽管这个比例听起来不小,但它所带来的产出效益是巨大的。据估算,过去需要数倍于此的人力成本才能实现。该机构的员工平均每月消耗近50亿Token,远超Meta员工的五倍以上,其中核心贡献者每月消耗量更是高达1000亿Token。

此前需要初级分析师花费数小时完成的Excel模型转换和财报图表制作等任务,如今仅需几分钟和几美元即可搞定。SemiAnalysis认为,这并非简单的10%效率提升,而是对专业服务行业经济模式的颠覆性重塑。

研究机构、对冲基金、律师事务所等依赖脑力劳动的行业,Token支出占薪资的两到三成可能只是时间问题。

英伟达CEO黄仁勋对此深有体会。他在GTC大会上表示,如果一名年薪50万美元的工程师,年底的Token消费不到25万美元,他将“彻底抓狂”。黄仁勋计划为每位英伟达工程师提供相当于半年工资的Token预算,并让7.5万名员工与750万个AI智能体协同工作。他强调,不使用AI如同坚持使用纸笔进行芯片设计一样落伍。Token已不再是工具,而是新时代的“生产资料”。

与此同时,硅谷的一些大型科技公司却因AI账单而烦恼不已。

Uber的经历尤为典型。去年底,该公司向5000名工程师推广Claude Code,并设立了排行榜以激励使用。结果显示,2月工程师使用率仅为32%,3月飙升至84%,4月更是达到95%,其中70%的代码提交由AI生成。然而,公司全年的AI预算在此之前已被耗尽。

Uber的CTO不得不重新制定预算。据Bloomberg报道,Uber随后为每位员工设定了每月1500美元的Token使用上限,超出部分需特批。尽管AI使用量激增,但Uber的COO Andrew Macdonald坦言,目前尚无法明确看到AI使用量增长与消费者功能创新之间的直接联系。

微软的情况也颇具戏剧性。据The Verge报道,微软近期取消了大部分Claude Code许可证,转而推广自家产品GitHub Copilot CLI。主要原因是AI的支出速度超过了其产生的效益。

英伟达应用深度学习副总裁Bryan Catanzaro表示,对其团队而言,计算成本已远超员工成本。

MIT在2024年的一项研究指出,在以视觉工作为主的岗位中,仅有23%的场景下AI自动化在经济上是划算的。这意味着在剩下的77%的情况下,雇佣人类员工比使用AI更具成本效益。

甚至有工程师抱怨AI智能体在操作过程中“毁掉了他的数据库和网络”,称这是“过度使用”的代价。

高昂的预算、失控的使用以及层出不穷的问题,使硅谷正经历AI经济学上的巨大分歧:一方面是AI带来的前所未有的生产力提升,另一方面是账单以惊人的速度膨胀。

成本下降的趋势才刚刚开始。

SemiAnalysis的核心观点是,不应仅关注当前的价格,因为成本的急剧下降才刚刚显现。

从软件层面来看,通过WideEP、Disagg和MTP等优化技术,在B300上运行DeepSeek R1,单GPU的吞吐量可从基线的1000 tokens/秒提升至14000 tokens/秒,增幅达14倍,且这完全是通过软件优化实现的。

从硬件层面看,经过优化的GB300 NVL72的吞吐量是H100的17倍,若采用FP4精度,甚至可达到32倍。

尽管Opus 4.7的标价为输入5美元/百万Token,输出25美元/百万Token,但考虑到智能体工作负载的输入输出比高达300:1,以及超过90%的缓存命中率,实际混合成本被压低至0.99美元,不到标价的五分之一。

结合软件和硬件的进步,一个不可回避的结论是:大模型的毛利率提升并非偶然,而是结构性的趋势。Anthropic的年经常性收入(ARR)从90亿美元飙升至440亿美元以上,毛利率也从38%跃升至70%以上,这表明Token价格的下降并未影响卖家的盈利能力。

Gartner在今年3月的报告中预测,到2030年,万亿参数大模型的推理成本将比2025年下降超过90%。SemiAnalysis明确指出,到2027年,Token价格将持续走低。

钱已投入,未来如何?

这是当前AI领域最令人困惑的局面:全球科技公司今年的AI资本支出已宣布达到7400亿美元,较去年增长69%;与此同时,科技行业的裁员速度已超过去年全年。

资金在疯狂投入,人员却在被裁减,但Goldman Sachs首席经济学家指出,AI对经济的实际影响至今微乎其微。

这并非AI本身的问题,而是每一轮基础设施革命都必然经历的阵痛:首先是巨额投资建设基础设施,然后等待其效益显现。电力网络、互联网以及AI都遵循这一规律。

不同之处在于,这一次基础设施建设的速度以及效益显现的速度,是前所未有的。

SemiAnalysis已经站在了效益显现的一方,以30%的薪资成本获得了数倍的产出杠杆,且成本曲线仍在迅速下降。

对于其他公司而言,是选择现在就投入其中,还是等待他人先行建立起优势后再行追赶,这是一个关键的抉择。


金年会以金年会平台为核心,带来高效便捷的体验。

想了解更多金年会官网相关内容,尽在金年会。



0 条评论

20 - 金年会
昵称

2026年5月15日

金年会致力于为全球体育爱好者提供最全面、最及时的赛事信息与深度分析。我们整合热门赛事新闻、比分数据与专题动态内容,满足不同用户的观赛需求,确保您不错过任何精彩瞬间。

回复 »
20 - 金年会
邮箱

2026年5月15日

通过专业的运营体系与持续优化的内容服务,金年会形成了良好的品牌背书。用户进入平台后即可根据赛事栏目快速浏览相关内容,享受流畅稳定的平台体验。

回复 »
20 - 金年会
网址

2026年5月15日

金年会平台的核心价值体现在更加全面的赛事内容覆盖与流畅稳定的平台体验。我们提供赛事直播、数据分析、实时比分与资讯更新,让您随时随地掌握最新体育动态。

回复 »

发表您的观点

© 版权所有 - 金年会(中国)官方网站

电话:+86 188 4491 4035邮箱:[email protected]微信:jnh_296