用户名  找回密码
 立即注册
搜索

红棉主题

腾讯Q1电话会:GPU储备充足、模型训练够用

[XinWen.Mobi 原创复制链接分享]
xinwen.mobi 发表于 2025-5-15 13:09:31 | 显示全部楼层 |阅读模式
在5月14日举行的腾讯一季度业绩电话会上,腾讯管理层透露公司GPU储备充足,模型训练够用。相关情况如下:GPU储备情况:腾讯目前有充足的高端芯片现货储备。为加速推进AI战略,腾讯在2024年第四季度购置了大批量的图形处理器(GPU),2024年全年的资本支出总额达到了107亿美元,相当于同期收入的12%。模型训练够用的原因:这些储备的芯片将首先投入能立即创造回报的场景,如广告投放与内容推荐,大模型训练属于第二优先级。实践表明,集群规模较小也能取得很好的训练成果,且模型后训练阶段仍有巨大潜力,不一定需要超大规模集群,所以凭借现有的高端芯片库存,腾讯未来数代模型的训练完全“够用”。应对推理压力的手段:推理方面的GPU需求相对更大,针对这方面的压力,腾讯有多种手段,包括软件优化,持续提高推理效率;模型定制与蒸馏,可针对不同场景裁剪模型尺寸或者进行模型蒸馏;芯片来源多元化,在合规的前提下,灵活使用中国本地或可进口的其他合规芯片,以及ASIC、FPGA等。
回复

举报

红棉主题

QQ|手机版|标签|新闻移动网xml|新闻移动网txt|全球新闻资讯汇聚于 - 新闻移动网 ( 粤ICP备2024355322号-1|粤公网安备44090202001230号 )

GMT+8, 2025-5-25 01:40 , Processed in 0.825796 second(s), 21 queries .

Powered by Discuz! X3.5

© 2001-2025 Discuz! Team.

消息来源网络

快速回复 返回顶部 返回列表