股票吧 [ :票 ] 关注:5,952,718贴子:40,595,903
  • 0回复贴,共1

生成式AI快速发展 算力价格上涨

只看楼主收藏回复

据民生证券了解,根据GPUShare最新报价数据显示,H800/80G单卡租赁价格4.5美元/小时,换算单卡2P算力(稀疏) = 17元/P/小时 = 15万元/P/每年。对比一个月前报价(14元每小时,或13.3万元/P/年)涨价幅度达15%。
上海证券认为,随着GPT、Llama等生成式AI模型不断迭代,生成式AI模型的参数量和训练Token数不断增加,模型训练的计算量也随之扩增。同时,ChatGPT等生成式AI应用也逐步落地,模型推理的相关需求也快速增加。根据Trendforce的数据,假设运行ChatGPT的算力消耗达到3640PFdays,则至少需要3万块A100。相比于微软、谷歌等CSP拥有自建数据中心,中小型生成式AI应用开发商的训练和推理算力需求,往往难以通过自建算力设施解决,算力租赁需求突出。
相关公司方面,中贝通信为AI算力租赁龙头。


谨防高回报高收益理财诈骗!
来自iPhone客户端1楼2023-09-21 09:54回复