集邦咨询:ChatGPT运行需要3万块A100显卡,英伟达可从OpenA

2023-03-07 15:49:11 IT之家阅读量:17144   
imgad2

,市场调查机构 TrendForce 集邦咨询公布的最新报告指出,如果以英伟达 A100 显卡的处理能力计算,运行 ChatGPT 将需要使用到 30000 块英伟达 GPU。

调查机构 TrendForce 在报告中指出,预估 ChatGPT 需要 20000 块显卡来处理训练数据。随着 OpenAI 继续在商业上部署 ChatGPT 和该公司的生成式 GPT 模型,可能需要超过 30000 块显卡。

目前英伟达 A100 显卡的售价在 10000-15000 美元之间,该售价取决于 OpenAI 需要多少显卡,以及英伟达是否会为 AI 公司提供订单折扣。TrendForce 预估英伟达可以赚取超过 3 亿美元收入。

英伟达还将 A100 作为 DGX A100 系统的一部分进行销售,该系统具有八个加速器,售价高达 199,000 美元。鉴于 OpenAI 的运营规模,该公司可能会单独购买 A100 并将它们堆叠成集群。