电脑桌面
添加小米粒文库到电脑桌面
安装后可以在桌面快捷访问

【量子位】2023AIGC算力全景与趋势报告VIP免费

【量子位】2023AIGC算力全景与趋势报告_第1页
【量子位】2023AIGC算力全景与趋势报告_第2页
【量子位】2023AIGC算力全景与趋势报告_第3页
AIGC算力全景与趋势报告分析师:丁乔dingqiao@qbitai.com量子位智库QbitAIInsights序言2023年无疑是AIGC元年,ChatGPT引发的各类大模型竞赛中,行业内绕不开的一个话题便是算力从何而来。算力目前已经在AIGC产业内形成新共识——算力成为AIGC发展的关键基石。随着英伟达今年一系列不断推陈出新的产品动作,可以看到国际上最先进的算力厂商如今已迈向由超级芯片组成的算力集群阶段。此外,算力厂商也无疑成为AIGC产业下的率先受益方。然而,随着大模型参数的不断增长,OpenAI近期表明算力成为其发展的挑战之一。在AIGC产业繁荣的当下,可以预见的是未来对算力的需求会越来越大。那么,在这场AIGC盛宴中,应该如何应对当下面临的「算力危机」呢?在《AIGC算力全景与趋势报告》中,量子位智库将从我国算力产业现状、算力产业变革、趋势预判等角度出发,通过广泛调研与深度分析,全面立体描绘我国当前AIGC算力产业全景与趋势。我们期待,能够与众多投入、关注、期待中国AIGC算力产业的伙伴一起,共同见证并打造中国AIGC算力产业的蓬勃未来。AIGC驱动,算力产业机遇空前01020304目录AIGC算力产业全景AIGC算力产业「五新」趋势AIGC算力产业周期预测05AIGC算力产业代表案例AIGC驱动,算力产业机遇空前01AIGC潮起,算力产业挑战巨大,机遇空前OpenAI发布ChatGPT属于GPT系列中的聊天机器人模型。GPT系列中,GPT3是由1750亿参数组成的语言模型,而GPT4的参数更是达万亿级别。国内目前公布的大模型参数规模也普遍在百亿至千亿级别。如此庞大的参数规模,对于芯片提供商、云服务厂商以及服务器厂商都产生了新需求。全球范围内,GPT具备从底层改变各行业规则的能力,作为AIGC产业的基建,算力产业在未来有望成为一项公共服务渗透入各行各业。基于此,智算中心作为公共算力基础设施,成为AIGC基建中的关键环节。•游戏规则被改写,MaaS能力成为竞争的关键变量云计算厂商•在算力需求暴涨、数据和模型资源稀缺、AI技术广泛落地背景下,智算中心成为地区AI新基建智算中心•大模型训练驱动AI服务器需求暴涨,并且正在催生新物种:AI模型一体机服务器厂商•GPU为核心的AI训练芯片供不应求,是AIGC算力产业最大挑战和最大机遇芯片大模型参数量变化来源:InformationisBeautiful芯片:大模型训练需求暴涨,GPU供不应求•需求当前大模型参数量在百亿至千亿参数规模,在训练阶段,对芯片的需求从CPU+加速器转变为以GPU主导的大规模并行计算。未来,当多数大模型参数规模到达万亿级别,将产生更大的算力需求。在单芯片性能之上,智算中心能够通过算力的生产-调度-聚合-释放,支持AI产业化发展。•缺口目前市场对于英伟达芯片的需求远大于供给。经测算,一万枚英伟达A100芯片是做好AI大模型的算力门槛。国内具备此量级的公司最多只有1家,而GPU芯片持有量超过一万枚的企业不超过5家。推理阶段(日常运营)ChatGPT2023年2月官网总访问量11亿次;用户每次与ChatGPT互动的云计算成本成为约0.01美元;保守预估,假设用户每次访问网站只进行一次互动训练阶段(单次成本)单次GPT-3Small(1.25亿)计算量2.6PFlops/天单次GPT-3XL计算量为27.5PFlops/天单次GPT-3(175B)计算量3640PFLops/天GPT3(175B)3640PFLops:35000块A100/1天或1024块A100跑1个月单次训练成本:>1200万美元微调阶段预计算力1350.4PFlops/天采用A100或V100设备算力需求13000块A100/1天或433块A100跑1个月成本:920万/月芯片需求芯片需求芯片需求成本成本成本运营的算力成本:~1100万美元/月来源:阿里公开资料,量子位智库整理服务器:业务增长显著,高端芯片AI服务器火爆•现状AIGC产业的发展将加剧AI服务器行业的增长速度,国产服务器厂商普遍业务增量在30%以上;国内市场中,服务器重新进入洗牌期。•需求趋势由于AIGC对于高性能计算的需求,云厂商在服务器的选择上以AI服务器为主。据IDC数据,2025年全球AI服务器市场规模将达317.9亿美元,年复合增长率为19%。英伟达GPU短期内面临产能不足问题,或将一定程度上限制AI服务器生产,从而影响出货量。010020030040050060070080020212025E2021-2025中国AI服务器市场规模预测市场规模(亿元)数据来...

1、当您付费下载文档后,您只拥有了使用权限,并不意味着购买了版权,文档只能用于自身使用,不得用于其他商业用途(如 [转卖]进行直接盈利或[编辑后售卖]进行间接盈利)。
2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。
3、如文档内容存在违规,或者侵犯商业秘密、侵犯著作权等,请点击“违规举报”。

碎片内容

哑巴湖+ 关注
实名认证
内容提供者

优质文档内容

确认删除?
VIP
微信客服
  • 扫码咨询
会员Q群
  • 会员专属群点击这里加入QQ群
客服邮箱
回到顶部