25AIGC算力时代系列报告:ChatGPT芯片算力:研究框架
《25AIGC算力时代系列报告:ChatGPT芯片算力:研究框架》由会员分享,可在线阅读,更多相关《25AIGC算力时代系列报告:ChatGPT芯片算力:研究框架(29页珍藏版)》请在启牛文库网上搜索。
1、2023年2月10日ChatGPT芯片算力:研究框架【AIGC算力时代系列报告】行业评级:看好证券研究报告分析师陈杭研究助理安子超邮箱邮箱证书编号S1230522110004获取更多最新资料请加微信:chensasa666算力需求爆发拉动芯片量价齐升量价芯片需求光模块和光芯片AI芯片(加速器)GPUCPUFPGAAI光模块ChatGPT完美运行训练数据模型算法算力模型迭代Transformer技术算力需求增加英伟达GPU A100模型训练成本1200万美元AI训练计算需求预计每3.5个月翻一番1万颗芯片需求快速增加芯片均价大幅提升通过AI服务器实现资料来源:浙商证券研究所2获取更多最新资料请加
2、微信:chensasa666添加标题95%摘要3ChatGPT热潮席卷全球。ChatGPT(Chat Generative Pre-trained Transformer)是由OpenAI于2022年12月推出的对话AI模型,一经面世便受到广泛关注,其2023年1月月活跃用户达到1亿,是史上月活用户增长最快的消费者应用。在问答模式的基础上ChatGPT可以进行推理、编写代码、文本创作等等,这样的特殊优势和用户体验使得应用场景流量大幅增加。1、芯片需求=量 x 价,AIGC拉动芯片产业量价齐升1)量:AIGC带来的全新场景+原场景流量大幅提高。技术原理角度:ChatGPT基于Transforme
3、r技术,随着模型不断迭代,层数也越来越多,对算力的需求也就越来越大;运行条件角度:ChatGPT完美运行的三个条件:训练数据+模型算法+算力,需要在基础模型上进行大规模预训练,存储知识的能力来源于1750亿参数,需要大量算力。2)价:对高端芯片的需求将拉动芯片均价。采购一片英伟达顶级GPU成本为8万元,GPU服务器成本通常超过40万元。支撑ChatGPT的算力基础设施至少需要上万颗英伟达GPU A100,高端芯片需求的快速增加会进一步拉高芯片均价。2、ChatGPT的“背后英雄”:芯片,看好国内GPU、CPU、FPGA、AI芯片及光模块产业链1)GPU:支撑强大算力需求。由于具备并行计算能力,
4、可兼容训练和推理,目前GPU被广泛应用于加速芯片。看好海光信息、景嘉微;2)CPU:可用于推理/预测。AI服务器利用CPU与加速芯片的组合可以满足高吞吐量互联的需求。看好龙芯中科、中国长城;3)FPGA:可通过深度学习+分布集群数据传输赋能大模型。FPGA具备灵活性高、开发周期短、低延时、并行计算等优势。看好安路科技、复旦微电、紫光国微;4)ASIC:极致性能和功耗表现。AI ASIC芯片通常针对AI应用专门设计了特定架构,在功耗、可靠性和集成度上具有优势。看好寒武纪、澜起科技;5)光模块:容易被忽略的算力瓶颈。伴随数据传输量的增长,光模块作为数据中心内设备互联的载体,需求量随之增长。看好德科
5、立、天孚通信、中际旭创。获取更多最新资料请加微信:chensasa666风险提示41、AI技术发展不及预期2、版权、伦理和监管风险3、半导体下游需求不及预期获取更多最新资料请加微信:chensasa666目录C O N T E N T SChatGPT带动算力芯片量价齐升010203CPU、GPU、FPGA、AI芯片提供底层算力支持光模块支撑数据传输5获取更多最新资料请加微信:chensasa666算力需求爆发拉动芯片量价齐升01PartoneAI计算需要各类芯片支撑算力需求爆发,芯片量价齐升AI服务器为算力载体CPU、GPU、FPGA、ASIC、光模块各司其职6获取更多最新资料请加微信:ch
6、ensasa666人工智能四层架构,芯片为底层支撑7底层芯片深度学习框架大模型上层应用CPUGPUFPGAASIC百度:PaddlePaddleMeta:PyTorch谷歌:TensorFlow华为:MindSporeOpenAI:GPT3.5华为:盘古大模型AIGCAI音乐:DeepMusicAI绘画:盗梦师AI写作:弈写ChatGPT百度:文心大模型谷歌:PaLM01资料来源:澜舟科技,IDC,量子位,电子发烧友等,浙商证券研究所获取更多最新资料请加微信:chensasa666人工智能不同计算任务需要各类芯片实现01资料来源:Huawei forum,浙商证券研究所CPUGPUFPGAAI
7、用ASIC通用性强,应用方便性能更优,能效更高强大的调度、管理、协调能力;应用范围广开发方便灵活 逻辑判断 任务调度与控制并行架构计算单元多适合大量逻辑确定的重复计算 模型训练成本低能耗低性能强针对AI设定特定架构 成熟量产阶段 研发阶段 数据中心 AI推理低延时开发周期短硬件可根据需求调整成本和壁垒高8获取更多最新资料请加微信:chensasa666ChatGPT流量激增,为AI服务器带来重要发展机遇019资料来源:Sensor Tower,World of Engineering,头豹研究院,华经产业研究院,浙商证券研究所原场景流量提升+新应用场景服务器算力要求提升AI服务器需求增加达成1
8、亿月活跃用户耗时2个月9个月30个月 54个月 60个月 78个月史上用户增速最快消费级应用应用原场景流量提升创造新应用场景ChatGPT在问答模式的基础上进行推理、编写代码、文本创作等,用户人数及使用次数均提升。智能客服智能音箱陪伴型机器人游戏NPC内容生产传统CPU服务器通用性较强,专用性较弱数据的质和量发生变化,非结构化数据占比激增算力无法满足AI服务器需求终端用户使用频率提高,数据流量暴涨,对服务器的数据处理能力、可靠性及安全性等要求相应提升CAGR=18.8%122亿美元288亿美元20202025全球AI服务器市场规模获取更多最新资料请加微信:chensasa666ASICAI服务
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 25 AIGC 时代 系列 报告 ChatGPT 芯片 研究 框架