1、 Table_yemei1 观点聚焦 Investment Focus Table_yejiao1 本研究报告由海通国际分销，海通国际是由海通国际研究有限公司，海通证券印度私人有限公司，海通国际株式会社和海通国际证券集团其他各成员单位的证券研究团队所组成的全球品牌，海通国际证券集团各成员分别在其许可的司法管辖区内从事证券活动。关于海通国际的分析师证明，重要披露声明和免责声明，请参阅附录。(Please see appendix for English translation of the disclaimer)研究报告 Research Report 16 Dec 2022 中国汽车 Chin
2、a Automobiles OpenAI 发布 AI 对话模型 ChatGPT，开启生成式 AI 商业化新机遇 OpenAI Releases Language Model ChatGPT,Opening New Opportunities for AIGC to Commercialize Table_Info 市盈率 P/E 股票名称 评级 目标价 2022E 2023E 比亚迪 Outperform 309.80 56 38 长安汽车 Outperform 11.58 17 n.a.赛力斯 Outperform 75.25 n.a.707 伯特利 Outperform 31.25 n.a
3、.80 江淮汽车 Outperform 13.90 81 n.a.资料来源：Factset,HTI Related Reports 特斯拉全系国产车型降价，有望垂直延伸市场份额（Tesla cuts starting prices for China-made models to boost Q4 demand）(25 Oct 2022)英伟达发布车芯 Thor，引领汽车智能芯片革新浪潮（Nvidia Releases Drive Thor,One Chip to Rule All Software-Defined Vehicles）(21 Sep 2022)2022 华为秋季新品发布会：问界
4、 M5 EV 全面对标特斯拉 Model Y，鸿蒙生态全场景覆盖智慧生活（Huawei-backed AITO launches first all-electric model M5 EV to take on Tesla Model Y）(7 Sep 2022)(Please see APPENDIX 1 for English summary)事件 当地时间 11 月 30 日，美国人工智能公司 OpenAI 发布全新产品ChatGPT，一款基于 GPT-3.5 的免费对话模型。公司 CEO Sam Altman透露上线五天该模型的全球用户数量已突破百万。兼具理解力、创造力和记忆力，Ch
5、atGPT 对话模型“出圈”。作为一款生成式人工智能模型，ChatGPT 的主要功能是与用户进行自然语言的交互，即与用户对话。据 OpenAI 官网介绍，ChatGPT 在与用户展开对话的过程中能够“回答后续问题，承认自己的错误，质疑不正确的前提，并拒绝不适当的请求”。相较苹果 Siri、微软小冰等 AI服务，ChatGPT 最大的亮点之一在于它可以理解用户需求并创造内容、协助代码编写、能够针对用户的追问在后续对话中进行修正或补充。除了逻辑严密的创造能力之外，ChatGPT 具有记忆能力，在连续的对话中无需用户提供重复信息，其语言组织和表达能力也更接近人类水平，使对话更自然流畅。目前的 Cha
6、tGPT 局限性也较为明显，官网提示无法保证 ChatGPT 生成内容的准确性，此外部分创作内容或涉及版权问题。仰赖大训练规模和强化学习算法，资本注血充沛。ChatGPT 的研发公司 OpenAI 于 2015 年成立，2018 年发布生成式预训练 Transform模型 GPT-1，随后于 2019 年和 2020 年分别优化推出 GPT-2 和 GPT-3。训练参数方面，GPT-3 由 GPT1 的 1.17 亿提升至 1,750 亿，公司通过提升训练语料的规模和质量实现 GPT 系列迭代，而 ChatGPT 即脱胎于 GPT-3.5，其训练参数规模较前代 GPT-3 又提升了一个数量级，
7、功能更为强大。据悉，OpenAI 正在开发的 GPT-4 模型训练规模或达 100 万亿。算法模型方面，本次 OpenAI 引入的人工标注数据和 PPO 强化学习算法能够结合参数庞大的相关性模型与人类反馈，在与人类互动中通过反馈来强化学习。换言之，用户给予的反馈越多，ChatGPT 就会被“打磨”得越好，这也是 ChatGPT 采取免费试用策略的原因。资本和商业化方面，2019 年 7 月公司与微软达成合作协议，获得微软注资 10 亿美元同时向微软开放部分技术商业化权限。追求高技术的 OpenAI 不仅获得了雄厚的研发资本，与微软的合作也为之提供了商业化土壤。以 GPT-3 为例，微软官网宣布
8、采用GPT-3 模型赋能内部商业产品 Azure，服务企业用户。不破不立，AI 生成内容商业化前景广阔。继 OpenAI 今年发布的人工智能图像生成器 DALL-E2 之后，ChatGPT 的推出再次拓展了生成式 AI 的商业化想象空间，也挑战了现有的商业逻辑。人工智能生成内容将刺激 AI 生成文本、图像、视频、代码等 C 端需求，也启发了诸如 GPT-3 在微软内部商业化落地服务企业的 B 端业务可能。Table_Author Barney Yao 557085100115Dec-21Mar-22Jun-22Sep-22Dec-22HAI China AutomobilesMSCI Chin
9、a获取更多最新资料请加微信：chensasa666 16 Dec 2022 2 Table_header2 中国汽车 除此之外，类似 ChatGPT 的智能模型或会对搜索引擎产生一定替代。彭博指出ChatGPT 用户可以在对话中直接得到想要了解的资讯，这一新型交互形态可能会冲击现有的搜索引擎广告业务。我们认为，ChatGPT 的发布为 AI 生成内容产业链提供了较多市场机遇，增加上下游需求，同时对现有商业规则的冲击也值得关注。风险提示 AI 生成内容法律法规不健全，模型开发不及预期，商业化进程不及预期等。获取更多最新资料请加微信：chensasa666 16 Dec 2022 3 Table_
10、header2 中国汽车 ChatGPT 的训练步骤合称为 RLHF 技术 ChatGPT 训练过程主要分为三个步骤。第一步，使用有监督学习方式，基于 GPT3.5 微调训练一个初始模型，训练数据约为 2w3w 量级（此处为推测量级，我们根据兄弟模型 InstructGPT 的训练数据量级估算）。由标注师分别扮演用户和聊天机器人，产生人工精标的多轮对话数据。值得注意的是，在人类扮演聊天机器人时，会得到机器生成的一些建议来帮助人类撰写自己的回复，以此提高撰写标注效率。以上精标的训练数据虽然数据量不大，但质量和多样性很高，且来自真实世界数据。第二步，收集相同上文下，根据回复质量进行排序的数据，即随
11、机抽取一大批Prompt，使用第一阶段微调模型，产生多个不同回答，之后标注人员对 k 个结果排序，形成多组训练数据对。之后使用 pairwise loss 来训练奖励模型，可以预测出标注者更喜欢哪个输出。从比较中学习可以给出相对精确的奖励值，这一步使得ChatGPT 从命令驱动转向了意图驱动。另外，训练数据不需过多，维持在万量级即可。因为它不需要穷尽所有的问题，只要告诉模型人类的喜好，强化模型意图驱动的能力即可。第三步，使用 PPO 强化学习策略来微调第一阶段的模型。核心思想是随机抽取新的 Prompt，用第二阶段的 Reward Model 给产生的回答打分。这个分数即回答的整体奖励（rew
12、ard），进而将此奖励回传，由此产生的策略梯度可以更新 PPO 模型参数。整个过程迭代数次直到模型收敛。强化学习算法可以简单理解为通过调整模型参数，使模型得到最大的奖励，最大奖励意味着此时的回复最符合人工的选择取向。PPO 是 2017 年 OpenAI 提出的一种新型的强化学习策略优化的算法。它提出了新的目标函数，可以在多个训练步骤实现小批量的更新，特点在于实现简单、易于理解、性能稳定、能同时处理离散/连续动作空间问题、利于大规模训练。以上三个步骤即 ChatGPT 的训练过程，合称为 Reinforcement Learning from Human Feedback（RLHF）技术。图表
13、 1 ChatGPT 的训练原理 资料来源：OpenAI，海通国际 获取更多最新资料请加微信：chensasa666 16 Dec 2022 4 Table_header2 中国汽车 ChatGPT 的成功基于 OpenAI 的技术积累 ChatGPT 成功的关键原因：1）强大的基座模型能力（InstructGPT）；2）大参数语言模型（GPT3.5）；3）高质量的真实数据（精标的多轮对话数据和比较排序数据）；4）性能稳定的强化学习算法（PPO 算法）图表 2 不同大模型的数据集训练规模 资料来源：Medium，海通国际 图表 3 更大的模型能够更有效地利用上下文信息 资料来源：OpenAI，
14、海通国际 ChatGPT 能够实现当前的交互，离不开 OpenAI 在 AI 预训练大模型领域的积累。OpenAI 最初提出的 GPT1，采取的是生成式预训练 Transform 模型（一种采用自注意力机制的深度学习模型），此后整个 GPT 系列都贯彻了这一谷歌 2017 年提出，经由OpenAI改造的伟大创新范式。简要来说，GPT1的方法包含预训练和微调两个阶段，预训练遵循的是语言模型的目标，微调过程遵循的是文本生成任务的目的。2019 年，OpenAI 继续提出 GPT-2，所适用的任务开始锁定在语言模型。GPT-2拥有和 GPT1 一样的模型结构，但得益于更高的数据质量和更大的数据规模，
15、GPT-2有了惊人的生成能力，不过它在音乐和讲故事等专业领域的任务表现很不好。2020年的 GPT-3 将 GPT 模型提升到全新的高度，其训练参数是 GPT-2 的 10 倍以上，技术路线上则去掉了初代 GPT 的微调步骤，直接输入自然语言当作指示，给 GPT 训练读过文字和句子后可接续问题的能力，同时包含了更为广泛的主题。现在的 ChatGPT 则是由效果比 GPT-3 更强大的 GPT-3.5 系列模型提供支持，这些模型使用微软 Azure AI 超级计算基础设施上的文本和代码数据进行训练。具体来说，ChatGPT 在一个开源数据集上进行训练，训练参数也是前代 GPT3 的 10 倍以上
16、，还多引入了两项功能：人工标注数据和强化学习，实现了在与人类互动时从反馈中强化学习。也因此，我们得以看到一个强大的 ChatGPT：能理解人类不同指令的含义，会甄别高水准答案，能处理多元化的主题任务，既可以回答用户后续问题，也可以质疑错误问题和拒绝不适当的请求。当初，GPT-3 只能预测给定单词串后面的文字，而 ChatGPT 可以用更接近人类的思考方式参与用户的查询过程，可以根据上下文和语境，提供恰当的回答，并模拟多种人类情绪和语气，还改掉了 GPT-3 的回答中看似通顺，但脱离实际的毛病。不仅如此，ChatGPT 能参与到更海量的话题中来，更好的进行连续对话，有上佳的模仿能力，具备一定程度的逻辑和常识，在学术圈和科技圈人士看来时常显得博学而专业，而这些都是 GPT-3 所无法达到的。尽管目前 ChatGPT 还存在很多语言模型中常见的局限性和不准确问题，但毋庸置疑的是，其在语言识别、判断和交互层面存在巨大优势。获取更多最新资料请加微信：chensasa666 16 Dec 2022 5 Table_header2 中国汽车 ChatGPT 前代模型演变历程 在 2019 年 GPT
