作者：京东科技 何雨航

引言

怎么充沛发挥ChatGPT潜能，已是很多企业重视的焦点。可是，这种改动对职工来说未必是好事情。IBM计划用AI代替7800个工作岗位，游戏公司运用MidJourney削减原画师人数……此类新闻屡见不鲜。了解并运用这项新技能，关于职场人来说重要性与日俱增。

一、GPT模型原理

了解原理是有用运用的第一步。ChatGPT是依据GPT模型的AI谈天产品，后文均简称为GPT。

从技能上看，GPT是一种依据Transformer架构的大言语模型（LLM）。GPT这个名字，实践上是”Generative Pre-trained Transformer”的缩写，中文意为“生成式预练习变换器”。

1.大模型和传统AI的区别是什么？

传统AI模型针对特定方针练习，因而只能处理特定问题。例如，很会下棋的AlphaGO。

而自然言语处理（NLP）企图更进一步，处理用户更为通用的问题。能够分为两个关键进程：自然言语了解（NLU）和自然言语生成（NLG）。

以SIRI为代表的人工智能助手一致了NLU层，用一个模型了解用户的需求，然后将需求分配给特定的AI模型进行处理，完结NLG并向用户反应。可是，这种形式存在显著缺陷。如微软官方图例所示，和传统AI相同，用户每遇到一个新的场景，都需求练习一个相应的模型，费用高昂且开展缓慢，NLG层亟需改动。

大型言语模型（如GPT）采用了一种截然不同的战略，完结了NLG层的一致。秉持着“大力出奇迹”的理念，将海量常识融入到一个一致的模型中，而不针对每个特定使命别离练习模型，使AI处理多类型问题的才能大大加强。

2.ChatGPT怎么完结NLG？

AI本质上便是个逆概率问题。GPT的自然言语生成实践上是一个依据概率的“文字接龙”游戏。咱们能够将GPT模型简化为一个具有千亿参数的“函数”。当用户输入“提示词（prompt）”时，模型按照以下进程履行：

①将用户的“提示词”转化为token（准确地说是“符号”，近似为“词汇”，下同）+token的位置。

②将以上信息“向量化”，作为大模型“函数”的输入参数。

③大模型依据处理好的参数进行概率猜想，猜测最适合回复用户的词汇，并进行回复。

④将回复的词汇（token）加入到输入参数中，重复上述进程，直到最高概率的词汇是【END】，然后完结一次完好的答复。这种办法使得GPT模型能够依据用户的提示，生成连接、合理的回复，然后完结自然言语处理使命。

3.上下文了解的关键技能

GPT不仅能了解用户当前的问题，还能依据前文了解问题布景。这得益于Transformer架构中的“自注意力机制（Self-attention）”。该机制使得GPT能够捕捉长文本中的依靠关系。浅显地说，GPT在进行文字接龙判别时，不仅依据用户刚输入的“提示”，还会将之前多轮对话中的“提示”和“回复”作为输入参数。可是，这个间隔长度是有限的。关于GPT-3.5来说，其间隔约束为4096个词汇（tokens）；而关于GPT-4，这个间隔现已大幅扩展至3.2万个tokens。

4.大模型为何冷艳？

咱们现已介绍了GPT的原理，那么他是怎么达成这种奇特作用的呢？首要分三步：

①自监督学习：运用海量的文本进行自学，让GPT具有猜测上下文概率的根本才能。

②监督学习：人类参加，协助GPT了解人类喜好和期望的答案，本质为微调（fine-tune）。

③强化学习：依据用户运用时的反应，持续优化和改善答复质量。

其间，自监督学习最关键。由于，大模型的魅力在于其“大”——大在两个方面：

①练习数据量大：

即练习大模型的数据规模，以GPT-3为例，其练习数据源为互联网的各种精选信息以及经典书本，规模到达了45TB，相当于阅读了一亿本书。

②模型参数量大：

参数是神经网络中的一个术语，用于捕捉数据中的规则和特征。通常，声称具有百亿、千亿级别参数的大型模型，指的都是其参数量。

寻求大型模型的参数量是为了运用其奇特的“出现才能”，完结所谓的“质变引起质变”。举例来说，假如要求大模型依据emoji猜电影名称，如代表《海底总动员》。能够看到，当模型参数到达千亿级别时，匹配准确度大幅度提高。这表明模型参数量的增加对提高模型表现具有重要意义。

处理其他多类型使命时，也有类似的作用：

如实验所揭示的，只有当模型参数到达千亿级别，大模型的优势才得以凸显。GPT之外的其他大模型，也有类似的表现。

为什么？

现在干流观点认为，要完好完结一个使命，实践上需求经过很多子进程。当模型巨细不足时，大言语模型无法了解或履行一切进程，导致终究成果不正确，到达千亿级参数时，其处理问题的全链路才能现已足够。人们以终究成果的正误作为评判规范，导致认为是一种“出现”。

在“出现”问题上，人与猩猩的比喻很风趣。人类的大脑容量比猩猩大3倍，这种差异使得人类能够进行更杂乱的考虑、沟通和创造。两者的结构没有显著差异，这不也是“出现”吗？

GPT-3.5正是千亿模型，参数到达了1750亿。相较于GPT-3，GPT-3.5首要针对模型参数进行了微调，使其在问答时更符合人类的习气。据悉，GPT-4的模型参数量甚至到达了GPT-3.5的五倍之多，这也解说了为何GPT-4表现得如此聪明（体会过的人应该都能了解）。下面是GPT模型演进历史：

二、GPT的局限性

综上，GPT模型具有显着的、打破性的优势。典型的优势包含：①强壮的言语了解才能；②极为广泛的常识储藏；③学习才能与推理才能等等。这些才能让人们感觉人工智能真实具有了“脑子”，幻想着运用GPT处理一切问题。

可是，若要深化运用该技能，有必要了解其局限性，以便在实践运用中扬长避短。首要总结六大局限：

1.逻辑不透明

GPT模型的答复本质上是概率。传统的软件开发中，接口的输入和输出参数都是确认的，而在给定输入参数（即提示词）的情况下，GPT的回复却有必定随机性。当我们将ChatGPT作为谈天工具运用时，这种不精确能够是用户的谈资；当涉及到商业化软件运用时，规划时就需求特别注意下降不确认性，在大部分产品场景下，用户都很重视确认性。

2.短期回忆差

得益于自注意力机制，ChatGPT具有了多轮对话才能。可是，它的回忆长度相当有限，GPT-3.5模型仅支撑向前追溯4096个tokens用于回复的参阅。更糟糕的是，这4096个tokens还包含ChatGPT之前回复用户的部分！这使得其绰绰有余的回忆愈加难堪，可谓电子金鱼。好在GPT-4现已将上下文token上限扩展至3.2万个，必定程度上缓解了这个问题。

3.资源耗费多

ChatGPT的智能需求耗费很多算力，而运行大规模高端显卡需求耗费很多电力。在五年之内，依靠半导体制程的进一步升级和大模型的广泛运用，算力与电力的边沿本钱将逐步转变为固定本钱，也就处理了本问题。

4.照应速度慢

由于模型极大，GPT在回复时也无法做到瞬时照应，正如用户实践体会，ChatGPT是逐词回复的。企业在规划相关产品时需求特别重视运用场景：

①需求避免将GPT用于高并发的场景，本服务依靠的接口调用并发上限非常低。

②产品规划上避免用户急切需求成果的运用场景，保证用户能够“等得起”。

5.行业认知浅

固然，ChatGPT具有来自互联网和经典书本的丰厚常识。可是，真实的企业级专业常识往往源于特定范畴的深化研究和实践，这些真知灼见无法仅凭互联网上的常识获取。因而，若期望GPT充任企业参谋，只能协助整理战略结构，但难认为企业供给颇具洞察的战略主张。

6.价值未对齐

①在自监督学习阶段，GPT练习数据英文占比高达92%。②在监督学习阶段，教授道德观的工程师首要来自英语国际。③在强化学习环节，也或许受到恶意用户输入过错价值观的影响。因而，GPT的“精力内核”是以西方价值观为柱石的，这或许导致生成的文字难以符合我国的文化布景和价值观。

三、GPT的多层运用指南

在了解了GPT模型的原理及局限性后，终于能够看看怎么用好这项技能了。我按照感知其才能的直观性，由浅入深将其分为五层，逐层进行介绍。

第一层：谈天才能

在此类用法中，GPT的答复便是给客户的交付物，是GPT模型最简略、最直观的用法。

1.套壳谈天机器人

经过运用OpenAI官方接口，开发的套壳谈天机器人产品。这类产品之所以存在，原因懂得都懂。否则，用户为何不直接运用ChatGPT呢？此类产品难以形成现象级运用，且竞赛激烈。由于比较灰色且内容未经过滤，网站被封后又换域名的故事将持续演出。

2.场景化问答

这种形式对GPT的回复场景进行了束缚。经过约束提示词、嵌入很多特定范畴常识以及微调技能，使GPT能够仅依据某类身份答复特定类型的问题。关于其他类型的问题，机器人会奉告用户不了解相关内容。这种用法能够有用束缚用户的输入，下降许多不必要的风险，可是想练习一个出色的场景化机器人，也需求投入许多精力。典型运用包含智能客服、智能心理咨询和法律咨询等。微软的new Bing正是此类运用的杰出代表，其幽默傲娇的回复风格，深受网友的喜欢。

第二层：言语才能

在本层，咱们充沛发挥ChatGPT的言语天赋，辅佐各种依据文字的处理工作。从这一层开端，需求运用one-shot或few-shot（在提示词中给ChatGPT一个或多个示例）来提高ChatGPT的表现。与用户的交互不再局限于谈天窗口，提早预制提示词模板，用户只能输入约束的信息，对应提示词的空槽位。

预制带槽位提示词模板的运用根本流程如下：

1.文字处理类

此类运用首要有三种用法：

①文章提炼

能够输入文章阶段，要求提取阶段主旨。但受token数约束，难以总结整篇文章。也可要求生成短标题、副标题等。在提示词中预留【事例】槽位，让用户输入一些参阅事例，GPT便能够学习相应的风格，进行针对性的输出。

②润饰/改写

可用于文章的开端润饰，能够消除错别字、过错标点等。改写则能够转化文章风格，如更改成小红书风格等。

③文章扩写

在有大纲基础上，分段进行文章扩写。受token约束，如一次要求过长，输出的扩写难以做到前后照应。ChatGPT自身不会发生新常识，文章扩写难以写出深刻见地，只能生成口水文。经过给定关键词和事例，要求生成有规则的短案牍，是运用其文章扩写才能的有用办法。

2.翻译

GPT模型练习时学习了很多言语，具有跨言语才能。不管用何种言语与其沟通，只需了解目的，剖析问题才能是不区别言语的。因而，翻译对GPT来说很轻松。当然也仅限根本翻译，不要盼望其能翻译的“信、达、雅”。

3.情感剖析

GPT能了解文字背面的用户心情。例如，在客服模块引进GPT才能，依据用户语音和文字快速判别心情状况，提早辨认潜在客诉，在心情迸发前进行有用安抚。

第三层：文本才能

在本层，GPT的才能现已逾越了言语，它经过很多学习，但凡与文本相关的使命，都能担任。它甚至具有真实的学习才能，运用few-shot技巧，能处理练习数据中不存在的问题。本层的运用规模极广，将迸发出很多极具创造力的产品。我在这里仅举一些典型比方。

1.写代码

ChatGPT能编写SQL、Python、Java等代码，并帮助查找代码BUG。与编撰文章的原因类似，不能要求其编写过长的代码。

2.写提示词

要求GPT创作提示词是与其他AI联动的简略办法。例如，要求GPT为midjourney编撰提示词，已成为非常干流的做法。

3.数据剖析

ChatGPT能够直接进行数据剖析，或与EXCEL合作进行数据剖析。它将数据剖析操作本钱降至极低，大幅提高了数据剖析的功率。

第四层：推理才能

在前几层中，咱们现已才智了GPT的推理才能。以GPT的推理才能代替手动点击操作流，将带来B端和C端的产品规划的推翻式改动。个人认为，短期内B端的机会大于C端。经过互联网20年的开展，C端用户的首要需求已根本得到满意，推翻C端用户的操作途径会带来较大的学习本钱。而B端则有很大的发挥空间，这里将其分为三个阶段：

1.主动化工作流串联

运用ChatGPT了解人类目的的才能，结合langChain技能将提示词和公司内各项工作的网页链接整合。职工无需寻觅各种链接，在需求履行相关操作时，会主动跳转到相应页面，进行下一步操作。以ChatGPT为智慧中枢，真实完结将B端各类操作有机整合。下图为规划思路的示例。

2.AI辅佐决策

以第一个阶段为基础，将对应页面的部分功能与GPT联动。这样，在职工履行操作时，部分功能能够由AI完结，成倍提高功率。微软Copilot正是这类产品的代表，比方能够完结在Excel中阐明自己想要进行的数据剖析，无需寻觅相关公式，数据剖析就主动做好了。

3.全主动AI工作流

本阶段现在还处于演示层面，出现了未来的愿景。如前文所述，GPT很难处理特定范畴的细节问题，除非针对某个场景进行很多的微调与私有数据布置。AutoGPT、AgentGPT都属于此类。

第五层：国产大模型

AI技能是科学而非神学，大模型的原理也不是秘密。美国能做到，我国不仅能，而且有必要。只需练习数据质量合格，模型参数打破千亿便具有推理才能，打破八千亿可与GPT-4对抗。采用很多中文语料和中文微调，我国必将具有符合本国文化布景、价值观的大模型。

可是，路漫漫其修远兮，困难也是极多的，如：练习本钱极高、练习数据质量要求高、模型优化杂乱、马太效应显着等。因而，预计在未来五年内，我国最多只会有3家知名大模型服务商。

大模型是AI时代的基础设施，大部分公司挑选直接运用，直接获取商业价值。在这个大布景下，愿意投身自有大模型的公司就愈加难能可贵了。在此，我谨代表个人向那些勇于投身于自有大模型建设的国内企业表明敬意。

四、总结

总的来看，ChatGPT是一款跨时代的产品。不同层面对GPT技能的运用，表现出了一些共性的机会。我总结了三项未来具有巨大价值的才能。

1.问题分化技能

鉴于GPT回复的约束在于最多只能依据32,000个tokens，因而有用地将问题分化成子问题并交由GPT处理显得尤为关键。未来的工作形式或许将问题拆解为子问题，再组装子问题的处理方案。在详细施行时，还需求对子问题的难度进行判别，有些问题能够交给一些小模型处理，这样就能够有用的控制运用本钱。

2.三种调优办法

想要让GPT在多个层面上发挥特定的作用，首要有三种交互办法，本钱从低到高别离为：

调优办法	优势	缺陷
提示词优化	提高作用显着本钱极低	占用token多，影响上下文相关长度
embedding	扩展GPT常识调优本钱较低	GPT并非真的了解了相关的内容，而是在遇到相关问题时，能够依据给定的常识库答复。
微调技能	建立真实的私有模型，GPT能了解相关的问题。	本钱较高，需求很多的“问答对”，练习进程非常耗费token。

①提示词优化

经过探究找到最优提示词模板，预留特定槽位以供用户输入。仅经过提示词优化就能完结广泛功能，许多依据GPT的产品，其底层便是依据特定提示词的包装。好的提示词需包含人物、布景、GPT需履行的使命、输出规范等。依据业界的研究，好的提示词能使GPT3.5成果的可用性由30%飙升至80%以上。提示词优化毫无疑问是这三种办法中最重要的。

②embedding

这是一种建立自有常识库的办法，将自建常识库运用embedding技能向量化，这样GPT就能依据自有数据进行问答。

③微调（finetune）

经过输入很多问答，真实教会GPT怎么答复某类问题，本钱较前两者更高。优势在于将提示词的短期回忆转化为私有模型的长期回忆，然后释放宝贵的Token以完善提示词其他细节。

以上三种办法并不冲突，在工程实践中往往互相合作，特别是前两种。

3.私有数据积累

私有数据集的价值得到进一步提高，各行业可依据此对GPT进行二次包装，处理特定范畴问题。主张运用微软Azure供给的GPT接口，建立带有私有数据的大言语模型产品。因微软面向B端的GPT服务为独立布置，不会将私有数据用于大模型练习，这样能够有用保护私有数据。毕竟私有数据一旦揭露，价值将大打折扣。

凭借以上几项才能加持，大言语模型能够充沛释放在处理依靠电脑的重复性劳动的生产力。我将下一个时代（3年内）的业务运转形式总结如下图：

企业会依据三大才能衍生出三大类人物：

①问题分化者

这类人物很清楚大言语模型才能的边界，能够将一个业务问题有用的分化为GPT能处理的子问题，并能依据问题成果，将子问题进行组装。

②提示工程师

这类人物深谙与GPT沟通之道，能够依据不同的问题类型，给出有用的提示词模板，极大提高GPT的输出质量。

③常识具有者

这类人物有很多的行业knowhow，并且能够将常识进行结构化，教授给GPT。对应现在的范畴专家。

在这种形式的推进下，GPT将会成为企业提效的重要帮手，能够处理很多重复劳动，能够供给有价值的参阅。但人的主观能动性仍起决议性作用。

五、写在最后

即使以GPT-4为代表的AI技能保持当前的水平，带来的功率提高现已令人震惊，更遑论其仍以飞快的速度进化。从技能革命的开展史来看，一项大幅度提效的新技能出现，往往先惠及B端，然后才慢慢在C端开端释放巨大的价值。这是由企业对功率天然的敏感性所决议的，而改动C用户的习气需求很多学习本钱与场景发掘，滞后效应较强。举三个比方我们就懂了：

1. 回忆第一次工业革命，内燃机的出现先导致了纺织女工的很多赋闲，然后才逐步找到了各种C端场景，推进了社会生产力的大幅度上升。

2. ChatGPT能够更快的生成口水文，可是C端用户对阅读的诉求是没有增加的。关于营销号公司来说，功率提高了，所需求的人变少了。

3. MidJourney能够快速生成抱枕的图案，可是C端用户并不会购买更多的抱枕，那么需求作图的人员就少了。

一场信息化企业的內效革命就要到来了，依靠电脑的重复劳动将会消失，由于大模型最拿手学这个了。正如我文初所举得事例相同，像IBM公司减缩7800个编制的事例，只会发生的越来越频繁。

AI时代真的现已到来，每个岗位都需求考虑，怎么让AI成为工作上的同伴。