一、ChatGPT 的潦草的简介
ChatGPT
是一种被称为”言语模型”的人工智能。就像你学习言语一样,它也经过阅览许多的文本来学习言语的规则和形式。
能够把ChatGPT
看作是一个超级聪明的答复机,它拿手处理各种与言语相关的使命。比方答复问题、写作、对话,乃至协助编程。你只需求输入你的恳求或问题,ChatGPT
就会依据能够了解它的练习,了解你的输入,并生成有用、相关、而且符合言语规则的输出。
在如此火爆的情况下,在漫山遍野的信息中,我浅总结一下 ChatGPT
,经过这篇文章,你能够了解到
- 了解GPT的才干、与鸿沟约束
- 更有用的跟GPT得到交流技巧,然后得到更精确的答案
- 了解
ChatGPT-4
,ChatGPT-4
的插件生态、愈加强壮的 GPT 功用扩展。 - 实践运用场景举例、辅佐面试、言语学习、等
- 怎么依据
ChatGPT
、开发自己的产品,以及踩坑经验共享 — 程序员秒懂 - 展望一下、考虑怎么运用它为自己赋能
二、注册一个账号
要想体会gpt或许依据gpt接口开发自己的模型,首要,你得有一个openAi的账号!
中国大陆和香港区域用户不能直接注册运用ChatGPT
,他们需求经过“科学上网”来处理。可是,这种方法也存在问题。一方面,因为许多翻墙节点被滥用,用户或许会遇到注册不成功的问题。另一方面,即便成功注册,他们的账号也或许会被OpenAI封禁。为了处理这些问题,主张运用来自国外正规厂商的VPN。
怎么注册一个gpt账号?
能够戳怎么高雅的恳求一个属于自己的ChatGPT账号
友谊提示:墙外非法外之地! DDDD
三、深化一点了解GPT
常常有人说,ChatGPT
不过是一个更高档的搜索引擎,那我想说,你能够也仅仅一个不太聪明的人类。
没错,这么说的人曾经是我,如今运用后,对它敬服的五体投地的人也是我。
当真实深化运用ChatGPT
后,你会发现它的才干远超咱们的幻想。
在曩昔,咱们和计算机的交互方法往往是固定且单一的指令,比方用Ctrl+C
和Ctrl+V
复制粘贴文本。可是,当咱们运用ChatGPT
时,咱们的指令变成了天然言语,这是一种愈加挨近人类交流方法的交互。
可是,正因为每个用户运用言语的方法各不相同,没有统一的固定格式,所以ChatGPT
给出的回应质量有时也会良莠不齐。假如咱们提出的问题或指令表达不清,那么ChatGPT
给出的答复也或许会不够精确。
这也正是为什么咱们在运用ChatGPT
时,需求精准地给出指令。这并不意味着咱们需求运用杂乱的言语或许专业术语,而是要明晰并精确地表达咱们的需求。这便是所谓的“ prompt ”,或许说是咱们给ChatGPT
的“指令”。
所以,虽然ChatGPT
现已很强壮,咱们仍是需求学习怎么更好地和它交流,以便取得更好的回应。只要当咱们和ChatGPT
达到真实的交流,咱们才干真实运用它的潜力,开启全新的人工智能交互方法。
后边给咱们列出了能够跟 GPT 更好一起的技巧和根底的“prompt”,协助咱们更高效的跟 ChatGPT
交流,得到更精确的答案。先来了解一下GPT的才干与鸿沟。
3.1 GPT的才干与鸿沟
下面设计了一个表格,供应了一个明晰、简洁的视图,协助咱们了解GPT的首要鸿沟和约束,然后能更好有利地势用它的才干,并了解其局限。
当然现在网上也有一些“越狱”练习,企图将GPT 变成一个坏孩子,去其糟粕,慎重学习。
GPT的鸿沟和约束 | 具体描述 |
---|---|
常识截止日期 | 「GPT的常识练习截止时间是2021年9月」,这就意味着它无法获取或了解这之后的信息或作业。(没有运用plugin的情况下) |
精确性约束 | 有或许受到一些低质量语料的影响,它供应的常识或许未必精确,所以针对它每一次的答复,咱们都要有根本的判别并及时的纠正它,避免不要被它带跑偏,这个也是它不能彻底替代人类的部分原因 |
未公开约束 | GPT并没有才干拜访或了解个人或特定用户的数据。一切的呼应都是依据它所学习的公开可用的信息。 |
无实践了解 | 虽然GPT能够生成类人的文本,但实践上,它并不了解它正在说的内容。它仅仅模仿它在练习数据中学到的言语形式。 |
缺少主观性和情感 | 依据事实和信息练习的模型,没有自己的主观定见、情感或崇奉、所以假如你想聊的心里的小九九,根本得不到你想要的人类能给你的赞同感或赞同。 |
安全和品德约束 | 不会供应有害、违法或不品德的信息 |
简化和归纳 | 因为答复的长度约束以及言语模型的作业原理,它会尽或许的进行归纳和简化。这或许导致某些细节被忽略或表达不彻底精确。 |
依靠prompt | 你没有表述的一切主意,布景,倾向,它彻底不知道,所以必定要在prompt 中表明你一切的信息用于跟gpt更高效的交流,这个是后边的要点,也是现在许多依据AI创业的人的创业口子,比方promptbase 「OpenAI的创始人兼CEO山姆奥特曼本年2月底在其推文中说到,为谈天机器人编写高质量的提示词是一项惊人的高杠杆技能」
|
保密劝告 | 「这是一条友谊提示,不要把公司机密或重要文件等发送给 ChatGPT,严格遵守安全红线!!!」 |
3.2 GPT到底能做那些作业?
它是一个超级言语模型,关于文字,代码,字符等有关的,2021年9月之前人类现已有公开材料的,它简直都能做。
结合材料,和GPT自己的答复,总结一下简略的场景、简直包括了日子的方方面面
类别 | 示例 |
---|---|
辅佐写作和构思 | 文本交流,文本不全,对话,问答,文本扩写,文本总结,构思写作,内容修改,翻译,写作主张,电影和书籍引荐,作业概要,产品阐明,将故事,书写演讲陈述,陈述辅导,信件,电子邮件,新闻摘要,广告文案,交际博文 |
指南、学习、教育 | 数据剖析,教育辅导,学习材料引荐,言语学习辅导,学术研究,实验陈述,论文审阅,阅览了解,数学求解,科学实验设计,编程教学,前史作业剖析,地里常识,金融,化学,物理,哲学等等 |
作业与开展 | 作业开展主张,面试攻略,方案与目标确定,个人成长主张,简历或求职信编写,决议计划辅佐,时间办理,职场心思,作业技能问题答复,职场礼仪,团队协作,面试技巧,作业陈述,职业陈述,企业文明 |
日子、监控、游览 | 个人帮手,游览规划,菜谱,健康主张,制定预算,宠物护理,职务保护,环保意识,节能减排,家居构思,礼品主张,节日庆祝,亲子活动,休闲娱乐,安全意识,个人形象,睡觉质量提高,饮食主张,稳妥规划,出资理财 |
作业效率 | 使命办理,提高作业效率东西引荐,时间办理技巧,作业流程话,文件办理,会议效率提高,办理技巧,快捷键与作业运用,代码编写、团队协作东西引荐 |
3.3 中文prompt仍是英文prompt
运用中文
优点:
- 文明和言语匹配:假如您的母语是中文,运用中文进行交流能够更直接、天然,削减言语障碍。
- 表达更精准:用您最了解的言语进行交流,您能够更精确地表达问题、供应细节和了答复复。
缺陷:
- 语料库约束:中文语料库相关于英文语料库或许更有限,这或许导致在某些特定范畴或特定问题上的答复不如英文精确。
- 技能术语匮乏:某些范畴的技能术语在中文中或许没有直接的翻译或广泛运用,这或许使得与这些范畴相关的问题在中文方面的答复受限。
运用英文
优点:
- 广泛的语料库:英文的语料库相对来说更广泛,我在英文方面的练习和常识更充分,因此在答复英文问题时或许会更精确和具体。
- 技能术语的可用性:在某些技能范畴,英文的技能术语或许更常见和标准化,这使得在英文方面的答复更具体和精确。
缺陷:
- 言语障碍:假如英文不是您的母语,或许会遇到一些言语障碍,造成了解和表达上的困难。
- 文明差异:英文文明与您的本乡文明或许存在差异,这或许会导致一些误解或难以了解的情况。
总体而言,运用您最了解和舒适的言语进行交流或许会更有用,因为您能够更**「精确」**地表达您的需求和了解它的答复。
上面是 GPT 给我答案,但其实我尝试过,假如用中文没有得到你想要的答案,不如尝试翻译成应该后再发送给 GPT,或许会得到更精确的答案。
3.4、强壮的GPT-4模型
2023年3月14日,OpenAI
发布了模型 GPT-4
,作为其先前版别GPT 3.5 Turbo
模型的升级版,GPT-4
在许多方面都有了明显的改善和优化。
首要,GPT-4
支撑的上下文Token
数量大大增加,至少支撑8192个Token
,乃至其32K版别支撑高达32768个Token。这一特性让GPT-4成为了小说创造等长篇文本生成的有力东西。相比之下,以往的模型在处理长篇文本时,通常会受到较大的约束。
其次,GPT-4
在推理才干上也有了明显的提高。OpenAI经过多种高难度的测验,证明晰GPT-4强壮的逻辑推理才干。这些测验包括律师考试、SAT数学考试,以及研究生GRE考试等。这意味着GPT-4
不仅能生成流通天然的文本,更能处理涉及深层逻辑推理的杂乱使命。
普通用户是不能直接运用GPT-4的,需求开通ChatGPT Plus
服务,$20/月。GPT-4为用户供应了更强壮的问答功用,可是也有一些约束,比方每三个小时只能处理25条信息。
一起,针对plus用户,OpenAI还供应了GPT-4的API接口,这使得开发者能够将GPT-4集成到自己的第三方运用中,首要,调用GPT-4的API接口是需求向官方提交恳求的,其次,这种强壮的功用是需求相应的价格的。
现在,GPT-4 能够现已连续上架了许多功用强壮的插件体系,有人将其类比为“app store”, 每个插件只要简略的几句介绍,可是背面却有着强壮的才干,包括咱们日子,作业的方方面面。
先在设置中打开插件相关功用
新建一个谈天室
在Plugin store中挑选相关插件
这些插件,有能联网查询的,有处理图片的,有依据文字生成流程图的,有指定游览规划的,我并没有逐个体会,咱们能够找找网上的插件介绍,寻觅自己合适的插件,扩展GPT 的功用。
当然,假如你是一个开发者,你有很好的 idea,也能够想 openai 提交 开发插件恳求,恳求经过后就可参与插件开发并供应给一切人运用。
插件现在只供应给 plus用户 运用,关于普通用户来说,咱们也想体会更丰厚的 GPT 功用怎么办?
能够运用 Chrome 浏览器插件,现在有许多 Chrome 插件也能丰厚 GPT 的功用,比方我后边会说到的 Voice Control for ChatGPT
, 便是一个经过语音能够跟 GPT 进行交流,学习英文等用处的插件。
还有Web Chat GPT
等等,假如感兴趣,留言后边接着更新吧。
四、更有用的跟GPT得到交流
4.1 prompt的根底结构
更好的prompt能够协助你跟gpt更有用的交流,一起得到更精确的答案。
字段 | 含义 | 示例 |
---|---|---|
指令词 | 明晰的指令词,引导问题或指令 | 请告诉我、简述、解说、总结、润色、等等 |
关键词限 | 关键词,限定问题规模或要点 | 请告诉我关于【人工智能】的【运用范畴】 |
输入 | 输入明晰明晰的问题、描述或上下文信息 | 请告诉我人工智能在医疗职业的运用范畴和实践事例。 |
布景 | 供应相关的布景信息,以便我了解问题的上下文 | 选填、eg: 我正在做依据人工智能在疾病诊断和治疗方面的优化 |
输出要求 | 指明您期望从我这里取得的具体类型的答案或信息 | 选填、eg: 供应关于人工智能在医疗职业的运用范畴和实践事例的具体信息。 |
诘问或弄清 | 在需求时,增加诘问或弄清问题以获取更精确的答复 | 选填、eg: 您对人工智能在医疗职业的运用范畴有特定重视点吗? |
举例或场景设定: | 在需求时,供应具体的比方或设定一个场景,以便更好地了解问题 | 选填、eg: 假定我是一名医学研究员,期望了解怎么运用人工智能技能改善疾病诊断和治疗。 |
约束条件或假定: | 在需求时,阐明问题的约束条件或假定,以便我给出更具体的答案 | 选填、eg: 假定我对人工智能的根本概念有必定了解。 |
这些比方演示了怎么运用规范化的中文语句根底结构来构建问题,供应关键词限定、诘问或弄清、举例或场景设定以及约束条件或假定。经过这样的结构,能够更有用地与 GPT 进行交流,并取得更精确的答案。请依据具体需求和情境,灵活运用这些要素来构建问题。
五、运用场景举例
简简略单的举2个运用场景的比方,其实它能够更强壮,写构思文本,写代码,做数据剖析,做客户分类等等。
5.1 辅佐面试
假定我是一个三年的前端工程师,给Chat GPT 设定成面试官的人物,请 Chat GPT 辅佐我进行模仿面试。
假如它出的问题你不会,能够先让他协助你答复。
假如解说中还有问题想进一步了解,能够进一步诘问,比方我想诘问:「JSONP具体怎么运用?」,你会发现它讲解的很具体,乃至给举出了代码比方。
提高难度,假定我是一个6年的前端工程师。
假如觉得自己或许答复的不好,能够让它先协助你答复一下,你学习即可。
5.2 言语学习
相同,先跟他说一下两边的人物
问一下英语学习的主张
能够让它给你讲一个故事,要点提高的你词汇量
让他标示一下要点词汇
请他做英汉对照翻译
你觉得它只能锻炼你的阅览水平?「漏,大漏特漏!」
一个chrome插件送给咱们
装置成功后,你的输入框是这样的
然后你就能够让他读取他发送给你文章,还能够给他发送语音进行说英语的练习
还能设置他的阅览速度
5.3 更多技巧
更多的技巧其实都是依据 prompt 的 根底结构,需求咱们进一步扩展,让 GPT 变得越来越精确。
设定人物和情形
- 默认情况下,体系预设GPT的人物是智能通用帮手,在直接运用Chat GPT界面时看不到的,所以它的答复中规中矩。
- 不过这个体系人物设定,是能够经过提示与自定义更改的,设定特定的人物或情形能够协助 ChatGPT 调整答复风格和内容,供应更精确的答复。
- 经过让GPT能扮演不同的人物,能够为咱们供应个性化的服务,不然就只能作为一个AI帮手闲谈下去,这是许多人觉得Chat GPT并没有幻想中那么强壮的首要原因
- 例如,你能够设定
ChatGPT
为某个范畴的专家,或许设定你自己是初学者,或许设定对话两边在特定的情形中。
明晰明晰的问题
- 将问题表述得尽或许明晰具体。
- 如“请解说相对论中的时间胀大是怎么作业的”比“请解说相对论”更能得到精确答案。
供应满足的上下文
- 假如问题杂乱或需求在之前的对话上持续,给出满足的上下文信息会很有协助。
- 如在提出数学问题时,告诉
ChatGPT
你的学习布景以及你现已了解了哪些相关概念。
运用关键词和术语
- 在问题中运用相关的关键词或术语,能够协助我更精确地了解你的问题。
- 例如,在发问编程问题时,指出你正在运用的编程言语。
一次问一个问题
- 一次提一个问题能够更简单得到精确的答案。
- 一次提出多个子问题或许导致答案的质量良莠不齐。
及时反应
- 假如
ChatGPT
答复没有答复你的问题或许存在过错,及时给ChatGPT
反应,它会及时承认过错,并供应更好的答案。 - 比方,在我让他辅佐面试(3.5模型)的时分,当我模仿自己是三年和六年的前端求职者时,它给我出了相同一套面试题,然后,我反诘它,为什么3年经验和6年经验是相同一套面试题,它立刻承认了它的过错,而且依据作业年限从头出了一套更深化的面试题。
给予成果示例
- 最好给GPT供应一些成果示例,清楚地告知咱们想要的成果是什么
- 比方你想让
ChatGPT
输出一段 JSON 结构,能够举个 json 结构的比方,而且标示每个字段的含义,它就会依照你的要求回来给你对应的json结构
六、依据ChatGPT,运用nodejs开发自己的产品
ChatGPT
是彻底免费运用的,可是,假如想要进一步探究ChatGPT的开发者和用户来说,OpenAI供应的API接口是收费的。
要运用ChatGPT
进行开发,必须创立一个apiKey
。这是恳求接口必不可少的参数。OpenAI为每一个新注册的账户赠送了5美金的API试用金额度,这些钱将在每次调用接口发问时依据token数量被扣除。当余额耗尽时,你就需求自行充值了。
那么,这5美金的API试用金额度能带来什么呢?关于开发者来说,他们能够用这笔钱来接入GPT模型,开发和测验自己的软件;关于普通用户来说,他们能够用这笔钱来体会其他开发者开发的GPT第三方运用。这样用户不需求购买或订阅这些第三方软件,只需求填入API密钥,消耗自己的账号额度就能够体会其他开发者开发的GPT第三方运用。
ChatGPT背面调用的是GPT的3.5 Turbo
模型,其API官方价格为0.002美金1000个Token
。这意味着,消耗1美金能够生成50万个Token,大约可生成挨近20万个汉字字符,或许更多的英文字符。关于普通用户来说,这是一个相对廉价的价格。
可是,ChatGPT
的保护成本是适当高的。听说,OpenAI仅在保护ChatGPT这一个项目上,每天的费用就达到了10万美元。OpenAI发布的新模型GPT-4的API价格更是高达GPT-3.5 Turbo的几十倍,而且它的问题提示词和回复是分隔算钱的。虽然GPT-4的API暂时还需求恳求,但咱们能够预见,这个模型的强壮功用会带来更多的或许性和应战,
假如你想调用 ChatGPT
的接口,开发自己产品,官方给了具体的文档,坏音讯是文档都是全英文的,好音讯是,我用node.js现已帮咱们踩了一遍坑,现已恳求了GPT4 的API 开发权限快1个月,可是一向没有经过, 所以我是依据 gpt-3.5-turbo
这个模型开发的。
6.1 获取 organisation 和 apiKey
1、登录openAi的官网,点击用户信息部分,就会有一个下拉浮窗,点击【Manage account】就能跳转到对应页面查看【Organization ID】
2、在当时界面就能看到【API keys】,点击按钮创立一个API keys
3、输出一个key的名字,点击创立
4、会主动创立一个api-key,可是要留意,为了安全起见,这个api-key只会展示一次,所以创立成功后要及时保存下来
5、一个openAi的账户能够一起创立多个api-key、所以咱们能够一起开发多个不同功用的GPT模型,或许用来让 GPT 并发处理恳求
6.2 了解 Role人物
现在,体系预设的role现在有3个取值:
- 「user」:在GPT的对话模型中,通常指的是提交prompt的一方,即对话中主动提出问题、主张话题或供应信息的人或体系,user能够是提交问题的咱们,也能够将GPT自身视为一个user,经过手动输入或主动生成的方法来模仿User的行为。
- 「assistant」:表示给completion呼应的一方,多数情况下是ChatGPT自身,即与user互动的一方。
- 「system」:message里role为system,是为了让ChatGPT在对话过程中设定自己的行为,现在role为system的音讯没有太大的实践作用,我的了解便是对话二人中的旁白。官方说法如下“Gpt-3.5-turbo-0301并不总是十分重视体系音讯。未来的模型将被练习成愈加重视体系信息。”也便是说现在这个人物的含义不大。
想经过API实现包括上下文信息的多轮对话的关键便是用好role字段。
给ChatGPT发送音讯的时分,参数message是个数组,数组里每个dict有role这个字段。
6.3 根底开发
6.3.1 参数介绍
参数 | 具体描述 |
---|---|
model | 运用的 GPT 的模型 |
messages | 数组,能够传递两边对话的人物和 prompt |
top p | 控制生成语句与前文的相关性的,当这个参数值设置得较小,生成的内容将愈加严密地与前文坚持一致,输出的成果会愈加安稳和中规中矩,一起也会缺失一些创造力 |
temperature | 温度参数,和top p参数类似,值越小输出的文本越合乎常理,但相同也会让文本损失多样性和更多的或许性 ,关于top p 和 temperature 到底运用哪一个, OpenAI给出的主张是任意调整其中一个即可 |
6.3.2 直接调用GPT API接口
//中心代码
letdata={
model:"gpt-3.5-turbo",
messages:[
{"role":"user","content":"helloword"}
]
};
letconfig={
method:'post',
url:'https://api.openai.com/v1/chat/completions',
headers:{
'Content-Type':'application/json',
'Authorization':`Bearer${你的apiKey}`
},
data:JSON.stringify(data)
};
letcompletion=awaitaxios(config)
.then((response)=>{
resolve(response.data.choices[0].message)
})
.catch((error)=>{
console.log('gpterr',error);
});
6.3.3 用三方库 openAi 进行开发
openai 内部封装了对官方接口的恳求,也是运用的axios,直接运用。
装置库
npminstallopenai-d-s
//中心代码
const{Configuration,OpenAIApi}=require("openai");
constconfiguration=newConfiguration({
organisation:'你的org',
apiKey:'你的apiKey',
});
constopenai=newOpenAIApi(configuration);
constintermediateRun=async()=>{
constresponse=awaitopenai.createChatCompletion({
model:"gpt-3.5-turbo",
messages:[
{"role":"user","content":'helloword'}
],
});
console.log(response.data.choices[0])
}
intermediateRun()
6.3.4 进阶开发
ChatGPT 同一个api-key创立的模型,一次性只能答复一个问题,在他没有答复完上个问题之前,制止你再发送给他新的问题的,除非你将上一个答复暂停,或许等他完结上一个问题的答复,他才干持续答复下一个问题。
那假如你便是想让他并发处理恳求怎么办呢?
「创立多个 apiKey」, 一个账号是能够创立多个apiKey的,咱们能够用多个模型去并发处理恳求,将他们放到一个队列中,哪个模型的问题先答复完了,再喂给他新的数据就行了。
思路打开了么?参阅一个高频面试题【实现批量恳求数据,并控制恳求并发数量,一切恳求结束之后,履行callback回调函数】
假如还么有思路,戳我留言再更新一篇吧。
七、开发踩坑记载
7.1 接口和模型不匹配
接口与文档、咱们运用开发对应的模型,需求调用相应的API接谈锋行,假如接口和模型不匹配,就会拜访不通。
7.2 拜访接口报 ip 过错
上面介绍过,国内用户是被墙的,所以假如署理不是全局的,需求再调用接口的时分再加一个署理。
//中心代码
letdata={
model:"gpt-3.5-turbo",
messages:[
{"role":"user","content":"helloword"}
]
};
letconfig={
method:'post',
url:'https://api.openai.com/v1/chat/completions',
headers:{
'Content-Type':'application/json',
'Authorization':`Bearer${你的apiKey}`
},
data:JSON.stringify(data),
proxy:{
host:"127.0.0.1",
port:7890,
protocol:"http"
}
};
letcompletion=awaitaxios(config)
.then((response)=>{
resolve(response.data.choices[0].message)
})
.catch((error)=>{
console.log('gpterr',error);
});
7.3 报错500
普通用户的现在约束频次是每分钟3次,这个速率现在约束的仍是比较狠的,假如用来做商业运用肯定是远远不够的,那只能做“人民币玩家”了
超越次数、花钱处理、给账号充值。淘宝就有代充,
7.4 没有上下文
网页版的GPT能够主动调取谈天记载,可是调用API,正常情况下是没有上下文功用的,需求把谈天记载再发送给GPT的,才干让 ChatGPT 有回忆才干,
所以,每次发送恳求给 ChatGPT 时,把前史对话记载也一起发送,所以ChatGPT知道对话的上下文。
可是留意这是,双向收费的,即每次单独计费,妥妥的字字如金。
//中心代码
letcontextHistory=[]
//拼接用户的发问记载
contextHistory.push({"role":"user","content":`${params.prompt}`})
letdata={
model:"gpt-3.5-turbo",
//将全部谈天记载发送给GPT
messages:JSON.stringify(contextHistory)
};
letconfig={
method:'post',
url:'https://api.openai.com/v1/chat/completions',
headers:{
'Content-Type':'application/json',
'Authorization':`Bearer${你的apiKey}`
},
data:JSON.stringify(data),
proxy:{
host:"127.0.0.1",
port:7890,
protocol:"http"
}
};
letcompletion=awaitaxios(config)
.then((response)=>{
//拼接GPT的答复记载
contextHistory.push({"role":"assistant","content":`${response.data.choices[0].message.content}`})
resolve(response.data.choices[0].message)
})
.catch((error)=>{
console.log('gpterr',error);
});
7.5 报错400
刚才说过,在调用接口的时分,需求把谈天记载再发送给GPT的,才会有回忆才干,可是这个回忆仍是有必定字数约束的,Chat GPT背面的GPT-3.5 Turbo模型,现在最大的Token约束数为4096个,它的意思是当咱们与Chat GPT谈地利,咱们问的问题加上Chat GPT给的答案的总Token数不能超越4096个,不然Chat GPT又会失掉回忆并中止该轮对话,运用OpenAI供应的Token计数器,能够测验到一个汉字大约等于两个Token,最大Token约束数为4096个,换算为汉字为2048个汉字,一起标点符号包括空格也是计算在Token之内的,这意味著问题加上答案的总字数,就中文而言被约束在2000个字上下,超越这个字数约束后,Chat GPT有时就会答案报错,然后就失掉了回忆才干。
body过长
- token数量问题。每次要把前史对话记载传曩昔,会导致后续单次恳求和呼应消耗的token数量越来越多,超越ChatGPT模型支撑的最大上下文长度,ChatGPT就无法持续往下处理了。回来如下过错:
This model’s maximum context length is 4097 tokens. However, you requested 4103 tokens (2066 in the messages, 2037 in the completion). Please reduce the length of the messages or completion.
- token费用问题。API是依照token数量收费的,这个token计算是prompt和completion的token数量总和。因为后续的恳求包括的token数量越来越多,导致每次调用API的收费也越来越高。
所以,惜字如金。
八、展望一下
「更精确的模型:」 跟着深度学习技能的开展,咱们预期未来的言语模型(比方GPT的未来版别)将变得愈加精确,能够更好地了解和生成天然言语。这将导致更精确的答案,更天然的对话,以及更高质量的写作辅佐。
「更深的上下文了解:」 未来的模型或许会更好地了解长篇的对话和杂乱的上下文,这将使它们能够更好地习惯杂乱的对话场景,以及处理更杂乱的问题和使命。
「个性化和自定义:」 咱们或许会看到更多的个性化和自定义选项,答应用户依据自己的需求和偏好调整模型的行为。例如,用户或许能够设置模型的口语程度,挑选模型的专业范畴,或许指定模型应怎么处理特定的问题和情形。
「更多的运用场景:」 跟着言语模型技能的前进,咱们预期将会出现更多的运用场景,从教育辅佐到技能支撑,从娱乐到心思健康辅佐,等等。
「更好的品德和社会职责:」 跟着AI技能的开展,关于AI品德和社会职责的重视也将增加。未来的模型需求更好地处理道德问题,例如,避免生成有害或误导性的内容,尊重用户的隐私,以及公平和无偏见的处理问题和使命。
总的来说,未来的言语模型将或许在许多方面进行改善,为咱们供应更精确、更有用、更负职责的服务。但一起,咱们也需求留意到这些技能的潜在风险和应战,以确保它们的开展能够真实造福人类社会。
以上展望也来自于GPT、以下文案是我看一个博主说的,觉得不错,共享给咱们。
只要人才干发现人的需求,然后以人的行动力去处理问题,而当一个人能够影响的用户群体越大,他的商业价值也会越大,ai只不过是能处理实践问题中的一个高效的帮手算了,不论环境怎么变化,仍是要坚持好奇去持续学习。