专栏目录
耗时一下午,我完成了 GPT Terminal,真实具有了专归于我的 GPT 终端!
怎么用 GPT 在 5 分钟内 ”调教“ 出一个专归于你的 ”小黑子“?
怎么丝滑完成 GPT 打字机流式回复?Server-Sent Events!
我是怎么让我的 GPT Terminal “长记性” 的?仍是老配方!
一个合格的类 GPT 运用需求具有什么?一文带你打通 GPT 产品功用!
开发一个 ChatGPT 真的仅仅当 “接口侠” 吗?GPT Terminal 细节共享!
怎么借助于 OpenAI 以指令的方法在 GPT 终端上画一只 “坤”?
不满足当 ChatGPT “接口侠”?轻松可视化 Fine-tuning 训练你的模型!
耗时一下午,我终于上线了我的 GPT 终端!(内含具体部署方案记载)
项目地址:github.com/ltyzzzxxx/g…
欢迎咱们Star、提出PR,一同快乐地用 GPT Terminal 玩耍吧~
前言
不知不觉中,GPT Terminal
专栏现已更新了 4 节内容啦~
这 4 节内容现已根本涵盖了一个 GPT 运用需求具有的根本功用。
可是,因为市面上类 GPT
运用实在是层出不穷,形形色色,这些运用耳濡目染地提高了咱们的 “阈值“,乃至让咱们对此类运用有些审美疲劳,也有许多人以为此类运用仅仅简略地调用 Open AI
接口,没什么含金量。事实的确如此,但这仅仅仅从运用的视点来看,没有必要重复性地制作,进行无意义的 “内卷”。
假使咱们换个视点,从做一个优异的产品,又或是学习一些有用的技术视点动身,咱们或许又会有所收成。这也是今天写这篇文章的意图,我想尽或许凝练地提取出我在做 GPT Terminal
的过程中思考到的一些功用,其间涉及到的不仅仅是调用 Open AI
接口,还有一些有意思的东西,仅供咱们参阅~
合格的类 GPT 运用需求具有什么?
在开端共享之前,我想先问咱们一个问题,假如让你来做一款类 GPT
运用,你需求考虑哪些方面,然后使得你的 GPT
不逊色于市面上其它产品?
如下是我经过思考与调研后,总结而成的思维导图。

基础功用
-
支撑
GPT
对话聊天功用- 这一点是最根本的,这是任何一个类
GPT
运用都具有的特色
- 这一点是最根本的,这是任何一个类
-
支撑
GPT
输出内容呈现为Markdown
格式- 市面上绝大大都
GPT
运用均支撑这一点,究竟许多时分都是程序员在用GPT
,所以免不了和代码打交道。为了用户体会,在我看来这一功用是有必要完成的。
- 市面上绝大大都
-
支撑
GPT
输出方法为流式输出,即完成 “打字机” 效果- 这一点在我看来也是有必要的,因为从用户体会视点动身,流式输出能够让你感受到
GPT
似乎是在一边思考,一边回复,愈加仿真。一同,它也解决了呼应时刻内,输出框白屏或加载的用户体会问题
- 这一点在我看来也是有必要的,因为从用户体会视点动身,流式输出能够让你感受到
-
支撑
GPT
记载上下文,即完成 “回忆” 功用- 这在大大都场景下是有必要的,除非每条对话都是独立的。咱们会经过问询 GPT 多个问题,并且这些问题之间相互相关,然后得到最终的答案。这其实也是
Prompt Engineering
中的一种技巧。
也有例外状况,比如在
GPT Terminal
中完成的指令行翻译、中英互译人物,大都状况下我不需求它们回忆 “上下文” 。 - 这在大大都场景下是有必要的,除非每条对话都是独立的。咱们会经过问询 GPT 多个问题,并且这些问题之间相互相关,然后得到最终的答案。这其实也是
-
支撑
GPT
装备功用,支撑用户装备API Key
、GPT
模型参数等- 这一点虽然是基础功用,但并非必备功用。因为一些类
GPT
运用是商业化的,用户经过付费交换GPT
服务。这就看开发者怎么选择啦,个人以为在规划之初就应确定好这款产品的定位与走向。
- 这一点虽然是基础功用,但并非必备功用。因为一些类
用户体会支撑功用
-
GPT
呼应状况下,制止用户输入- 为什么我考虑到这一点?是因为我在完成
GPT
“回忆” 功用时,需求将之前的问题与回复作为新一轮提问中GPT
的输入参数。为了保证GPT
输出的正确性与质量,我需求保证输入参数的有序性。假定我在输出还未返回的状况下强行输入,会导致GPT
无法感知或回忆这一轮的对话。
这一点仍是挺有意思的,试想一下咱们在日常日子中与其他人聊地利,或许常常存在打断对方的状况,对方也能感知到,并不会丢失上下文。期望之后 GPT 能够完成这一点吧
- 为什么我考虑到这一点?是因为我在完成
-
Loading 状况提示
- 在用户发送音讯 到
GPT
开端呼应这段时刻,是存在恳求发送与恳求处理过程的,那么其间必然存在网络延时。为了避免呈现白屏问题,咱们能够添加简略的Loading
提示状况,奉告用户目前处于加载状况中。这也是绝大大都网站、App、小程序的惯用技巧。
- 在用户发送音讯 到
-
网络超时提示
- 有时会呈现无法访问
OpenAI
的状况,即便用户正确装备好了API Key
,也总是无法得到GPT
输出的内容。这时分,咱们需求设置一下恳求的超时时刻,并且在超时后奉告用户已超时,请用户承认网络是否装备正确等等内容。
- 有时会呈现无法访问
拓展功用
为了做得更有意思一些,我在
GPT Terminal
中做了一些拓展。这儿先简略共享给咱们。更具体的解决方案,我会在第二天的文章中具体讲解!
-
自界说
GPT
人物功用- 这一点其实原理很简略,经过预先设置好上下文,作为参数
message
数组中的部分元素恳求接口即可。鄙人一篇文章中,我会具体介绍DIY
人物的整体解决方案(数据库规划、接口完成等)。
- 这一点其实原理很简略,经过预先设置好上下文,作为参数
-
历史对话记载查询
- 在一般的
GPT
运用中,聊天内容是直接展现在用户眼前的。而在终端上,因为内容过多,用户或许执行清屏操作,需求以指令的方法获取曩昔的聊天记载。
- 在一般的
-
分人物存储对话记载
- 为了防止多个人物共用同一上下文,形成人物界说紊乱,我将对话记载进行分人物存储。
除此之外,后续我或许会引入 MidJourney
图片生成、根据 Fine-tuning
训练模型等更多玩法,这些也是归于进阶的拓展功用啦,都能够在一个类 GPT
运用中得以完成~
总结
提到这儿,咱们能够看到想要完成一个类 GPT
产品,需求考虑的当地并不少。咱们在做的过程中,仍是能够学到不少有用的技术。并且经过这一项目,咱们在日后开发自己个人产品的过程中,也会愈加简单考虑到许多与用户体会相关的产品细节。
在做的过程中,我也深入体会到打磨细节的不易。虽然调用 OpenAI
接口很简略,可是想要把它做成一个真实能够交付给用户运用的 GPT
产品,实属不易。
想成为一个优异的程序员,除了需求有过硬的开发编程才能,也需求具有一定的产品思维,这不仅能够使咱们更好地了解需求,一同咱们会有愈加久远的规划思考。这也会反过来促进开发作业。目前,我也正朝着这一方向努力中~
跋文
原本今天想要把第二篇也一同更新完的,可是想了想两篇加在一同篇幅过长,并且第二篇涉及到项目实战内容,简单看困,所以今天就先共享一些简略的内容吧,期望咱们看了之后能够愈加了解 GPT
运用的功用点~
这篇文章就先到这儿啦~可是精彩内容还未完毕,假如咱们想要了解更多关于 用户体会支撑功用
与 拓展功用
的实战解决方案,请继续重视本专栏,预期会在第二天就更新哒~
假如咱们想要了解GPT Terminal项意图更多细节并解锁更多玩法的话,请到其主页查看哦。
看在我这么仔细的份上,咱们点个Star、点个赞不过火吧(磕头!)下期再见!