咱们好,我是二哥呀。

说到百度,咱们总认为是一家搜索引擎公司,但这些年百度其实什么都做过,咱们能够想一想,百度地图?百度音乐?百度翻译?百度输入法?百度文库?度小满?百度 APP?自动驾驶?

除此之外,还有最近半年流行起来的 AIGC、大模型,比如说文心一言。

在很多技能人的眼里,百度就是技能界的黄埔军校,尽管百度的很多产品都毁誉参半,但作为国内的头部大厂,百度在大模型这块的投入力度能够说十分大,3 月 16 号发布的大模型——文心一言能够说在业界激起了巨浪。

有支撑的,当然也有怀疑的,但无论如何,百度勇敢的迈出去了第一步。讲真,国内想要追赶上 OpenAI,需要这种决计和投入。

这不,百度又发布了千帆大模型渠道,支撑第三方大模型的定制开发和练习,能够说覆盖了智能问答、内容创造、代码编写等多种运用场景。

那文心一言和千帆之间的关系到底是什么,下面这张图能够说是一望而知。

百度公司的真实身份,藏不住了

二哥一贯对新鲜事物持有敏锐的嗅觉,这不,千帆出来的第一时间,我就体会了一波,下面就把我的运用体会分享出来,也是希望能给感兴趣的小伙伴踩踩坑、探探路,毕竟 AI 时代,咱们不能掉队啊。

01、运用体会

千帆大模型渠道测验网址:cloud.baidu.com/survey/qian…

请求时需要填写公司名称、联系人、联系电话等,提交请求后,很快就能收到经过的消息。

百度公司的真实身份,藏不住了

目前已经预制了十分多大模型,包含业界知名的⼤语⾔模型BLOOMZ-7B、由BigScience研制并开源,能够以46种语⾔和13种编程语⾔输出⽂本。

百度公司的真实身份,藏不住了

还有 LLaMA2 全系列、ChatGLM2、RWKV、MPT、Dolly、OpenLLaMA、Falcon 等 33 个大模型,成为国内具有大模型最多的渠道。一同支撑功用+安全的双重增强,模型推理成本可下降50%。

运用起来也十分便利,直接点击布置,然后点击下一步,挑选后付费开通就能够了。

百度公司的真实身份,藏不住了

然后咱们在运用接入这儿创立一个“缄默沉静王二狗腿子”的运用。

百度公司的真实身份,藏不住了

咱们先用「在线测验」来体会一下。输入问题“请用 Java 帮我写一个冒泡排序”,挑选服务“百度trubo 大模型”和运用“缄默沉静王二狗腿子”。

百度公司的真实身份,藏不住了

我把代码复制到 Intellij IDEA 在本地检验了一下,而且把代码和 Copilot 生成的冒泡排序做了一个对比,一同来看一下。

public static void bubbleSortCopilot(int[] arr) {
    for (int i = 0; i < arr.length; i++) {
        boolean flag = false;
        for (int j = 0; j < arr.length - i - 1; j++) {
            int temp;
            if (arr[j] > arr[j + 1]) {
                flag = true;
                temp = arr[j + 1];
                arr[j + 1] = arr[j];
                arr[j] = temp;
            }
        }
        if (!flag) {
            break;
        }
    }
}
public static void bubbleSort(int[] arr) {
    int n = arr.length;
    for (int i = 0; i < n - 1; i++) {
        for (int j = 0; j < n - i - 1; j++) {
            if (arr[j] > arr[j + 1]) {
// 交换元素方位
                int temp = arr[j];
                arr[j] = arr[j + 1];
                arr[j + 1] = temp;
            }
        }
    }
}

假如你想运用 API 调用的方法,能够经过下面这个文档查看。

cloud.baidu.com/doc/WENXINW…

百度公司的真实身份,藏不住了

千帆是目前国内具有最多第三方大模型的渠道,模型推理成本可下降50%

02、Prompt 模板

千帆大模型渠道发布了 103 款 Prompt 模板,包含对话、编程、电商、医疗、游戏、翻译、讲演等十余个场景。

百度公司的真实身份,藏不住了

Prompt 是什么?

可能有一些小伙伴第一次看到这个词会觉得比较陌生,Prompt 就是提示词的意思,Prompt 是经过自然语言向大模型提出指令或指令,引导大模型生成相应的内容。

优质的 Prompt 更能得到高质量的答复。

我这儿保藏了四个编程方面的 Prompt 模板,分别是 SQL 终端、Linux 终端、JavaScript 控制台和编程专家。

点击在线测验,挑选编程专家,咱们来测验一下。

百度公司的真实身份,藏不住了

咱们来问一个 Stack Overflow 上十分高赞的 Java 问题:Java 是值传递仍是引证传递。

百度公司的真实身份,藏不住了

进入在线测验,挑选 BLOOMZ-7B 大模型(咱们前面说到过),然后在键入 “/” 挑选提示词。

百度公司的真实身份,藏不住了

卧槽,答复的真不错!这个问题仍是十分能考验大模型的,讲真,假如大模型比较傻瓜,那这个问题简直都会答错。

百度公司的真实身份,藏不住了

再来一个 Linux 终端,服务挑选 RENIE-Bot-turbo。 结果真不错,完全符合真实的 Linux 场景。

百度公司的真实身份,藏不住了

03、插件功用

6 月份的时分,千帆已经上线了插件功用,是国内首家供给插件服务的大模型渠道。

插件功用十分强壮,意味着咱们能够把一些根底的数据导入到千帆大模型渠道。

首先,咱们需要一份 doc 文档,能够经过 typora 导出,比如说咱们把星球的面渣逆袭-分布式篇导出一份 word 文档。

百度公司的真实身份,藏不住了

然后,进入千帆大模型的插件编列页面,配置模型,而且安装域内常识检索增强插件。

百度公司的真实身份,藏不住了

挑选上面导出的 word 文档。

百度公司的真实身份,藏不住了

查看上传进展。

百度公司的真实身份,藏不住了

然后咱们来问他:说说CAP原则?为什么CAP不行兼得呢?等面渣逆袭上的内容,他都能够轻松应对。

百度公司的真实身份,藏不住了

也就意味着,企业或者个人完全能够定制一个属于自己的数字人,喂他的常识越多,他就答复的越专业。然后咱们再调用千帆大模型渠道,就能够为自己的运用服务了。

假如能把插件集成到办公场景中,就能够实现文档搜索、会议纪要、会议室预订、饭卡充值、度假请求等功用,能够以大大提升办公功率

ending

千帆大模型渠道目前供给的功用能够说十分强壮,覆盖了大模型研制的全生命周期,包含:数据管理、模型练习、评价&优化、猜测服务和Prompt工程和插件服务,端到端地帮助用户高效地开发和布置大模型运用,极大地下降大模型的技能门槛。

百度公司的真实身份,藏不住了

来看一下文心大模型的宗族一览图吧,能够说十分的牛逼了。

百度公司的真实身份,藏不住了

关于想做大模型的企业来说,也值得去参考和借鉴,以及深度协作。

关于咱们个人开发者来说,假如想从事大模型相关的作业(高薪),也一定要多了解一下千帆大模型渠道的业务和功用。

AI 时代,绝不能掉队!