这两天运用阿里的模型服务灵积渠道,在上面注册了通义千问的运用权限,迫不及待的想要体会一下,但是结果好像有点拉胯。。。且听我渐渐道来。

阿里云模型服务灵积简介

我也懒得写简介了,让通义千问说一下吧。。。

Q: 介绍一下阿里云模型服务灵积

A: 灵积是阿里云推出的一种机器学习模型服务,它供给了许多的机器学习和深度学习模型,能够协助用户快速构建和布置高效的模型,然后提高业务效率和准确率。 灵积供给了多种模型服务,包含:

  1. 深度学习模型:灵积供给了多种深度学习模型,如卷积神经网络、循环神经网络、生成对立网络等,这些模型能够用于图像识别、文本分析、自然语言处理等任务。
  2. 机器学习模型:灵积还供给了多种机器学习模型,如决策树、随机森林、支撑向量机等,这些模型能够用于分类、回归、聚类等任务。
  3. 强化学习模型:灵积还支撑运用强化学习技能来练习模型,这些模型能够用于游戏AI、自动驾驶等高复杂度任务。 灵积供给了模型练习、模型布置和模型办理等一系列功用,能够协助用户快速构建和布置高效的模型。此外,灵积还供给了一系列的开发工具和API,能够便利用户进行模型开发和调试。

(以上答复出自通义千问)

简略的来讲,灵积渠道便是一个能够让用户快速的布置一些通用的大模型,这儿不需求用户购买GPU服务器,关于用户来讲,只需求依据token来支付费用。接下来注册试用一把。

注册运用

打开灵积控制台 dashscope.console.aliyun.com/overview ,首次进入由于没有注册服务,会进入引导注册服务页面。

阿里通义千问是不是有点拉胯?

咱们能够先点击“去体会” 来感受一下多种模型的生成能力,如通义千问,LLaMa2,ChatGLM, 百川等。

这儿咱们直接点击“去注册”链接,勾选服务协议,点击立即注册按钮。

阿里通义千问是不是有点拉胯?

注册成功后再次回到灵积控制台,

阿里通义千问是不是有点拉胯?

点击“去办理”进入办理API-KEY页面,在API-KEY办理页面,点击“创立新的API-KEY” 按钮创立apk-key,将会在弹框中显现key,将该key单独妥善保存,这个弹框封闭今后就不再显现key了,只能经过额定的认证才干获取到这个key。

请求模型体会

进入模型广场 dashscope.console.aliyun.com/model

本次咱们将测验运用LLama2和通义千问这两个模型的运用,在模型广场上找到这两个模型的卡片,点击请求体会链接。填写表单今后,等候审核经过即可。

阿里通义千问是不是有点拉胯?

留意:模型广场内的模型不一定都有敞开请求体会链接,大家能够随时关注一下模型广场。

通义千问模型调用

首要需求装置DashScope SDK, 运用 pip install dashscope 来装置DashScope Python SDK。 需求下载dashscope>=1.10.0版本。

# -*- coding: utf-8 -*-  
import dashscope  
from dashscope import Generation  
from http import HTTPStatus  
import json  
from dashscope.api_entities.dashscope_response import Message  
# 注释1
dashscope.api_key = "apikey"  
class QianWen:  
    def __init__(self):  
        self.gen = Generation()  
	# 注释2
    def call_once(self, prompt):  
        response = self.gen.call(  
            model=Generation.Models.qwen_v1,  
            prompt=prompt  
        )  
        if response.status_code == HTTPStatus.OK:  
            output = response.output  
            if output.finish_reason == "stop":  
                print(output.text)  
        else:  
            fail_info = json.dumps(response, indent=4, ensure_ascii=False)  
            print(f"模型处理失利,失利信息为: {fail_info}")  
	# 注释3
    def chat(self):  
        messages = []  
        while True:  
            user_input = input("请输入您的对话:")  
            if user_input == "stop":  
                print("结束对话")  
                break  
            if user_input == "clear":  
                messages = []  
                continue
            # 注释4  
            messages.append(Message(role="user", content=user_input))  
            response = self.gen.call(  
                model=Generation.Models.qwen_v1,  
                messages=messages  
            )  
            if response.status_code != HTTPStatus.OK:  
                print("请用接口出错")  
                break  
            else:
	            # 注释5  
                message = Message.from_conversation_response(response)  
                messages.append(message)  
                print(message.content)  
if __name__ == '__main__':  
    q = QianWen()  
    q.call_once("宫保鸡丁怎么做?")

代码解释:

1)在注释1处,需求替换自己的api_key。
2)在注释2处,界说一个办法call_once,这个办法一次只向AI发送一轮问答,不具有前史对话功用。
3)在注释3处,界说一个具有对话功用的chat办法,该办法是由一个死循环,获取用户的输入作为对话内容,dashscope.api_entities.dashscope_response.Message 类是音讯类,这个类有两个属性,role 表明音讯的类型,能够是system, user,assistant或许bot几种类型,content 为对话的内容。在调用Generation的call办法时经过messages参数传入对话音讯列表,就能够实现AI谈天对话功用了。
4)在注释4处,将用户的输入保存到messages对话列表中。
5)在注释5处,将AI的回来转换为Message对话,并将该音讯保存到messages对话列表中。

单轮对话

咱们先看一下单轮对话的输出结果:

(venv)  python qianwen.py
宫保鸡丁是一道十分受欢迎的中式菜肴,通常用鸡肉、花生米、辣椒、蒜苗等资料烹制而成。下面是一份简略易学的宫保鸡丁做法:
所需资料:
- 鸡胸肉 200 克
- 干辣椒 10 克
- 花生米 50 克
- 姜蒜末 适量
- 料酒、生抽、糖、盐、鸡精、淀粉 适量
- 胡椒粉、香油 适量
步骤:
1. 将鸡胸肉切成小块,参加料酒、生抽、糖、盐、鸡精、淀粉拌匀,腌制10分钟。
2. 干辣椒去蒂去籽后切成小段,花生米炒香备用。
3. 热锅冷油,将腌制好的鸡肉煸炒至金黄色捞出备用。
4. 留少量底油,参加姜蒜末、干辣椒煸炒出香味。
5. 将炒好的鸡肉倒入锅中,翻炒均匀。
6. 参加炒香的花生米,翻炒均匀。
7. 最终参加少量胡椒粉、香油,翻炒均匀即可出锅。
留意事项:
-煸炒鸡肉时要留意不要煮过头,避免口感过于干燥。
- 干辣椒和花生米的炒制要留意火候,避免炒糊。
- 如需求,能够依据个人口味调整辣度。

能够看到通义千问回来的内容还能够,内容仍是比较详细的。

多轮对话

接下来咱们来看一下谈天对话功用,修改上面的代码,调用q.chat()

请输入您的对话:你好,我叫kevin
你好,kevin。很快乐为你供给协助。
请输入您的对话:北京有什么好吃的
北京有许多甘旨的食物,以下是一些值得一试的:
 1.烤鸭:北京烤鸭是北京最著名的美食之一,以其酥脆的皮肤和鲜美的肉质而出名。能够在许多餐厅和旅游景点品尝到。
 2. 炖肘子:炖肘子是一道经典的北京菜,以其软糯的肉质和浓郁的香味而遭到欢迎。
 3. 炸酱面:炸酱面是一道北京传统的面食,以其酸甜的炸酱和丰富的配料而遭到喜欢。
 4. 豆汁:豆汁是一种十分受欢迎的北京小吃,以其甜中带酸的口感和独特的豆腥味而出名。
 5. 炖蘑菇:炖蘑菇是一道北京菜,以其软糯的口感和鲜美的香味而遭到欢迎。
当然,北京还有许多其他甘旨的食物,期望你能在旅途中找到自己喜欢的美食。
请输入您的对话:我叫什么
很抱歉,我无法答复这个问题。我是一个人工智能助手,无法知道你的个人信息。如果你想知道自己的姓名,能够问其他人或许检查你的身份证明。

这就有点出乎我的意料了。。。

简略的三轮对话都不能理解吗?这我也不能理解了。

所以我测验再次缩短谈天对话,两轮仍然不能正确答复,我开端emo了,是不是我调用的方法不对?

我检查源码与文档,在dashscrop源码中有这样的界说

class Generation(BaseApi):
    task = 'text-generation'  
    """API for AI-Generated Content(AIGC) models.  
    """    
    class Models:  
        qwen_v1 = 'qwen-v1'  
        qwen_plus_v1 = 'qwen-plus-v1'  
        bailian_v1 = 'bailian-v1'  
        dolly_12b_v2 = 'dolly-12b-v2'  
        qwen_turbo = 'qwen-turbo'  
        qwen_plus = 'qwen-plus'

这儿除了qwen-v1 还有个plus版本,我检查官方文档发现plus要贵10倍,本着贵即便好的准则,我测验运用qwen-plus-v1这个模型测试一下,这次能够正常的答复我的姓名了!

请输入您的对话:你好,我叫kevin
你好,kevin。很快乐为你供给协助。
请输入您的对话:北京有什么好吃的
北京有许多甘旨的食物,以下是一些值得一试的:
 1.烤鸭:北京烤鸭是北京最著名的美食之一,以其酥脆的皮肤和鲜美的肉质而出名。能够在许多餐厅和旅游景点品尝到。
......(以下内容省略)
请输入您的对话:我叫什么
您的姓名是kevin。

也不知道在调用qwen-v1时是我的姿态不对仍是这个模型本身的问题?

有懂的同学能够帮忙回答一下!

记载一下时刻,今天是2023年9月14号,没准明天阿里的qwen-v1就好了!