基于DashScope+Streamlit构建你的机器学习助手（入门级）

news2025/1/14 10:25:44

前言

在LLM（大语言模型）盛行的今天，博主越来越感觉到AI（人工智能）的潜力被“无限”激发了。它为什么会突然间完成“鱼跃龙门”呢？博主认为基础设施（也可以称为算力）的完善和“天才”式的构思，是本次“盛宴”的幕后功臣。一个点子，可以改变一个领域，甚至重塑我们的工作习惯和生活方式。我想LLM作为AI新势力，有可能改变整个AI的生态。

今天，博主通过一个示例，带领各位亲自构建一个大模型应用。说起应用，我想各位应该能够理解了。比如一个聊天机器人、一个翻译助手，一个问答助手、又比如是一个创作助手等。那么本文就以一个简单的大模型为基础，构建一个属于你自己的机器学习助手。

首先来看这个小助手的“五脏六腑”是什么，跟着博主来一趟揭秘之旅吧。

一、DashScope入门

DashScope（模型服务灵积）是阿里推出的一款模型服务：

它通过围绕模型为中心，致力于为AI应用开发者提供品类丰富、数量众多的模型选择，并通过API接口为其提供开箱即用、能力卓越、成本经济的模型服务。各领域模型的能力均可通过DashScope统一的API和SDK来实现被不同业务系统集成，AI应用开发和模型效果调优的效率将因此得以激发，助力开发者释放灵感、创造价值。

一句话总结：这是一款模型框架，你可以通过它的API或SDK调用已内置的模型，创建自己的大模型应用。

博主曾经有一篇文章（基于Python的大模型学习手册（入门级））对DashScope SDK方式进行了介绍，可以参考它快速完成安装调试，这里不再赘述了。

接下来小助手需要一个face（门面），我们就选择Streamlit吧。

二、Streamlit入门

在这里插入图片描述

1. 简介

Streamlit is an open-source Python framework for data scientists and AI/ML engineers to deliver dynamic data apps with only a few lines of code.

一句话总结：Streamlit是一个开源的python框架，你通过几行代码就可以快速构建一个基于动态数据的应用，常用于数据科学和AI/ML工程领域。

2. 安装

pip3 install -i https://pypi.tuna.tsinghua.edu.cn/simple streamlit

安装完成后，可在pycharm的terminal窗口，输入： streamlit hello，回车后，根据提示打开浏览器，访问默认demo：
在这里插入图片描述
打开页面如下，我们可以点击左侧导航，体验一番：
Hello：

Animation_Demo：

Plotting_Demo：

至此，我们已备齐所有的必需工具，开始构建你的专属助手吧。

三、构建一个专属的问答助手

1. 设计前端

基于Streamlit组件，我们先简单设计一下前端的页面，一个输入框，一个提交按钮。效果如下：
在这里插入图片描述
核心代码：

    st.title('机器学习助手')
    with st.form('问答form'):
        text = st.text_area('请输入问题：')
        submitted = st.form_submit_button('提交')

2. 嵌入模型

博主选择阿里的通义千问大模型qwen-turbo，作为小助手的“知识引擎”。核心代码如下：

messages = [{'role': 'system', 'content': '你是一个优秀的机器学习专家'},
                {'role': 'user', 'content': input}]
responses = Generation.call(model="qwen-turbo",
                            messages=messages,
                            temperature=0.5,
                            stream=True, # 支持流式输出
                            incremental_output=True,# 设置为True，将开启增量输出模式，后面输出不会包含已经输出的内容
                            result_format='message')

3. 流式输出

支持小助手像打字机一样，逐字输出，提高使用体验。当然前提是完成模型设置。输出的核心代码：

ans = st.empty()
full_content = ''
for response in responses:
   if response.status_code == HTTPStatus.OK:
        full_content += response.output.choices[0]['message']['content']
        ans.info(full_content)
        # yield full_content
    else:
        print('Request id: %s, Status code: %s, error code: %s, error message: %s' % (
            response.request_id, response.status_code,
            response.code, response.message
        ))

4. 部署运行

我们通过pycharm—Terminal窗口，只需输入 streamlit run [绝对路径]/xx.py，回车就能访问了，如下图所示：
在这里插入图片描述

5. 问答演示

在这里插入图片描述
至此，你轻松收获了一个属于你自己的大模型应用，一个简易版的机器学习问答助手。

6. 完整代码

import dashscope
from http import HTTPStatus
from dashscope import Generation
import streamlit as st

dashscope.api_key = "你的dashscope api key"

def call_with_messages(input):
    messages = [{'role': 'system', 'content': '你是一个优秀的机器学习专家'},
                {'role': 'user', 'content': input}]
    responses = Generation.call(model="qwen-turbo",
                               messages=messages,
                               temperature=0.5,
                               stream=True, # 支持流式输出
                               incremental_output=True,# 设置为True，将开启增量输出模式，后面输出不会包含已经输出的内容
                               result_format='message')

    ans = st.empty()
    full_content = ''
    for response in responses:
        if response.status_code == HTTPStatus.OK:
            full_content += response.output.choices[0]['message']['content']
            ans.info(full_content)
            # yield full_content
        else:
            print('Request id: %s, Status code: %s, error code: %s, error message: %s' % (
                response.request_id, response.status_code,
                response.code, response.message
            ))


if __name__ == '__main__':

    st.title('机器学习助手')
    with st.form('问答form'):
        text = st.text_area('请输入问题：')
        submitted = st.form_submit_button('提交')
        if submitted:
            # st.write_stream(call_with_messages(text))
            call_with_messages(text)