【Python】使用Gradio作为机器学习web服务器

news2024/11/18 19:47:35

在机器学习领域,模型的展示和验证是一个重要的环节。传统的模型展示方式往往需要复杂的Web开发知识,这对于许多机器学习研究者或数据科学家来说可能是一个挑战。然而,Gradio的出现为我们提供了一个简单而强大的解决方案,让我们能够轻松地将机器学习模型转化为交互式的Web应用。

一、Gradio介绍

Gradio是一个开源的Python库,它允许开发者通过几行代码就能构建出用于测试、演示和教学的机器学习模型界面。Gradio的设计哲学是“简单且强大”,它极大地简化了Web界面的创建过程,让开发者无需深入了解Web开发技术,就能快速构建出漂亮、交互式的应用界面。

1、Gradio的核心特性

  • 易用性:Gradio的API设计简洁直观,开发者只需定义输入和输出类型,并指定要运行的函数或模型,即可快速生成Web界面。
  • 灵活性:Gradio支持多种输入和输出类型,包括文本、图像、音频和视频等,这使得Gradio能够适用于广泛的应用场景。
  • 即时分享:通过Gradio生成的Web应用可以生成一个URL,方便开发者与世界各地的用户分享他们的模型。

1、Gradio简单使用(示例)

使用Gradio构建交互式界面的过程非常简单。以下是一个简单的示例,演示了如何使用Gradio将一个简单的文本分类模型转化为交互式的Web应用。

首先,确保你已经安装了Gradio库。如果还没有安装,可以通过pip进行安装:

pip install gradio

然后,定义一个简单的文本分类函数(这里只是示例,实际中你需要用你自己的模型替换):

def text_classifier(text):
    # 假设这是一个简单的文本分类模型,返回分类结果
    if 'positive' in text.lower():
        return 'Positive sentiment'
    elif 'negative' in text.lower():
        return 'Negative sentiment'
    else:
        return 'Neutral sentiment'

接下来,使用Gradio的Interface类定义输入和输出类型,并指定要运行的函数:

import gradio as gr

iface = gr.Interface(
    fn=text_classifier,
    inputs=gr.Textbox(label="Enter text:"),
    outputs=gr.Textbox(label="Classification:"),
)

iface.launch()

运行上述代码后,Gradio将自动启动一个Web服务器,并在浏览器中打开一个交互式的Web界面。你可以在这个界面中输入文本,并立即看到分类结果。

二、Gradio组件

参考

Gradio提供了丰富的组件,使得构建交互式机器学习模型界面变得简单而高效。无论是简单的文本输入/输出,还是复杂的图像、音频处理,Gradio都能提供合适的组件来满足需求。同时,通过布局组件,我们可以灵活地组织和管理界面中的各个元素,实现美观且易于使用的界面设计。

1、核心组件

  1. Interface(界面):
    • 这是Gradio的核心组件,用于定义输入和输出类型,并创建交互式的Web界面。
    • 它有三个必需参数:fn(实际处理函数),inputs(输入组件类型),和outputs(输出组件类型)。

2、输入组件

Gradio支持多种输入类型,包括但不限于:

  1. Text(文本):

    • gr.Textbox:用于文本输入,可以设置如行数、占位符等属性。
  2. Image(图像):

    • gr.Image:用于图像上传,支持从本地上传或通过网络摄像头捕捉。
  3. Audio(音频):

    • gr.Audio:允许用户上传音频文件作为输入。
  4. Number(数字):

    • 允许用户输入数字,可以是整数或浮点数。
  5. Slider(滑块):

    • gr.Slider:用户可以通过滑动条选择一个范围内的数值。
  6. Checkbox(复选框)和Radio(单选按钮):

    • 允许用户选择多个或单个选项。
  7. Dropdown(下拉框):

    • 用户可以从下拉列表中选择一个选项。
  8. File(文件):

    • 允许用户上传各种类型的文件。
  9. Dataframe(数据框):

    • 允许用户上传或编辑类似表格的数据。

3、输出组件

输出组件与输入组件相对应,用于展示模型的输出结果,包括:

  1. Text(文本):

    • 显示模型输出的文本结果。
  2. Image(图像):

    • 展示模型生成的图像。
  3. Audio(音频):

    • 播放模型生成的音频。
  4. Label(标签):

    • 显示分类标签和概率。
  5. Plot(图表):

    • 展示模型输出的各种图表。
  6. HTML(HTML内容):

    • 可以输出HTML格式的内容,提供更丰富的展示效果。

4、其他特性

  • Interface的可选参数:如title(添加标题),description(为界面提供描述),以及其他用于定制界面外观和行为的参数。
  • 自定义组件:Gradio还支持自定义组件的开发,以满足更特定的需求。
  • 安全性:考虑到安全性问题,新版本的Gradio可能会对执行用户输入代码的功能进行限制或禁用。

通过这些组件,Gradio使得为机器学习模型创建一个直观、易用的交互式界面变得简单而高效。

三、Gradio布局组件

在构建界面时,布局组件起着至关重要的作用,因为它们决定了输入和输出组件如何在界面上排列和显示。以下是Gradio中主要的布局组件介绍:

  1. gr.Row(水平布局):

    • gr.Row 允许你在水平方向上组织输入和输出组件。
    • 通过将多个组件放置在 gr.Row 中,你可以创建一个并排的布局,使得用户可以在同一行内查看和操作多个组件。
  2. gr.Column(垂直布局):

    • gr.Row 相对,gr.Column 使得你可以在垂直方向上组织组件。
    • 这意味着组件将按照添加到列中的顺序从上到下排列,便于用户顺序查看和操作。
  3. gr.Tab(标签页布局):

    • gr.Tab 提供了一种在单个界面中集成多个不同视图或功能区域的方式。
    • 用户可以通过点击不同的标签来切换视图,每个标签可以包含其自己的输入和输出组件集合。
  4. gr.Blocks(高级布局):

    • gr.Blocks 提供了更高级的界面构建能力,允许开发者创建复杂的布局和自定义界面。
    • 通过 gr.Blocks,你可以将多个 gr.Rowgr.Column 和其他布局组件组合起来,构建出更加复杂且灵活的界面结构。
  5. 嵌套布局:

    • 你可以将上述布局组件进行嵌套使用,以实现更加复杂的界面设计。
    • 例如,你可以在一个 gr.Column 中放置多个 gr.Row,或者在一个 gr.Tab 中嵌套使用 gr.Rowgr.Column

这些布局组件与Gradio的输入和输出组件(如文本框、图像上传、滑块等)一起使用,可以帮助你构建出功能丰富、用户友好的交互式机器学习应用界面。通过合理地选择和组合这些布局组件,你可以根据具体需求创建出直观且高效的用户体验。

四、代码示例

1、图片转换示例

import numpy as np
import gradio as gr

def sepia(input_img):
    sepia_filter = np.array([
        [0.393, 0.769, 0.189],
        [0.349, 0.686, 0.168],
        [0.272, 0.534, 0.131]
    ])
    sepia_img = input_img.dot(sepia_filter.T)
    sepia_img /= sepia_img.max()
    return sepia_img

demo = gr.Interface(sepia, gr.Image(), "image")
if __name__ == "__main__":
    demo.launch()

上面的代码定义了一个函数 sepia,该函数用于将输入的彩色图像转换为深褐色(sepia)色调,并使用 Gradio 库创建了一个简单的交互式界面来展示这个函数。

sepia 函数:

  • 输入:input_img,一个 NumPy 数组,代表输入的彩色图像。这个数组应该是三维的,形状通常为 (height, width, 3),其中 3 表示 RGB 三个颜色通道。
  • 在函数内部,定义了一个名为 sepia_filter 的 NumPy 数组。这个数组包含了将彩色图像转换为深褐色色调所需的权重。
  • 使用 input_img.dot(sepia_filter.T) 对输入图像应用深褐色滤镜。这里,.dot() 是矩阵乘法,.T 是转置操作。这一步实际上是将原始图像的 RGB 值与深褐色滤镜的权重进行线性组合,从而得到新的 RGB 值。
  • sepia_img /= sepia_img.max() 这行代码将图像中的所有像素值归一化到 [0, 1] 范围内。这是为了确保在应用深褐色滤镜后,图像的颜色值仍然有效(即不超出可显示的颜色范围)。
  • 函数返回处理后的深褐色图像 sepia_img
    在这里插入图片描述

2、聊天窗口示例

import gradio as gr
import random


def chatbot_response(message, history):
    # 这里只是一个简单的示例,你可以替换为你自己的逻辑或模型
    # 例如,随机回答"Hello!"或"How are you?"
    responses = ["Hello!", "How are you?", "Nice to meet you!", "What can I do for you?"]
    return random.choice(responses)


# 使用gr.ChatInterface创建聊天界面
interface = gr.ChatInterface(chatbot_response, title="My Chatbot")

# 启动界面
interface.launch(share=True)

在这里插入图片描述

3、布局代码示例

import gradio as gr

with gr.Blocks() as demo:
    with gr.Row():
        text1 = gr.Textbox(label="t1")
        slider2 = gr.Textbox(label="s2")
        drop3 = gr.Dropdown(["a", "b", "c"], label="d3")
    with gr.Row():
        with gr.Column(scale=1, min_width=600):
            text1 = gr.Textbox(label="prompt 1")
            text2 = gr.Textbox(label="prompt 2")
            inbtw = gr.Button("Between")
            text4 = gr.Textbox(label="prompt 3")
            text5 = gr.Textbox(label="prompt 4")
            inbtw.click(lambda x,y:(y,x),[text1,text2],[text4,text5])
        with gr.Column(scale=2, min_width=600):
            img1 = gr.Image("images/cheetah.jpg",height=200,width=200)
            btn = gr.Button("Go")
demo.launch()
  • 使用gr.Blocks()来创建一个高级布局容器。
  • 在这个容器内,有两个gr.Row()布局,用于水平排列组件。
  • 第一个gr.Row()中包含了三个组件,但实际上slider2被错误地声明为gr.Textbox而不是滑块(gr.Slider)。
  • 第二个gr.Row()中包含两个gr.Column()布局,用于垂直排列组件,并且这两个列被设置为具有不同的比例和最小宽度。
  • 在第一个gr.Column()中,有多个文本框和一个按钮。
  • 在第二个gr.Column()中,有一个图像组件和一个按钮。

在这里插入图片描述

五、自定义路由

Gradio提供了方法mount_gradio_app配合FastAPI创建Web服务实现路由

确保你已经安装了fastapi和gradio这两个库。你可以使用pip来安装它们(如果尚未安装):

pip install fastapi gradio uvicorn

示例代码

from fastapi import FastAPI  
import gradio as gr  
  
app = FastAPI()  
  
@app.get("/")  
def read_main():  
    return {"message": "This is your main app"}  
  
def greet(name):  
    return "Hello, " + name + "!"  
  
io = gr.Interface(greet, "textbox", "textbox")  
  
# Mount the Gradio interface onto the FastAPI app  
app = gr.mount_gradio_app(app, io, path="/gradio")  
  
# Run the FastAPI app using uvicorn (or another ASGI server)  
if __name__ == "__main__":  
    import uvicorn  
    uvicorn.run(app, host="0.0.0.0", port=8000)

我们使用uvicorn来运行FastAPI应用。你可以通过访问http://localhost:8000/来查看欢迎消息,并通过访问http://localhost:8000/gradio来使用Gradio界面。

在这里插入图片描述

参考

  • https://github.com/gradio-app/gradio
  • https://gradio.app/
  • https://www.gradio.app/docs

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1799406.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

ffmpeg视频编码原理和实战-(2)视频帧的创建和编码packet压缩

源文件&#xff1a; #include <iostream> using namespace std; extern "C" { //指定函数是c语言函数&#xff0c;函数名不包含重载标注 //引用ffmpeg头文件 #include <libavcodec/avcodec.h> } //预处理指令导入库 #pragma comment(lib,"avcodec.…

【Week-R2】使用LSTM实现火灾预测(tf版本)

【Week-R2】使用LSTM实现火灾预测&#xff08;tf版本&#xff09; 一、 前期准备1.1 设置GPU1.2 导入数据1.3 数据可视化 二、数据预处理(构建数据集)2.1 设置x、y2.2 归一化2.3 划分数据集 三、模型创建、编译、训练、得到训练结果3.1 构建模型3.2 编译模型3.3 训练模型3.4 模…

虚拟机Ubuntu 22.04上搭建GitLab操作步骤

GitLab是仓库管理系统&#xff0c;使用Git作为代码管理工具。GitLab提供了多个版本&#xff0c;包括社区版(Community Edition)和企业版(Enterprise Edition)。实际应用场景中要求CPU最小4核、内存最小8GB&#xff0c;非虚拟环境。 以下是在虚拟机中安装社区版步骤&#xff1a;…

C++青少年简明教程:C++函数

C青少年简明教程&#xff1a;C函数 C函数是一段可重复使用的代码&#xff0c;用于执行特定的任务&#xff0c;可以提高代码的可读性和可维护性。函数可以接受参数&#xff08;输入&#xff09;并返回一个值&#xff08;输出&#xff09;&#xff0c;也可以没有参数和返回值。 …

应用层——HTTP协议(自己实现一个http协议)——客户端(浏览器)的请求做反序列化和请求分析,然后创建http向响应结构

应用层&#xff1a;之前我们写的创建套接字&#xff0c;发送数据&#xff0c;序列化反序列化这些都是在写应用层 我们程序员写的一个个解决我们实际问题, 满足我们日常需求的网络程序, 都是在应用层 之前的网络计算机是我们自定义的协议&#xff1a;传输的数据最终是什么样的结…

Redis缓存(笔记二:Redis常用五大数据类型)

目录 1、Redis中String字符串 1.1 常用命令解释&#xff1a; 1.2 原子性 1.3 具有原子性的常用命令 1.4 String数据结构 1、Redis中String字符串 概念 String 是 Redis 最基本的类型&#xff0c;可以理解成与 Memcached 一模一样的类型&#xff0c;一个 key对应一个 value…

Go微服务: 基于使用场景理解分布式之二阶段提交

概述 二阶段提交&#xff08;Two-Phase Commit&#xff0c;2PC&#xff09;是一种分布式事务协议&#xff0c;用于在分布式系统中确保多个参与者的操作具有原子性即所有参与者要么全部提交事务&#xff0c;要么全部回滚事务&#xff0c;以维持数据的一致性它分为两个阶段进行&…

php反序列化中的pop链

目录 一、什么是POP 二、成员属性赋值对象 例题&#xff1a; 方法一 方法二 三、魔术方法的触发规则 例题&#xff1a; 四、POC的编写 例题1&#xff1a; 例题2 [NISACTF 2022]babyserialize 今日总结&#xff1a; 一、什么是POP 在反序列化中&#xff0c;我们…

DexCap——斯坦福李飞飞团队泡茶机器人:更好数据收集系统的原理解析、源码剖析

前言 2023年7月&#xff0c;我司组建大模型项目开发团队&#xff0c;从最开始的论文审稿&#xff0c;演变成目前的两大赋能方向 大模型应用方面&#xff0c;以微调和RAG为代表 除了论文审稿微调之外&#xff0c;目前我司内部正在逐一开发论文翻译、论文对话、论文idea提炼、论…

RDMA (1)

RDMA是什么 Remote Direct Memory Access(RDMA)是用来给有高速需求的应用释放网络消耗的。 RDMA在网络的两个应用之间进行低延迟,高吞吐的内存对内存的直接数据通信。 InfiniBand需要部署独立的协议。 RoCE(RDMA over Converged Ethernet),也是由InfiniBand Trade Associat…

不要硬来!班组管理有“巧思”

班组管理&#xff0c;听起来似乎是一个充满“硬气”的词汇&#xff0c;让人联想到严肃、刻板的制度和规矩。然而&#xff0c;在实际操作中&#xff0c;我们却需要运用一些“巧思”&#xff0c;以柔克刚&#xff0c;让班组管理既有力度又不失温度。 在班组管理中&#xff0c;我们…

Istio_1.17.8安装

项目背景 按照istio官网的命令一路安装下来&#xff0c;安装好的istio版本为目前的最新版本&#xff0c;1.22.0。而我的k8s集群的版本并不支持istio_1.22的版本&#xff0c;导致ingress-gate网关安装不上&#xff0c;再仔细查看istio的发布文档&#xff0c;如果用istio_1.22版本…

Fatfs

STM32进阶笔记——FATFS文件系统&#xff08;上&#xff09;_stm32 fatfs-CSDN博客 STM32进阶笔记——FATFS文件系统&#xff08;下&#xff09;_stm32 文件系统怎样获取文件大小-CSDN博客 STM32——FATFS文件基础知识_stm32 fatfs-CSDN博客 021 - STM32学习笔记 - Fatfs文件…

Go select 语句使用场景

1. select介绍 select 是 Go 语言中的一种控制结构&#xff0c;用于在多个通信操作中选择一个可执行的操作。它可以协调多个 channel 的读写操作&#xff0c;使得我们能够在多个 channel 中进行非阻塞的数据传输、同步和控制。 基本语法&#xff1a; select {case communica…

纷享销客集成平台(iPaaS)的应用与实践

案例一 企业系统集成的产品级解决方案 概况 随着国家出台一系列鼓励LED照明产业发展与创新的规划和政策&#xff0c;以及国际市场全球演唱会、音乐会的活跃以及线上零售、商业地产等行业回暖&#xff0c;LED显示行业发展形势积极向好。深圳市艾比森光电股份有限公司&#xff…

第一周:计算机网络概述(上)

一、计算机网络基本概念 1、计算机网络通信技术计算机技术 计算机网络就是一种特殊的通信网络&#xff0c;其特殊之处就在于它的信源和信宿就是计算机。 2、什么是计算机网络 在计算机网络中&#xff0c;我们把这些计算机统称为“主机”&#xff08;上图中所有相连的电脑和服…

【动手学深度学习】softmax回归的简洁实现详情

目录 &#x1f30a;1. 研究目的 &#x1f30a;2. 研究准备 &#x1f30a;3. 研究内容 &#x1f30d;3.1 softmax回归的简洁实现 &#x1f30d;3.2 基础练习 &#x1f30a;4. 研究体会 &#x1f30a;1. 研究目的 理解softmax回归的原理和基本实现方式&#xff1b;学习如何…

开发人员必备的常用工具合集-lombok

Project Lombok 是一个 java 库&#xff0c;它会自动插入您的编辑器和构建工具&#xff0c;为您的 Java 增添趣味。 再也不用编写另一个 getter 或 equals 方法了&#xff0c;只需一个注释&#xff0c;您的类就拥有了一个功能齐全的构建器&#xff0c;自动化了您的日志记录变量…

从零开始手把手Vue3+TypeScript+ElementPlus管理后台项目实战五(引入vue-router,并给注册功能加上美丽的外衣el-form)

安装vue-router pnpm install vue-router创建router src下新增router目录&#xff0c;ruoter目录中新增index.ts import { createRouter, createWebHashHistory } from "vue-router"; const routes [{path: "/",name: "Home",component: () …

SQL语句练习每日5题(四)

题目1——查找GPA最高值 想要知道复旦大学学生gpa最高值是多少&#xff0c;请你取出相应数据 题解&#xff1a; 1、使用MAX select MAX(gpa) FROM user_profile WHERE university 复旦大学 2、使用降序排序组合limit select gpa FROM user_profile WHERE university 复…