Gradio——快速部署可视化人智能应用

news2024/10/6 12:27:21

前言

        Gradio是一个开源的Python库，用于快速构建机器学习和数据科学演示的应用。它可以帮助你快速创建一个简单漂亮的用户界面，以便向客户、合作者、用户或学生展示你的机器学习模型。此外，还可以通过自动共享链接快速部署模型，并获得对模型性能的反馈。在开发过程中，你可以使用内置的操作和解释工具来交互式地调试模型。Gradio适用于多种情况，包括为客户/合作者/用户/学生演示机器学习模型、快速部署模型并获得性能反馈、以及在开发过程中使用内置的操作和解释工具交互式地调试模型。

        Gradio的优势在于易用性，代码结构简单，只需简单定义输入和输出接口即可快速构建简单的交互页面，更轻松部署模型。但Gradio适合场景相对简单，更容易快速部署应用的开发者。此外，Gradio还提供便利的分享功能，在启动应用时设置share=True参数创建外部分享链接，还可以直接在微信等平台上分享给用户使用。

一、安装

1.安装Gradio

Gradio要求的的python版本要求3.7及以上，安装指令如下：

pip install gradio

#可以使用清华镜像源来更快的安装
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple gradio

2.Gradio的第一个demo

Gradio的使用很简单，就是定义处理函数，输入参数与输出参数,然后使用Interface进行处理。

import gradio as gr

def greet(text):
    return "你输入的是：" + text + "!"

#输入接口组件，label:显示框的标签
input = gr.Text(label = "输入文字")

#输出接口组件，label:显示框的标签
output = gr.Text(label = "输出内容")

#fn设置处理函数
demo = gr.Interface(fn=greet, inputs=input, outputs=output)
demo.launch()

运行代码之后，输出框会提示要打开的接口地址：

(vrh) C:\code\python\tool>python gradio_demo.py
Running on local URL:  http://127.0.0.1:7860

To create a public link, set `share=True` in `launch()`.

使用浏览器打开 http://localhost:7860 即可看到网页效果。左边是文本输入框，右边是结果展示框。“清除”按钮用于重置网页状态，“提交”按钮用于执行处理程序，“标记”按钮用于保存结果到本地。

二、基本接口参数

1. Interface类以及基础模块 

Gradio为了用户快速建立界面，包装了很多简洁易用的接口。在上面的demo中可以看到了一个简单易用易理解文本处理界面用了一个Interface函数来构建。但这个函数可以处理很多不同类型的输入和输出。 Interface一般使用三个参数进行初始化：

  • fn：包装要处理的函数
  • inputs：输入组件类型，例如：“text”、“image”、“video”等。
  • outputs：输出组件类型，例如：“text”、“image”、“video”等。

通过定义这三个参数，就可以快速创建一个接口并发布应用。

Gradio最常用的基础模块构成：

  • 应用界面：gr.Interface（搭建简易场景），gr.Blocks（制作定制化场景）。
  • 输入输出：gr.Image（图像），gr.Text（文本框），gr.Video(视频框), gr.DataFrame（数据框），gr.Dropdown（下拉选项），gr.Number（数字），gr.Markdown，gr.Files。
  • 控制组件：gr.Button（按钮）。
  • 布局组件：gr.Tab（标签页），gr.Row（行布局），gr.Column（列布局）等。

2.Inputs和Outpust的参数

Inputs和Outpust控件里面可以添加指定参数，像上面的demo一样，可以在gr.Text()里面定义label = "输入文字",还可以指定行数，提示词等，每个控制可以定义的参数都有差异。

import gradio as gr

def greet(text):
    return "你输入的是：" + text + "!"

#输入接口组件
input = gr.Text(label = "输入文字",lines=5, placeholder="请在这里输入...")

#输出接口组件，label:显示框的标签
output = gr.Text(label = "输出内容")

#fn设置处理函数
demo = gr.Interface(fn=greet, inputs=input, outputs=output)
demo.launch()

 关于控件的所有参数可以参考官方给的文档,这里就不一一列举了,官方的给的文档有详细的说明:

3.Interface.launch()方法

Interface.launch()方法有三个返回值，如果不是付费用户，公共只能使用一天。

  • app，为 Gradio 演示提供支持的 FastAPI 应用程序
  • local_url，本地地址
  • share_url，公共地址，当share=True时生成
import gradio as gr

def greet(text):
    return "你输入的是：" + text + "!"

#输入接口组件，label:显示框的标签
input = gr.Text(label = "输入文字",lines=5, placeholder="请在这里输入...")

#输出接口组件，label:显示框的标签
output = gr.Text(label = "输出内容")

#fn设置处理函数
demo = gr.Interface(fn=greet, inputs=input, outputs=output)

if __name__ == "__main__":
    app, local_url, share_url =demo.launch(share=True)

4.多输入与多输出

在处理复杂逻辑时，输入与输出有的参数并不是单一的，Gradio可以定义参数列表的形式，列表中的每个元素都会对应于函数的参数，输出列表中的每个元素则按照函数返回值的顺序排列。

import gradio as gr
import time

#该函数有2个输入参数和2个输出参数
def get_time(name,is_RPC):
    if is_RPC:
        d = time.strftime("%Y-%m-%d %H:%M:%S",time.localtime())
    else:
        d = time.strftime("%a %b %d %H:%M:%S %Y",time.localtime())
    t = time.time()
    str = "你好" + name + "，今天是："+ d

    return str,t

input_name = gr.Text(label = "请输入姓名")
input_checkbox = gr.Checkbox()

output_str = gr.Text()
output_number = gr.Number()

demo = gr.Interface(
    fn=get_time,
    #按照处理程序设置输入组件
    inputs=[input_name, input_checkbox],
    #按照处理程序设置输出组件
    outputs=[output_str, output_number],
)
demo.launch()

5. 动态界面接口

在Interface里面添加live=True参数，来实现动态输入输出的效果，只要输入发生变化，结果马上发生改变。当设置live=True，界面不再有提交按钮。

下面使用该参数实现简易的计算机：

import gradio as gr

def calculator(num1,num2, operation):
    if operation == "加":
        return num1 + num2
    elif operation == "减":
        return num1 - num2
    elif operation == "乘":
        return num1 * num2
    elif operation == "除":
        return num1 / num2

num1 = gr.Number(label = "数字",placeholder="请在这里输入数字...")
num2 = gr.Number(label = "数字",placeholder="请在这里输入数字...")

iface = gr.Interface(
    calculator,
    [num1,num2, gr.inputs.Radio(["加", "减", "乘", "除"],label="请选择运算方式：")],
    "number",
    live=True,
)

iface.launch()

 

在很多情况下，需要输入是实时视频或音频流，这意味着数据不断发送到后端。为了处理这些数据，也可以采用live=True参数来定义流式处理模式。

import gradio as gr
import cv2

import numpy as np

def gray(img):
    gray = cv2.cvtColor(img,cv2.COLOR_BGR2GRAY)

    return gray

demo = gr.Interface(
    gray,
    gr.Image(source="webcam", streaming=True),
    "image",
    live=True
)
demo.launch()

6.接口全局变量 

全局变量的用处在于它可以在函数之间共享数据，而不必每次调用函数时都重新加载模型。这特别适用于机器学习中的大型模型，通过全局变量从外部加载模型，并在函数内部使用它，可以大大提高程序的执行效率。此外，全局变量还可以方便地在不同的函数之间共享数据，并使数据在不同的函数之间易于访问。

下面程序对用户几次输入的数据进行排序：

import gradio as gr
scores = []
def track_score(score):
    scores.append(score)
    top_scores = sorted(scores, reverse=True)[:5]
    return top_scores
demo = gr.Interface(
    track_score,
    gr.Number(label="Score"),
    gr.JSON(label="Top Scores")
)
demo.launch()

7.会话状态窗口

Gradio支持持久性是会话状态（类似聊天类窗口），使得数据可以在一个页面会话中的多次提交中持久存在。然而，值得注意的是，数据并不会在不同用户之间共享。会话状态的典型例子是聊天机器人，在这种情况下，可能希望访问用户之前提交的信息，但不能将聊天记录存储在一个全局变量中，因为这样会导致聊天记录在不同用户之间混淆。需要注意的是，该状态仅在每个页面内的提交中持续存在，如果您在另一个标签页中加载该演示（或刷新页面），该演示将无法共享聊天历史记录。

  • 在函数中传入一个额外的参数，它代表当前界面的状态。
  • 在函数的最后，将状态的更新值作为一个额外的返回值返回。
  • 在添加输入和输出时添加state组件。
import gradio as gr

def answer(message, history):
    history = history or []
    message = message.lower()
    if message=="你好":
        response = "你好，有什么可以帮到你吗?"

    elif message=="你是谁":
        response = "我是虚拟数字人幻静，你可以叫我小静或者静静。"

    elif message=="你能做什么":
        response = "我可以陪你聊天，回答你的问题，我还可以做很多很多事情！"

    else:
        response = "你的这个问题超出了我的理解范围，等我学习后再来回答你。或者你可以问我其他问题，能回答的我尽量回答你！"

    history.append((message, response))
    
    return history,history

chatbot = gr.Chatbot().style(color_map=("green", "pink"))
input_text = gr.Text(label = "输入信息")
demo = gr.Interface(
    answer,
    # 添加state组件
    [input_text, "state"],
    [chatbot, "state"],
    allow_flagging="never",
)
demo.launch()

8.控件样式

不同控件都有不同style（如image.style），可以获取该组件的样式参数设置样例。也可以定义控件默认的输入。

import numpy as np
import gradio as gr
import cv2 

def gray(input_img):
    grayImage = cv2.cvtColor(input_img,cv2.COLOR_BGR2GRAY)
    return grayImage

img = gr.Image("icon.png",shape=(200, 200)).style(height='24', rounded=False)
output = gr.Image()

demo = gr.Interface(fn=gray, inputs=img, outputs = output)
demo.launch()

三、Blocks自定制组件

相比Interface，Blocks提供了一个更低级别的API，用于设计具有更灵活布局和数据流的网络应用。Blocks允许用户精确地控制组件在页面上的位置，处理复杂的数据流（例如，使输出成为其他函数的输入），并根据用户交互来更新组件的属性可见性。此外，可以定制更多的组件以进行多个版本的改写，这样可以避免代码的重复。

1.Blocks演示

使用Blocks方式添加组件时，需要使用with语句。如果不设置布局方式，组件将按照创建的顺序垂直出现在应用程序中。

import gradio as gr

def greet(name):
    return "您好，" + name + "!"

with gr.Blocks() as demo:
    #设置输入组件
    name = gr.Textbox(label="姓名：",placeholder="请在这里输入您的名字...")
    # 设置输出组件
    output = gr.Textbox(label="输出信息：")
    #设置按钮
    greet_btn = gr.Button("提交")
    #设置按钮点击事件
    greet_btn.click(fn=greet, inputs=name, outputs=output)

demo.launch()

2.多个模块应用

可以实现多个模块合并，下面的示例实现了两个Tab控件，图像处理与机器人聊天窗口。

import numpy as np
import gradio as gr
import cv2

def answer(message, history):
    history = history or []
    message = message.lower()
    if message=="你好":
        response = "你好，有什么可以帮到你吗?"

    elif message=="你是谁":
        response = "我是虚拟数字人幻静，你可以叫我小静或者静静。"

    elif message=="你能做什么":
        response = "我可以陪你聊天，回答你的问题，我还可以做很多很多事情！"

    else:
        response = "你的这个问题超出了我的理解范围，等我学习后再来回答你。或者你可以问我其他问题，能回答的我尽量回答你！"

    history.append((message, response))
    
    return history,history

def gray_image(image):
    gray = cv2.cvtColor(image,cv2.COLOR_BGR2GRAY)
    return gray

with gr.Blocks() as demo:
    # 设置tab选项卡
    with gr.Tab("图像灰度处理"):
        #Blocks特有组件，设置所有子组件按垂直排列
        #垂直排列是默认情况，不加也没关系
        with gr.Column():
            img_input = gr.Image()
            img_output = gr.Image()
            img_button = gr.Button("灰度化")
    with gr.Tab("对话框"):
        #Blocks特有组件，设置所有子组件按水平排列
        with gr.Row():
            state = gr.State([])
            chatbot = gr.Chatbot(label = "消息记录").style(color_map=("green", "pink"))
            txt = gr.Textbox(show_label=False, placeholder="请输入你的问题").style(container=False)
    #设置折叠内容
    img_button.click(gray_image, inputs=img_input, outputs=img_output)
    txt.submit(fn = answer, inputs = [txt, state], outputs = [chatbot, state])
    
demo.launch()

3.输入队列

如果函数计算时间过长，比如深度学习推理相关，或者应用程序面临过大的流量处理，那么使用队列方法来进行排队是必要的处理流程。队列方法通过websockets实现，能够有效防止网络超时问题。

import numpy as np
import gradio as gr
import cv2 
import time

def gray(input_img):
    time.sleep(5)
    grayImage = cv2.cvtColor(input_img,cv2.COLOR_BGR2GRAY)
    return grayImage

with gr.Blocks() as demo:
    #设置输入组件
    img_input = gr.Image(label="请打开图像...")
    # 设置输出组件
    img_output = gr.Image()
    #设置按钮
    greet_btn = gr.Button("灰度图像")
    #设置按钮点击事件
    greet_btn.click(fn=gray, inputs=img_input, outputs=img_output)
demo.queue()
demo.launch()

4.可编辑输出

默认输出组件是不允许编辑的。若要改变输出组件的不可编辑状态，使其内容可编辑，只需设置interactive属性为True，这样输出控件就可以编辑了。

import gradio as gr

def answer(name):
    response = "你好"+ name +",你的这个问题超出了我的理解范围，等我学习后再来回答你。或者你可以问我其他问题，能回答的我尽量回答你！"
    return response

with gr.Blocks() as demo:
    name = gr.Textbox(label="Name")
    # 不可交互
    # output = gr.Textbox(label="Output Box")
    # 可交互
    output = gr.Textbox(label="Output",interactive=True)
    greet_btn = gr.Button("提交")
    greet_btn.click(fn=answer, inputs=name, outputs=output)
    
demo.launch()

四、常用接口

1.输入图像

输入图像，输出图像

import numpy as np
import gradio as gr
import cv2 

def gray(input_img):
    grayImage = cv2.cvtColor(input_img,cv2.COLOR_BGR2GRAY)
    return grayImage

input = gr.Image(shape=(512, 512))
output = gr.Image()

demo = gr.Interface(fn=gray, inputs=input, outputs = output)
demo.launch()

 

 2.打开摄像头

打开网络摄像头，可以执行拍照和录像功能，网络摄像头以地址的方式打开：xxx\xxx\xxx\sample_flip.webm

import gradio as gr
import cv2

def dispose(image, video):
    grayImage = cv2.cvtColor(image,cv2.COLOR_BGR2GRAY)

    print(video)
    return [grayImage, video]

input_img = gr.Image(source="webcam", tool=None)
input_vid = gr.Video(source="webcam")

out_img = gr.Image()
out_vid = gr.Video()

demo = gr.Interface(dispose,[input_img,input_vid],[out_img,out_vid])
if __name__ == "__main__":
    demo.launch()

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/879605.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

IntelliJ IDEA热部署：JRebel插件的安装与使用

IntelliJ IDEA热部署：JRebel插件的安装与使用

热部署 概述JRebel 概述 热部署，指修改代码后，无需停止应用程序，即可使修改后的代码生效，其有利于提高开发效率。 热部署方式： 手动热部署：修改代码后，重新编译项目，然后启动应用程…
阅读更多...
【软件测试】Linux系统下安装jdk配置环境变量（详细步骤）

【软件测试】Linux系统下安装jdk配置环境变量（详细步骤）

目录：导读 前言一、Python编程入门到精通二、接口自动化项目实战三、Web自动化项目实战四、App自动化项目实战五、一线大厂简历六、测试开发DevOps体系七、常用自动化测试工具八、JMeter性能测试九、总结（尾部小惊喜） 前言 1、安装环境 操作…
阅读更多...
UGUI事件系统EventSystem

UGUI事件系统EventSystem

一. 事件系统概述 Unity的事件系统具有通过鼠标、键盘、游戏控制柄、触摸操作等输入方式，将事件发送给对象的功能。事件系统通过场景中EventSystem对象的组件EventSystem和Standalone Input Module发挥功能。EventSystem对象通常实在创建画布的同时被创建的&#xf…
阅读更多...
c++杂谈-5

c++杂谈-5

目录 一、一些c11新特性1. decltype关键字及函数后置返回类型2. 函数后置返回类型 二、c的内存模型三、函数指针和回调函数四、函数模版的注意事项 一、一些c11新特性 1. decltype关键字及函数后置返回类型 在C11中，decltype操作符，用于查询表达式的数…
阅读更多...
HarmonyOS NEXT新能力，一站式高效开发HarmonyOS应用

HarmonyOS NEXT新能力，一站式高效开发HarmonyOS应用

2023年8月6日华为开发者大会2023（HDC.Together）圆满收官，伴随着HarmonyOS 4的发布，华为向开发者发布了汇聚所有最新开发能力的HarmonyOS NEXT开发者预览版，并分享了围绕“一次开发，多端部署” “可分可合&a…
阅读更多...
通过Microsoft Loopback Adapter实现虚拟机和物理机的通信

通过Microsoft Loopback Adapter实现虚拟机和物理机的通信

问题 问：不借助路由器或交换机的情况下，能不能实现主机和虚拟及之间两个软件的通信呢？要求主机和虚拟及均有独立的ip地址，从而进行指定源的组播通信。 答：可以。通过借助虚拟网络适配器，不需要路由器或交…
阅读更多...
深度思考rpc框架面经系列之三

深度思考rpc框架面经系列之三

6 一个rpc框架的请求调用的流程（小红书面试） 6.1 讲讲rpc调用原理，比如服务怎么发现，怎么调用，提供者怎么响应。怎么去请求，又怎么回来的 一个RPC（远程过程调用）框架的核心目的是允…
阅读更多...
百度飞浆实战-手写数字识别

百度飞浆实战-手写数字识别

目录 参考建模过程1、数据加载和预处理2、模型的网络设计和开发模型组网 3、模型训练 代码实战1、打开aistudio找到项目 参考 视频教程 PaddleAPI DOC 建模过程 1、数据加载和预处理 飞桨框架帮助我们将MNIST数据集进行了内置 数据集名称： MNIST 数据集官网 &am…
阅读更多...
2023-08-14 LeetCode每日一题（合并二叉树）

2023-08-14 LeetCode每日一题（合并二叉树）

2023-08-14每日一题 一、题目编号 617. 合并二叉树二、题目链接 点击跳转到题目位置 三、题目描述 给你两棵二叉树： root1 和 root2 。 想象一下，当你将其中一棵覆盖到另一棵之上时，两棵树上的一些节点将会重叠（而另一些不会…
阅读更多...
Android布局【RelativeLayout】

Android布局【RelativeLayout】

文章目录 介绍常见属性根据父容器定位根据兄弟组件定位 通用属性margin 设置组件与父容器的边距padding 设置组件内部元素的边距 项目结构主要代码 介绍 RelativeLayout是一个相对布局，如果不指定对齐位置，都是默认相对于父容器的左上角的开始布局 常见…
阅读更多...
3D沉浸式旅游网站开发案例复盘【Three.js】

3D沉浸式旅游网站开发案例复盘【Three.js】

Plongez dans Lyon网站终于上线了。 我们与 Danka 团队和 Nico Icecream 共同努力，打造了一个令我们特别自豪的流畅的沉浸式网站。 这个网站是专为 ONLYON Tourism 和会议而建，旨在展示里昂最具标志性的活动场所。观看简短的介绍视频后，用户…
阅读更多...
[足式机器人]Part5 机械设计 Ch00/01 绪论+机器结构组成与连接 ——【课程笔记】

[足式机器人]Part5 机械设计 Ch00/01 绪论+机器结构组成与连接 ——【课程笔记】

本文仅供学习使用 本文参考： 《机械设计》 王德伦 马雅丽课件与日常作业可登录网址 http://edu.bell-lab.com/manage/#/login，选择观摩登录，查看2023机械设计2。 机械设计-Ch00Ch01——绪论机器结构组成与连接 Ch00-绪论0.1 何为机械设计——…
阅读更多...
设计HTML5列表和超链接

设计HTML5列表和超链接

在网页中，大部分信息都是列表结构，如菜单栏、图文列表、分类导航、新闻列表、栏目列表等。HTML5定义了一套列表标签，通过列表结构实现对网页信息的合理排版。另外，网页中还包含大量超链接，通过它实现网页、位置的跳转&…
阅读更多...
ChatGPT爆火，会给教育带来什么样的影响或者冲击？

ChatGPT爆火，会给教育带来什么样的影响或者冲击？

近来，人工智能聊天机器人ChatGPT连上热搜，火爆全网。ChatGPT拥有强大的信息整合能力、自然语言处理能力，可谓是“上知天文，下知地理”，而且还能根据要求进行聊天、撰写文章等。 ChatGPT一经推出，便迅速在社…
阅读更多...
C语言——动态内存函数（malloc、calloc、realloc、free）

C语言——动态内存函数（malloc、calloc、realloc、free）

了解动态内存函数 前言：一、malloc函数二、calloc函数三、realloc函数四、free函数 前言： 在C语言中，动态内存函数是块重要的知识点。以往，我们开辟空间都是固定得，数组编译结束后就不能继续给它开辟空间了&#xff0…
阅读更多...
机器学习：基本介绍

机器学习：基本介绍

机器学习介绍 Hnad-crafted rules Hand-crafted rules，叫做人设定的规则。那假设今天要设计一个机器人，可以帮忙打开或关掉音乐，那做法可能是这样： 设立一条规则，就是写一段程序。如果输入的句子里面看到**“turn of…
阅读更多...
maven工具-maven的使用-镜像仓库、本地仓、IDEA使用maven

maven工具-maven的使用-镜像仓库、本地仓、IDEA使用maven

Maven 一、为什么使用maven 添加第三方jar包jar包之间的依赖关系处理jar包之间的冲突获取第三方jar包将项目拆分成多个工程模块实现项目的分布式部署 二、maven简介 ​ Maven项目对象模型(POM)，可以通过一小段描述信息来管理项目的构建，报告和文档的…
阅读更多...
B树和B+树区别

B树和B+树区别

B树和B树的区别 B树 B树被称为平衡树，在B树中，一个节点可以有两个以上的子节点。B树的高度为log M N。在B树中，数据按照特定的顺序排序，最小值在左侧，最大值在右侧。 B树是一种平衡的多分树，通常我们说m阶…
阅读更多...
Base64编码-算法特别的理解

Base64编码-算法特别的理解

Base64 在DES加密和AES加密的过程中，加密的编码会出现负数，在ascii码表中找不到对应的字符，就会出现乱码。为了解决乱码的问题，一般结合base64使用 所谓Base64，即是说在编码过程中使用了64种字符：大写A到Z、…
阅读更多...
【多线程】网络原理初识

【多线程】网络原理初识

网络原理初识 1. 网络发展史1.2 独立模式1.3 网络互联1.3 局域网1.4 广域网 2. 网络通信基础2.1 IP地址2.2 端口号2.3 认识协议2.4 五元组2.5 协议分层2.5.1 什么是协议分层2.5.2 协议分层的好处2.5.2 OSI七层模型2.5.3 TCP/IP五层模型 2.6 封装和分用2.6.1 封装2.6.1.1 应用层…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023