部署谷歌的Gemini大模型

news2024/9/24 11:21:01

前言

本文将介绍如何使用Docker、Docker-Compose私有化部署谷歌的Gemini大模型，以及没有服务器的情况下如何使用Vercel来部署。

Demo:

使用新加坡云服务器部署：Gemini Pro Chat (snowice.eu.org)

使用Vercel部署：Gemini Pro Chat (snowice.eu.org)

作者项目地址babaohuang/GeminiProChat: Minimal web UI for GeminiPro. (github.com)

部署

获取API

Docker部署

如果你还没有安装Docker，Centos7安装Docker和Docker-Compose

本教程使用的是新加坡的云服务器，如果你使用国内的可能需要代理！

docker run --name geminiprochat \
--restart always \
-p 3000:3000 \
-itd \
-e GEMINI_API_KEY=*** \
babaohuang/geminiprochat:latest

***改为你获取到的API

还可以设置别的环境变量，例如设置网站密码为'123'

docker run --name geminiprochat \
--restart always \
-p 2990:3000 \
-itd \
-e GEMINI_API_KEY=*** \
-e SITE_PASSWORD=123 \
babaohuang/geminiprochat:latest

环境名	描述	是否必填
`GEMINI_API_KEY`	您的 GEMINI 的 API 密钥。你可以从这里得到它。	是
`API_BASE_URL`	GEMINI API 的自定义基础 URL。点击此处查看如何使用。	否
`HEAD_SCRIPTS`	在页面的 </head> 标签之前注入分析或其他脚本。	否
`PUBLIC_SECRET_KEY`	项目的秘密字符串。用于生成 API 调用的签名。	否
`SITE_PASSWORD`	为站点设置密码，支持多个用逗号分隔的密码。如果未设置，站点将是公共的。	否

Docker-Compose部署

首先创建docker-compose.yml

vim docker-compose.yml

将以下内容粘贴到yml文件中，同样的将***换成获取到的API，同样的也可以设置别的环境变量

version: '3'

services:
  geminiprochat:
    container_name: geminiprochat
    restart: always
    ports:
      - "3000:3000"
    environment:
      - GEMINI_API_KEY=***
    image: babaohuang/geminiprochat:latest

设置网站密码为'123'

version: '3'

services:
  geminiprochat:
    container_name: geminiprochat
    restart: always
    ports:
      - "3000:3000"
    environment:
      - GEMINI_API_KEY=***
      - SITE_PASSWORD=123
    image: babaohuang/geminiprochat:latest