用Flowise+OneAPI+Ollama做一个在线翻译工作流,输入一种语言,马上翻译成另外一种语言,使用到的结点主要有,ChatLLM、提示词模板还有LLM Chain。
一、设置OneAPI和Ollama
1、Ollama的安装及配置,请参考:在ubuntu24.04上安装Ollama并设置跨域访问-CSDN博客
2、OneAPI的安装及配置,请参考:使用OneAPI创建LLM访问API Key-CSDN博客
二、创建本地的Chat LLM API
选LocalAI API
这里填上OneAPI里生成的Key。Credential Name的名字你可以随便写。
三:创建工作流
接下来,让我们创建一个工作流如下图:
按照下图创建工作流:
需要用到的结节:
1、Chat Prompt Template
在system Message里面写入提示词:
You are a helpful assistant that translates {input_language} to {output_language}.
Human Message里面写入文本变量
{text}
2、Chat LLM,这里选ChatLocaAI
选择我们的ollama帐号,需要写Base Path:就是你的OneAPI的地址
Model Name:写你的Ollama里面的模型地址,这里我选的是deepseek-v2:16b
3、LLM Chain,最后都连到LLM Chain里。
四、测试一下
下面让我们测试一下效果看怎么样。
五:嵌入网页
将该工作流嵌入到自己的网站
将这段代码复制到你网页中的html语句的任何一个位置。然后运行。
在网页的右下角会出现这么一个图标。
点击后,会弹出对话框。 你就可以在网页上跟这个工作流对话了。