Lobe Chat是一个开源的高性能聊天机器人框架,它被设计来帮助用户轻松创建和部署自己的聊天机器人。这个框架支持多种智能功能,比如语音合成(就是让机器人能说话),还能理解和处理多种类型的信息,不仅限于文字,还包括图片等多模态内容。Lobe Chat的特点是用户友好,不需要太多的技术背景就能使用,而且它还支持一键免费部署,意味着你可以快速地在互联网上拥有一个私人的、类似ChatGPT的聊天机器人应用。
第一步,运行本地电脑的大模型服务
可以用Ollama软件,下载安装完成后输入命令:ollama serve,
然后输入ollama run qwen,就在本地电脑上启动了阿里巴巴的qwen通义千问开源模型。
具体步骤可以长久之前的文章《简单两步将Llama、Qwen等开源大模型安装到自己的电脑上》。
第二步:安装Docker Desktop软件 https://www.docker.com/
第三步:本地运行LobeChat (官网:https://lobehub.com/zh/docs/usage/start)
打开命令提示符,输入命令:
docker run -d -p 3210:3210 -e OLLAMA_PROXY_URL=http://host.docker.internal:11434/v1 lobehub/lobe-chat
LobeChat就安装完成了。
然后打开网站:https://chat-preview.lobehub.com/
点击右上角的设置:
选择语言模型,找到Ollama,接口代理地址填入:http://127.0.0.1:11434,然后点击检查,检查通过后,点击获取模型列表,选择ollama中的qwen模型,
然后回到主界面,在聊天对话框中选择模型:Ollama-qwen,就可以和通义千问的开源模型聊天了。一个专属于个人的AI助理就可以永久免费使用了。
如果对qwen模型不满意,还可以根据自己需求换模型,只要是Ollama支持的模型都可以。
Lobe Chat自身也支持很多主流的AI大模型,只要填入APIkey,就可以使用了。