前言
在安装本地大模型后,我们都会为大模型安装一个用户界面,这样就可以实现语音输入,对话保存,微调,构建本地知识库等高阶功能。
目前最火的本地大模型UI,就是gihub上的webUI,但他不仅依赖较为复杂的dockor,还涉及到向境外获取镜像。操作非常繁琐。
而且经常出现各种各样的报错,很难安装成功,对小白也很不友好。
于是,我找到了一款拥有webui所有功能,甚至还更好用的平替产品——chatbox!
chatbox是由国内公司开发的API统一管理UI,也可以作为本地大模型的UI。图为chatbox界面
提示
本教程仅适用于已经安装本地大模型,需要本地大模型UI的用户,如还未安装,请参考我
的其文章!
安装方法
下载应用
点击以下超链接自动开始下载
https://download.chatboxai.app/releases/Chatbox-1.9.5-Setup.exe
安装应用
点击下载好的安装包,用普通方法安装软件,安装用时大概2分钟,非常简单
设置API接口
打开安装好的应用,关闭弹出的窗口。
点击右下角的设置按键
弹出API设置框,按以下参数设置。
模型提供方:OLLMAM API
API域名:http://localhost:11434
模型:
在下拉框内选择你安装好的模型。
使用本地大模型
关闭设置框,在右边菜单内选择新对话,即可开始与AI模型的畅聊!