开源模型接入平台MaxKB部署
开源模型接入平台MaxKB部署及对接OneApi
本平台由国内值得尊敬的强大公司飞致云开源的支持多用户隔离的模型接入平台
MaxKB 是一款基于 LLM 大语言模型的知识库问答系统。
多模型支持:支持对接主流的大模型,包括本地私有大模型(如 Llama 2)、OpenAI、通义千问、Kimi、Azure OpenAI 和百度千帆大模型等;
开箱即用:支持直接上传文档、自动爬取在线文档,支持文本自动拆分、向量化,智能问答交互体验好;
无缝嵌入:支持零编码快速嵌入到第三方业务系统。
默认用户密码 用户名: admin 密码: MaxKB@123..
一. 部署
镜像可选
1 | 1panel/maxkb |
docker命令方式部署
1 | docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb |
docker-compose方式部署
1 | version: '3' |
二. 使用
- 系统设置——模型——添加模型
- 知识库——创建知识库
- 应用——创建特定功能应用
三. 对接oneapi
- API域名:http://192.168.30.69:3000/v1
- API KEY: 使用oneapi生成的key
四. 效果
本文参考:
All articles in this blog are licensed under CC BY-NC-SA 4.0 unless stating additionally.
Comment