项目简介
本项目是基于Streamlit框架搭建的多模态多轮对话平台,是一个集成多种AI工具和模型的多模态多轮对话系统。用户通过文本输入与平台开展多轮对话,平台依据用户输入调用不同工具模型,如问答、画图、图像问答、天气查询等,并给出相应结果。该项目前端利用Streamlit框架实现多模态交互界面,同时提供丰富API接口与后端模型交互。
项目的主要特性和功能
- 多模态交互:支持文本、图片等多模态输入,返回对应多模态结果。
- 多轮对话:实现多轮对话交互方式,用户可通过连续输入与模型对话。
- 工具灵活性:集成多种AI工具模型,如GPT、图像生成模型等,可按需更新定制。
- 工具更新性:支持工具模型更新和升级,保证平台功能和性能的先进性。
- 模块化设计:项目采用模块化设计,便于扩展和维护。
安装使用步骤
1. 环境准备
bash
conda create --name braingpt python=3.8.8
conda activate braingpt
pip install -r requirements.txt
2. 模型准备
bash
cd Models
git clone https://huggingface.co/ALmonster/braingpt-1.0
git clone https://huggingface.co/stabilityai/stable-diffusion-xl-base-1.0
git clone https://huggingface.co/internlm/internlm-xcomposer2-4khd-7b
3. 启动模型
```bash cd Datas python simple_server.py
cd ../Functions/braingpt bash brain_api.sh
cd ../generate_images bash pic_api.sh
cd ../chat_images bash intern_api.sh ```
4. 启动Web
bash
streamlit run web.py
注意事项
- 显存需求:braingpt占显存13.3G左右,stable-diffusion-xl-base-1.0占显存13.5G左右,InternLM-XComposer占显存48G左右。
- 功能影响:若未启动stable-diffusion-xl-base-1.0或InternLM-XComposer,除画图和基于图片问答功能外,其他功能不受影响。
- 模型调整:若显存不足启动internlm-xcomposer2-4khd-7b,可考虑修改推理参数或换用更小的模型。
下载地址
点击下载 【提取码: 4003】【解压密码: www.makuang.net】