项目简介
本项目是基于Go语言开发的模块,主要功能是对接各类大模型语言,如OpenAI、Google Cloud Vertex AI的Gemini等,并提供Rest Api接口。旨在为内部模块提供便捷的方式使用大模型语言,无需关注大模型的底层细节。
项目的主要特性和功能
- 提供Rest Api接口,方便其他模块调用。
- 支持多种大模型语言,包括OpenAI、Google Cloud Vertex AI的Gemini等。
- 具备文本生成、图像生成、多模态数据生成等多种大模型功能。
- 支持依赖注入,利于模块解耦与扩展。
- 有本地缓存功能,可减少大模型重复调用次数,提升性能。
安装使用步骤
- 下载并解压项目源码文件。
- 根据项目依赖关系,安装所需依赖包。
- 配置数据库和本地缓存,包括设置数据库连接和本地缓存配置等。本模块使用MySQL数据库存储数据,下载
docs/init.sql
文件,将创建表语句复制执行。 - 根据自身需求,选择合适的大模型语言,并配置对应的API密钥或访问令牌。
- 使用Go语言的http客户端调用本模块提供的Rest Api接口,即可使用大模型语言的功能。
注意:本模块依赖外部大模型语言服务,需在能访问这些服务的环境下运行。使用时要确保遵守相应大模型语言服务的使用协议和费用标准。同时,可参考docs/pedant.postman_collection.json
获取Api参考。
下载地址
点击下载 【提取码: 4003】【解压密码: www.makuang.net】