项目简介
这是一个基于Python的Prompt Engineering问答系统项目,借助优化prompt提升大型语言模型(LLM)回答质量与准确性。运用开源工具和库,像langchain和ChatAnthropic等,实现从文档加载、令牌计算到LLM问答的全流程自动化。
项目的主要特性和功能
- 加载和准备文档:运用PyPDFDirectoryLoader加载指定路径的PDF文件并准备文档用于后续处理。
- 计算令牌数量:通过langchain的API计算文档令牌数量,保证总令牌数不超180,000个。
- 设置大型语言模型(LLM):初始化ChatAnthropic实例,配置模型类型、温度值等参数,温度值可按需调整输出随机性。
- 优化prompt:利用主函数中的prompt模板引导LLM回答关于prompt engineering的问题并优化prompt,模板含提示和背景信息以提高回答质量。
- 问答循环:程序进入循环,持续接收用户问题并返回答案,过程中按需调整和优化prompt。
安装使用步骤
- 若还未下载,下载并解压本项目源码文件。
- 安装所需依赖库,如langchain和ChatAnthropic等,使用pip进行安装。
- 修改配置文件中的API密钥和其他相关设置,确保程序正常运行。
- 运行主脚本(main.py),启动程序,程序会自动加载文档、设置LLM链并进入问答循环。
注意事项
本项目功能和使用方法仅适用于具备基本编程和Python语言知识的用户。使用时,请确保遵守相关法律法规和伦理规范,不得将项目用于非法或不当用途。
待开发功能
- 将项目部署为Serverless模式,提升系统可扩展性和灵活性。
- 结合meta prompt的方式进一步优化prompt,提高回答准确性和质量。
下载地址
点击下载 【提取码: 4003】【解压密码: www.makuang.net】