littlebot
Published on 2025-04-11 / 0 Visits
0

【源码】基于Python的Prompt Engineering问答系统

项目简介

这是一个基于Python的Prompt Engineering问答系统项目,借助优化prompt提升大型语言模型(LLM)回答质量与准确性。运用开源工具和库,像langchain和ChatAnthropic等,实现从文档加载、令牌计算到LLM问答的全流程自动化。

项目的主要特性和功能

  1. 加载和准备文档:运用PyPDFDirectoryLoader加载指定路径的PDF文件并准备文档用于后续处理。
  2. 计算令牌数量:通过langchain的API计算文档令牌数量,保证总令牌数不超180,000个。
  3. 设置大型语言模型(LLM):初始化ChatAnthropic实例,配置模型类型、温度值等参数,温度值可按需调整输出随机性。
  4. 优化prompt:利用主函数中的prompt模板引导LLM回答关于prompt engineering的问题并优化prompt,模板含提示和背景信息以提高回答质量。
  5. 问答循环:程序进入循环,持续接收用户问题并返回答案,过程中按需调整和优化prompt。

安装使用步骤

  1. 若还未下载,下载并解压本项目源码文件。
  2. 安装所需依赖库,如langchain和ChatAnthropic等,使用pip进行安装。
  3. 修改配置文件中的API密钥和其他相关设置,确保程序正常运行。
  4. 运行主脚本(main.py),启动程序,程序会自动加载文档、设置LLM链并进入问答循环。

注意事项

本项目功能和使用方法仅适用于具备基本编程和Python语言知识的用户。使用时,请确保遵守相关法律法规和伦理规范,不得将项目用于非法或不当用途。

待开发功能

  1. 将项目部署为Serverless模式,提升系统可扩展性和灵活性。
  2. 结合meta prompt的方式进一步优化prompt,提高回答准确性和质量。

下载地址

点击下载 【提取码: 4003】【解压密码: www.makuang.net】