Lychee-Rerank快速上手：Streamlit界面操作图解+常见问题解决
1. 工具简介
Lychee-Rerank是一款基于Qwen2.5-1.5B模型的本地检索相关性评分工具，专为「查询-文档」匹配度打分场景设计。它能帮助你快速评估文档与查询语句的相关性，无需联网即可完成所有计算。
这个工具特别适合以下场景：
- 需要从大量文档中筛选最相关的内容
- 评估搜索引擎结果的质量
- 构建自定义的检索系统
- 需要保护数据隐私的敏感应用
2. 快速安装与启动
2.1 环境准备
在开始前，请确保你的系统满足以下要求：
- Python 3.8或更高版本
- 至少8GB可用内存（处理大量文档时建议16GB以上）
- 支持CUDA的GPU（可选，可加速推理）
2.2 安装步骤
- 克隆项目仓库：
git clone https://github.com/your-repo/lychee-rerank.git cd lychee-rerank- 创建并激活虚拟环境：
python -m venv venv source venv/bin/activate # Linux/Mac venv\Scripts\activate # Windows- 安装依赖：
pip install -r requirements.txt2.3 启动工具
运行以下命令启动Streamlit界面：
streamlit run app.py启动成功后，控制台会显示类似如下的访问地址：
You can now view your Streamlit app in your browser. Local URL: http://localhost:8501 Network URL: http://192.168.x.x:8501在浏览器中打开这个地址即可使用工具。
3. 界面操作指南
3.1 主界面布局
工具界面分为三个主要区域：
- 左侧面板：输入配置区
- 中间面板：操作按钮区
- 右侧面板：结果展示区
3.2 输入配置
指令(Instruction)
- 默认值："基于查询检索相关文档"
- 可以自定义评分规则，例如："判断文档是否回答了这个技术问题"
查询(Query)
- 输入你想要匹配的查询语句
- 示例："如何安装Python虚拟环境？"
候选文档
- 每行输入一条候选文档
- 支持批量输入（默认包含5条测试文档）
- 示例：
Python虚拟环境可以通过venv模块创建 使用conda可以管理不同的Python环境 virtualenv是另一个创建虚拟环境的工具 pipenv结合了pip和虚拟环境管理 Docker容器也可以隔离Python环境3.3 计算评分
点击「 计算相关性分数」按钮后，工具会：
- 逐条计算文档与查询的相关性
- 显示处理进度
- 在右侧面板展示排序结果
3.4 结果解读
结果区域会显示：
- 排名(Rank)：从高到低排序
- 分数(Score)：保留6位小数
- 绿色：>0.8（高相关）
- 橙色：0.4-0.8（中等相关）
- 红色：<0.4（低相关）
- 进度条：直观显示分数占比
- 文档内容：以代码块形式展示
4. 常见问题解决
4.1 启动问题
问题：启动时报错"ModuleNotFoundError"
- 原因：依赖未正确安装
- 解决：
pip install -r requirements.txt
问题：GPU不可用或识别不到
- 原因：CUDA环境未正确配置
- 解决：
- 确认已安装对应版本的CUDA和cuDNN
- 或使用CPU模式运行（性能会下降）
4.2 使用问题
问题：处理大量文档时内存不足
- 解决：
- 分批处理文档
- 增加系统内存
- 关闭其他占用内存的程序
问题：分数全部很低或很高
- 原因：指令或查询设置不当
- 解决：
- 调整Instruction更明确
- 优化Query表述
4.3 性能优化
提升处理速度：
- 使用GPU加速
- 减少单次处理的文档数量
- 关闭不必要的系统进程
提高评分质量：
- 优化Instruction明确评分标准
- 确保Query表述清晰
- 预处理文档去除无关内容
5. 总结
Lychee-Rerank是一个简单但强大的本地检索相关性评分工具，通过本指南你应该已经掌握了：
- 如何安装和启动工具
- 界面各区域的功能和使用方法
- 常见问题的解决方法
这个工具特别适合需要保护数据隐私的场景，所有计算都在本地完成，不会上传任何数据到云端。
获取更多AI镜像
想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。
