立知lychee-rerank-mm入门指南：支持Base64编码图片流式输入

立知lychee-rerank-mm入门指南：支持Base64编码图片流式输入

1. 什么是lychee-rerank-mm

立知lychee-rerank-mm是一款轻量级多模态重排序工具，它能同时理解文本语义和图像内容，为文本或图像类候选内容按与查询的匹配度进行打分排序。比如当用户搜索"猫咪玩球"时，它能把最贴合的图文内容排到前面。

与纯文本重排序模型相比，lychee-rerank-mm具有以下优势：

• 多模态理解能力：同时处理文本和图像内容
• 排序更精准：综合考虑视觉和语义信息
• 运行效率高：轻量级设计，资源占用低
• 响应速度快：适合实时应用场景

2. 快速安装与启动

2.1 安装准备

确保你的系统满足以下要求：

• Linux或macOS操作系统
• Python 3.8或更高版本
• 至少4GB可用内存
• 网络连接（用于下载模型）

2.2 启动服务

启动lychee-rerank-mm非常简单，只需在终端输入以下命令：

lychee load

等待10-30秒，当看到终端显示"Running on local URL"时，说明服务已成功启动。

2.3 访问Web界面

在浏览器中打开以下地址即可使用：

http://localhost:7860

3. 核心功能使用指南

3.1 单文档评分

单文档评分功能用于判断一个文档与查询问题的相关性程度。

使用方法：

1. 在Query输入框中输入你的问题
2. 在Document输入框中输入要评分的文档内容
3. 点击"开始评分"按钮
4. 查看系统返回的评分结果

示例：

Query: 北京是中国的首都吗？ Document: 是的，北京是中华人民共和国的首都。

系统会返回一个0-1之间的分数，如0.95表示高度相关。

3.2 批量重排序

当你有多个文档需要按相关性排序时，可以使用批量重排序功能。

使用方法：

1. 在Query输入框中输入问题
2. 在Documents输入框中输入多个文档，每个文档用三个连字符"---"分隔
3. 点击"批量重排序"按钮
4. 系统会按相关性从高到低排序显示结果

示例：

Query: 什么是人工智能？ Documents: AI是人工智能的缩写... --- 今天天气不错... --- 机器学习是AI的一个分支... --- 我喜欢吃苹果...

3.3 图片处理功能

lychee-rerank-mm支持纯文本、纯图片以及图文混合内容的重排序。

图片处理示例：

Query: 上传一张猫的照片 Document: "这是一只暹罗猫..."

系统会分析图片内容与文字描述的匹配程度，给出相关性评分。

4. 结果解读与实用技巧

4.1 评分结果解读

lychee-rerank-mm的评分结果采用0-1分制：

4.2 实用场景推荐

1. 搜索引擎优化：对搜索结果进行重排序，把最相关的内容排到前面
2. 客服问答系统：判断客服回复是否准确解决了用户问题
3. 内容推荐系统：根据用户兴趣推荐最相关的文章或产品
4. 图片检索系统：上传图片，找到语义相似的图片或描述

4.3 自定义指令设置

默认指令为："Given a query, retrieve relevant documents."

你可以根据具体场景调整指令：

5. 常见问题解答

5.1 启动相关问题

Q: 首次启动为什么很慢？A: 首次启动需要下载和加载模型，通常需要10-30秒，之后启动会变快。

Q: 如何停止服务？A: 在终端按Ctrl+C，或执行命令：kill $(cat /root/lychee-rerank-mm/.webui.pid)

5.2 功能使用问题

Q: 支持中文处理吗？A: 完全支持，中英文内容都可以处理。

Q: 一次能处理多少文档？A: 建议一次处理10-20个文档，过多可能会影响性能。

Q: 结果不准确怎么办？A: 可以尝试调整Instruction指令，使其更符合你的具体场景。

6. 总结

lychee-rerank-mm作为一款轻量级多模态重排序工具，具有以下特点：

• 安装简单，一键启动
• 支持文本和图像混合输入
• 提供单文档评分和批量重排序功能
• 结果直观易懂，便于集成到现有系统
• 响应快速，适合实时应用场景

通过本指南，你已经掌握了lychee-rerank-mm的基本使用方法。现在就可以启动服务，体验它强大的多模态重排序能力了！

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。