张小明
前端开发工程师
最近在做一些端侧部署一些小参数模型来进行一些自动化操作的尝试发现一个有意思的地方
使用qwen30b-a3b模型直接使用阿里百炼永远比ollama部署的模型toolcall效果要更好
c#调用ollama的模型默认使用ollama sharp这个包
OllamaSharp
https://github.com/awaescher/OllamaSharp
翻阅代码可知
对于方法调用参数的定义非常的奇怪如果参数是引用类型或者存在嵌套的情况则上下文会完全丢失参数细节
这样调用会存在问题也不足为奇了
如果你也遇到类似的问题可以考虑转用Microsoft.Extensions.AI.OpenAI
ollama也部分兼容openai格式的请求
openai-compatibility
https://docs.ollama.com/api/openai-compatibility
视频下载工具深度解析：如何高效实现无水印批量获取与管理 【免费下载链接】douyin-downloader 项目地址: https://gitcode.com/GitHub_Trending/do/douyin-downloader 在数字内容爆炸的时代，高效获取和管理在线视频资源已成为内容创作者、研究人…
李华
DAMO-YOLO镜像免配置优势：省去torch/torchaudio/opencv版本冲突调试 你有没有试过在本地部署一个目标检测系统，结果卡在环境配置上整整两天？ 装完 PyTorch 发现 torchaudio 版本不兼容，降级后 OpenCV 又报错“undefined symbol”…
李华
OFA视觉问答镜像行业落地：农业病虫害图片诊断问答辅助系统 在田间地头拍一张叶片照片，上传后直接提问：“这是什么病害？”“需要打哪种药？”——过去需要农技专家现场判断的难题，如今通过一个轻量级AI镜像就…
李华
Chandra OCR结构化输出解析：如何利用JSON坐标做精准区域抽取？ 1. 为什么需要“带坐标的OCR”？——从拍图识字到理解文档结构 你有没有遇到过这样的场景： 扫描一份带表格的合同，想把“甲方信息”“乙方信息”“签约日…
李华
抖音无水印下载终极解决方案：3分钟掌握高清视频批量保存完全指南 【免费下载链接】douyin-downloader 项目地址: https://gitcode.com/GitHub_Trending/do/douyin-downloader 你是否曾遇到刷到心仪的抖音视频却无法保存的窘境？想备份重要的直播内…
李华
告别只读困境：macOS NTFS读写全攻略 【免费下载链接】Free-NTFS-for-Mac Nigate，一款支持苹果芯片的Free NTFS for Mac小工具软件。NTFS R/W for macOS. Support Intel/Apple Silicon now. 项目地址: https://gitcode.com/gh_mirrors/fr/Free-NTFS-for…
李华