一、教程简介

Moondream3 是由 Moondream 团队于 2025 年 9 月份提出来的基于混合专家架构的视觉语言模型，拥有 90 亿参数（其中 20 亿为激活参数）。该模型提供最先进的视觉推理能力，支持最大 32K 上下文长度，能够高效处理高分辨率图像。 Moondream3 采用了创新的 MoE FFN 和 SigLIP 视觉编码器，适用于图片问答、图像标注、物体检测等任务。相关技术文献为 Moondream 3 Preview: Frontier-level reasoning at a blazing speed 。

本教程采用资源为单卡 RTX 5090，项目输出仅支持英文。

二、项目示例

三、运行步骤

1. 启动容器后点击 API 地址即可进入 Web 界面

2. 进入网页后，即可使用模型

若显示「Bad Gateway」，这表示代码正在后台执行，请等待约 2-3 分钟后刷新页面。

使用步骤

1. Caption

2. Visual Question Answering

3. Object Detection

4. Point Detection