English translation pending — this page shows the Chinese original.
一句话结论
同图多个监督对共享一次昂贵的视觉前向，可以扩大有效对比 batch；但 MuCo 的“多轮”是训练协议，推理只取首轮向量，而且整体均分提升伴随部分组合检索明显退化。
问题定义
传统多模态向量训练为每个 query-target pair 重复计算同一图像。MuCo 试图利用 MLLM 的因果序列，在不同比例增加图像计算的前提下提高监督密度（主文 §3–4，pp.1751–1753）。它解决的是表示训练成本，不是多轮用户意图累积。
方法概述
- 共享上下文：同图多个 query 按对话轮排列，target 文本另成对应序列，每轮
<|emb|>提取向量；后续轮关注之前上下文。 - 同源负例屏蔽（logit masking）：同一图像的其他正例不能当作负例；微调的原始/增强 pair 也要互相屏蔽。
- 预训练与微调：M3T 将 DataComp 图像转成 dense caption，再生成每图七 pair；单 pair 微调通过 counterpart 遮词和重建提示产生额外对比组合，图片 counterpart 预先转 caption。
- 推理接口不变：只用初始 embedding，后续重建轮不在检索时执行。主干 Qwen2-VL 2B/7B，冻结视觉 encoder，LLM 使用 rank/alpha=64 的 LoRA（§4.2–5.1）。
核心实验与结果
| 条件与指标 | MuCo | 对照 | 证据位置 |
|---|---|---|---|
| MMEB 2B 微调整体 Precision@1 | 69.5 | B3-2B 68.1 | 主文 Table 1 |
| MMEB 7B 微调整体 Precision@1 | 73.6 | B3-7B 72.0 | 主文 Table 1 |
| MMEB 7B 检索子类均分 | 73.7 | B3 74.1；MoCa 75.0 | 主文 Table 1 |
| MMEB CIRR，7B 微调 | 54.1 | B3 65.8 | 补充 Table J |
| MMEB ObjectNet，7B 微调 | 49.9 | B3 73.2 | 补充 Table J |
| M-BEIR 全局候选池，2B/7B 微调整体 | 51.6 / 56.6 | LamRA-Ret 50.0 / 54.9 | 主文 Table 2、补充 H |
MMEB 把 36 个分类、VQA、检索与定位数据集改成最多 1,000 候选的排名任务，其中20个ID用于微调、16个OOD仅评估。M-BEIR混合R@5与R@10，且补充Table I另用local候选池；不同协议的分数不能直接合并。
最重要反证：overall较B3提高1.6个百分点，不妨碍MMEB CIRR降低11.7个百分点。因此“通用向量更强”必须带分任务验收，不应替代专门CIR测试。
成本与消融
- 主文Table 5：batch 1,024从1轮到7轮，有效pair batch达到7,168，所报PFLOPs从17.5到18.0；单轮batch 7,168为122.7。扩大单轮batch同时调整学习率（补充§A），不属于完全单因素对照。
- 补充Table A：2B、32×A100、batch 1,024，一次M3T预训练8.41秒/iter、4,984 iter、11.6h，即按披露时长计算名义371.2 A100 GPU-hours。不含合成数据、微调、全部消融、索引或在线查询，不能当作7B全流程成本。
- 去掉跨轮累计监督，MMEB ZS/FT从58.2/69.5降到57.3/68.4（Table 6）；微调不屏蔽同源负例，FT降到约31（Table 7）。后者是机制必要条件，不是自然噪声鲁棒性证据。
- 无多seed、置信区间、人类relevance审计或真实多轮用户研究；索引大小、P95 latency与端到端资源账本缺失。
局限、数据与版本疑点
- M3T为5,103,183图像/样本，每图七pair展开为35,722,281监督对；独立单位仍至少是父图像。补充Table A却将“All pairs”印为5,103,183，与分项不一致，保留两种口径，不静默修正原表。
- 补充Table A将每iter计算量印作18.6 GFLOPs，主文使用PFLOPs；计量单位与累计范围未解释清楚。不能据此声称精确绝对FLOPs优势。
- 补充Table J的7B ZS分类汇总印62.6，主文为56.0；十个分项机械均值56.03支持主文舍入值。主文无预训练FT68.5与补充FT-only68.4也有差异，原因未交代。
- DataComp与评测/基础模型预训练的来源重叠和近重复率未知；OOD数据集不等于无预训练污染。M3T任务明确围绕MMEB构造，跨基准迁移需独立检验。
- 补充材料把caption生成器写作
Qwen2.5-VL-75B；这里保留原文标识，不推定真实checkpoint。creative VQA存在隐喻/主观推断，严格grounding提示不能代替人工质量验证。
对当前 Wiki 判断的影响
在Image-Text Retrieval的统一向量路线中增加“监督密度与共享视觉计算”，但将其与检索阶段的单向量/多向量/精排明确分开。统一多模态向量需要同时验证任务意图、跨域泛化与检索成本同时吸收训练成本支持与CIRR退化反证；研究阶段不变。
原始链接
备注
本地保留两份PDF、官方HTML、逐页全文、独立analysis.md和表格核对图；raw原件不进入公开站。全文分析含具体定位、文件SHA-256和版本冲突，供后续复核，不以旧日报代替论文。