【免费下载链接】PRISM-VL
PRISM-VL studies measurement-grounded VLM learning with RAW-derived Meas.-XYZ inputs, camera-conditioned grounding, and exposure-bracketed supervision transfer.
PRISM-VL 是一个测量域视觉语言模型研究项目:它把经过 ISP 处理的 RGB 图像,替换为RAW 派生的 Meas.-XYZ加上相机元数据(ISO、曝光时间、光圈)作为视觉输入,让 Qwen3-VL 基于"传感器原始测量"而非"面向显示的渲染结果"回答问题。项目同时发布了 MeasL-Bench-V1 评测基准、MeasL-150K-V1 训练集和 Qwen3-VL 2B / 4B / 8B 的 LoRA 适配器。
💡 先问一个问题:RGB 渲染已经丢了什么证据?
项目名取自"洞穴寓言"(Allegory of the Cave):我们习惯看到的 RGB 图像,更像是投射在洞穴墙上的影子——它是图像信号处理器(ISP)生成的面向显示的产品,而不是相机传感器最初记录的东西。
从传感器到 RGB 之间,ISP 会做一连串"让它对人眼更好看"的操作:
- 裁剪(Clipping):过曝的高光区域直接变成纯白,细节归零;
- 降噪(Denoising):传感器的原始纹理和弱信号被平滑掉;
- 色调映射(Tone mapping):线性亮度关系被重写成非线性曲线;
- 量化(Quantization):高位深传感器数据压缩成 8-bit。
问题在于:对于"证据类"问题(读文字、判断明暗、区分颜色),模型需要的信息可能恰好在这四步里被抹掉。只看 RGB 的模型,只能对着影子猜。
PRISM-VL 的做法是把相机测量当作一等观察对象:在模型看到图像之前,先让它看 RAW 派生的 Meas.-XYZ——一种保留原始测量线性关系的三通道表示——再配上拍摄元数据,让模型以更接近物理世界的方式获取证据。
上图是 PRISM-VL 的整体框架:左侧将 RAW 派生 Meas.-XYZ 与相机元数据注入视觉编码器,右侧由 Qwen3-VL 完成测量域视觉语言推理。
🔍 真实低照案例:RGB 如何"带偏"模型
项目用两个低照度文本案例(LER:Low-Illumination Evidence Recovery)直观展示两种输入的差异:
| 案例 | RGB 输入下的回答 | Meas.-XYZ 输入下的回答 |
|---|---|---|
| 亮灯店铺招牌 | 答成Hua Tian Hua❌ | 答出正美口腔✅ |
| 黄色招牌文字 | 答成diamond❌ | 答出BLACK✅ |
同一张场景,两种"看"法:RGB 渲染暴露的是误导性证据,答案区域已经不可恢复;而 Meas.-XYZ 保留了该区域的线性测量关系,模型仍能读出正确答案。
🏋️ 怎么训练、怎么衡量:15万训练样本 + 2183条基准
PRISM-VL不改动 Qwen3-VL 的训练与推理流程,只替换视觉接口。实现上用轻量的残差注入:相机元数据经photographic_log归一化后,以残差形式叠加进 ViT 隐藏层,避免对主干模型做大手术。配置细节见 sft_qwen3_vl_2b_prsimvl_v1.yaml。
| 材料 | 内容 |
|---|---|
| 训练集 MeasL-150K-V1 | 152,517 条指令微调样本、48,000 张发布图像;由约 70 万条自动标注候选经打分过滤、来源平衡,并对基准做去污染后发布 |
| 基准 MeasL-Bench-V1 | 2,183 条 held-out 匹配样本,覆盖 LER、HER、STR、GVG 等 14 个测量敏感能力切片;提供 Meas.-XYZ 与 RGB 两套匹配 JSONL |
| 模型权重 | Qwen3-VL 2B / 4B / 8B 对应的 PRSIMVL LoRA 适配器 |
📊 主结果:Meas.-XYZ 的提升来自哪里?
在 held-out MeasL-Bench 协议下(同尺寸模型,Meas.-XYZ 对比 RGB 输入):
| 模型 | 视觉输入 | BLEU | ROUGE-L | LLM-Judge |
|---|---|---|---|---|
| Qwen3-VL-8B | RGB | 0.5046 | 0.3500 | 78.20 |
| PRSIMVL-8B | Meas.-XYZ + 元数据 | 0.6120 | 0.4571 | 82.66 |
| Qwen3-VL-2B | RGB | 0.3407 | 0.3171 | 69.54 |
| PRSIMVL-2B | Meas.-XYZ + 元数据 | 0.5865 | 0.4244 | 77.99 |
8B 版本相比同尺寸 RGB 版本提升+0.1074 BLEU、+0.1071 ROUGE-L、+4.46 LLM-Judge 分;2B 版本更是全面超越 4B / 8B 的 RGB 版本。增益集中在"证据敏感"型能力上:
| 能力切片 | RGB Qwen3-VL-8B(BLEU / ROUGE-L) | PRSIMVL-2B(BLEU / ROUGE-L) |
|---|---|---|
| LER 低照度证据恢复 | 0.3470 / 0.2851 | 0.5174 / 0.4249 |
| STR 场景文字识别 | 0.3719 / 0.3604 | 0.5084 / 0.4669 |
| HER HDR 证据恢复 | 0.5343 / 0.3614 | 0.6066 / 0.4533 |
🚀 上手三步走:本地问一张图
- 安装 release 快照,运行 install_editable.sh;
- 用
swift deploy加载基座模型 + 对应 PRSIMVL LoRA 适配器,启动 OpenAI 兼容服务; - 用 inference/ask_service.py 发送本地图像和问题——问题里带上 ISO / 曝光 / 光圈格式的拍摄元数据,与训练提示风格保持一致。
要复现完整基准,一条命令即可:
MODEL_SIZE=2b CUDA_VISIBLE_DEVICES=0 bash eval/run_infer_and_eval.sh评估入口会自动校验question_type标签、检查图像存在性,再经由 scripts/test_raw_eval_pipeline_opt/pipeline.py 的共享管线完成推理与离线指标计算,结果写入eval/output_benchmark/。全部参数说明见 eval/README.md 与 inference/README.md。
📁 项目文件导读
| 路径 | 说明 |
|---|---|
| assets/ | 框架图、能力雷达图、RGB 与 Meas.-XYZ 对比示例 |
| eval/ | 基准推理与离线评估入口 |
| inference/ | 服务化 VQA 演示与 demo 数据 |
| configs/qwen3_vl_150k_llmmeta_vit_proxy/ | 2B / 4B / 8B 的 SFT 训练配置与启动脚本 |
| scripts/test_raw_eval_pipeline_opt/ | 共享推理 / 评估管线实现 |
| swift/ | 训练与推理代码快照(LoRA、SFT、deploy) |
一句话总结
📷 PRISM-VL 的回答是:别让模型对着影子猜,把测量还给它。用 RAW 派生 Meas.-XYZ + 相机元数据,配合最小成本的 LoRA 微调,即可显著找回被 RGB 渲染抹掉的低照度文字、HDR 与场景识别等敏感证据。
【免费下载链接】PRISM-VL
PRISM-VL studies measurement-grounded VLM learning with RAW-derived Meas.-XYZ inputs, camera-conditioned grounding, and exposure-bracketed supervision transfer.
相关推荐
为什么RT64能让N64游戏焕发新生?底层渲染原理详解
为什么RT64能让N64游戏焕发新生?底层渲染原理详解 RT64是一款专为N64游戏打造的现代图形渲染器,它通过创新的底层技术和架构设计,为经典游戏带来画质增强
为什么你的动画代码会渲染失败:remocn 的确定性渲染原理深度剖析
为什么你的动画代码会渲染失败:remocn 的确定性渲染原理深度剖析 你是否遇到过这种情况:Remotion 预览里动画流畅完美,一键渲染成 MP4 后却出现闪
为什么KnowStreaming是云原生Kafka管理的终极选择:7大核心优势详解
为什么KnowStreaming是云原生Kafka管理的终极选择:7大核心优势详解 KnowStreaming作为一站式云原生实时流数据平台,通过0侵入、插件化
后端消息队列运维可观测性
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考