跳转到内容

Motion Accuracy

Motion Accuracy 衡量受监督动态区域内前景运动显著性。SAM2 将初始分割 mask 传播至整段预测;SEA-RAFT 估计相邻帧光流。该指标检验 mask 内物体区域是否比背景呈现更强运动——不将实际运动与目标轨迹、方向或速度曲线做严格对比。

对相邻帧对 (It,It+1)(I_t, I_{t+1}),设 ut\mathbf{u}_t 为光流场、MtM_t 为传播(膨胀后)物体 mask。定义幅值 mt=∥ut∥2m_t = \|\mathbf{u}_t\|_2 及

Δt=max⁡p∈Mtmt(p)−max⁡p∉Mtmt(p)(1)\Delta_t = \max_{p \in M_t} m_t(p) - \max_{p \notin M_t} m_t(p) \tag{1}

原始得分是传播 mask 同时具有非空前景与非空背景的帧对平均显著性:

Smotraw=1∣T∣∑t∈TΔt(2)S_{\mathrm{mot}}^{\mathrm{raw}} = \frac{1}{|T|}\sum_{t \in T} \Delta_t \tag{2}

WorldAtlas 以 μ=−0.1965\mu = -0.1965、σ=2.3687\sigma = 2.3687 做 z-score 校准,将标定锚点 [−1.6147,1.5180][-1.6147, 1.5180] 线性映射至 [0.25,0.75][0.25, 0.75]。超出锚点的值继续线性外推,最后裁剪到 [0,1][0,1],不是先裁剪 z-score。raw 为 0 时约为 0.52096。得分越高只表示相对背景的前景光流越显著,不表示动作方向正确或 mask 标注准确。

aligned_mask_contrast_v2 协议要求核验视频与原图来源、mask 元数据关联及输入缩放/裁剪变换。原图 mask 先对齐到视频首帧,再由 SAM2 传播。前景与背景均非空的相邻解码帧对使用官方 max-minus-max 对比;缺帧或非有限光流仍报错。传播后全前景或空/全背景的帧对直接跳过;若全部帧对都跳过,该样本记为 N/A。跳过不补 0,也不计入套件均值。人工明确删空全部实例的原始标注同样为 N/A。报告记录帧对覆盖率、跳过对数和前景占比。新旧协议成绩不能混用。

保留的 max-minus-max 公式对光流异常值敏感,单位是解码像素/帧,分辨率和帧率不同会影响模型间比较。这些是指标本身的局限,精修 mask 不能消除。若改为稳健分位数或按分辨率/帧率标准化,需要独立命名和重新标定,不能冒充同一个指标。

以下案例按当前协议展示前景相对背景的运动。较高分不代表物体一定完成了指定方向或动作。 Audit manifest: docs/assets/metric_examples/motion_accuracy_current_cases_20260927.json.

输入图像: image_dynamic_stylized_articulated_0001
输入图像
输入已核验 · 同一 benchmark case · 分差 0.8942

image_dynamic_stylized_articulated_0001

套件: image_dynamic场景: stylized / articulated
基准 prompt target

The red-and-white cow grazes in the bright pastoral field, lowering its head to the grass and making small chewing movements. Flowers, rolling hills.

prompt source: prompt_target

较高分视频里牛低下头,草地相对稳定;较低分视频中更多场景区域一起移动。 两条视频的首帧均通过与展示输入的几何匹配核验;分数只比较当前指标。

Model result videos will be available with the ModelScope release. / 模型推理视频将在 ModelScope 方案上线后提供。

较高指标分分数 0.8942

Model result videos will be available with the ModelScope release. / 模型推理视频将在 ModelScope 方案上线后提供。

较低指标分分数 0.0000
输入图像: image_dynamic_photorealistic_rigid_0001
输入图像
输入已核验 · 同一 benchmark case · 分差 0.8178

image_dynamic_photorealistic_rigid_0001

套件: image_dynamic场景: photorealistic / rigid
基准 prompt target

A long freight train rolls along the railroad tracks through dry grass, its boxcars translating together across the open landscape.

prompt source: prompt_target

较高分视频里列车相对稳定的山坡移动;较低分视频里背景也明显移动。 两条视频的首帧均通过与展示输入的几何匹配核验;分数只比较当前指标。

Model result videos will be available with the ModelScope release. / 模型推理视频将在 ModelScope 方案上线后提供。

较高指标分分数 0.8178

Model result videos will be available with the ModelScope release. / 模型推理视频将在 ModelScope 方案上线后提供。

较低指标分分数 0.0000
输入图像: image_dynamic_stylized_fluid_0001
输入图像
输入已核验 · 同一 benchmark case · 分差 1.0000

image_dynamic_stylized_fluid_0001

套件: image_dynamic场景: stylized / fluid
基准 prompt target

A forest river flows gently between rocky banks, its surface moving downstream and catching warm sunlight.

prompt source: prompt_target

较高分视频里河面流动、两岸相对稳定;较低分视频的视角穿过整个场景。 两条视频的首帧均通过与展示输入的几何匹配核验;分数只比较当前指标。

Model result videos will be available with the ModelScope release. / 模型推理视频将在 ModelScope 方案上线后提供。

较高指标分分数 1.0000

Model result videos will be available with the ModelScope release. / 模型推理视频将在 ModelScope 方案上线后提供。

较低指标分分数 0.0000