跳转到内容

Keystroke nATEr

按真实时间对齐的归一化转动形状误差,并加入转动活动约束:

ATEr=∑iwi⋅(er,start,i+er,end,i)/2∑iwi(1)\mathrm{ATE}_r = \frac{\sum_i w_i \cdot (e_{r,\mathrm{start},i} + e_{r,\mathrm{end},i}) / 2}{\sum_i w_i} \tag{1} shaper=clamp ⁣(ATErmax⁡(θobs, θmin⁡), 0, 1)(2)\mathrm{shape}_r = \mathrm{clamp}\!\left( \frac{\mathrm{ATE}_r}{\max(\theta_{\mathrm{obs}},\, \theta_{\min})}, \,0,\,1 \right) \tag{2} activityr=nmismatchnactive(3)\mathrm{activity}_r = \frac{n_{\mathrm{mismatch}}}{n_{\mathrm{active}}} \tag{3} nATEr=max⁡(shaper, activityr)(4)\mathrm{nATEr} = \max(\mathrm{shape}_r,\, \mathrm{activity}_r) \tag{4}

er,start,ie_{r,\mathrm{start},i}、er,end,ie_{r,\mathrm{end},i} 是观测区间 ii 的两端相对于该恒定动作片段目标姿态的角度误差,单位为度,wi=1/FPSw_i = 1 / \mathrm{FPS}。ATEr\mathrm{ATE}_r 用梯形法按时间积分后除以总观测时长,得到时间加权平均误差,而不是未经归一化的积分。计算不使用弧长重采样;最小转角归一化尺度默认为 θmin⁡=10\theta_{\min} = 10 度。θobs\theta_{\mathrm{obs}} 为观测总转角。nmismatchn_{\mathrm{mismatch}} 是命令与观测转动活动状态不一致的区间数,nactiven_{\mathrm{active}} 是有命令或实际转动的区间数。

观测转动活动默认指角速率超过 rotation_speed_threshold=6.0 度/秒。有转动命令却停住、没有命令却转动都计入活动错误;观测空隙是缺失数据,不是模型冻结。

原始误差越低越好。没有转动命令也没有观测转动时为 not_applicable,不是满分。目标转角幅度来自预测(amplitude_calibrated=false),不能据此声称准确执行了独立指定的目标角度。后端为 pose_action,为 official 指标。

Audit manifest: docs/assets/metric_examples/longseq_memory_60s_examples_20260909.json.

输入图像: memory-double_yaw_loop-memory_pool_405
输入图像
60 秒 memory_loop · 同一 benchmark case · gap 0.9871

memory-double_yaw_loop-memory_pool_405

套件: memory_loop场景: photorealistic / outdoor / city
基准 prompt target

Turn away and back to the start twice in a row.

prompt source: memory_loop_prompt

重点看 60 秒回环上的朝向漂移。较差的结果偏离了请求的朝向。

Model result videos will be available with the ModelScope release. / 模型推理视频将在 ModelScope 方案上线后提供。

较高指标分分数 0.9871 · official

Model result videos will be available with the ModelScope release. / 模型推理视频将在 ModelScope 方案上线后提供。

较低指标分分数 0.0000 · official
输入图像: memory-palindrome_loop-memory_pool_003
输入图像
60 秒 memory_loop · 同一 benchmark case · gap 0.9685

memory-palindrome_loop-memory_pool_003

套件: memory_loop场景: photorealistic / outdoor / terrestrial_landscape
基准 prompt target

Move forward, turn and continue, then retrace the whole path back.

prompt source: memory_loop_prompt

重点看 60 秒回环上的朝向漂移。较差的结果偏离了请求的朝向。

Model result videos will be available with the ModelScope release. / 模型推理视频将在 ModelScope 方案上线后提供。

较高指标分分数 0.9951 · official

Model result videos will be available with the ModelScope release. / 模型推理视频将在 ModelScope 方案上线后提供。

较低指标分分数 0.0266 · official
输入图像: memory-yaw_loop_180-memory_pool_439
输入图像
60 秒 memory_loop · 同一 benchmark case · gap 0.9546

memory-yaw_loop_180-memory_pool_439

套件: memory_loop场景: stylized / outdoor / aquatic_landscape
基准 prompt target

Turn the camera to the right, then turn back to the starting view.

prompt source: memory_loop_prompt

重点看 60 秒回环上的朝向漂移。较差的结果偏离了请求的朝向。

Model result videos will be available with the ModelScope release. / 模型推理视频将在 ModelScope 方案上线后提供。

较高指标分分数 0.9631 · official

Model result videos will be available with the ModelScope release. / 模型推理视频将在 ModelScope 方案上线后提供。

较低指标分分数 0.0085 · official
输入图像: memory-yaw_loop_360-memory_pool_478
输入图像
60 秒 memory_loop · 同一 benchmark case · gap 0.9312

memory-yaw_loop_360-memory_pool_478

套件: memory_loop场景: photorealistic / outdoor / terrestrial_landscape
基准 prompt target

Rotate the camera a full turn in place and come back to the starting view.

prompt source: memory_loop_prompt

重点看 60 秒回环上的朝向漂移。较差的结果偏离了请求的朝向。

Model result videos will be available with the ModelScope release. / 模型推理视频将在 ModelScope 方案上线后提供。

较高指标分分数 0.9312 · official

Model result videos will be available with the ModelScope release. / 模型推理视频将在 ModelScope 方案上线后提供。

较低指标分分数 0.0000 · official
输入图像: memory-square_loop-memory_pool_476
输入图像
60 秒 memory_loop · 同一 benchmark case · gap 0.5906

memory-square_loop-memory_pool_476

套件: memory_loop场景: stylized / indoor / workspaces
基准 prompt target

Walk a closed square around the scene and return to the starting view.

prompt source: memory_loop_prompt

重点看 60 秒回环上的朝向漂移。较差的结果偏离了请求的朝向。

Model result videos will be available with the ModelScope release. / 模型推理视频将在 ModelScope 方案上线后提供。

较高指标分分数 0.9346 · official

Model result videos will be available with the ModelScope release. / 模型推理视频将在 ModelScope 方案上线后提供。

较低指标分分数 0.3440 · official