---
title: "SimPoE: Simulated Character Control for 3D Human Pose Estimation"
title_ru: "SimPoE: Управление симулируемым персонажем для оценки 3D позы"
authors: [Yuan, Wei, Kitani]
year: 2021
venue: "CVPR"
venue_tier: "A*"
doi: "2104.00683"
tags: [physics_aware, reinforcement_learning, character_control, pose_estimation, simulation]
relevance_to_smartrep: 2
direction: "🅲"
---

# SimPoE: Reinforcement learning для физически корректной оценки позы

## TL;DR (≤3 предложения)

SimPoE обучает policy через reinforcement learning: агент управляет симулируемым физическим персонажем так, чтобы его движения совпадали с наблюдаемыми 2D keypoints. Вместо прямой регрессии позы — RL policy, генерирующая физически реалистичные движения как side effect правильного управления персонажем. Концептуально важен для SmartRep: учит что есть "физически реалистичное движение" через обучение контроллера, а не через явные ограничения.

## Проблема

Pose estimators предсказывают позу кадр за кадром без знания об инерции, гравитации, моментах сил. RL-подход: если персонаж в физическом движке воспроизводит наблюдаемые позы — они физически реалистичны по построению.

## Гипотеза / вклад

- **RL policy для pose:** state = текущая поза + 2D observations, action = joint torques для следующего шага.
- **Kinematic teacher:** дополнительная kinematic pose estimation сеть даёт "мягкую цель" для RL policy — hybrid подход.
- **Differentiable RL:** policy gradients через симулятор для end-to-end обучения.

## Метод

State $s_t$: текущая поза, скорости, 2D наблюдения из изображения.
Action $a_t$: joint torques (PD targets) для физического симулятора.

Reward:

$$r_t = w_p r_{pose} + w_v r_{vel} + w_e r_{ee} + w_{2d} r_{2d}$$

- $r_{pose}$: совпадение суставных углов с kinematic target
- $r_{2d}$: репроекция 3D позы соответствует 2D keypoints
- $r_{ee}$: end-effector (руки, ноги) позиции

Policy = MLP, обучается через PPO.

### Архитектура (Mermaid)

```
Image → 2D keypoints → Kinematic estimator → target pose θ_k
                                    ↓
Physical state s_t = (θ, dθ/dt, 2D obs)
                                    ↓
RL Policy π(a|s) → joint torques a_t
                                    ↓
Physics simulator → next state s_{t+1}
                                    ↓
Reward r_t (pose match + 2D reprojection + physics validity)
```

## Датасеты

| Датасет | Метрика | SimPoE | VIBE |
|---|---|---|---|
| Human3.6M | MPJPE (mm) | 64.1 | 65.9 |
| 3DPW | MPJPE (mm) | 74.7 | 93.5 |
| Skating (subjective) | Foot skating ↓ | Значительно меньше | Присутствует |

## Сравнение с SOTA

Превосходит VIBE по MPJPE на 3DPW (+20%). Foot skating практически устранён — физическая реалистичность.

## Ограничения / слабости

- RL обучение крайне дорогое и нестабильное.
- Требует PhysX/MuJoCo симулятор при обучении.
- Inference = physics simulator → не deployable на edge.
- RL policy не объясняет "почему эта поза неправильная".

## Релевантность SmartRep

- **Концептуальная основа 🅲:** SimPoE доказывает ценность физической реалистичности как supervision signal. Для SmartRep: SimPoE-generated trajectories как high-quality pseudo-labels для обучения lightweight forward model.
- **Offline teacher:** SimPoE offline на нашем корпусе упражнений → физически корректные 3D позы → обучаем edge model.
- **Biomechanics inspiration:** reward function SimPoE (end-effector positions, velocity matching) переносится как AQA metrics: правильный присед = конкретные требования к end-effector (колени над стопами, тазобедренный сгиб ≥90°).

## Gap для нас

SimPoE = RL + Physics = невозможно на edge. **Ниша SmartRep:** использовать SimPoE как offline data generator — обработать наш датасет, получить физически корректные 3D позы как ground truth для обучения lightweight pose model без RL и симулятора на инференсе.

## Код / данные

- Repo: github.com/Yz-Feng/SimPoE
- Pretrained: доступны

## Цитата (BibTeX)

```bibtex
@inproceedings{yuan2021simpoe,
  title={SimPoE: Simulated Character Control for 3D Human Pose Estimation},
  author={Yuan, Ye and Wei, Shih-En and Simon, Tomas and Kitani, Kris and Saragih, Jason},
  booktitle={Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition},
  year={2021}
}
```
