---
title: "Continual Test-Time Domain Adaptation"
title_ru: "Непрерывная адаптация к домену во время теста (CoTTA)"
authors: [Wang, Fink, Van Gool, Dai]
year: 2022
venue: "CVPR"
venue_tier: "A*"
doi: "2203.13591"
tags: [test_time_adaptation, tta, continual_learning, forgetting, augmentation]
relevance_to_smartrep: 3
direction: "🅱"
---

# CoTTA: Непрерывная адаптация к домену во время теста

## TL;DR (≤3 предложения)

CoTTA решает проблему continual TTA: адаптация к непрерывно меняющимся доменам без катастрофического забывания исходного. Вводит два механизма: augmentation-averaged predictions (усредняет предсказания по аугментациям для псевдо-меток) и stochastic restore (с вероятностью $p$ возвращает параметры к исходным значениям). Для SmartRep: адаптация к меняющимся условиям — разные спортзалы, разные сезоны, прогресс пользователя.

## Проблема

Tent и EATA адаптируются к одному shifted домену. В реальном сценарии доменный сдвиг непрерывный и меняющийся: сегодня пользователь тренируется при естественном освещении, завтра — при искусственном, послезавтра — с другим углом камеры. Нужна адаптация к последовательности сдвигов без забывания.

## Гипотеза / вклад

- **Augmentation-averaged pseudo-labels:** усредняем предсказания по $N_{aug}$ аугментациям для получения надёжных псевдо-меток (уменьшает шум по сравнению с single-forward Tent).
- **Stochastic restore:** с вероятностью $p$ каждый параметр $\theta_i$ сбрасывается к исходному $\theta_i^0$ — случайный "якорь" к source domain.
- **Mean teacher:** EMA-обновлённый teacher генерирует pseudo-labels, student адаптируется.

## Метод

Teacher $\theta^T$ (EMA от student $\theta^S$). Pseudo-labels из teacher + аугментации:

$$\hat{y} = \frac{1}{N_{aug}} \sum_{k=1}^{N_{aug}} f_{\theta^T}(aug_k(\mathbf{x}))$$

Stochastic restore (после каждого шага):

$$\theta_i \leftarrow \begin{cases} \theta_i^0 & \text{с вероятностью } p \\ \theta_i & \text{иначе} \end{cases}$$

Loss: кросс-энтропия предсказаний student на pseudo-labels teacher.

### Архитектура (Mermaid)

```
Test x → augment N times → Teacher (EMA) → averaged pseudo-label ŷ
                         ↓
         Student f_θS → prediction → CE loss with ŷ → update θS
                         ↓
         Stochastic restore: θ_i ← θ_i⁰ with prob p
                         ↓
         EMA update: θT ← α·θT + (1-α)·θS
```

## Датасеты

| Датасет | Задача | Метрика | Результат |
|---|---|---|---|
| CIFAR-10-C continual | Continual corruption | Error rate | 17.5% |
| ImageNet-C continual | Continual corruption | Error rate | 51.1% |

## Сравнение с SOTA

SOTA для continual TTA сценария. На single-step Tent лучше, но CoTTA выигрывает на длинных последовательностях доменных сдвигов.

## Ограничения / слабости

- $N_{aug}$ forward passes (как MEMO) — в $N_{aug}$ раз дороже.
- EMA teacher — дополнительная копия модели в памяти (2× memory).
- Вероятность restore $p$ — гиперпараметр, чувствительный к домену.

## Релевантность SmartRep

- **Многомесячные тренировки 🅱:** пользователь тренируется полгода — меняется физическая форма, меняется техника (прогресс), меняются условия. CoTTA-стратегия обеспечивает адаптацию без forgetting базовых паттернов.
- **Mean teacher как quality estimator:** EMA teacher более стабилен, чем quickly adapted student — может использоваться как "консервативная" оценка качества, student — как "текущая".
- **Stochastic restore как regularization:** в контексте SmartRep — предотвращает избыточную персонализацию (overfitting к конкретному пользователю).

## Gap для нас

CoTTA не исследован для regression задач (AQA score) и на скелетных данных. **Ниша SmartRep:** CoTTA-AQA — mean teacher для quality score вместо classification label, stochastic restore предотвращает дрейф оценки по мере "привыкания" модели к конкретному пользователю.

## Ссылки на связанные статьи

- [[Tent]] — простой baseline для TTA
- [[EATA]] — альтернативный подход к continual TTA
- [[SHOT]] — offline адаптация без source data

## Код / данные

- Repo: github.com/qinenergy/cotta
- Pretrained: нет

## Цитата (BibTeX)

```bibtex
@inproceedings{wang2022continual,
  title={Continual Test-Time Domain Adaptation},
  author={Wang, Qin and Fink, Olga and Van Gool, Luc and Dai, Dengxin},
  booktitle={Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition},
  year={2022}
}
```
