This commit is contained in:
2026-05-05 14:00:36 +03:00
parent 5782a2b35f
commit dc9bd8b7ad
6 changed files with 277 additions and 7 deletions

View File

@@ -6,7 +6,7 @@ tags:
## Зачем измерять информативность признаков?
==**В мультимодальном контексте вопрос «насколько полезен вектор признаков данной модальности для данного примера» является ключевым. Если текстовые признаки сформированы на основе ненадёжных или отсутствующих метаданных, их информативность низка и они вносят шум. Численная оценка информативности позволяет строить адаптивные механизмы слияния.**==
**В мультимодальном контексте вопрос «насколько полезен вектор признаков данной модальности для данного примера» является ключевым. Если текстовые признаки сформированы на основе ненадёжных или отсутствующих метаданных, их информативность низка и они вносят шум. Численная оценка информативности позволяет строить адаптивные механизмы слияния.**
---
@@ -155,7 +155,7 @@ MI_θ(X; Y) ≈ E_{p(x,y)}[T_θ(x,y)] log(E_{p(x)p(y)}[e^{T_θ(x,y)}])
[[Рекомендации и идеи]]
**==Мера корректности проекции в конкретное подпространство==**
**Мера корректности проекции в конкретное подпространство**
![[Pasted image 20260421112809.png]]

View File

@@ -14,7 +14,6 @@ tags:
Простая остаточная связь в механизме Gate-Fusion нивелирует его работу, возвращая шум исходных данных, однако, адаптивное добавление полезного исходного сигнала на основе некой метрики информативности модальности может усилить информативность объединенного вектора даже после потери части сигнала из-за фильтрации.
**==Можно развить идею [[InfoScore for residual routing]]==**