náhled|Srovnání entropií na příkladu házení mincí s pravděpodobnostmi . Min-entropie (značená obvykle ) je pojem z oboru teorie informace. Jedná se o nejkonzervativnější definici entropie z rodiny Rényiho entropie, tedy o nejkonzervativnější odhad neurčitosti možných výsledků. Různé Rényiho entropie jsou si rovny pro případ rovnoměrného rozdělení, ovšem liší se pro jiná rozdělení pravděpodobnosti. Přitom platí, že min-entropie není nikdy větší než Shannonova entropie a Shannonova entropie není nikdy větší než max-entropie.
Definice Min-entropie při daných pravděpodobnostech je rovna .
Reference
Kategorie:Entropie a informace