Przejdź do treści

Reklama
Reklama niedostępna offline
Treść strony pozostaje dostępna.

Kalkulator entropii Shannona

Wklej nieujemne liczebności, wagi albo prawdopodobieństwa. Kalkulator sam normalizuje je do sumy 1.

Entropia H: —

Ustaw pola powyżej — wynik policzy się na tej stronie.

Liczba kategorii
—
Kategorie dodatnie
—
Suma wag
—
Maksymalna entropia
—
Entropia znormalizowana
—
Efektywna liczba kategorii
—

Wkład kategorii

Kategoria Waga p −p log(p)
Ustaw pola powyżej — wynik policzy się na tej stronie.
Co wynika z tych liczb?
  • Wartości wejściowe nie muszą sumować się do 1.
  • Zera są dozwolone i nie wnoszą wkładu do entropii.

Entropia opisuje rozkład kategorii, ale nie uwzględnia ich kolejności ani podobieństwa. Estymacja z małej próby może być obciążona.

Jak korzystać z tej strony?
  1. Wklej wagi wszystkich kategorii.
  2. Wybierz podstawę logarytmu.
  3. Odczytaj H, wartość znormalizowaną i wkład każdej kategorii.

Czego ta strona nie robi: Entropia opisuje rozkład kategorii, ale nie uwzględnia ich kolejności ani podobieństwa. Estymacja z małej próby może być obciążona.

Gdzie doczytać

Teoria — co mierzy entropia Shannona?

Entropia Shannona mierzy niepewność lub różnorodność rozkładu danych. Przyjmuje wartość zero, gdy cała masa przypada jednej kategorii, a osiąga maksimum, gdy wszystkie udziały są równe. Przy podstawie logarytmu równej 2 wynik wyraża się w bitach, a entropia znormalizowana dzieli tę wartość przez maksimum możliwe dla danej liczby kategorii. Do kalkulatora można wkleić zarówno liczebności, jak i gotowe prawdopodobieństwa — narzędzie samo znormalizuje je do sumy równej 1.

Najczęstsze pytania

Czy mogę wpisać liczebności zamiast prawdopodobieństw?
Tak. Kalkulator dzieli każdą wartość przez sumę wszystkich dodatnich wag.
Kiedy entropia jest największa?
Gdy wszystkie dodatnie kategorie mają jednakowe prawdopodobieństwo.

Zobacz także

← Wszystkie kalkulatory

Reklama
Reklama niedostępna offline
Treść strony pozostaje dostępna.
Aplikacja offline i powiadomienia po losowaniu

Moje kupony

Zestawy zapisane tylko w tej przeglądarce. Liczby pokazujemy dokładnie tak, jak je zapisano; to nie jest kupon.

Otwórz centrum Moje kupony
Odtwórz z podglądem

Odtwarzanie w centrum: najpierw podgląd pliku i Twoje potwierdzenie. Obsługujemy stare kopie oraz pełną kopię zestawów i dziennika. Nic nie wysyłamy.