Przedstawiony przykład jest skrajnie uproszczony i próba czterech rzutów jest za mała, aby wyciągać jakieś statystyczne wnioski, ale dobrze obrazuje problem.
Ogólniej, źródło dające N równie prawdopodobnych wyników ma bitów na symbol entropii:
Inną miarą związaną z entropią Shannona jest entropia metryczna, która uwzględnia długość informacji (entropia dzielona jest przez długość wiadomości) i pozwala zmierzyć losowość informacji.
Zobacz też
entropia produktowa entropia krzyżowa entropia warunkowa informacja wzajemna łańcuch Markowa teoria informacji perpleksja
Przypisy
Linki zewnętrzne kalkulator entropii – jak obliczyć i interpretować entropię dowolnej wiadomości M. Berta, O. Fawzi, M. Tomamichel, On Variational Expressions for Quantum Relative Entropies, arxiv.org/1512.02615
Kategoria:Teoria informacji