Informazione e sua misura - Entropia
- Author:
- Furio Petrossi
In sintesi:
- Probabilità : Scelgo un punto a caso dentro il cerchio. Quante volte mi aspetto che sia di un determinato colore, in percentuale?
- Scelte binarie: Quante domande la cui risposta può essere solo "sì" o "no" devo fare per indovinare il colore di un punto? Il valore può esse 0 in caso di certezza sulla risposta o inferiore all'unità in caso di prevalenza di un risultato sugli altri.
- Entropia o misura dell'informazione necessaria : Prendendo a caso una serie di punti nel cerchio quante domande dovrò fare in media per indovinarli tutti? ( media delle scelte binarie pesata dalle probabilità)