Claude Elwood Shannon è spesso definito il padre della teoria dell’informazione. Il suo lavoro ha fornito un linguaggio matematico comune a telecomunicazioni, informatica, compressione e codifica dei dati.
Dai circuiti alla logica
Nato nel 1916 nel Michigan, Shannon studiò ingegneria elettrica e matematica. Al MIT, la sua tesi di master mostrò che relè e interruttori elettrici potevano essere descritti tramite l’algebra di Boole.
Oggi l’idea sembra naturale: un circuito può rappresentare valori veri e falsi e combinarli con operazioni logiche. All’epoca offrì un metodo sistematico per progettare circuiti di controllo e preparò il terreno del calcolo digitale.
Bell Labs e il problema della comunicazione
Shannon entrò ai Bell Labs, dove gli ingegneri cercavano di trasmettere messaggi nonostante rumore e limiti fisici dei canali. Capì che bisognava separare il significato del messaggio dalla sua struttura misurabile.
Nel 1948 pubblicò A Mathematical Theory of Communication. L’articolo definì il bit come unità elementare e introdusse una misura dell’incertezza chiamata entropia.
Misurare l’informazione
L’idea rivoluzionaria fu separare completamente la quantità di informazione dal significato. Per un sistema di comunicazione conta la prevedibilità, non l’importanza soggettiva del contenuto.
Se un sito meteo annuncia ogni giorno bel tempo per tutta l’estate, il messaggio diventa molto prevedibile. Una tempesta eccezionale dopo settimane di sole è invece meno prevedibile e trasporta più informazione.
Shannon trasformò questa intuizione in una misura matematica: l’entropia. Più un messaggio è difficile da prevedere, maggiore è l’informazione che può trasportare.
Questa astrazione funziona per testo, immagini, musica o segnali radio. Ha permesso di confrontare sistemi di comunicazione molto diversi con gli stessi strumenti matematici ed è ancora alla base della compressione, della crittografia e delle reti digitali.
Compressione, rumore e capacità del canale
Shannon affrontò due domande fondamentali. La prima: quanto si può comprimere un messaggio senza perdere informazione? Dimostrò che una sorgente possiede un limite teorico legato alla propria entropia. Al di sotto di quel limite non è possibile ricostruire perfettamente il messaggio originale.
Questa idea non forniva un singolo algoritmo, ma definiva ciò che era teoricamente raggiungibile. Decenni dopo, tecniche e formati di compressione avrebbero lavorato entro questi limiti.
La seconda domanda era: come trasmettere in modo affidabile attraverso un canale disturbato dal rumore? Shannon dimostrò che ogni canale possiede una capacità massima. Finché il flusso informativo rimane sotto quella capacità, è teoricamente possibile progettare codici in grado di rilevare e correggere gli errori.
Questo risultato spiega perché comunicazioni digitali moderne possano essere affidabili nonostante interferenze e imperfezioni. Reti mobili, satelliti, Wi‑Fi, GPS e comunicazioni spaziali utilizzano tecniche di codifica nate direttamente o indirettamente da questi principi.