Claude Elwood Shannon é frequentemente apresentado como o pai da teoria da informação. O seu trabalho forneceu uma linguagem matemática comum às telecomunicações, informática, compressão e codificação de dados.
Dos circuitos à lógica
Nascido em 1916 no Michigan, Shannon estudou engenharia elétrica e matemática. No MIT, a sua dissertação de mestrado mostrou que relés e interruptores elétricos podiam ser descritos com álgebra de Boole.
Hoje a ideia parece natural: um circuito pode representar valores verdadeiros e falsos e combiná-los com operações lógicas. Na época, ofereceu um método sistemático para conceber circuitos de controlo e preparou o caminho para a computação digital.
Bell Labs e a questão da comunicação
Shannon entrou nos Bell Labs, onde os engenheiros procuravam transmitir mensagens apesar do ruído e dos limites físicos dos canais. Percebeu que era necessário separar o significado de uma mensagem da sua estrutura mensurável.
Em 1948 publicou A Mathematical Theory of Communication. O artigo definiu o bit como unidade elementar e introduziu uma medida da incerteza chamada entropia.
Medir a informação
A ideia revolucionária foi separar completamente a quantidade de informação do significado. Para um sistema de comunicação importa a previsibilidade, não a importância subjetiva do conteúdo.
Se um serviço meteorológico anunciar sol todos os dias durante o verão, a mensagem torna-se previsível. Uma tempestade excecional depois de semanas de bom tempo é muito menos previsível e, por isso, transporta mais informação.
Shannon transformou esta intuição numa medida matemática: a entropia. Quanto mais difícil é prever uma mensagem, maior a quantidade de informação que ela pode transportar.
A abstração funciona para texto, imagens, música ou sinais de rádio. Permitiu comparar sistemas muito diferentes com as mesmas ferramentas matemáticas e continua na base da compressão, criptografia e redes digitais.
Compressão, ruído e capacidade
Shannon respondeu a duas perguntas fundamentais. A primeira: até onde podemos comprimir uma mensagem sem perder informação? Demonstrou que uma fonte tem um limite de compressão relacionado com a sua entropia. Abaixo desse limite deixa de ser possível reconstruir perfeitamente a mensagem original.
A teoria não fornecia um único algoritmo, mas definia o que era teoricamente alcançável. Décadas depois, métodos de compressão trabalhariam dentro desses limites.
A segunda questão era: como transmitir de forma fiável através de um canal perturbado por ruído? Shannon mostrou que cada canal possui uma capacidade máxima. Enquanto o débito de informação permanecer abaixo dessa capacidade, é teoricamente possível criar códigos capazes de detetar e corrigir erros.
Este resultado explica porque as comunicações digitais modernas conseguem ser extremamente fiáveis apesar das interferências. Redes móveis, satélites, Wi‑Fi, GPS e comunicações espaciais usam técnicas de codificação descendentes, direta ou indiretamente, destes princípios.