Teoria informației. Preistoria Unix-ului - Episodul 7

 

Suntem rezultatul deciziilor pe care le luăm în baza liberului nostru arbitru sau există o forță superioară care ne ghidează pașii? Bibliografia despre Claude Shannon consultată pentru această serie de articole ar părea să dea argumente susținătorilor Destinului. Shannon era o persoană care era interesată de multe lucruri; jonglerie, jazz, aviație, cuvinte încrucișate sau construirea de mașini de joc. O parte din viața sa profesională a fost dedicată cercetării matematicii aplicate cercetării genetice sau industriei armelor. Cu toate acestea, circumstanțele din când în când l-au determinat să construiască baza lucrării sale de top: Theory of Information.

O mică notificare pe peretele Universității din Minnesota l-a determinat să lucreze cu analizorul diferențial al MIT. Acolo a legat algebra booleană de construcția circuitelor. În timp ce făcea un stagiu la Laboratoarele Bell, a avut acces la un articol care i-a dat ideea că o singură teorie ar putea explica transmiterea informației independent de mediu. Încorporat permanent în Bell, unde practic a intrat pentru a nu fi chemat, a devenit interesat de criptografie și a descoperit redundanța limbajului și nevoia de a nu fi nevoit să transmită propoziții complete pentru ca mesajul să aibă sens.

Teoria informației

Shannon a făcut parte dintr-o echipă care lucra la o schimbare de paradigmă în telecomunicații, așa-numita tehnologie PCM sau Pulse Code Modulation. În loc de transmiterea vocii prin intermediul undelor electrice, așa cum se făcuse de când Alexander Graham Bell a inventat telefonul, scopul a fost transmiterea de informații despre comportamentul undelor electrice. astfel încât receptorul să le poată reconstrui. Aici trebuie să luăm în considerare două puncte importante.

• Informațiile despre comportamentul undelor nu sunt transmise pe parcursul întregii conversații, dar se realizează o probă la fiecare anumită perioadă de timp, iar receptorul umple spațiile. Amintiți-vă de remarcile lui Shannon despre redundanță și despre faptul că nu trebuie să trimiteți mesajul complet.
• Informațiile despre unde pot fi transmise prin codificarea lor cu zerouri și unu. Aici ei aplică ideile lui Shannon despre utilizarea algebrei booleane pentru transmiterea informațiilor printr-un circuit.

Cu toate acestea, această metodă nu se aplică doar vocii. Aceeași tehnologie poate fi aplicată transmiterii de la distanță a oricărui conținut care poate fi convertit în zerouri și unu; imagini statice și în mișcare, texte, grafică, muzică etc.

Asigurarea fidelitatii mesajului

Probabil că în fiecare țară există o variantă a jocului pe care în copilăria mea l-am numit „telefon spart”. O persoană îi șoptește un mesaj partenerului de lângă care, la rândul său, face același lucru și următorului din rând. Astfel, până la ultima trebuie să repeți mesajul cu voce tare. Nu se potrivește aproape niciodată cu ceea ce a spus primul.

Provocarea pentru Bell Labs este să împiedice acest lucru să se întâmple în comunicații. Și aici intervine Teoria Informației.

Shannon a propus un model general de comunicații în care emițătorul emite printr-un transmițător un semnal care, călătorind printr-un canal, ajunge la receptor. Acesta este responsabil de decodarea mesajului codificat anterior de emițător și de livrarea acestuia către destinatar. În fiecare canal există ceea ce se numește „zgomot” care sunt distorsiuni care afectează recepția mesajului.

Propunerea sa include următoarele afirmații:

• Toate comunicările, indiferent de format, pot fi gândite în termeni de informații.
• Toate informațiile pot fi măsurate în biți. Un bit (Prescurtare pentru cifră binară) indică alegerea între două alternative posibile, punctul sau liniuța telegrafului, capete sau cozi atunci când arunci o monedă sau impulsuri pornite sau oprite în tehnologia PCM
• Cele mai complexe informații pot fi transmise prin intermediul unui șir de biți într-un format predefinit. De exemplu, reprezentarea de bază 2 a unui cod numeric atribuit unei litere.

În munca sa privind criptografie, Shannon a arătat că dimensiunea mesajului poate fi redusă prin eliminarea redundanței. Aici a propus să meargă pe sens invers; combate zgomotul prin adăugarea de biți suplimentari, astfel încât receptorul să poată corecta erorile apărute în timpul transmisiei.

Deși în multe cazuri formularea teoretică ar dura zeci de ani pentru a deveni aplicații practice, inginerii aveau deja o modalitate de a măsura capacitatea diferitelor canale de a transmite informații. Totul era pregătit pentru materiale noi care să înlocuiască tradiționalul cablu de cupru, crescând exponențial numărul de mesaje în circulație. Și, desigur, ai avea nevoie de o modalitate de a gestiona toată această cantitate de informații. Vom vedea asta în articolele următoare.