Claude Elwood Shannon.docx

Claude Elwood Shannon (1916-2001)

 a fost un matematician și inginer electrotehnist american, "părintele teoriei informației";  la 21 de ani, a pus bazele pentru proiectarea circuitelor digitale si calculatoarelor numerice (cu ajutorul algebrei booleene), a creat teoria informatiei iar mai tarziu a dezvoltat unele dintre primele inteligente artificiale;  a studiat la Universitatea din Michigan;  teza de masterat a lui Shannon, “O analiză simbolică a releelor și circuitelor de comutație”, este una dintre cele mai importante din istorie. In această lucrare, Shannon a demonstrat că algebra booleană și aritmetica binară pot fi folosite pentru a simplifica aranjamentul releelor electromagnetice utilizate pe atunci în comutatoarele liniilor telefonice, apoi a realizat și abordarea inversă, demonstrând că este posibil să se folosească aranjamente de relee pentru a rezolva probleme de algebră booleană;  in 1948, Shannon a publicat O teorie matematică a comunicațiilor .Acest articol s-a concentrat pe problema celei mai bune codificări posibile a informației pe care vrea să o transmită cineva. În această lucrare fundamentală, el a folosit unelte ale teoriei probabilității, dezvoltate de Norbert Wiener, care erau, la acea vreme, în stadiul incipient al dezvoltării aplicațiilor în teoria comunicațiilor. Shannon a dezvoltat noțiunea de entropie informațională ca măsură a incertitudinii dintr-un mesaj, inventând prin aceasta domeniul teoriei informației;  contribuția fundamentală a teoriei informației în prelucrarea limbajului natural și lingvistica computațională a fost relevată de Shannon în 1951, în articolul Predicția și entropia limbii engleze tipărite, în care a demonstrat că dacă tratează spațiile libere drept o a douăzeci și șaptea literă a alfabetului, incertitudinea limbii scrise scade, furnizând o legătură clară și cuantificabilă între practicile culturale și cogniția probabilistică;  Introduce bitul ca unitate fundamentala de masura a cantitatii de date.