Universitatea Babeş-Bolyai Cluj-Napoca
Facultatea de Matematică şi Informatică
Ciclul de studii: Licen

FISA DISCIPLINEI

Codul
Denumirea disciplinei
MMP0006 Teoria informaţiei
Specializarea
Semestrul
Ore: C+S+L
Categoria
Statutul
Ingineria informatiei
5
2+2+0
obligatorie
Titularii de disciplina
Conf. Dr. SOOS Anna,  asoosmath.ubbcluj.ro
Obiective
Introducere in teoria informatiei si insuşirea conceptelor de transmitere si prolucrare a informaţiei.
Continutul
Elemente de teoria măsurii. Modele probabiliste.
Variabile aleatoare.Vectori aleatori. Funcţie de repartiţie. Densitate de probabilitate. Funcţie de repartiţie condiţionată. Densitate de probabilitate condiţionată. Caracterstici numerice pentru variabile aleatoare. Valoare medie. Varianţă. Abatere standard. Corelaţie. Coeficient de corelaţie.
Valoare medie condiţionată. Varianţă condiţionată. Inegalitatea lui Cebîşev. Convegenţa în probabilitate. Convergenţa în repartiţie. Lega slabă a numerelor mari. Teoreme limită (Lindeberg-Lévy, Moivre-Laplace, corecţii de continuitate).
Procese stocastice discrete si continue. Lanţuri Markov. Ergodicitate. Convergenţă.
Cantitatea de informaţie. Infromaţia Shannon.
Entropia si proprietăţile ei. Entropie relativă.
Surse discrete de informaţie. Surse ergodice şi neergodice.
Coduri staţionare.
Ergodicitate. Teoreme de ergodicitate pentru densitatea informaţiei.
Canale.Canale discrete si continue.Stationaritatea canalelor. Canale Markov.
Codarea surselor. Coduri bloc lineare. Coduri bloc ciclice.
Codarea surselor zgomotoase.
Metode robuste de codare.
Aplicatii

Bibliografie
1. Gray R.M., Entropy and Information Theory, Springer, 1999
2. Blaga, P., Calculul probabilităţilor şi statistică matematică. Vol. II. Curs şi culegere de probleme, UBB, Cluj-Napoca, 1994.
3. Blaga, P., Statistica... prin Matlab, Presa Universitară Clujeană, Cluj-Napoca, 2002.
4. Murgan A. T., ”Principiile teoriei Informatiei in ingineria informatiei si a comunicatiilor”, Editura Academiei Romane, Bucuresti, 1998
5. Soós A., Bevezetés a valósznűségszámtásba, Presa Universitara Clujeana, 2001.
Evaluare
Nota finală se constituie din:
• Examen scris la sfârşit de semestru : 60%
• Lucrare de laborator : 20%
• Verificarea pe parcursul semestrului: 20%
Legaturi: Syllabus-urile tuturor disciplinelor
Versiunea in limba engleza a acestei discipline
Versiunea in format rtf a acestei discipline