Universitatea Babeş-Bolyai Cluj-Napoca
Facultatea de Matematică şi Informatică
Ciclul de studii: Licenţă
FIŞA DISCIPLINEI

Codul	Disciplina	
MMP0006	Teoria informaţiei	

Specializarea	Sem.	Ore: C+S+L	Categoria	Statutul	
Ingineria informatiei	5	2+2+0	specialitate	obligatorie	

Titularii de disciplină	Conf. Dr. TRÎMBITAS Radu Tiberiu, tradu@math.ubbcluj.ro
Conf. Dr. CSATO Lehel, csatol@cs.ubbcluj.ro	
Obiective	Introducere in teoria informatiei si insuşirea conceptelor de transmitere si prolucrare a informaţiei.	
Conţinutul	Elemente de teoria măsurii. Modele probabiliste.
 Variabile aleatoare.Vectori aleatori. Funcţie de repartiţie. Densitate de probabilitate. Funcţie de repartiţie condiţionată. Densitate de probabilitate condiţionată. Caracterstici numerice pentru variabile aleatoare. Valoare medie. Varianţă.  Abatere standard. Corelaţie. Coeficient de corelaţie. 
 Valoare medie condiţionată. Varianţă condiţionată. Inegalitatea lui Cebîşev. Convegenţa în probabilitate. Convergenţa în repartiţie. Lega slabă a numerelor mari. Teoreme limită (Lindeberg-Lévy, Moivre-Laplace, corecţii de continuitate). 
 Procese stocastice discrete si continue. Lanţuri Markov. Ergodicitate. Convergenţă.
 Cantitatea de informaţie. Infromaţia Shannon.
 Entropia si proprietăţile ei. Entropie relativă.
 Surse discrete de informaţie.  Surse ergodice şi neergodice.
 Coduri staţionare.
 Ergodicitate. Teoreme de ergodicitate pentru densitatea informaţiei.
 Canale.Canale discrete si continue.Stationaritatea canalelor. Canale Markov.
 Codarea surselor. Coduri bloc lineare. Coduri bloc ciclice.
 Codarea surselor zgomotoase.
 Metode robuste de codare.
 Aplicatii

Bibliografie	1.	Gray R.M., Entropy and Information Theory, Springer, 1999
2.	Blaga, P., Calculul probabilităţilor şi statistică matematică. Vol. II. Curs şi culegere de probleme, UBB, Cluj-Napoca, 1994.
3.	Blaga, P., Statistica... prin Matlab, Presa Universitară Clujeană, Cluj-Napoca, 2002.
4.	Murgan A. T., &#8221;Principiile teoriei Informatiei in ingineria informatiei si a comunicatiilor&#8221;, Editura Academiei Romane, Bucuresti, 1998
5.	Soós A., Bevezetés a valószínűségszámításba, Presa Universitara Clujeana, 2001. 
	
Evaluare	Nota finală se constituie din:
&#8226;	Examen scris la sfârşit de semestru :            60%
&#8226;	Lucrare de laborator  : 20% 
&#8226;	Verificarea pe parcursul semestrului:  20%