Universitatea "Babeş-Bolyai" din Cluj-Napoca

Facultatea de Matematică şi Informatică
FISA DISCIPLINEI

Teoria informaţiei

Information theory

Cod	Semes- trul	Ore: C+S+L	Credite	Tipul	Sectia
MC013	8	2+2+0	7	optionala	Matematici Aplicate (Applied Mathematics)
MC013	8	2+2+0	7	optionala	Matematica Economica (Mathematics Economics)

Cadre didactice indrumatoare

Teaching Staff in Charge

Prof. Dr. MIHOC Ion, imihoc@math.ubbcluj.ro

Obiective	Aims
A prezenta studentilor informaticieni principalele notiuni legate de teoria informatiei precum si importantele aplicatii ale acestora.	To pressent to the students the principal notions of the information theory and some important applications of their.

Continut

1. Informatia- concept secundar in raport cu probabilitatea. Informatia lui Hartley. Informatia (entropia) lui Shannon: definitie, interpretari. Definitia axiomatica a masurii H(X). Proprietati ale lui H(X). caracterizari informationale ale principalelor distributii de probabilitate. Entropia ponderata a lui Guiasu: definitia axiomatica, proprietati. Principiul informatiei maxime. 2. Informatia - concept primar in raport cu probabilitatea. Axiomatica lui J. Kampe de Feriet - Bruno Forte. Informatia de tipul M. Operatii universale. Axiomatica lui Guiasu. 3. Energia si corelatia informationala a lui Onicescu. Formulele lui Octav Onicescu. Proprietatile energiei informationale. Corelatia informationala. Coeficientul de corelatie informationala. Aplicatii. 4. Teoria informatiei si statistica informatica. Informatia lui Kullback. Divergenta: definitii si proprietati. Informatia lui Fisher. Proprietati. Informatia si suficienta.

Bibliografie

1. Ash, R., Information Theory, John Wiley and Sons, New York. London . Sydney, 1965 2. Guiasu, S., Theodorescu, R., Teoria matematica a informatiei, Ed. Academiei RSR, Bucuresti, 1966. 3. Kullback, S., Information Theory and Statistics, John Wiley and Sons, London, 1959 4. Renyi, A., Probability Theory, Akademiai Kiado, Budapest, 1970.

Evaluare	Assessment
Examen.	Exam.