Teoria informacji 0800-M-TINFOR

1. Jak zmierzyć posiadaną informację, systemy decyzyjne i kod Huffmana, informacja Shannona.
2. Własności informacji Shannona, informacja całkowita i warunkowa, informacja wzajemna.
3. Przesyłanie informacji przez kanał, twierdzenie Shannona, kody korygujące błędy.
4. Informacja o wyniku procesu Markowa, przybliżenia Markowowskie procesu, informacja na znak lub jednostkę czasu w językach naturalnych.
5. Złożoność Kołmogorowa
6. Algorytmy kompresji danych
7. Fizyczne aspekty informacji - zasada Landauera i rozkład Gibbsa
8. Elementy kwantowej Teorii Informacji

Efekty uczenia się - wiedza

Fizyczne znaczenie informacji i jej relacje z pracą i ciepłem. Różnice między informacją klasyczną i kwantową.

Efekty uczenia się - umiejętności

Umiejętność konstrukcji algorytmów kompresji dla zadanego źródła, umiejętność przybliżenia źródła skorelowanych wyników procesem Markowa. Umiejętność konstrukcji kodów do przesyłania informacji kanałami zaszumionymi. Umiejętność dowodzenia własności informacji Shannona / von Neumanna Szacowanie z góry złożoności Kołmogorowa

Efekty uczenia się - kompetencje społeczne

brak

Koordynatorzy przedmiotu

Gniewomir Sarbicki

Metody dydaktyczne

wykład

Rodzaj przedmiotu

przedmiot fakultatywny

Wymagania wstępne

Analiza I, Algebra I, podstawy rachunku prawdopodobieństwa

Kryteria oceniania

Egzamin ustny

Literatura

A. Dąbrowski "O Teorii Informacji"
T.M. Cover, J.A. Thomas "Elements of Information Theory"

Więcej informacji

Dodatkowe informacje (np. o kalendarzu rejestracji, prowadzących zajęcia, lokalizacji i terminach zajęć) mogą być dostępne w serwisie USOSweb:

Strona przedmiotu 0800-M-TINFOR w USOSweb