Image Recognition

Celem wykładu jest zapoznanie słuchaczy z zagadnieniem rozpoznawania obrazów. W szczególności zostaną omówione: ogólna klasyfikacja systemów rozpoznawania obrazu, wybrane metody i techniki rozpoznawania obrazu oraz zagadnienia związane ze zbieraniem danych, segmentacją obrazu i redukcją wymiarowości wzorców. Przedstawione przykłady zastosowań omawianych metod w systemach rozpoznawania (wraz z ćwiczeniami laboratoryjnymi) pozwolą słuchaczom na analizę praktycznych aspektów rozpoznawania obrazów.

Treść wykładu
Wprowadzenie: elementy składowe systemu rozpoznawania obrazów; cykl projektowy tworzenia klasyfikatora; metody oceny jakości klasyfikatorów i systemów klasyfikacji.

Klasyfikacja optymalna Bayesa: rola informacji a priori; postaci funkcji gęstości prawdopodobieństwa; klasyfikator optymalny Bayesa; uwzględnianie ryzyka i strat przy konstruowaniu klasyfikatora; granice decyzyjne klasyfikatorów; zgodność rozkładu danych z przyjętym rozkładem teoretycznym.

Metody najbliższego sąsiedztwa: dopasowanie szablonów; klasyfikatory najmniejszej odległości; metryki; klasyfikatory
k-NN; metody wyszukiwania najbliższego sąsiada; przyspieszanie wyszukiwania najbliższego sąsiada; edycja i redukcja zbioru uczącego.

Klasyfikatory liniowe: liniowe funkcje decyzyjne; przestrzeń
jednorodna; wyznaczanie granicy decyzyjnej: metoda wektorów nośnych;
algorytm sekwencyjnej optymalizacji minimalnej.

Redukcja wymiarowości: analiza składowych głównych;
liniowa klasyfikacja Fishera; wielowymiarowa analiza dyskryminacyjna (MDA).

Grupowanie: problem grupowania; ocena podobieństwa grupowania;
algorytmy klasy k-średnich; grupowanie wstępujące; algorytmy grafowe; grupowanie na podstawie gęstości (DBSCAN).

Sieci neuronowe: podstawowy model neuronu; algorytmy uczenia
pojedynczego neuronu; interpretacja działania pojedynczego neuronu;
sieci neuronowe; algorytm wstecznej propagacji błędu; sieci ze sprzężeniami zwrotnymi; pamięci asocjacyjne; pamięć Hopfielda; sieci samoorganizujące Kohonena; sieci typu ART.

Modele Markowa: dyskretne procesy Markowa; ukryty proces Markowa; algorytm Viterbiego; algorytm Bauma-Welsha
wyznaczania parametrów układu Markowa; problemy wykorzystania modeli
Markowa w klasyfikacji.

Wyszukiwanie tekstu: problem dokładnego i przybliżonego wyszukiwania tekstu; algorytm Boyera-Moora; odległość edycyjna; analiza tekstu z wykorzystaniem automatów niedeterministycznych i deterministycznych; drzewo i tablica przyrostków; algorytm Ukkonena konstruowania drzewa przyrostków; przybliżone wyszukiwanie z drzewem przyrostków; generowanie sąsiedztwa dla wyszukiwania z błędami; funkcje
mieszające do szybkiego wyszukiwania.

Drzewa decyzyjne: konstruowanie drzew decyzyjnych: podstawowy algorytm CART; ocena niejednorodności węzłów drzewa; kryteria stopu przy generowaniu drzewa; efekt horyzontu; algorytmy przycinania drzewa.

Poprawa jakości klasyfikacji: podstawowe problemy konstruowania metaklasyfikatorów; głosowanie większościowe; kwestia niezależności klasyfikatorów; głosowanie z wagami; wyznaczanie wag; Bayesowskie metody składanie wyników klasyfikatorów; przestrzeń zachowanie-wiedza
(Behavior-Knowledge space); metody konstruowania klasyfikatorów słabych
(algorytm AdaBoost); korzystanie z informacji kontekstowej w klasyfikacji; kontekst w systemach OCR; wykorzystanie
słowników i trigramów.


Przewidziane są dwa jednogodzinne kolokwia sprawdzające.


Zakres laboratorium
Celem laboratorium jest pogłębienie zdobytej wiedzy i jej zastosowanie w praktycznych problemach rozpoznawania obrazów.

Tematyka ćwiczeń

1. Klasyfikacja najbliższego sąsiedztwa (ćwiczenie rozruchowe -
   zapoznanie ze środowiskiem Octave).


2. Klasyfikacja Bayesa z rozkładem normalnym i przybliżeniem
   rozkładu gęstości prawdopodobieństwa oknem Parzena.


3. Redukcja wymiarowości przy użyciu metody składowych głównych
   (PCA), metody doboru wektora cech.


4. Grupowanie danych - wybór metody grupowania. Ocena jakości
   grupowania w metodzie "klasyfikacji przez grupowanie".


5. Sztuczne sieci neuronowe - algorytm propagacji wstecznej błędu w
   wersji podstawowej.


6. Przybliżone wyszukiwanie tekstu: stworzenie indeksu do szybkiego
   wyszukiwania z błędami na niewielkim tekście.


7. Rozpoznawanie formularzy - projekt rozpoznawania formularza w
   systemie FormAnalyzer.

Do zaliczenia przedmiotu jest wymagane zaliczenie:

• części teoretycznej - uzyskanie minimum 32 punktów (z 64
  możliwych).

• części praktycznej - uzyskanie minimum 18 punktów (z 36
  możliwych).