Metody analizy danych

Treść wykładu

1. Wprowadzenie (4 godz.) – charakterystyka zbiorów danych pozyskiwanych w wyniku działania Internetu Rzeczy. Cele analizy danych: klasyfikacja, regresja, optymalizacja, predykcja. Podstawowe dziedziny sztucznej inteligencji wykorzystywane do analizy danych: systemy ekspertowe, uczenie maszynowe, metody heurystyczne.
2. Systemy ekspertowe (2 godz.) – struktura systemu oraz wykorzystanie przezeń wiedzy. Metody reprezentacji wiedzy (numeryczne – sztuczna sieć neuronowa, regułowe, statystyczne – Naiwny Klasyfikator Bayesa itp.). Metody dedukcyjnego podejmowania decyzji. Działanie algorytmów indywidualnie i w komitetach (fuzja klasyfikatorów i maszyn regresyjnych). Zdolność do objaśniania procesu wnioskowania.
3. Metody wstępnego przetwarzania danych (4 godz.) – uzupełnianie brakujących danych, wyszukiwanie nadmiarowości (obliczanie pojemności informacyjnej i zależności metodami korelacyjnymi), metody dyskretyzacji atrybutów.
4. Klasyfikacja wzorców (4 godz.) – podstawowe metody: drzewa decyzyjne, systemy regułowe, logika rozmyta, sztuczne sieci neuronowe, maszyny wektorów nośnych SVC.
5. Zadanie regresji (2 godz.) – podstawowe metody: regresja liniowa, drzewa regresyjne, sztuczne sieci neuronowe (perceptrony wielowarstwowe, sieci RBF, maszyny wektorów nośnych SVR).
6. Podstawy uczenia maszynowego (4 godz.) – cele procesu i podstawowe rodzaje (z nadzorem, bez nadzoru, ze wzmocnieniem). Podstawowe algorytmy uczenia z nadzorem (indukcja drzew decyzyjnych, uczenie sztucznych sieci neuronowych, generacja prawdopodobieństw dla Naiwnego Klasyfikatora Bayesa).
7. Uczenie bez nadzoru (4 godz.) – podstawowe algorytmy grupowania pojęciowego: grupowanie hierarchiczne, metody k-średnich, sztuczne sieci neuronowe typu SOM (uczenie konkurencyjne). Metody oceny jakości grupowania (indeksy, czystość grup itp.).
8. Metody optymalizacji (6 godz.) – podstawowe algorytmy optymalizacji dyskretnej i ciągłej. Metody heurystyczne: metoda grid search i Monte Carlo, algorytmy gradientowe, symulowane wyżarzanie, przeszukiwanie z tabu, algorytmy ewolucyjne.

Treść ćwiczeń

Podstawy matematyczne i statystyczne dla systemów przetwarzania danych. Przedstawiane zagadnienia obejmować będą:

• Cele analizy statystycznej.
• Rozkłady zmiennych losowych.
• Miary statystyczne oraz ich wykorzystanie do oceny dostępnych danych (dominanta, mediana, średnie, wariancja itp.).
• Metody estymacji parametrów.
• Weryfikacja hipotez statystycznych.
• Propagację błędów.

Zakres laboratorium

Laboratorium będzie polegać na implementacji kolejnych algorytmów analizy danych i testowaniu ich właściwości pod opieką prowadzącego. Kolejne laboratoria będą obejmować poszczególne algorytmy klasyfikacji, regresji, predykcji, optymalizacji, m.in. sztuczne sieci neuronowe, drzewa decyzyjne, lasy losowe, algorytmy ewolucyjne, metody grupowania k-średnich i in. Laboratorium obejmować będzie również metody organizacji danych i wstępnego przetwarzania, np. za pomocą biblioteki numpy.