systemy uczące się – wykład 1 · 2018. 10. 12. · 1 sztuczna inteligencja w uczeniu...
TRANSCRIPT
![Page 1: Systemy uczące się – wykład 1 · 2018. 10. 12. · 1 Sztuczna inteligencja w uczeniu maszynowym. ... 8 Klasyfikator 1-nn i k-nn. 9 Podsumowanie i przykłady zastosowań. dr](https://reader036.vdocuments.site/reader036/viewer/2022071513/6133f644dfd10f4dd73b6d7e/html5/thumbnails/1.jpg)
Systemy uczące się – wykład 1
dr Przemysław Juszczuk
Katedra Inżynierii Wiedzy, Uniwersytet Ekonomiczny
5 X 2018
dr Przemysław Juszczuk Systemy uczące się – wykład 1
![Page 2: Systemy uczące się – wykład 1 · 2018. 10. 12. · 1 Sztuczna inteligencja w uczeniu maszynowym. ... 8 Klasyfikator 1-nn i k-nn. 9 Podsumowanie i przykłady zastosowań. dr](https://reader036.vdocuments.site/reader036/viewer/2022071513/6133f644dfd10f4dd73b6d7e/html5/thumbnails/2.jpg)
e-mail: [email protected]
Konsultacje: na stronie katedry + na stronie domowej
Pokój 207 budynek A
pjuszczuk.pl
dr Przemysław Juszczuk Systemy uczące się – wykład 1
![Page 3: Systemy uczące się – wykład 1 · 2018. 10. 12. · 1 Sztuczna inteligencja w uczeniu maszynowym. ... 8 Klasyfikator 1-nn i k-nn. 9 Podsumowanie i przykłady zastosowań. dr](https://reader036.vdocuments.site/reader036/viewer/2022071513/6133f644dfd10f4dd73b6d7e/html5/thumbnails/3.jpg)
Zaliczenie ćwiczeń – 70%
Prezentacja i demonstracja zaimplementowanego systemuwykorzystującego techniki maszynowego uczenia połączona z dyskusją natemat jego teoretycznych podstaw.
Zaliczenie wykładu – 30%
Test wielokrotnego wyboru bez możliwości korzystania z notatek.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
![Page 4: Systemy uczące się – wykład 1 · 2018. 10. 12. · 1 Sztuczna inteligencja w uczeniu maszynowym. ... 8 Klasyfikator 1-nn i k-nn. 9 Podsumowanie i przykłady zastosowań. dr](https://reader036.vdocuments.site/reader036/viewer/2022071513/6133f644dfd10f4dd73b6d7e/html5/thumbnails/4.jpg)
Zakres przedmiotu1 Sztuczna inteligencja w uczeniu maszynowym.2 Eksploracja danych a uczenie maszynowe.3 Metody pozyskiwania wiedzy i podstawy preprocessingu danych.4 Wzorce i reguły.5 Klasyfikatory bazujące na drzewach decyzyjnych.6 Ocena jakości klasyfikacji.7 Metody probabilistyczne i naiwny klasyfikator Bayesa.8 Klasyfikator 1-nn i k-nn.9 Podsumowanie i przykłady zastosowań.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
![Page 5: Systemy uczące się – wykład 1 · 2018. 10. 12. · 1 Sztuczna inteligencja w uczeniu maszynowym. ... 8 Klasyfikator 1-nn i k-nn. 9 Podsumowanie i przykłady zastosowań. dr](https://reader036.vdocuments.site/reader036/viewer/2022071513/6133f644dfd10f4dd73b6d7e/html5/thumbnails/5.jpg)
Zakres ćwiczeń
wczytywanie danych i preprocessing;projekty do wykonania: drzewa decyzyjne, sieci Kohonena, k-nn, siecineuronowe;WEKA (RapidMiner) i przegląd algorytmów;implementacja wybranych metod.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
![Page 6: Systemy uczące się – wykład 1 · 2018. 10. 12. · 1 Sztuczna inteligencja w uczeniu maszynowym. ... 8 Klasyfikator 1-nn i k-nn. 9 Podsumowanie i przykłady zastosowań. dr](https://reader036.vdocuments.site/reader036/viewer/2022071513/6133f644dfd10f4dd73b6d7e/html5/thumbnails/6.jpg)
Uczenie się
zmienność systemu w czasie;poprawa określonego kryterium – możliwość dokładnegooszacowania, o ile w danym momencie system jest ”lepszy”, czyli oile lepsze wyniki osiąga. Możliwość dokładnego przełożenia nakonkretną wartość liczbową;możliwość wskazania zmian negatywnyh i zmian pozytywnych;nie każda korzystna zmiana w systemie jest automatycznierównoważna procesowi uczenia się;autonomiczność systemu – zmiana wprowadzana jest przez systemsamodzielnie, a nie jest efektem interwencji z zewnątrz;doświadczenie zdobyte przez system na podstawie pewnychokreślonych czynników zewnętrznych.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
![Page 7: Systemy uczące się – wykład 1 · 2018. 10. 12. · 1 Sztuczna inteligencja w uczeniu maszynowym. ... 8 Klasyfikator 1-nn i k-nn. 9 Podsumowanie i przykłady zastosowań. dr](https://reader036.vdocuments.site/reader036/viewer/2022071513/6133f644dfd10f4dd73b6d7e/html5/thumbnails/7.jpg)
Definicja
Każda autonomiczna zmiana w systemie zachodząca na podstawiedoświadczeń, która prowadzi do poprawy jakości jego działania. P.Cichosz, ”Systemy uczące się”.
Wynik uczenia się
W wyniku procesu uczenia się możliwe jest uzyskanie wiedzy orazumiejętności. Różnica pomiędzy wiedzą a umiejętnościami jest dośćpłynna, przy czym w sytuacji, kiedy konieczne jest wykonanie pewnegookreślonego szeregu czynności najczęściej używa się słowa ”umiejętność”.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
![Page 8: Systemy uczące się – wykład 1 · 2018. 10. 12. · 1 Sztuczna inteligencja w uczeniu maszynowym. ... 8 Klasyfikator 1-nn i k-nn. 9 Podsumowanie i przykłady zastosowań. dr](https://reader036.vdocuments.site/reader036/viewer/2022071513/6133f644dfd10f4dd73b6d7e/html5/thumbnails/8.jpg)
Rysunek: Uczenie na przykładzie algorytmu
dr Przemysław Juszczuk Systemy uczące się – wykład 1
![Page 9: Systemy uczące się – wykład 1 · 2018. 10. 12. · 1 Sztuczna inteligencja w uczeniu maszynowym. ... 8 Klasyfikator 1-nn i k-nn. 9 Podsumowanie i przykłady zastosowań. dr](https://reader036.vdocuments.site/reader036/viewer/2022071513/6133f644dfd10f4dd73b6d7e/html5/thumbnails/9.jpg)
Przykłady uczenia się
gra w grę - uczenie na podstawie wcześniej rozegranych partii -modyfikacja pewnej funkcji oceniającej;diagnostyka medyczna - uczenie na podstawie poszerzenia zestawudostępnych danych;klasyfikacja - problem klasyfikacji obiektów pojawiających się wsystemie;kierowanie pojazdem.
Motywacja uczenia się
złożone problemy, dla których konieczne może okazać się podejścieniedeterministyczne;dążenie do maksymalnej autonomiczności ze strony systemów;analiza, klasyfikacja i odkrywanie zależności w złożonych zbiorachdanych.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
![Page 10: Systemy uczące się – wykład 1 · 2018. 10. 12. · 1 Sztuczna inteligencja w uczeniu maszynowym. ... 8 Klasyfikator 1-nn i k-nn. 9 Podsumowanie i przykłady zastosowań. dr](https://reader036.vdocuments.site/reader036/viewer/2022071513/6133f644dfd10f4dd73b6d7e/html5/thumbnails/10.jpg)
Rodzaje systemów uczących się
metoda reprezentacji wiedzy - wybór wewnętrznej reprezentacjidanego problemu z uwzględnieniem dziedziny zastosowania systemu,możliwości wykorzystania wiedzy środowiskowej, prostotyprzekształcenia;sposób używania wiedzy/umiejętności - powiązany z reprezentacjąwiedzy oraz celem, jakiemu ma służyć - np. klasyfikacja lubaproksymacja;źródło i postać informacji trenującej - uczenie nadzorowane oraznienadzorowane (gdzie w pierwszym przypadku dostępna jestinformacja wyjściowa odpowiadająca zestawowi zmiennychwejściowych, natomiast w drugim przypadku uczenie możliwe jesttylko na podstawie pewnego zestawu wektorów wejściowych);mechanizm nabywania wiedzy/umiejętności- wyznaczany najczęściejprzez zastosowaną metodę reprezentacji wiedzy - np. indukcja, czyliuogólnianie zdobywanej wiedzy.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
![Page 11: Systemy uczące się – wykład 1 · 2018. 10. 12. · 1 Sztuczna inteligencja w uczeniu maszynowym. ... 8 Klasyfikator 1-nn i k-nn. 9 Podsumowanie i przykłady zastosowań. dr](https://reader036.vdocuments.site/reader036/viewer/2022071513/6133f644dfd10f4dd73b6d7e/html5/thumbnails/11.jpg)
Dziedziny pokrewne
teoria prawdopodobieństwa;teoria informacji;logika formalna;statystyka;teoria sterowania;psychologia;neurofizjologia.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
![Page 12: Systemy uczące się – wykład 1 · 2018. 10. 12. · 1 Sztuczna inteligencja w uczeniu maszynowym. ... 8 Klasyfikator 1-nn i k-nn. 9 Podsumowanie i przykłady zastosowań. dr](https://reader036.vdocuments.site/reader036/viewer/2022071513/6133f644dfd10f4dd73b6d7e/html5/thumbnails/12.jpg)
Sztuczna inteligencja - SI
system, który myśli jak człowiek;system, który myśli racjonalnie;
Test Turinga
Udział bierze dwóch graczy: sędzia (C) i poddawany testowi (A);Gracze nie kontaktują się w ze sobą inaczej niż przy pomocyklawiatury;Pytania zadaje sędzia, a gracz A odpowiada na nie;Gracz C nie powinien byc ekspertem w dziedzinie komputerów;Test ma charakter statyczny i powinien byc powtarzany kilkukrotnie.Sędzia powinien oceniać kilka razy, a w rolę gracza A czasamipowinien wcielić się człowiek.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
![Page 13: Systemy uczące się – wykład 1 · 2018. 10. 12. · 1 Sztuczna inteligencja w uczeniu maszynowym. ... 8 Klasyfikator 1-nn i k-nn. 9 Podsumowanie i przykłady zastosowań. dr](https://reader036.vdocuments.site/reader036/viewer/2022071513/6133f644dfd10f4dd73b6d7e/html5/thumbnails/13.jpg)
Główne działy sztucznej inteligencji
automatyczne wnioskowanie (systemy ekspertowe oraz automatycznedowodzenie twierdzeń);przeszukiwanie - zadanie przeszukiwania dużej przestrzeni rozwiązań;planowanie - znalezienie planu rozwiązania w sposób bardziejefektywny, niż poprzez przeszukiwanie;uczenie się - zachowanie racjonalne systemu oraz dążenie doposzerzania zakresu wiedzy/umiejętności (uczenie się, jakownioskowanie).
dr Przemysław Juszczuk Systemy uczące się – wykład 1
![Page 14: Systemy uczące się – wykład 1 · 2018. 10. 12. · 1 Sztuczna inteligencja w uczeniu maszynowym. ... 8 Klasyfikator 1-nn i k-nn. 9 Podsumowanie i przykłady zastosowań. dr](https://reader036.vdocuments.site/reader036/viewer/2022071513/6133f644dfd10f4dd73b6d7e/html5/thumbnails/14.jpg)
Przekształcenia wiedzy
generalizacja/specjalizacja;abstrakcja/konkretyzacja;podobieństwo/kontrastowanie;wyjaśnianie/predykcja.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
![Page 15: Systemy uczące się – wykład 1 · 2018. 10. 12. · 1 Sztuczna inteligencja w uczeniu maszynowym. ... 8 Klasyfikator 1-nn i k-nn. 9 Podsumowanie i przykłady zastosowań. dr](https://reader036.vdocuments.site/reader036/viewer/2022071513/6133f644dfd10f4dd73b6d7e/html5/thumbnails/15.jpg)
Preprocessing danych
Przetwarzanie wstępne (ang. preprocessing) polega naprzekształceniu danych doprowadzonych do wejścia systemu doformatu akceptowanego przez moduł wnioskowania.
Przetwarzanie końcowe (ang. postprocessing) służy do konwersjidanych wyjściowych z tego modułu do postaci zgodnej z wymogamiukładów zewnętrznych.
Procedura fuzyfikacji (z ang. fuzzification), polega na transformacjiwartości z dziedziny liczb rzeczywistych na wartości z dziedzinyzbiorów rozmytych. W tym celu dokonuje się wyznaczenia wartościfunkcji przynależności dla kolejnych zmiennych lingwistycznych i dladanej rzeczywistej wartości wejściowej.
Defuzyfikacja (ang. defuzzification), zwana również wyostrzaniem,jest przekształceniem odwrotnym do rozmywania, czylitransformacją informacji zawartej w zbiorze rozmytym do postacipojedynczej wartości (crisp value)
dr Przemysław Juszczuk Systemy uczące się – wykład 1
![Page 16: Systemy uczące się – wykład 1 · 2018. 10. 12. · 1 Sztuczna inteligencja w uczeniu maszynowym. ... 8 Klasyfikator 1-nn i k-nn. 9 Podsumowanie i przykłady zastosowań. dr](https://reader036.vdocuments.site/reader036/viewer/2022071513/6133f644dfd10f4dd73b6d7e/html5/thumbnails/16.jpg)
Usuwanie danych odstających. Gdzie pewna wartość ze zbioru danychwejściowych znacznie odstaje od pozostałych. Może się tak zdarzyć naprzykład na skutek błędnie odczytanych wejściowych, przekłamania wzapisie itp.
Rysunek: Dane odstające na wykresie
dr Przemysław Juszczuk Systemy uczące się – wykład 1
![Page 17: Systemy uczące się – wykład 1 · 2018. 10. 12. · 1 Sztuczna inteligencja w uczeniu maszynowym. ... 8 Klasyfikator 1-nn i k-nn. 9 Podsumowanie i przykłady zastosowań. dr](https://reader036.vdocuments.site/reader036/viewer/2022071513/6133f644dfd10f4dd73b6d7e/html5/thumbnails/17.jpg)
Rysunek: Wartości obserwacji w tabeli
dr Przemysław Juszczuk Systemy uczące się – wykład 1
![Page 18: Systemy uczące się – wykład 1 · 2018. 10. 12. · 1 Sztuczna inteligencja w uczeniu maszynowym. ... 8 Klasyfikator 1-nn i k-nn. 9 Podsumowanie i przykłady zastosowań. dr](https://reader036.vdocuments.site/reader036/viewer/2022071513/6133f644dfd10f4dd73b6d7e/html5/thumbnails/18.jpg)
Skalowanie danych
Dane wejściowe należą do przedziału < xmin : xmax >Dane wyjściowe należą do przedziału < ymin : ymax >
y = ymin +(x−xmin)·(ymax−ymin)
xmax−xmin
Sieci neuronowe < −1, 1 >Rozmyte sieci kognitywne < 0, 1 >
Normalizacja danych
Normalizacja danych do przedziału < 0 : 1 >y = x/xmax
W przypadku danych ujemnych : przedział < −xmin, xmax > na< 0, ymax >
Dyskretyzacja danych wejściowych
podział zbioru początkowego na n równych części.podział zbioru w zależności od częstości występowania obiektów.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
![Page 19: Systemy uczące się – wykład 1 · 2018. 10. 12. · 1 Sztuczna inteligencja w uczeniu maszynowym. ... 8 Klasyfikator 1-nn i k-nn. 9 Podsumowanie i przykłady zastosowań. dr](https://reader036.vdocuments.site/reader036/viewer/2022071513/6133f644dfd10f4dd73b6d7e/html5/thumbnails/19.jpg)
Pozyskiwanie wiedzy
Pozyskiwanie wiedzy
Ekspert sam przedstawia wiedzę w postaci reguł (łańcuchprzyczynowo-skutkowy):„Jeśli coś to wtedy...”Zaletą jest czytelność. Liczne wady : czas potrzebny do przekazaniawiedzy, konieczność usystematyzowania wiedzy przez eksperta.Ekspert określa prawdopodobieństwo wpływu poszczególnych cechna daną sytuację. Np. Lekarz określający prawdopodobieństwowystąpienia danego objawu. Zdecydowaną wadą takiego podejściajest błędne szacowanie prawdopodobieństwa + różni eksperci mogąróżnie interpretować pewne fakty.Budowa bazy wiedzy opartej na przykładach. Nie zawsze jednak dladanego problemu istnieje wystarczająca liczba opisanych przypadków.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
![Page 20: Systemy uczące się – wykład 1 · 2018. 10. 12. · 1 Sztuczna inteligencja w uczeniu maszynowym. ... 8 Klasyfikator 1-nn i k-nn. 9 Podsumowanie i przykłady zastosowań. dr](https://reader036.vdocuments.site/reader036/viewer/2022071513/6133f644dfd10f4dd73b6d7e/html5/thumbnails/20.jpg)
Reprezentacje wiedzy
Reprezentacje wiedzy
Regułowe bazy wiedzy - wiedza zapisana w postaci reguł :if obiekt = wartość then regułaTablice decyzyjne - odpowiadają regułom. Zapis w tablicy, gdziejeden wiersz odpowiada jednej regule. Zawiera atrybuty warunkoweoraz atrybut/atrybuty decyzyjne.Język perceptów - (SKRZYDLA : SAMOLOT : X ,MA)Język predykatów - Wyższy(Paweł, Piotr)wiedza niepewna (zbiory przybliżone, sieci Bayesa).
dr Przemysław Juszczuk Systemy uczące się – wykład 1
![Page 21: Systemy uczące się – wykład 1 · 2018. 10. 12. · 1 Sztuczna inteligencja w uczeniu maszynowym. ... 8 Klasyfikator 1-nn i k-nn. 9 Podsumowanie i przykłady zastosowań. dr](https://reader036.vdocuments.site/reader036/viewer/2022071513/6133f644dfd10f4dd73b6d7e/html5/thumbnails/21.jpg)
Podstawowe definicje
Fakt;Przesłanka;Konkluzja;Reguła;Wnioskowanie.
dr Przemysław Juszczuk Systemy uczące się – wykład 1
![Page 22: Systemy uczące się – wykład 1 · 2018. 10. 12. · 1 Sztuczna inteligencja w uczeniu maszynowym. ... 8 Klasyfikator 1-nn i k-nn. 9 Podsumowanie i przykłady zastosowań. dr](https://reader036.vdocuments.site/reader036/viewer/2022071513/6133f644dfd10f4dd73b6d7e/html5/thumbnails/22.jpg)
Dziękuję za uwagę
dr Przemysław Juszczuk Systemy uczące się – wykład 1