objektklassfizierung mittels adaboost-algorithmusubicomp/projekte/master2015... · merkmale...
TRANSCRIPT
![Page 1: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/1.jpg)
Objektklassfizierung mittels AdaBoost-Algorithmus
Ronja Güldenring
Master Informatik – Grundseminar
Betreuender Professor: Prof. Dr.-Ing. Meisel
![Page 2: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/2.jpg)
24.11.15 Ronja Güldenring 2
Einführung AdaBoostAnwendungs-
beispieleWeiterer
Projektverlauf
![Page 3: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/3.jpg)
24.11.15 Ronja Güldenring 3
Einführung AdaBoostAnwendungs-
beispieleWeiterer
Projektverlauf
![Page 4: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/4.jpg)
Motivation
• Bachelorarbeit: Arbeit mit mobilen Roboter mit 2D-Laser-Sensor
• Erweiterung meiner Kenntnisse im Bereich Bildverarbeitung
Viele Möglichkeiten in der Robotik
24.11.15 Ronja Güldenring 4
![Page 5: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/5.jpg)
ObjekterkennungEinsatzgebiete
• Große Bedeutung im Bereich der Service-Robotik• Pflegeassitenz• Fahrerassistenz/autonomes Fahren• Chirurgische Assistenz
• Dynamisches Umfeld:• keine vorhersehbaren Abläufe• Sicherheit der Menschen muss
garantiert sein.
• Echtzeitverarbeitung notwendig
• Erkennung von Objekten aus unterschiedlichsten Blickwinkeln
[http://www.br.de/radio/bayern2/gesellschaft/theologik/pflege-roboter-ethik-100~_image-2_-9823676e711b1e60923936e299907dca0d26f166.html]
Ronja Güldenring24.11.15 5
![Page 6: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/6.jpg)
Objekerkennungweitere Beispiele
[https://www.di.ens.fr/~laptev/objectdetection.html]
[http://www.svcl.ucsd.edu/projects/Cascades/]
Gesichtserkennung bei Facebook, bei der Fotografie (Autofokus)
Bildersuche bei Suchmaschinen
Autoregistrierung bei Fahrerassistenz
Ronja Güldenring24.11.15 6
![Page 7: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/7.jpg)
Klassifizierung
• Einordnung in Klassen: Bsp. Objekte als „Stuhl“ identifizieren
• Stühle unterscheiden sich in ihren Merkmalen:• Anzahl der Stuhlbeine• Lehne/keine Lehne• Farbe, Größe, Form• ….
• Bildqualität ist variabel
• Herausforderung: Berücksichtigung aller möglichen Merkmale
• Klassifizierungsalgorithmen:• Neural Networks• Support Vector Machines• Nearest Neighbour• AdaBoost
Ronja Güldenring24.11.15 7
![Page 8: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/8.jpg)
24.11.15 Ronja Güldenring 8
Einführung AdaBoostAnwendungs-
beispieleWeiterer
Projektverlauf
![Page 9: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/9.jpg)
AdaBoostEinleitung
• Starker Klassifikator, der eine Anzahl T von schwachen Klassifikatorenkombiniert
• Lernender Algorithmus:• Trainingsphase• Testphase
• Zweiklassen- oder Mehrklassenprobleme
• „AbaBoost“ wurde 1995 von Freund und Shapire eingeführt
• Seitdem gab es diverse Experimente, Weiterentwicklungen und Anwendungsversuche in diesem Gebiet
Es wurden diverse Varianten des Ursprungsalgorithmus entwickelt
Ronja Güldenring24.11.15 9
![Page 10: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/10.jpg)
Schwacher Lerner/Klassifikator
• Erfolgswahrscheinlichkeit muss minimal besser als die Zufallswahrscheinlichkeit sein
• Ist die Erfolgsquote kleiner als der Zufall, kann der Ausgang einfach umgedreht werden
Wahrscheinlichkeit darf nicht exakt 0,5 betragen
• Schwache Lerner sollten einfach sein mit geringer Rechenzeit
• Kombination mit anderen Klassifikatorenmöglich:• Neural Network• Support Vector Machine• Histogram of oriented Gradients(HoG)• Schwellwertklassifikator (engl. decision stump)• …
Bsp für Facedetection:• Alle runden Objekte• Alle Objekte, die sich in der oberen
Hälfte des Bildes befinden• Alle Objekte die einer definierten
Farbpalette entsprechen• Alle Objekte mit weißem Balken• ….
Ronja Güldenring24.11.15 10
10,5
Schwacher Klassifikator
Starker Klassifikator
![Page 11: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/11.jpg)
TrainingsprozessTheorie
• Man benötigt einen repräsentativen Datensatz 𝑥1, 𝑦1 , … , (𝑥𝑚, 𝑦𝑚)• X: Eingänge, Bilder
• Y: Ausgänge, Bilder mit erkannten Objekten
• Iterative Schulung für 𝑡 = 1,… , 𝑇:1. Hinzufügen von schwachem Lerner: ℎ𝑡: 𝑋 → {−1,+1}
2. Die Gewichtung des schwachen Lerners 𝛼𝑡 wird entsprechend der Ausfallwahrscheinlichkeit 𝜖𝑡 angepasst.
3. Die Gewichtung des Datensatzes 𝐷𝑡 wird entsprechend der korrekten Einordnung angepasst
• Finaler AdaBoost-Klassifikator: 𝐻𝑓𝑖𝑛𝑎𝑙 𝑥 = 𝑠𝑖𝑔𝑛 𝛼𝑡ℎ𝑡 𝑥
Ronja Güldenring24.11.15 11
![Page 12: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/12.jpg)
Trainingsprozessvisuelles Beispiel
[Freund, Shapire Tut]
Ronja Güldenring24.11.15 12
![Page 13: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/13.jpg)
GeneralisierungsfehlerOverfitting
• Testen des Algorithmus‘ nach dem Training• Verwendung eines neuen,
repräsentativen Datensatzes
• Bestimmung der Fehlerrate
• Overfitting/Überanpassung ist oft ein Problem bei lernenden Algorithmen.
https://en.wikipedia.org/wiki/Overfitting
Ronja Güldenring24.11.15 13
![Page 14: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/14.jpg)
GeneralisierungsfehlerAdaBoost
• AdaBoost kann sich überanpassen
• ABER: Experimente zeigten, dass Adaboost robust gegen Overfitting ist.• [Shapire 1999]
[Shapire 1999]
Ronja Güldenring24.11.15 14
![Page 15: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/15.jpg)
Varianten
• Asymmetric AdaBoost• Asymmetrische Gewichtung der Trainingsbeispiele positive
Trainingsbeispiele werden stärker berücksichtigt
• RealBoost• Rückgabewerte der schwachen Lerner sind kontinuierliche Werte, d.h. sie
geben die Wahrscheinlichkeit an, mit der sich Daten in einer Klasse befinden.
• Gentle AdaBoost, LUT AdaBoost
• LogitBoost
….
24.11.15 Ronja Güldenring 15
![Page 16: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/16.jpg)
24.11.15 Ronja Güldenring 16
Einführung AdaBoostAnwendungs-
beispieleWeiterer
Projektverlauf
![Page 17: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/17.jpg)
AnwendungsbeispieleFace Detection [Viola, Jones 2004]
• Weak Learner: Schwellenwert-Klassifikator durch Rechteck-Merkmale (Haar-like-Feature)
• Integralbild• Einführung eines Kaskaden-
Detektors.• Mehrere AdaBoost-Klassifier
(bestehend aus ca. 20+ weak Lerners) werden aneinandergereiht
• Schnelleres Aussortieren von Nicht-Gesichtern
• Erhöht die Rechenzeit enorm
• 95 % Erkennungsrate
Ronja Güldenring24.11.15 17
![Page 18: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/18.jpg)
Anwendungsbeispielevehicle detection based on CNN features [Song, Rui, Zha, Wang, Fang 2015]
• Convolutional Neural Networks nur zur Extraktion von Merkmalen verwendet
effektive Merkmale
• Weak Learners: definierte Grenze, ob Merkmal erfüllt ist oder nicht
• Schnellere Perfomance
• Geringere Fehlerrate
Ronja Güldenring24.11.15 18
![Page 19: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/19.jpg)
AnwendungsbeispieleFacial Expression Recognition [Chen, Ariki, Takiguchi 2013]
• 3D-Model: 8-bit Graubild
reduziert Verarbeitungskosten
• Mehrklassenproblem• Neutral, Happy, Anger, Sadness…
• LUT (Look-Up-Table) Adaboost• Speichert zusätzlich
Wahrscheinlichkeiten in einer Look-Up-Table, dass Klasse in Frage kommt.
Gut geeignet für Mehrklassenprobleme (> 3 Klassen)
Ronja Güldenring24.11.15 19
![Page 20: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/20.jpg)
AnwendungsbeispieleHand gesture recognition for human-robot-interaction[Nguyen, Pham, Dong, Nguyen, Tran 2011]
• „Vokabeln“ für Gesten
• Weak Learners:Basieren auf Haar-like Features
• Kaskaden-AdaBoost-Classifier
Ronja Güldenring24.11.15 20
![Page 21: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/21.jpg)
24.11.15 Ronja Güldenring 21
Einführung AdaBoostAnwendungs-
beispieleWeiterer
Projektverlauf
![Page 22: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/22.jpg)
Weiterer Projektverlauf
• Weitere Recherche:• Overfitting
• Varianten des Ursprungsalgorithmus
• mögliche schwache Learner
• Formeln besser verstehen
• Tieferer Einstieg durch erste Implementierung:• Welche Objektklassen?
• Welche Entwicklungsumgebung?
• 2D/3D-Daten?
• Trainings- und Testdaten aus Datenbanken beschaffen.
Ronja Güldenring24.11.15 22
![Page 23: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/23.jpg)
24.11.15 Ronja Güldenring 23
KaffekanneKerze
Apfel
Dreckiges Geschirr
Tasse TischStuhl
![Page 24: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/24.jpg)
Konferenzen
• ICPR: International Conference on Pattern Recognition
• IJCAI: International Joint Conference on artificial intelligence
• ECAI: European Conference on Artificial Intelligence
• SIGGRAPH: ACM Special Interest Group on Graphics
• SIGCHI: ACM Special Interest Group on Computer-Human-Interaction
24.11.15 Ronja Güldenring 24
![Page 25: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/25.jpg)
Quellenangaben
[Freund, Shapire Tut] A Tutorial on Boosting, Freund and Shapire[Shapire 1999] Robert E. Shapire. A Brief Introduction to Boosting. Proceeding ofthe Sixteenth International Joint Conference on Artificial Intelligence, 1999
[Viola, Jones 2004] P. Viola, M. Jones. Robust Real-Time Face Detection. International Journal of Computer Vision, 2004
[Song, Rui, Zha, Wang, Fang 2015] X. Song, T. Rui, Z. Zha, X. Wang, H. Fang. The AdaBoost algorithm for vehical detection based on CNN features. ACM-Library, 2015
[Chen, Ariki, Takiguchi 2013] J.Chen, Y. Ariki, T. Takiguchi. Robust Facial Expression Recognition Using 3D Average Face an Ameliorated AdaBoost. ACM Library, 2013
[Nguyen, Pham, Dong, Nguyen, Tran 2011] T.Nguyen, N. Pha,. V. Dong, V. Nguyen, T. Thran. A fully automatic hand gesture recognition system for human – robotinteraction. ASM Lirary, 2011
Ronja Güldenring24.11.15 25
![Page 26: Objektklassfizierung mittels AdaBoost-Algorithmusubicomp/projekte/master2015... · Merkmale (Haar-like-Feature) •Integralbild •Einführung eines Kaskaden-Detektors. •Mehrere](https://reader030.vdocuments.site/reader030/viewer/2022040712/5e159a4efe8a3668757a54c3/html5/thumbnails/26.jpg)
Fragen?
Ronja Güldenring24.11.15 26