Duomenų tyrybos sistemų galimybių tyrimas įvairių
apimčių duomenims analizuoti
Kotryna PaulauskienėVilniaus universiteto Matematikos ir informatikos
instituto doktorantė
Kompiuterininkų dienos – 2013
Tyrimo objektas ir tikslas
• Tyrimo objektas – įvairių apimčių duomenys ir duomenų tyrybos sistemos.
• Tyrimo tikslas – nustatyti, kokių apimčių duomenis per priimtiną laiką geba ištirti populiarios duomenų tyrybos sistemos, sprendžiant klasifikavimo ir klasterizavimo uždavinius.
• Nagrinėjamos ir lyginamos šios atvirojo kodo duomenų tyrybos sistemos:o WEKA (Waikato Environment for Knowledge
Analysis)o KNIME (Konstanz Information Miner),o ORANGE.
WEKA• WEKA – atvirojo kodo programa, realizuota Java
programavimo kalba. • Sistema paprasta naudoti pradedančiajam
vartotojui. WEKA sistemoje realizuoti įrankiai: duomenų pradinis apdorojimas, klasterizavimas, klasifikavimas, loginės taisyklės, regresija, vizualizavimas.
• Sistemos pagrindinė vartotojo sąsaja yra Explorer, be jos dar įgyvendinta darbo eigos moduliu paremta sąsaja Knoweldge Flow ir komandų eilutė.
KNIME• KNIME – vartotojui draugiška atvirojo kodo
duomenų apdorojimo, analizės ir vizualizavimo sistema, kurios veikimas paremtas darbo eigos moduliu.
• Sistemą sudaro virš 1000 mazgų, kuriuos jungiant sukuriamos darbo eigos schemos.
• Sistemoje yra integruoti visi WEKA sistemos moduliai.
ORANGE• ORANGE – atvirojo kodo duomenų analizės
sistema, skirta ir pradedantiesiems, ir ekspertams.
• Sistemoje duomenų tyryba vykdoma naudojant darbų eigos sudarymo įrankį Orange Canvas arba programuojant Phyton kalba.
• ORANGE sistemoje realizuotas duomenų pradinis apdorojimas bei populiarūs klasifikavimo, klasterizavimo, vizualizavimo, loginių taisyklių, mokymo be mokytojo, regresijos metodai.
Tyrime nagrinėjami klasifikavimo ir klasterizavimo algoritmai
Klasifikavimo metodai:• Bajeso klasifikatorius,• k artimiausių kaimynų, • sprendimų medis, • daugiasluoksnis neuroninis tinklas, • atraminių vektorių klasifikatorius. Klasterizavimo metodai:• k vidurkių,• hierarchinis klasterizavimas.
Nagrinėjami matai• Tyrime nagrinėjama klasifikavimo ir
klasterizavimo algoritmų greitaveika naudojant skirtingos apimties duomenų aibes.
• Klasifikavimo kokybei vertinti pasirinkti šie matai:
o ;o ;
kur TT – tikrai teigiamas; TN – tikrai neigiamas; KN – klaidingai neigiamas.
Nagrinėjami matai• Klasterizavimo kokybei įvertinti parinktas
klasterizavimo rezultatų su stebimomis klasėmis patikrinimo metodas (rezultatuose nagrinėjama neteisingai suklasterizuotų stebėjimų dalis procentais).
Tyrimo duomenys• Dirbtinai sugeneruotos įvairių apimčių duomenų
aibės, kurių požymių reikšmės tolygiai pasiskirsčiusios intervaluose (0; 1) ir (0,8; 2,2).
• Požymių skaičius fiksuotas – 100.• Objektų skaičius įvairus – 5000, 15000, 30000,
50000, 150000, 200000, 400000, 600000.• Objektai iš pirmojo intervalo priskiriami I-ajai
klasei, iš antro – II-ajai.
Tyrime naudoto kompiuterio
parametraiEksperimentams atlikti naudotas kompiuteris, kurio pagrindinės charakteristikos yra šios: • operacinė sistema – Windows 8,• operatyvioji atmintis (RAM) – 4 GB,• procesorius – Intel i5-3317U, kurio taktinis
dažnis – 1,7 GHz (Max Turbo dažnis 2,6 GHz).
Atlikus eksperimentus, naudojant kitų charakteristikų kompiuterį, rezultatų skaitinių išraiškų absoliutūs dydžiai pasikeistų, tačiau išliktų toks pat santykis tarp skirtingomis sistemomis gautų rezultatų.
Klasifikavimo rezultatai
Klasifikavimo rezultatai
Klasifikavimo rezultatai
Klasifikavimo rezultatai
Klasifikavimo rezultatai
Klasifikavimo kokybės rezultatai (bendras klasifikavimo tikslumas)
Metodas Klasė ORANGE WEKA KNIME
Naive Bajeso klasifikatorius
I klasė 97,34–97,62 96,48–97,60 92,22–97,50
II klasė
k – artimiausių kaimynų klasifikatorius
I klasė 100 100 100
II klasė
Neuroninis tinklas I klasė - 100 99,66–99,87
II klasė
Sprendimų medis I klasė 99,06–99,89 99,40-99,97 99,02–99,97
II klasė
Atraminių vektorių klasifikatorius
I klasė 100 100 100
Klasterizavimo rezultatai
Klasterizavimo kokybė (neteisingai suklasterizuotų stebėjimų dalis (%))
Objektų skaičius Sistema
WEKA KNIME ORANGE
5000 1,9 1,9 4,0
15000 1,7 1,7 2,0
30000 1,6 1,6 1,9
50000 2,5 2,4 4,3
150000 1,7 1,7 2,0
200000 * 2,3 *
* – trūksta kompiuterio operatyviosios atminties
Išvados• ORANGE sistemą galima naudoti kaip duomenų
tyrybos įrankį analizuojant duomenų aibes iki 50 000 objektų, kai kiekvieną objektą charakterizuoja 100 požymių.
• Galima teigti, kad turint tik ORANGE sistemą, didelės apimties duomenys yra tie, kurie sudaryti iš daugiau nei 50 000 objektų.
• Naudojant didesnės aibės duomenis, vertėtų rinktis WEKA arba KNIME sistemą.
• Analizuojant duomenų aibes iki 50 000 objektų, nustatytas panašus WEKA ir KNIME sistemų skaičiavimo laikas vykdant visus nagrinėtus algoritmus.
Išvados• Analizuojant duomenis WEKA ar KNIME sistemomis,
didesnės nei 200 000 objektų duomenų aibės jau yra didelės apimties, nors naudojant nesudėtingus klasifikavimo metodus pastarosios dvi sistemos pajėgios apdoroti ir didesnės apimties duomenis – 400000 objektų, o KNIME dar ir 600 000 objektų.
• Jei duomenų apimtys yra didesnės, būtinos didelėms duomenų aibėms pritaikytos duomenų tyrybos sistemos, pajėgios pasitelkti lygiagrečiuosius ir paskirstytuosius skaičiavimus.
• Tyrimo rezultatai parodė, kad taikyti klasifikavimo metodai duoda tikslius klasifikavimo rezultatus, sprendžiant testinį uždavinį, kai klasės tik šiek tiek persidengia.
Išvados• Prieš pasirenkant duomenų tyrybos sistemą derėtų
atsižvelgti ne tik į turimų duomenų aibės dydį, bet ir įvertinti pasirinktų algoritmų sudėtingumą, kuris daro įtaką skaičiavimo laikui.
• Ateityje būtina atlikti:o eksperimentinius tyrimus naudojant įvairesnius
duomenis, esančius iš daugiau nei dvi klasės, sudarytus iš įvairių požymių skaičių;
o nagrinėti kitas populiarias duomenų tyrybos sistemas. Tas leistų daryti tikslesnes išvadas apie sistemų galimybes analizuojant įvairių apimčių duomenis.
Ačiū už dėmesį.