estimator fungsi pdfebook.repo.mercubuana-yogya.ac.id/fti/materi20151/kpp... · 2018. 5. 9. ·...
TRANSCRIPT
![Page 1: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/1.jpg)
Pertemuan 4
1
ESTIMATOR FUNGSI PDF
![Page 2: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/2.jpg)
Bangkitkan data 2 dimensi sebanyak N = 500 yang terdistribusi
Gaussian N(m,S) dan rerata m = [0 0]T dan kovarian
dengan
Plot data yg dibangkitkan tsb, pengertian apa yg bs ditarik dr bentuk
sebaran datanya?
2
![Page 3: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/3.jpg)
Ada 8 matriks kovarian yg berbeda, maka akan di-plot 8 kelompok
data dan akan dicoba untuk dilihat bgmn sebaran datanya. Untuk
kepentingan pembangkitan data akan digunakan dua fungsi yg built
in Matlab yaitu fungsi randn dan fungsi mvnrnd.
◦ Untuk matriks kovarian yg pertama dpt dibangkitkan data
menggunakan script sbb:
3
![Page 4: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/4.jpg)
Untuk menggambar (plotting) sebaran datanya, gunakan script
berikut:
dan hasilnya adl sbb:
4
-6 -4 -2 0 2 4 6
-6
-4
-2
0
2
4
6
10
01
0
0
S
m
(a)
![Page 5: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/5.jpg)
Gunakan cara yg sama dgn cara sebelumnya utk plotting sebaran
data dgn kovarian yg selanjutnya.
5
2.00
02.0
0
0
S
m
-6 -4 -2 0 2 4 6
-6
-4
-2
0
2
4
6
(b)
![Page 6: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/6.jpg)
Untuk rerata m dan matriks kovarian berikut, maka
6
20
02
0
0
S
m
-6 -4 -2 0 2 4 6
-6
-4
-2
0
2
4
6
(c)
![Page 7: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/7.jpg)
Untuk rerata m dan matriks kovarian berikut, maka
7
20
02.0
0
0
S
m
-6 -4 -2 0 2 4 6
-6
-4
-2
0
2
4
6
(d)
![Page 8: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/8.jpg)
Untuk rerata m dan matriks kovarian berikut, maka
8
2.00
02
0
0
S
m
-6 -4 -2 0 2 4 6
-6
-4
-2
0
2
4
6
(e)
![Page 9: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/9.jpg)
Untuk rerata m dan matriks kovarian berikut, maka
9
15.0
5.01
0
0
S
m
-6 -4 -2 0 2 4 6
-6
-4
-2
0
2
4
6
(f)
![Page 10: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/10.jpg)
Untuk rerata m dan matriks kovarian berikut, maka
10
25.0
5.03.0
0
0
S
m
-6 -4 -2 0 2 4 6
-6
-4
-2
0
2
4
6
(g)
![Page 11: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/11.jpg)
Untuk rerata m dan matriks kovarian berikut, maka
11
25.0
5.03.0
0
0
S
m
-6 -4 -2 0 2 4 6
-6
-4
-2
0
2
4
6
(h)
![Page 12: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/12.jpg)
Jika dua koordinat x tdk terkorelasikan (12 = 0) dan varians-nya
sama, maka vektor-vektor data terkumpul dgn btk speris (lingkaran).
Pd contoh di atas adl gambar (a) sampai (c).
Jika dua koordinat x tdk terkorelasikan (12 = 0) dan varians-nya
tidak sama, maka vektor-vektor data terkumpul dgn btk elips.
Koordinat dgn varians terbesar bersesuaian dng sumbu mayor
elips, sedangkan koordinat dgn varians terkecil bersesuaian dgn
sumbu minornya. Juga terlihat bahwa sumbu mayor dan minor elips
sejajar dengan sumbu-sumbu koordinat. Pd contoh di atas adl
gambar (d) sampai (e).
12
![Page 13: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/13.jpg)
Jika dua koordinat x terkorelasikan (12 0), maka vektor-vektor data
terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor
elips tidak sejajar dengan sumbu-sumbu koordinat. Sudut rotasi
terhadap sumbu bersesuaian dengan nilai 12 (pd contoh di atas adl
gambar (f) sampai (h)). Pengaruh nilai 12, positif atau negatif,
diperlihatkan pada gambar (g) dan (h).
Salah satu masalah dlm praktek adl bhw fungsi pdf yg menggambarkan
distribusi data dlm suatu kelas tdk diketahui dan hrs diestimasi
menggunakan data pelatihan. Pendekatan yg bisa digunakan adl dgn
mengasumsikan bhw pdf mpy btk fungsional khusus namun blm
diketahui nilai parameter-parameternya. Misalnya, diketahui bhw pdf-
nya berbentuk Gaussian namun blm diketahui nilai rerata dan/atau
matriks kovarian-nya.
13
![Page 14: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/14.jpg)
Metode utk estimasi fungsi pdf salah satunya adl teknik maximum likelihood. Dgn berfokus pd pdf terdistribusi Gaussian (Normal) dan asumsi terdapat N data dengan xi Rℓ, I = 1,2,…,N, maka nilai rerata (m) dan matriks kovarian (S) dpt dicari dengan formula:
Contoh
Bangkitkan 50 vektor data 2 dimensi dgn distribusi Gaussian N(m,S) dgn
Kemudian estimasi rerata dan matriks kovarian-nya lalu bandingkan, apa komentar ttg hasil estimasi tsb?
14
![Page 15: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/15.jpg)
Penyelesaian
Utk membangkitkan 50 vektor data dgn rerata dan matriks kovarian pd
soal dpt digunakan script matlab berikut:
Hasilnya disimpan dlm matriks X.
Dari 50 vektor data yg telah dibangkitkan td mk akan dilakukan langkah
balik utk mencari rerata (m) dan matriks kovarian (S) kmd akan
dibandingkan apakah hasilnya sama dgn yg digunakan utk
membangkitkan data tsb. Implementasi formula utk mencari rerata m
dpt menggunakan sintaks:
rerata = (1/50)*sum(X)
15
![Page 16: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/16.jpg)
Dan hasilnya adl:
rerata = [2.0495 -1.9418]
Utk mencari matriks kovarian dpt digunakan sintaks sbb:
Dan hasilnya adl:
Bandingkan dgn matriks kovarian yg digunakan utk membangkitkan data yaitu
Mengapa demikian?
16
2298.00885.0
0885.08082.0S
3.02.0
2.09.0S
![Page 17: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/17.jpg)
Tugas 1
Ulangi pertanyaan pd contoh, namun utk kali ini gunakan jumlah
vektor data N = 500. Bandingkan dgn hasil sebelumnya, dan
tariklah kesimpulan.
Kumpulkan pada tatap muka selanjutnya dalam bentuk :
◦ tulisan tangan script pogram
◦ print out hasil eksekusi
◦ kesimpulan yg dpt diambil.
17
![Page 18: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/18.jpg)
Terdpt N data dlm ruang berdimensi l yg distribusi statistiknya tdk
diketahui. Dgn teknik kNN dpt dilakukan hal berikut:
Pilih sebuah nilai k
Hitung jarak antara x dgn semua data xi, i = 1, 2,…,N. Dpt
digunakan jarak Euclidean atau Mahalanobis
Temukan sejumlah k titik-titik terdekat (k-nearest points) ke x
Hitung volume V(x) dimana titik-titik yg terdekat tsb berada
Hitung estimasi pdf menggunakan
18
![Page 19: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/19.jpg)
Jika digunakan jarak Euclidean dan jarak antara titik k-terjauh
dgn x adl , maka volume V(x) ditentukan sbb:
V(x) = 2 (ruang 1 dimensi)
V(x) = 2 (ruang 2 dimensi)
V(x) = (4/3)3 (ruang 3 dimensi)
Contoh
Bangkitkan serangkaian data (N=1000) dan gunakan teknik kNN utk
estimasi pdf-nya dengan k = 21
19
![Page 20: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/20.jpg)
Penyelesaian
Utk membangkitkan data gunakan script berikut.
Misalkan akan dilakukan pendekatan utk mencari pdf pd nilai
x[-5,5] menggunakan estimator kNN dgn k=21. Maka akan dicari
21 titik dlm rentang x tsb kmd ditentukan pdf-nya. Dalam hal ini
akan digunakan jarak Euclidean, dan vektor data hanya berdimensi
1 saja.
20
![Page 21: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/21.jpg)
21
![Page 22: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/22.jpg)
Hasilnya adl:
22
-5 -4 -3 -2 -1 0 1 2 3 4 50
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
![Page 23: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/23.jpg)
Tugas 2
Modifikasilah script di atas untuk mencari pdf jika vektor datanya
dua dimensi.
23
![Page 24: ESTIMATOR FUNGSI PDFebook.repo.mercubuana-yogya.ac.id/FTI/materi20151/KPP... · 2018. 5. 9. · terkumpul dgn btk elips dan terlihat bahwa sumbu mayor dan minor elips tidak sejajar](https://reader035.vdocuments.site/reader035/viewer/2022062608/607f0489c6395d1a2c60d9c9/html5/thumbnails/24.jpg)
An Introduction to Pattern Recognition: A Matlab Approach,
2010, Sergios Theodoris, Elseivier Inc.
Pattern Classification, 2000, Richard O Duda, John Wiley &
Son.
24