fis - dinamički prilagođavajući parametri modela bp neuralnih mreža

Model BP neuralne mreže s dinamički prilagođavajućim parametrima te njegova primjena pri predviđanju naftnih rezervi

ZAVOD ZA INDUSTRIJSKO INŽENJERSTVO I MANAGEMENTFLEKSIBILNI I INTELIGENTNI SUSTAVI

U Rijeci, 31.01.2012. Vedran Budimir (0069009622)

Kratice:BP (back propagation) – unatražno rasprostiranjeGA (genetic algoritham) – genski algoritamSA (simulated annealing) – simulacija žarišnih točakaBPNN (error back propagation neural network) – neuronske mreže s unatražnim rasprostiranjem greškeANN (artifical neural networks) – umjetne neuronske mreže



1. Uvod

Umjetne neuronske mreže (ANN) – sposobnost nelineranog mapiranja, generalizacije, samoorganizacije i samoučenjaNeuronska mreža bez povratne veze s unatražnim rasprostiranjem greške (BPNN) danas je najvjerojantije najpopularniji model umjetnih neuronskih mreža (ANN).



Tipični BP ANN model

1. Uvod

Problemi koji karakteriziraju BPNN:1. koristeći metodu spuštanja gradijenta za optimizaciju ciljane funkcije izračun može preći preko ili oscilirati između optimuma2. BPNN je osjetljiva na izbor topologije i veličine3. konvergercija BPNN je osjetljiva na početnu selekciju značajki4. BP algoritmi prilagođavaju značajke i njihove sklonosti prema određenim pravilima



2. Što je to unatražno rasprostiranje greške?

Sve ANN mreže moramo trenirati, odnosno učiti ih. Jedan od pristupa za treniranje ANN mreža je takozvani ”error back propagation learning“ metoda, odnosno metoda u kojem se poznata greška na izlaznom sloju neurona inverznim putem transformira u grešku na izlazima prethodnog sloja.Osnovni princip je da se na osnovu izračunate greške u posljednjem sloju modificiraju koeficijenti tog sloja, a zatim i svih slojeva ispod njega, znači utjecaj izlazne greške inverznim putem svodimo na korekciju koeficijenata pojedinih slojeva neurona.



3. Model BP neuronske mreže s dinamički prilagođavajućim parametrima

Model ovakve mreže dobiti ćemo spajanjem genskih algoritama (GA), modela simulacije žarišnih točaka (SA) i BPNN mreža u jednu cijelinu radi neutraliziranja nedostataka jednog modela pomoću zasluga drugog modela.



GA+SA+BPNN=učinkovitiji rezultat


GA – globalni postupak pretraživanja koji pretražuje jednu populaciju, te prema najboljim rezultatima stvara novu populaciju. Postupak se kontinuirano ponavlja i usmjeren je prema području s najboljim rezultatima do tada. SA – metodom simulacije žarišnih točaka izbjegava se mogućnost zarobljavanja u lokalnom minimumu, odnosno dolazi se do globalnog minimuma puno brže.BPNN – model pomoću kojeg mrežu treniramo odnosno učimo.

Pomoću ova tri modela stvara se hibirdni algoritam pomoću kojeg se optimizira struktura mreže te prijenos funkcija i vrijednosti značajki.Korištenjem GA modela optimiziramo ulazne i skrivene slojeve, prijenos funkcija i vrijednost značajki BP mreže, a zatim se pomoću SA modela dobivaju bolje značajke i svojstva te izbjegava zarobljavanje u lokalnom minimumu. Na kraju se pomoću BPNN modela greška na izlazu reducira, odnosno smanjuje na najmanju moguću mjeru.




GA-SA-BPNN algoritam nije jednostavna kombinacija ova tri zasebna modela nego je to međusobna integracija sva tri modela. Dinamički prilagođavajući parametri GA-SA-BPNN algoritma kreću simultano od velikog broja početnih točaka da bi pronašli grupu čvorova u području riješenja, konstruirali konstantno razvijajuću populaciju i kombinirali nasumično i usmjereno pretraživanje radi postizanja ‘’win-win’’ situacije. Ovakav pristup može osigurati kako preciznost mreže tako i značajno povećati brzinu modela.





Dijagram toka pristupa međusobnoj integraciji GA-SA-BPNN algoritma

4. Primjena pri predviđanju naftnih rezervi

Tehnike predviđanja naftnih rezervi imaju veliki utjecaj na istraživanje i razvoj naftnih i plinskih polja. Pomoću njih se dobivaju vjerodostojni rezultati o dubini rezervoara naftnih i plinskih polja, njihovoj debljini i fizikalnim svojstvima, a koristeći sezmičke podatke i prateći horizontalnu distribuciju rezervoara.Tehnika predviđanja pomoću ANN obično daje rezultate koji su statistički mnogo značajniji nego bilo koja druga konvencijonalna metoda (npr. multivarijantna regresija). Da bi prikazali uspješnost modela BP neuronske mreže s dinamičkim prilagođavajućim parametrima izvršit ćemo jednostavnu simulaciju.Za predviđanje debljine rezervoara kao glavni podatci koriste se informacije dobivene geološkim mjerenjima. Koristi se preko 50 karakteristika koje su dobiveni specifičnim mjerenjem geometrijskih, kinematičkih, dinamičkih ili statističkih značajki. Neki od tih podataka nemaju odgovarajuću poveznicu s debljinom rezervoara, dok drugi imaju, što rezultira ponavljajućim i suvišnim informacijama. Zbog svega toga dolazi do loših rezultata prilikom predviđanja debljine rezervoara pa je potrebno dobivene podatke optimizirati.




Optimizacija dobivenih podataka će se izvršiti pomoću šest algoritama ANN modela i to:1. Momentum with adaptive learning rate BP algoritam2. GA-SA algoritam3. GA-BP algoritam4. SA-BP algoritam5. GA-SA-BP algoritam s čvrstom strukturom6. GA-SA-BP algoritam s dinamički prilagođavajućim parametrima

Za simulaciju će se upotrijebiti 15 uzoraka tla dobivenih u određenom vremenskom okviru iz 15 različitih bušotina. Vrijednosti geoloških mjerenja će se koristiti kao ulazni podatci, a debljina rezervoara će biti ciljani rezultat. Podatci iz 12 od 15 bušotina poslužiti će za treniranje odnosno učenje ANN, a preko podatka za ostale 3 bušotine će se izvršiti provjera uspješnosti.




Provođenjem simulacije dobiveni su sljedeći rezultati:



Analizom i usporedbom dobivenih rezultata uočava se da je GA-SA-BP algoritam s dinamički prilagođavajućim parametrima imao bolje generiranje i bolju preciznost.

5. Zaključak

Korištenjem algoritma koji kombinira GA, SA i BP omogućavajući da svaki od njih izvršava određeni dio u optimizaciji dobivamo ‘’win-win’’ situaciju. Budući da GA-SP-BP algoritam s dinamički promjenivim parametrima upotrebljava GA za istraživanje populacije, SA za istraživanje vjerojatnosti kombinacija, te nasumičnom vezom GA, SA i BP usmjernog traženja jednostavnije je i lakše doći do globalne optimizacije.Relativni parametar u dizajnu BP mreža će se prilagoditi kako bi se optimizirala struktura topologije, prijenos funkcija baziran na jednostavnim znakovima u procesu učenja, a to uvelike može smanjiti subjektivnost i dovesti do najjednostavnije strukture mreže s određenom preciznošću te ojačati gensku suradnju mreže.



fis - dinamički prilagođavajući parametri modela bp neuralnih mreža

Documents