1

OPTIMIZAVIMO METODAI

VADAS

Optimizavimo udaviniai. Ekonomikoje,valdyme, konstrukcij projektavime ir kitur danai tenka rinktis vien i keli galim sprendini. Pavyzdiui, monje reikia taip organizuoti gamyb, kad bt gaunamas didiausias pelnas. Sprendini yra daug. Kiekvienas turi tenkinti tam tikrus reikalavimus. Pavyzdiui, gamyb riboja turimi itekliai, techniniai, estetiniai ir kitokie reikalavimai. Sprendinys veiklos parametr rinkinys, tenkinantis keliamus reikalavimus, vadinamas leistinuoju vektoriumi. Siekiamas tikslas nusako kriterij poym, pagal kur vertinami sprendiniai. Udavinys rasti optimal (geriausi) sprendin vadinamas optimizavimo udaviniu. Matematinis modelis. Tam, kad optimizavimo udavin bt galima skmingai sprsti matematiniais metodais, reikia sudaryti to udavinio matematin model. Matematinio modelio universalaus apibrimo nra. Pirmiausiai formuluojamas ekonominis udavinys, kreipiant dmes tik esminius faktorius (pavyzdiui, aliavas, turimus rengimus ir pan.), kitais (pavyzdiui, keliamu triukmu, vadov charakteriais ir pan.) nesidomint. Po to matematiniais simboliais uraomi apribojimai ir kriterijus. Galiausiai formuluojamas matematikos udavinys matematinis modelis. Matematinis sprendimo metodas laikomas inomu, jeigu yra nustatyta operacij, kurias reikia atlikti su modelio parametrais, sistema modelio algoritmas.

Matematinio modelio pavyzdys (projektavimo udavinys). Reikia suprojektuoti konstrukcij i dviej vienod standi arnyrikai sujungt vamzdi, kuri galai nejudamai pritvirtinti prie atramos. Atstumas tarp tvirtinimo tak lygus l2 cm. Konstrukcija turi bti ne auktesn kaip h cm, o vamzdi vidutinio skersmens (tarp sieneli vidurio tak) santykis su sieneli storiu turi bti ne didesnis kaip a . Konstrukcija turi nesulinkdama ilaikyti apkrov F ir bti maiausios mass. Konstrukcijos auktis, vamzdi vidutinis skersmuo ir sieneli storis (centimetrais) ymimi 1x , 2x , 3x .

Slygos: 01 >x , 02 >x , 03 >x ,

hx 1 ,

ax

x

3

2, t. y. 032 axx ,

kad ilaikyt apkrov F:

32122

15,0 xxbxlx +F , kad nesulinkt:

( ) ( )2322212215,0 xxxcxlx ++F . Mas:

( ) 221324 lxxxXf += . ia b , c ir (tankis) inomi skaiiai. Matematinis modelis: rasti

22132min lxxx + ,

kai hx 1 ,

2

032 axx ,

05,0 321221 + xxbxlxF ,

( ) ( ) 05,0 232221221 ++ xxxcxlxF , 01 >x , 02 >x , 03 >x .

Kadangi udavinio formuluotje yra netiesini funkcij, jis vadinamas netiesinio programavimo udaviniu. iame kurse nagrinjami netiesinio programavimo metodai.

1. BTINOS ALGEBROS IR ANALIZS INIOS

1.1. VEKTORIAI

Nagrinjami tik standartins Euklido nE erdvs vektoriai ( )nxxxX ,,, 21 K= .

Erdvs baz standartin: ( )0,,0,0,11 K=E , ( )0,,0,1,02 K=E ,

KKKKKKK

( )nEn ,,0,0,0 K= , todl vektori X sudaranius skaiius 1x , 2x , K , nx galima vadinti vektoriaus koordinatmis. Skaliarin daugyba standartin: jeigu ( )nxxxX ,,, 21 K= , ( )nyyyY ,,, 21 K= , tai

nn yxyxyxYX +++= K2211, , o vektoriaus X ilgis (norma):

222

21, nxxxXXX +++== K ,

nulinis vektorius: ( )0,,0,0,0 K= .

Jeigu ni ii yx , tada raoma YX . Vektoriai eiluts ir vektoriai stulpeliai ymimi vienodai, t. y. ( )nxxxX ,,, 21 K= ir

=

nx

x

x

XL

2

1

.

Apibrimas. Sakoma, kad vektori seka ( )knkkk xxxX ,,, 21 K= , 1k ,

konverguoja vektori ( )nxxxX 002010 ,,, K= ir raoma 0lim XX kk = arba 0XX kk , kai 0lim 0 = XX kk .

Aiku, taip yra tada ir tik tada, kai ni ikik xx 0lim = .

Teorema. Jeigu 0lim XX kk = , 0lim YYkk = ,

tai 00 ,,lim YXYX kkk = .

3

1.2. EUKLIDO ERDVS AIBS

1 apibrimas. Kai 0> , erdvs nE tak aib ( ) { } ( ) AXU , . 3 apibrimas. Takas nX R vadinamas aibs A kratiniu taku, jeigu kiekvienoje jo

aplinkoje yra bent vienas aibs A takas ir bent vienas takas, nepriklausantis aibei A , t. y. jeigu

0> ( ) 0, / AXU , ( ) 0, C / AXU . Aibs A vis kratini tak aib A vadinama aibs A kratu arba siena.

4 apibrimas. Aib, kurios visi takai yra vidiniai, vadinama atvirja. 5 apibrimas. Takas nX R vadinamas aibs A ribiniu taku, jeigu kiekvienoje jo

aplinkoje ( ),XU yra be galo daug aibs A tak. 1 teorema. Takas nX R yra aibs A ribinis takas tada ir tik tada, kai egzistuoja aibs A skirting tak seka, konverguojanti tak X .

6 apibrimas. Aib nS R vadinama udarja, jeigu jai priklauso visi jos ribiniai takai. 2 teorema. Udarj aibi sankirta yra udaroji aib.

7 apibrimas. Kai i R, bai , aib

( )

====

n

j jjnbxaxxxXA

121 :,,, K

(tiesins lygties sprendini aib) vadinama hiperploktuma. 3 teorema. Hiperploktuma yra udaroji aib. Ivada. Tiesini lygi sistemos sprendini aib yra udaroji.

8 apibrimas. Tiesins nelygybs sprendini aib

( )

===

n

j jjnbxaxxxXA

121 :,,, K

vadinama puserdve. 4 teorema. Puserdv yra udaroji aib. Ivada. Tiesini nelygybi sistemos sprendini aib

( )

===

n

j ijijnbxaxxxXA

121 :,,, K

yra udaroji.

1.3. IKILOSIOS AIBS

1 apibrimas. Aib [ ] ( ){ }10:1, +== YXZYX

vadinama atkarpa, jungiania erdvs nR takus X ir Y . 2 apibrimas. Aib nX R vadinama ikilja, jeigu

AYX , [ ] AYX , . 1 teorema. Ikilj aibi sankirta yra ikiloji. 1 pavyzdys. nR ikiloji aib. 2 pavyzdys. 0/ ikiloji aib.

4

3 pavyzdys. { }X ikiloji aib. 4 pavyzdys. Hiperploktuma ikiloji aib. 5 pavyzdys. Tiesini lygi sistemos sprendini aib ikiloji aib. 3 apibrimas. Aib

===

= =

m

i

m

iiiii iXXA

1 11,0:

vadinama vektori 1X , 2X , K , n

mX R ikiluoju apvalkalu arba ikiluoju briaunainiu. 6 pavyzdys. Ikilasis briaunainis ikiloji aib. 4 apibrimas. Vektorius AX vadinamas aibs A kratutiniu taku, jeigu

AXX 21 , ( )2121 21 XXXXX + ,

t. y. jeigu X nra jokios atkarpos su galais i aibs A vidurio takas. Pavyzdiui, trikampio kratutiniai takai jo virns, skritulio visi j ribojanio apskritimo takai.

2 teorema. Euklido erdvs ikiloji udaroji aprtoji aib turi kratutini tak ir yra j ikilasis apvalkalas.

3 (atskiriamumo) teorema. Jeigu A ir B yra ikilosios neturinios bendr tak erdvs nE aibs, tai

nP R P , AX BY YPXP ,, . I ios teoremos iplaukia, kad egzistuoja tokia hiperploktuma =XP , , vis erdv padalijanti dvi puserdves XP , ir XP , , i kuri vienoje yra aib A , o kitoje aib B .

1.4. KELI KINTAMJ FUNKCIJOS

Nagrinjamos funkcijos ( ) ( )nxxxfXf ,,, 21 K= , nX R . 1 (Vejertraso) teorema. Jeigu funkcija ( )Xf yra tolydioji udarojoje aprtojoje

aibje A , tai AXX maxmin , ( ) ( )minmin XfXfAX = , ( ) ( )maxmax XfXfAX = .

1 apibrimas. Funkcijos ( )Xf gradientu take 0X vadinamas vektorius

( ) ( ) ( ) ( )

=

nx

Xfx

Xfx

XfXf 0

2

0

1

00 ,,, K , ( )nxxxX 002010 ,,, K= .

Gradientas nusako funkcijos greiiausio augimo take 0X krypt ir dyd. 2 apibrimas. Funkcijos ( )Xf lygio paviriumi vadinamas jos apibrimo srities

poaibis, kuriame funkcijos reikm pastovi: ( ) CXf = .

Vektorius ( )0Xf yra statmenas lygio paviriui, einaniam per tak 0X . Pavyzdys. Dviej kintamj funkcijos ( ) 222121 , xxxxf += lygio pavirius (lygio

linija) yra apskritimas Cxx =+ 2221 . Gradientas ( )0Xf yra vektorius, statmenas apskritimo

liestinei take ( )02010 , xxX = . Brinyje pavaizduotas lygio pavirius, kai 8=C , ir

5

gradientas take ( )2,20 =X . 3 apibrimas. Funkcijos ( )Xf Hess matrica vadinama antrj dalini ivestini matrica

( )

( ) ( ) ( )

( ) ( ) ( )

( ) ( ) ( )

=

2

2

2

2

1

2

2

2

22

2

12

221

2

21

2

21

2

H

nnn

n

x

Xfxx

Xfxx

Xf

xx

Xfx

Xfxx

Xfxx

Xfxx

Xfx

Xf

Xf

L

LLLL

L

L

.

Kai funkcija ( )Xf yra du kartus tolydiai diferencijuojama, mirij dalini ivestini reikms nepriklauso nuo diferencijavimo tvarkos. Todl iuo atveju Hess matrica yra simetrin. Toliau ymima: C vis tolydij kokioje nors aibje funkcij aib;

1C vis tolydiai diferencijuojam funkcij aib;

2C vis du kartus tolydiai diferencijuojam funkcij aib. 2 (Teiloro) teorema. Tarkime, kad funkcija ( )Xf yra apibrta atvirojoje ikilojoje aibje S . Jeigu ( ) 1CXf , tai

SXX 0, ( )1,0 ( ) ( ) ( )( ) 0000 , XXXXXfXfXf ++= . Jeigu ( ) 2CXf , tai

SXX 0, ( )1,0

( ) ( ) ( ) ++= 000 , XXXXfXfXf ( ) ( )( ) 0000 ,21 XXXXXHXX + .

ios teoremos lygybs vadinamos Teiloro formulmis. Jos danai uraomos ir tokiu pavidalu:

( ) ( ) ( ) ( )0000 , XXoXXXfXfXf ++= , ( ) ( ) ( ) ( ) ( ) ( )20000000 ,H2

1, XXoXXXXXXXXfXfXf +++= .

4 apibrimas. Funkcija ( ) ( ) ==

= =

n

i

n

j jiijnxxaxxxQXQ

1 121 ,,, K

vadinama kvadratine forma, o

=

nnnn

n

n

aaa

aaa

aaa

A

L

LLLL

L

L

21

22221

11211

vadinama ios kvadratins formos matrica. Jeigu A simetrin matrica, tai ir kvadratin forma vadinama simetrine. Toliau nagrinjamos tik simetrins kvadratins formos. 5 apibrimas. Kvadratin forma ( )XQ ir jos matrica vadinama teigiamai apibrtja, jeigu

X ( ) 0>XQ ; neigiamai apibrtja, jeigu

X ( ) 0

6

neneigiamai apibrtja, jeigu X ( ) 0XQ

ir neteigiamai apibrtja, jeigu X ( ) 0XQ .

Jeigu kvadratin forma yra teigiamai apibrtoji arba neigiamai apibrtoji, ji vadinama apibrtja. Kvadratin forma ( )XQ vadinama neapibrtja, jeigu

YX , ( ) ( ) 0iA , ir neigiamai apibrtoji kai ni ( ) 01 > ii A . 7 apibrimas. Funkcij sistema

( )( )

( )nmmmm

nmm

nmm

xxxx

xxxx

xxxx

,,,

,,,,

,,,,

21

2122

2111

K

LLLLLLLLLLL

K

K

++

++

++

=

=

=

(1)

vadinama funkcini lygi sistemos

( )( )

( ) 0,,,

,0,,,,0,,,

21

212

211

=

=

=

nm

n

n

xxxg

xxxgxxxg

K

LLLLLLLLL

K

K

(2)

sprendiniu kintamj 1x , 2x , K , mx atvilgiu, jeigu (1) lygybes raius (2) lygtis, jos virsta tapatybmis. 8 apibrimas. Determinantas

m

mmm

m

m

x

gx

gx

g

x

gx

gx

gx

gx

gx

g

D

=

L

LLLL

L

L

21

2

2

2

1

2

1

2

1

1

1

vadinamas funkcij ( ) ( )nii xxxgXg ,,, 21 K= Jakobio determinantu arba jakobianu kintamj 1x , 2x , K , mx atvilgiu.

7

4 teorema. Jeigu funkcijos ( )Xg i , mi , yra tolydiai diferencijuojamos kokioje nors tako ( )nxxxX 002010 ,,, K= aplinkoje, i ( ) 00 =Xg i ir jakobianas D take 0X nelygus nuliui, tada kokioje nors tako ( ) mnnmm xxx ++ R,,, 02,01,0 K aplinkoje egzistuoja (2) sistemos tolydusis (1) sprendinys.

1.5. IKILOSIOS IR GAUBTOSIOS FUNKCIJOS

1 apibrimas. Funkcija ( )Xf vadinama ikilja ikilojoje aibje S , jeigu SXX 21 , [ ]1;0 ( )( ) ( ) ( ) ( )2121 11 XfXfXXf ++ .

Jeigu ia nelygyb yra grieta, tai funkcija vadinama grietai ikilja aibje S . Jeigu teisingos prieingos nelygybs, funkcija vadinama atitinkamai gaubtja arba grietai gaubtja. Geometrikai funkcijos ( )Xf ikilumas (gaubtumas) aibje S reikia, kad tos funkcijos grafiko takai, atitinkantys takus atkarpos, jungianios bet kuriuos aibs S takus 1X ir 2X , yra ne aukiau (ne emiau) u styg, jungiani grafiko takus ( )( )11 , XfX ir ( )( )22 , XfX . 1 paveiksle pavaizduotas vieno kintamojo ikilosios funkcijos grafikas, o 2 paveiksle gaubtosios.

1 pav. 2 pav. 1 pavyzdys. Tiesin funkcija ( ) XCXf ,= yra ikiloji ir gaubtoji visoje erdvje nR . 2 pavyzdys. Neneigiamai apibrtoji kvadratin forma ( ) XXAXQ ,= yra ikiloji funkcija, neteigiamai apibrtoji gaubtoji funkcija, teigiamai apibrtoji grietai ikiloji funkcija, teigiamai apibrtoji grietai gaubtoji funkcija. Visus rezultatus apie ikilsias funkcijas lengva pritaikyti gaubtosioms funkcijoms, nes kiekviena gaubtoji funkcija, padauginta i 1 , virsta ikilja. 1 teorema. Jeigu ( )Xf yra ikiloji funkcija ikilojoje aibje S , tai su bet kuriuo R aib

( ){ } = XfSXS : yra ikiloji. Ivada. Jeigu funkcijos ( )Xg i , mi , yra ikilosios ikilojoje aibje S , tai aib

( ){ }0: = XgmiXA i yra ikiloji. 2 apibrimas. Aibje nS R apibrtos funkcijos ( )Xf epigrafu vadinama erdvs

1R +n aib ( ) ( ){ } = XfSXXf R,:,epi .

2 teorema. Ikilojoje aibje apibrta funkcija yra ikiloji tada ir tik tada, kai jos epigrafas yra ikiloji aib. 3 teorema. Ikilojoje aibje S ikiloji funkcija yra tolydioji vidiniuose aibs S takuose. Kratiniame aibs take ikiloji funkcija gali ir nebti tolydioji. Pavyzdiui, vieno kintamojo funkcija

8

( )

( ) SXUX ,0 ( ) ( )XfXf 0 lokaliojo maksimumo taku, jeigu

0> ( ) SXUX ,0 ( ) ( )XfXf 0 . Lokaliojo minimumo ir lokaliojo maksimumo takai vadinami lokaliojo ekstremumo takais. Takas SX 0 vadinamas funkcijos ( )Xf globaliojo minimumo taku aibje S , jeigu

SX ( ) ( )XfXf 0 , ir globaliojo maksimumo taku, jeigu

SX ( ) ( )XfXf 0 . 7 teorema. Ikilosios funkcijos ikilojoje aibje bet kuris lokaliojo minimumo takas yra globaliojo minimumo takas. 8 teorema. Grietai ikiloji funkcija ikilojoje aibje turi tik vien minimumo tak. 9 teorema. gaubtosios funkcijos ikilojoje aibje bet kuris lokaliojo maksimumo takas yra globaliojo maksimumo takas. 10 teorema. Tolydiosios ikilosios funkcijos globaliojo maksimumo takas ikilojoje udarojoje aibje yra tos aibs kratutinis takas.

9

2. NETIESINIO PROGRAMAVIMO UDAVINIAI

2.1. NETIESINIO PROGRAMAVIMO UDAVINIO FORMULUOT

Bendrojo netiesinio programavimo udavinio formuluot tokia. Reikia rasti tok vektori ( ) nn SxxxX R,,, 21 = K , kuris tenkint nelygybi sistem

( )( )

( ) 0,,,

,0,,,,0,,,

21

212

211

nm

n

n

xxxg

xxxgxxxg

K

LLLLLLLLL

K

K

ir lygi sistem ( )( )

( ) ,0,,,

,0,,,,0,,,

21

212

211

=

=

=

nl

n

n

xxxh

xxxhxxxh

K

KKKKKKKKK

K

K

kad funkcija ( ) ( )nxxxfXf ,,, 21 K= gyt maiausi (didiausi) reikm, kai bent viena i funkcij f ; ig , mi ; kh , lk , yra netiesin. Funkcija ( )Xf vadinama tikslo funkcija arba optimalumo kriterijumi, nelygybs

( ) 0Xg i , mi , apribojimais nelygybmis, o lygtys ( ) 0=Xhk , mi , apribojimais lygybmis. Paymjus ( ) ( ) ( ) ( )( )XgXgXgXG m,,, 21 K= , ( ) ( ) ( ) ( )( )XhXhXhXH l,,, 21 K= , udavinys uraomas trumpiau:

( )Xfmin , ( ) XG , ( ) =XH ,

SX . Apribojimus tenkinantis vektorius SX vadinamas leistinuoju vektoriumi arba leistinuoju planu. Leistinasis vektorius funkcijos ( )Xf minimumo takas vadinamas udavinio sprendiniu arba optimaliuoju planu. Vis leistinj vektori aib paymjus A :

( ) ( ){ }== XHXGSXA ,: , udavin galima urayti ir taip: ( )Xf

AXmin .

Daugelio netiesinio programavimo udavini sprendiniams rasti nra metod, todl tenka iekoti lokaliojo minimumo tak. Nagrinjant tokius udavinius, tenka sprsti problemas: 1) sprendinio egzistavimo; 2) sprendinio vienaties; 3) lokaliojo ekstremumo btinj slyg; 4) lokaliojo ekstremumo pakankamj slyg. Pastaba. Jeigu funkcija ( )Xf take *X gyja didiausi reikm aibje A , tai funkcija

( )Xf tame take gyja maiausi reikm. Todl maksimizavimo ir minimizavimo udavinius galima sprsti tais paiais metodais.

10

2.2. KLASIKINIS NESLYGINIO PROGRAMAVIMO UDAVINYS

Nagrinjamas optimizavimo udavinys, kai funkcija ( ) ( )nxxxfXf ,,, 21 K= apibrta visoje erdvje nR , o jos argumentai nra susieti jokiomis papildomomis slygomis (apribojim skaiius yra 0). Tokie udaviniai sprendiami matematinje analizje. 1 apibrimas. Takai, tenkinantys lygi sistem

( ) 0=

jx

Xf, nj ,

vadinami funkcijos ( )Xf stacionariaisiais takais. 1 teorema (btinoji ekstremumo slyga). Jeigu 0X yra funkcijos ( ) 1CXf lokaliojo ekstremumo takas, tai 0X yra funkcijos ( )Xf stacionarusis takas. 2 teorema (pakankamoji ekstremumo slyga). Jeigu 0X yra funkcijos ( ) 2CXf stacionarusis takas ir kvadratin forma

( ) ( ) YXfYYQ ,H 0= yra teigiamai apibrtoji, tai 0X yra funkcijos ( )Xf lokaliojo minimumo takas, o jeigu kvadratin forma ( )YQ yra neigiamai apibrtoji, tai 0X yra funkcijos ( )Xf lokaliojo maksimumo takas. Jeigu kvadratin forma ( )YQ yra neapibrtoji, , tai 0X nra funkcijos ( )Xf , ekstremumo takas.

1 pavyzdys. Rasime tak 30 RX , kuriame funkcija ( ) 2332212221 6422 xxxxxxxXf +++=

gyja maiausi reikm. Yra vienintelis stacionarusis takas ( )3,2,20 =X , , tenkinantis lygi sistem

022 21 =+ xx , 0442 21 =+ xx ,

062 3 =x . Pagal Silvesterio kriterij Hess matrica

( )

=

200042022

H 0Xf

yra teigiamai apibrta. Vadinasi, iekomasis globaliojo maksimumo takas ir yra 0X . 2 pavyzdys. Itekint detali skersmuo yra atsitiktinis dydis, kurio vidurkis nustatomas reguliuojant stakles. Vidutinis kvadratinis nuokrypis yra pastovus (nusakomas stakli tikslumo klass). Atsitiktinio dydio tankis ( )xf yra inomas. Detals skersmuo turi bti leistinajame intervale [ ]21 ; xx . Jeigu 1xx < , detal brokuojama, o jeigu 2xx > , detal apdorojama iki geros. Ruoinio kaina yra q . Vienkartinis detals apdirbimas kainuoja p . Reikia rasti toki reikm, kad N detali gamybos ilaidos bt maiausios.

Brokuot detali skaiiaus vidurkis yra ( )1

0d

x

xxfN , o pakartotinai apdirt detali

skaiiaus vidurkis yra ( )a

x

xxfN2

d (ia a ruoinio skersmuo). Gamybos ilaid vidurkis

( ) ( ) ( )++=a

x

x

xxfNpxxfNqNpP2

1

dd0

.

Stacionarieji takai randami i lygties

11

( ) ( )0dd

2

1

0=

+

a

x

x

xxf

Npxxf

Nq

.

Atveju, kai ( )

( )2

2

2e2

1

=x

xf (normalusis skirstinys),

( ) ( )22

222

1

=

xe

xxf.

Tada ( ) ( ) ( )

=

1 1 1 2

2

0

22 de2

1ddx x x

x

xx

xxf

xxf

.

( )2

2

2

=x

v , xx

v dd 2

= .

( )( )

( ) ( )2

211

2

21

2

21

2

0

22

e2

1elim

21de

21d

==

xx x

Av

A

x

v vxxf

.

Panaiai:

( ) ( )22

2

2

2e2

1d

xx

x

m

xxf

.

Todl ( ) ( )

2

22

2

21

22 ee

=xx

pq , ( ) ( )

qpxx

=

2

21

2

22

22e

,

( ) ( )qp

xx ln2 2212

2 = ,

( )( )qp

xxxx ln22 22112 =+ ,

qp

xx

xx ln2 12

221

+

+=

.

Tai ir yra iekomasis minimumo takas.

2.3. KLASIKINIS SLYGINIO PROGRAMAVIMO UDAVINYS

Klasikiniu slyginio optimizavimo udaviniu vadinamas netiesinio programavimo udavinys, kai visi apribojimai yra lygybs ir j skaiius l yra maesnis u kintamj skaii n :

( )nxxxf ,,,min 21 K ; ( ) 0,,, 211 =nxxxh K , ( ) 0,,, 212 =nxxxh K ,

..................................

( ) 0,,, 21 =nn xxxh K ; nl < .

12

2.3.1. DALIES KINTAMJ PAALINIMO METODAS

is metodas nagrinjamas matematinje analizje. Jo esm tokia. Sakykime, kad lygi sistem

( ) 0,,, 211 =nxxxh K , ( ) 0,,, 212 =nxxxh K ,

..................................

( ) 0,,, 21 =nn xxxh K galima isprsti koki nors kintamj, pavyzdiui, lxxx ,,, 21 K , atvilgiu:

( )nll xxxx ,,, 2111 K++= , ( )nll xxxx ,,, 2122 K++= ,

..................................

( )nllll xxxx ,,, 21 K++= . Apibriama funkcija

( ) =++ nll xxxF ,,, 21 K( ) ( ) ( )( )nllnlllnllnll xxxxxxxxxxxxf ,,,,,,,,,,,,,,,, 2121212211 KKKKK ++++++++=

ir randamas jos minimumo takas ( ) lnnll xxx ++ R,,, ,02,01,0 K . Tada ( ) ( ) ( )( ) nnlnllnlnl xxxxxxxxX R,,,,,,,,,,,, ,01,0,01,0,01,02,01,010 = ++++ KKKKK

yra funkcijos ( )nxxxf ,,, 21 K minimumo takas. io metodo logika nra sudtinga, taiau apribojim sistemos sprendimas danai bna sunkus arba net nemanomas.

2.3.2. KLASIKINIS LAGRANO DAUGIKLI METODAS

Lagranas pasil kit metod slyginiam minimizavimo udaviniui pakeisti neslyginiu. is metodas irgi nagrinjamas matematinje analizje. Sprendiamas klasikinis slyginio programavimo udavinys

( )nxxxf ,,,min 21 K ; ( ) 0,,, 211 =nxxxh K , ( ) 0,,, 212 =nxxxh K ,

..................................

( ) 0,,, 21 =nn xxxh K ; nl < .

Sudaroma Lagrano funkcija ( ) ( ) ( )

=

+=l

iniinln xxxhxxxfxxxL

121212121 ,,,,,,,,,,,,, KKKK .

Jos argumentai l ,,, 21 K vadinami Lagrano daugikliais. Paymima: ( )l ,,, 21 K= . 1 teorema (btinosios minimumo slygos). Jeigu ( )Xf , ( ) 1CXhi , kai li , takas

( )nxxxX 002010 ,,, K= yra funkcijos ( )Xf minimumo takas ir vektoriai ( )0Xhi , li , yra tiesikai nepriklausomi, tai egzistuoja toks vienintelis vektorius ( )l002010 ,,, K= , kad takas ( ) lnX + R, 00 yra Lagrano funkcijos stacionarusis takas, t. y.

nj ( ) 0, 00 =

jx

XL,

13

li ( ) 0, 00 =

i

XL

.

Praktikai sprendiant udavin, nebtina tikrinti vektori ( )0Xhi tiesins nepriklausomybs. Ties sakant, tiksliai to padaryti ir negalima, kol nerastas stacionarusis takas

0X . Daniausiai ( )0Xhi bna tiesikai nepriklausomi su visais leistinaisiais vektoriais X . Kritinis atvejis pastebimas, kai iekant stacionarij tak paaikja, kad lygi sistema sprendini neturi. 1 pavyzdys. mon gamina dviej pavadinim gaminius. Gaminant 1x vienet pirmojo gaminio ir 2x vienet antrojo gaminio, mons ilaidos yra

( ) 1200, 2121 ++= xxxx . Produkcijos paklausa, kai pirmojo gaminio kaina yra 1p , o antrojo gaminio kaina yra 2p , nustatoma lygtimis

900400600 121 = ppx , .3001001700 212 ppx =

Kiek vienet kiekvieno gaminio reikia gaminti, kad pelnas bt didiausias? Udavinys:

( ) 1200,,, 2122112121 += xxpxpxppxxf , 0900600400 211 =++ ppx ,

1700300100 212 ++ ppx . Lagrano funkcija:

( ) =212121 ,,,,, ppxxL ++ 1200212211 xxpxpx ( )900600400 2111 +++ ppx ( )1700300100 2122 +++ ppx .

Lygi sistema 01 11 =+ p , 01 22 =+ p ,

0100400 211 =++ x , 0300600 212 =+ x ,

0900600400 211 =++ ppx , 01700300100 212 =++ ppx

turi vienintel sprendin 7001 =x , 3002 =x , 21 =p , 42 =p , 11 = , 32 = .

021

2

=

x

L, 0

21

2

=

xx

L, 1

11

2

=

pxL

, 021

2

=

pxL

, 022

2

=

x

L, 0

12

2

=

px

L, 1

22

2

=

pxL

, 021

2

=

pL

,

021

2

=

ppL

, 022

2

=

pL

.

22112 dd2dd2d pxpxL += .

I apribojim: 211 d600d400d ppx += , 212 d300d100d ppx = .

( ) ( )222121222121212 d3dd4d4200d300dd200d600dd400-2d ppppppppppL +=+= . Kadangi kvadratinio trinario skliaustuose diskriminantas teigiamas, 0d 2

14

( ) 321321 22,, xxxxxxf += didiausi ir maiausi reikmes, kai

092322

21 =++ xxx .

Lagrano funkcija ( ) ( )922,,, 232221321321 ++++= xxxxxxxxxL .

Lygi sistema 021 1 =+ x , 022 2 =+ x , 022 3 = x ,

092322

21 =++ xxx

turi du sprendinius:

21

,2,2,1 ir

21

,2,2,1 . Takai ( )2,2,1 ir ( )2,2,1 yra

sferoje. Pagal Vejertraso teorem tolydioji funkcija udarojoje aprtojoje aibje didiausi ir maiausi reikmes gyja stacionariuosiuose takuose. Kadangi ( ) 92,2,1 =f , o ( ) 92,2,1 =f , tai pirmoji reikm yra didiausia, o antroji maiausia.

3 pavyzdys. Udavinys: ( )321min xxx + ,

12221 =+ xx ,

132 =+ xx . Lagrano funkcija

( ) ( ) ( )3222221132121321 11,,,, xxxxxxxxxxL +++= . Takas ( )1,0,10 =X tenkina lygi sistem

02 112 = xx , 02 2211 = xx ,

01 2 = , 01 22

21 = xx ,

01 32 = xx . ( ) 10 =Xf .

Kai ( )1;0 takai ( ) ( ) = 1,,1 2X ir ( ) ( ) += 1,,1 2X tenkina apribojimus ir, parinkus ma , priklauso bet kuriai tako 0X aplinkai, nes

( )( ) ( ) ( ) ( ) 012211011,0

22222

20

+=+++=

XX

ir, panaiai, ( )( ) 0,

00 =

XX .

( )( ) ( ) ( )02 1111 XfXf =+= ,

t. y. 0X nra nei slyginio minimumo, nei slyginio maksimumo takas. 4 pavyzdys. Udavinys:

2min x , 032

21 = xx .

Lagrano funkcija: ( ) ( )3221221 ,, xxxxxL += .

15

Slyginio minimumo takas turi tenkinti lygi sistem: 02 1 =x ,

031 22 = x , 032

21 = xx .

I brinio matyti, kad minimumo takas yra ( )0,00 =X . Taiau is takas lygi sistemos netenkina su jokiu . Vadinasi, Lagrano daugikli metodas iam udaviniui netinka. Taip yra todl, kad netenkinama vektori ( )0Xhi tiesins nepriklausomybs slyga. Udavinyje

( ) ( )221 3,2 xxXh = , ( ) ( )0,00 = Xh .

Tokiems udaviniams taikomas iek tiek kitoks metodas.

2.3.3. BENDRASIS LAGRANO DAUGIKLI METODAS

Sprendiamas klasikinis slyginio programavimo udavinys ( )nxxxf ,,,min 21 K ;

( ) 0,,, 211 =nxxxh K , ( ) 0,,, 212 =nxxxh K ,

..................................

( ) 0,,, 21 =nn xxxh K ; nl < .

Funkcija ( ) ( ) ( )+=

=

l

iniinln xxxhxxxfxxxL

1212101021 ,,,,,,,,,,,,, KKKK

vadinama bendrja Lagrano funkcija, o ( )l ,,, 10 K=

vadinamas bendruoju Lagrano daugikli vektoriumi. 2 teorema. Jeigu ( )Xf , ( ) 1CXhi , kai li , ir ( )nxxxX 002010 ,,, K= yra funkcijos ( )Xf lokaliojo slyginio minimumo takas, tai egzistuoja toks vektorius 0 , kad

( ) 0, 00 =

jx

XL, nj ;

( ) 0, 00 =

i

XL

, li .

Pavyzdys. Bendruoju Lagrano daugikli metodu sprsime jau nagrint udavin: 2min x ,

03221 = xx .

Bendroji Lagrano funkcija: ( ) ( )32211201021 ,,, xxxxxL += .

I lygi sistemos 02 1 =x ,

03 2210 = x , 02 =x ,

16

03221 = xx

turime: 00 = , 01 =x , 02 =x ,

t. y. minimumo takas ( )0,0 lygi sistem tenkina.

2.3.4. LAGRANO DAUGIKLI EKONOMIN INTERPRETACIJA

Klasikinis slyginio maksimizavimo udavinys uraomas taip: ( )nxxxf ,,,max 21 K ;

( ) 1211 ,,, bxxx n =K , ( ) 2212 ,,, bxxx n =K ,

KKKKKKKK

( ) lnl bxxx =,,, 21 K . Lagrano funkcija:

( ) ( ) ( )( ) +==

l

iniinln xxxbxxxfxxxL ,,,,,,,,,,,,, 21212121 KKKK .

Jeigu ( ) = nxxxX ,,, 21 K yra udavinio sprendinys, tai egzistuoja toks vektorius ( ) = l ,,, 21 K , kad

nj ( ) 0, =

jx

XL.

Vektoriai X , ir slyginis maksimumas ( ) = Xfz priklauso nuo parametr 1b , 2b , K , lb . Tarkime, kad ie dydiai yra tolydiai diferencijuojamos kintamj 1b , 2b , K , lb funkcijos. Tada

lk

=

kkb

z .

Vadinasi, daugikliai i , li , rodo, kaip keiiasi optimali funkcijos reikm, keiiantis parametrams ib , li . Pavyzdiui, jeigu kuris nors Lagrano daugiklis i lygus nuliui, tai, neymiai pakeitus parametr ib , optimali tikslo funkcijos reikm nepasikeis. Gamybiniuose planavimo udaviniuose tikslo funkcija vaizduoja tam tikr vert (produkcijos apimt, peln, snaudas), apribojimai aliav snaudas. Taigi Lagrano daugikliai rodo aliav vert tikslo funkcijos optimalios reikms atvilgiu.

4. NETIESINIO PROGRAMAVIMO UDAVINYS SU NENEIGIAMAIS KINTAMAISIAIS

Praktiniuose udaviniuose kintamieji danai negali bti neigiami. Toks bendrasis udavinys formuluojamas taip. Neneigiam vektori ortante

( ){ }0:,,,R 21 =+ jnn xnjxxx K reikia rasti vektori ( )nxxxX ,,, 21 K= , kuris tenkint nelygybi sistem

mi ( ) 0,,, 21 ni xxxg K ir lygi sistem

mi ( ) 0,,, 21 =ni xxxh K ir su kuriuo funkcija ( )nxxxf ,,, 21 K gyt maiausi (didiausi) reikm.

17

iame udavinyje skaiiai n , m ir l nra tarpusavyje susij, o nelygybi enklai parinkti slyginai, nes daugyba i 1 nelygybs enkl pakeiia prieingu. Apribojimuose lygybes galima pakeisti nelygybmis. Be to, nebtinai visi kintamieji turi bti neneigiami. Jeigu kuris nors kintamasis netenkina slygos 0jx , j galima pakeisti dviej neneigiam kintamj skirtumu: jjj xxx = . Vadinasi, klasikin optimizavimo udavin galima urayti ia nagrinjamo udavinio pavidalu.

2.4.1. FUNKCIJOS EKSTREMUMAI NENEIGIAM VEKTORI ORTANTE

Udavinys: ( )Xfmin ;

nX +R . (apribojim skaiius nulis), kai ( ) 1CXf . iuo atveju ekstremumo takas gali bti ir kratiniame ortanto n+R take. Taiau galima naudotis lokaliojo ekstremumo btinosiomis slygomis itaip. Pirmiausiai randami lokaliojo ekstremumo takai n+R viduje. Po to iekoma funkcij ( )njjj xxxxff ,,,0,,, 111 KK += lokaliojo ekstremumo tak ortanto 1R +n viduje, po to funkcij ( )njjiiij xxxxxxff ,,,0,,,,0,,, 11111 KKK ++= ekstremumo tak ir t. t. (i viso

12 n funkcij. Gal gale i vis ekstremum ir reikms ( )0,,0,0 Kf irenkama maiausia (didiausia) reikm. Aiku, toks bdas neracionalus. 1 teorema (lokaliojo minimumo btinosios slygos). Sakykime, funkcija ( ) 1CXf , kai nX R . Jeigu ( ) nnxxxX += R,,, 002010 K yra lokaliojo minimumo takas, tai

nj ( ) 00

jx

Xf,

( ) 01

00 =

=

n

j jjx

x

Xf.

Vektorine forma ios slygos yra tokios: ( ) 0Xf ,

( ) 0, 00 = XXf . Vieno kintamojo funkcijos galimi minimum tipai brinyje.

2 teorema (lokaliojo maksimumo btinosios slygos). Sakykime, funkcija ( ) 1CXf , kai nX R . Jeigu ( ) nnxxxX += R,,, 002010 K yra lokaliojo minimumo takas, tai

18

nj ( ) 00

jx

Xf,

( ) 01

00 =

=

n

j jjx

x

Xf.

2.4.2. NETIESINIO PROGRAMAVIMO UDAVINYS SU APRIBOJIMAIS NELYGYBMIS

Lagrano daugikli metodas taikomas udaviniui: ( )Xfmin ;

mi ( ) 0Xg i , X .

Lagrano funkcija: ( ) ( ) ( )+=

=

m

iii XgXfXL

1, ,

Lagrano daugikli vektorius: ( )m ,,, 21 K= .

1 teorema (btinosios Kuno ir Takerio slygos). Jeigu funkcijos ( )Xf ir ( )Xg i , kai mi , yra tolydiai diferencijuojamos erdvje nR , ( ) nnxxxX += R,,, 002010 K yra udavinio su

apribojimais nelygybmis lokaliojo minimumo takas, o vektoriai ( )0Xg i , mi , ir jE , kai 00 =jx , yra tiesikai nepriklausomi, tai egzistuoja vektorius ( )m002010 ,,, K= , tenkinantis

Kuno ir Takerio slygas:

nj ( ) 0, 00

jx

XL,

( ) 0,1

000 =

=

n

j jjx

x

XL,

mi ( ) 000 =Xg ii , 0 .

Pastaba. ( ) ( )000 , XfXL = . Paprastai vektoriai ( )0Xg i , mi , yra tiesikai nepriklausomi su visais leistinaisiais vektoriais. Tada sprendinio reikia iekoti tarp tak, tenkinani slygas:

( ) ( ) +=

m

iii XgXf

1 ,

( ) ( ) 0,1

= +=

XXgXf mi

ii ,

mi ( ) 0Xg i , mi ( ) 0=Xg ii , X , 0 .

Pavyzdys. Rasti ( ) ( )( )2221 24min + xx , kai 102221 + xx , 52 21 + xx , 01 x , 02 x .

Brinyje pavaizduota leistinj vektori aib A ir tikslo funkcijos lygio kreivs. Aiku, kad takas ( )1,30 =X yra sprendinys. sitikinsime, kad is takas tenkina Kuno ir Takerio slygas. Lagrano funkcija

19

( ) ( ) ( ) ( ) ( )521024,,, 2122221122212121 +++++= xxxxxxxxL . Kuno ir Takerio slygos:

( ) 0812 211 ++ x , ( ) 04212 212 ++ x ,

( )( ) ( )( ) 04212812 22121211 =+++++ xxxx , ( ) 010 12221 =+ xx , ( ) 052 221 =+ xx ,

01 x , 02 x , 01 , 02 . Todl

( ) 0812 211 =++ x , kai 01 >x , ( ) 021 212 =++ x , kai 02 >x .

Take 0X 06 21 =+ , 0121 =+ .

( )8,0;2,00 = . Vektoriai ( ) ( )211 2,2 xxXg = ir ( ) ( )2,12 = Xg take 0X yra tiesikai nepriklausomi. 2 teorema. Jeigu funkcijos ( )Xf ir ( )Xg i , kai mi , yra tolydiai diferencijuojamos erdvje nR , ( ) nnxxxX += R,,, 002010 K yra udavinio su apribojimais nelygybmis lokaliojo maksimumo takas, o vektoriai ( )0Xg i , mi , ir jE , kai 00 =jx , yra tiesikai nepriklausomi, tai egzistuoja vektorius ( )m002010 ,,, K= , tenkinantis Kuno ir Takerio slygas:

nj ( ) 0, 00

jx

XL,

( ) 0,1

000 =

=

n

j jjx

x

XL,

mi ( ) 000 =Xg ii , 0 .

20

2.4.3. BENDRASIS UDAVINYS SU NENEIGIAMAIS KINTAMAISIAIS

Nagrinkime udavin:

( )( )

( )

=

.0;0

;0kai,min

XXhli

XgmiXf

i

i (1)

Apibrkime Lagrano funkcij: ( ) ( ) ( ) ( )

==

++=l

iii

m

iii XhXgXfXL

11,, .

Teorema. Tarkime, ( ) ( ) ( ) 1,, CXhXgXfi ii visoje erdvje nR , o ( )0010 ,, nxxX K= yra (1) udavinio lokaliojo minimumo takas. Jeigu vektoriai ( )0Xg i , ( )0Xhi ir j , kai

00 =jx , yra tiesikai nepriklausomi, tai egzistuoja vektoriai ( )0010 ,, m K= ir ( )0010 ,, l K= , tenkinantys Kuno ir Takerio slygas:

( ) ( ) ( ) ( ) 0,,1

00

1

000000

+

+

=

==

l

i j

ii

m

i j

ii

jj x

Xhx

Xgx

Xfx

XLnj ,

( ) ( ) ( ) ( ) 0,,1

0

1

00

1

000

1

0000 =

+

+

=

= ===

n

jj

l

i j

ii

m

i j

ii

j

n

jj

jx

x

Xhx

Xgx

Xfx

x

XL ,

( ) 000 = Xgmi ii , 00 i . Pavyzdys. ( ) ( )( )2221 24min + xx , 102221 + xx , 52 21 =+ xx , 01 x , 02 x . Pastaba. Formuluojant udavinius pakanka reikalauti, kad funkcijos ( )Xf , ( )Xg i ir ( )Xhi bt apibrtos kokioje nors atvirojoje aibje nS R ir diferencijuojamos kokioje nors

tako 0X aplinkoje.

2.4.4. REGULIARUMO SLYGOS

Teoremose, nusakaniose btinsias Kuno ir Takerio slygas, funkcij reguliarumo slygas, kad funkcijos bt tolydiai diferencijuojamos, o gradientai bt tiesikai nepriklausomi, galima pakeisti kitokiomis, danai paprasiau patikrinamomis slygomis. Pavyzdiui, udaviniui su apribojimais nelygybmis galima pasirinktinai tikrinti bet kurias i toki slyg. 1. ( ) 1CXgmi i ir vektoriai ( )0Xg i , kai ( ) 00 =Xg i , ir ( )0,,1,,0 KK=j , kai

0=jx , yra tiesikai nepriklausomi. 2. ( ) 1CXgmi i , ( )Xg i ikila ir ( ) 000

21

2.5. IKILASIS PROGRAMAVIMAS

Udavinys, kuriame tikslo ir apribojim funkcijos yra ikilosios, vadinamas ikilojo programavimo udaviniu:

( )( )

,

,0,min

SXXgmi

Xfi (1)

kur ( )Xf ir ( )Xg i yra ikilosios funkcijos, o S ikiloji aib. Pagal 1.5.3 teoremos ivad (1) udavinio leistinj vektori aib

X ( ){ }0: = XgmiSX i yra ikiloji.

2.4.1. LAGRANO FUNKCIJOS BALNO TAKAS

(1) udavinio Lagrano funkcija: ( ) ( ) ( )

=

+=m

iii XgXfXL

1, ,

kur ( )m ,,1 K= . Apibrimas. Vektori pora ( )** ,X , ( ) SxxX n = **1* ,,K , ( )**1* ,, m K= , vadinama Lagrano funkcijos ( ),XL balno taku aibje mS +R , jeigu

( ) ( ) ( )**** ,,,R + XLXLXLSX m . 1 teorema. Tarkime, ikilosios funkcijos ( )Xf , ( ) 1CXg i oktante n+R , kai mi . takas ( )** ,X yra funkcijos ( ),XL balno takas aibje mn ++ RR tada ir tik tada, kai

( )

( )

;0

;0,

;0,

*

1

*

**

**

=

=

j

n

jj

j

j

xnj

xx

XL

x

XLnj

( )

( )

.0

;0,

;0,

*

1

*

**

**

=

=

i

m

ii

i

i

mi

XL

XLni

2 (Kuno ir Takerio) teorema. Jeigu ( )** ,X yra Lagrano funkcijos balno takas aibje mRS + , tai *X yra (1) udavinio sprendinys. Atvirkiai, jeigu (1) udavinio apribojimai tenkina Sleiterio slyg ir *X yra (1) udavinio sprendinys, tai egzistuoja toks vektorius * , kad pora ( )** ,X yra Lagrano funkcijos balno takas aibje mS +R . Pastaba. rodinjant teoremos pirmj dal, nesiremiama funkcij ikilumu. Vadinasi, jeigu ( )** ,X yra Lagrano funkcijos balno takas, tai *X yra udavinio su bet kokiomis funkcijomis ( )Xf ir ( )Xg i sprendinys.

22

Ivada. Tarkime, funkcijos ( )Xf ir ( )Xg i , kai mi , tenkinanios Kuno ir Takerio teoremos slygas yra tolydiai diferencijuojamos visoje erdvje nR ir nS += R . Vektorius *X yra (1) udavinio sprendinys tada ir tik tada, kai egzistuoja vektorius * , tenkinantis 1 teoremos slygas. Vadinasi, jeigu funkcijos ( )Xf ir ( )Xg i , kai mi , yra tolydiai diferencijuojamos ir tenkina 2 teoremos slygas, tai reikia rasti tak ( )** ,X , tenkinant sistem, sudaryt i Kuno ir Takerio slyg bei udavinio apribojim:

( ) 0,**

jx

XLnj ,

( ) 0,1

*

**

=

=

n

jj

jx

x

XL,

0* jxnj , ( ) 0 Xgmi i .

( ) 0,**

i

XLni

,

( ) 0,1

*

**

=

=

m

ii

i

XL

,

0* imi . Tada takas *X yra (1) udavinio sprendinys. i sistem galima urayti ir taip:

( ) ( ) 01

** + =

m

iii XgXf ,

( ) ( ) 0,1

*** =+ =

m

iii XXgXf ,

( ) *XG , ( ) 0, ** =XG ,

*X , * . 1 pavyzdys. ( )21212221 805012108min xxxxxx ++ ,

221 + xx , 99 2221 + xx ,

01 x , 02 x .

Kvadratins formos ( ) 2221211 10128 xxxxXh += matrica

10668

teigiamai apibrta,

todl ( )Xh1 grietai ikiloji funkcija, o ( ) 212 8050 xxXh = tiesin, todl ikiloji funkcija. J suma tikslo funkcija ( ) 21212221 805012108 xxxxxxXf ++= grietai ikiloji. Apribojim funkcijos: ( ) 2211 += xxXg tiesin, todl ikiloji, ( ) 99 22212 += xxXg teigiamos kvadratins formos, kurios matrica

1009

, ir tiesins funkcijos 9 suma, todl ikiloji.

Funkcijos ( )Xg1 ir ( )Xg 2 tenkina Sleiterio slyg, nes ( ) 011,01

23

Vadinasi, norint isprsti udavin, bereikia rasti tak, kuris tenkina 1 teoremos slygas. Lagrano funkcija:

( ) ( ) ( )992805012108, 2221221121212221 ++++++= xxxxxxxxxxXL . Slygos:

018501216 12121 +++ xxx , 02801220 22112 ++ xxx ,

( ) ( ) 0280122018501216 222112112121 =++++++ xxxxxxxx , 01 x , 02 x ,

0221 + xx , 099 2221 + xx ,

( ) ( ) 0992 22221121 =+++ xxxx , 01 , 02 .

Leistinj vektori aib yra udaroji ikiloji aprtoji. Tokioje aibje pagal Vejertraso teorem tolydioji funkcija ( )Xf gyja minimum, o kadangi i funkcija yra grietai ikiloji, tai ikilojoje aibje, pagal 1.5.8 teorem minimumo takas yra vienintelis. Kadangi funkcija ( )Xf yra grietai ikiloji, jos lygio linijos leistinj vektori aib gali kirsti tik viename tik viename take ( )0,1 arba ( )2,0 . Take ( )0,1 slyga ( ) ( ) 0992 22221121 =+++ xxxx virsta lygybe

01 = , o tada antroji slyga nra patenkina. Vadinasi, iekomasis minimumo takas yra ( )2,0 :

( ) ( ) 402,0min == fXf . 2 pavyzdys. ( )xmin , 02 x , 0x . Lagrano funkcija:

( ) 2, xxxL += . Kuno ir Takerio slygos:

021 + x , ( ) 021 =+ xx ,

02 x , 02 =x ,

0x , 0 . Aiku, 0* =x yra sprendinys. Taiau takas ( ),*x netenkina pirmosios slygos su jokiu . Vadinasi, sprendiant udavin, Kuno ir Takerio teorema remtis negalima, nors netenkinama tik Sleiterio slyga. I pavyzdio matyti, kad Sleiterio slyga yra esmin. Taiau, kai apribojim funkcijos

( )Xg i , kai mi , yra tiesins, Sleiterio slyga nereikalinga.

2.4.2. IKILOJO PROGRAMAVIMO UDAVINYS SU TIESINIAIS APRIBOJIMAIS

Udavinys: ( )Xfmin ,

24

011111 ++ bxaxa nnK ,

011 ++ mnmnm bxaxa K , X ,

kai ( )Xf ikiloji funkcija. Paymjus

=

mnm

n

aa

aa

AK

KKK

K

1

111

,

=

mb

bB K

1

,

udavin galima formuluoti taip:

( )

.

,

,min

XBAXXf

(1)

Lagrano funkcija: ( ) ( ) ( ) ( ) BAXXfbxaxaXfXL

m

iininii +=+++=

=

,,

111 K .

iuo atveju Kuno ir Takerio teorema formuluojama paprasiau. Teorema. Vektorius *X yra (1) udavinio sprendinys tada ir tik tada, kai egzistuoja toks

* , kad ( )** ,X bt Lagrano funkcijos balno takas aibje mn ++ RR . Jeigu (1) udavinio tikslo funkcija ( )Xf yra ikiloji kvadratin funkcija, tai udavinys vadinamas kvadratinio programavimo udaviniu. J galima urayti itaip:

+

,

,

,,

21

,min

XBAX

DXXXC

(2)

kai ( )nccC ,,1 L= , D simetrin n -osios eils teigiamai apibrtoji matrica. Lagrano funkcija:

( ) BAXDXXXCXL ++= ,,21

,, .

Pagal teorem: jeigu ( )** ,X yra ios funkcijos balno takas, tai *X yra (2) udavinio sprendinys. O balno tako slygos yra Kuno ir Takerio slygos:

++ ADXC , 0, =++ XADXC ,

X , 0 BAX ,

. Vadinasi, norint rasti udavinio sprendin, reikia isprsti i sistem. Paymjus

++= ADXCY , AXBZ = ,

sistem galima urayti taip: CYADX =+ ,

BZAX =+ , 0, =XY , 0, =Z ,

25

X , , Y , Z , t. y., reikia rasti tiesini lygi sistemos

=

BC

ZY

X

EOOAOEAD

sprendin, tenkinant slygas: 0, =XY , 0, =Z ,

X , , Y , Z . Pavyzdys. ( )2212121 2242min xxxxxx ++ ,

221 + xx , 12 x ,

01 x , 02 x .

Kvadratins formos 222121 22 xxxx + matrica

2111

yra teigiamai apibrtoji, todl tikslo funkcija yra grietai ikiloji.

( ) ( ) ( )122242, 2221122212121 +++++= xxxxxxxxxXL . ( ) ( )2121 ,,4,242 xxxx = ,

todl ( )4,2 =C .

=

4222

D .

Apribojimus 221 + xx ,

12 x galima urayti pavidalu

12

1011

2

1

x

x,

todl

=

1011

A ,

=

12

B .

Sprendiame tiesini lygi sistem su neinomaisiais 1x , 2x , 1 , 2 , 1y , 2y , 1z , 2z :

110000010201000011400101142200010122

2

2~

~

110000010201000011802101160202010140

1

6

4

~

26

~

110000010111000001262101100242010100

1

~

~

1100000101110000010104111000242010100

.

Parink reikmes: 02121 ==== zzyy ,

turime: 11 =x , 12 =x , 21 = , 02 = .

Atsakymas. Minimali reikm 5 gyjama take 11 =x , 12 =x .

3. NETIESINIO PROGRAMAVIMO SKAIIAVIMO METODAI

3.1. VIENO KINTAMOJO FUNKCIJOS MINIMIZAVIMAS

Daugelio kintamj funkcijos ( )Xf minimumo danai tenka iekoti iteraciniais metodais, t.y. sudarant vektori sek 0X , 1X , 2X , K , artjani prie udavinio sprendinio *X . Tokiu atveju vektorius 0X vadinamas pradiniu vektoriumi arba pradiniu artiniu. Kiti sekos vektoriai danai skaiiuojami pagal rekurentin formul:

kkkk PXXk += +10 . ioje formulje vektorius kP vadinamas krypties vektoriumi arba kryptimi i tako kX tak

1+kX , o skaiius k ingsnio ilgiu. Metodo efektyvumas priklauso nuo ingsnio ilgio k parinkimo. Danai k randamas kaip funkcijos ( ) ( )kk PXf += minimumo takas, kai vektoriai kX ir kP yra jau inomi. minimumo tak klasikiniais metodais rasti kartais bna sunku, nes reikia rasti lygties ( ) 0= , o is sprendinys nebtinai yra minimumo takas. Be to, praktikoje kartais tenka susidurti su udaviniais, kuriuose minimizuojamoji funkcija nra duota analizikai, galima tik apskaiiuoti jos reikmes. Vadinasi, sprendinio tenka iekoti apytiksliais metodais ir rasti tik jo artin arba interval, kuriame yra tikslus sprendinys. Tarkime, kad vieno kintamojo funkcijos ( )xf neinomas minimumo takas *x yra intervale [ ]ba ; . Toks intervalas vadinamas minimumo tako *x neapibrtumo intervalu.

Tako *x artiniu imant intervalo vidurio tak 2

ba +, paklaida nevirija puss intervalo ilgio

2ba

.

Toliau, lygindami funkcijos ( )xf reikmes, iekosime tokio minimumo tako *x neapibrtumo intervalo, kurio ilgis ne didesnis u pasirinkt skaii . Panagrinsime tokio intervalo radimo metodus, kai funkcija ( )xf yra unimodalioji.

27

3.1.1. UNIMODALIOSIOS FUNKCIJOS

1 apibrimas. Funkcija ( )xf vadinama unimodalija intervale [ ]ba ; , jeigu egzistuoja toks takas [ ]bax ;* , kad funkcija ( )xf intervale [ ]*; xa mat, o intervale [ ]bx ;* didt.

x x

0 0 a *x b y 0 *xa = b y Aiku, *x vienintelis funkcijos ( )xf minimumo takas intervale [ ]ba ; . 1 teorema. Tarkime, funkcija ( )xf yra unimodalioji intervale [ ]ba ; , [ ]bax ;* yra minimumo takas, [ ]baxx ;, , xx

28

jau inom reikm, neapibrtumo intervalas gali sumati tik neymiai. Todl takus x ir x rinksime taip, kad kiekvienas i j interval [ ]ba ; dvi dalis pagal auksinio pjvio proporcij:

abxb

xbax

=

,

abax

ax

xb

=

.

Isprskime pirmj i i lygi. ( ) ( )( )axabxb = 2 .

Aiku, ( ) ( )axabxb = .

Paymj axy = , abc = ,

turime lygt: ( ) cyyc = 2 .

03 22 =+ ccyy ,

( )5322

493 22=

=

ccccy ,

( )532

+=ab

ax .

Todl

( )532

=abbx .

Naujas neapibrtumo intervalas [ ]11 ;ba yra 1) [ ]xa ; , kai ( ) ( )xfxf . Jo ilgis

( ) ( ) ( ) ( )2

155322

5321

=+

=

= ababababc .

Atliekant kit ingsn, is intervalas dalijamas pagal auksinio pjvio proporcij takais 1x ir 1x . 1) atveju

( )2

15111

=

cax ,

( ) ( )x

ca

cax =

+=

+=

253

415

2

1 .

2) atveju, analogikai, ( )

2151

11

=c

xb ,

( ) ( )x

cbcbx ===2

534

152

1 .

Vadinasi, kiekvieno naujo neapibrtumo intervalo dalijimo pagal auksinio pjvio proporcij vienas takas sutampa su ankstesnio neapibrtumo intervalo vienu dalijimo taku ir bereikia apskaiiuoti funkcijos reikm tik viename naujame take. Buvusio intervalo [ ]ba ; ir naujo intervalo ilgi santykis yra

6,12

5115

2

+=

.

Vadinasi, kiekvienas io metodo ingsnis neapibrtumo interval sumaina maiausiai 6,1 karto.

29

Pavyzdys. Auksinio pjvio metodu rasime funkcijos ( ) xxxf 22 = minimumo tako neapibrtumo interval, kurio ilgis ne didesnis u 1= , pradiniu neapibrtumo intervalu imdami [ ]5;0 .

382,02

53

.

I ingsnis. ( ) 91,1382,00500 =+=x , ( ) 09,3382,00550 ==x ,

( ) 172,091,1291,1 20 =xf , ( ) 368,309,3209,3 20 =xf ,

( ) ( )00 xfxf = ab .

II ingsnis. 18,1382,009,301 +=x ,

91,101 == xx , ( ) 968,018,1218,1 21 =xf ,

( ) 172,01 =xf , ( ) ( )11 xfxf = ab . III ingsnis.

73,0382,091,102 +=x , 18,112 == xx ,

( ) 927,073,0273,0 22 =xf , ( ) 968,02 =xf , ( ) ( )22 xfxf = ab . IV ingsnis.

18,123 == xx , 46,1382,018,191,13 ==x ,

( ) ( ) 968,023 == xfxf , ( ) 788,046,1246,1 23 ==xf ,

( ) ( )33 xfxf

30

110 == FF ,

jjj FFFj += ++ 120 vadinami Fibonaio skaiiais. Pirmieji Fibonaio skaiiai: 1, 1, 2, 3, 5, 8, 13, 21, 34, 55, 89, 144, . . . Fibonaio metodas nuo auksinio pjvio metodo skiriasi tik tuo, kad parenkant neapibrtumo intervalo dalijimo takus kx ir kx vietoje pastovaus daugiklio 2

53 imami

daugikliai, priklausantys nuo vis ingsni skaiiaus n ir ingsnio numerio k :

( )kkkn

knkk abF

Fax +=

2,

( )kkkn

knkk abF

Fbx =

2.

Atlikus k -j ingsn, intervalas [ ]kk ba ; pakeiiamas intervalu [ ]11 ; ++ kk ba , t. y. 1) intervalu [ ]kk xa ; arba 2) intervalu [ ]kk bx ; , kurio ilgis

( ) ( ) ===

++ kk

kn

knknkk

kn

knkkkk abF

FFab

FF

abab 2211

( ) ( )kkkn

knkk

kn

knknkn abF

Fab

FFFF

=+

=

1221.

Intervalo [ ]kk xa ; 1) atveju: ( ) =+= ++

++ 11

1

311 kk

kn

knkk abF

Fax

( ) ( ) =++=

kk

kn

kn

kn

knkk

kn

knk abF

FFF

abF

Fa 1

1

32

( ) ( ) =++=

kk

kn

knknkkk abF

FFabb 32

( ) =++=

kk

kn

knknknk abF

FFFb 32

( ) =++=

kk

kn

knknknknk abF

FFFFb 2132

( ) =+=

kk

kn

knknknk abF

FFFb 323

( ) kkkkn

knk xabF

Fb ==

2.

Kadangi dalijimo takai 1+kx ir 1+kx vienodai nutol nuo intervalo [ ]11 ; ++ kk ba gal: ( )11

1

31111 ++

++++ == kk

kn

knkkkk abF

Fxbax ,

tai, simetrikai, intervalo [ ]kk bx ; 2) atveju: kk xx =+1 ,

t. y. vienas i naujj dalijimo tak sutampa su vienu i senojo intervalo dalijimo tak ir kiekviename ingsnyje reikia apskaiiuoti tik vien tak ir funkcijos ( )xf reikm jame. Po 1+k -ojo ingsnio rasto neapibrtumo intervalo ilgis

31

( )kkkn

knkk abF

Fab =

++

111 .

Todl

( ) ( ) === +

+

+

+

22

2

1

111

1kk

kn

kn

kn

knkk

kn

knkk abF

FFF

abFF

ab

( )003

2

2

abF

FFF

FF

n

kn

kn

kn

kn

kn ===

+

+

+

K .

Kai nk = :

( )001

abF

abn

nn = .

Jeigu iekoma neapibrtumo intervalo, kurio ilgis turi bti ne didesnis u pasirinkt skaii , tai turi bti

nn ab , t. y.

nFab

00.

Vadinasi, maiausiasis i nelygyb tenkinantis skaiius n ir yra iekomasis. Pastaba. Literatroje vietoje vis ingsni skaiiaus n siloma imti vienetu maesn i viso skaiiuojam funkcijos reikmi skaii. Tada paskutiniai du takai 1nx ir 1nx yra lygs; jie sutampa su intervalo [ ]22 ; nn ba vidurio taku. Todl paskutiniais takais imami takai

+ 2

22 nn ba ir ++

222 nn ba

. Taiau tada nebeaiku, ar sprendinys yra maesnis, ar didesnis

u vidurio tak. Pavyzdys. Automobilio greiiui didjant, kuro snaudos tam paiam atstumui nuvaiuoti pradioje maja, paskui didja. Ekonomikiausias greitis priklauso nuo automobilio savybi, j galima nustatyti tik eksperimentuojant vaiuojant t pat kelio ruo skirtingais greiiais ir matuojant kuro snaudas. Nelabai linksmas usimimas. Todl verta pagalvoti apie maiausi bandym skaii. Tarkime, kad ekonomikiausias greitis yra tarp 60 km/h ir 100 km/h ir norima j nustatyti 1 km/h tikslumu, t. y., kad galutinis neapibrtumo intervalo ilgis bt ne didesnis u

2= . Taikant Fibonaio metod ir nustatant greiius kx bei kx , bandym skaiius n turi tenkinti nelygyb:

202

60100=

nF .

I toki Fibonaio skaii maiausi eil numer turi 217 =F . Vadinasi, reiks 7 bandym.

3.2. GRADIENTO METODAI

Jeigu optimizavimo udavinyje tikslo funkcija ( )Xf yra diferencijuojama, tai jos gradientas ( )0Xf apibdina tos funkcijos greiiausio didjimo krypt ir dyd take 0X . Aiku, kryptis, prieinga gradiento krypiai yra funkcijos ( )Xf greiiausio majimo (nuolydio) kryptis take 0X . Todl funkcijos minimizavimo arba maksimizavimo metodai, kuriuose krypties vektori nusako gradientas, vadinami gradiento iteraciniais metodais arba greiiausio nuolydio metodais.

32

3.2.1. NESLYGINI UDAVINI GRADIENTO METODAI

Tarkime, kad minimizuojamoji tikslo funkcija ( )Xf yra diferencijuojama erdvje nR . Jos minimumo tako X iekosime iteraciniu procesu: kkkk PXXk += +10 . (1) io proceso krypties vektori imsime:

( )kk XfP = , t. y.

( )kkkk XfXX =+ 1 . io proceso koordinatin forma:

( )1

11

10x

Xfxxk kk

kk

= + ,

( )2

21

2x

Xfxx kk

kk

=+ ,

KKKKKKKKK

( )n

kk

kn

kn

x

Xfxx

=+ 1 .

ingsnio k parinkimo bdas nusako vien ar kit gradiento metod. Paminsime du tokius metodus. Taikant pirmj metod, pasirenkami skaiiai 0> bei 10

33

Kitas metodas vadinamas greiiausiojo nusileidimo metodu. J taikant, ingsnio ilgis k randamas i lygybs:

( )( ) ( )( )kkkkk XfXfXfXf = 0min . (3) io metodo ingsniai yra didesni, todl reikia atlikti maiau iteracij. is metodas ekonomikesnis, nors kiekviename ingsnyje tenka sprsti vieno kintamojo funkcijos minimizavimo udavin. iuo atveju

( )( ) 0d

d=

kkk XfXf

,

( )( ) ( ) 0, = kkkk XfXfXf , ( ) ( ) 0,1 = + kk XfXf ,

t. y. krypties vektoriai ( )1+ kXf ir ( )kXf yra ortogonals.

0X 1X 2X 3X X

( )

( )

( )

( ) 3

1

2

1

CXf

Xf

CXf

CXf

=

=

=

( )0Xf ( )2Xf

inomos vairios pakankamos slygos, kad bet kurio gradiento metodo iteracijos konverguot prie funkcijos ( )Xf stacionariojo tako. Taip yra, pavyzdiui, jeigu funkcija ( )Xf yra aprta i apaios ir tenkina Lipico slyg:

( ) ( ) XXRXfXfXXR n > R,0 . Taiau, stacionarusis takas nebtinai yra globaliojo minimumo takas. Jis gali bti vienas i lokaliojo minimumo tak arba balno takas.

34

Kad iteracinis procesas artt prie udavinio sprendinio, tikslo funkcija turi tenkinti pa-pildomas slygas. Dabar panagrinsime vien toki slyg atvej.

3.2.2. STIPRIAI IKILOJI FUNKCIJA

3 apibrimas. Dukart diferencijuojama ikilojoje aibje nS R funkcija ( )Xf vadi-nama stipriai ikilja aibje S , jeigu

( ) 22 ,H,0RR, YMYXfYYmMmYSXMm n

35

pagal stipriai ikilosios funkcijos apibrim: ( ) ( ) ( ) ( ) ( ) 22

22

21

2 kkkkXfMXfMXfXfXf

=+

.

I ia: jeigu

21 M ,

tai ingsn apibrianti nelygyb teisinga. Vadinasi, kai ( )M

12

ir ( )kk XfXX = ,

tai

( ) ( ) ( ) 2kk XfXfXf . (4) Paymkime

( )M

=12

.

rodysime, kad seka kX , kai

36

( ) ( ) ( )( )

+ XfXfMm

mXf 12 . I ios nelygybs, kai kXX = , ir i (1), kai ( )kkkk XfXXX == + 1 , k :

( ) ( ) ( ) ( ) ( )( )

+ XfXfMm

mXfXfXf kkk 12

( ) ( )( )

+ XfXfMm

m k1 .

O i ia:

( ) ( ) ( ) ( )( )

+ XfXfMm

mXfXf k11 . (11) Paymjus

+=Mm

mq 11 ,

(11) nelygyb tampa tokia: ( ) ( ) ( ) ( )( ) XfXfqXfXf k . (12) Akivaizdu, kad 0>q . Kadangi (12) nelygyb teisinga, kai kX ir 1+kX susieti duotu rekurentiniu sryiu, kai k , tai

( ) ( ) ( ) ( )( ) ( ) ( )( ) KXfXfqXfXfqXfXf kkk 221 ( ) ( )( ) kk CqXfXfq = 0 , (13) kur

( ) ( )= XfXfC 0 . Vadinasi, ( )kXf geometrins progresijos greiiu konverguoja ( )Xf . I (13) nelygybs ir stipriai ikilosios funkcijos apibrimo:

( ) ( )( ) kkk qm

CXfXfm

XX 22 ,

t. y. seka kX geometrins progresijos greiiu konverguoja funkcijos ( )Xf minimumo tak X .

Teorema rodyta. Pastaba. Kuo maesnis progresijos vardiklis q , tuo konvergavimas greitesnis. Jeigu

+=Mm

mq 11 , ( )M

=12

,

tai q yra maiausias, kai 21

= .

Panai teorema teisinga ir greiiausiojo nuolydio metodo sekai. 4 teorema. Jeigu patenkintos 3 teoremos slygos, o k parenkamas i lygybs

( )( ) ( )( )kkkkk XfXfXfXf = 0min , tai seka kX konverguoja funkcijos ( )Xf minimumo tak X geometrins progresijos su var-dikliu

mMmMq

+

=

greiiu. Pavyzdys. Greiiausiojo nuolydio metodu rasime funkcijos

( ) 2221 25xxXf +=

37

minimumo tak. Imame:

( )2,20 =X . ( ) 1040 =Xf .

( ) ( )21 50,2 xxXf = . ( ) ( )100,40 = Xf .

ingsnio ilg 0 rasime minimizuodami funkcij ( ) ( )( ) ( ) ( )22000 10022542 +== XfXf ,

( ) 016100325000 = ,

00302,0032500

016100 = .

( ) ( ) ( ) ( )003,0,92,1100,400302,02,20001 === XfXX . ( ) 686,31 =Xf .

( ) ( )15,0,84,31 = Xf . ( ) ( )( ) ( ) ( ) === 15,0,84,3003,0,92,1111 fXfXf =+ 15,0003,0,84,392,1(f

( ) ( )22 003,015,02584,392,1 += , ( ) ( ) ( ) 6817,141626,30003,015,015,05084,392,184,321 =+= ,

23648,01626,306817,14

1 = .

( ) ( ) ( ) ( )069,0,068,0015,84,323648,0003,0,92,11112 === XfXX . ( ) ( ) ( ) 124,0069,025068,0 222 +=Xf .

( ) ( ) ( )45,3,14,0069,050,068,022 == Xf . ( ) ( )( ) ( ) ( ) === 45,3,14,0069,0,068,0222 fXfXf = 45,3069,0,14,0068,0(f

( ) ( )22 45,3069,02514,0068,0 += , ( ) ( ) ( ) 922,11164,59545,3069,045,35014,0068,014,022 == ,

020,0164,595

922,112 = .

( ) ( ) ( ) ( )0,065,045,3,14,002,0069,0,068,02223 === XfXX . ( ) ( ) 004,0065,0 23 =Xf .

( )0,0=X , ( ) 828,244,0 +=XX ,

( ) ( ) 065,00065,0, 223 =+=XX , 5,43

065,0828,2

.

Vadinasi, surastas artinys 3X nuo minimumo tako yra 43 kartus ariau u pradin artin 0X . Tsiant iteracijas, prie sprendinio artjama ltai.

3.2.4. SLYGINI OPTIMIZAVIMO UDAVINI GRADIENTO METODAI

4 apibrimas. Atstumu tarp erdvs nR tako A ir netuiosios udarosios aibs nS R vadinamas skaiius

38

( ) ( )XASASX

,min,

= .

I Vejertraso teoremos iplaukia, kad ( ) ( )BASASB ,, = .

4 apibrimas. Takas ( )AB SP= , tenkinantis lygyb ( ) ( )BASA ,, = , vadinamas tako A projekcija aibje S . Pastaba. Jeigu SA , tai ( ) AAS =P . Lema. Jeigu nS R yra netuioji udaroji ikiloji aib, nA R , tai egzistuoja vienintel projekcija ( )ASP .

Jeigu slyginio minimizavimo udavinio leistinj vektori aib yra udaroji ikiloji aib, o tikslo funkcijos ( )Xf minimumo takas X yra leistinj vektori aibs viduje, tai jo iekoti galima gradiento metodu. Radus bet kok leistinj vektori 0X , atliekamos iteracijos:

( )kkkk XfXX =+1 , 0k . ingsnio ilg k galima pasirinkti vienu i neslyginio minimizavimo bd. Tik 1+kX turi priklausyti leistinj vektori aibei. Prieingu atveju ingsnio ilg reikia mainti dauginant i

( )1,0 . Jeigu minimumo takas yra leistinj vektori aibs kratinis takas arba i viso nra inoma, kur jis yra, tai iteracijos skaiiuojamos, panaudojant projekcijas leistinj vektori aibje. 5 teorema. Jeigu tikslo funkcija ( )Xf yra stipriai ikiloji leistinj vektori aibje, 0X leistinasis vektorius, o

Mk20

39

t. y. 1X minimumo takas. Danai tikslo funkcija bna sudtinga arba i viso nra jos analizins formos. Tokiais atvejais dalini ivestini reikms randamos apytiksliai, taikant skirtumines formules:

( ) ( )1

211

1

,,,

kn

kkk xxxf

x

Xf K+

, K ,

( ) ( )n

n

kn

kn

k

n

k xxxfx

Xf

+

,,, 11 K,

kai 1 , K , n yra mai kintamj pokyiai. Vadinasi, norint apytiksliai apskaiiuoti gradient, reikia skaiiuoti 1+n tikslo funkcijos reikm. Jeigu tikslo funkcijos lygio paviriai yra itempti koki nors kintamj atvilgiu, gradiento metodai nra efektyvs, t. y. konvergavimas prie minimumo tako yra ltas. Padt galima taisyti, keiiant kintamj mastelius, t. y. atliekant pakeitimus jjj xax = . Taiau, kai funkcija yra sudtinga, neieina masteli suderinti taip, kad j pokyiai sukelt madaug tokius pat funkcijos. pokyius. Tada gradiento metod taikyti neverta. Geriau apsimoka pasirinkti sudtingesn bet efektyvesn metod, pavyzdiui, pasinaudoti ne tik pirmosiomis, bet ir antrosiomis dalinmis ivestinmis.

3.3. NIUTONO METODAI

3.3.1. NIUTONO METODAS

Tarkime, kad minimizuojamoji funkcija ( )Xf yra du kartus diferencijuojama erdvje nR , o nkX R . Pagal Teiloro formul:

( ) ( ) ( ) ( ) ( ) ( )2,H21

, kkkkkkk XXoXXXfXXXXXfXfXf +++= . (14) Atmet liekamj nar, funkcij ( )Xf aproksimuojame kvadratine funkcija:

( ) ( ) ( ) ( ) ( ) kkkkkk XXXfXXXXXfXfXf ++ ,H21

, .

Paymkime:

( ) ( ) ( ) ( ) ( ) kkkkkk XXXfXXXXXfXfXg ++= ,H21

, ,

o X)

funkcijos ( )Xg minimumo tak. Tada X) turi tenkinti btinj minimumo slyg ( ) 0= Xg ) , t. y.

( ) ( ) ( ) 0H =+ kkk XfXXXf)

. (15) Jeigu Hess matrica ( )kXfH turi atvirktin matric, tai i (15):

( ) ( )( ) 1H = kkk XfXfXX)

.

I ios lygybs galima urayti Niutono metodo iteracin proces:

( ) ( )( ) 11 H

+ = kkkk XfXfXX . (16) Paymime, kad iame procese krypties vektorius

( ) ( )( ) 1H = kkk XfXfP ir ingsnio ilgis 1=k yra inomi. Jeigu matrica ( )kXfH yra teigiamai apibrta, tai galima rodyti, jog kryptis, nusakyta vektoriumi kP yra funkcijos ( )Xf majimo kryptis take kX . Tarkime, tikslo funkcija yra kvadratin:

( ) XXHXBAXf ,21

, ++= ,

kai H simetrin teigiamai apibrta matrica. Imkime bet kur tak nX R0 . Pagal (16):

40

( ) 11001 =+= BHHHXBXX . Nesunku patikrinti, kad takas 11 = BHX tenkina btinj minimumo slyg ( ) 01 = Xf . Kadangi funkcija ( )Xf ikiloji, tai i slyga yra ir pakankama. Vadinasi, atlikus vien iteracij, randamas tikslus minimumo takas. Jeigu funkcija ( )Xf nra kvadratin, reikia daug iteracij. Tada geriau taikyti bendrj iteracin sry:

( ) ( )( ) 11 H

+ = kkkkk XfXfXX . (17) ingsnio ilgis k apskaiiuojamas pagal tokias taisykles. Imama 1= .

1. Apskaiiuojama kk PXX += , kai ( ) ( )( ) 1H = kkk XfXfP . 2. Apskaiiuojama ( ) ( )kk PXfXf += . 3. Tikrinama nelygyb

( ) ( ) ( ) kkk PXfXfXf , (18)

su laisvai pasirinkta konstanta

21

;0 .

4. Jeigu (18) nelygyb teisinga, imama =k ; jeigu neteisinga, tai dauginamas i skaiiaus ( )1;0 ir kartojama nuo 1 punkto. ingsnio ilg k galima parinkti ir i lygybs

( ) ( )kkkkk PXxPXf +=+ min . 6 teorema. Tarkime, ( )Xf yra stipriai ikiloji funkcija erdvje nR . Tada, koks bebt pradinis artinys 0X , (17) rekurentiniu sryiu apibrta seka virtiesiniu greiiu konverguoja funkcijos ( )Xf minimumo tak X . 1 pavyzdys. Niutono metodu isprsime jau sprst udavin minimizuosime funkcij

( ) 2221 25xxXf += . Imkime ( )2,20 =X .

( ) ( )21 50,2 xxXf = , ( ) ( )100,40 = Xf ,

( ) ( )

==

50002

HH 0 XfXf ,

( )( )

=

5010

021

H 10Xf .

Pagal (3) formul:

( ) ( ) ( )0,0

5010

021

100,42,21 =

=X .

Atlikus vien iteracij, gautas tikslus sprendinys. 2 pavyzdys. Bendruoju Niutono metodu iekosime funkcijos

( ) ( ) ( )2124

1 21 xxxXf += minimumo tako. Naudosime (17) iteracin sry, kai k randamas i (18) nelygybs. Imkime

41

( )5,2;10 =X , 41

= .

( ) ( ) 5262 240 =+=Xf , ( ) ( ) ( ) ( )( )121231 24,214 xxxxxXf = ,

( ) ( )24,440 = Xf ,

( ) ( )

+=

8442112H

21xXf ,

( )

=

84450

H 0Xf ,

( )( )

=

25224

1921H 10Xf .

Pagal (4): ( ) ( )( ) ( ) ( ) =

==

25224

192124;445,2;1 0

100001 XHfXfXX

( ) ( )67,2;67,05,2;1 0 = . Imkime 1= ,

( ) ( )67,2;67,025224

192124;440 =

=P ,

( ) ( ) ( )17,0;33,067,2;67,05,2;1 ==X , ( ) ( ) ( ) 13,333,017,02133,0 24 ++=Xf ,

( ) ( ) 87,485213,30 == XfXf , ( ) ( ) ( ) ( ) 65,808,6448,29

4167,2;67,0,24;441

41

, 00 === PXf , 65,887,48

42

006,0

3.3.2. MODIFIKUOTAS NIUTONO METODAS

Atliekant kiekvien Niutono metodo iteracij, reikia rasti Hess matricos atvirktin matric ( )( ) 1H kXf . Kai matricos eil (kintamj skaiius) didel, atvirktin matric rasti sudtinga.

Skaiiuojant pagal modifikuoto Niutono metodo iteracin sry ( ) ( )( ) 101 H

+ = XfXfXX kkkk ,

apskaiiuojama ( )( ) 10H Xf ir naudojama visose iteracijose. Tai labai sumaina skaiiavim, taiau konvergavimas prie minimumo tako yra ltesnis (tiesinis). Pastaba. Jeigu matrica ( )kXfH nra teigiamai apibrta, tai minimizuojamos funkcijos reikm ( )1+kXf gali bti didesn u ( )kXf . Yra ir toki modifikuot Niutono metod, kuriuos taikant Hess matrica ( )kXfH visada yra teigiamai apibrta.

3.4. JUNGTINI KRYPI METODAS

3.4.1. JUNGTINIAI VEKTORIAI

6 apibrimas. Erdvs nR vektoriai P ir Q vadinami jungtiniais matricos H atvilgiu, jeigu

0, =QPH . Pastebime, kad vektori jungtinumo svoka artima ortogonalumo svokai: jeigu H vienetin matrica, tai jos atvilgiu jungtiniai vektoriai yra ortogonals. Lema. Nenuliniai poromis tarpusavyje jungtiniai teigiamai apibrtosios matricos atvilgiu vektoriai yra tiesikai nepriklausomi. rodymas. Tarkime, nenuliniai vektoriai 0P , 1P , K , 1nP yra poromis jungtiniai teigiamai apibrtosios matricos H atvilgiu. Jeigu vektoriai jP bt tiesikai priklausomi, tai vienas i j (sakykime, 0P ) bt kit vektori tiesin kombinacija:

= =

1

1011 R,,

n

jjjn PlPll K .

i lygyb skaliarikai padauginame i vektoriaus HP0 :

=

==1

000 0,,n

jjj PHPlPHP .

Kadangi H yra teigiamai apibrtoji matrica, tai i lygyb galima tik tada, kai 0P nulinis vektorius. O tai prietarauja lemos slygai. Lema rodyta.

3.4.2. KVADRATINS FUNKCIJOS MINIMIZAVIMAS JUNGTINI KRYPI METODU

rodysime, kad kvadratins funkcijos ( ) XXHXBAXf ,

21

, ++= , (19) kai H yra simetrin teigiamai apibrtoji matrica, nBA R, , minimumo tak galima rasti , atlikus ne daugiau kaip n iteracij.

43

Tarkime, kad 0P , 1P , K , 1nP yra nenuliniai poromis jungtiniai matricos H atvilgiu vektoriai. Apibrkime iteracin proces: kkkk PXXnk += +11 , (20) kurio ingsnio ilgis k randamas i lygybs

( ) ( )kkkkk PXfPXf +=+ Rmin . (21) Funkcijos

( ) ( ) ( ) kkkkkkkk PXHPXPXBAPXf +++++=+= ,21

,

minimumo takas k turi tenkinti btinj minimumo slyg: ( ) ,0,, =++ kkkkk PHPXPB

t. y.

kk

kkkk PHP

PHXPB,

,, += .

Kadangi ( ) HXBXf kk += ,

tai

( )kk

kkk PHP

PXfnk

,

,

1

= . (22)

sitikinsime, kad pradiniu pamus bet kur vektori nX R0 , po n iteracij surastas takas

( )

=

=

=+=

1

00

1

00

,

,n

kk

kk

kkn

kkkn PPHP

PXfXPXX (23)

sutampa su funkcijos ( )Xf minimumo taku X . Takas X tenkina btinj minimumo slyg:

( ) 0= Xf , 0=+ HXB ,

1 = BHX . (24) Kadangi vektoriai 0P , 1P , K , 1nP pagal lem yra tiesikai nepriklausomi, jie sudaro erdvs nR baz ir vektori 0XX

galima ireikti j tiesine kombinacija:

=

=1

00

n

jjj PlXX , Rjl , (25)

arba:

=

=1

00

n

jjj PlXX . (26)

Imkime bet kur vektori kP . Kai kj , 0, =jk PHP ,

ir, (25) lygyb skaliarikai padaugin i HPk , turime:

kk

n

jjkjk PHPPHPlXXHP ,,,

1

00

=

== .

I ia:

44

kk

kk PHP

BHXPl

,

, 0 += . (27)

(22) ir (27) formuli vardikliai yra tie patys. Parodysime, kad sutampa ir skaitikliai.

( ) kkk

jjjkkkk PHXBPHPXBPHXBPXf ,,,, 0

1

00 +=

++=+=

=

.

rodme, kad kk l= . I (5) ir (8): 1 == BHXX n .

Pastebime, kad iteracij gali bti ir maiau, jeigu kai kurie ingsni ilgiai k lygs nuliui.

Pavyzdys. Sprsime jau gradiento ir Niutono metodais sprst udavin rasime funkcijos

( ) 2221 25xxXf += minimumo tak.

( ) ( )21 50,2 xxXf = , ( )

==

50002

H XfH ,

( ) XXHXf ,21

= .

Imsime ( )2,20 =X ir ( )2,10 =P . Pagal (20) formul: ( ) ( )2,12,2 00001 +=+= PXX .

I (22): ( )

101102

,

,

00

000 =

=

PHPPXf

.

Todl:

=101

2,

101100

1X .

Randame vektoriui 0P jungtin matricos H atvilgiu vektori ( )211 , ppP = : 01002 21 =+ pp .

Pasirenkame 11 =p . Tada 501

2 =p .

+

=+=501

,1101

2,

101100

11112 PXX .

I (22):

101100

1 = ,

ir ( )0,02 =X . Tai ir yra iekomasis minimumo takas. Taikant jungtini krypi metod, reikalingas nenulini poromis jungtini vektori rinkinys 0P , 1P , K , 1nP . J galima rasti taip.

nP R0 pasirenkame laisvai. 1P randame kaip nenulin lygties

0, 01 =PHP sprendin. Apskritai, kai yra surasti vektoriai 0P , 1P , K , 1kP , vektorius kP randamas kaip nenulinis lygi sistemos:

0, 0 =PHPk ,

45

0, 1 =PHPk , KKKKK

0, 1 =kk PHP sprendinys.

3.4.3. JUNGTINI GRADIENT METODAS

Minimizuojant kvadratin funkcij ( ) XXHXBAXf ,

21

, ++= (28) Su teigiamai apibrta simetrine matrica H jungtini gradient metodu pradinis takas 0X pasirenkamas laisvai, o iteracijoms kkkk PXXnk += +11 , (29) rasti poromis jungtiniai krypties vektoriai randami i formuli

( )00 XfP = , ( ) 11 += kkkk PXfP , 11 nk ,

koeficientus k parenkant taip, kad vektoriai kP ir 1kP bt jungtiniai matricos H atvilgiu: 0, 1 =kk PHP ,

( ) 0,, 111 =+ kkkkk PHPPHXf ,

( )11

1

,

,

=kk

kkk PHP

PHXf . (30)

6 teorema. Jungtini gradient metodu apskaiiuoti vektoriai 0P , 1P , K , 1nP yra poromis jungtiniai matricos H atvilgiu, o gradientai ( )0Xf , ( )1Xf , K , ( )nXf yra poromis ortogonals. Remiantis ia teorema galima supaprastinti koeficient k radimo (30) formules:

( )( ) 21

2

=

k

kk

XfXf

,

t. y.

( )

( ) ( )( )

( )

=

+=

=

.

,

,

,

,

121

200

kk

kkk

kk

kkk

PHPPXf

PXfXf

XfP

XfP

(31)

Kadangi is metodas yra jungtini krypi metodas, ne daugiau kaip po n iteracij randamas minimumo takas = XX n .

Pavyzdys. ( ) 2221 25xxXf += , ( ) ( )21 50;2 xxXf = ,

=

50002

H .

( )2;20 =X , ( ) ( )100;40 = Xf ,

( )100;40 =P ,

46

( ) ( )500;8500

02100;40 =

=HP ,

( ) ( ) ( )( ) ( )

02,050003210016

100;4,5000;8100;4,100;4

,

,

00

000 =

=

=

PHPPXf

.

( ) ( ) ( )0;92,1100;402,0;20001 =+=+= PXX , ( ) ( )0;84,31 = Xf ,

( )( )( )

( ) ( ) ( )15,0;846,3100;41000016

07456,140;84,3020

21

11 =++

+=

+= P

XfXf

XfP ,

( ) ( )5,7;692,7500

0215,0;846,31 =

=HP ,

( ) ( ) ( )( ) ( )

48,0705,3077,14

15,0;846,3,5,7;692,715,0;846,3,0;84,3

,

,

11

111 =

=

=

PHPPXf

.

( ) ( ) ( ).07,0;07,015,0;846,348,00;92,11112 =+=+= PXX . Apskaiiuotas artinys 1X nuo tikrojo sprendinio ( )0;0 skiriasi dl apvalinimo paklaid.

Jeigu funkcija ( )Xf nra kvadratin, metodas skiriasi tik koeficient k formulmis: ( )( )

=

.idaluskai,0

;inedaluskai,21

2

kn

knXfXf

k

k

k

Pavyzdys. ( ) ( ) ( )2124

1 21 xxxXf += , ( ) ( ) ( ) ( )( )121231 24;2214 xxxxxXf = , ( ) ( )

+=

8442112 21xXHf .

( )5,2;10 =X , ( ) ( )24;440 = Xf , ( ) ( )24;4400 == XfP , ( ) ( ) ( ) ( ) ( )2400 926244245,2;144 +==+= fPXf .

Nubraiius funkcij ( ) ( )41 244 = ir ( ) ( )22 926 = grafikus, aiku, kad j sumos ( ) minimumo takas 0 yra intervale ( )07,0;04,0 . iame take ivestin

( ) ( ) ( ) 926184244176 3 = lygi nuliui.

( ) 06,2574,14,1184008,017605,0 += ,

06,00 = . ( ) ( ) ( )06,1;64,124;4406,05,2;10001 =+=+= PXX .

Tolesns iteracijos lentelje.

k kX ( )kXf ( )kXf k kP k 0 (-1; 2,5) 52 (-44; 24) 0 (44; -24) 0,06 1 (1,64; 1,06) 0,40 (0,09; 1,92) 0,0015 (-0,02; -1,96) 0,12 2 (1,64; 0,82) 0,18 (1,05; 0,00) 0 (-1,05; 0,00) 0,18 3 (1,45; 0,82) 0,08 (-0,02; 0,060) 0,4 (-0,40; -0,60) 0,30 4 (1,33;0,64) 0,014 (0,04; -0,20) 0 (-0,04; 0,20) 0,15 5 (1,32; 0,67) 0,011

47

3.5. PAIEKOS METODAI

Paiekos metoduose nesinaudojama ivestinmis, o tik palyginamos bandym takuose apskaiiuotos optimizuojamos funkcijos reikms. ie metodai taikomi, kai tikslo funkcija nra diferencijuojama arba kai jos i viso negalima urayti, arba kai, iekant dalini ivestini, reikia atlikti labai daug skaiiavim.

Paiekos metodai skirstomi pasyviuosius, kai kiekvienas bandymo takas parenkamas neatsivelgiant jau apskaiiuotas tikslo funkcijos reikmes, ir aktyviuosius, kai takui parinkti panaudojami ankstesni skaiiavim rezultatai.

3.5.1. PAIEKA KOORDINAI KRYPTIMIS

Paprasiausia naudotis tais metodais, kuriuose krypties vektoriai turi koordinatini ai kryptis. Kiekviename ingsnyje keiiama tik vieno kintamojo reikm. Radus tak, kuriame tikslo funkcijos reikm sumajo, pereinama prie kito kintamojo ir procesas kartojamas. Toks yra pakoordinaio nuolydio metodas, kuriame iteracijos atliekamos ciklais. Pirmasis ciklas: pasirenkamas pradinis takas 0X ir apskaiiuojami artiniai

1001 += XX ,

2112 += XX ,

nnnn XX 11 += . Antrasis ciklas:

11 nnn XX +=+ ,

2112 +++ += nnn XX ,

nnnn XX 12122 += . Bendroji rekurentin formul:

jjknjknjkn XX 11 +++ += , 0k , nj 1 . ingsnio ilg galima parinkti panaiai kaip kituose metoduose, pavyzdiui, pagal formul

( ) ( )jsjss XfXf +=+ min . Pavyzdys. ( ) ( ) ( )212

41 21 xxxXf += .

( )5,2;10 =X , ( ) 520 =Xf . 1 ciklas. Randame ingsn 0 , t. y. minimizuojame funkcij

( ) ( ) ( ) ( )( ) ( ) ( )24100 620;15,2;1 +=+=+= fXf . Aiku, minimumo takas ( )6;20 .

( ) ( ) ( ) = 6224 30 . ( ) 02,087,2213,1413,3 30 == ,

13,30 = , ( ) ( ) ( )5,2;13,20;113,35,2;11001 =+=+= XX , ( ) 87,987,213,1 241 =+=Xf .

Randame ingsn 1 , t. y. minimizuojame funkcij ( ) ( ) ( ) ( )( ) ( )2211 87,2263,11;05,2;13,2 ++=+=+= fXf

43,11 = , ( ) ( ) ( )07,1;13,21;043,15,2;13,22112 ==+= XX , ( ) ( ) 63,113,214,213,1

242 =+=Xf .

48

Tolimesni ciklai atliekami panaiai. Pakoordinaio nuolydio metodas gerai tinka separabiliosioms funkcijoms, kai ( ) ( )

=

=n

jjn xgxxxf

121 ,,, K , taiau, kai tikslo funkcijoje yra nari su kintamj sandaugomis,

atsiranda griovi, ir metodas nra efektyvus. Universalesnis yra konfigracij metodas. metod taikant, paieka vykdoma dviem etapais: valgomuoju ir iekojimo pagal ablon pagal toki schem.

1. Laisvai pasirenkame pradin tak ( )002010 ,,, nxxxX K= ir koordinai pokyius jx bei apskaiiuojame ( )0Xf .

2. Pirmasis valgomasis ingsnis. Jeigu ( ) ( )0110 XfxXf + , bet ( ) ( )0110 XfxXf