vỀ cỰc trỊ hÀm lỒi - hus.vnu.edu.vn (54).pdf · k(hoặc k đơn hình), nếu slà tổ...
TRANSCRIPT
ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN
-------------------------
NGUYỄN ĐÌNH THỌ
VỀ CỰC TRỊ HÀM LỒI
LUẬN VĂN THẠC SĨ TOÁN HỌC
Hà Nội - Năm 2014
ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN
-------------------------
NGUYỄN ĐÌNH THỌ
VỀ CỰC TRỊ HÀM LỒI
Chuyên ngành: TOÁN GIẢI TÍCH
Mã số: 60 46 01 02
LUẬN VĂN THẠC SĨ TOÁN HỌC
NGƯỜI HƯỚNG DẪN KHOA HỌC:
GS. TSKH. LÊ DŨNG MƯU
Hà Nội - Năm 2014
i
MỤC LỤC
Lời nói đầu ii
Chương 1. Các kiến thức cơ bản về giải tích lồi 1
1.1. Tập lồi 1
1.2. Hàm lồi 9
1.3. Dưới vi phân 11
1.3.1. Khái niệm 11
1.3.2. Phép tính với dưới vi phân 14
1.4. Đạo hàm theo hướng và tính khả vi của hàm lồi 17
Chương 2. Cực tiểu hàm lồi trên tập lồi 19
2.1. Phát biểu bài toán 19
2.2. Sự tồn tại nghiệm tối ưu 23
2.3. Điều kiện tối ưu 26
2.3.1. Bài toán với ràng buộc đẳng thức 27
2.3.2. Bài toán với ràng buộc bất đẳng thức 29
2.4. Đối ngẫu Lagrange 32
2.5. Các phương pháp giải cơ bản 35
2.5.1. Phương pháp chiếu dưới đạo hàm 35
2.5.2. Thuật toán Frank-Wolfe 38
Chương 3. Cực đại hàm lồi trên tập lồi 44
3.1. Phát biểu bài toán 44
3.2. Tính chất cơ bản 44
3.3. Các phương pháp giải cơ bản 46
3.3.1. Phương pháp xấp xỉ ngoài 46
3.3.2. Phân hoạch không gian và thuật toán nhánh cận 52
Kết luận 62
Tài liệu tham khảo 63
ii
LỜI NÓI ĐẦU
Cực trị hàm lồi trên tập lồi là một lớp bài toán cơ bản của tối ưu hóa. Cực
tiểu hàm lồi trên tập lồi gọi là quy hoạch lồi có tính chất cơ bản là mọi điểm cực
tiểu địa phương đều là cực tiểu tuyệt đối. Tính chất quan trọng này cho phép các lý
thuyết có tính địa phương như giới hạn, vi phân,...có thể áp dụng trực tiếp vào quy
hoạch lồi. Lý thuyết về bài toán quy hoạch lồi đã được nghiên cứu nhiều và đã thu
được nhiều kết quả quan trọng dựa trên lý thuyết của giải tích lồi và tối ưu hóa. Cực
đại hàm lồi trên tập lồi có tính chất khác hẳn cực tiểu hàm lồi trên tập lồi, cụ thể ta
thấy rằng cực đại địa phương của một hàm lồi không nhất thiết là cực đại tuyệt đối.
Mục đích của luận văn này là để trình bày bài toán cực đại, cực tiểu hàm lồi
trên tập lồi và một số phương pháp giải cơ bản các bài toán này. Luận văn gồm có
ba chương:
Chương 1. Các kiến thức cơ bản về giải tích lồi
Trình bày một số khái niệm, định nghĩa và kết quả cần thiết liên quan đến tập
lồi và hàm lồi.
Chương 2. Cực tiểu hàm lồi trên tập lồi
Trình bày bài toán cực tiểu hàm lồi trên tập lồi, sự tồn tại nghiệm tối ưu và
điều kiện tối ưu của bài toán. Đối ngẫu Lagrange. Trình bày hai phương pháp cơ
bản giải bài toán quy hoạch lồi đó là phương pháp chiếu dưới đạo hàm và thuật toán
Frank-Wolfe.
Chương 3. Cực đại hàm lồi trên tập lồi
Trình bày bài toán cực đại hàm lồi trên tập lồi và một số tính chất cơ bản.
Trình bày hai phương pháp cơ bản giải bài toán cực đại hàm lồi trên tập lồi đó là
phương pháp xấp xỉ ngoài và thuật toán nhánh cận.
Luận văn được hoàn thành tại Trường Đại học Khoa học Tự nhiên - Đại học
Quốc gia Hà Nội, dưới sự hướng dẫn của GS. TSKH. Lê Dũng Mưu.
Em xin bày tỏ lòng biết ơn sâu sắc tới GS. TSKH. Lê Dũng Mưu, người đã
tận tình hướng dẫn và giúp đỡ em trong suốt quá trình nghiên cứu để em có thể
hoàn thành luận văn này.
iii
Em cũng bày tỏ lòng biết ơn chân thành tới quý thầy, cô giáo Trường Đại
học Khoa học Tự nhiên - Đại học Quốc gia Hà Nội đã giảng dạy và giúp đỡ em
hoàn thành khóa học.
Nhân dịp này em cũng xin chân thành cảm ơn Ban giám hiệu, đồng nghiệp
Trường THPT Ân Thi, gia đình và bạn bè đã luôn động viên, giúp đỡ và tạo điệu
kiện cho em về mọi mặt trong suốt quá trình học tập và thực hiện luận văn này.
Mặc dù đã có nhiều cố gắng nhưng luận văn khó tránh khỏi những thiếu sót.
Tác giả rất mong nhận được ý kiến đóng góp của quý thầy, cô giáo và bạn đọc để
luận văn được hoàn thiện hơn.
Xin trân trọng cảm ơn!
1
Chương 1. Các kiến thức cơ bản về giải tích lồi
Chương này trình bày một số khái niệm, định nghĩa và kết quả cần thiết liên
quan đến tập lồi và hàm lồi. Nội dung của chương được tham khảo từ các tài liệu
[1], [2], [4], [9].
1.1. Tập lồi
Định nghĩa 1.1. Cho hai điểm , na b .
(i) Đường thẳng đi qua hai điểm a và b là tập hợp có dạng
, , , 1nx x αa βb α β α β .
(ii) Đoạn thẳng nối hai điểm a và b là tập hợp có dạng
, 0, 0, 1nx x αa βb α β α β .
Định nghĩa 1.2. Một tập nC được gọi là một tập lồi, nếu C chứa mọi đoạn
thẳng đi qua hai điểm bất kỳ của nó. Tức là
C là tập lồi , , 0,1x y C λ thì 1λx λ y C .
Định nghĩa 1.3. (i) Ta nói x là tổ hợp lồi của các điểm (vectơ) 1 2, ,..., kx x x nếu
1
kj
jj
x λ x
với 0, 1,2,...,jλ j k và 1
1k
jj
λ
.
(ii) Ta nói x là tổ hợp affine của các điểm (vectơ) 1 2, ,..., kx x x nếu
1
kj
jj
x λ x
với 1
1k
jj
λ
.
Mệnh đề 1.1. Tập hợp C là lồi khi và chỉ khi nó chứa mọi tổ hợp lồi của các điểm
của nó. Tức là
C lồi 11
1 1
, ,..., 0 1 ,...,
k k
kk j j j
j j
k λ λ sao cho λ và x x C thì λ x C .
Chương 1. Các kiến thức cơ bản về giải tích lồi
2
Định nghĩa 1.4. Một tập C được gọi là tập affine nếu nó chứa đường thẳng đi qua
hai điểm bất kỳ của nó, tức là
C là tập affine , , x y C λ thì 1λx λ y C .
Định nghĩa 1.5. Siêu phẳng trong không gian n là tập hợp các điểm có dạng
n Tx a x α ,
trong đó na là một vectơ khác 0 và α .
Định nghĩa 1.6. Nửa không gian là một tập hợp có dạng
n Tx a x α ,
trong đó na là một vectơ khác 0 và α , đây là nửa không gian đóng.
Tập n Tx a x α là nửa không gian mở.
Mệnh đề 1.2. Tập M là tập affine khi và chỉ khi nó có dạng M L a với L
là một không gian con và a M . Không gian con L này được xác định duy nhất.
Không gian L trong mệnh đề trên được gọi là không gian con song song với
M (hoặc không gian con của M ).
Định nghĩa 1.7. Thứ nguyên (hay chiều) của một tập affine M là thứ nguyên của
không gian song song với M và được ký hiệu là dim M .
Mệnh đề 1.3. Bất kỳ một tập affine nM có số chiều r đều có dạng
nM x Ax b , (1.1)
trong đó A là ma trận cấp m n , mb và rankA n r . Ngược lại, mọi tập hợp
có dạng (1.1) với rankA n r đều là tập affine có số chiều là r .
Định nghĩa 1.8. Các điểm 0 1, ,..., kx x x trong n được gọi là độc lập affine nếu bao
affine của chúng có thứ nguyên là k .
Định nghĩa 1.9. Một tập hợp nS được gọi là một đơn hình có thứ nguyên bằng
k (hoặc k đơn hình), nếu S là tổ hợp lồi của 1k vectơ độc lập affine. Các vectơ
này được gọi là đỉnh của đơn hình.
Chương 1. Các kiến thức cơ bản về giải tích lồi
3
Định nghĩa 1.10. Một tập được gọi là tập lồi đa diện, nếu nó là giao của một số
hữu hạn các nửa không gian đóng.
Dạng tường minh của một tập lồi đa diện được cho như sau:
: , , 1,2,...,n jjD x a x b j m ,
trong đó 0 j na và jb , 1,2,...,j m .
Nếu ta kí hiệu A là ma trận có m hàng là các vectơ ja 1,2,...,j m và
vectơ 1 2, ,...,Tmb b b b thì hệ trên viết được là:
nD x Ax b .
Định nghĩa 1.11. Một tập C được gọi là nón nếu
0, λ x C λx C .
(i) Một nón được gọi là nón lồi nếu nó đồng thời là một tập lồi.
(ii) Một nón lồi được gọi là nón nhọn nếu nó không chứa đường thẳng, khi đó ta nói
O là đỉnh của nón. Nếu nón lồi này là một tập lồi đa diện thì ta nói nó là nón lồi đa
diện.
Định nghĩa 1.12. Cho nC là một tập lồi và x C .
(i) Tập
: , 0, CN x w w y x y C
được gọi là nón pháp tuyến (ngoài) của C tại x .
(ii) Tập
: , 0, CN x w w y x y C
được gọi là nón pháp tuyến (trong) của C tại x .
Định nghĩa 1.13. Một điểm a C được gọi là điểm trong tương đối của C nếu nó
là điểm trong của C theo tô-pô cảm sinh bởi affC . Ký hiệu tập các điểm trong
tương đối của C là riC . Vậy
ri : : affC a C B a B C C ,
Chương 1. Các kiến thức cơ bản về giải tích lồi
4
trong đó B là một lân cận mở của gốc.
Hiển nhiên
ri aff : affC a C B a B C C .
Mệnh đề 1.4. Cho nC là một tập lồi. Giả sử rix C . Khi đó với mọi y C ,
tất cả các điểm trên đoạn thẳng nối x và y , có thể trừ y , đều thuộc riC . Nói cách
khác, với mọi 0 1λ thì 1 ri riλ C λC C .
Định nghĩa 1.14. Bao lồi của một tập E là giao của tất cả các tập lồi chứa E . Ký
hiệu là coE .
Định nghĩa 1.15. Một điểm x C được gọi là điểm cực biên của C nếu không tồn
tại , , 0a b C a và 0 1λ sao cho 1x λa λ b .
Trong trường hợp C tập lồi đa diện thì điểm cực biên còn được gọi là đỉnh.
Ta kí hiệu V C là tập các điểm cực biên của C . Bao lồi của một số hữu hạn điểm
là một tập đa diện lồi, compact. Nếu 0 1, ,..., mv v v độc lập affine thì bao lồi của
chúng là một đơn hình. Đơn hình này có thứ nguyên là m . Các điểm 0 1, ,..., mv v v
được gọi là đỉnh (điểm cực biên) của đơn hình này.
Định nghĩa 1.16. Một tập F C được gọi là một diện của một tập lồi C nếu F là
tập lồi có tính chất
, : 1 , 0 1x y C tx t y F t thì ,x y F .
Điểm cực biên là diện có thứ nguyên bằng 0. Cạnh là diện có thứ nguyên bằng 1.
Tia cực biên là một diện nửa đường thẳng. Như vậy tia cực biên là một cạnh vô hạn.
Hướng cực biên là hướng của tia cực biên.
Định nghĩa 1.17. Cho 0x C . Ta nói Ta x α là siêu phẳng tựa của C tại 0x , nếu
0Ta x α , Ta x α , x C .
Định nghĩa 1.18. Cho C (không nhất thiết lồi) và y là một vectơ bất kỳ, đặt
: inf
Cx C
d y x y .
Chương 1. Các kiến thức cơ bản về giải tích lồi
5
Ta nói Cd y là khoảng cách từ y đến C . Nếu tồn tại π C sao cho
Cd y π y , thì ta nói π là hình chiếu (vuông góc) của y trên C và ký hiệu là
Cπ P y .
Theo định nghĩa, ta thấy rằng hình chiếu CP y của y trên C là nghiệm của
bài toán tối ưu
21min
2
x y x C .
Nói cách khác việc tìm hình chiếu của y trên C có thể đưa về việc tìm cực
tiểu của hàm toàn phương 2
x y trên C . Nếu C thì Cd y hữu hạn, vì
0 , Cd y x y x C .
Mệnh đề 1.5. Cho C là một tập lồi đóng khác rỗng. Khi đó:
(i) Với mọi ny , π C hai tính chất sau là tương đương:
a) Cπ P y ,
b) Cy π N π .
(ii) Với mọi ny , hình chiếu CP y của y trên C luôn tồn tại và duy nhất.
(iii) Nếu y C , thì , 0 C CP y y x P y là siêu phẳng tựa của C tại CP y
và tách hẳn y khỏi C , tức là
, 0, C CP y y x P y x C
và
, 0 C CP y y y P y .
(iv) Ánh xạ Cy P y có các tính chất sau:
a) , , nC CP x P y x y x y (tính không giãn).
b) 2
, C C C CP x P y x y P x P y (tính đồng bức).
Chứng minh. (i) Giả sử có a). Lấy x C và 0,1λ . Đặt
Chương 1. Các kiến thức cơ bản về giải tích lồi
6
: 1 λx λx λ π .
Do ,x π C và C lồi, nên λx C . Hơn nữa do π là hình chiếu của y nên
λπ y y x . Hay
22
π y λ x π π y .
Khai triển vế phải, ước lược và chia hai vế cho 0λ , ta có
22 , 0 λ x π x π π y .
Điều này đúng với mọi x C và 0,1λ . Do đó khi cho 0λ , ta được
, 0, π y x π x C .
Vậy Cy π N π .
Bây giờ giả sử có b). Với mọi x C , ta có
2
0
.
T T
T
y π x π y π x y y π
y π y π x y
Từ đây và b), dùng bất đẳng thức Cauchy-Schwarz ta có
2.
Ty π y π y x y π y x .
Suy ra , y π y x x C và do đó Cπ P y .
(ii) Do inf
Cx C
d y x y nên theo định nghĩa của cận dưới đúng, tồn tại một dãy
kx C sao cho
lim
kC
kx y d y .
Vậy dãy kx bị chặn, do đó nó có một dãy con jkx hội tụ đến một điểm π nào
đó. Do C đóng nên π C . Vậy
lim lim
jk kC
j kπ y x y x y d y .
Chứng tỏ π là hình chiếu của y trên C .
Chương 1. Các kiến thức cơ bản về giải tích lồi
7
Bây giờ ta chỉ ra tính duy nhất của hình chiếu. Thật vậy, nếu tồn tại hai điểm
π và 1π đều là hình chiếu của y trên C thì
1 1, C Cy π N π y π N π .
Tức là
1, 0 π y π π
và
1 1, 0 π y π π .
Cộng hai bất đẳng thức này ta suy ra 1 0 π π , và do đó 1π π .
(iii) Do Cy π N π nên
, 0, π y x π x C .
Vậy , ,π y x π y π là một siêu phẳng tựa của C tại π . Siêu phẳng này tách
y khỏi C vì y π nên
2, 0 π y y π π y .
(iv) Theo phần (ii) ánh xạ Cx P x xác định khắp nơi.
Do C C Cz P z N P z với mọi z , nên áp dụng z x và z y ta có
, 0 C C Cx P x P y P x
và
, 0 C C Cx P y P x P y .
Cộng hai bất đẳng thức trên ta được
, 0 C C C CP y P x P y P x x y .
Từ đây và theo bất đẳng thức Cauchy-Schwarz suy ra
C CP x P y x y .
Để chứng minh tính đồng bức, áp dụng tính chất b) của (i) lần lượt với
CP x và CP y , ta có
Chương 1. Các kiến thức cơ bản về giải tích lồi
8
, 0 C C CP x x P x P y ,
, 0 C C Cy P y P x P y .
Cộng hai bất đẳng thức ta được
, 0 C C C CP x P y y x P x P y
2
, 0 C C C CP x P y y x P x P y
2
, C C C CP x P y x y P x P y .
Định lý 1.1. (Định lý xấp xỉ tuyến tính tập lồi) Mọi tập lồi đóng khác rỗng và không
trùng với toàn bộ không gian đều là giao của tất cả các nửa không gian tựa của nó.
Định nghĩa 1.19. Cho hai tập C và D khác rỗng, ta nói siêu phẳng Ta x α tách
C và D nếu
, , T Ta x α a y x C y D .
Ta nói siêu phẳng Ta x α tách chặt C và D nếu
, , T Ta x α a y x C y D .
Ta nói siêu phẳng Ta x α tách mạnh C và D nếu
sup inf , ,
T T
y Dx C
a x α a y x C y D .
Định lý 1.2. (Định lý tách 1) Cho C và D là hai tập lồi khác rỗng trong n sao
cho C D . Khi đó có một siêu phẳng tách C và D .
Định lý 1.3. (Định lý tách 2) Cho C và D là hai tập lồi đóng khác rỗng trong n
sao cho C D . Giả sử có ít nhất một tập là compact. Khi đó hai tập này có
thể tách mạnh được bởi một siêu phẳng.
Bổ đề 1.1. (Bổ đề Farkas) Cho A là một ma trận thực cấp m n và na . Khi đó
trong hai hệ dưới đây có một hệ và chỉ duy nhất một hệ có nghiệm
0, 0, T nAx a x x ,
, 0, T mA y a y y .
Chương 1. Các kiến thức cơ bản về giải tích lồi
9
Ý nghĩa hình học của Bổ đề Farkas: Nón lồi, đóng 0 nx Ax nằm
trong nửa không gian 0 n Tx a x khi và chỉ khi vectơ pháp tuyến a ở trong
nón sinh bởi các hàng của ma trận A .
1.2. Hàm lồi
Cho nC là tập lồi và :f C . Ta sẽ ký hiệu
dom :f x C f x .
Định nghĩa 1.20. Tập domf được gọi là miền hữu dụng của f . Tập
epi : ,f x μ C f x μ
được gọi là trên đồ thị của hàm f .
Bằng cách cho f x nếu x C , ta có thể coi f được xác định trên
toàn không gian, và ta có
dom nf x f x ,
epi , nf x μ f x μ .
Định nghĩa 1.21. Cho nC lồi và :f C . Ta nói f là hàm lồi trên C ,
nếu epif là một tập lồi trong 1n .
Ta chủ yếu làm việc với hàm : nf . Trong trường hợp này
định nghĩa trên tương đương với
1 1f λx λ y λf x λ f y , ,x y C , 0,1λ .
Định nghĩa 1.22. Cho nC lồi.
(i) Hàm : nf được gọi là hàm lồi chặt trên C nếu
1 1f λx λ y λf x λ f y , ,x y C , 0,1λ .
Chương 1. Các kiến thức cơ bản về giải tích lồi
10
(ii) Hàm : nf được gọi là hàm lồi mạnh trên C với hệ số 0η ,
nếu ,x y C , 0,1λ ta có
211 1 1
2f λx λ y λf x λ f y ηλ λ x y .
(iii) Hàm f được gọi là hàm lõm trên C , nếu f là hàm lồi trên C .
Mệnh đề 1.6. Một hàm :f C là hàm lồi trên C khi và chỉ khi
,x y C , α f x , β f y , 0,1λ 1 1f λx λ y λα λ β .
Ví dụ 1.1. (Một số ví dụ về hàm lồi)
(i) Cho C là một tập lồi, Cδ là hàm chỉ của C , được định nghĩa như sau:
0 khi ,
: khi .
C
x Cδ x
x C
Cδ là một hàm lồi.
(ii) Cho C lồi đóng, hàm khoảng cách đến tập C , được định nghĩa như sau:
: min .
Cy C
d x x y
Cd là một hàm lồi.
Định nghĩa 1.23. Một hàm f gọi là chính thường, nếu domf và
, f x x .
Định nghĩa 1.24. Một hàm f gọi là đóng, nếu epif là một tập đóng trong 1n .
Chú ý 1.1. (i) Nếu f là một hàm lồi trên một tập lồi C , thì có thể thác triển f lên
toàn không gian bằng cách đặt
khi ,
: khi .
e
f x x Cf x
x C
(ii) Nếu f là hàm lồi trên n thì domf là một tập lồi, vì domf là hình chiếu trên
n của epif , tức là dom : , epif x μ x μ f .
Định nghĩa 1.25. Hàm f được gọi là thuần nhất dương (bậc 1) trên n nếu
Chương 1. Các kiến thức cơ bản về giải tích lồi
11
f λx λf x , , 0nx λ .
Mệnh đề 1.7. Cho f là một hàm thuần nhất dương trên n . Khi đó f là hàm lồi
khi và chỉ khi f là dưới cộng tính theo nghĩa f x y f x f y , , nx y .
Mệnh đề 1.8. Nếu 1 2,f f là những hàm lồi, chính thường thì 1 2f f là hàm lồi.
Hệ quả 1.1. Nếu 1 2, ,..., mf f f là các hàm lồi, chính thường và 1 2, ,..., mλ λ λ là các số
dương thì hàm 1 1 2 2 ... m mλ f λ f λ f là lồi.
Định nghĩa 1.26. Hàm l là hàm non affine của một hàm f trên n nếu l là hàm
affine trên n và , nl x f x x .
Định lý 1.4. Mọi hàm lồi đóng chính thường f trên n đều là bao trên của các
hàm non affine của nó. Tức là
sup v vv
f x l x l A ,
trong đó A là tập hợp tất cả các hàm non affine của f .
1.3. Dưới vi phân
1.3.1. Khái niệm
Định nghĩa 1.27. Cho : nf . Ta nói *nx là dưới đạo hàm của f
tại điểm 0nx nếu
* 0 0, x x x f x f x , nx .
Tập hợp tất cả các dưới đạo hàm của f tại điểm 0x được gọi là dưới vi phân của
f tại điểm đó và được kí hiệu là 0f x . Vậy
0 * * 0 0, , nf x x x x x f x f x x .
Nếu 0 f x thì ta nói f khả dưới vi phân tại điểm 0x .
Chương 1. Các kiến thức cơ bản về giải tích lồi
12
Ví dụ 1.2. (Một số ví dụ về dưới vi phân)
(i) Nếu f là hàm affine
*( ) , f x x x α với *nx và α
thì 0 * f x x , 0 nx
(ii) Nếu nC là tập lồi và 0x C thì
0 * * 0, , n nC Cδ x x x x x δ x x .
Với x C thì Cδ x nên * 0, Cx x x δ x luôn đúng. Vậy
0 * * 0 0, 0, nC Cδ x x x x x x C N x .
Mệnh đề 1.9. Cho : nf lồi, chính thường. Khi đó:
(i) Nếu domx f thì f x .
(ii) Nếu int domx f thì f x và compact. Ngược lại, nếu f x ,
compact thì ri domx f .
Chứng minh. (i) Cho domz f thì f z . Vậy nếu domx f thì f x
và do đó không thể tồn tại *x thỏa mãn
*, x z x f x f z .
Vậy f x .
(ii) Giả sử int domx f . Ta có điểm ,x f x nằm trên biên của epif . Do f lồi,
chính thường nên tồn tại siêu phẳng tựa của bao đóng của epif đi qua ,x f x ,
tức là tồn tại np , t không đồng thời bằng 0 thỏa mãn
, , , , epi .p x tf x p y tμ y μ f (1.2)
Ta có 0t , vì nếu 0t thì
, , , dom .p x p y y f
Nhưng do int domx f nên điều này kéo theo 0p . Vậy 0t .
Chương 1. Các kiến thức cơ bản về giải tích lồi
13
Hơn nữa 0t , vì nếu 0t thì trong bất đẳng thức (1.2), khi cho μ ta suy ra
mâu thuẫn vì vế trái cố định.
Chia hai vế của (1.2) cho 0t , đồng thời thay μ f y và đặt * p
xt
, ta được
* *, , , dom . x x f x x y f y y f
Hay là
*, , dom . x y x f x f y y f
Nếu domy f thì f y , do đó
*, , . nx y x f x f y y
Chứng tỏ * .x f x
Bây giờ ta chỉ ra tập f x compact.
Do domx f nên *x f x khi và chỉ khi
*' , , , . nf x d x d d (1.3)
Lấy ie vectơ đơn vị thứ i 1,...,i n của n . Áp dụng (1.3) lần lượt với id e
với 1,...,i n ta có * ' , iix f x e . Tương tự, áp dụng với id e với 1,...,i n ta
có * ' , iix f x e hay * ' , i
ix f x e . Tóm lại
*' , ' , , 1,..., . i if x e x f x e i n
Do ri domx f nên ' ,f x y hữu hạn với mọi ny . Nói riêng ' , if x e và
' , if x e hữu hạn với mọi 1,..., .i n Vậy f x bị chặn, và do tính đóng nên nó
compact.
Ngược lại, giả sử f x khác rỗng và compact. Ta chỉ ra rằng ri domx f . Do
f x nên domx f . Nếu trái lại ri domx f thì x ở trên biên tương đối
Chương 1. Các kiến thức cơ bản về giải tích lồi
14
của domf . Do domf lồi, theo mệnh đề về siêu phẳng tựa, tồn tại một siêu phẳng
tựa của bao đóng của domf tại x , tức là tồn tại vectơ , 0 np p sao cho
, dom . T Tp x p z z f
Lấy *x f x . Từ đây và theo định nghĩa dưới vi phân ta có
* *, , , 0, . nf z f x x z x x λp z x λ z
Chứng tỏ * , 0 x λp f x λ . Điều này mâu thuẫn với tính bị chặn của f x .
Vậy ri dom .x f
1.3.2. Phép tính với dưới vi phân
Mệnh đề 1.10. Cho f là hàm lồi chính thường trên n và 0λ . Khi đó
λf x λ f x , nx .
Chứng minh. Ta có:
*x λf x *, , nx z x λf z λf x z
*, , nx z x λf z λf x z
*
*
*
, ,
.
nxz x f z f x z
λ
xf x
λ
x λ f x
Vậy λf x λ f x , nx .
Định lý 1.5. (Định lý Moreau-Rockafellar) Cho 1 2, , ..., mf f f là các hàm lồi chính
thường trên n . Khi đó:
a) 1 1
m m
i ii i
f x f x , nx .
Chương 1. Các kiến thức cơ bản về giải tích lồi
15
b) Nếu 1ri dom
m
ii
f thì
1 1
m m
i ii i
f x f x , nx .
Chứng minh. a) Giả sử *
1
m
ii
x f x thì * *
1
m
ii
x x , với *i ix f x , 1,2,...,i m .
Ta có *i ix f x , 1,2,...,i m *, , , 1,2,..., ni i ix z x f z f x z i m
*
1 1 1
, ,
m m m
ni i i
i i i
x z x f z f x z
*
1 1
*
1
, ,
, .
m mn
i ii i
mn
ii
x z x f z f x z
x f x x
Vậy 1 1
m m
i ii i
f x f x , nx .
b) Ta cần chứng minh 1 1
m m
i ii i
f x f x , nx . (1.4)
Trước hết ta có mệnh đề sau:
Mệnh đề 1.11. Cho 1 2, ,..., mf f f là các hàm lồi hữu hạn trên một tập lồi D và
A là một ma trận thực cấp k n . Giả sử intb A D . Khi đó hệ
, , 0, 1,..., ix D Ax b f x i m
không có nghiệm, khi và chỉ khi tồn tại kt và 0, 1,..., iλ i m sao cho
1
1
m
ii
λ và 1
, 0,
m
i ii
t Ax b λ f x x D .
Bây giờ ta chứng minh b).
Trường hợp 1m là hiển nhiên. Ta chứng minh cho 2m . Thật vậy:
Lấy 0nx và * 01 2 x f f x . Theo định nghĩa của dưới vi phân ta có
Chương 1. Các kiến thức cơ bản về giải tích lồi
16
* 0 01 2 1 2, , nx x x f f x f f x x
0 0 * 01 2 1 2 , 0, nf x f x f x f x x x x x
0 0 * 0
1 2 1 2 , 0
f x f y f x f x x x x
x y không có nghiệm.
Lấy 1 2dom dom D f f và ,A x y x y .
Theo giả thiết 1f liên tục tại một điểm 1 2dom dom a f f , nên tồn tại một lân cận
U của gốc sao cho
1 2dom dom U a U a f f A D .
Vậy 0 int A D . Áp dụng Mệnh đề 1.11 với
0 0 * 01 2 1 2( , ) , f x y f x f y f x f x x x x ,
,A x y x y
ta có
0 0 * 01 2 1 2 1
2
, , 0, dom ,
dom
t x y f x f y f x f x x x x x f
y f.
Với 1domx f và 2domy f , thì bất đẳng thức trên là hiển nhiên. Vậy
0 0 * 01 2 1 2, , 0, ,
nt x y f x f y f x f x x x x x y .
Lấy 0x x , ta có
0 02 2, 0 t x y f y f x , ny
0 02 2, t y x f y f x , ny .
Suy ra 02t f x .
Lấy 0y x , ta có
0 0 * 01 1, , 0 t x x f x f x x x x , nx
* 0 01 1, x t x x f x f x , nx .
Chương 1. Các kiến thức cơ bản về giải tích lồi
17
Suy ra * 01 x t f x .
Vậy * * 0 01 2 x x t t f x f x .
Do đó 2 2
1 1
i ii i
f x f x , nx .
Giả sử (1.4) đúng với 2n k , tức là ta có
1 1
k k
i ii i
f x f x , nx .
Ta cần chứng minh (1.4) đúng với 1n k , tức là cần chứng minh
1 1
1 1
k k
i ii i
f x f x , nx .
Thật vậy, vì (1.4) đúng với 2n và n k nên ta có
1
11 1
k k
i i ki i
f x f f x
11
11
k
i ki
k
i ki
f x f x
f x f x
1
1
, .k
ni
i
f x x
Tóm lại, 1 1
m m
i ii i
f x f x , nx .
Vậy 1 1
m m
i ii i
f x f x , nx .
1.4. Đạo hàm theo hướng và tính khả vi của hàm lồi
Định nghĩa 1.28. Ta gọi đạo hàm theo hướng d của một hàm số f (không nhất
thiết là lồi) tại điểm x là đại lượng
Chương 1. Các kiến thức cơ bản về giải tích lồi
18
0' , : lim
λ
f x λd f xf x d
λ
nếu giới hạn này tồn tại.
Định lý 1.6. Nếu f là một hàm lồi trên tập lồi C thì với mọi x C và mọi d sao
cho x d C , đạo hàm theo hướng d của f tại x luôn tồn tại và nghiệm đúng
' ,f x d f x d f x .
Ngoài ra với mỗi điểm x cố định, ' ,.f x là một hàm lồi trên tập lồi
d x d C .
Định nghĩa 1.29. Cho hàm f xác định trên một lân cận của nx . Hàm f được
gọi là khả vi tại x , nếu tồn tại *x sao cho
*,lim 0
z x
f z f x x z x
z x.
Một điểm *x như thế này, nếu tồn tại sẽ duy nhất và được gọi là đạo hàm của
f tại x . Đạo hàm này được ký hiệu là f x hoặc 'f x .
Từ Định lý 1.6 dễ dàng suy ra rằng nếu f khả vi thì
' , , , f x d f x d d .
Định lý 1.7. Cho f là hàm khả vi trên tập lồi mở nX . Khi đó:
Hàm f là hàm lồi trên X , , , .f y f x f x y x x y X
Nói chung một hàm lồi không nhất thiết khả vi tại mọi điểm. Dưới vi phân là
một khái niệm mở rộng của đạo hàm trong trường hợp hàm không khả vi. Trong
trường hợp 0f x chỉ gồm duy nhất một điểm thì f khả vi tại 0x .
19
Chương 2. Cực tiểu hàm lồi trên tập lồi
Chương này trình bày bài toán cực tiểu hàm lồi trên tập lồi, sự tồn tại nghiệm
và điều kiện tối ưu cho nghiệm bài toán. Trình bày hai phương pháp cơ bản giải bài
toán quy hoạch lồi đó là phương pháp chiếu dưới đạo hàm và thuật toán Frank-
Wolfe. Nội dung của chương được tham khảo từ các tài liệu [1] - [7], [9].
2.1. Phát biểu bài toán
Cho nD và : nf . Xét bài toán quy hoạch toán học
min f x x D . P
Bài toán này được hiểu là tìm một điểm *x D sao cho
* , f x f x x D . Mỗi điểm x D được gọi là một phương án chấp nhận
được của bài toán P . Tập D được gọi là miền (tập) chấp nhận được, f được gọi
là hàm mục tiêu của bài toán P . Thông thường, tập D được cho như là tập
nghiệm của một hệ bất đẳng thức hoặc đẳng thức có dạng
: 0, 0, 1,..., , 1,..., j iD x X g x h x j m i p ,
trong đó nX và , : nj ig h , 1,..., , 1,...,j m i p .
Bài toán P có rất nhiều ứng dụng trong các lĩnh vực khác nhau. Chẳng
hạn, trong kinh tế nó là bài toán xác định phương án sản xuất sao cho chi phí thấp
nhất, với x là phương án sản xuất mà mỗi tọa độ jx của nó là số lượng sản phẩm
loại j cần sản xuất, còn f x là chi phí ứng với phương án x . Bài toán P trong
mô hình này có nghĩa là tìm một phương án sản xuất trong tập hợp các phương án
chấp nhận được D sao cho chi phí sản xuất ứng với phương án này là thấp nhất.
Định nghĩa 2.1. Điểm *x D mà
* , f x f x x D
Chương 2. Cực tiểu hàm lồi trên tập lồi
20
được gọi là nghiệm tối ưu, hoặc nghiệm tối ưu toàn cục, hoặc nghiệm cực tiểu toàn
cục, hoặc đơn giản là nghiệm của bài toán P .
Định nghĩa 2.2. Điểm *x D được gọi là nghiệm cực tiểu toàn cục chặt của bài
toán P nếu
* , f x f x x D và *x x .
Giá trị tối ưu (hay giá trị cực tiểu) của bài toán P được kí hiệu là
minx D
f x .
Nếu bài toán P có nghiệm là *x thì
* min
x D
f x f x .
Ta ký hiệu Argmin f x x D là tập nghiệm tối ưu của bài toán P . Nếu
bài toán chỉ có một nghiệm tối ưu thì có thể viết
* argmin x f x x D .
Định nghĩa 2.3. Điểm *x D được gọi là nghiệm tối ưu địa phương hoặc nghiệm
cực tiểu địa phương của bài toán P nếu tồn tại một lân cận U của điểm *x sao
cho
* , f x f x x U D .
Định nghĩa 2.4. Điểm *x D được gọi là nghiệm tối ưu địa phương chặt hoặc
nghiệm cực tiểu địa phương chặt của bài toán P nếu tồn tại một lân cận U của
điểm *x sao cho
* , f x f x x U D và *x x .
Chú ý 2.1. (i) Nếu nD thì ta nói P là bài toán tối ưu không ràng buộc.
Ngược lại, nếu nD thì ta nói P là bài toán tối ưu có ràng buộc.
Chương 2. Cực tiểu hàm lồi trên tập lồi
21
(ii) Nghiệm tối ưu toàn cục cũng là nghiệm tối ưu địa phương nhưng điều ngược lại
chưa chắc đúng. Tuy nhiên, nếu D là tập lồi và f x là hàm lồi thì nghiệm tối ưu
địa phương của bài toán P cũng là nghiệm tối ưu toàn cục. Cụ thể :
Mệnh đề 2.1. Cho hàm lồi : nf và tập lồi khác rỗng nD . Xét bài toán
min f x x D .
Khi đó:
a) Nếu *x là một nghiệm tối ưu địa phương của bài toán này thì *x cũng là nghiệm
tối ưu toàn cục.
b) Nếu *x là nghiệm tối ưu địa phương chặt hoặc f là hàm lồi chặt thì *x là
nghiệm tối ưu toàn cục duy nhất của bài toán.
Chứng minh. a) Giả sử *x D là một nghiệm tối ưu địa phương của bài toán
min f x x D . Theo định nghĩa, tồn tại một lân cận U của điểm *x sao cho
* , f x f x x U D .
Với bất kỳ x D , ta có
* * *1 λx λx λ x x λ x x U D
khi 0 1λ và λ đủ nhỏ.
Do *x là nghiệm cực tiểu địa phương và f là hàm lồi nên
* *1 λf x f x λf x λ f x
* f x f x .
Điều đó chứng tỏ *x là nghiệm tối ưu toàn cục của bài toán đang xét.
b) Giả sử *x là nghiệm tối ưu địa phương chặt. Theo (i), *x cũng là nghiệm tối ưu
toàn cục. Bây giờ, ta giả thiết phản chứng rằng *x không phải là nghiệm tối ưu toàn
cục duy nhất của bài toán, tức là tồn tại x D , *x x và *f x f x . Kí hiệu
*1 λx λx λ x với 0 1λ . Vì D là tập lồi và f là hàm lồi trên D nên
Chương 2. Cực tiểu hàm lồi trên tập lồi
22
λx D và * *1 λf x λf x λ f x f x , 0,1λ . (2.1)
Cho 0λ , ta có thể chọn được λx U , với U là một lân cận của *x . Điều này
và (2.1) mâu thuẫn với giả thiết *x là nghiệm tối ưu địa phương chặt. Vì vậy *x
phải là nghiệm tối ưu toàn cục duy nhất.
Cuối cùng, giả sử *x là nghiệm tối ưu địa phương và hàm mục tiêu f là lồi chặt.
Vì hàm lồi chặt là hàm lồi nên theo (i), *x là nghiệm tối ưu toàn cục. Ta cũng giả
thiết phản chứng rằng *x không phải là nghiệm tối ưu toàn cục duy nhất, tức là tồn
tại x D , *x x và *f x f x . Do f là hàm lồi chặt nên
* * *1 1 1 1
2 2 2 2
f x x f x f x f x .
Do D là tập lồi nên *1 1
2 2
x x D và bất đẳng thức trên mâu thuẫn với giả thiết
*x là nghiệm tối ưu toàn cục của bài toán, chứng tỏ *x là nghiệm tối ưu toàn cục
duy nhất.
(iii) Nếu bài toán P không có nghiệm tối ưu thì giá trị tối ưu của bài toán này, kí
hiệu là inf f D , là cận dưới lớn nhất (hay giá trị infimum) của hàm f trên D .
Giả sử 0 inft f D với 0 t . Khi đó
0, f x t x D và nx D sao cho 0lim
n
nf x t .
Ví dụ 2.1. (i) Cho cosf x x , D . Khi đó, bài toán P tương ứng có vô số
nghiệm tối ưu toàn cục,
*Argmin cos 2 1 , x x x k π k
và giá trị tối ưu là min cos 1
x
x .
(ii) Cho
2
khi 1
2 1 khi 1,
x xf x
x x D .
Chương 2. Cực tiểu hàm lồi trên tập lồi
23
Dễ thấy 2x là nghiệm cực tiểu toàn cục duy nhất. Điểm 0x là nghiệm cực tiểu
địa phương của f trên D . Giá trị tối ưu là min 2 1
x
f x f .
(iii) Cho arctanf x x và D . Dễ thấy, trên hàm f không có một nghiệm
cực tiểu địa phương, cực tiểu toàn cục nào. Ta có inf2
πf D .
(iv) Cho 1f x x và 2 2 2 21 2 14, 1 D x x x x .
Hàm f có một nghiệm cực tiểu toàn cục trên D là 2,0 T
x và vô số nghiệm
cực tiểu địa phương, đó là cả đoạn thẳng nối 1, 3T
và 1, 3T
. Giá trị tối ưu
của bài toán P tương ứng là min 2
x D
f x .
(v) Cho 1f x x và 21 2 0 D x x x .
Khi đó bài toán P tương ứng có vô số nghiệm cực tiểu địa phương, đó là tập các
điểm 21 20, 0 x x x ; không có nghiệm cực tiểu toàn cục và
inf f D .
2.2. Sự tồn tại nghiệm tối ưu
Xét bài toán P . Khi đó, có một trong bốn khả năng sau có thể xảy ra:
(i) Bài toán P không có phương án chấp nhận được, tức là D .
(ii) Bài toán P có nghiệm tối ưu, tức là tồn tại *x D sao cho
* , f x f x x D
và giá trị tối ưu của bài toán là * min
x D
f x f x .
(iii) Bài toán không có nghiệm tối ưu và giá trị hàm mục tiêu f x giảm vô hạn
trên tập chấp nhận được D , tức là giá trị tối ưu inf
x D
f x .
Chương 2. Cực tiểu hàm lồi trên tập lồi
24
(iv) Bài toán không có nghiệm tối ưu và giá trị tối ưu infx D
f x là hữu hạn.
Định lý 2.1. Điều kiện cần và đủ để bài toán P có nghiệm tối ưu là tập
: , F D t t f x x D
đóng và có một cận dưới hữu hạn.
Chứng minh. Giả sử *x là nghiệm tối ưu của bài toán P . Khi đó, ta có
* min
x D
f x f x và * ,
F D f x .
Hiển nhiên F D là tập đóng và nhận *f x là một cận dưới
Ngược lại, nếu tập F D có một cận dưới hữu hạn thì cận dưới lớn
nhất (hay infimum) của tập này là hữu hạn và ta kí hiệu nó là 0t . Theo định nghĩa
của infimum thì 0 , t t t F D và tồn tại dãy nt F D hội tụ đến 0t . Vì
F D là tập đóng nên 0t F D . Theo định nghĩa của tập F D , tồn tại
*x D sao cho *0 t f x . Hiển nhiên *f x cũng thuộc F D và vì 0t là cận
dưới lớn nhất của tập F D nên ta có *0f x t . Suy ra *
0 t f x . Điều đó
chứng tỏ *x là nghiệm tối ưu của bài toán P .
Định lý 2.2. (Định lý Weierstrass) Nếu D là tập compact và hàm f nửa liên tục
dưới trên D thì bài toán P có nghiệm tối ưu.
Chứng minh. Giả sử giá trị tối ưu của bài toán P là 0 inft f D . Theo định
nghĩa, ta có
0, f x t x D (2.2)
và
nx D sao cho 0lim
n
nf x t .
Chương 2. Cực tiểu hàm lồi trên tập lồi
25
Do D là tập compact nên có một dãy con knx của dãy nx hội tụ đến một điểm
*x D , tức là
*lim
kn
kx x D .
Do f nửa liên tục dưới tại *x D nên *0lim
kn
kf x f x t . Kết hợp với (2.2)
ta có
*0 inf t f D f x ,
chứng tỏ *x là nghiệm tối ưu của bài toán P .
Hệ quả 2.1. Nếu hàm f là nửa liên tục dưới trên D và thỏa mãn điều kiện bức
trên D ,
f x khi x D và x
thì bài toán P có nghiệm tối ưu.
Chứng minh. Lấy một điểm bất kỳ 0x D . Trước hết, ta chứng minh rằng tập
0 0: D x x D f x f x
là tập compact. Thật vậy, do f là nửa liên tục dưới trên D nên với mỗi dãy
0nx D x , nx x mà dãy nf x hội tụ, ta có
0lim
n
nf x f x f x .
Suy ra 0x D x , chứng tỏ 0D x là tập đóng. Hơn nữa, nếu 0D x không bị
chặn thì phải tồn tại một dãy 0kx D x , tức là 0kf x f x sao cho
kx . Do điều kiện bức nên kf x , mâu thuẫn với 0kx D x .
Vậy 0D x là tập compact. Theo Định lý Weierstrass, hàm f đạt cực tiểu trên
0D x , tức là tồn tại * 0x D x sao cho * 0, f x f x x D x . Dễ thấy, *x
cũng chính là nghiệm cực tiểu của bài toán P .
Chương 2. Cực tiểu hàm lồi trên tập lồi
26
2.3. Điều kiện tối ưu
Định lý 2.3. Giả sử D là tập lồi và f là hàm lồi, khả dưới vi phân trên D . Khi đó
*x D là nghiệm tối ưu của bài toán ( )P khi và chỉ khi
* *0 Df x N x
trong đó * *, 0, DN x w w x x x D là nón pháp tuyến ngoài của D tại
*x .
Chứng minh. Gọi Dδ là hàm chỉ của tập D , tức là
0 khi ,
khi .
D
x Dδ x
x D
Khi đó bài toán ( )P có thể viết dưới dạng
min nDf x δ x x . 1( )P
*x là nghiệm của bài toán 1( )P khi và chỉ khi
* * , nD Df x δ x f x δ x x
* * *0, , nD Dx x f x δ x f x δ x x
* *0 Df x δ x
* *0 Df x δ x .
Vì *x D nên
* * D Dδ x N x .
Vậy
* *0 Df x N x .
Hệ quả 2.2. Với các giả thiết như Định lý 2.3, nếu * intx D là nghiệm tối ưu của
bài toán ( )P thì *0f x . Hơn nữa, nếu f khả vi và nD thì *0 f x .
Chương 2. Cực tiểu hàm lồi trên tập lồi
27
2.3.1. Bài toán với ràng buộc đẳng thức
1. Xét bài toán
min f x x C , 2P
trong đó C là tập affine và C M a với M là một không gian con của n và
a C , f là một hàm lồi trên n .
Định lý 2.4. a) Giả sử f liên tục tại một điểm của C , *x là một nghiệm của bài
toán 2P . Khi đó
* f x M (2.3)
với , 0, nM z z x x M .
b) Giả sử (2.3) đúng tại *x C . Khi đó *x là nghiệm của bài toán 2P .
Chứng minh. a) Ta có * *0 Cf x N x ,
* *C MN x N x vì C M a với M là một không gian con của n và
a C .
Mặt khác vì M là một không gian con của n nên * MN x M .
Do đó *0 f x M .
Suy ra * f x M .
b) Giả sử * f x M với *x C . Khi đó tồn tại * x f x M .
Vì * x x M với x C nên
* *0 , , x x x f x f x x C .
Do đó *x là nghiệm của bài toán 2P .
2. Xét bài toán
min f x x C , 3P
Chương 2. Cực tiểu hàm lồi trên tập lồi
28
trong đó , , 1,2,..., n iiC x a x α i m với i na và iα , 1,2,...,i m
và f là hàm lồi trên n , liên tục tại một điểm của C .
Định lý 2.5. *x là nghiệm của bài toán 3P khi và chỉ khi tồn tại các số iλ với
1,2,...,i m sao cho
1 2 *1 2 ... m
mλ a λ a λ a f x .
Chứng minh. Để chứng minh định lý, chúng ta cần bổ đề sau:
Bổ đề 2.1. Đặt , 0, 1,2,..., n iM x a x i m . Khi đó
1 2, ,..., mM a a a .
Chứng minh. Không mất tính tổng quát, ta có thể xem 1 2, ,..., ma a a là độc lập
tuyến tính. Xét toán tử tuyến tính
1
:
, ,..., , .
n m
m
φ
x φ x a x a x
Khi đó Im mφ và *Ker Imφ φ
Ta lại có Ker φ M và * 1 2Im , ,..., mφ a a a .
Do đó 1 2, ,..., mM a a a
Bây giờ ta chứng minh định lý.
Vì C là tập affine nên C M a với M là một không gian con của n và
a C , trong đó
, 0, 1,2,..., n iM x a x i m .
Từ Định lý 2.4 suy ra *x là của bài toán 3P khi và chỉ khi tồn tại
* x f x M .
Theo Bổ đề 2.1, ta có
Chương 2. Cực tiểu hàm lồi trên tập lồi
29
1 2, ,..., mx M a a a .
Do đó tồn tại các số 1 2, ,..., mλ λ λ sao cho
1 2 *1 2 ... m
mλ a λ a λ a f x .
2.3.2. Bài toán với ràng buộc bất đẳng thức
Xét bài toán
min f x x D , OP
trong đó 0, 1,..., iD x X g x i m với nX là một tập lồi đóng và
các hàm , 1,...,if g i m là các hàm lồi hữu hạn trên X .
Chúng ta xây dựng hàm sau, được gọi là hàm Lagrange
0 1 01
, , ,..., :
m
m i ii
L x λ λ λ λ f x λ g x .
Định lý 2.6. (Định lý Karush-Kuhn-Tucker)
a) Nếu *x là nghiệm của bài toán OP , thì tồn tại 0iλ 0,1,...,i m không
đồng thời bằng 0 sao cho
*0 0, ,..., min , ,...,
m m
x XL x λ λ L x λ λ , (2.4)
* 0i iλ g x 1,...,i m . (2.5)
Hơn nữa nếu int X và điều kiện Slater sau thỏa mãn
0 0: 0, 1,..., ix D g x i m
thì 0 0λ .
b) Nếu (2.4) và (2.5) thỏa mãn với 0 0λ thì điểm chấp nhận được *x là nghiệm
của bài toán OP .
Chứng minh. a) Giả sử *x là nghiệm của bài toán OP . Đặt
1 *0 1 0: , ,..., : , , 1,...,
T mm i iC μ μ μ x X f x f x μ g x μ i m .
Chương 2. Cực tiểu hàm lồi trên tập lồi
30
Ta có 1int m C . Thật vậy:
Lấy 10 1, ,..., int
T m
mμ μ μ . Khi đó 0, 1,..., iμ i m .
Với *x x , ta có
* *00 f x f x μ ,
* 0 i ig x μ , 1,...,i m .
Suy ra 0 1, ,..., T
mμ μ μ C , do đó 1int m C .
Vậy C trong 1m .
Do 1, ,..., mf g g là hàm lồi, nên C là một tập lồi.
Hơn nữa, 0 C . Thật vậy:
Nếu 0 C thì
*: 0 x X f x f x , 0, 1,..., ig x i m .
Do đó *x không phải là nghiệm của bài toán OP . Điều này mâu thuẫn với giả
thiết. Vậy 0 C .
Theo định lý tách 1, có thể tách tập C và 0 , tức là tồn tại các số iλ , 1,...,i m
không đồng thời bằng 0 sao cho
0
0
m
i ii
λ μ , 0 1, ,..., T
mμ μ μ C . (2.6)
Do 1int m C , suy ra 0iλ , 0,1,...,i m .
Với mọi 0ε và x X , lấy
*0 ,
, 1,..., .
i i
μ f x f x ε
μ g x i m
thay vào (2.6) ta có
*0
1
0,
m
i ii
λ f x f x ε λ g x x X .
Cho 0ε ta được
Chương 2. Cực tiểu hàm lồi trên tập lồi
31
*0 0
1
,
m
i ii
λ f x λ g x λ f x x X . (2.7)
Do *x là điểm chấp nhận được nên ta có * 0, 1,..., ig x i m . Vậy
* * *0 0
1
m
i ii
λ f x λ f x λ g x . (2.8)
Từ (2.7) và (2.8) ta có
* *0 0
1 1
,
m m
i i i ii i
λ f x λ g x λ f x λ g x x X
*0 1 0 1, , ,..., , , ,..., , m mL x λ λ λ L x λ λ λ x X .
Vậy ta có
*0 0, ,..., min , ,...,
m m
x XL x λ λ L x λ λ .
Do *x là điểm chấp nhận được nên * 0ig x , 1,...,i m .
Nếu tồn tại 1,...,i m sao cho * 0 ig x ξ thì 0ε ta có
* *
*
0 ,
0 , 1,..., 1, 1,..., .
j
f x f x ε
g x ε j i i m
Do đó
,..., , , ,..., T
ε ε ξ ε ε C (ξ ở vị trí thứ i).
Thay ,..., , , ,...,T
ε ε ξ ε ε vào (2.6) và cho 0ε , suy ra 0iλ ξ .
Từ đó ta có 0iλ . Mặt khác, do 0iλ nên 0iλ .
Như vậy, nếu * 0ig x thì 0iλ . Do đó
* 0, 1,..., i iλ g x i m .
Giả sử điều kiện Slater được thỏa mãn, tức là
0 0: 0, 1,..., ix D g x i m .
Khi đó, giả sử 0 0λ , ta có
Chương 2. Cực tiểu hàm lồi trên tập lồi
32
* *0 0
1 1
0 ,
m m
i i i ii i
λ f x λ g x λ f x λ g x x X .
Do 0 0λ nên phải có ít nhất một 0iλ .
Thay 0x vào bất đẳng thức trên, ta được
* * 0 00 0
1 1
0 0
m m
i i i ii i
λ f x λ g x λ f x λ g x .
Mâu thuẫn. Vậy 0 0λ , tức là 0 0λ .
b) Giả sử *x là điểm chấp nhận được, thỏa mãn hai điều kiện (2.4) và (2.5) với
0 0, 0, 1,...,iλ λ i m .
Do 0 0λ , nên bằng cách chia cho 0λ , ta có thể coi hàm Lagrange là
11
, ,...,
m
m i ii
L x λ λ f x λ g x .
Từ điều kiện (3.1) và (3.2), ta có
* *
1 1
,
m m
i i i ii i
f x λ g x f x λ g x x X ,
* 0, 1,..., i iλ g x i m .
Suy ra
*
1
,
m
i ii
f x f x λ g x x X .
Do đó
* , f x f x x D .
Chứng tỏ *x là nghiệm của bài toán OP .
2.4. Đối ngẫu Lagrange
Đối ngẫu là một phần quan trọng của bài toán tối ưu. Có rất nhiều kiểu đối
ngẫu, nhưng đối ngẫu Lagrange được sử dụng rộng rãi hơn cả. Đối ngẫu Lagrange
dựa trên cơ sở hàm Lagrange. Ta xét bài toán
min , 0, 1,..., if x x X g x i m , P
Chương 2. Cực tiểu hàm lồi trên tập lồi
33
trong đó nX là tập lồi khác rỗng. Từ bài toán tối ưu trên, ta định nghĩa bài toán
tối ưu khác có dạng
max d y y Y , D
Đúng hơn, viết là
sup d y y Y , D
trong đó mY .
Định nghĩa 2.7. Bài toán D được gọi là đối ngẫu của bài toán P nếu với mọi
điểm chấp nhận được x của P và mọi điểm chấp nhận được y của D , ta có
f x d y .
Bài toán D được gọi là đối ngẫu chính xác của bài toán P nếu D là
bài toán đối ngẫu của P và tồn tại nghiệm *x của P và *y của D sao cho
* *f x d y .
Từ Định nghĩa 2.7 ta thấy rằng, nếu bài toán D là đối ngẫu chính xác của
bài toán P thì * *f x d y và hiển nhiên P cũng là đối ngẫu chính xác của
D .
Xét bài toán P , ta định nghĩa hàm Lagrange
1
, :
m
i ii
L x y f x y g x .
Lấy hàm mục tiêu của bài toán đối ngẫu là
: inf ,
x X
d y L x y . LD
với miền ràng buộc của LD bằng m . Khi đó bài toán đối ngẫu trở thành
0 0
sup : sup inf ,
x Xy y
d y L x y .
Định lý 2.7. Bài toán LD là đối ngẫu của bài toán P .
Chứng minh. Ta có
Chương 2. Cực tiểu hàm lồi trên tập lồi
34
1
inf , , ,
m
i ix X
i
d y L x y f x y g x f x x X y Y .
Chứng tỏ LD là đối ngẫu của bài toán P .
Nhận xét 2.1. Nhìn chung, một cặp đối ngẫu chưa chắc đã là cặp đối ngẫu chính
xác, chẳng hạn ta xét ví dụ sau:
Ví dụ 2.2. Xét bài toán
2min 0,2 , 1 0 f x x x X x .
Ta thấy
1 min 1f f .
Hàm Lagrange của bài toán là
2, 1 , 0, 0,2 L x y x y x y x X .
Ta thấy
0
max 0
y
d y .
Vậy cặp đối ngẫu là không chính xác.
Vậy cần thêm điều kiện gì để hai bài toán P và LD là cặp đối ngẫu
chính xác. Ta có định lý sau:
Định lý 2.8. (Định lý đối ngẫu chính xác) Giả sử
(i) P có một lời giải tối ưu.
(ii) Các hàm f và , 1,...,ig i m lồi và liên tục trên X .
(iii) Điều kiện Slater thỏa mãn, nghĩa là có 0x sao cho 0 0, 1,..., ig x i m . Khi
đó, P và LD là cặp đối ngẫu chính xác.
Chứng minh. Giả sử
1 2: , ,...,T
mg x g x g x g x .
Lấy
: , , , nA t z t f x z g x x X .
Chương 2. Cực tiểu hàm lồi trên tập lồi
35
Do f và , 1,...,ig i m là lồi nên tập A là lồi. Giả sử *x là nghiệm tối ưu của bài
toán P thì * ,0 f x A . Theo định lý tách tồn tại , 0α y thuộc n sao
cho
* , , Tαt y z αf x t z A . (2.9)
Do các hàm f và , 1,...,ig i m liên tục, bất đẳng thức trên đúng với mọi ,t z A
A là bao đóng của tập A . Mà ,f x g x A ,
* , Tαf x y g x αf x x X . (2.10)
Ta chỉ ra rằng , 0α y . Thật vậy, giả sử có chỉ số i thỏa mãn 0iy . Lấy
00, t z A . Điểm 0
0 0, , it z t z ξe A với mọi 0ξ ie là vectơ đơn vị thứ
i . Thay 0, ,t z t z vào (2.9) và cho ξ . Ta có vế trái bằng mà vế
phải hữu hạn. Mâu thuẫn này chứng tỏ 0y .
Chứng minh tương tự ta chỉ ra được 0α . Hơn nữa, 0α vì nếu 0α thì
0y . Trong trường hợp này, từ (2.10) ta có
0, Ty g x x X .
Mâu thuẫn với điều kiện Slater.
Chia cả hai vế của (2.10) cho α và theo định nghĩa của d ta có
*
yd f x
α.
Do đó P và LD là cặp đối ngẫu chính xác.
2.5. Các phương pháp giải cơ bản
2.5.1. Phương pháp chiếu dưới đạo hàm
Chúng ta xét bài toán
min f x x D , P
Chương 2. Cực tiểu hàm lồi trên tập lồi
36
trong đó : nf là hàm lồi, khả dưới vi phân và nD là tập lồi đóng.
Thuật toán.
Chọn điểm 0x D , và kβ là dãy các số dương thỏa mãn 2 jβ .
Tại mỗi Bước lặp k 0,1,...k ta có kx D .
Lấy k kg f x và tính
1 : k k kD kx P x α g ,
trong đó : kk
k
βα
γ với : max 1, k
kγ g .
a) Nếu 1 k kx x thì kx là nghiệm của bài toán P .
b) Ngược lại, thay kx bằng 1kx và tiếp tục Bước lặp k với : 1k k .
Định lý 2.9. Giả sử bài toán P có nghiệm tối ưu và f là khả dưới vi phân trong
D . Khi đó dãy kx được tạo ra bởi thuật toán hội tụ tới nghiệm của bài toán P .
Chứng minh. Để chứng minh định lý, chúng ta cần bổ đề sau:
Bổ đề 2.2. Chúng ta có:
(i) , kk kα g β k ;
(ii) 1 , k kkx x β k .
Chứng minh. (i) Từ kk
k
βα
γ và k
kg γ ta có
,
kkk
k kk
β gα g β k
γ.
(ii) Từ 1 k k kD kx P x α g , ta có
1 1, 0, k k k kkx α g x x x x D .
Thay kx x , theo bất đẳng thức Cauchy-Schwarz, ta có
Chương 2. Cực tiểu hàm lồi trên tập lồi
37
21 1
1
1
,
.
.
k k k k kk
k k kk
k kk
x x α g x x
α g x x
β x x
Bây giờ ta chứng minh định lý.
Giả sử *x là nghiệm của bài toán P , khi đó với mọi k , ta có
2 2 21 * * 1 1 * 12 , k k k k k k kx x x x x x x x x x
2* 1 * 12 , . k k k kx x x x x x (2.11)
Từ 1 k k kD kx P x α g , ta có
1 * 1, 0 k k k kkx α g x x x .
Vì vậy
1 * 1 * 1, , k k k k kkx x x x α g x x .
Khi đó, từ (2.11) suy ra
2 21 * * * 12 , k k k kkx x x x α g x x .
Bằng cách viết
* 1 * 1, , k k k k k kg x x g x x x x ,
ta có
2 21 * * * 1
2* * 1
2* * 1
2 , 2 ,
2 , 2 .
2 , 2
k k k k k k kk k
k k k k k kk k
k k k k kk k
x x x x α g x x α g x x
x x α g x x α g x x
x x α g x x β x x
2* * 22 , 2 k k k
k kx x α g x x β . (2.12)
Chú ý rằng, từ *kg f x , chúng ta có
Chương 2. Cực tiểu hàm lồi trên tập lồi
38
* *, 0 k k kg x x f x f x . (2.13)
Khi đó từ (2.12) suy ra
2 21 * * 22 , k k
kx x x x β k . (2.14)
Do giả thiết 2 jβ , từ (2.14) ta suy ra rằng *kx x hội tụ.
Từ (2.12) và (2.13) chúng ta suy ra
1 * * * 22 2 ,
k k kk kx x x x α f x f x β k ,
hay
2 2* * 1 * 2
2* 2
0 2 2
2 , .
k k kk k
kk
α f x f x x x x x β
x x β k
Tổng k từ 0 tới m , chúng ta có được
2* 0 * 2
0
0 2 2
mj
j kj
α f x f x x x β .
Điều này đúng với mọi m . Do đó
*
0
j
jj
α f x f x ,
nghĩa là * 0
jjα f x f x . Do lim 0jα , suy ra *lim 0
jf x f x .
Nhưng, từ * 0 jf x f x , chúng ta có *liminf 0
jf x f x . Do đó
*lim 0
jf x f x . Chú ý rằng *kx x hội tụ với mọi nghiệm *x . Vì vậy
dãy kx là bị chặn, và do đó nó có một dãy con có giới hạn hữu hạn, chẳng hạn *s ,
là nghiệm của bài toán. Khi đó dãy kx hội tụ đến *s .
2.5.2. Thuật toán Frank-Wolfe
Xét bài toán quy hoạch lồi với ràng buộc tuyến tính
Chương 2. Cực tiểu hàm lồi trên tập lồi
39
min f x x D ,
trong đó f là hàm lồi khả vi trên n và nD là đa diện xác định bởi
nD x Ax b ,
với A là ma trận cấp m n và vectơ mb .
Một thuật toán cơ bản để giải bài toán quy hoạch lồi với ràng buộc tuyến tính
là thuật toán Frank-Wolfe. Ý tưởng cơ bản của phương pháp là xấp xỉ tuyến tính
hàm mục tiêu ở mỗi bước lặp.
Thuật toán. Tìm 0x D . Tại mỗi Bước lặp k 0,1,2,...k ta có kx .
Bước 1. Tính kf x . Nếu 0 kf x thì dừng thuật toán và kx là nghiệm tối ưu.
Trái lại, sử dụng phương pháp đơn hình để giải bài toán quy hoạch tuyến tính
min , kf x x x D , kLP
thu được nghiệm tối ưu ku . Ta xét hai trường hợp:
(i) Nếu
, 0 k k kf x u x ,
thì kết thúc: kx là nghiệm tối ưu.
(ii) Nếu
, 0 k k kf x u x ,
lấy : k k kd u x là một hướng giảm. Tìm độ dài bước lặp kt theo công thức
argmin 0 1 k kkt f x td t .
Bước 2. Tính 1 : k k kkx x t d . Thay : 1k k và quay lại Bước lặp k .
Định lý 2.10. (i) 1 , k kf x f x k .
(ii) Nếu thuật toán kết thúc ở bước lặp k , thì kx là nghiệm tối ưu. Nếu thuật toán
không kết thúc, thì mọi điểm tụ của dãy kx là nghiệm tối ưu.
Chương 2. Cực tiểu hàm lồi trên tập lồi
40
(iii) Hơn nữa, dãy kf x hội tụ giảm về giá trị tối ưu *f và ta có
*0 , , k k k kf x f f x x u k .
Chứng minh. (i) Vì theo thuật toán, kd là hướng giảm.
(ii) Ta có, nếu thuật toán kết thúc ở Bước lặp k thì
, 0 k k kf x u x .
Do ku là một lời giải tối ưu của bài toán kLP , nên ta có
, , 0, k k k k kf x x x f x u x x D .
Vậy kx là một nghiệm tối ưu.
Tiếp theo, giả sử thuật toán không kết thúc. Lấy *x là một điểm tụ bất kỳ của
dãy kx , khi đó có một dãy con jkx dần đến *x khi j . Do D có hữu hạn
các đỉnh, ta có thể giả sử rằng *, jku u j . Từ 1 , k kf x f x k , theo định
nghĩa 1jk
x và *u ta có
1 1 * , 0 1 j j j jk k k k
f x f x f x t u x t .
Cho j , từ tính liên tục của hàm f ta được
* * * * , 0 1 f x f x t u x t .
Suy ra
* * * *
* * *
00 lim ,
t
f x t u x f xf x u x
t.
Mặt khác, từ jkx là một lời giải tối ưu của bài toán jkLP , ta có
*, , , j j j jk k k kf x u x f x x x x D .
Lấy giới hạn khi j , ta được
* *, 0, f x x x x D .
Chương 2. Cực tiểu hàm lồi trên tập lồi
41
Vậy *x là một nghiệm tối ưu.
(iii) Ta có f là hàm lồi trên D . Do tính lồi nên
* * *0 , , f x x x f x f x x D .
Vậy *x là nghiệm tối ưu của bài toán (P). Hơn nữa, do ku là nghiệm tối ưu của bài
toán kLP và f lồi nên tại mỗi Bước lặp k ta có
* *, , k k k k k kf x u x f x x x f x f x ,
hay là
* , , k k k kf x f x f x x u k .
Ví dụ 2.3. Xét bài toán
2 21 2
1 1min
2 2
f x x x x D ,
trong đó 21 2 1 2 11, 2 2, 3 D x x x x x x .
Lời giải. Ta có 1
2
xf x
x và 2 1 0
0 1
f x , suy ra f x là hàm lồi chặt.
Xuất phát từ 0 0,1T
x với 0 0,1 T
f x .
Đặt 0k .
Bước lặp 0k .
Giải bài toán 02min , f x x x x D được phương án cực biên tối ưu
là 0 13,
2
T
u .
Vì
0 0 0 0 0 0
33
, 0 1 032
2
T
f x u x f x u x
nên 0x chưa phải nghiệm tối ưu.
Chương 2. Cực tiểu hàm lồi trên tập lồi
42
Đặt 0 0 0 3: 3,
2
T
d u x . Ta có 0d là hướng giảm chấp nhận được của
bài toán đang xét tại 0x .
Tìm điểm chấp nhận được 1x : Ta có
0 0
3 30
3 31 1
2 2
t
x td tt
;
Xét hàm lồi một biến
2
20 0 3 1 1 3: 3 ,1 3 1
2 2 2 2
t f x td f t t t t với 0 1t .
Ta có
45 3
'4 2
t t .
Suy ra
2
' 015
t t .
Vậy
0
2
15t và 1 0 0
0
2 4,
5 5
T
x x t d .
Vì 1 2 4, 0,0
5 5
TT
f x nên đặt : 1 1k k và chuyển Bước lặp 1k .
Bước lặp 1k .
Giải
11 2
2 4min ,
5 5
f x x x x x D .
Bài toán này có hai phương án cực biên tối ưu là 0,1T
và 1
3,2
T
. Giả sử ta
chọn 1 0,1T
u .
Khi đó
Chương 2. Cực tiểu hàm lồi trên tập lồi
43
1 1 1 1 1 1
2
2 4 5, 0
15 5
5
T
f x u x f x u x .
Vậy nghiệm tối ưu là * 1 2 4,
5 5
T
x x .
44
Chương 3. Cực đại hàm lồi trên tập lồi
Chương này trình bày bài toán cực đại hàm lồi trên tập lồi và một số tính
chất cơ bản. Trình bày hai phương pháp cơ bản giải bài toán cực đại hàm lồi trên
tập lồi đó là phương pháp xấp xỉ ngoài và thuật toán nhánh cận. Nội dung của
chương được tham khảo từ các tài liệu [3] - [6], [8], [10].
3.1. Phát biểu bài toán
Xét bài toán
max f x x D , P
trong đó : nf là hàm lồi, xác định trên n (do đó liên tục), và D là tập lồi
đóng của n . Thông thường, tập D được cho như là tập nghiệm của một hệ bất
đẳng thức có dạng
: 0, 1,..., niD x g x i m ,
với : , 1,..., nig i m là các hàm lồi, xác định trên n .
3.2. Tính chất cơ bản
Các tính chất cực đại của một hàm lồi khác hẳn các tính chất về cực tiểu của
nó. Cụ thể ta thấy rằng cực đại địa phương của một hàm lồi không nhất thiết là cực
đại tuyệt đối. Ví dụ, hàm 2f x x có điểm cực đại địa phương trên đoạn 1,2
là 1x , nhưng điểm cực đại tuyệt đối lại là 2x . Nếu xét hàm này trên đoạn
2,2 ta thấy tập các điểm cực đại tuyệt đối của nó trên đoạn này là không lồi vì
nó chỉ gồm hai điểm 2 và 2 . Dưới đây, nếu không nói gì thêm, ta luôn hiểu cực
đại là cực đại tuyệt đối.
Từ định nghĩa hàm lồi, ta thấy rằng, nếu f lồi, chính thường trên một tập lồi
C và ,a b C thì với mọi ;x a b , tức là 1x λa λ b với 0 1λ , ta có
1 max , f x λf a λ f b f a f b .
Chương 3. Cực đại hàm lồi trên tập lồi
45
Từ đây suy ra, cực đại của một hàm lồi f trên một đoạn ;a b đạt tại đầu
mút của đoạn đó. Một cách tổng quát ta có:
Mệnh đề 3.1. (i) Giả sử f là một hàm lồi, chính thường trên n và nC là
một tập lồi. Khi đó nếu f đạt cực đại trên C tại một điểm trong tương đối của C
và tại đó f nhận giá trị hữu hạn thì f là hằng số trên C .
(ii) Nếu f là một hàm lồi, chính thường trên n và bị chặn trên trong một tập
affine thì nó là hằng số trên tập này.
Chứng minh. (i) Giả sử ria C là điểm tại đó f đạt cực đại trên C . Theo tính
chất của điểm trong tương đối, nên với mọi x C , đều tồn tại y C sao cho
,a x y . Suy ra 1a λx λ y với 0 1λ , do f là hàm lồi và f y f a
nên ta có
1 1 1 .f a f λx λ y λf x λ f y λf x λ f a
Suy ra λf a λf x hay f a f x .
Mặt khác ta có f x f a . Vậy f x f a .
(ii) Nếu f không là hằng số trên tập affine M , có nghĩa là tồn tại ,a b M sao cho
f a f b . Mọi điểm x thuộc nửa đường thẳng xuất phát từ a và có hướng
b a đều có dạng x a λ b a với 0λ . Khi đó
1 1λb x a
λ λ
.
Với mọi 1λ , theo tính lồi của f ta có
1 1λ
f b f x f aλ λ
.
Từ đây và do giả thiết f x m , x M ta suy ra
1 1 1
f b f a f x f a m f aλ λ λ
.
Chương 3. Cực đại hàm lồi trên tập lồi
46
Điều này đúng với mọi 1λ , nên khi cho λ ở vế phải, do f a hữu hạn,
nên vế phải tiến tới 0, trong khi đó theo giả thiết, vế trái 0f b f a . Mâu
thuẫn. Vậy f phải là hằng số trên tập affine M .
Hệ quả 3.1. Nếu một hàm lồi đạt cực đại trên một tập lồi có điểm cực biên, thì cực
đại sẽ đạt tại một điểm cực biên của tập lồi đó.
Chứng minh. Giả sử *x là điểm cực đại của f trên tập lồi C . Nếu *x không phải
điểm cực biên của C thì tồn tại ,a b C và 0,1λ sao cho * 1 x λa λ b .
Theo (i) của Mệnh đề 3.1, ta có * f x f x , ,x a b .
Hệ quả 3.2. Cho Γ 0λd λ và Γ Γ a a với , na d . Giả sử f là một hàm
lồi, chính thường trên n và f bị chặn trên trên nửa đường thẳng Γa . Khi đó f
bị chặn trên trên mọi nửa đường thẳng song song với Γa . Ngoài ra cực đại của f
trên nửa đường thẳng Γa đạt tại đầu mút của nó.
Chứng minh. Do f bị chặn trên trên tia Γa , nên Γ doma f . Nếu Γb // Γa thì
Γ domb f .
Theo Hệ quả 3.2 tính bị chặn trên của một hàm lồi trên một nửa đường thẳng
không phụ thuộc vào đầu mút của nửa đường thẳng mà chỉ phụ thuộc vào hướng
của nó.
3.3. Các phương pháp giải cơ bản
3.3.1. Phương pháp xấp xỉ ngoài
Xét bài toán sau
max f x x D , P
trong đó : nf là hàm lồi, xác định trên n (do đó liên tục), và D là tập lồi
đóng của n . Thông thường, D được cho như là tập nghiệm của một hệ bất đẳng
thức có dạng
Chương 3. Cực đại hàm lồi trên tập lồi
47
0, 1,..., ig x i m , (3.1)
với : , 1,..., nig i m là các hàm lồi, xác định trên n .
Trong phần này, chúng ta giả sử D bị chặn, vì vậy nó có thể được chứa
trong đa diện 1S D . Xét bài toán
1max f x x S , 1Q
nới lỏng hơn bài toán (P), bài toán này ít ràng buộc hơn bài toán (P). Vì 1S là đa
diện, 1Q có thể có nghiệm, chẳng hạn như tìm kiếm thông qua các đỉnh của 1S , và
tìm được đỉnh 1x ứng với giá trị lớn nhất của f (vấn đề sau không phải là khó
khăn, khi 1S được lựa chọn đúng). Nếu điều đó xảy ra mà 1x D (hay tổng quát
hơn, 1 1f x f y với 1y D ), thì 1x là một nghiệm tối ưu của bài toán P .
Ngược lại 1x D , chúng ta luôn tìm được một siêu phẳng 1H , tách chặt 1x từ D ,
tức là nếu 1 0h x là phương trình của nó thì
1 0h x , (3.2)
được thỏa mãn với mọi x D , nhưng không thỏa mãn với 1x . Vì vậy, bằng cách
thêm (3.2) vào hệ thống xác định 1S chúng ta “cắt” điểm 1x và xác định đa diện 2S
mới xấp xỉ D tốt hơn 1S . Quá trình này có thể được lặp lại bắt đầu với 2S thay vì
1S , cứ như vậy, cho đến khi nghiệm gần đúng kx thỏa mãn các hạn chế (3.1) với độ
xấp xỉ thích hợp.
Chương 3. Cực đại hàm lồi trên tập lồi
48
x 3
x 2
x 1
h 2(x) = 0
h 1(x) = 0
g 2(x) = 0
g 1(x) = 0
Hình 3.1
Bất kỳ phương pháp nào để giải quyết bài toán P mà tiến hành theo hướng
này sẽ được gọi là phương pháp xấp xỉ ngoài. Chúng ta có thể xây dựng thuật toán
tổng thể các phương pháp xấp xỉ ngoài ở dạng chính xác sau:
Thuật toán 1 ( D bị chặn).
Bắt đầu từ đa diện 1 S D . Đặt 1k .
a) Giải quyết bài toán nới lỏng sau
max kf x x S . kQ
(Ví dụ lấy giá trị lớn nhất của f trên tập đỉnh của kS ).
Cho kx là một nghiệm tối ưu của kQ .
Nếu kx D (hay nếu kf x f y với y D ), kết thúc: kx (hay y ) là nghiệm
của P . Trái lại, đi đến b).
Chương 3. Cực đại hàm lồi trên tập lồi
49
b) Xây dựng siêu phẳng kH tách chặt kx từ D , tức là nếu 0kh x là phương
trình của nó thì
0, 0, kk kh x h x x D . (3.3)
Tạo đa diện mới
1 : 0 nk k kS S x h x .
Thay : 1k k và quay trở về a).
Để thực thi thuật toán này ta phải xác định làm thế nào để xây dựng siêu
phẳng kH . Nhưng trước khi bàn về vấn đề này, đầu tiên cần chỉ ra các điều kiện
đảm bảo sự hội tụ của thuật toán, tức là những điều kiện đảm bảo rằng dãy kx có
ít nhất một điểm x sao cho
, maxx D f x f x x D (3.4)
Một siêu phẳng 0 nk kH x h x trong đó , k
k kh x p x η có giới hạn
là 0 nH x h x khi k , kí hiệu kH H k , nếu
,h x p x η , với
, k
kk
k
ηpp η
pp.
Định lý 3.1. Giả sử rằng có các điều kiện (a) sau đây:
(a) Khi một dãy con vkx hội tụ đến x D , và siêu phẳng vkH hội tụ đến H thì
H tách chặt x từ D .
Khi đó thuật toán trên hoặc kết thúc sau hữu hạn bước với một nghiệm tối ưu của
P hoặc tạo ra một dãy vô hạn giảm kS . Trong trường hợp sau, dãy kx có ít
nhất một điểm hội tụ và bất kỳ điểm hội tụ nào đều là nghiệm tối ưu của P .
Chương 3. Cực đại hàm lồi trên tập lồi
50
Chứng minh. Giả sử quá trình này là vô hạn, và x là điểm của dãy kx , sao cho
lim
vk
vx x . (Điểm đó luôn tồn tại từ tính bị chặn dưới của dãy k
lx S ). Đặt
0 k kH x h x với , kk kh x p x η . Chúng ta có thể giả sử 1, kp k .
Do giả thiết
0 , k k kk kh x p x η ,
nên
, k kkη p x . (3.5)
Hơn nữa
, 0, kk kh x p x η x D ,
nên bất kỳ điểm 0x D :
0, kkη p x . (3.6)
Từ (3.5) và (3.6) dãy kη bị chặn. Vì vậy, bằng cách lấy dãy con , vv
kkp η
nếu cần thiết, chúng ta có thể giả sử rằng
, vv
kkp p η η ,
tức là vkH tiến tới 0 H h x với , h x p x η .
Chúng ta thấy rằng x D . Thật vậy, nếu không như vậy, từ điều kiện (a) chúng ta
có
0h x . (3.7)
Nhưng với mọi vl k , v
ll kx S S , suy ra 0
v
lkh x . Do đó cố định v và cho
μl k , μ , chúng ta có 0vkh x . Từ điều này, bằng cách cho v , có
0h x ,
mâu thuẫn (3.7). Vì vậy x D , và chúng ta có
Chương 3. Cực đại hàm lồi trên tập lồi
51
maxf x f x x D .
Nhưng, từ kS D , max kf x f x x D , do đó
max kf x f x f x x D .
Thuật toán 2 (Ràng buộc tuyến tính).
Xét bài toán P , trong đó D là tập lồi đa diện được xác định như sau:
: , 0, 1,..., n ii iD x g x a x α i m .
Chọn một tập lồi đa diện 1S chứa D sao cho tập đỉnh và tập hướng cực biên của 1S
dễ tính.
Tìm tập đỉnh 11V và tập hướng cực biên 0
1V của 1S . Đặt 1k .
a) Với mọi hướng cực biên 0 ku V kiểm tra f x không bị chặn trên trên nửa
đường xuất phát từ 1x theo hướng u (trong đó 1x là một điểm tùy ý của kS ). Nếu
một hướng cực biên ku tồn tại, đi đến b). Nếu không, đi đến c).
b) Nếu , 0, 1,..., i ka u i m , kết thúc: bài toán không có lời giải tối ưu hữu hạn
và ku là một hướng tăng vô hạn của D mà f x không bị chặn trên. Trái lại, tính
arg min , i kk
ii a u .
c) Tìm
1argmax kkx f x x V .
Nếu , 0 i kia x α với mọi 1 1,..., ki i i , kết thúc: kx là một nghiệm tối ưu của
bài toán. Trái lại, tính
arg max , i kk ii a x α .
Đi đến d).
d) Tạo tập lồi đa diện mới
Chương 3. Cực đại hàm lồi trên tập lồi
52
1 : , 0 kk
ink k iS S x a x α .
Tìm tập đỉnh 11kV và tập hướng cực biên 0
1kV của 1kS . Thay : 1k k và quay lại
a).
Định lý 3.2. Thuật toán trên kết thúc sau tối đa m bước lặp.
Chứng minh. Chúng ta có
0 , 1,..., 1 v
nk iS x g x v k .
Nhưng các hàm 1,..., ,...
vi ig g đều khác nhau, vì nếu vQ có nghiệm tối ưu vx thì
, 0, , 0 μvii v v
v μa x α a x α với v μ ,
trong khi đó nếu Q có một hướng tối ưu u thì
, 0, , 0 μvii v va u a u với v μ .
(bất đẳng thức sau chỉ đơn giản thể hiện vu là một hướng cực biên của vS , vì một
hướng tăng vô hạn của μS là v μ ). Vì vậy thuật toán phải kết thúc sau tối đa m
bước lặp.
3.3.2. Phân hoạch không gian và thuật toán nhánh cận
Trong các bài toán tối ưu toàn cục, vì phải tìm kiếm trên toàn bộ miền ràng
buộc nên thường phải dùng tổ hợp hai phép toán:
(i) Phân hoạch (chia nhỏ) không gian rồi loại bỏ dần các phần chắc chắn không
chứa nghiệm toàn cục.
(ii) Trong mỗi bước có một số lượng lớn các miền nhỏ (tập phân hoạch) cần khảo
sát, cần phải có một cách ước lượng nhanh để xác định những miền chắc chắn
không chứa nghiệm toàn cục cần loại bỏ và những miền có chứa nghiệm toàn cục,
cần chia nhỏ nữa để khảo sát.
Sau đây ta xét hai phương pháp phân hoạch không gian là chia hộp vét kiệt
và chia đơn hình vét kiệt, và xét một phương pháp ước lượng là phương pháp nhánh
cận.
Chương 3. Cực đại hàm lồi trên tập lồi
53
1. Phép chia hộp vét kiệt
Một hộp (hay hộp hình chữ nhật) trong n là một tập có dạng
, , 1,..., nj j ja b x a x b j n ,
trong đó , na b và a b (nghĩa là j ja b , 1,...,j n ).
Khi có một hộp ,M a b ta có thể chia nó thành hai hộp con bằng một siêu
phẳng trực giao với một cạnh , j ja b 1,...,j n và đi qua một điểm trong v
của M . Vì chỉ số j và điểm v hoàn toàn xác định siêu phẳng chia, nên phép chia
được gọi là chia theo ,v j . Hai hộp con sinh ra bởi phép chia đó là
j jM x M x v , j jM x M x v .
Ta nói phép chia ,v j là phép chia chuẩn theo tỉ lệ 0 nếu cạnh , j ja b là
cạnh dài nhất của M và nếu
min , j j j j j jv a b v b a .
b ja j
v
Hình 3.2. Minh họa phép chia chuẩn ( , )v j .
Định nghĩa 3.1. Phép chia hộp được gọi là vét kiệt nếu mọi dãy vô hạn jkM của
các siêu hộp sinh ra từ phép chia chuẩn theo tỉ lệ và 1
,
j jk kM M j đều hội tụ
tại một điểm, có nghĩa là
Chương 3. Cực đại hàm lồi trên tập lồi
54
*jkM x khi j ,
điều này tương đương với
diam 0 qkM q , hay là *
1
qkq
M x ,
(ở đây, diamM là độ dài cạnh dài nhất của hộp M ).
Dãy qkM thỏa mãn điều kiện trên được gọi là một lọc các hộp.
Định lý 3.3. Một quá trình chia hộp trong đó mọi phép chia đều là chuẩn theo tỉ lệ
không đổi 0 thì phải vét kiệt.
Chứng minh. Xuất phát từ hộp M , sau nhiều nhất n phép chia, cạnh dài nhất của
hộp đó có độ dài không quá .diamM . Như vậy, nếu quá trình chia vô hạn thì
diam 0 qkM q .
2. Phép chia đơn hình vét kiệt
Một p đơn hình M (đơn hình thứ nguyên p ) là bao lồi của 1p điểm
1 1,..., pu u độc lập affine trong n . Ký hiệu 1 1,..., pM u u . Các điểm
, 1,..., 1 iu i p gọi là các đỉnh của đơn hình. Nếu một điểm v thuộc một cạnh
,
i ku u nhưng iv u , kv u thì v xác định phép chia đơn hình M thành hai đơn
hình con: , i kM M mà tập đỉnh thu được từ tập 1 1,..., pu u bằng cách thay iu ( ku ,
tương ứng) bởi v .
Nếu cạnh ,
i ku u dài nhất trong M và
1min , , 0
2 i k i kv u v u u u
thì phép chia được gọi là một phép chia chuẩn theo tỉ lệ .
Chương 3. Cực đại hàm lồi trên tập lồi
55
M
u ku j v
Hình 3.3. Minh họa phép chia đơn hình
Định nghĩa 3.2. Phép chia đơn hình được gọi là vét kiệt nếu mọi dãy vô hạn jkM
của các đơn hình sinh ra từ phép chia chuẩn theo tỉ lệ và 1
,
j jk kM M j đều
hội tụ tại một điểm, có nghĩa là
*jkM x khi j ,
điều này tương đương với
diam 0 qkM q , hay là *
1
qkq
M x ,
(ở đây, diamM là độ dài cạnh dài nhất của đơn hình M ).
Dãy qkM thỏa mãn điều kiện trên được gọi là một lọc các đơn hình.
Định lý 3.4. Phép chia chuẩn theo tỉ lệ 1
2 là vét kiệt.
Chứng minh. Giả sử qM là một dãy giảm các n đơn hình sinh bởi phép chia
chuẩn theo tỉ lệ 1
2. Đặt q là độ dài cạnh dài nhất của đơn hình qM . Ta sẽ chỉ ra
3
, 2
n q q q . (3.8)
Chương 3. Cực đại hàm lồi trên tập lồi
56
Thật vậy, ta chỉ cần chứng minh (3.8) với 1q . Tô màu các đỉnh của 1M
bởi màu đen, tô màu trắng các đỉnh của rM với 1r mà không phải đỉnh màu đen.
Ký hiệu rd là cạnh dài nhất của rM , đó là cạnh được chia. Đặt p là chỉ số nhỏ
nhất sao cho pd có ít nhất một điểm đầu mút màu trắng. Vì mỗi đỉnh màu đen được
thay bởi một đỉnh màu trắng tại mỗi bước chia trước p , ta có 1p n .
Đặt ,pd u v với u màu trắng. Khi đó u là trung điểm của kd nào đó với k p .
Đặt ,kd a b . Nếu a hoặc b trùng với v thì rõ ràng 1
1
2 p k và do đó (3.8)
đúng.
Ngược lại, xét tam giác co , ,a b v (bao lồi của các điểm , ,a b v ). Vì pv M và
k kd nên ta có , k kv a v b . Vì u là trung điểm của ,a b , ta suy
ra từ quy tắc hình bình hành
2 2 2 22 2 b u u v v a v b
và từ
2 21
4 b u a b
rằng
2 2 2 2 2 2 21 1 32 2
2 2 2 k k ku v v a v b a b ,
và do đó 3
2p k . Vì 1 n p và 1k nên ta có (3.8).
Từ (3.8) suy ra 0 q q . Do đó phép chia chuẩn tỉ lệ 1
2 là vét kiệt.
3. Thuật toán nhánh cận
Xét bài toán P , trong đó D là một tập lồi đóng, bị chặn.
Ý tưởng của phương pháp nhánh cận là thay vì việc giải bài toán, ta tìm cận
trên và cận dưới cho giá trị tối ưu của bài toán. Để làm cho cận chính xác người ta
chia nhỏ dần miền tìm kiếm (tập chấp nhận).
Chương 3. Cực đại hàm lồi trên tập lồi
57
Khởi tạo. Chọn một hộp (hoặc một đơn hình) 0P , tùy theo phương pháp phân hoạch
không gian sao cho 0D P . Tính tập hợp đỉnh 0V P .
Đặt 0 0: P .
Tính 0 0: max f x x V P .
Giả sử Q là tập hợp các điểm chấp nhận được đã biết (nếu có).
Tìm 0 arg max x f x x Q , nếu Q .
Đặt 00 : f x , nếu Q và 0 : , nếu Q .
Bước lặp k . Tại thời điểm bắt đầu Bước lặp k 0,1,2...k , ta có một họ k và
với mỗi hộp (hoặc mỗi đơn hình) k kP đều có một cận trên k . Đồng thời, nếu
qua việc tính k hay bằng cách nào khác có thể biết được một số điểm chấp nhận
được tốt nhất kx sao cho cận dưới : kk f x .
Bước 1. Nếu k k thì dừng: kx là nghiệm tối ưu và k là giá trị tối ưu của bài
toán (P).
Nếu trái lại, chuyển sang Bước 2.
Bước 2. Chia kP theo cách đã chọn (chia hộp hoặc chia đơn hình vét kiệt).
Đặt 1 2
: k k kP P P .
Bước 3. Tìm cận trên ikP của f trên ikD P thỏa mãn
ik kP P ( 1,2)i .
Bổ sung các điểm chấp nhận mới tìm thấy được trong khi tính cận trên ikP
( 1,2)i vào tập Q .
Bước 4. Tính max k f x x Q , kx Q sao cho kkf x .
Bước 5. Đặt 1 21 : \ , k k k k kP P P .
Xóa tất cả 1k kP thỏa mãn
Chương 3. Cực đại hàm lồi trên tập lồi
58
k kP hoặc kP D .
Đặt k là tập còn lại.
Đặt
khi (khi ®ã thuËt to¸n dõng), :
max khi .
k k
kk k k kP P
Chọn k kP sao cho k kα P α .
Bước 6. Đặt 1Γ : k k và chuyển sang Bước 2 của Bước lặp 1k .
Sự hội tụ của thuật toán
Nếu thuật toán dừng lại tại Bước lặp k thì k kα β . Do đó, ta có k kβ α ,
mà kkβ f x nên kx là nghiệm tối ưu và kβ là giá trị tối ưu của bài toán P .
Định lý sau cho ta thấy sự hội tụ của thuật toán khi thuật toán kéo dài vô hạn:
Định lý 3.5. (i) Nếu thuật toán kéo dài vô hạn và không tìm được điểm chấp nhận
được (tức là kβ với mọi 1,2,...k ) thì * :kα f .
(ii) Nếu thuật toán kéo dài vô hạn và tồn tại điểm chấp nhận được kx thì mọi điểm
tụ của dãy kx là nghiệm tối ưu toàn cục của bài toán P . Hơn nữa, *kα f và
*kβ f .
Chứng minh. Khi thuật toán kéo dài vô hạn, nó sẽ tạo ra một dãy vô hạn các tập
chia giảm dần (lồng nhau) jkP thỏa mãn jkP D , 1,2,...j
Để đơn giản ký hiệu, thay vì viết jk ta viết k .
Do tính vét kiệt, nên *kP x khi k . Vì , 1,2,... kP D k nên
ta có *x D .
(i) Ta có
max kk k kα α P f x x V P f v .
Mặt khác, với mọi kkx P ta suy ra *kx x . Do hàm f liên tục nên
Chương 3. Cực đại hàm lồi trên tập lồi
59
* * kkα f v f x f .
Theo định nghĩa của cận trên kα , ta có *kα f . Do đó * *f x f . Vậy *kα f .
(ii) Giả sử k
x là một điểm chấp nhận được trong kP D . Ta có
lim 0
k
kk
α f x .
Vì k
kβ f x và hàm f liên tục nên ta có lim 0
k kk
α β . Mặt khác, theo
cách tính cận k kα α P nên ta có
lim lim 0
k k k kk k
α β α P β . (3.9)
Do D bị chặn nên kx có một điểm tụ. Giả sử *x là một điểm tụ bất kỳ của kx .
Không giảm tổng quát ta giả sử dãy jkx là dãy con của kx , *jk
x x (để đơn
giản ký hiệu, ta viết *kx x ). Do hàm f liên tục nên suy ra *lim
k
kf x f x .
Dãy kα là dãy không tăng và bị chặn dưới bởi *f nên tồn tại lim
kk
α α . Hơn
nữa, dãy kβ là dãy số thực không giảm và bị chặn trên bởi *f nên tồn tại
lim
kk
β β . Do đó, ta có * β f α . Từ (3.9), ta có
* *lim lim lim
kk k
k k kβ β f x f x f α α .
Vậy điểm tụ *x của dãy kx là nghiệm tối ưu của bài toán P . Hơn nữa,
*kα f và *kβ f .
Ví dụ 3.1. Xét bài toán
21 2 1 2max , f x f x x x x x D ,
trong đó 2 221 22 1 1 D x x x .
Lời giải. Ta thấy 21 2 f x x x là hàm lồi trên 2 .
Chương 3. Cực đại hàm lồi trên tập lồi
60
Lấy hình hộp 0 P D với tập đỉnh 0 1,0 , 1,2 , 3,0 , 3,2T T T T
V P .
Ta có
0 0max 3,2 11 f x x V P f .
Lấy 5 3
,2 4
T
là điểm chấp nhận trong D . Ta có 0
5 3, 7
2 4
f .
Suy ra 0 0 . Do đó, ta thực hiện chia hộp 0P thành hai hộp 11P và 12P thỏa mãn
0 11 12 P P P và 11 12int int P P .
Hình hộp 11P với tập đỉnh 11 1,0 , 1,2 , 2,0 , 2,2T T T T
V P . Ta có
11 11 0max 2,2 6 f x x V P f (loại).
Hình hộp 12P với tập đỉnh 12 2,0 , 2,2 , 3,0 , 3,2T T T T
V P . Ta có
12 12 0max 3,2 11 f x x V P f .
Do đó, ta thực hiện chia hộp 12P thành hai hộp 21P và 22P thỏa mãn 12 21 22 P P P
và 21 22int int P P .
Hình hộp 21P với tập đỉnh 21 2,0 , 2,1 , 3,0 , 3,1T T T T
V P . Ta có
21 21 0max 3,1 10 f x x V P f .
Do đó, ta thực hiện chia hộp 21P thành hai hộp 31P và 32P thỏa mãn 21 31 32 P P P
và 31 32int int P P .
Mặt khác, ta nhận thấy rằng 3,1 T
D mà 03,1 10 f nên 3,1T
là điểm
chấp nhận được mới và ta đặt
1
5 3: max , , 3,1 3,1 10
4 4
f f f .
Hình hộp 22P với tập đỉnh 22 2,1 , 2,2 , 3,1 , 3,2T T T T
V P . Ta có
22 22 0max 3,2 11 f x x V P f .
Chương 3. Cực đại hàm lồi trên tập lồi
61
Do đó, ta thực hiện chia hộp 22P thành hai hộp 33P và 34P thỏa mãn 22 33 34 P P P
và 33 34int int P P .
Tiếp tục, ta thực hiện tính cận trên trên các hình hộp 31P , 32P , 33P , 34P trong đó
31
5 52,0 , 2,1 , ,0 , ,1
2 2
T TT T
V P ;
32
5 5,0 , ,1 , 3,0 , 3,1
2 2
T TT T
V P ;
33
5 52,1 , 2,2 , ,1 , ,2
2 2
T TT T
V P ;
34
5 5,1 , ,2 , 3,1 , 3,2
2 2
T TT T
V P .
Ta có
31 31 1
5max ,1 7,25
2
f x x V P f (loại);
32 32 1max 3,1 10 f x x V P f ;
33 33 1
5max ,2 8,25
2
f x x V P f (loại);
34 34 1max 3,2 11 f x x V P f .
Do đó nghiệm của bài toán là * 3,1T
x .
62
KẾT LUẬN
Sau thời gian học tập tại Khoa Toán - Cơ - Tin học, Trường Đại học Khoa
học Tự nhiên - Đại học Quốc gia Hà Nội, được các thầy cô trực tiếp giảng dạy và
hướng dẫn, đặc biệt là GS. TSKH. Lê Dũng Mưu, tôi đã hoàn thành luận văn với đề
tài “Về cực trị hàm lồi”. Luận văn đã đạt được một số kết quả sau:
1. Giới thiệu bài toán cực tiểu hàm lồi trên tập lồi, sự tồn tại nghiệm của bài
toán. Điều kiện tối ưu cho bài toán cho bài toán với ràng buộc đẳng thức và bài toán
với ràng buộc bất đẳng thức. Đối ngẫu Lagrange. Trình bày hai phương pháp cơ bản
giải bài toán cực tiểu hàm lồi trên tập lồi đó là phương pháp chiếu dưới đạo hàm và
thuật toán Frank-Wolfe.
2. Giới thiệu bài toán cực đại hàm lồi trên tập lồi, các tính chất cơ bản. Giới
thiệu phép chia hộp và phép chia đơn hình vét kiệt. Trình bày hai phương pháp cơ
bản để giải bài toán cực đại hàm lồi trên tập lồi đó là phương pháp xấp xỉ ngoài và
thuật toán nhánh cận.
Có thể xem luận văn như bước tìm hiểu ban đầu về bài toán cực đại, cực tiểu
hàm lồi trên tập lồi. Tác giả luận văn hy vọng sẽ có dịp tìm hiểu sâu hơn về lớp bài
toán quan trọng này của tối ưu toàn cục.
63
TÀI LIỆU THAM KHẢO
Tài liệu Tiếng Việt
[1] Nguyễn Thị Bạch Kim (2008), Giáo trình các phương pháp tối ưu: Lý thuyết
và thuật toán, NXB Bách khoa - Hà Nội.
[2] Đỗ Văn Lưu và Phan Huy Khải (2011), Giải tích lồi, NXB Khoa học Kĩ
thuật Hà Nội.
[3] Lê Dũng Mưu (1998), Nhập môn các phương pháp tối ưu, NXB Khoa học
Kĩ thuật Hà Nội.
[4] Lê Dũng Mưu, Nguyễn Văn Hiền và Nguyễn Hữu Điển (sẽ ra), Nhập môn
giải tích lồi ứng dụng, NXB Đại học Quốc gia Hà Nội.
[5] Trần Vũ Thiệu và Nguyễn Thị Thu Thủy (2011), Nhập môn tối ưu phi tuyến,
NXB Đại học Quốc gia Hà Nội.
[6] Hoàng Tụy (2003), Lý thuyết tối ưu, Bài giảng lớp cao học, Viện Toán học.
Tài liệu Tiếng Anh
[7] Stephn Boyd and Lieven Vandenberghe (2004), Convex Optimization,
Cambridge University Press.
[8] P.M. Pardalos and J.B. Rosen (1987), Constrained Global Optimization:
Algorithms and Applications, Springer-Verlag Berlin Heidelberg New York.
[9] Hoang Tuy (1998), Convex Analysis and Global Optimization, Kluwer
Academic Publishers.
[10] Hoang Tuy (1983), “On outer approximation methods for solving concave
minimization problems”, Acta Mathematica Vietnamica, 8, pp. 3-34.