Luận án tiến sĩ: Một số vấn đề trong giải tích biến phân bậc hai và ứng dụng - Trường Đại học Vinh

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC VINH HÀ ANH TUẤN MỘT SỐ VẤN ĐỀ TRONG GIẢI TÍCH BIẾN PHÂN BẬC HAI VÀ ỨNG DỤNG LUẬN ÁN TIẾN SĨ TOÁN HỌC NGHỆ AN - 2023 luan an BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC VINH HÀ ANH TUẤN MỘT SỐ VẤN ĐỀ TRONG GIẢI TÍCH BIẾN PHÂN BẬC HAI VÀ ỨNG DỤNG Chuyên ngành: Toán Giải tích Mã số: 9 46 01 02 LUẬN ÁN TIẾN SĨ TOÁN HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC PGS. Nguyễn Huy Chiêu NGHỆ AN - 2023 luan an LỜI CAM ĐOAN Tôi xin cam đoan luận án tiến sĩ “Một số vấn đề trong giải tích biến phân bậc hai và ứng dụng” là công trình nghiên cứu của riêng tôi, dưới sự hướng dẫn của PGS. Nguyễn Huy Chiêu. Các kết quả viết chung với các tác giả khác đã được sự đồng ý của các đồng tác giả khi đưa vào luận án.

Các kết quả được trình bày trong luận án là mới và chưa được công bố trong bất kì công trình nghiên cứu nào từ trước đến nay. Tác giả Hà Anh Tuấn luan an LỜI CẢM ƠN Luận án được hoàn thành tại trường Đại học Vinh dưới sự hướng dẫn khoa học của PGS. Nguyễn Huy Chiêu. Tác giả xin được bày tỏ lòng cảm ơn sâu sắc nhất đến thầy hướng dẫn - Người đã đặt bài toán, định hướng nghiên cứu.

Thầy đã dành nhiều công sức, kiên nhẫn, tận tình chỉ bảo, dẫn dắt, giảng dạy cho tôi về những kiến thức, kinh nghiệm và tư duy của người làm Toán. Tôi xin cảm ơn Trường đại học Vinh, Khoa Toán học, phòng Đào tạo Sau đại học, các phòng chức năng của Nhà trường, quý thầy cô trong Bộ môn Toán Giải tích, Hội đồng khoa học Khoa Toán đã cho tôi một môi trường học tập và nghiên cứu lý tưởng và tạo điều kiện thuận lợi để tôi có thể hoàn thành luận án này. Tôi xin gửi lời cảm ơn Ban giám hiệu, Ban chủ nhiệm khoa Cơ bản, anh chị em và bạn bè đồng nghiệp tại Trường Đại học Giao thông Vận tải TP Hồ Chí Minh. Xin chân thành cảm ơn TS.

Trần Thái An Nghĩa (Đại học Oakland, Mỹ) và TS. Lê Văn Hiển (Đại học Hà Tĩnh) đã có những trao đổi, chia sẻ kinh nghiệm nghiên cứu và đóng góp nhiều ý kiến quý báu. Tôi xin bày tỏ lòng biết ơn đến Bố Mẹ, cảm ơn anh, chị, em và những người thân trong gia đình, những người đã luôn động viên, kiên nhẫn và mong đợi kết quả học tập của tôi. Đặc biệt, tôi xin gửi lời cảm ơn tới vợ tôi Hoàng Yến và các con Huy Hoàng, Bá Dương, những người đã luôn hy sinh rất nhiều, luôn lo lắng và mong mỏi tôi tiến bộ từng ngày.

Tôi xin được dành tặng luận án này cho những người mà tôi yêu thương. Nghệ An, ngày 10 tháng 03 năm 2022 Tác giả Hà Anh Tuấn luan an 1 MỤC LỤC Mở đầu 7 Chương 1. Một số kết quả về phép tính vi phân suy rộng trong giải tích biến phân 15 1. Các khái niệm và tính chất bổ trợ.

Hàm khả vi hai lần theo nghĩa mở rộng. Kết luận Chương 1. Điều kiện tăng trưởng bậc hai và tính dưới chính quy mêtric mạnh của dưới vi phân 60 2. Điều kiện tối ưu cho hàm chính thường nửa liên tục dưới dựa vào đạo hàm đồ thị dưới gradient.

Quan hệ tương đương giữa điều kiện tăng trưởng bậc hai và tính dưới chính quy mêtric mạnh của dưới vi phân. Kết luận Chương 2. Điều kiện tối ưu bậc hai cho một lớp bài toán quy hoạch nón 93 3. Điều kiện cần tối ưu bậc hai.

Đặc trưng cực tiểu địa phương mạnh. Kết luận Chương 3. 113 Kết luận chung và kiến nghị 114 Danh mục công trình của NCS có liên quan đến luận án 116 Tài liệu tham khảo 117 luan an 3 MỘT SỐ KÍ HIỆU ĐƯỢC SỬ DỤNG TRONG LUẬN ÁN ∃x tồn tại phần tử x ∀x với mọi phần tử x f :X→Y ánh xạ đơn trị từ X vào Y F :X⇒Y ánh xạ đa trị từ X vào Y gphF đồ thị của ánh xạ F : X ⇒ Y domF miền hữu hiệu của ánh xạ F : X ⇒ Y rgeF ảnh của ánh xạ F : X ⇒ Y Br (x) hình cầu đóng tâm x bán kính r > 0 B hình cầu đơn vị đóng ∇f (x) đạo hàm của ánh xạ f tại x R tập hợp số thực R− tập hợp số thực không dương R+ tập hợp số thực không âm R tập số thực mở rộng R ∪ {±∞} Rn không gian Ơclit thực n chiều Rn+ tập hợp các phần tử trong Rn có mọi tọa độ không âm Rn− tập hợp các phần tử trong Rn có mọi tọa độ không dương ∅ tập hợp rỗng x∈X x là phần tử trong không gian X Ω⊂X Ω là tập hợp con của X luan an 4 h.i tích vô hướng trong không gian Rn k.k chuẩn sinh bởi tích vô hướng h.i trong Rn p tức là kxk = hx, xi với mọi x ∈ Rn AT ma trận chuyển vị của ma trận A intΩ phần trong của tập hợp Ω convΩ bao lồi của tập hợp Ω Ω⊥ phần bù trực giao của tập hợp Ω trong Rn Ωo nón cực của Ω trong Rn clΩ bao đóng của tập Ω {xi } dãy phần tử trong Rn ϕ x → x̄ x → x̄ và ϕ(x) → ϕ(x̄) Ω x → x̄ x → x̄ và x ∈ Ω ε↓0 ε → 0 và ε ≥ 0 d(x, Ω) khoảng cách Ơclit từ phần tử x đến tập hợp Ω δΓ hàm chỉ của tập Γ o(t) vô cùng bé bậc cao hơn t o(t2 ) vô cùng bé bậc cao hơn t2 P := Q P được định nghĩa bởi Q  kết thúc chứng minh lim inf ψ giới hạn dưới của hàm số ψ lim sup ψ giới hạn trên của hàm số ψ NbΩ (x) nón pháp tuyến chính quy của tập hợp Ω tại x NΩ (x) nón pháp tuyến qua giới hạn của tập hợp Ω tại x TΩ (x) nón tiếp tuyến của tập Ω tại x DF đạo hàm đồ thị của ánh xạ F D(∂f ) đạo hàm đồ thị dưới gradient của hàm f ∂f b dưới vi phân chính quy của hàm số f ∂f dưới vi phân qua giới hạn của hàm số f ∂p f dưới vi phân gần kề của hàm số f
σ ·, Ω hàm tựa của tập hợp Ω luan an 5 Λ(x, x∗ ) tập hợp các nhân tử Lagrange tương ứng với (x, x∗ ) ΛG (x̄) tập hợp các nhân tử Lagrange mở rộng Λ(x, x∗ ; v) tập hợp nhân tử theo hướng v KΓ (x, x∗ ) nón tới hạn của tập hợp Γ tại (x, x∗ ) Kf (x, x∗ ) nón tới hạn của hàm f tại (x, x∗ ) L(x, λ) hàm Lagrange LG (x, α, λ) hàm Lagrange mở rộng Pu bài toán tối ưu phụ thuộc vào tham số u Du bài toán đối ngẫu của bài toán Pu subregF (x̄|ȳ) môđun tính dưới chính quy mêtric của ánh xạ F tại (x̄, ȳ) QG(f, x̄) môđun chính xác của điều kiện tăng trưởng bậc hai tại x̄ luan an 6 DANH MỤC CÁC CHỮ VIẾT TẮT MFCQ điều kiện chuẩn hóa ràng buộc Mangasarian-Fromovitz MSCQ điều kiện chuẩn hóa ràng buộc dưới chính quy mêtric RCQ điều kiện chuẩn hóa ràng buộc Robinson luan an 7 MỞ ĐẦU Giải tích biến phân là một lĩnh vực toán học được hình thành và phát triển do nhu cầu nghiên cứu các bài toán tối ưu, cân bằng và điều khiển, trong đó phép tính vi phân suy rộng nằm ở vị trí trung tâm [32, 46]. Tên gọi “Giải tích biến phân” cho lĩnh vực toán học này được đề xuất năm 1998 bởi Rockafellar và Wets [46] và sau đó được chấp nhận rộng rãi.

Tuy nhiên, các khái niệm cơ bản, những ý tưởng chính và nhiều kết quả quan trọng của giải tích biến phân đã tồn tại từ lâu [21, 32, 46]. Giải tích biến phân bậc hai là một bộ phận của giải tích biến phân, nghiên cứu các cấu trúc vi phân suy rộng bậc hai và các vấn đề liên quan. Những cấu trúc này xuất hiện một cách tự nhiên khi khảo sát các hệ biến phân được mô tả thông qua dưới vi phân hoặc nón pháp tuyến [9, 25]. Cấu trúc vi phân suy rộng bậc hai cũng xuất hiện khi nghiên cứu các bài toán tối ưu không trơn và tối ưu có ràng buộc [9, 33, 45, 46].

Những năm gần đây, giải tích biến phân bậc hai luôn thu hút được sự quan tâm nghiên cứu của nhiều nhà toán học và có nhiều kết quả thú vị theo hướng này đã được thiết lập [4, 9, 23, 32, 33, 46]. Phép tính vi phân suy rộng có nhiều ứng dụng trong lý thuyết tối ưu và tối ưu số [29, 32, 33, 37, 46]. Đặc biệt, nó giúp mở rộng và hợp nhất các điều kiện cực trị cho nhiều lớp bài toán tối ưu [33]. Chẳng hạn, dưới vi phân bậc nhất đã được dùng để thiết lập các quy tắc Fermat suy rộng.

Từ đó, nhờ hệ thống quy tắc tính toán, người ta dẫn ra được các quy tắc nhân tử Lagrange suy rộng [32, 33, 46]. Tương tự như các cấu trúc vi luan an 8 phân suy rộng bậc nhất, các cấu trúc vi phân suy rộng bậc hai cũng có vai trò quan trọng trong việc nghiên cứu các điều kiện tối ưu. Điều kiện cần và điều kiện đủ cực trị cho hàm chính thường nửa liên tục dưới biểu diễn được thông qua tính nửa xác định dương và xác định dương của dưới đạo hàm bậc hai [46]. Tập tiếp xúc bậc hai được dùng để thiết lập điều kiện cực trị cho các bài toán tối ưu có ràng buộc [7, 9].

Dưới vi phân bậc hai Fréchet đã được dùng trong các điều kiện cần cực trị cho bài toán tối ưu trơn không ràng buộc [14] và có ràng buộc tuyến tính [1]. Từ phương diện tối ưu số, các điều kiện tối ưu đóng vai trò thiết yếu trong việc thiết kế và phân tích sự hội tụ của các thuật toán [38]. Mặt khác, khi giải các bài toán thực tế [49] người ta thường cần sự hỗ trợ của máy tính và kết quả thu được là những lời giải số (với một tiêu chuẩn dừng nào đó, sau hữu hạn bước lặp, máy tính sẽ xuất ra một nghiệm, gọi là lời giải số). Do nhiều nguyên nhân khác nhau, nhiễu và sai số xuất hiện trong quá trình giải là không thể tránh khỏi.

Điều này dẫn đến độ tin cậy của một lời giải số phụ thuộc rất lớn vào đặc tính ổn định của bài toán. Chính vì thế, người ta rất quan tâm đến các điều kiện tối ưu đảm bảo một sự ổn định nào đó của nghiệm [36, 40, 43].