Phát triển phương pháp luận trích rút hệ luật ngôn ngữ mờ giải bài toán phân lớp, hồi quy dựa trên Đại số gia tử

BỘ GIÁO DỤC VÀ ĐÀO TẠO BỘ QUỐC PHÒNG VIỆN KHOA HỌC VÀ CÔNG NGHỆ QUÂN SỰ NGUYỄN ĐỨC DƯ PHÁT TRIỂN PHƯƠNG PHÁP LUẬN TRÍCH RÚT HỆ LUẬT NGÔN NGỮ MỜ GIẢI BÀI TOÁN PHÂN LỚP, HỒI QUY DỰA TRÊN ĐẠI SỐ GIA TỬ LUẬN ÁN TIẾN SĨ TOÁN HỌC Hà Nội – 2022 BỘ GIÁO DỤC VÀ ĐÀO TẠO BỘ QUỐC PHÒNG 3393333 VIỆN KHOA HỌC VÀ CÔNG NGHỆ QUÂN SỰ NGUYỄN ĐỨC DƯ PHÁT TRIỂN PHƯƠNG PHÁP LUẬN TRÍCH RÚT HỆ LUẬT NGÔN NGỮ MỜ GIẢI BÀI TOÁN PHÂN LỚP, HỒI QUY DỰA TRÊN ĐẠI SỐ GIA TỬ Chuyên ngành: Cơ sở toán học cho tin học Mã số: 9.10 LUẬN ÁN TIẾN SĨ TOÁN HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC: 1. NGUYỄN ĐỨC THẢO Hà Nội – 2022 i LỜI CAM ĐOAN Tôi cam đoan đây là công trình nghiên cứu của riêng tôi. Các kết quả nghiên cứu và số liệu trình bày trong luận án là trung thực, chưa từng được ai công bố ở trong bất kỳ công trình nào khác, các dữ liệu tham khảo được trích dẫn đầy đủ. Hà Nội, ngày 4 tháng 1 năm 2022 Tác giả luận án Nguyễn Đức Dư ii LỜI CẢM ƠN NCS xin bày tỏ lòng biết ơn sâu sắc tới các thầy PGS.

Nguyễn Cát Hồ và TS. Nguyễn Đức Thảo đã trực tiếp chỉ bảo và tận tình hướng dẫn NCS hoàn thành luận án này. NCS xin gửi lời cảm ơn đặc biệt tới TS. Hoàng Văn Thông, TS.

Phạm Đình Phong và các thành viên trong nhóm nghiên cứu Đại số gia tử đã luôn bên cạnh động viên và có nhiều hỗ trợ trong quá trình nghiên cứu. NCS trân trọng cảm ơn Thủ trưởng Viện KH-CN quân sự; Thủ trưởng và cán bộ, nhân viên Phòng Đào tạo, Viện KH-CN quân sự; Thủ trưởng, các thầy, các nhà nghiên cứu thuộc Viện Công nghệ thông tin, Viện KH-CN quân sự đã tận tình giảng dạy, hướng dẫn tạo điều kiện trong suốt quá trình học tập, nghiên cứu và hoàn thành luận án. NCS trân trọng cảm ơn Ban Giám hiệu Trường Đại học Giao thông vận tải, Khoa Công nghệ thông tin, các đơn vị chức năng trong Trường, các đồng nghiệp đã luôn tạo điều kiện trong suốt thời gian vừa qua để tôi có thể hoàn thành các nhiệm vụ công tác và nghiên cứu. Cảm ơn gia đình, người thân, bạn bè luôn bên cạnh, động viên, hỗ trợ NCS về mọi mặt trong cuộc sống.

Tác giả luận án Nguyễn Đức Dư iii MỤC LỤC Trang DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ VIẾT TẮT.vi DANH MỤC CÁC BẢNG. ix DANH MỤC CÁC HÌNH VẼ. xi MỞ ĐẦU.1 Chương 1: TỔNG QUAN VỀ TRÍCH RÚT HỆ LUẬT NGÔN NGỮ MỜ GIẢI BÀI TOÁN HỒI QUY VÀ BÀI TOÁN PHÂN LỚP DỰA TRÊN ĐẠI SỐ GIA TỬ. Một số khái niệm cơ bản.

Biến ngôn ngữ. Phân hoạch mờ. Khung nhận thức ngôn ngữ. Đại số gia tử.

Miền giá trị của biến ngôn ngữ là cấu trúc đại số. Một số tính chất cơ bản của Đại số gia tử. Định lượng Đại số gia tử. Hệ khoảng tương tự.

Đại số gia tử mở rộng. Hệ mờ dựa trên luật. Các thành phần của hệ mờ. Các mục tiêu khi xây dựng FRBS.

Tổng quan về giải bài toán phân lớp, hồi quy dựa trên hệ luật mờ.1 Bài toán phân lớp.2 Bài toán hồi quy. Các hướng tiếp cận giải bài toán phân lớp, hồi quy bằng hệ luật mờ. Phương pháp sinh luật dựa trên dữ liệu và ĐSGT. Những vấn đề còn tồn tại và hướng nghiên cứu.

Những vấn đề tồn tại của lý thuyết tập mờ. Hướng tiếp cận Đại số gia tử và những vấn đề còn tồn tại. Đề xuất hướng nghiên cứu. Kết luận chương 1.

37 Chương 2: PHÁT TRIỂN THUẬT TOÁN NÂNG CAO ĐỘ CHÍNH XÁC.38 CỦA CÁC HỆ PHÂN LỚP VÀ HỒI QUY DỰA TRÊN ĐẠI SỐ GIA TỬ. Thiết kế ngữ nghĩa tính toán của các từ của biến ngôn ngữ và ứng dụng .1 Thiết kế ngữ nghĩa tính toán của các từ ngôn ngữ dựa trên hàm S. Ứng dụng thiết kế phân hoạch mờ dựa trên hàm S giải bài toán hồi quy. Ứng dụng thiết kế phân hoạch mờ dựa trên hàm S giải bài toán phân lớp.

Phát triển thuật toán sinh luật dựa trên cây quyết định xây dựng hệ luật mờ giải bài toán hồi quy. Thuật toán xây dựng cây quyết định. Thuật toán sinh hệ luật ứng cử từ cây quyết định. Xây dựng FRBS giải bài toán hồi quy.

Thực nghiệm và đánh giá. Nâng cao độ chính xác của hệ phân lớp dựa trên luật mờ bằng thuật toán đồng tối ưu. Thuật toán đồng tối ưu PSO cho hệ phân lớp dựa trên luật mờ. Thực nghiệm và thảo luận.

Kết luận chương 2. 77 Chương 3: PHÁT TRIỂN THUẬT TOÁN THIẾT KẾ HỆ LUẬT NGÔN NGỮ MỜ GIẢI NGHĨA ĐƯỢC VÀ CÓ KHẢ NĂNG MỞ RỘNG.78 GIẢI BÀI TOÁN HỒI QUY DỰA TRÊN ĐẠI SỐ GIA TỬ. Biểu diễn ngữ nghĩa tập mờ giải nghĩa được của tập từ ngôn ngữ.1 Khái niệm tính giải nghĩa được của một cấu trúc toán học trong cấu trúc khác. Biểu diễn tập mờ hình thang của các từ của miền từ của biến ngôn ngữ và tính giải nghĩa được của chúng.

Khả năng mở rộng của LFoC và cấu trúc tr-MGr của biến. Khái niệm khả năng mở rộng của LFoC. Khả năng mở rộng của LFoC.3 Khả năng mở rộng của các cấu trúc tr-MGr của LFoC. Phát triển thuật toán thiết kế LRBS giải nghĩa được và mở rộng được giải bài toán hồi quy.

Các nhiệm vụ chính của thuật toán A thiết kế IS-LRBS.2 Thuật toán tiến hóa đa mục tiêu thiết kế các IS-LRBS. Nghiên cứu thực nghiệm và thảo luận. Cài đặt thực nghiệm. Kết luận chương 3.

114 DANH MỤC CÁC CÔNG TRÌNH KHOA HỌC ĐÃ CÔNG BỐ.116 TÀI LIỆU THAM KHẢO.117 PHỤ LỤC: CÁC TẬP DỮ LIỆU THỰC NGHIỆM. Các tập dữ liệu thực nghiệm cho bài toán hồi quy. Các tập dữ liệu thực nghiệm cho bài toán phân lớp.5 vi DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ VIẾT TẮT A Biến ngôn ngữ (thuộc tính ngôn ngữ) Đại số gia tử tuyến tính của biến ngôn ngữ A Đại số gia tử mở rộng của biến ngôn ngữ A A Một thuật toán tiến hóa đa mục tiêu IS-LRBS-Design-MOEA Cấu trúc bụi ngữ nghĩa của biến ngôn ngữ A Khung nhận thức ngôn ngữ của biến A ( Khung nhận thức ngôn ngữ của biến A với mức đặc tả k ) fm(x) Độ đo tính mờ của x H Tập các gia tử |H| Số lượng gia tử trong H. Hen Tập các gia tử mở rộng (bổ sung thêm gia tử h0) + Tập các gia tử dương H - Tập các gia tử âm H H(x) Tập các từ được sinh ra từ x bởi tác động của các gia tử Cấu trúc đa thể hình thang của biến A Cấu trúc đa thể hình thang của biến A với mức đặc tả k , ℙ Mặt Pareto các LRBS được thiết kế bằng thuật toán MOEA A A S Cấu trúc ngữ nghĩa của miền từ ngôn ngữ X của biến A k-section củacủa cấu trúc ngữ nghĩa A ( ) Khoảng tương tự mức k S Tập các khoảng mờ tương tự của Aj ( kj) (x) Khoảng tính mờ của x k(x) Khoảng tính mờ mức k của x A Tập các từ ngôn ngữ của biến ngôn ngữ A X Tập các từ ngôn ngữ của biến ngôn ngữ A trong đại số gia tử mở rộng Tập các các từ có độ dài đúng bằng k của biến A Tập các từ có độ dài nhỏ hơn hoặc bằng k của biến A ( ) |x| Độ dài của từ x vii v(x) Ánh xạ định lượng ngữ nghĩa của biến ngôn ngữ A (h) Độ đo tính mờ của gia tử h AI Trí tuệ nhân tạo (Artificial Intelligence) Comp Độ phức tạp (Complexity) DB Cơ sở dữ liệu (Database) ĐSGT Đại số gia tử (Hedge Algebra) FRBC Hệ phân lớp dựa trên luật mờ (Fuzzy rule-based classifier) FRBS Hệ dựa trên luật mờ, Hệ luật mờ (Fuzzy rule-based system) HA Đại số gia tử (Hedge Algebra) enHA Đại số gia tử mở rộng (Enlarge Hedge Algebra) IVQM Ánh xạ ngữ nghĩa định lượng giá trị khoảng (Interval-valued Quantifying Mapping) IS Giải nghĩa được và có khả năng mở rộng (Interpretable & Scalable) KB Cơ sở tri thức (Knowledge base) LR Luật ngôn ngữ (Linguistic rule) LRB Cơ sở luật ngôn ngữ (Linguistic rule-based) LRBS Hệ luật mờ ngôn ngữ (Linguistic rule-based system) LFoC Khung nhận thức ngôn ngữ (Linguistic frames of cognition) MG/MGr Đa thể hạt (Multi Granularity) MOGA Thuật toán di truyền đa mục tiêu (Multi-Object Genetic Algorithm) MOEA Thuật toán tiến hóa đa mục tiêu (Multi-Objective Evolutionary Algorithm) MOO Tối ưu đa mục tiêu (Multi-objective optimization) MOPSO Tối ưu bầy đàn đa mục tiêu (Multi-objective particle swarm optimization) viii MSE Sai số bình phương trung bình (Mean Square Error) NPGA-II Thuật toán di truyền sắp xếp không trội II (The Nondominated Sorting Genetic Algorithm II) PAES Chiến lược tiến hóa lưu trữ Pareto (Pareto archived evolution strategy) PSO Tối ưu bầy đàn (Particle swarm optimization) RCS Lựa chọn luật và điều kiện luật (Rule and condition selection) RB Cơ sở luật (Rule Base) SPEA2 Thuật toán tiến hóa Pareto mạnh 2 (Strength Pareto Evolutionary Algorithm 2) SQM Ánh xạ định lượng ngữ nghĩa (Semantically Quantifying Mapping) SWR Luật thắng đơn (Single winner rule) Tg/Tri Tam giác (Triangle) Tr/Tz Hình thang (Trapezoid) WV Bầu cử có trọng số (Weighted vote) ix DANH MỤC CÁC BẢNG Trang Bảng 1.

Ví dụ quan hệ dấu của một số gia tử. Các tham số thực nghiệm. So sánh kết quả thực nghiệm thuật toán EnHA-PAES-SF (EnHA-SF) với các thuật toán HA-Tg, EnHA-Tz, PAES-KB tại điểm FIRST. Các tham số thực nghiệm cho bài toán phân lớp.

Kết quả thực nghiệm của các hệ phân lớp FRBC_S, FRBC_TRA_k0, FRBC_TRA và FRBC_TRI. So sánh độ chính xác giữa các hệ phân lớp bằng phương pháp kiểm định Wilcoxon với α = 0,1. So sánh độ phức tạp giữa các hệ phân lớp bằng phương pháp kiểm định Wilcoxon với α = 0,1. Kết quả thực nghiệm của các hệ phân lớp FRBC_S, PAES-RCS và FURIA.

So sánh độ chính xác của hệ phân lớp FRBC_S so với PAES- RCS và FURIA bằng phương pháp kiểm định Wilcoxon với α = 0,1. So sánh độ phức tạp của hệ phân lớp FRBC_S so với PAES- RCS và FURIA bằng phương pháp kiểm định Wilcoxon với α = 0,1. Các tham số thử nghiệm pha 1, tìm tham số tối ưu. Các tham số thử nghiệm pha 2 tìm kiếm hệ luật tối ưu.

So sánh kết quả thử nghiệm thuật toán HA-De-PAES (HADe) với các thuật toán HA-PAES-MG-Kmax (HATg), PAESKB tại điểm FIRST. So sánh độ phức tạp của hệ luật sử dụng wilcoxon-test với mức =0,1. So sánh sai số MSE trên tập huấn luyện sử dụng wilcoxon-test với mức =0,1. So sánh sai số MSE trên tập kiểm tra sử dụng wilcoxon-test với mức =0,1.

Dữ liệu thống kê trong lần chạy thứ hai đối với tập dữ liệu Wine. Các kết quả thực nghiệm và so sánh giữa hai hệ phân lớp HACO và HATF.