Luận án: Tóm tắt dữ liệu bằng ngôn ngữ với cách tiếp cận đại số gia tử - TS Phạm Thị Lan

BỘ GIÁO DỤC VÀ ĐÀO TẠO VIỆN HÀN LÂM KHOA HỌC VÀ CÔNG NGHỆ VIỆT NAM HỌC VIỆN KHOA HỌC VÀ CÔNG NGHỆ ----------------------------- PHẠM THỊ LAN TÓM TẮT DỮ LIỆU BẰNG NGÔN NGỮ THEO CÁCH TIẾP CẬN ĐẠI SỐ GIA TỬ LUẬN ÁN TIẾN SĨ NGÀNH MÁY TÍNH Hà Nội – 2022 BỘ GIÁO DỤC VÀ ĐÀO TẠO VIỆN HÀN LÂM KHOA HỌC VÀ CÔNG NGHỆ VIỆT NAM HỌC VIỆN KHOA HỌC VÀ CÔNG NGHỆ ----------------------------- PHẠM THỊ LAN TÓM TẮT DỮ LIỆU BẰNG NGÔN NGỮ THEO CÁCH TIẾP CẬN ĐẠI SỐ GIA TỬ LUẬN ÁN TIẾN SĨ NGÀNH MÁY TÍNH Chuyên ngành: Khoa học máy tính Mã số: 9 48 01 01 NGƯỜI HƯỚNG DẪN KHOA HỌC: 1.TSKH Nguyễn Cát Hồ 2.TS Hồ Cẩm Hà Hà Nội – 2022 LỜI CAM ĐOAN Tôi xin cam đoan đây là công trình nghiên cứu của riêng tôi. Các kết quả được viết chung với các tác giả khác đều được sự đồng ý của các đồng tác giả trước khi đưa vào luận án. Các kết quả nêu trong luận án là trung thực và chưa từng được công bố trong các công trình nào khác. Luận án được hoàn thành trong thời gian tôi làm Nghiên cứu sinh tại Học viện Khoa học và Công nghệ, Viện Hàn lâm Khoa học và Công nghệ Việt Nam.

Tác giả NCS Phạm Thị Lan LỜI CẢM ƠN Trước tiên, tôi xin gửi lời cảm ơn sâu sắc tới tập thể hướng dẫn là PGS.TSKH Nguyễn Cát Hồ và PGS.TS Hồ Cẩm Hà. Trong quá trình nghiên cứu và hoàn thành luận án, tác giả đã nhận được sự chỉ dẫn tận tình, các định hướng khoa học, những kinh nghiệm quý báu trong nghiên cứu từ hai thầy cô. Đặc biệt, thầy cô luôn quan tâm, khuyến khích, động viên tác giả vượt qua các giai đoạn khó khăn để hoàn thành luận án. Tác giả xin gửi lời cảm ơn chân thành tới các thầy cô, các phòng ban trong Học viện Khoa học và Công nghệ, Viện Hàn lâm Khoa học Việt Nam đã tạo điều kiện thuận lợi cho tác giả trong suốt quá trình nghiên cứu và thực hiện bảo vệ luận án.

Tác giả xin gửi lời cảm ơn tới các thầy cô và anh chị trong nhóm nghiên cứu Đại số gia tử và ứng dụng đã luôn chia sẻ, động viên và đưa ra góp ý quý báu đối với vấn đề nghiên cứu của tác giả. Tác giả cũng xin gửi lời cảm ơn chân thành tới Ban giám hiệu trường Đại học Sư phạm Hà Nội, Ban chủ nhiệm khoa và cán bộ, giảng viên tại khoa Công nghệ thông tin, trường Đại học Sư phạm Hà Nội đã tạo điều kiện, giúp đỡ, động viên trong suốt quá trình học tập, nghiên cứu và hoàn thiện bảo vệ luận án. Tác giả xin gửi lời cảm ơn và lòng biết ơn sâu sắc tới các thành viên trong đại gia đình đã luôn hỗ trợ, tạo điều kiện, động viên để tác giả có thời gian, tâm lý tốt nhất để thực hiện các nhiệm vụ trong nghiên cứu. Tác giả NCS Phạm Thị Lan 1 MỤC LỤC DANH MỤC CÁC BẢNG.

5 DANH MỤC CÁC HÌNH VẼ, ĐỒ THỊ. 6 DANH MỤC CÁC KÝ HIỆU, CHỮ VIẾT TẮT. MỘT SỐ KIẾN THỨC CƠ SỞ. Một số kiến thức cơ bản về tập mờ.

Định nghĩa tập mờ. Biến ngôn ngữ. Phân hoạch mờ. Khung nhận thức dựa trên lý thuyết tập mờ.

Định nghĩa khung nhận thức. Các ràng buộc về tính giải nghĩa được. Tổng quan về trích rút tóm tắt bằng ngôn ngữ dựa trên lý thuyết tập mờ. Bài toán trích rút tóm tắt bằng ngôn ngữ là một nhánh trong lĩnh vực khai phá dữ liệu.

Dạng câu tóm tắt có từ lượng hóa ngôn ngữ và ứng dụng. Trích rút tóm tắt từ cơ sở dữ liệu. Trích rút tập câu tóm tắt tối ưu từ cơ sở dữ liệu. Giải thuật di truyền giải bài toán trích rút tập tóm tắt.

Các yếu tố trong mô hình giải thuật di truyền trích rút tập câu tóm tắt. Lý thuyết đại số gia tử. Cấu trúc đại số cho miền giá trị của biến ngôn ngữ. Đại số gia tử mở rộng mô hình lõi ngữ nghĩa của hạng từ.

Kết luận chương 1. VẤN ĐỀ NỘI DUNG THÔNG TIN CÂU TÓM TẮT VÀ BIỂU DIỄN TẬP MỜ CỦA MIỀN NGÔN NGỮ THUỘC TÍNH. Vai trò của khung nhận thức trong bài toán trích rút tóm tắt bằng ngôn ngữ dựa trên lý thuyết tập mờ. Vấn đề nội dung thông tin của các câu tóm tắt bằng ngôn ngữ.

Khung nhận thức ngôn ngữ trong lý thuyết đại số gia tử. Cấu trúc đa ngữ nghĩa và tính mở rộng được của LFoC. Cấu trúc đa ngữ nghĩa trong LFoC. Mô hình bụi biểu diễn cấu trúc đa ngữ nghĩa của LFoC.

Tính mở rộng được của LFoC. Xây dựng cấu trúc ngữ nghĩa tính toán giải nghĩa được của LFoC. Thủ tục xây dựng ngữ nghĩa tính toán cho LFoC. Tính giải nghĩa được của ngữ nghĩa tính toán với cấu trúc đa thể.

Kết luận chương 2. PHƯƠNG PHÁP TRÍCH RÚT CÂU TÓM TẮT NGÔN NGỮ DỰA TRÊN ĐẠI SỐ GIA TỬ. Cú pháp câu tóm tắt trong ngôn ngữ tự nhiên. Phương pháp trích rút câu tóm tắt dựa trên lý thuyết Đại số gia tử.

Các thành phần chính trong phương pháp đề xuất. Tính mở rộng được của phương pháp đề xuất. Đánh giá thông tin của câu tóm tắt. Mục tiêu thực hiện thí nghiệm.

Cơ sở dữ liệu, cú pháp và ngữ nghĩa của các thuộc tính. Thí nghiệm 1: Ưu điểm của LFoC có số lượng từ lớn và tính mở rộng được. Thí nghiệm 2: Khả năng mở rộng tập tri thức trích rút từ cơ sở dữ liệu. Thí nghiệm 3: Trích rút phân phối ngôn ngữ cho các nhóm mờ.

Kết luận chương 3. TRÍCH RÚT TẬP CÂU TÓM TẮT TỐI ƯU SỬ DỤNG GIẢI THUẬT DI TRUYỀN KẾT HỢP CHIẾN LƯỢC THAM LAM. Mối liên hệ giữa luật kết hợp ngôn ngữ và câu tóm tắt có từ lượng hóa. Liên hệ giữa luật kết hợp ngôn ngữ và câu tóm tắt bằng ngôn ngữ.

Từ thuật toán khai phá luật kết hợp đến thuật toán trích rút tóm tắt. Bài toán trích rút tập con câu tóm tắt tối ưu. Giải thuật di truyền trích rút tập câu tóm tắt tối ưu. Hàm đánh giá độ thích nghi.

Các phép toán trong mô hình giải thuật di truyền lai Hybrid-GA. Một số hạn chế trong mô hình giải thuật di truyền lai Hybrid-GA và định hướng khắc phục. Đề xuất thủ tục sinh câu tóm tắt tốt dựa trên chiến lược tham lam. Ý tưởng trích rút câu tóm tắt tốt và làm tăng độ đa dạng tập câu tóm tắt.

Ý tưởng sinh câu tóm tắt tốt dựa trên đánh giá lực lượng của nhóm mờ. Đề xuất mô hình giải thuật di truyền kết hợp chiến lược tham lam trích rút tập câu tóm tắt tối ưu. Hàm đánh giá độ thích nghi. Mô hình giải thuật di truyền Greedy-GA.

Cơ sở dữ liệu và dạng câu tóm tắt. Khung nhận thức ngôn ngữ của các thuộc tính và từ lượng hóa Q. Tham số của giải thuật di truyền. Kết quả thực nghiệm.

Kết luận chương 4. 131 KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN. 133 DANH MỤC CÔNG TRÌNH CỦA TÁC GIẢ. 136 TÀI LIỆU THAM KHẢO.

137 5 DANH MỤC CÁC BẢNG Bảng 1.1: Dữ liệu ví dụ về 10 công việc .2: Tính độ thuộc của từng mức lương vào các tập mờ tương ứng từ ngôn ngữ trong Dom(LƯƠNG) .3: Phân loại các mức tổng quát cấu trúc câu tóm tắt .4: Quan hệ dấu giữa một gia tử trên dòng với gia tử trên cột .1: Các câu tóm tắt trích rút từ cơ sở dữ liệu, điều kiện lọc là “o(JOB) IS ‘technician’ AND o(Y) IS ‘yes’”, có 730 bản ghi thỏa điều kiện lọc .2: Phân phối ngôn ngữ của nhóm mờ xác định bởi điều kiện “(JOB IS ‘student’) AND (AGE IS x)” đối với thuộc tính CCI và Y = ‘yes’ với tập từ lượng hóa Q có tính riêng mức 3 ℱQ,(3) .3: Phân phối ngôn ngữ của nhóm mờ xác định bởi điều kiện “(JOB IS ‘student’) AND (AGE IS x)” đối với thuộc tính CCI và Y = ‘yes’ với tập từ lượng 105 hóa Q có tính riêng mức 4 ℱQ,(4) .4: Phân phối ngôn ngữ của nhóm mờ xác định bởi điều kiện “(JOB IS ‘student’) AND (AGE IS x)” đối với thuộc tính CCI và Y = ‘no’ với tập từ lượng hóa Q có tính riêng mức 3 ℱQ,(3) .5: Phân phối ngôn ngữ của nhóm mờ xác định bởi điều kiện “(JOB IS ‘student’) AND (AGE IS x)” đối với thuộc tính CCI và Y = ‘no’ với tập từ lượng hóa Q có tính riêng mức 4 ℱQ,(4) .1: Thống kê số lượng câu tóm tắt theo số thuộc tính trong câu .2: Kết quả trung bình 10 lần chạy mô hình Greedy-GA và kết quả thực nghiệm mô hình Hybrid-GA trong [38]. 131 6 DANH MỤC CÁC HÌNH VẼ, ĐỒ THỊ Hình 1.1: Ba kiểu tập mờ phổ biến .2: Ví dụ năm tập mờ biểu diễn ngữ nghĩa các giá trị ngôn ngữ của biến LƯƠNG trong miền tham chiếu [0, 10] (đơn vị: triệu đồng). Ví dụ về phân hoạch mờ: (a) dạng đơn thể hạt; (b) dạng đa thể hạt .4: Ví dụ về các tập mờ trên miền tham chiếu số .5: Khung nhận thức ngôn ngữ gồm 3 tập mờ và gán nhãn ngữ nghĩa không đúng về thứ tự ngữ nghĩa .6: Hai ví dụ về khung nhận thức được thiết kế có tính giải nghĩa tốt 25 Hình 1.7: Quá trình khai phá tri thức từ cơ sở dữ liệu .8: Mờ hóa miền tham chiếu của khoảng cách, lương/tháng và đoạn [0,1] của từ lượng hóa tương đối .9: Các khoảng tính mờ của các hạng từ trong X(2) với tập gia tử H = {L, V} .10: Các tập mờ tam giác xây dựng từ giá trị định lượng ngữ nghĩa .11: Cấu trúc ngữ nghĩa của các hạng từ sinh ra từ hạng từ ‘old’ .12: Các khoảng tính mờ của hạng từ trong Xen,(3) sinh ra từ c .13: Các tập mờ hình thang cho các hạng từ trong X(2) .1: Vấn đề chuyển đổi cấu trúc của miền hạng từ ngôn ngữ thành một cấu trúc tính toán phù hợp .2: Một phần cấu trúc bụi biểu diễn hai quan hệ ngữ nghĩa vốn của trong LFoC: quan hệ thứ tự và quan hệ tính chung – riêng .3: Ngữ nghĩa tập mờ ở dạng đa mức cho các hạng từ ℱ3 với tập gia tử H = {L, V} .4: Các khoảng tính mờ của các hạng từ trong X(3) sinh từ cấu trúc Đại số gia tử với tập gia tử H = {L, V} .