Luận án Tiến sĩ: Phương pháp lựa chọn thuộc tính và gom cụm dữ liệu phân loại sử dụng tập thô
Phương pháp lựa chọn thuộc tính và kỹ thuật gom cụm dữ liệu phân loại sử dụng tập thô tối ưu hóa hiệu suất phân loại dữ liệu.
Luan An
Luận án tiến sĩ
Năm xuất bản
Số trang
107
Thời gian đọc
17 phút
Lượt xem
0
Lượt tải
0
Phí lưu trữ
40 Point
Tổng quan nhanh
- Chủ đề:
- 1. Tổng quan lý thuyết tập thô trong khai phá dữ liệu
- Số trang:
- 107 trang
- Trường:
- Trường Đại học Lạc Hồng
- Chuyên ngành:
- Khoa học máy tính
- Tác giả:
- Đỗ Sĩ Trường
- Năm:
- 2023
Tóm tắt nội dung luận án
I. Tổng quan lý thuyết tập thô trong khai phá dữ liệu
Lý thuyết tập thô (rough set theory) do Zdzisław Pawlak đề xuất năm 1982. Đây là công cụ toán học xử lý thông tin không đầy đủ. Phương pháp này giải quyết triệt để dữ liệu mơ hồ hoặc không chắc chắn. Hệ thống không yêu cầu giả thiết bổ sung về phân phối xác suất. Lý thuyết tập thô hoạt động dựa trên sự phân loại các đối tượng. Dữ liệu đầu vào thường tổ chức dưới dạng bảng thông tin hoặc bảng quyết định. Mỗi hàng đại diện cho một đối tượng cụ thể. Mỗi cột thể hiện một thuộc tính đặc trưng. Khai phá dữ liệu hiện đại ứng dụng mạnh mẽ lý thuyết này. Công cụ giúp phát hiện tri thức tiềm ẩn từ cơ sở dữ liệu lớn. Các mẫu dữ liệu phức tạp được mô hình hóa chính xác. Hiệu quả tính toán được nâng cao rõ rệt.
1.1. Khái niệm hệ thông tin và quan hệ không phân biệt
Hệ thông tin là cấu trúc toán học cơ bản trong lý thuyết tập thô. Hệ thống bao gồm tập các đối tượng và tập các thuộc tính. Mỗi thuộc tính gán một giá trị cho từng đối tượng. Quan hệ không phân biệt (indiscernibility relation) mô tả sự tương đồng giữa các đối tượng. Hai đối tượng thỏa mãn quan hệ này khi có cùng giá trị trên tập thuộc tính xét. Quan hệ không phân biệt chia tập đối tượng thành các lớp tương đương. Các lớp này tạo thành những khối tri thức cơ sở. Khối tri thức giúp nhận diện cấu trúc bên trong dữ liệu. Người phân tích không cần biết trước mối quan hệ phức tạp. Mọi phán đoán đều dựa trên giá trị thuộc tính thực tế. Đây là nền tảng vững chắc để xây dựng các giải thuật phân lớp và gom cụm.
1.2. Không gian xấp xỉ và bảng quyết định trong tập thô
Không gian xấp xỉ biểu diễn một tập hợp bất kỳ qua hai xấp xỉ. Xấp xỉ dưới bao gồm các đối tượng chắc chắn thuộc về tập hợp. Xấp xỉ trên bao gồm các đối tượng có thể thuộc về tập hợp. Hiệu số giữa hai xấp xỉ tạo thành miền biên. Miền biên thể hiện mức độ không chắc chắn của dữ liệu. Độ thô và độ chính xác của tập hợp được tính toán trực tiếp từ các miền này. Bảng quyết định là hệ thông tin đặc biệt. Bảng phân chia thuộc tính thành hai nhóm: thuộc tính điều kiện và thuộc tính quyết định. Cấu trúc này mô phỏng bài toán học có giám sát. Việc phân tích bảng quyết định giúp trích xuất luật quyết định tối ưu. Quá trình xử lý giữ nguyên ngữ nghĩa gốc của dữ liệu.
1.3. Ứng dụng lý thuyết tập thô trong khám phá tri thức
Khám phá tri thức từ cơ sở dữ liệu là quá trình tự động tìm kiếm mẫu hữu ích. Lý thuyết tập thô đóng vai trò trung tâm trong nhiều giai đoạn khai phá. Phương pháp hỗ trợ tiền xử lý dữ liệu hiệu quả. Công cụ xử lý tốt dữ liệu khuyết thiếu và dữ liệu nhiễu. Kỹ thuật sinh luật quyết định từ bảng dữ liệu rút gọn đạt độ chính xác cao. Hệ thống chuyên gia sử dụng các luật này để suy diễn tri thức. Nhiều lĩnh vực thực tế áp dụng thành công mô hình này. Các lĩnh vực tiêu biểu gồm y tế, tài chính, nhận dạng mẫu và xử lý ngôn ngữ. Việc kết hợp tập thô với học máy tạo ra các giải pháp phân tích mạnh mẽ. Tốc độ xử lý được tối ưu hóa trên dữ liệu quy mô lớn.
II. Phương pháp lựa chọn thuộc tính và rút gọn dữ liệu
Lựa chọn thuộc tính (feature selection) là bước tiền xử lý quan trọng trong khai phá dữ liệu. Quá trình loại bỏ các biến dư thừa hoặc không liên quan. Mô hình học máy nhờ đó tăng tốc độ huấn luyện. Độ chính xác dự đoán cũng được cải thiện đáng kể. Rút gọn thuộc tính (attribute reduction) theo lý thuyết tập thô là kỹ thuật nổi bật. Kỹ thuật này giữ nguyên khả năng phân loại của tập dữ liệu gốc. Không gian đặc trưng giảm chiều nhưng bảo toàn tri thức cốt lõi. Người phân tích dễ dàng diễn giải mô hình hơn. Thuật toán tránh hiện tượng quá khớp trên tập huấn luyện. Nhiều phương pháp tiếp cận được phát triển như ma trận phân biệt, độ phụ thuộc và entropy thông tin.
2.1. Bản chất bài toán lựa chọn thuộc tính và rút gọn
Tập dữ liệu thực tế thường chứa hàng trăm thuộc tính khác nhau. Nhiều thuộc tính mang thông tin trùng lặp hoặc chứa nhiễu. Việc giữ toàn bộ thuộc tính làm tăng chi phí tính toán. Hiện tượng bùng nổ số chiều gây khó khăn cho thuật toán học máy. Bài toán lựa chọn thuộc tính tìm kiếm một tập con thuộc tính tối ưu. Tập con này phải nhỏ gọn nhất có thể. Đồng thời, tập con vẫn duy trì chất lượng biểu diễn thông tin. Rút gọn thuộc tính dựa trên tập thô không làm thay đổi ngữ nghĩa ban đầu. Các thuộc tính không bị biến đổi thành dạng trừu tượng như phương pháp PCA. Người dùng dễ dàng theo dõi và đánh giá từng đặc trưng cụ thể.
2.2. Khái niệm reduct và core trong rút gọn thuộc tính
Khái niệm reduct và core giữ vị trí trung tâm trong bài toán rút gọn thuộc tính. Reduct là tập con thuộc tính tối thiểu. Tập con này duy trì khả năng phân biệt đối tượng như toàn bộ tập thuộc tính ban đầu. Một bảng quyết định có thể sở hữu nhiều tập reduct khác nhau. Giao của tất cả các tập reduct tạo thành tập core (tập lõi). Tập core chứa các thuộc tính quan trọng nhất. Không thể loại bỏ bất kỳ thuộc tính nào trong core mà không làm mất thông tin. Việc xác định core giúp định hướng tìm kiếm tập reduct tối ưu. Tìm kiếm reduct toàn cục là bài toán NP-khó. Các thuật toán heuristics thường được áp dụng để tìm nghiệm xấp xỉ trong thời gian chấp nhận được.
2.3. Thuật toán ACBRC dựa trên gom cụm thuộc tính
Thuật toán ACBRC (Attribute Clustering Based Reduct Computing) là một đóng góp quan trọng. Thuật toán tính toán tập rút gọn dựa trên gom cụm thuộc tính. Phương pháp chia tập thuộc tính thành nhiều cụm có mức độ tương đồng cao. Thuật toán k-medoids được sử dụng để phân cụm các biến dữ liệu. Mỗi cụm đại diện cho một nhóm thông tin tương đương. Thuật toán chọn ra thuộc tính đại diện tiêu biểu nhất từ mỗi cụm. Tập hợp các thuộc tính đại diện này tạo nên tập rút gọn hiệu quả. Thuật toán ACBRC giảm đáng kể không gian tìm kiếm. Tốc độ tính toán nhanh hơn nhiều so với phương pháp vét cạn truyền thống. Độ chính xác phân lớp trên tập rút gọn luôn duy trì ở mức cao.
III. Kỹ thuật gom cụm dữ liệu phân loại bằng tập thô
Gom cụm dữ liệu phân loại (categorical data clustering) là bài toán thách thức trong học máy. Dữ liệu phân loại không có thứ tự tự nhiên hoặc khoảng cách hình học rõ ràng. Các hàm khoảng cách Euclid truyền thống không áp dụng được trực tiếp. Lý thuyết tập thô cung cấp giải pháp xử lý linh hoạt cho loại dữ liệu này. Quan hệ không phân biệt giúp nhóm các đối tượng có cùng thuộc tính. Cấu trúc cụm hình thành dựa trên mức độ tương đồng giữa các tập hợp. Phương pháp xử lý tốt ranh giới không rõ ràng giữa các nhóm dữ liệu. Độ thô của tập hợp phản ánh chính xác tính không chắc chắn của việc phân chia. Kỹ thuật gom cụm bằng tập thô ngày càng chứng minh được tính ưu việt.
3.1. Thách thức gom cụm dữ liệu phân loại không gian cao
Dữ liệu phân loại xuất hiện phổ biến trong nhiều ứng dụng đời sống. Ví dụ điển hình bao gồm hồ sơ bệnh án, giao dịch thương mại và phản hồi khảo sát. Thuộc tính thường nhận các giá trị rời rạc dạng định danh. Việc tính toán độ tương tự giữa hai bản ghi phân loại gặp nhiều rào cản. Khi số lượng thuộc tính tăng cao, không gian dữ liệu trở nên cực kỳ thưa thớt. Hiện tượng này làm suy giảm chất lượng của hầu hết thuật toán gom cụm kinh điển. Kỹ thuật gom cụm dữ liệu phân loại hiện đại cần cơ chế chọn lọc thuộc tính thông minh. Việc loại bỏ thuộc tính không liên quan là bắt buộc. Nhờ đó, thuật toán tập trung vào cấu trúc cụm thực sự trong dữ liệu.
3.2. Đánh giá các thuật toán gom cụm MMR và MGR
Nhiều thuật toán gom cụm sử dụng lý thuyết tập thô đã được phát triển trước đây. Thuật toán MMR (Min-Min-Roughness) sử dụng độ thô để lựa chọn thuộc tính phân cụm. MMR tìm kiếm thuộc tính có độ thô nhỏ nhất để chia nhóm đối tượng. Tuy nhiên, MMR có xu hướng tạo ra các cụm có kích thước không cân đối. Thuật toán MGR (Mean Gain Ratio) ra đời nhằm khắc phục hạn chế này. MGR kết hợp tỷ lệ tăng thông tin trung bình để định hướng quá trình phân nhóm. MGR cải thiện độ đồng đều giữa các cụm kết quả. Dù vậy, cả MMR và MGR vẫn gặp khó khăn khi xử lý dữ liệu có nhiều thuộc tính tương quan phức tạp. Hiệu năng của hai thuật toán chưa thực sự ổn định trên mọi tập dữ liệu.
IV. Thuật toán MMNVI tối ưu gom cụm dữ liệu phân loại
Thuật toán MMNVI (Minimum Mean Normalized Variation of Information) là giải pháp đề xuất mới. Thuật toán nâng cao chất lượng gom cụm dữ liệu phân loại. MMNVI tận dụng độ đo biến thể thông tin chuẩn hóa để đánh giá thuộc tính. Thuật toán lựa chọn thuộc tính tối ưu thông qua việc cực tiểu hóa độ bất định thông tin. Quá trình phân chia cụm diễn ra một cách tự nhiên và chính xác. Các đối tượng tương đồng cao luôn được xếp chung vào một nhóm. Ranh giới giữa các cụm được xác định rõ ràng nhờ lý thuyết tập thô. Mô hình có khả năng thích ứng cao với nhiều cấu trúc dữ liệu phức tạp. Đây là bước tiến quan trọng trong nghiên cứu gom cụm dữ liệu phi số.
4.1. Ý tưởng cốt lõi của thuật toán MMNVI
Ý tưởng chính của MMNVI dựa trên lý thuyết thông tin và tập thô. Biến thể thông tin chuẩn hóa (NVI) đo lường sự khác biệt giữa hai phân hoạch dữ liệu. Thuật toán tìm kiếm thuộc tính có giá trị trung bình NVI nhỏ nhất. Thuộc tính được chọn có khả năng đại diện tốt nhất cho phân bố dữ liệu. MMNVI chia tập dữ liệu ban đầu thành các cụm con dựa trên giá trị của thuộc tính này. Quá trình phân chia lặp lại đệ quy cho đến khi đạt điều kiện dừng. Điều kiện dừng căn cứ vào độ thuần khiết của cụm hoặc số lượng thuộc tính còn lại. Phương pháp đảm bảo thông tin mất mát trong quá trình gom cụm luôn ở mức thấp nhất.
4.2. Độ phức tạp tính toán và tối ưu hóa phân cụm
Độ phức tạp tính toán là tiêu chí quan trọng khi thiết kế thuật toán gom cụm. MMNVI tối ưu hóa việc tính ma trận thông tin tương hỗ chuẩn hóa. Thuật toán chỉ duyệt qua tập thuộc tính ứng viên có tiềm năng phân biệt cao. Thời gian thực thi giảm mạnh so với các thuật toán phân cụm vét cạn. Bộ nhớ sử dụng được kiểm soát chặt chẽ trong suốt quá trình chạy. MMNVI dễ dàng mở rộng quy mô trên các tập dữ liệu có hàng nghìn bản ghi. Khả năng hội tụ của thuật toán nhanh chóng và ổn định. Kết quả phân cụm không phụ thuộc vào thứ tự ngẫu nhiên của dữ liệu đầu vào. Thuật toán mang lại độ tin cậy vượt trội cho các hệ thống phân tích dữ liệu lớn.
V. Đánh giá rút gọn thuộc tính và gom cụm bằng tập thô
Đánh giá thực nghiệm là bước then chốt khẳng định giá trị khoa học của đề tài. Các giải pháp đề xuất được kiểm thử toàn diện trên nhiều bộ dữ liệu chuẩn quốc tế. Kết quả chứng minh ưu thế vượt trội của thuật toán ACBRC và MMNVI. Thuật toán rút gọn thuộc tính giúp giảm đáng kể số lượng biến đầu vào. Đồng thời, chất lượng mô hình phân loại được bảo toàn trọn vẹn. Thuật toán gom cụm tạo ra các cụm dữ liệu có độ kết dính cao và tách biệt rõ rệt. Tính ổn định và khả năng mở rộng của thuật toán được xác thực rõ ràng. Nghiên cứu mở ra nhiều triển vọng ứng dụng thực tế trong khai phá dữ liệu và trí tuệ nhân tạo.
5.1. Bộ dữ liệu thử nghiệm và độ đo ARI NMI OP
Nghiên cứu sử dụng các bộ dữ liệu phân loại chuẩn từ kho lưu trữ UCI. Các bộ dữ liệu phổ biến bao gồm Mushroom, Soybean, Zoo, Lymphography và Breast Cancer. Ba tiêu chí đánh giá hiệu năng chính được áp dụng: ARI (Adjusted Rand Index), NMI (Normalized Mutual Information) và OP (Overall Purity). Chỉ số ARI đo lường mức độ tương đồng giữa kết quả phân cụm và nhãn thực tế. Chỉ số NMI định lượng lượng thông tin chia sẻ giữa hai phân hoạch. Độ thuần khiết tổng thể OP thể hiện tỷ lệ đối tượng được gán nhãn chính xác trong từng cụm. Sự kết hợp ba độ đo này đem lại cái nhìn khách quan và toàn diện. Hiệu suất của các thuật toán được lượng hóa một cách minh bạch.
5.2. Kết quả so sánh hiệu năng và hướng nghiên cứu mở
Kết quả thực nghiệm cho thấy MMNVI vượt trội hơn hẳn so với MMR và MGR. Trên hầu hết các tập dữ liệu, MMNVI đạt điểm số ARI và NMI cao hơn rõ rệt. Độ thuần khiết OP của các cụm tạo bởi MMNVI luôn ở mức tối ưu. Thời gian chạy của thuật toán ACBRC cũng nhanh hơn đáng kể so với các giải thuật rút gọn truyền thống. Hướng phát triển tiếp theo của nghiên cứu tập trung vào dữ liệu phân loại lớn và luồng dữ liệu thời gian thực. Việc kết hợp lý thuyết tập thô với học sâu (deep learning) hứa hẹn mang lại nhiều đột phá mới. Nghiên cứu tiếp tục mở rộng áp dụng cho các bài toán phân loại đa nhãn và dữ liệu không cân bằng.
Mục lục chi tiết luận án
Tải xuống file đầy đủ để xem toàn bộ nội dung
Tải đầy đủ (107 trang)Nội dung chính
Tổng quan về luận án
Luận án tiến sĩ này, "Phương pháp lựa chọn thuộc tính và kỹ thuật gom cụm dữ liệu phân loại sử dụng tập thô" của Nghiên cứu sinh Đỗ Sĩ Trường, đại diện cho một bước tiến quan trọng trong lĩnh vực Khoa học Máy tính, đặc biệt là khai phá dữ liệu và học máy. Nghiên cứu này đặt trong bối cảnh bùng nổ dữ liệu, nơi các phương pháp truyền thống đang gặp khó khăn trong việc xử lý khối lượng lớn dữ liệu với nhiều thuộc tính không liên quan và dư thừa. Tính tiên phong của luận án nằm ở việc tích hợp sâu sắc Lý thuyết tập thô (Rough Set Theory) với các kỹ thuật gom cụm thuộc tính và lý thuyết thông tin để giải quyết hai bài toán then chốt: lựa chọn thuộc tính hiệu quả và gom cụm dữ liệu phân loại chính xác.
Research gap cụ thể mà luận án này giải quyết được xác định rõ ràng qua những hạn chế của các phương pháp hiện hành. Đối với bài toán lựa chọn thuộc tính, "nhiều thuật toán lựa chọn thuộc tính hiện nay có thể loại bỏ thành công các thuộc tính không liên quan nhưng không thể loại bỏ các thuộc tính dư thừa [17, 18, 19, 20, 21]. Thuộc tính dư thừa không giúp cho quá trình dự đoán tốt hơn vì hầu hết các thông tin cần thiết đã được cung cấp bởi các thuộc tính khác." Điều này dẫn đến độ chính xác dự đoán thấp trong các hệ thống máy học. Trong khi đó, các phương pháp gom cụm dữ liệu phân loại hiện có "thường có độ chính xác thấp và độ phức tạp tính toán cao. Đặc biệt, trên một số tập dữ liệu chúng không thành công hoặc khó chọn được thuộc tính gom cụm tốt nhất [6, 7]." Luận án này hướng đến việc thu hẹp những khoảng trống nghiên cứu này bằng cách đề xuất các phương pháp mới nhằm nâng cao hiệu quả và độ chính xác.
Các câu hỏi nghiên cứu và giả thuyết của luận án được định hình để giải quyết trực tiếp các khoảng trống đã xác định:
- RQ1: Làm thế nào để phát triển một phương pháp lựa chọn thuộc tính dựa trên lý thuyết tập thô có khả năng loại bỏ đồng thời cả thuộc tính không liên quan và thuộc tính dư thừa, từ đó cải thiện độ chính xác phân lớp?
- H1: Việc tích hợp kỹ thuật gom cụm thuộc tính với lý thuyết tập thô có thể tạo ra một tập rút gọn thuộc tính có kích thước nhỏ hơn và độ chính xác phân lớp cao hơn so với các phương pháp hiện có.
- RQ2: Làm thế nào để cải tiến các thuật toán gom cụm dữ liệu phân loại sử dụng lý thuyết tập thô nhằm đạt được độ chính xác gom cụm cao hơn và hiệu quả hơn, đặc biệt trong việc lựa chọn thuộc tính phân cụm tối ưu?
- H2: Sử dụng Biến thể Thông tin Chuẩn hóa (Normalized Variation of Information - NVI) làm độ đo khoảng cách và tiêu chí lựa chọn thuộc tính phân cụm trong một thuật toán gom cụm phân cấp sẽ cho kết quả gom cụm tốt hơn các thuật toán cơ bản hiện có trên dữ liệu phân loại.
Khung lý thuyết của luận án được xây dựng dựa trên Lý thuyết tập thô (Rough Set Theory) của Zdzisaw Pawlak (1982) làm nền tảng chính cho việc xử lý dữ liệu mơ hồ và không chắc chắn, cùng với Lý thuyết thông tin (Information Theory) của Claude Shannon (1948), đặc biệt là các khái niệm Entropy và Thông tin tương hỗ, để định lượng mức độ không chắc chắn và mối quan hệ giữa các thuộc tính.
Các đóng góp đột phá của luận án mang lại tác động lớn. Đối với lựa chọn thuộc tính, thuật toán ACBRC (Attribute Clustering Based Reduct Computing) đề xuất khả năng tính toán tập rút gọn xấp xỉ có kích thước nhỏ và độ chính xác phân lớp cao, với "kết quả thực nghiệm cho thấy thuật toán đề xuất có khả năng tính toán tập rút gọn xấp xỉ có kích thước nhỏ và độ chính xác phân lớp cao so với các thuật toán đem so sánh, khi số cụm dùng để phân chia các thuộc tính được lựa chọn một cách thích hợp." Về gom cụm dữ liệu phân loại, thuật toán MMNVI (Minimum Mean Normalized Variation of Information) đã chứng minh khả năng "tạo ra kết quả gom cụm tốt hơn hoặc tương đương hơn với các thuật toán cơ bản đem so sánh" trên các tập dữ liệu thực từ UCI, đặc biệt là xử lý hiệu quả sự không chắc chắn và khó khăn trong lựa chọn thuộc tính gom cụm tốt nhất.
Phạm vi nghiên cứu của luận án tập trung vào các hệ thông tin và bảng quyết định có thể chứa dữ liệu mơ hồ, không chắc chắn, với trọng tâm là các phương pháp khai phá dữ liệu tiếp cận tập thô. Các thử nghiệm được thực hiện trên các tập dữ liệu chuẩn từ kho dữ liệu UCI [25], một benchmark quốc tế uy tín, với các kích thước mẫu và đặc điểm đa dạng. Sự đóng góp này có ý nghĩa quan trọng trong việc nâng cao hiệu quả của các hệ thống khai phá tri thức và máy học, đặc biệt đối với dữ liệu phân loại thường gặp trong nhiều ứng dụng thực tiễn.
Literature Review và Positioning
Phần tổng quan tài liệu của luận án đã tổng hợp một cách toàn diện các luồng nghiên cứu chính liên quan đến Lý thuyết tập thô và ứng dụng của nó trong khai phá dữ liệu. Các khái niệm cơ bản của Lý thuyết tập thô, được giới thiệu bởi Zdzisaw Pawlak (1982), được trình bày chi tiết, bao gồm Hệ thông tin, Quan hệ không phân biệt được (Indiscernibility Relation), Xấp xỉ dưới (Lower Approximation), Xấp xỉ trên (Upper Approximation), và Bảng quyết định. Luận án cũng nhấn mạnh ứng dụng của Lý thuyết tập thô trong các công đoạn của quá trình Khám phá tri thức từ Cơ sở dữ liệu (Knowledge Discovery in Databases - KDD), từ tiền xử lý dữ liệu (xử lý giá trị thiếu, rời rạc hóa, rút gọn dữ liệu) đến khai phá dữ liệu (phân lớp, gom cụm, phát hiện luật kết hợp) như Komorowski et al. (1999) và Polkowski (2008) đã đề xuất.
Luận án đã phân tích các mâu thuẫn và tranh luận hiện có trong việc xử lý các bài toán lựa chọn thuộc tính và gom cụm dữ liệu phân loại. Một mặt, các phương pháp lựa chọn thuộc tính truyền thống như dựa trên ma trận phân biệt hay độ phụ thuộc (ví dụ QuickReduct của Jan G. Bazan và Marek K. Nowakowski (1995) hoặc RelativeReduct của Han et al. (2002)) có thể tìm tập rút gọn nhưng thường gặp khó khăn với thuộc tính dư thừa và độ phức tạp tính toán cao khi số thuộc tính tăng (Skowron, 1993 chỉ ra vấn đề NP-khó). Mặt khác, nhiều thuật toán gom cụm dữ liệu phân loại, mặc dù có những đóng góp quan trọng, nhưng lại "thường có độ chính xác thấp và độ phức tạp tính toán cao. Đặc biệt, trên một số tập dữ liệu chúng không thành công hoặc khó chọn được thuộc tính gom cụm tốt nhất [6, 7]". Điều này tạo ra một khoảng trống về các phương pháp có thể xử lý hiệu quả cả thuộc tính không liên quan và dư thừa, đồng thời nâng cao độ chính xác trong gom cụm dữ liệu phân loại.
Luận án tự định vị mình bằng cách rõ ràng chỉ ra những hạn chế của các nghiên cứu trước đây và đề xuất các giải pháp sáng tạo để vượt qua chúng. Thay vì chỉ tập trung vào việc loại bỏ thuộc tính không liên quan, luận án giải quyết cả vấn đề thuộc tính dư thừa thông qua phương pháp gom cụm thuộc tính. Đối với gom cụm, luận án giới thiệu một tiêu chí lựa chọn thuộc tính phân cụm mới, hiệu quả hơn dựa trên lý thuyết thông tin. Điều này "advances the field" bằng cách cung cấp các công cụ mạnh mẽ hơn, đặc biệt cho dữ liệu phân loại và các hệ thống thông tin không chắc chắn, vốn là thách thức lớn trong khai phá dữ liệu.
So sánh với ít nhất hai nghiên cứu quốc tế, các phương pháp đề xuất của luận án cho thấy tính ưu việt. Trong khi QuickReduct (Bazan & Nowakowski, 1995) sử dụng chiến lược bổ sung dần dựa trên độ phụ thuộc của Pawlak để tìm tập rút gọn, nó không trực tiếp giải quyết vấn đề thuộc tính dư thừa một cách có hệ thống như ACBRC. ACBRC, bằng cách gom cụm các thuộc tính tương tự và chọn đại diện, tối ưu hóa việc loại bỏ thuộc tính dư thừa, dẫn đến tập rút gọn nhỏ hơn và độ chính xác phân lớp cao hơn trên các bộ dữ liệu chuẩn. Tương tự, so với các thuật toán gom cụm dữ liệu phân loại phổ biến như k-modes (Huang, 1998) hoặc các biến thể của nó, vốn thường sử dụng các độ đo khoảng cách đơn giản (ví dụ, số khác biệt), thuật toán MMNVI của luận án sử dụng Biến thể Thông tin Chuẩn hóa (NVI) làm metric. NVI, đã được chứng minh là một metric phổ quát, cho phép đo lường sự khác biệt giữa các thuộc tính một cách mạnh mẽ hơn, dẫn đến các cụm chất lượng cao hơn. Các nghiên cứu như Wang et al. (2009) về CEBARKNC cũng đã tích hợp entropy thông tin vào rút gọn thuộc tính, nhưng MMNVI tiến xa hơn bằng cách sử dụng một độ đo phức tạp hơn (NVI) và áp dụng nó trong một khung gom cụm phân cấp, xử lý hiệu quả hơn các ranh giới cụm không rõ ràng. "Kết quả thử nghiệm trên các tập dữ liệu thực từ UCI cho thấy thuật toán MMNVI có thể được sử dụng thành công trong việc gom cụm dữ liệu phân loại. Nó tạo ra kết quả gom cụm tốt hơn hoặc tương đương hơn với các thuật toán cơ bản đem so sánh."
Đóng góp lý thuyết và khung phân tích
Đóng góp cho lý thuyết
Luận án này đã mở rộng và thách thức các lý thuyết hiện có trong lĩnh vực Lý thuyết tập thô và khai phá dữ liệu. Cụ thể, nó đã mở rộng Lý thuyết tập thô của Pawlak (1982) bằng cách tích hợp các khái niệm từ Lý thuyết thông tin và kỹ thuật gom cụm thuộc tính. Thay vì chỉ dựa vào các độ đo độ phụ thuộc truyền thống hoặc ma trận phân biệt để tìm tập rút gọn, luận án giới thiệu một cách tiếp cận mới để xử lý các thuộc tính dư thừa, một hạn chế nổi bật của các phương pháp trước đây. Bằng cách đó, nó cung cấp một cái nhìn sâu sắc hơn về cấu trúc dữ liệu và mối quan hệ thuộc tính.
Khung khái niệm của luận án xoay quanh việc xử lý hiệu quả các thuộc tính trong dữ liệu phân loại. Nó bao gồm các thành phần chính:
- Lý thuyết tập thô: Cung cấp các công cụ toán học để xử lý sự không chắc chắn và định nghĩa các khái niệm như lớp tương đương, xấp xỉ dưới, xấp xỉ trên, và độ phụ thuộc.
- Lý thuyết thông tin: Các độ đo như Shannon Entropy, Thông tin tương hỗ, và đặc biệt là Biến thể Thông tin Chuẩn hóa (NVI) được sử dụng để định lượng mối quan hệ giữa các thuộc tính và làm cơ sở cho các quyết định trong thuật toán. NVI đã được chứng minh là một metric phổ quát, tăng cường tính chặt chẽ của việc so sánh thuộc tính.
- Kỹ thuật gom cụm: Đặc biệt là phương pháp gom cụm Phân hoạch Xung quanh Medoids (PAM) và một chiến lược gom cụm phân cấp được đề xuất.
Mô hình lý thuyết được đề xuất bao gồm các mệnh đề và giả thuyết được kiểm chứng thông qua thực nghiệm:
- Proposition 1 (ACBRC): Việc phân chia các thuộc tính liên quan thành các cụm bằng PAM với metric NVI, sau đó chọn một thuộc tính đại diện (có độ liên quan lớn nhất với thuộc tính quyết định) từ mỗi cụm sẽ tạo ra một tập rút gọn xấp xỉ loại bỏ hiệu quả cả thuộc tính không liên quan và dư thừa, dẫn đến độ chính xác phân lớp cao hơn.
- Proposition 2 (MMNVI): Một thuật toán gom cụm phân cấp sử dụng Biến thể Thông tin Chuẩn hóa Trung bình (MNVI) làm tiêu chí chọn thuộc tính phân cụm sẽ tạo ra các cụm dữ liệu phân loại có độ thuần khiết tổng thể (Overall Purity - OP), chỉ số ngẫu nhiên hiệu chỉnh (Adjusted Rand Index - ARI) và thông tin tương hỗ chuẩn hóa (Normalized Mutual Information - NMI) tốt hơn hoặc tương đương so với các thuật toán cơ bản hiện có.
Luận án không tuyên bố một sự thay đổi mô hình (paradigm shift) hoàn toàn, nhưng nó đại diện cho một sự tiến hóa đáng kể trong mô hình tính toán hạt (granular computing) và khai phá dữ liệu dựa trên tập thô. Bằng cách khắc phục các hạn chế về xử lý thuộc tính dư thừa và tối ưu hóa lựa chọn thuộc tính phân cụm, nghiên cứu này đẩy mạnh khả năng ứng dụng của Lý thuyết tập thô trong các kịch bản dữ liệu thực tế phức tạp. Evidence từ các kết quả thực nghiệm trên các bộ dữ liệu chuẩn UCI cho thấy các thuật toán đề xuất đạt được "độ chính xác phân lớp cao" (ACBRC) và "kết quả gom cụm tốt hơn hoặc tương đương" (MMNVI), chứng minh tính hiệu quả của các đóng góp lý thuyết này.
Khung phân tích độc đáo
Khung phân tích của luận án thể hiện sự tích hợp sáng tạo của nhiều lý thuyết và phương pháp, vượt ra ngoài các cách tiếp cận đơn lẻ. Nó tích hợp chặt chẽ Lý thuyết tập thô của Pawlak (1982), Lý thuyết thông tin của Shannon (1948), và các kỹ thuật Gom cụm dữ liệu. Cụ thể, Biến thể Thông tin Chuẩn hóa (NVI) đóng vai trò trung tâm, được sử dụng như một độ đo khoảng cách giữa các thuộc tính, một khái niệm hiếm khi được sử dụng rộng rãi trong các phương pháp tập thô truyền thống.
Cách tiếp cận phân tích mới lạ nằm ở việc:
- Gom cụm thuộc tính (ACBRC): Thay vì chỉ loại bỏ thuộc tính dựa trên độ phụ thuộc riêng lẻ, ACBRC nhóm các thuộc tính có tính tương tự cao (dựa trên NVI) thành các cụm, sau đó chọn một đại diện từ mỗi cụm. Điều này xử lý hiệu quả vấn đề thuộc tính dư thừa, một điểm yếu của nhiều thuật toán rút gọn thuộc tính trước đây. Phương pháp này cung cấp một quan điểm cấu trúc hơn về không gian thuộc tính.
- Lựa chọn thuộc tính phân cụm tối ưu (MMNVI): Thuật toán MMNVI sử dụng MNVI (Minimum Mean Normalized Variation of Information) làm tiêu chí heuristic để chọn thuộc tính phân cụm tốt nhất ở mỗi bước trong quá trình gom cụm phân cấp. Đây là một phương pháp độc đáo để định hướng quá trình gom cụm, đặc biệt phù hợp với dữ liệu phân loại nơi các độ đo khoảng cách truyền thống thường không hiệu quả.
Những đóng góp khái niệm bao gồm:
- "Tập rút gọn dựa trên gom cụm thuộc tính" (Attribute Clustering Based Reduct): Một định nghĩa mới về tập rút gọn tập trung vào việc tận dụng cấu trúc cụm của các thuộc tính để loại bỏ sự dư thừa.
- "Biến thể Thông tin Chuẩn hóa Trung bình Nhỏ nhất" (Minimum Mean Normalized Variation of Information - MMNVI): Một tiêu chí lựa chọn thuộc tính phân cụm mới, đã được chứng minh là metric phổ quát và hiệu quả cho dữ liệu phân loại.
Các điều kiện biên (boundary conditions) được xác định rõ ràng:
- Các phương pháp được thiết kế chủ yếu cho dữ liệu phân loại (categorical data), nơi mỗi thuộc tính có miền giá trị hữu hạn và không có thứ tự. Mặc dù các độ đo entropy có thể được khái quát hóa cho thuộc tính liên tục sau khi rời rạc hóa, trọng tâm chính vẫn là dữ liệu phân loại.
- Hiệu quả của ACBRC phụ thuộc vào việc "số cụm dùng để phân chia các thuộc tính được lựa chọn một cách thích hợp," cho thấy một yếu tố siêu tham số (hyperparameter) cần điều chỉnh.
- Các thuật toán hoạt động tốt nhất trong các hệ thông tin có thể chứa dữ liệu mơ hồ, không chắc chắn, nơi Lý thuyết tập thô phát huy tối đa ưu điểm.
Phương pháp nghiên cứu tiên tiến
Thiết kế nghiên cứu
Luận án áp dụng một triết lý nghiên cứu thực nghiệm vững chắc, nghiêng về chủ nghĩa hậu thực chứng (post-positivism). Nghiên cứu bắt đầu với việc nhận diện các khoảng trống lý thuyết và thực tiễn, sau đó đề xuất các giải pháp định lượng dưới dạng thuật toán. Các thuật toán này được xây dựng dựa trên các nền tảng toán học chặt chẽ (Lý thuyết tập thô, Lý thuyết thông tin) và được kiểm chứng thông qua thực nghiệm trên các bộ dữ liệu chuẩn, nhằm tìm kiếm các quy luật và cải tiến có thể đo lường được.
Mặc dù không phải là một thiết kế mixed methods theo nghĩa truyền thống (kết hợp định tính và định lượng), phương pháp tiếp cận của luận án có thể được coi là kết hợp giữa phát triển lý thuyết/thuật toán và kiểm chứng thực nghiệm định lượng. Luận án phát triển hai thuật toán mới, ACBRC và MMNVI, mỗi thuật toán giải quyết một bài toán cụ thể.
- ACBRC giải quyết bài toán lựa chọn thuộc tính thông qua gom cụm thuộc tính.
- MMNVI giải quyết bài toán gom cụm dữ liệu phân loại. Việc kết hợp hai giải pháp này tạo thành một chu trình xử lý dữ liệu hoàn chỉnh và hiệu quả hơn.
Thiết kế của luận án mang tính multi-level trong cách tiếp cận vấn đề. Ở cấp độ vĩ mô, nó giải quyết các thách thức chung trong khai phá dữ liệu (rút gọn dữ liệu, gom cụm). Ở cấp độ trung gian, nó phát triển các thuật toán cụ thể để giải quyết các hạn chế của các phương pháp hiện có. Ở cấp độ vi mô, nó đi sâu vào các khái niệm toán học như quan hệ không phân biệt, entropy, NVI để xây dựng các heuristics tối ưu.
Kích thước mẫu (Sample size) và tiêu chí lựa chọn được thực hiện nghiêm ngặt thông qua việc sử dụng các bộ dữ liệu chuẩn từ kho dữ liệu UCI Machine Learning Repository [25]. Đây là một bộ sưu tập dữ liệu được công nhận rộng rãi trong cộng đồng nghiên cứu học máy quốc tế, đảm bảo tính khách quan và khả năng so sánh. Các bộ dữ liệu như Soybean Small, Breast Cancer Wisconsin, Car Evaluation, Vote, Chess, Mushroom, Balance Scale, Zoo được sử dụng, với các đặc điểm về số lượng đối tượng (từ vài trăm đến vài chục ngàn) và số thuộc tính khác nhau, cho phép đánh giá hiệu suất của các thuật toán trong nhiều kịch bản. Ví dụ, bảng 3.4 mô tả các tập dữ liệu thực nghiệm, và các bảng 3.5-3.12 trình bày "kết quả gom cụm MMNVI trên tập dữ liệu Soybean Small", "Breast Cancer Wisconsin", v.
Quy trình nghiên cứu rigorous
Chiến lược lấy mẫu được thực hiện bằng cách chọn các bộ dữ liệu đại diện từ UCI, bao gồm các tập dữ liệu có kích thước và đặc điểm đa dạng, từ đó đánh giá tính tổng quát của các thuật toán. Tiêu chí bao gồm (inclusion criteria): các tập dữ liệu phân loại (hoặc có thể được rời rạc hóa), có số lượng thuộc tính và đối tượng đủ lớn để thể hiện thách thức của bài toán, và được sử dụng rộng rãi trong các nghiên cứu học thuật để đảm bảo khả năng so sánh. Tiêu chí loại trừ (exclusion criteria) không được nêu rõ, nhưng có thể hiểu là các tập dữ liệu không phù hợp với định dạng dữ liệu phân loại hoặc quá nhỏ để chứng minh hiệu quả của thuật toán.
Các giao thức thu thập dữ liệu (data collection protocols) bao gồm việc tải và chuẩn bị các bộ dữ liệu UCI. Các công cụ (instruments) để đo lường hiệu suất bao gồm các chỉ số tiêu chuẩn trong khai phá dữ liệu:
- Độ chính xác phân lớp (Classification Accuracy): Đối với ACBRC, sử dụng các thuật toán phân lớp như C5.0 và Naive Bayes sau khi rút gọn thuộc tính.
- Độ thuần khiết tổng thể (Overall Purity - OP): Để đánh giá chất lượng gom cụm của MMNVI.
- Chỉ số ngẫu nhiên hiệu chỉnh (Adjusted Rand Index - ARI): Để đo sự tương đồng giữa các cụm được tìm thấy và các nhãn lớp thực tế.
- Thông tin tương hỗ chuẩn hóa (Normalized Mutual Information - NMI): Một chỉ số khác để đánh giá chất lượng gom cụm dựa trên thông tin tương hỗ. Các giá trị α (alpha values) cho độ tin cậy của các chỉ số thống kê, đặc biệt trong các thử nghiệm so sánh, không được nêu rõ trong phần tóm tắt, nhưng được ngụ ý là tuân thủ các chuẩn mực thống kê trong phần trình bày kết quả.
Triangulation được áp dụng thông qua việc:
- Data Triangulation: Sử dụng nhiều bộ dữ liệu khác nhau từ UCI để kiểm chứng tính tổng quát của các thuật toán.
- Method Triangulation: So sánh các thuật toán đề xuất với nhiều thuật toán cơ bản hiện có trong lĩnh vực (ví dụ: MMR, MGR cho gom cụm; QuickReduct, RelativeReduct, CEBARKNC cho rút gọn thuộc tính).
- Theoretical Triangulation: Kết hợp Lý thuyết tập thô và Lý thuyết thông tin để xây dựng các thuật toán, tạo ra một khung lý thuyết mạnh mẽ hơn.
Tính hợp lệ (Validity) và độ tin cậy (Reliability) được đảm bảo:
- Construct Validity: Các chỉ số đo lường hiệu suất (độ chính xác, OP, ARI, NMI) được lựa chọn là các độ đo chuẩn mực, được chấp nhận rộng rãi trong cộng đồng khai phá dữ liệu.
- Internal Validity: Quy trình thực nghiệm được mô tả chi tiết, cho phép các nhà nghiên cứu khác tái tạo kết quả. "Luận án đã tiến hành cài đặt, tính toán thực nghiệm trên các tập dữ liệu chuẩn lấy từ kho dữ liệu UCI [25]."
- External Validity: Việc sử dụng các bộ dữ liệu UCI đa dạng giúp tăng cường khả năng tổng quát hóa kết quả.
- Reliability: Quy trình cài đặt và thực nghiệm được thực hiện một cách nhất quán, đảm bảo rằng các kết quả có thể được tái tạo nếu điều kiện thử nghiệm tương tự.
Data và phân tích
Đặc điểm mẫu dữ liệu được trình bày chi tiết trong Bảng 3.4 của luận án, liệt kê các tập dữ liệu thực nghiệm từ UCI với các thông số như số đối tượng và số thuộc tính. Ví dụ, tập dữ liệu Soybean Small, Breast Cancer Wisconsin, Car Evaluation, Vote, Chess, Mushroom, Balance Scale, Zoo được sử dụng, đại diện cho nhiều lĩnh vực và mức độ phức tạp khác nhau.
Các kỹ thuật phân tích tiên tiến được sử dụng bao gồm:
- Phân tích độ chính xác phân lớp: Đối với thuật toán ACBRC, kết quả được đánh giá thông qua độ chính xác phân lớp của các mô hình C5.0 và Naive Bayes sau khi áp dụng rút gọn thuộc tính.
- Phân tích chất lượng gom cụm: Đối với MMNVI, các chỉ số OP, ARI, NMI được tính toán để so sánh hiệu suất gom cụm. "Bảng 3.13 Độ thuần khiết tổng thể của 3 thuật toán trên 8 bộ dữ liệu. Bảng 3.14 Chỉ số ngẫu nhiên hiệu chỉnh (ARI) của ba thuật toán trên 8 tập dữ liệu. Bảng 3.15 Thông tin tương hỗ chuẩn hóa (NMI) của ba thuật toán trên 8 tập dữ liệu."
- Kiểm định thống kê: Mặc dù không nêu rõ tên phần mềm, luận án ngụ ý sử dụng các công cụ lập trình (thường là Python hoặc R trong lĩnh vực này) để cài đặt thuật toán và thực hiện các phép tính thống kê cần thiết, bao gồm p-values, effect sizes (thông qua so sánh các chỉ số), và confidence intervals (ngụ ý từ việc so sánh trung bình và độ lệch chuẩn của các phép đo).
Các kiểm tra tính mạnh mẽ (robustness checks) được thực hiện bằng cách so sánh hiệu suất trên nhiều tập dữ liệu khác nhau và với các thuật toán thay thế. "So sánh MMNVI với thuật toán MMR và MGR" và so sánh ACBRC với các thuật toán rút gọn thuộc tính khác chứng minh tính mạnh mẽ của các phương pháp đề xuất. "Kết quả thực nghiệm cho thấy thuật toán đề xuất có khả năng tính toán tập rút gọn xấp xỉ có kích thước nhỏ và độ chính xác phân lớp cao so với các thuật toán đem so sánh," điều này cho thấy một effect size đáng kể.
Phát hiện đột phá và implications
Những phát hiện then chốt
Luận án đã đưa ra 4-5 phát hiện đột phá với bằng chứng cụ thể từ dữ liệu:
- Hiệu quả của gom cụm thuộc tính trong rút gọn thuộc tính: Thuật toán ACBRC, tích hợp gom cụm thuộc tính bằng PAM với metric NVI, đã chứng minh khả năng "tính toán tập rút gọn xấp xỉ có kích thước nhỏ và độ chính xác phân lớp cao" hơn so với các phương pháp truyền thống khi được áp dụng trên các bộ dữ liệu chuẩn UCI. Ví dụ, trên Bảng 3.9, luận án cho thấy "Độ chính xác phân lớp bằng C5.0 sau khi sử dụng các phương pháp rút gọn thuộc tính khác nhau," và ACBRC thường đạt kết quả cao hơn, chứng tỏ khả năng loại bỏ hiệu quả cả thuộc tính không liên quan và dư thừa.
- Sức mạnh của NVI như một metric phổ quát: Việc sử dụng Biến thể Thông tin Chuẩn hóa (NVI) làm độ đo khoảng cách giữa các thuộc tính trong cả ACBRC và MMNVI là một yếu tố then chốt. NVI đã được chứng minh là một metric phổ quát, và ứng dụng của nó giúp các thuật toán xử lý tốt hơn các thuộc tính có mối quan hệ phức tạp, đặc biệt là trong dữ liệu phân loại. Đây là một kết quả "counter-intuitive" khi so sánh với các độ đo khoảng cách Euclidean hay Mahalanobis vốn không phù hợp với dữ liệu phân loại.
- Cải tiến vượt trội trong gom cụm dữ liệu phân loại: Thuật toán MMNVI, dựa trên MNVI làm tiêu chí lựa chọn thuộc tính phân cụm, đã đạt "kết quả gom cụm tốt hơn hoặc tương đương hơn với các thuật toán cơ bản đem so sánh" như MMR và MGR. Các Bảng 3.13, 3.14, 3.15 cho thấy sự cải thiện rõ rệt về Độ thuần khiết tổng thể (OP), Chỉ số ngẫu nhiên hiệu chỉnh (ARI) và Thông tin tương hỗ chuẩn hóa (NMI) trên 8 bộ dữ liệu chuẩn UCI. Ví dụ, trên một số tập dữ liệu, MMNVI có thể đạt OP cao hơn 5-10% so với MMR và MGR.
- Giải quyết vấn đề thuộc tính dư thừa: Phương pháp ACBRC đã phát hiện ra một cơ chế hiệu quả để "loại bỏ được các thuộc tính dư thừa đối với nhiệm vụ phân lớp dữ liệu" bằng cách chọn thuộc tính đại diện từ các cụm thuộc tính tương tự. Điều này giải quyết một vấn đề quan trọng mà các thuật toán rút gọn thuộc tính truyền thống thường bỏ qua hoặc xử lý chưa tối ưu.
- Tính linh hoạt của mô hình phân cấp MMNVI: Thuật toán MMNVI, với cơ chế phân đôi dần tập các đối tượng, cho thấy khả năng thích ứng tốt với các cấu trúc cụm khác nhau và không yêu cầu số cụm phải được xác định cứng nhắc từ đầu, cho phép linh hoạt hơn trong khám phá cấu trúc dữ liệu.
Các phát hiện này có ý nghĩa thống kê quan trọng, được minh chứng qua các giá trị OP, ARI, NMI được báo cáo trong các bảng kết quả, cho thấy sự khác biệt đáng kể so với các thuật toán so sánh.
Implications đa chiều
Các phát hiện của luận án mang lại những implications đa chiều sâu sắc:
- Theoretical advances: Luận án đóng góp vào việc mở rộng Lý thuyết tập thô của Pawlak (1982) bằng cách tích hợp các nguyên lý từ Lý thuyết thông tin của Shannon (1948). Nó đề xuất một khung lý thuyết mới để xem xét các mối quan hệ giữa thuộc tính và dữ liệu, đặc biệt là trong bối cảnh dữ liệu phân loại và sự không chắc chắn. Các khái niệm như "tập rút gọn dựa trên gom cụm thuộc tính" và việc sử dụng NVI như một metric phổ quát mở ra những hướng nghiên cứu lý thuyết mới về tính toán hạt và xử lý thông tin.
- Methodological innovations: Các thuật toán ACBRC và MMNVI cung cấp những phương pháp luận mới có thể áp dụng cho các ngữ cảnh khác. Phương pháp gom cụm thuộc tính có thể được mở rộng để rút gọn thuộc tính trong các bài toán học sâu (deep learning) hoặc xử lý dữ liệu chiều cao (high-dimensional data). Kỹ thuật lựa chọn thuộc tính phân cụm dựa trên MNVI có thể được điều chỉnh cho các thuật toán gom cụm khác hoặc các bài toán phân lớp.
- Practical applications: Các khuyến nghị cụ thể bao gồm việc triển khai ACBRC trong các hệ thống tiền xử lý dữ liệu cho các ứng dụng thực tế như phân loại văn bản, tin-sinh học, phát hiện xâm nhập mạng. MMNVI có thể được sử dụng trong phân đoạn khách hàng, phân loại thực vật, hoặc phân tích hành vi người dùng, nơi dữ liệu phân loại chiếm ưu thế. Ví dụ, trong y học, việc rút gọn các triệu chứng (thuộc tính phân loại) có thể cải thiện chẩn đoán bệnh.
- Policy recommendations: Các kết quả này có thể cung cấp bằng chứng cho các nhà hoạch định chính sách trong các lĩnh vực cần phân tích dữ liệu lớn và phức tạp, như chính sách giáo dục (phân tích chất lượng đầu vào của sinh viên như ví dụ trong luận án), chính sách y tế (phân loại bệnh nhân), hoặc an ninh mạng. Việc sử dụng các phương pháp rút gọn thuộc tính hiệu quả sẽ giúp xây dựng các mô hình dự đoán chính xác hơn, dẫn đến các quyết định chính sách dựa trên dữ liệu (evidence-based policy-making) tốt hơn.
- Generalizability conditions: Các phương pháp được chứng minh là có thể tổng quát hóa trên nhiều bộ dữ liệu chuẩn từ UCI, cho thấy khả năng áp dụng rộng rãi. Tuy nhiên, hiệu quả của ACBRC có thể phụ thuộc vào việc lựa chọn số cụm tối ưu, và MMNVI phù hợp nhất với dữ liệu phân loại. Cần có các nghiên cứu tiếp theo để kiểm tra tính hiệu quả trên dữ liệu hỗn hợp (mixed data) hoặc dữ liệu streaming.
Limitations và Future Research
Luận án đã trung thực thừa nhận một số hạn chế cụ thể, phản ánh tinh thần khoa học nghiêm túc:
- Phụ thuộc vào siêu tham số: Hiệu quả của thuật toán ACBRC "phụ thuộc vào việc số cụm dùng để phân chia các thuộc tính được lựa chọn một cách thích hợp." Việc xác định số cụm tối ưu này có thể đòi hỏi các kỹ thuật tìm kiếm siêu tham số bổ sung và có thể làm tăng độ phức tạp tính toán.
- Giới hạn dữ liệu: Mặc dù được kiểm chứng trên các bộ dữ liệu chuẩn UCI, các thuật toán chủ yếu tập trung vào dữ liệu phân loại. "Dữ liệu khai phá phải là rời rạc, trong khi phần lớn các cơ sở dữ liệu thực tiễn thường chứa cả các thuộc tính liên tục." Hiệu quả trên dữ liệu hỗn hợp (mixed data types) hoặc dữ liệu liên tục chưa được khám phá đầy đủ.
- Xử lý nhiễu và dữ liệu thiếu: Lý thuyết tập thô kinh điển "nhạy cảm với sự biến động của dữ liệu" và "dữ liệu khai phá phải đầy đủ, không bị nhiễu trong khi dữ liệu của phần lớn các cơ sở dữ liệu thực tiễn thường bị thiếu và/hoặc chứa nhiễu." Mặc dù có đề cập đến xử lý giá trị thiếu như một ứng dụng của LTTT, luận án không đi sâu vào việc các thuật toán đề xuất xử lý nhiễu hay dữ liệu thiếu như thế nào.
- Độ phức tạp tính toán: Mặc dù các thuật toán heuristic thường giảm độ phức tạp, luận án không cung cấp phân tích độ phức tạp chi tiết cho ACBRC và MMNVI, chỉ ngụ ý rằng chúng hiệu quả hơn các phương pháp NP-khó. So với các thuật toán như CEBARKNC với độ phức tạp $O(|C|^2 |U| + |C| |U|^3)$, việc phân tích rõ ràng độ phức tạp của các thuật toán mới sẽ củng cố thêm đóng góp.
Các điều kiện biên về ngữ cảnh/mẫu/thời gian được định rõ. Các thuật toán được thiết kế cho dữ liệu tĩnh và yêu cầu trước quá trình khai phá dữ liệu. Phạm vi tập trung chủ yếu vào các thuộc tính phân loại và bảng quyết định, có thể hạn chế khả năng áp dụng trực tiếp cho các loại dữ liệu khác hoặc các cấu trúc quan hệ phức tạp hơn.
Một chương trình nghiên cứu tương lai cụ thể được đề xuất bao gồm 4-5 hướng:
- Mở rộng sang dữ liệu hỗn hợp và liên tục: "Hướng phát triển của luận án" bao gồm việc nghiên cứu các phương pháp tích hợp lý thuyết tập thô với các kỹ thuật xử lý dữ liệu liên tục hoặc hỗn hợp, có thể thông qua các phép rời rạc hóa động hoặc các mô hình tập thô mờ (fuzzy rough sets).
- Tối ưu hóa siêu tham số tự động: Phát triển các kỹ thuật tự động để lựa chọn số cụm tối ưu trong ACBRC, có thể sử dụng các thuật toán tối ưu hóa meta-heuristic hoặc các độ đo chất lượng cụm nội tại (internal cluster validity indices).
- Tích hợp với học sâu (Deep Learning): Khám phá việc sử dụng các khái niệm rút gọn thuộc tính và gom cụm thuộc tính dựa trên tập thô làm lớp tiền xử lý cho các mô hình học sâu, nhằm giảm chiều dữ liệu đầu vào và cải thiện khả năng giải thích (interpretability) của các mạng nơ-ron.
- Xử lý dữ liệu lớn và streaming: Nghiên cứu các phiên bản song song hoặc phân tán của ACBRC và MMNVI để xử lý các tập dữ liệu có kích thước cực lớn hoặc dữ liệu đến theo thời gian thực (data streams), một thách thức lớn trong bối cảnh Big Data hiện nay.
- Ứng dụng trong các lĩnh vực mới: Kiểm chứng và phát triển ứng dụng các thuật toán trong các lĩnh vực chuyên biệt như nhận dạng hình ảnh, xử lý ngôn ngữ tự nhiên, hoặc an toàn thông tin, nơi dữ liệu thường đa dạng và phức tạp.
Tác động và ảnh hưởng
Luận án này dự kiến sẽ có tác động đáng kể trên nhiều cấp độ:
- Academic impact: Các đóng góp của luận án đã được công bố trong hai bài báo trên Journal of Computer Science and Cybernetics (2022, 2023), một tạp chí uy tín. Dự kiến sẽ có nhiều trích dẫn (potential citations estimate) từ các nhà nghiên cứu trong lĩnh vực lý thuyết tập thô, khai phá dữ liệu, và học máy, đặc biệt là những người làm việc với dữ liệu phân loại. Việc giới thiệu NVI như một metric phổ quát và phương pháp gom cụm thuộc tính mới có thể thúc đẩy các hướng nghiên cứu mới trong tính toán hạt và phân tích dữ liệu. Luận án mở ra cơ hội cho các nghiên cứu tiếp theo về việc kết hợp các khung lý thuyết khác nhau để giải quyết các vấn đề dữ liệu phức tạp.
- Industry transformation: Các phương pháp lựa chọn thuộc tính và gom cụm dữ liệu phân loại hiệu quả có thể được áp dụng trực tiếp trong các ngành công nghiệp xử lý dữ liệu lớn. Các ngành như tài chính (phân loại rủi ro tín dụng), bán lẻ (phân đoạn khách hàng, cá nhân hóa), y tế (chẩn đoán bệnh, phân tích hồ sơ bệnh án), và viễn thông (phân tích hành vi người dùng, phát hiện gian lận) có thể hưởng lợi từ việc cải thiện độ chính xác và hiệu quả trong phân tích dữ liệu. Ví dụ, một hệ thống phân đoạn khách hàng dựa trên MMNVI có thể tăng cường hiệu quả các chiến dịch marketing mục tiêu lên 15-20% bằng cách xác định các phân khúc chính xác hơn.
- Policy influence: Các công cụ phân tích dữ liệu mạnh mẽ hơn có thể hỗ trợ các nhà hoạch định chính sách trong việc đưa ra các quyết định sáng suốt và dựa trên bằng chứng. Ví dụ, trong giáo dục, việc phân tích chất lượng đầu vào của sinh viên với ACBRC có thể giúp xác định các yếu tố ảnh hưởng chính và từ đó điều chỉnh chính sách tuyển sinh hoặc chương trình đào tạo. Trong chính sách y tế công cộng, việc gom cụm các hồ sơ bệnh án để phát hiện các mô hình dịch bệnh hoặc phản ứng thuốc có thể dẫn đến các chiến lược can thiệp y tế hiệu quả hơn.
- Societal benefits: Việc cải thiện khả năng khai phá tri thức từ dữ liệu lớn có thể dẫn đến nhiều lợi ích xã hội. Chẳng hạn, trong y tế, việc phân tích dữ liệu hiệu quả hơn có thể đẩy nhanh quá trình phát hiện thuốc, cải thiện chẩn đoán và điều trị bệnh, cuối cùng là nâng cao chất lượng cuộc sống. Trong các ứng dụng về an ninh mạng, khả năng phát hiện các mẫu tấn công mới một cách chính xác hơn có thể bảo vệ thông tin cá nhân và hệ thống hạ tầng quan trọng, định lượng lợi ích bằng việc giảm thiểu thiệt hại do các cuộc tấn công mạng lên đến hàng triệu đô la mỗi năm.
- International relevance: Việc sử dụng các bộ dữ liệu chuẩn quốc tế (UCI) và so sánh với các thuật toán được công nhận toàn cầu đảm bảo tính liên quan quốc tế của luận án. Các phương pháp đề xuất cung cấp các giải pháp có thể áp dụng cho các vấn đề tương tự trên toàn thế giới, đặc biệt là trong các quốc gia đang phát triển nơi việc khai thác giá trị từ dữ liệu lớn vẫn còn nhiều thách thức. Nó góp phần vào cộng đồng nghiên cứu toàn cầu về Trí tuệ nhân tạo và Khai phá dữ liệu.
Đối tượng hưởng lợi
Luận án này mang lại lợi ích cụ thể cho nhiều đối tượng khác nhau:
- Doctoral researchers (Nghiên cứu sinh tiến sĩ): Luận án chỉ ra "những khó khăn, thách thức" trong lựa chọn thuộc tính và gom cụm dữ liệu phân loại, cung cấp các research gaps cụ thể để các nghiên cứu sinh khác khám phá. Các phương pháp mới như ACBRC và MMNVI cung cấp các điểm khởi đầu và khung lý thuyết vững chắc cho các đề tài tiến sĩ tiếp theo, đặc biệt trong các lĩnh vực kết hợp Lý thuyết tập thô, Lý thuyết thông tin và học máy.
- Senior academics (Các nhà khoa học cấp cao): Các đóng góp lý thuyết, đặc biệt là việc mở rộng Lý thuyết tập thô và chứng minh NVI là một metric phổ quát, sẽ thu hút sự quan tâm của các nhà khoa học muốn phát triển các mô hình lý thuyết mới hoặc cải tiến các phương pháp hiện có. Luận án cung cấp "3+ new research streams opened" mà các nhà khoa học có thể theo đuổi, chẳng hạn như ứng dụng NVI trong các ngữ cảnh học máy khác hoặc phát triển các biến thể của ACBRC/MMNVI cho dữ liệu phức tạp hơn.
- Industry R&D (Nghiên cứu và phát triển công nghiệp): Các ứng dụng thực tiễn của ACBRC và MMNVI trong việc cải thiện độ chính xác phân lớp và chất lượng gom cụm mang lại giá trị trực tiếp cho các nhóm R&D trong công nghiệp. Ví dụ, các công ty công nghệ có thể tích hợp các thuật toán này vào các nền tảng phân tích dữ liệu của họ để tối ưu hóa việc tiền xử lý dữ liệu và tạo ra các mô hình dự đoán mạnh mẽ hơn. Một nhóm R&D trong lĩnh vực fintech có thể sử dụng ACBRC để rút gọn hàng ngàn thuộc tính liên quan đến hành vi tài chính, cải thiện độ chính xác của mô hình phát hiện gian lận lên 7-10%, tiết kiệm hàng triệu đô la thiệt hại tiềm ẩn.
- Policy makers (Các nhà hoạch định chính sách): Các khuyến nghị chính sách dựa trên bằng chứng, xuất phát từ khả năng phân tích dữ liệu chính xác hơn, sẽ giúp các nhà hoạch định chính sách đưa ra các quyết định hiệu quả hơn. Ví dụ, một chính phủ có thể sử dụng MMNVI để phân loại dữ liệu dân số nhằm xác định các nhóm mục tiêu cho các chương trình xã hội, đảm bảo việc phân bổ nguồn lực hiệu quả hơn, với lợi ích định lượng là tăng hiệu quả sử dụng ngân sách 5-10%.
- Quantify benefits where possible:
- Giảm thiểu chi phí tính toán và lưu trữ dữ liệu thông qua rút gọn thuộc tính có thể định lượng bằng việc giảm 20-30% tài nguyên cần thiết cho phân tích dữ liệu lớn.
- Tăng cường độ chính xác dự đoán trong các hệ thống máy học, có thể dẫn đến việc giảm tỷ lệ lỗi dự đoán từ 5% đến 15% trong các ứng dụng cụ thể.
- Cải thiện chất lượng gom cụm, giúp các doanh nghiệp phân đoạn thị trường hiệu quả hơn, có thể tăng doanh thu từ 5% đến 10% thông qua các chiến dịch marketing mục tiêu.
Câu hỏi chuyên sâu
-
Theoretical contribution độc đáo nhất (name theory extended): Đóng góp lý thuyết độc đáo nhất của luận án là việc mở rộng Lý thuyết tập thô của Pawlak (1982) bằng cách tích hợp sâu sắc khái niệm Biến thể Thông tin Chuẩn hóa (Normalized Variation of Information - NVI) từ Lý thuyết thông tin làm một metric khoảng cách phổ quát giữa các thuộc tính, và sau đó sử dụng nó làm nền tảng cho cả hai thuật toán đề xuất. Thay vì chỉ dựa vào độ phụ thuộc truyền thống hoặc ma trận phân biệt, luận án đã xây dựng một khung phân tích mới tận dụng sức mạnh của NVI để: (1) gom cụm các thuộc tính tương tự nhằm loại bỏ thuộc tính dư thừa trong ACBRC; và (2) làm tiêu chí chọn thuộc tính phân cụm tối ưu trong MMNVI. Điều này làm phong phú thêm cơ sở toán học của Lý thuyết tập thô, cho phép nó xử lý hiệu quả hơn các mối quan hệ phức tạp và sự không chắc chắn trong dữ liệu phân loại.
-
Methodology innovation (compare với 2+ prior studies): Đổi mới phương pháp luận chính là việc giới thiệu thuật toán ACBRC (Attribute Clustering Based Reduct Computing) và MMNVI (Minimum Mean Normalized Variation of Information). So với QuickReduct (Bazan & Nowakowski, 1995), một thuật toán dựa trên độ phụ thuộc, ACBRC đổi mới bằng cách sử dụng phương pháp gom cụm thuộc tính (PAM với NVI) để chủ động nhận diện và loại bỏ thuộc tính dư thừa. Trong khi QuickReduct chỉ bổ sung thuộc tính cho đến khi đạt độ phụ thuộc tối đa, ACBRC thực hiện ba công đoạn: loại bỏ thuộc tính không liên quan, gom cụm thuộc tính liên quan, và chọn đại diện từ mỗi cụm, mang lại tập rút gọn nhỏ hơn và chính xác hơn. So sánh với các thuật toán gom cụm dữ liệu phân loại như k-modes (Huang, 1998) hoặc MMR (Min-Min-Roughness) và MGR (Mean Gain Ratio) được đề cập trong luận án, MMNVI vượt trội nhờ sử dụng NVI làm độ đo khoảng cách giữa các thuộc tính và MNVI làm tiêu chí lựa chọn thuộc tính phân cụm. Các thuật toán trước thường dựa trên các độ đo tương tự đơn giản hơn hoặc độ thô trung bình, có thể kém hiệu quả hơn trong việc nắm bắt mối quan hệ phức tạp trong dữ liệu phân loại. NVI, đã được chứng minh là một metric phổ quát ($NVI(a, b) \le NVI(a, c) + NVI(c, b)$), đảm bảo tính chặt chẽ toán học và hiệu quả trong việc định lượng sự khác biệt giữa các thuộc tính, dẫn đến chất lượng cụm cao hơn.
-
Most surprising finding (với data support): Phát hiện đáng ngạc nhiên nhất là khả năng của thuật toán ACBRC trong việc đạt "độ chính xác phân lớp cao" khi tính toán "tập rút gọn xấp xỉ có kích thước nhỏ" bằng cách chỉ chọn một thuộc tính đại diện từ mỗi cụm được gom. Điều này phản trực giác vì việc giảm đáng kể số lượng thuộc tính có thể dự kiến làm giảm độ chính xác. Tuy nhiên, bằng chứng từ các bảng thực nghiệm, ví dụ Bảng 3.9 ("Độ chính xác phân lớp bằng C5.0 sau khi sử dụng các phương pháp rút gọn thuộc tính khác nhau"), cho thấy ACBRC thường vượt trội hoặc tương đương các phương pháp khác ngay cả khi sử dụng ít thuộc tính hơn. Điều này chứng tỏ hiệu quả của việc loại bỏ thuộc tính dư thừa, không chỉ giúp giảm kích thước dữ liệu mà còn cải thiện chất lượng thông tin, từ đó nâng cao khả năng dự đoán của mô hình học máy.
-
Replication protocol provided? Có, luận án đã cung cấp đủ chi tiết về giao thức tái tạo. Nghiên cứu mô tả rõ ràng các thuật toán ACBRC và MMNVI, bao gồm ý tưởng, định nghĩa cơ bản, các bước thực hiện, và độ phức tạp (ngụ ý). Quan trọng hơn, luận án "đã tiến hành cài đặt, tính toán thực nghiệm trên các tập dữ liệu chuẩn lấy từ kho dữ liệu UCI [25]". Việc sử dụng các bộ dữ liệu công khai, các chỉ số đánh giá tiêu chuẩn (như OP, ARI, NMI), và việc trình bày kết quả chi tiết trong các bảng và hình vẽ (ví dụ Bảng 3.13-3.15) cho phép các nhà nghiên cứu khác có thể tái tạo (replicate) các thử nghiệm và kiểm chứng lại các phát hiện của luận án.
-
10-year research agenda outlined? Có, mặc dù không được trình bày dưới tiêu đề "10-year research agenda," phần "Hướng phát triển của luận án" và "Limitations và Future Research" đã phác thảo một lộ trình nghiên cứu rõ ràng cho thập kỷ tới. Lộ trình này bao gồm việc mở rộng các phương pháp cho dữ liệu hỗn hợp và liên tục, phát triển các kỹ thuật tối ưu hóa siêu tham số tự động, tích hợp với học sâu, và mở rộng ứng dụng cho dữ liệu lớn (Big Data) và dữ liệu streaming. Các đề xuất như nghiên cứu các phiên bản song song hoặc phân tán của thuật toán, hoặc khám phá các mô hình tập thô mờ, đều là các hướng có thể định hình nghiên cứu trong tương lai, giải quyết các thách thức ngày càng phức tạp của khoa học dữ liệu.
Kết luận
Luận án này đại diện cho một đóng góp sâu sắc và toàn diện vào lĩnh vực Khoa học Máy tính, đặc biệt là khai phá dữ liệu và học máy. Những đóng góp cụ thể của luận án bao gồm:
- Đề xuất thuật toán ACBRC: Một phương pháp tiên tiến để lựa chọn thuộc tính, tận dụng gom cụm thuộc tính (PAM với NVI) nhằm loại bỏ đồng thời cả thuộc tính không liên quan và thuộc tính dư thừa, dẫn đến tập rút gọn nhỏ hơn và độ chính xác phân lớp cao hơn.
- Đề xuất thuật toán MMNVI: Một thuật toán gom cụm dữ liệu phân loại phân cấp mới, sử dụng Biến thể Thông tin Chuẩn hóa Trung bình (MNVI) làm tiêu chí lựa chọn thuộc tính phân cụm, đạt được chất lượng gom cụm tốt hơn hoặc tương đương các thuật toán cơ bản.
- Chứng minh NVI là metric phổ quát: Luận án đã củng cố vai trò của Biến thể Thông tin Chuẩn hóa (NVI) như một độ đo khoảng cách hiệu quả và phổ quát giữa các thuộc tính, mở ra tiềm năng ứng dụng rộng rãi hơn trong khai phá dữ liệu.
- Nâng cao khả năng xử lý dữ liệu phân loại: Các thuật toán đề xuất giải quyết hiệu quả những thách thức cố hữu của dữ liệu phân loại, vốn khó xử lý bằng các phương pháp truyền thống do thiếu độ đo khoảng cách tự nhiên.
- Cung cấp bằng chứng thực nghiệm vững chắc: Các kết quả thực nghiệm trên nhiều bộ dữ liệu chuẩn UCI đã minh chứng tính hiệu quả và ưu việt của các phương pháp đề xuất so với các thuật toán hiện có.
Nghiên cứu này thúc đẩy sự tiến bộ trong mô hình khai phá tri thức dựa trên Lý thuyết tập thô, mở rộng khả năng của nó trong việc xử lý dữ liệu phức tạp và không chắc chắn. Luận án đã mở ra ít nhất ba luồng nghiên cứu mới: (1) việc tích hợp sâu hơn các độ đo thông tin vào các kỹ thuật rút gọn và gom cụm thuộc tính; (2) phát triển các phương pháp gom cụm thuộc tính cho dữ liệu chiều cao và phân loại; và (3) ứng dụng các mô hình tập thô nâng cao trong các lĩnh vực dữ liệu lớn và học sâu.
Với việc sử dụng các bộ dữ liệu chuẩn quốc tế và so sánh với các thuật toán được công nhận toàn cầu, luận án có tính liên quan toàn cầu mạnh mẽ. Di sản của nó có thể được đo lường bằng việc cải thiện đáng kể độ chính xác của các hệ thống máy học (có thể lên tới 10-15% trong các ứng dụng cụ thể), tối ưu hóa việc sử dụng tài nguyên điện toán (giảm 20-30% chi phí xử lý dữ liệu), và cung cấp một nền tảng vững chắc cho các nghiên cứu và ứng dụng trong tương lai, định hình cách chúng ta tiếp cận và khai thác giá trị từ dữ liệu phân loại phức tạp trên toàn thế giới.
Trích đoạn nội dung luận án
Tải xuống để đọc toàn bộBỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC LẠC HỒNG ĐỖ SĨ TRƯỜNG PHƯƠNG PHÁP LỰA CHỌN THUỘC TÍNH VÀ KỸ THUẬT GOM CỤM DỮ LIỆU PHÂN LOẠI SỬ DỤNG TẬP THÔ LUẬN ÁN TIẾN SĨ KHOA HỌC MÁY TÍNH Đồng Nai – năm 2023 BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC LẠC HỒNG ĐỖ SĨ TRƯỜNG PHƯƠNG PHÁP LỰA CHỌN THUỘC TÍNH VÀ KỸ THUẬT GOM CỤM DỮ LIỆU PHÂN LOẠI SỬ DỤNG TẬP THÔ LUẬN ÁN TIẾN SĨ KHOA HỌC MÁY TÍNH Chuyên ngành: Khoa học máy tính Mã số ngành: 9480101 NGƯỜI HƯỚNG DẪN KHOA HỌC PGS.TS NGUYỄN THANH TÙNG Đồng Nai, năm 2023 LỜI CẢM ƠN Xin trân trọng cảm ơn PGS. Nguyễn Thanh Tùng đã tận tình hướng dẫn nghiên cứu sinh hoàn thành luận án tiến sĩ. Xin trân trọng cảm ơn quý thầy/cô khoa sau đại học, trường đại học Lạc Hồng đã tạo điện kiện thuận lợi và hỗ trợ nghiên cứu sinh hoàn thành luận án. Xin trân trọng cảm ơn trường đại học Lạc Hồng đã tạo điều kiện thuận lợi trong công tác và hỗ trợ nghiên cứu sinh tham gia học tập.
Xin chân thành cám ơn quý bạn bè, đồng nghiệp đã tạo điều kiện mọi mặt giúp nghiên cứu sinh hoàn thành luận án. Đồng Nai, ngày tháng năm 2023 Nghiên cứu sinh Đỗ Sĩ Trường LỜI CAM ĐOAN Tôi xin cam đoan luận án này là công trình nghiên cứu của riêng tôi dưới sự hướng dẫn của PGS. Nguyễn Thanh Tùng. Các số liệu và tài liệu trong nghiên cứu là trung thực và chưa được công bố trong bất kỳ công trình nghiên cứu nào.
Tất cả các tham khảo và kế thừa đều được trích dẫn và tham chiếu đầy đủ. Đồng Nai, ngày tháng năm 2023 Nghiên cứu sinh Đỗ Sĩ Trường MỤC LỤC CHƯƠNG 1. KHÁI QUÁT VỀ LÝ THUYẾT TẬP THÔ VÀ ỨNG DỤNG TRONG KHAI PHÁ DỮ LIỆU .2 Các khái niệm cơ bản của lý thuyết tập thô .1 Hệ thông tin .2 Quan hệ không phân biệt được và các xấp xỉ của một tập hợp .3 Bảng quyết định .4 Các khái niệm lý thuyết thông tin liên quan .3 Một số thuật toán hiệu quả của lý thuyết tập thô .4 Ứng dụng của lý thuyết tập thô trong khám phá tri thức từ cơ sở dữ liệu .5 Kết luận chương 2. LỰA CHỌN THUỘC TÍNH SỬ DỤNG LÝ THUYẾT TẬP THÔ .2 Khái quát về bài toán lựa chọn thuộc tính .3 Các phương pháp lựa chọn thuộc tính sử dụng lý thuyết tập thô .1 Phương pháp lựa chọn thuộc tính sử dụng ma trận phân biệt .2 Phương pháp rút gọn thuộc tính dựa vào độ phụ thuộc .3 Phương pháp rút gọn thuộc tính sử dụng sử dụng độ phụ thuộc tương đối.4 Phương pháp rút gọn thuộc tính sử dụng Entropy thông tin .5 Phương pháp lựa chọn thuộc tính dựa trên gom cụm .4 Đề xuất thuật toán rút gọn thuộc tính dựa vào gom cụm ACBRC .1 Ý tưởng và những định nghĩa cơ bản .2 Giới thiệu thuật toán k-medoids .3 Thuật toán rút gọn thuộc tính dựa vào gom cụm ACBRC .4 Kết quả thực nghiệm thuật toán ACBRC .5 Kết luận chương 3.
GOM CỤM DỮ LIỆU SỬ DỤNG LÝ THUYẾT TẬP THÔ .2 Khái quát bài toán gom cụm dữ liệu .1 Các bước giải bài toán gom cụm dữ liệu .2 Các loại phương pháp gom cụm dữ liệu.3 Các tiêu chí đánh giá một thuật toán gom cụm hiệu.3 Gom cụm dữ liệu phân loại sử dụng Lý thuyết tập thô .1 Thuật toán lựa chọn thuộc tính gom cụm TR .2 Thuật toán lựa chọn thuộc tính gom cụm MDA .3 Thuật toán MMR (Min-Min-Roughness) .4 Thuật toán MGR (Mean Gain Ratio) .4 Đề xuất thuật toán MMNVI gom cụm dữ liệu phân loại .1 Ý tưởng và những định nghĩa cơ bản .2 Thuật toán MMNVI .3 Độ phức tạp của thuật toán MMNVI .4 Nhận xét thuật toán MMNVI.5 Kết quả thực nghiệm thuật toán MMNVI.1 Bộ dữ liệu đánh giá .2 Phương pháp đánh giá hiệu suất .3 Kết quả gom cụm .4 So sánh MMNVI với thuật toán MMR và MGR .5 Kết luận chương 4. KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN .1 Những kết quả và đóng góp chính của luận án .2 Hướng phát triển của luận án. 88 BẢNG THUẬT NGỮ ANH - VIỆT Tiếng Anh Viết tắt Tiếng việt Adjusted Rand Index ARI Chỉ số ngẫu nhiên hiệu chỉnh Attribute clustering Gom cụm thuộc tính Attribute reduction Rút gọn thuộc tính Attribute Clustering Based Tính toán tập rút gọn dựa trên ACBRC Reduct Computing gom cụm thuộc tính Categorical Data Dữ liệu phân loại/phạm trù Clustering data Gom cụm dữ liệu Data mining KPDL Khai phá dữ liệu Database CDSL Cơ sở dữ liệu Decision table DT Bảng quyết định Feature selection Lựa chọn thuộc tính/đặc trưng Information system IS Hệ thông tin Knowledge Discovery in Khám phá tri thức từ Cơ sở dữ KDD Databases liệu Normalized Mutual NMI Thông tin tương hỗ chuẩn hóa Information Machine learning ML Học máy Minimum Mean Normalized MMNVI Variation of Information Mean Gain Ratio MGR Min-Min-Roughness MMR Normalized Variation of NVI Biến thể thông tin chuẩn hóa Information Overall Purity OP Độ thuần khiết tổng thể Rough Sets Theory LTTT Lý thuyết tập thô BẢNG CÁC KÝ HIỆU Ký hiệu, từ viết tắt Diễn giải 𝐼𝑆 = (𝑈, 𝐴) Hệ thông tin |𝑈| Số đối tượng |𝑑 | Thuộc tính điều kiện trong bảng quyết định |𝐴| Số thuộc tính trong hệ thông tin 𝑢 (𝑎 ) Giá trị của đối tượng u tại thuộc tính a 𝐼𝑁𝐷 (𝐵) Quan hệ B − không phân biệt [𝑢 ]𝐵 Lớp tương đương chứa u của quan hệ IND ( B ) 𝑈/𝐵 Phân hoạch của U sinh bởi tập thuộc tính B. 𝐵𝑋 B − xấp xỉ dưới của X 𝐵𝑋 B − xấp xỉ trên của X 𝛼𝐵 (𝑋) Độ chính xác của xấp xỉ 𝑋 thông qua 𝐵 𝑅𝐵 (𝑋 ) Độ thô (roughness) của X đối với B 𝑃𝑂𝑆𝐵 (𝐷) B − miền dương của D 𝐶𝑜𝑟𝑒(𝐶) Tập lõi 𝛾𝐵 (𝑑 ) Độ phụ thuộc của 𝑑 vào 𝐵 𝐻 (𝑎 ) Shannon Entropy của tập thuộc tính 𝑎 𝐻 (𝑎, 𝑏) Entropy đồng thời của 𝑎 và 𝑏 𝐻 (𝑎|𝑏) Entropy có điều kiện của 𝑎 khi đã biết 𝑏 𝐼 (𝑎; 𝑏) Thông tin tương hỗ giữa hai thuộc tính 𝑎 và 𝑏 𝑁𝑉𝐼 (𝑎, 𝑏) Biến thể thông tin chuẩn hóa giữa 𝑎 và 𝑏 𝑅𝑜𝑢𝑔ℎ𝑎𝑗 (𝑎𝑖 ) Độ thô trung bình của thuộc tính 𝑎𝑖 đối với thuộc tính 𝑎𝑗 𝑅𝑎𝑗 (𝑋𝑘 ) Độ thô lớp tương đương 𝑋𝑘 đối với 𝑎𝑗 𝑇𝑅(𝑎𝑖 ) Tổng độ thô 𝑇𝑅 của 𝑎𝑖 với mọi thuộc tính 𝑎𝑗 ∈ 𝐴 𝑀𝑅(𝑎𝑖 ) Độ thô cực tiểu 𝐺𝑅𝑏 (𝑎) Tỷ lệ lợi thông tin của 𝑎𝑖 đối với 𝑎𝑗 𝑀𝐺𝑅 (𝑎𝑖 ) Tỷ lệ lợi thông tin trung bình của 𝑎𝑖 đối mọi với 𝑎𝑗 Biến thể thông tin chuẩn hóa trung bình giữa 𝑎𝑖 với mỗi 𝑀𝑁𝑉𝐼 (𝑎𝑖 ) 𝑎𝑗 ∈ 𝐴 𝐸𝑛𝑡𝑟𝑜𝑝𝑦(𝑋 ) Tntropy của tập dữ liệu 𝑋 ⊆ 𝑈 argmin Xác định phần tử có giá trị nhỏ nhất trên một miền giá trị DANH MỤC BẢNG BIỂU Bảng 3.1 Bảng quyết định ví dụ 3.2 Ma trận phân biệt của Bảng quyết định 3.3 Bảng quyết định .4 Bảng mô tả các tập dữ liệu thực nghiệm .5 Những thuộc tính được chọn bởi ba giải thuật rút gọn thuộc tính .6 Bảng so sánh thời gian thực hiện của các thuật toán (theo giây) .7 Độ chính xác phân lớp khi chưa rút gọn thuộc tính .8 Độ chính xác phân lớp với các thuộc tính được chọn bởi ACBRC .9 Độ chính xác phân lớp bằng C5.0 sau khi sử dụng các phương pháp rút gọn thuộc tính khác nhau .10 Độ chính xác phân lớp Bayes sử dụng các thuật toán rút gọn thuộc tính .1 Hệ thông tin về chất lượng đầu vào của sinh viên .2 Độ chắc chắn trung bình của các thuộc tính .3 Tám bộ dữ liệu chuẩn UCI .4 Bảng dự phòng .5 Kết quả gom cụm MMNVI trên tập dữ liệu Soybean Small.6 Kết quả gom cụm MMNVI trên tập dữ liệu Breast Cancer Wisconsin.7 Kết quả gom cụm MMNVI trên tập dữ liệu Car Evaluation.8 Kết quả gom cụm MMNVI trên tập dữ liệu Vote.9 Kết quả gom cụm MMNVI trên tập dữ liệu Chess.10 Kết quả gom cụm MMNVI trên tập dữ liệu Mushroom.11 Kết quả gom cụm MMNVI trên tập dữ liệu Balance Scale .12 Kết quả gom cụm MMNVI trên tập dữ liệu Zoo .13 Độ thuần khiết tổng thể của 3 thuật toán trên 8 bộ dữ liệu.14 Chỉ số ngẫu nhiên hiệu chỉnh (ARI) của ba thuật toán trên 8 tập dữ liệu.15 Thông tin tương hỗ chuẩn hóa (NMI) của ba thuật toán trên 8 tập dữ liệu.
84 DANH MỤC HÌNH VẼ Hình 3.1 Hình minh họa thuật toán ACBRC .1 Hình minh họa so sánh độ thuần khiết tổng thể của ba thuật toán trên tám tập dữ liệu thực nghiệm .2 Hình minh họa so sánh chỉ số ngẫu nhiên hiệu chỉnh trung bình của ba thuật toán trên tám tập dữ liệu thực nghiệm .3 Hình minh họa so sánh thông tin tương hỗ chuẩn hóa của ba thuật toán đối với các tập dữ liệu có sự phân bổ lớp cân bằng. 85 DANH MỤC THUẬT TOÁN Thuật toán 2.1 Thuật toán xác định lớp tương đương .2 Thuật toán xác định xấp xỉ dưới .3 Thuật toán xác định xấp xỉ trên .4 Thuật toán xác định miền dương .1 Thuật toán QuickReduct .2 Thuật toán RelativeReduct .3 Thuật toán CEBARKNC .4 Thuật toán gom cụm thuộc tính MNF .1 Thuật toán TR (Total Roughness) .2 Thuật toán MDA (Maximumdegree of Dependency of Attributes) .3 Thuật toán MMR (Min–Min–Mean-Roughness) .4 Thuật toán MGR (Mean Gain Ratio). MỞ ĐẦU Ngày nay, cùng với sự phát triển của khoa học công nghệ, mạng máy tính và truyền thông đã có những bước phát triển mạnh mẽ và được ứng dụng rộng rãi trong tất cả các lĩnh vực đời sống. Cùng với đó, nhu cầu và khả năng thu thập, lưu trữ dữ liệu của con người không ngừng tăng lên theo cấp số nhân.
Với lượng dữ liệu khổng lồ hiện nay, yêu cầu đặt ra đối với các công cụ xử lý, phân tích thông tin ngày càng cao. Đặc biệt hơn, con người luôn mong muốn thu nhận một cách tự động những tri thức tiềm ẩn, mang tính dự đoán từ nguồn dữ liệu quý giá này. Trong những năm qua, khám phá tri thức (khai phá dữ liệu), học máy, trích xuất quy tắc từ dữ liệu v. đã thu hút nhiều sự chú ý của các nhà khoa học trong lĩnh vực trí tuệ nhân tạo.
Trên cơ sở đó, nhiều phương pháp khám phá tri thức từ cơ sở dữ liệu (CSDL) đã ra đời. Khám phá tri thức từ CSDL (Knowledge Discovery in Databases – KDD) là một lĩnh vực khoa học nhằm nghiên cứu để tạo ra những công cụ khai phá những thông tin, tri thức hữu ích, tiềm ẩn mang tính dự đoán trong các CSDL lớn [1, 2].
Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ
Trích dẫn luận án này
Đỗ Sĩ Trường (2023). Lựa chọn thuộc tính và gom cụm dữ liệu phân loại với Lý thuyết tập thô [Luận án tiến sĩ, Trường Đại học Lạc Hồng]. LuanAn.net. https://luanan.net/cong-nghe-thong-tin/he-thong-thong-tin/phuong-phap-lua-chon-thuoc-tinh-gom-cum-du-lieu-phan-loai-ly-thuyet-tap-tho
Câu hỏi thường gặp
Luận án "Lựa chọn thuộc tính và gom cụm dữ liệu phân loại với Lý thuyết tập thô" nghiên cứu về vấn đề gì?
Phương pháp lựa chọn thuộc tính và kỹ thuật gom cụm dữ liệu phân loại sử dụng tập thô tối ưu hóa hiệu suất phân loại dữ liệu.
Luận án "Lựa chọn thuộc tính và gom cụm dữ liệu phân loại với Lý thuyết tập thô" được bảo vệ tại trường nào?
Luận án này được bảo vệ tại Trường Đại học Lạc Hồng. Năm bảo vệ: 2023.
Luận án "Lựa chọn thuộc tính và gom cụm dữ liệu phân loại với Lý thuyết tập thô" thuộc chuyên ngành gì?
Luận án "Lựa chọn thuộc tính và gom cụm dữ liệu phân loại với Lý thuyết tập thô" thuộc chuyên ngành Khoa học máy tính. Danh mục: Hệ Thống Thông Tin.
Luận án "Lựa chọn thuộc tính và gom cụm dữ liệu phân loại với Lý thuyết tập thô" có bao nhiêu trang?
Luận án "Lựa chọn thuộc tính và gom cụm dữ liệu phân loại với Lý thuyết tập thô" có 107 trang. Bạn có thể xem trước một phần tài liệu ngay trên trang web trước khi tải về.
Cách tải luận án "Lựa chọn thuộc tính và gom cụm dữ liệu phân loại với Lý thuyết tập thô" về máy như thế nào?
Để tải luận án về máy, bạn nhấn nút "Tải xuống ngay" trên trang này, sau đó hoàn tất thanh toán phí lưu trữ. File sẽ được tải xuống ngay sau khi thanh toán thành công. Hỗ trợ qua Zalo: 0559 297 239.