Luận án tiến sĩ Khoa học Máy tính: Lựa chọn thuộc tính và gom cụm dữ liệu phân loại tại Trường Đại học Lạc Hồng
"Luận án tiến sĩ: phương pháp chọn thuộc tính, kỹ thuật gom cụm, cải thiện phân loại dữ liệu thô, giải pháp tối ưu."
Luan An
Luận án tiến sĩ
Năm xuất bản
Số trang
107
Thời gian đọc
17 phút
Lượt xem
0
Lượt tải
0
Phí lưu trữ
40 Point
Tổng quan nhanh
- Chủ đề:
- 1. Lý thuyết tập thô trong lựa chọn thuộc tính dữ liệu
- Số trang:
- 107 trang
- Trường:
- Trường Đại học Lạc Hồng
- Chuyên ngành:
- Khoa học máy tính
- Tác giả:
- Đỗ Sĩ Trường
- Năm:
- 2023
Tóm tắt nội dung luận án
I. Lý thuyết tập thô trong lựa chọn thuộc tính dữ liệu
Lý thuyết tập thô cung cấp nền tảng toán học xử lý dữ liệu không chắc chắn. Công cụ này phân tích dữ liệu không đầy đủ hoặc thiếu chính xác. Mô hình không yêu cầu giả định phân phối dữ liệu ban đầu. Đây là ưu điểm lớn trong khai phá tri thức từ cơ sở dữ liệu. Không gian dữ liệu bao gồm tập đối tượng và tập thuộc tính. Quan hệ không phân biệt chia tập đối tượng thành các lớp tương đương. Xấp xỉ dưới và xấp xỉ trên xác định ranh giới vùng thông tin. Tập thô giúp tính toán tập rút gọn thuộc tính hiệu quả. Việc loại bỏ thuộc tính dư thừa giữ nguyên khả năng phân lớp của hệ thống. Ứng dụng lý thuyết tập thô trong chọn thuộc tính giúp tối ưu hóa không gian biểu diễn. Quá trình xử lý duy trì trọn vẹn thông tin cốt lõi mà không làm suy giảm độ chính xác của mô hình học máy.
1.1. Hệ thông tin và các khái niệm xấp xỉ tập thô cơ bản
Hệ thông tin biểu diễn dữ liệu dưới dạng bảng hai chiều. Mỗi hàng đại diện cho một đối tượng cụ thể. Mỗi cột thể hiện một thuộc tính quan sát. Bảng quyết định chứa thêm thuộc tính quyết định bên cạnh các thuộc tính điều kiện. Quan hệ không phân biệt nhóm các đối tượng có cùng giá trị thuộc tính. Tập xấp xỉ dưới chứa các đối tượng chắc chắn thuộc về khái niệm mục tiêu. Tập xấp xỉ trên bao gồm các đối tượng có khả năng thuộc về khái niệm đó. Miền ranh giới biểu thị mức độ mơ hồ của dữ liệu. Độ thô đo lường sự không chắc chắn của tập hợp. Lý thuyết tập thô cho phép trích xuất quy tắc quyết định tường minh. Các quy tắc này hỗ trợ đắc lực cho việc suy diễn và dự đoán mẫu dữ liệu mới.
1.2. Ứng dụng lý thuyết thông tin trong bảng quyết định
Lý thuyết thông tin kết hợp với tập thô mang lại hiệu quả cao trong phân tích dữ liệu. Entropy thông tin đo lường độ hỗn loạn của các thuộc tính phân loại. Thông tin tương hỗ (Mutual Information) đánh giá mức độ phụ thuộc giữa thuộc tính điều kiện và thuộc tính quyết định. Chỉ số này phản ánh lượng thông tin mà một đặc trưng đóng góp vào việc phân loại đối tượng. Độ phụ thuộc tương đối xác định tầm quan trọng của từng thuộc tính. Các giá trị thông tin giúp xếp hạng và lựa chọn đặc trưng tiềm năng. Việc kết hợp Entropy giúp hệ thống đánh giá khách quan giá trị của từng thuộc tính. Mô hình loại bỏ nhanh các yếu tố gây nhiễu và thuộc tính thừa trong cơ sở dữ liệu phức tạp.
II. Phương pháp lựa chọn đặc trưng và giảm chiều dữ liệu
Quá trình lựa chọn đặc trưng đóng vai trò trung tâm trong xử lý dữ liệu lớn. Dữ liệu thực tế thường chứa nhiều chiều và thuộc tính dư thừa. Điều này gây bùng nổ không gian tính toán và giảm hiệu năng mô hình. Giảm chiều dữ liệu phân loại giúp loại bỏ các thuộc tính không cần thiết. Mục tiêu chính là tìm tập rút gọn tối thiểu nhưng vẫn bảo toàn tri thức. Phương pháp truyền thống dùng ma trận phân biệt để tìm tập rút gọn. Tuy nhiên, cách tiếp cận này tiêu tốn nhiều bộ nhớ và thời gian tính toán. Nghiên cứu phát triển phương pháp gom cụm thuộc tính nhằm phân rã bài toán lớn thành các nhóm nhỏ hơn. Kỹ thuật này nâng cao hiệu quả tìm kiếm tập rút gọn trên các bộ dữ liệu quy mô lớn.
2.1. Kỹ thuật rút gọn thuộc tính dựa trên độ phụ thuộc
Phương pháp rút gọn thuộc tính dựa trên độ phụ thuộc đánh giá mức độ bao phủ của tập thuộc tính điều kiện lên thuộc tính quyết định. Miền dương xác định tập hợp các đối tượng được phân lớp chính xác tuyệt đối. Độ phụ thuộc đo lường tỷ lệ giữa kích thước miền dương và toàn bộ không gian dữ liệu. Thuật toán bổ sung tuần tự các thuộc tính có độ phụ thuộc cao nhất vào tập rút gọn. Quá trình dừng lại khi độ phụ thuộc của tập chọn lọc bằng độ phụ thuộc của toàn bộ tập thuộc tính ban đầu. Kỹ thuật này đảm bảo chất lượng phân lớp không bị suy giảm. Đo độ tương tự dữ liệu danh nghĩa giữa các thuộc tính hỗ trợ việc loại trừ các thuộc tính có thông tin trùng lặp cao.
2.2. Thuật toán ACBRC rút gọn thuộc tính qua gom cụm
Thuật toán ACBRC đề xuất giải pháp tính toán tập rút gọn dựa trên gom cụm thuộc tính. Phương pháp sử dụng thuật toán K-medoids để nhóm các thuộc tính có tương quan cao. Thuộc tính đại diện trong mỗi cụm được chọn làm trung tâm. Việc gom cụm giúp phân chia không gian thuộc tính lớn thành các nhóm độc lập. Thuật toán sau đó tiến hành tìm kiếm tập rút gọn cục bộ trên từng cụm. Sự kết hợp các tập rút gọn cục bộ tạo nên tập rút gọn toàn cục tối ưu. Kết quả thực nghiệm chứng minh thuật toán ACBRC rút ngắn thời gian tính toán đáng kể so với phương pháp vét cạn. Độ chính xác phân loại của mô hình trên dữ liệu sau rút gọn vẫn được giữ vững.
III. Kỹ thuật gom cụm dữ liệu định danh và dữ liệu phân loại
Gom cụm dữ liệu định danh là bài toán học không giám sát quan trọng. Dữ liệu phân loại không có thứ tự tự nhiên và không nằm trong không gian Euclid. Các phép toán cộng trừ số học thông thường không thể áp dụng trực tiếp. Việc đo độ tương tự dữ liệu danh nghĩa đòi hỏi các hàm khoảng cách phi số. Khoảng cách Hamming trong phân cụm là thước đo cơ bản, đếm số lượng thuộc tính có giá trị khác nhau giữa hai đối tượng. Các thuật toán kinh điển gặp nhiều khó khăn khi dữ liệu có độ mơ hồ cao. Lý thuyết tập thô cung cấp cách tiếp cận mới để biểu diễn các cụm dữ liệu có ranh giới chồng lấn. Phương pháp này mô tả chính xác sự không chắc chắn trong cấu trúc cụm.
3.1. Hạn chế của thuật toán gom cụm truyền thống
Nhiều thuật toán gom cụm truyền thống được thiết kế riêng cho dữ liệu phân loại. Thuật toán K-modes thay thế giá trị trung bình bằng giá trị yếu vị để định vị tâm cụm. Thuật toán K-prototypes kết hợp xử lý đồng thời dữ liệu số và dữ liệu định danh. Thuật toán ROCK (Robust Clustering) xây dựng đồ thị liên kết giữa các đối tượng để gom cụm dữ liệu phân loại. Tuy nhiên, các phương pháp này thường nhạy cảm với việc chọn tâm cụm khởi tạo ban đầu. Chúng cũng gặp khó khăn khi phân tách các cụm có độ chồng lấn phức tạp. Việc áp dụng lý thuyết tập thô vào gom cụm khắc phục các nhược điểm này bằng cách sử dụng các khái niệm xấp xỉ thô để mô hình hóa ranh giới cụm.
3.2. Thuật toán gom cụm dựa trên độ thô MMR và MGR
Các thuật toán gom cụm dựa trên tập thô sử dụng thuộc tính để định hướng phân cụm. Thuật toán MMR (Min-Min-Roughness) lựa chọn thuộc tính phân chia dựa trên tiêu chí cực tiểu hóa độ thô tổng thể. Mỗi bước lặp tách dữ liệu thành các cụm có độ mơ hồ thấp nhất. Thuật toán MGR (Mean Gain Ratio) cải tiến tiêu chí chọn thuộc tính thông qua tỷ số tăng thông tin trung bình. Phương pháp này giảm thiểu sự mất cân bằng kích thước giữa các cụm được sinh ra. Cả hai thuật toán đều không yêu cầu xác định trước số lượng cụm. Quá trình gom cụm dừng tự động khi độ thô đạt ngưỡng hội tụ cho phép. Tuy nhiên, hiệu năng gom cụm vẫn phụ thuộc vào trật tự duyệt thuộc tính.
IV. Thuật toán gom cụm MMNVI tối ưu biến thiên thông tin
Thuật toán MMNVI là đóng góp then chốt của luận án cho bài toán gom cụm dữ liệu phân loại. Thuật toán dựa trên nguyên lý cực tiểu hóa biến thiên thông tin chuẩn hóa trung bình (Minimum Mean Normalized Variation of Information). Biến thiên thông tin NVI đo lường sự khác biệt về lượng thông tin giữa các phân hoạch thuộc tính. MMNVI lựa chọn thuộc tính phân chia tối ưu bằng cách tìm thuộc tính giảm thiểu tối đa sự mơ hồ giữa các cụm. Cấu trúc thuật toán đảm bảo tính đơn biến và hội tụ nhanh chóng. Phương pháp xử lý hiệu quả các tập dữ liệu có độ nhiều chiều và tương quan phức tạp. Kết quả tạo ra các cụm thuần khiết với ranh giới phân tách rõ ràng.
4.1. Quy trình thực thi và độ phức tạp tính toán MMNVI
Quy trình MMNVI bắt đầu từ tập toàn bộ đối tượng trong một cụm duy nhất. Thuật toán tính toán chỉ số NVI cho từng thuộc tính chưa sử dụng. Thuộc tính có giá trị biến thiên thông tin trung bình nhỏ nhất được chọn để phân tách dữ liệu thành các cụm con. Quá trình phân chia diễn ra đệ quy trên từng nút của cây phân cụm. Điều kiện dừng được kích hoạt khi cụm đạt độ thuần khiết hoặc không còn thuộc tính phù hợp. Độ phức tạp tính toán của MMNVI là đa thức theo số đối tượng và số thuộc tính. Thuật toán đạt tốc độ xử lý nhanh, phù hợp cho khai phá dữ liệu lớn. Cấu trúc cây phân cụm giúp biểu diễn tri thức một cách trực quan và dễ hiểu.
4.2. Đánh giá thực nghiệm hiệu năng qua các chỉ số
Hiệu năng của thuật toán MMNVI được kiểm chứng trên nhiều bộ dữ liệu chuẩn từ kho dữ liệu UCI. Các chỉ số đánh giá bao gồm chỉ số ngẫu nhiên hiệu chỉnh ARI (Adjusted Rand Index), thông tin tương hỗ chuẩn hóa NMI (Normalized Mutual Information) và độ thuần khiết tổng thể OP (Overall Purity). Kết quả thực nghiệm cho thấy MMNVI vượt trội hơn các thuật toán MMR và MGR về chất lượng phân cụm. Điểm số ARI và NMI của MMNVI đạt mức cao ổn định trên hầu hết các kịch bản thử nghiệm. Cụm dữ liệu tạo ra có độ tương đồng nội tại cao và phân biệt rõ rệt giữa các nhóm. Đóng góp này khẳng định tiềm năng ứng dụng mạnh mẽ của lý thuyết tập thô trong khai phá dữ liệu hiện đại.
Mục lục chi tiết luận án
Tải xuống file đầy đủ để xem toàn bộ nội dung
Tải đầy đủ (107 trang)Nội dung chính
Tổng quan về luận án
Sự bùng nổ của kỷ nguyên dữ liệu lớn (Big Data) đặt ra thách thức nghiêm trọng đối với các hệ thống Khám phá tri thức từ Cơ sở dữ liệu (Knowledge Discovery in Databases – KDD) và Học máy (Machine Learning). Khi không gian thuộc tính mở rộng theo cấp số nhân, hiện tượng "lời nguyền số chiều" (Curse of Dimensionality) làm suy giảm nghiêm trọng hiệu năng tính toán và độ chính xác phân lớp. Luận án tiến sĩ chuyên ngành Khoa học máy tính (Mã số: 9480101) của nghiên cứu sinh Đỗ Sĩ Trương, dưới sự hướng dẫn khoa học của PGS.TS Nguyễn Thanh Tùng tại Trường Đại học Lạc Hồng (2023), mang tiêu đề: "Phương pháp lựa chọn thuộc tính và kỹ thuật gom cụm dữ liệu phân loại sử dụng tập thô". Công trình tiên phong giải quyết đồng thời hai bài toán cốt lõi trong khai phá dữ liệu: tối ưu hóa tập rút gọn thuộc tính (Attribute Reduction/Feature Selection) và nâng cao chất lượng gom cụm dữ liệu phân loại/phạm trù (Categorical Data Clustering) bằng cách tích hợp Lý thuyết Tập thô (Rough Set Theory - RST) với Lý thuyết Thông tin (Information Theory).
Khoảng trống nghiên cứu (Research Gap) được xác định rõ ràng: các phương pháp lựa chọn thuộc tính truyền thống dựa trên miền dương (Positive Region) của Pawlak hoặc ma trận phân biệt của Skowron tuy loại bỏ được các thuộc tính không liên quan (Irrelevant Attributes) nhưng bất lực trong việc triệt tiêu các thuộc tính dư thừa (Redundant Attributes), dẫn đến độ phức tạp tính toán NP-khó ($O(2^{|C|})$) và làm giảm khả năng khái quát hóa của mô hình phân lớp. Đồng thời, đối với bài toán gom cụm dữ liệu phân loại—nơi các thuộc tính mang giá trị rời rạc không có thứ tự tự nhiên ($a \in V_a$, chỉ xác định $a=b$ hoặc $a \neq b$)—các thuật toán kinh điển như k-modes hay các phương pháp tiếp cận tập thô giai đoạn trước (như MMR, MGR) thường gặp bế tắc khi xử lý độ bất định tại biên cụm, dẫn đến độ thuần khiết thấp và độ phức tạp cao.
Luận án thiết lập hệ thống câu hỏi nghiên cứu và giả thuyết khoa học:
- Câu hỏi nghiên cứu 1 (RQ1): Làm thế nào để xây dựng một cơ chế lựa chọn thuộc tính heuristic có khả năng loại bỏ đồng thời cả thuộc tính không liên quan và thuộc tính dư thừa với chi phí thời gian đa thức?
- Câu hỏi nghiên cứu 2 (RQ2): Làm thế nào để định nghĩa một metric khoảng cách tổng quát trong không gian thuộc tính phân loại nhằm dẫn hướng cấu trúc gom cụm phân cấp mà không cần giả định phân phối xác suất tiên nghiệm?
- Giả thuyết khoa học 1 (H1): Việc phân hoạch không gian thuộc tính liên quan thành các cụm tương đồng thông qua metric Biến thể Thông tin Chuẩn hóa ($NVI$) và chỉ chọn một đại diện tối ưu cho mỗi cụm sẽ tạo ra tập rút gọn xấp xỉ có kích thước cực tiểu nhưng bảo toàn hoặc gia tăng độ chính xác phân lớp của các mô hình C5.0 và Naive Bayes.
- Giả thuyết khoa học 2 (H2): Kỹ thuật gom cụm phân cấp phân đôi dựa trên việc tối thiểu hóa Biến thể Thông tin Chuẩn hóa Trung bình ($MMNVI$) kết hợp hàm tối thiểu hóa entropy sẽ tối ưu hóa độ thuần khiết tổng thể ($OP$), chỉ số ngẫu nhiên hiệu chỉnh ($ARI$) và thông tin tương hỗ chuẩn hóa ($NMI$) trên dữ liệu phân loại.
Khung lý thuyết nền tảng tích hợp ba trụ cột: Lý thuyết Tập thô Pawlak (1982), Lý thuyết Tính toán Hạt (Granular Computing), và Lý thuyết Thông tin Shannon (1948). Phạm vi thực nghiệm của luận án bao quát 8 bộ dữ liệu chuẩn quốc tế từ kho dữ liệu UCI Machine Learning Repository (Soybean Small, Breast Cancer Wisconsin, Car Evaluation, Congressional Voting, Chess, Mushroom, Balance Scale, Zoo), chứng minh tính vượt trội về cả chất lượng mô hình lẫn thời gian xử lý.
Literature Review và Positioning
Khảo sát tổng quan y văn cho thấy các luồng nghiên cứu chính trong xử lý dữ liệu bất định và giảm số chiều:
Luồng nghiên cứu thứ nhất tập trung vào việc tìm tập rút gọn dựa trên lý thuyết tập thô kinh điển khởi xướng bởi Zdzisław Pawlak (1982). Skowron (1992) phát triển phương pháp ma trận phân biệt (Discernibility Matrix) nhằm trích xuất toàn bộ các tập rút gọn thông qua việc biến đổi hàm phân biệt từ dạng hội chuẩn tắc (CNF) sang dạng tuyển chuẩn tắc (DNF). Mặc dù đảm bảo tính toàn vẹn toán học, hướng tiếp cận này có độ phức tạp thời gian $O(|U|^2)$ cho mỗi phép so khớp và bài toán tìm tập rút gọn tối tiểu là NP-khó. Để giải quyết rào cản tính toán, các thuật toán heuristic như QuickReduct (Chouchoulas & Shen, 2001) dựa trên độ phụ thuộc miền dương $\gamma_B(d) = \frac{|POS_B(d)|}{|U|}$, hay RelativeReduct của Han và cộng sự (2004) dựa trên đại số quan hệ và phép chiếu $\pi_B(U)$ với độ phức tạp $O(|C|^2 |U| \log |U|)$ đã ra đời. Tuy nhiên, tranh biện khoa học nảy sinh: các phương pháp dựa trên miền dương đơn thuần chỉ đánh giá mức độ đóng góp cá thể của từng thuộc tính mà bỏ qua sự tương quan chéo, khiến các thuộc tính đồng biến dư thừa vẫn bị giữ lại trong tập rút gọn cuối cùng.
Luồng nghiên cứu thứ hai khai thác entropy thông tin của Shannon kết hợp tập thô. Wang và cộng sự (2007) đề xuất thuật toán CEBARKNC dựa trên entropy có điều kiện $H(d|B)$, chứng minh rằng thuộc tính dư thừa theo entropy sẽ dư thừa theo miền dương trên bảng quyết định nhất quán. Dẫu vậy, CEBARKNC vẫn theo chiến lược tìm kiếm tham lam tuần tự (Greedy Forward Selection), có độ phức tạp $O(|C|^2|U| + |C||U|^3)$, dễ rơi vào các điểm tối ưu cục bộ và tốn kém tài nguyên khi số lượng thuộc tính tăng cao.
Luồng nghiên cứu thứ ba tập trung vào gom cụm dữ liệu phân loại sử dụng tập thô. Do dữ liệu phân loại không hỗ trợ các khoảng cách metric tự nhiên như khoảng cách Euclid hay Mahalanobis, Parmar và cộng sự (2007) đề xuất thuật toán MMR (Min-Min-Roughness), kế tiếp là Herawan và cộng sự (2010) với thuật toán MGR (Mean Gain Ratio) và các nghiên cứu của Hoàng Thị Lan Giao (2012), Nguyễn Đức Thuận (2014), Nguyễn Long Giang (2015). Điểm hạn chế chí tử của MMR và MGR là việc sử dụng độ thô (Roughness) hoặc tỷ lệ lợi thông tin trung bình đơn thuần dễ dẫn đến tình trạng chọn nhầm thuộc tính phân cụm tại các bước phân chia sâu, làm phân mảnh cụm dữ liệu và suy giảm nghiêm trọng chỉ số hiệu chỉnh ngẫu nhiên ($ARI$).
Định vị nghiên cứu của luận án: Luận án tạo bước đột phá khi vượt qua cách tiếp cận đơn lẻ bằng việc thiết lập khung phân tích lai ghép: biến bài toán rút gọn thuộc tính thành bài toán gom cụm thuộc tính (Attribute Clustering), và biến bài toán gom cụm dữ liệu thành quá trình phân cấp phân đôi dựa trên metric thông tin chuẩn hóa tổng quát $NVI$. Luận án đặt mình ở vị trí đối sánh trực tiếp và vượt trội hơn so với các công trình quốc tế tiêu biểu: vượt qua QuickReduct, RelativeReduct, CEBARKNC về khả năng tối giản kích thước tập rút gọn và độ chính xác phân lớp; vượt qua MMR và MGR về độ thuần khiết tổng thể ($OP$), chỉ số $ARI$ và $NMI$ trên dữ liệu phân loại.
Đóng góp lý thuyết và khung phân tích
Đóng góp cho lý thuyết
Luận án đóng góp sâu sắc vào hệ thống lý thuyết Khoa học máy tính thông qua việc mở rộng ranh giới của Lý thuyết Tập thô Pawlak và Lý thuyết Thông tin Shannon:
Thứ nhất, luận án hình thức hóa cấu trúc không gian khoảng cách giữa các thuộc tính bằng việc chứng minh toán học nghiêm ngặt: Biến thể Thông tin Chuẩn hóa (Normalized Variation of Information - $NVI$) là một metric phổ quát thực sự thỏa mãn đầy đủ các tiên đề metric (tính không âm, tính đối xứng, và bất đẳng thức tam giác). Xuất phát từ hệ thông tin $IS = (U, A)$, với hai thuộc tính $a, b \in A$, đại lượng $NVI(a, b)$ được định nghĩa: $$NVI(a, b) = \frac{H(a|b) + H(b|a)}{H(a, b)} = 1 - \frac{I(a; b)}{H(a, b)}$$ Trong đó $H(a, b)$ là entropy đồng thời, $H(a|b)$ là entropy có điều kiện, và $I(a; b)$ là thông tin tương hỗ. Luận án đã hoàn thành chứng minh bất đẳng thức tam giác: $$NVI(a, b) \le NVI(a, c) + NVI(c, b), \quad \forall a, b, c \in A$$ Chứng minh này đặt nền móng lý thuyết vững chắc cho việc đo lường độ phân kỳ thông tin giữa các biến định loại mà không phụ thuộc vào không gian metric tọa độ.
Thứ hai, luận án xác lập mô hình lý thuyết gom cụm thuộc tính nhằm giải trừ triệt để sự dư thừa dữ liệu (Redundancy Elimination Principle). Luận án đề xuất định lý về tập rút gọn xấp xỉ độc lập: Khi không gian thuộc tính điều kiện $C$ được phân hoạch thành $k$ cụm ${S_1, S_2, \dots, S_k}$ dựa trên metric $NVI$, tập hợp các thuộc tính đại diện $R = {a_1^, a_2^, \dots, a_k^}$ (trong đó mỗi $a_i^ \in S_i$ có độ tương quan thông tin lớn nhất với thuộc tính quyết định $d$) sẽ tạo thành một tập rút gọn xấp xỉ không chứa các thuộc tính dư thừa đồng dạng.
Khung phân tích độc đáo
Luận án tích hợp ba khung lý thuyết then chốt thành hai thuật toán mang tính bước ngoặt:
-
Thuật toán ACBRC (Attribute Clustering Based Reduct Computing):
- Giai đoạn 1 (Lọc thuộc tính không liên quan): Loại bỏ các thuộc tính có thông tin tương hỗ $I(a_i; d) \approx 0$ đối với thuộc tính quyết định $d$.
- Giai đoạn 2 (Gom cụm thuộc tính tương đồng): Ứng dụng kỹ thuật phân hoạch xung quanh phần tử trung tâm (Partitioning Around Medoids - PAM / k-medoids) trên tập thuộc tính liên quan với ma trận khoảng cách $NVI$.
- Giai đoạn 3 (Trích xuất đại diện): Chọn duy nhất một thuộc tính trong mỗi cụm có độ phụ thuộc thông tin cao nhất với $d$. Do các thuộc tính trong cùng một cụm có giá trị $NVI$ tiệm cận 0 (tương đồng cao), việc giữ lại một đại diện duy nhất loại bỏ hoàn toàn các thuộc tính dư thừa mà vẫn bảo toàn năng lực biểu diễn không gian mẫu.
-
Thuật toán MMNVI (Minimum Mean Normalized Variation of Information):
- Khung gom cụm phân cấp phân đôi (Divisive Hierarchical Clustering) cho dữ liệu phân loại.
- Tại mỗi bước lặp, thuật toán loại bỏ thuộc tính đơn trị, tính toán Biến thể Thông tin Chuẩn hóa Trung bình ($MNVI$) của từng thuộc tính $a_j$ đối với toàn bộ các thuộc tính còn lại $a_m$: $$MNVI(a_j) = \frac{1}{|A|-1} \sum_{m \neq j} NVI(a_j, a_m)$$
- Chọn thuộc tính phân cụm $a^$ có $MNVI(a^)$ nhỏ nhất (tức thuộc tính chia sẻ thông tin nhiều nhất, đại diện tốt nhất cho cấu trúc tập dữ liệu).
- Tách tập dữ liệu dựa trên các lớp tương đương $U/IND({a^*})$: lấy lớp tương đương có tổng entropy của các thuộc tính nhỏ nhất làm một cụm hoàn chỉnh, hợp của các lớp tương đương còn lại tiếp tục đưa vào vòng lặp phân đôi tiếp theo cho đến khi đạt số cụm chỉ định.
Phương pháp nghiên cứu tiên tiến
Thiết kế nghiên cứu
Nghiên cứu được thiết kế theo trường phái Thực chứng luận tính toán (Computational Positivism) kết hợp Phương pháp Thực nghiệm Thuật toán Nghiêm ngặt (Rigorous Algorithmic Empirical Design). Thiết kế nghiên cứu đa tầng bao gồm: (1) Chứng minh toán học thuần túy các bổ đề và định lý về metric $NVI$; (2) Thiết kế cấu trúc thuật toán giải quyết bài toán NP-khó; (3) Thử nghiệm đối chuẩn diện rộng (Benchmarking) trên các tập dữ liệu thực nghiệm tiêu chuẩn quốc tế từ kho UCI.
Quy trình nghiên cứu rigorous
Quy trình nghiên cứu tuân thủ các chuẩn mực cao nhất của Khoa học máy tính thực nghiệm:
- Chiến lược chọn mẫu dữ liệu: Sử dụng 8 tập dữ liệu thực tế đa dạng về số lượng mẫu ($|U|$ từ hàng chục đến hàng nghìn), số lượng thuộc tính ($|C|$ từ 4 đến 36) và số lớp phân loại: Soybean Small (47 mẫu, 35 thuộc tính, 4 lớp), Breast Cancer Wisconsin (699 mẫu, 9 thuộc tính, 2 lớp), Car Evaluation (1728 mẫu, 6 thuộc tính, 4 lớp), Congressional Voting (435 mẫu, 16 thuộc tính, 2 lớp), Chess (3196 mẫu, 36 thuộc tính, 2 lớp), Mushroom (8124 mẫu, 22 thuộc tính, 2 lớp), Balance Scale (625 mẫu, 4 thuộc tính, 3 lớp), và Zoo (101 mẫu, 16 thuộc tính, 7 lớp).
- Quy trình tiền xử lý: Toàn bộ dữ liệu được chuẩn hóa, xử lý giá trị khuyết thiếu (Missing Values), và rời rạc hóa các thuộc tính liên tục nhằm bảo toàn hệ thống thông tin nhất quán và không nhất quán theo nguyên lý xấp xỉ tập thô.
- Tam giác hóa kiểm định (Methodological Triangulation): Hiệu năng của tập rút gọn từ thuật toán ACBRC được kiểm chứng chéo độc lập thông qua hai bộ phân lớp máy học phổ quát: Cây quyết định C5.0 và Bộ phân lớp Naive Bayes với quy trình kiểm định chéo K-fold (K-fold Cross-Validation).
+-----------------------------------------------------------------------------------+
| KHUNG PHÂN TÍCH VÀ QUY TRÌNH THỰC NGHIỆM |
+-----------------------------------------------------------------------------------+
|
+---------------------------------+---------------------------------+
| |
v v
+-------------------------------+ +-------------------------------+
| THUẬT TOÁN RÚT GỌN ACBRC | | THUẬT TOÁN GOM CỤM MMNVI |
+-------------------------------+ +-------------------------------+
| 1. Lọc thuộc tính không | | 1. Loại bỏ thuộc tính đơn trị |
| liên quan: I(a; d) -> 0 | | 2. Tính MNVI, chọn a* có |
| 2. Gom cụm thuộc tính bằng | | MNVI nhỏ nhất |
| PAM k-medoids với NVI | | 3. Tách lớp tương đương có |
| 3. Trích xuất đại diện cụm | | tổng entropy cực tiểu |
+-------------------------------+ +-------------------------------+
| |
v v
+-------------------------------+ +-------------------------------+
| ĐÁNH GIÁ PHÂN LỚP (C5.0/Bayes)| | ĐÁNH GIÁ GOM CỤM (OP,ARI,NMI) |
| So sánh: QuickReduct, | | So sánh: MMR, MGR |
| RelativeReduct, CEBARKNC | | 8 bộ dữ liệu chuẩn UCI |
+-------------------------------+ +-------------------------------+
Data và phân tích
Luận án phân tích độ phức tạp tính toán chi tiết:
- Độ phức tạp không gian của các thuật toán đề xuất đạt mức tuyến tính $O(|U|)$.
- Độ phức tạp thời gian của ACBRC đạt $O(k \cdot |C|^2 \cdot |U|)$, trong đó $k \ll |C|$, giảm thiểu đáng kể so với mức chi phí lũy thừa của ma trận phân biệt hay thuật toán duyệt toàn bộ.
- Hiệu năng gom cụm của MMNVI được định lượng thông qua ba chỉ số thống kê cao cấp:
- Độ thuần khiết tổng thể (Overall Purity - OP): $$OP = \sum_{i=1}^k \frac{|C_i|}{N} Purity(C_i)$$
- Chỉ số ngẫu nhiên hiệu chỉnh (Adjusted Rand Index - ARI): Đo lường mức độ tương đồng giữa phân hoạch tìm được và phân bố lớp thực tế, khử trừ yếu tố ngẫu nhiên (chỉ số tiệm cận 1 thể hiện sự phân cụm hoàn hảo).
- Thông tin tương hỗ chuẩn hóa (Normalized Mutual Information - NMI): Đánh giá mức độ chia sẻ thông tin giữa cấu trúc cụm và nhãn lớp thực tế.
Phát hiện đột phá và implications
Những phát hiện then chốt
Quá trình thực nghiệm đã mang lại những phát hiện đột phá với số liệu minh chứng thuyết phục:
Thứ nhất, đối với bài toán lựa chọn thuộc tính, thuật toán ACBRC chứng minh khả năng nén số chiều vượt bậc mà không làm suy giảm độ chính xác phân lớp:
- Trên bộ dữ liệu phức tạp như Chess (36 thuộc tính ban đầu), ACBRC rút gọn xuống chỉ còn một tập con tối thiểu các thuộc tính đại diện, giúp thuật toán phân lớp C5.0 và Bayes duy trì độ chính xác phân loại tương đương hoặc cao hơn so với khi sử dụng toàn bộ 36 thuộc tính gốc ($100%$ độ chính xác trên một số tập con thử nghiệm).
- So sánh thời gian thực thi: ACBRC giảm thời gian tính toán từ hàng chục giây xuống còn vài mili-giây so với phương pháp ma trận phân biệt của Skowron và nhanh hơn rõ rệt so với CEBARKNC trên các tập dữ liệu có số chiều lớn.
Thứ hai, đối với bài toán gom cụm dữ liệu phân loại, thuật toán MMNVI xác lập chuẩn mực hiệu năng mới khi đối sánh với hai thuật toán quốc tế tiêu biểu MMR và MGR trên 8 bộ dữ liệu UCI:
- Trên bộ dữ liệu Soybean Small, MMNVI đạt độ thuần khiết tổng thể $OP = 1.0$ ($100%$), chỉ số $ARI = 1.0$ và $NMI = 1.0$, tái tạo chính xác tuyệt đối cấu trúc 4 lớp tự nhiên của tập dữ liệu, trong khi MMR và MGR xuất hiện các sai lệch phân cụm.
- Trên các bộ dữ liệu có cấu trúc phân bố phức tạp như Breast Cancer Wisconsin, Mushroom ($8124$ mẫu), Car Evaluation, MMNVI vượt trội hoàn toàn về các chỉ số $OP$, $ARI$ và $NMI$ so với MMR và MGR.
- Luận án phát hiện hiện tượng phản trực giác (Counter-intuitive Finding): Trong dữ liệu phân loại, việc lựa chọn thuộc tính phân cụm dựa trên độ thô cục bộ (Local Roughness) như MMR thường dẫn đến "bẫy cực tiểu cục bộ", trong khi việc sử dụng đại lượng biến thể thông tin trung bình toàn cục ($MNVI$) kết hợp trích xuất lớp có entropy tối thiểu luôn đảm bảo tách biệt được các cụm có mật độ cao nhất trước, ngăn chặn hiện tượng phân mảnh cụm.
+---------------------------------------------------------------------------------------+
| BẢNG SO SÁNH HIỆU NĂNG GOM CỤM TRÊN CÁC TẬP DỮ LIỆU UCI |
+------------------------------------+------------------+---------------+---------------+
| Tập dữ liệu (Số mẫu / Thuộc tính) | Chỉ số đánh giá | Thuật toán | Thuật toán | Thuật toán |
| | | MMR | MGR | MMNVI (Đề xuất|
+------------------------------------+------------------+---------------+---------------+
| Soybean Small (47 / 35) | OP / ARI / NMI | 0.89/0.78/0.82| 0.93/0.85/0.88| 1.00/1.00/1.00|
| Breast Cancer (699 / 9) | OP / ARI | 0.84 / 0.52 | 0.88 / 0.61 | 0.94 / 0.76 |
| Mushroom (8124 / 22) | OP / NMI | 0.79 / 0.54 | 0.82 / 0.59 | 0.89 / 0.71 |
| Car Evaluation (1728 / 6) | OP / ARI | 0.70 / 0.28 | 0.71 / 0.31 | 0.78 / 0.42 |
+------------------------------------+------------------+---------------+---------------+
Implications đa chiều
- Hàm ý lý thuyết: Thiết lập cầu nối toán học hoàn chỉnh giữa Lý thuyết Tập thô và Lý thuyết Thông tin, chứng minh rằng không gian xấp xỉ tập thô và không gian phân kỳ entropy có thể bổ trợ lẫn nhau để giải quyết bài toán độ bất định mà không cần giả định xác suất tiền nghiệm.
- Hàm ý phương pháp luận: Mở ra mô thức mới về "Gom cụm để lựa chọn thuộc tính" (Clustering-for-Feature-Selection) và "Phân cấp thông tin cực tiểu để gom cụm" (Min-Information Divisive Clustering), có thể áp dụng rộng rãi cho nhiều dạng dữ liệu phi số.
- Hàm ý thực tiễn: Tạo ra các công cụ tính toán gọn nhẹ, tối ưu cho việc xây dựng các hệ thống nhúng, hệ thống chẩn đoán y tế tự động (dựa trên tập dữ liệu ung thư vú Wisconsin) và phân tích dữ liệu khảo sát kinh tế - xã hội.
Limitations và Future Research
Luận án thẳng thắn thừa nhận các giới hạn nghiên cứu:
- Phạm vi kiểu dữ liệu: Thuật toán MMNVI được thiết kế chuyên biệt cho dữ liệu phân loại thuần túy. Đối với các hệ thống thông tin hỗn hợp (Mixed Data) chứa đồng thời thuộc tính liên tục và phân loại, dữ liệu liên tục bắt buộc phải trải qua bước tiền xử lý rời rạc hóa (Discretization), điều này có thể dẫn đến việc mất mát một phần thông tin biên.
- Xác định số cụm $k$ tiên nghiệm: Thuật toán gom cụm phân cấp MMNVI vẫn yêu cầu người dùng chỉ định trước số lượng cụm mục tiêu $k$, chưa tích hợp cơ chế tự động tìm số cụm tối ưu dựa trên hệ số Silhouette hay khoảng cách Gap Statistic.
- Mở rộng quy mô dữ liệu cực lớn (Ultra-high dimensionality): Mặc dù ACBRC có chi phí tính toán đa thức, nhưng khi số lượng thuộc tính vượt ngưỡng hàng chục nghìn (như trong dữ liệu biểu hiện gen Microarray hay phân tích văn bản mức độ sâu), bước tính toán ma trận $NVI$ toàn phần vẫn đòi hỏi dung lượng bộ nhớ đáng kể.
Chương trình nghiên cứu tương lai (Future Research Agenda):
- Phát triển phiên bản mở rộng của ACBRC và MMNVI ứng dụng Lý thuyết Tập thô mờ (Fuzzy Rough Sets) và Lý thuyết Tập thô trực cảm (Intuitionistic Fuzzy Rough Sets) nhằm xử lý trực tiếp dữ liệu số thực liên tục mà không cần rời rạc hóa.
- Tích hợp các thuật toán tối ưu hóa bầy đàn (PSO, Genetic Algorithm) vào MMNVI để tự động hóa việc xác định số cụm tối ưu $k$.
- Song song hóa thuật toán trên nền tảng tính toán phân tán (Apache Spark / CUDA GPU) để xử lý dữ liệu lớn ở quy mô Terabyte.
Tác động và ảnh hưởng
- Tác động học thuật: Các đóng góp cốt lõi của luận án đã được công bố trên các tạp chí khoa học uy tín, tiêu biểu là 02 công trình chuyên sâu trên Tạp chí Tin học và Điều khiển học (Journal of Computer Science and Cybernetics) vào các năm 2022 và 2023, cùng 01 bài báo quốc tế và 03 báo cáo tại các hội thảo khoa học chuyên ngành trong nước.
- Chuyển đổi công nghiệp & R&D: Cung cấp thuật toán cốt lõi để xây dựng các giải pháp lọc đặc trưng trong hệ sinh thái an toàn thông tin (Phát hiện xâm nhập mạng - Intrusion Detection), phân khúc thị trường (Customer Segmentation) và y sinh học (Phân tích chỉ dấu sinh học phân tử).
- Giá trị kinh tế - xã hội: Giảm tải tài nguyên phần cứng máy chủ trong các trung tâm dữ liệu khi huấn luyện mô hình học máy, tiết kiệm năng lượng tính toán thông qua việc tinh giản không gian thuộc tính đầu vào từ $30%$ đến $70%$.
Đối tượng hưởng lợi
- Nghiên cứu sinh và Giới học thuật: Tiếp cận một khung phân tích toán học mẫu mực về việc dung hợp Lý thuyết Tập thô và Lý thuyết Thông tin, mở ra các đề tài nghiên cứu tiếp nối về tính toán hạt và học máy không giám sát.
- Kỹ sư Khoa học Dữ liệu & AI (Data Scientists): Sở hữu hai công cụ thuật toán mạnh mẽ (ACBRC và MMNVI) có thể lập trình hóa trực tiếp vào các thư viện Scikit-learn hay R packages để xử lý triệt để dữ liệu phân loại số chiều lớn.
- Các tổ chức y tế và tài chính: Ứng dụng các quy tắc suy diễn rút gọn để xây dựng hệ thống hỗ trợ ra quyết định lâm sàng và chấm điểm tín dụng với tính giải thích được (Explainable AI - XAI) ở mức độ cao.
Câu hỏi chuyên sâu
-
Đóng góp lý thuyết độc đáo nhất của luận án là gì? Trả lời: Đó là việc chứng minh toán học đại lượng Biến thể Thông tin Chuẩn hóa ($NVI$) là một metric hợp lệ và ứng dụng nó như một hàm khoảng cách phổ quát để phân hoạch không gian thuộc tính. Luận án đã mở rộng lý thuyết tập thô của Pawlak bằng cách giải quyết triệt để vấn đề "thuộc tính dư thừa" mà lý thuyết miền dương kinh điển không thể xử lý.
-
Cải tiến phương pháp luận của MMNVI vượt trội hơn các nghiên cứu trước như thế nào? Trả lời: So với thuật toán MMR (Parmar et al., 2007) và MGR (Herawan et al., 2010), MMNVI không dùng các thước đo độ thô cục bộ vốn dễ gây lệch hướng phân cụm, mà sử dụng chỉ số thông tin chuẩn hóa trung bình toàn cục $MNVI$ kết hợp nguyên lý cực tiểu hóa entropy lớp tương đương. Điều này giúp MMNVI vượt trội hoàn toàn về chỉ số $ARI$ và $NMI$ trên toàn bộ 8 tập dữ liệu UCI chuẩn.
-
Phát hiện thực nghiệm gây bất ngờ nhất là gì? Trả lời: Thuật toán ACBRC chứng minh rằng việc loại bỏ tới hơn $60%$ số lượng thuộc tính trong các bộ dữ liệu phức tạp không những không làm suy giảm hiệu năng mà còn làm gia tăng độ chính xác phân loại của mô hình C5.0 và Bayes, khẳng định giả thuyết rằng các thuộc tính dư thừa tạo ra "nhiễu tương quan" gây hại cho thuật toán học máy.
-
Luận án có cung cấp quy trình tái tạo thực nghiệm (Replication Protocol) không? Trả lời: Toàn bộ giả mã (Pseudocode) của ACBRC và MMNVI, các bước tính toán trung gian, ma trận phân biệt mẫu và 8 bộ dữ liệu đối chuẩn UCI đều được mô tả chi tiết, rõ ràng trong các chương của luận án, đảm bảo khả năng tái lập thực nghiệm độc lập $100%$.
-
Chương trình nghiên cứu 10 năm tới mở ra từ luận án là gì? Trả lời: Mở rộng mô hình lý thuyết sang tính toán hạt đa quy mô (Multi-scale Granular Computing), tích hợp tập thô mờ vào kiến trúc Deep Learning cho dữ liệu phi cấu trúc, và tối ưu hóa xử lý phân tán cho Big Data.
Kết luận
- Luận án đã giải quyết trọn vẹn hai bài toán nền tảng của Khai phá dữ liệu: lựa chọn thuộc tính và gom cụm dữ liệu phân loại trong môi trường thông tin bất định.
- Đề xuất thành công thuật toán ACBRC, tiên phong kết hợp gom cụm thuộc tính bằng PAM với metric $NVI$, loại bỏ đồng thời thuộc tính không liên quan và thuộc tính dư thừa.
- Đề xuất thành công thuật toán MMNVI, tạo đột phá trong gom cụm phân cấp phân đôi dữ liệu phân loại dựa trên biến thể thông tin chuẩn hóa trung bình và entropy.
- Chứng minh toán học chặt chẽ tính chất metric của đại lượng $NVI$, bổ sung cơ sở lý thuyết vững chắc cho Lý thuyết Thông tin và Lý thuyết Tập thô.
- Thực nghiệm quy mô lớn trên 8 bộ dữ liệu chuẩn UCI chứng minh tính vượt trội tuyệt đối của ACBRC và MMNVI về độ chính xác phân lớp, độ thuần khiết tổng thể ($OP$), chỉ số $ARI$, $NMI$ và thời gian tính toán.
- Mở ra các hướng nghiên cứu chuyển tiếp giàu tiềm năng trong tính toán hạt, trí tuệ nhân tạo giải thích được (XAI) và khai phá dữ liệu lớn đa chiều.
Trích đoạn nội dung luận án
Tải xuống để đọc toàn bộBâ GIÁO DĀC VÀ ĐÀO T¾O TR¯ÞNG Đ¾I HàC L¾C HàNG Đà S) TR¯æNG PH¯¡NG PHÁP LĄA CHàN THUàC TÍNH VÀ KỸ THU¾T GOM CĀM DĂ LIàU PHÂN LO¾I SĀ DĀNG T¾P THÔ LUÂN ÁN TIÀN S) KHOA HàC MÁY TÍNH Đồng Nai – năm 2023 Bâ GIÁO DĀC VÀ ĐÀO T¾O TR¯ÞNG Đ¾I HàC L¾C HàNG Đà S) TR¯æNG PH¯¡NG PHÁP LĄA CHàN THUàC TÍNH VÀ KỸ THU¾T GOM CĀM DĂ LIàU PHÂN LO¾I SĀ DĀNG T¾P THÔ LUÂN ÁN TIÀN S) KHOA HàC MÁY TÍNH Chuyên ngành: Khoa hác máy tính Mã số ngành: 9480101 NG¯æI H¯äNG DÀN KHOA HàC PGS.TS NGUYàN THANH TÙNG Đồng Nai, năm 2023 LÞI CÀM ¡N Xin trân tráng cảm ¢n PGS. Nguyán Thanh Tùng đã tÃn tình h°ång dÁn nghiên cāu sinh hoàn thành luÃn án tiÁn s*. Xin trân tráng cảm ¢n quý thÁy/cô khoa sau đ¿i hác, tr°çng đ¿i hác L¿c Hồng đã t¿o điện kiện thuÃn lÿi và há trÿ nghiên cāu sinh hoàn thành luÃn án. Xin trân tráng cảm ¢n tr°çng đ¿i hác L¿c Hồng đã t¿o điều kiện thuÃn lÿi trong công tác và há trÿ nghiên cāu sinh tham gia hác tÃp.
Xin chân thành cám ¢n quý b¿n bè, đồng nghiệp đã t¿o điều kiện mái mặt giúp nghiên cāu sinh hoàn thành luÃn án. Đồng Nai, ngày tháng năm 2023 Nghiên cāu sinh Đß Sĩ Tr°ßng LÞI CAM ĐOAN Tôi xin cam đoan luÃn án này là công trình nghiên cāu cÿa riêng tôi d°åi sự h°ång dÁn cÿa PGS. Nguyán Thanh Tùng. Các số liệu và tài liệu trong nghiên cāu là trung thực và ch°a đ°ÿc công bố trong b¿t kỳ công trình nghiên cāu nào.
T¿t cả các tham khảo và kÁ thừa đều đ°ÿc trích dÁn và tham chiÁu đÁy đÿ. Đồng Nai, ngày tháng năm 2023 Nghiên cāu sinh Đß Sĩ Tr°ßng MĀC LĀC CH¯¡NG 1. KHÁI QUÁT VÀ LÝ THUY¾T T¾P THÔ VÀ ĀNG DĀNG TRONG KHAI PHÁ DĂ LIàU .2 Các khái niệm c¢ bản cÿa lý thuyÁt tÃp thô .1 Hệ thông tin .2 Quan hệ không phân biệt đ°ÿc và các x¿p xỉ cÿa mãt tÃp hÿp .3 Bảng quyÁt đßnh .4 Các khái niệm lý thuyÁt thông tin liên quan .3 Mãt số thuÃt toán hiệu quả cÿa lý thuyÁt tÃp thô .4 Āng dāng cÿa lý thuyÁt tÃp thô trong khám phá tri thāc từ c¢ sơꄉ dữ liệu .5 KÁt luÃn ch°¢ng 2. LĄA CHàN THUàC TÍNH SĀ DĀNG LÝ THUY¾T T¾P THÔ .2 Khái quát về bài toán lựa chán thuãc tính .3 Các ph°¢ng pháp lựa chán thuãc tính sử dāng lý thuyÁt tÃp thô .1 Ph°¢ng pháp lựa chán thuãc tính sử dāng ma trÃn phân biệt .2 Ph°¢ng pháp rút gán thuãc tính dựa vào đã phā thuãc .3 Ph°¢ng pháp rút gán thuãc tính sử dāng sử dāng đã phā thuãc t°¢ng đối.4 Ph°¢ng pháp rút gán thuãc tính sử dāng Entropy thông tin .5 Ph°¢ng pháp lựa chán thuãc tính dựa trên gom cām .4 Đề xu¿t thuÃt toán rút gán thuãc tính dựa vào gom cām ACBRC .1 Ý t°ơꄉng và những đßnh ngh*a c¢ bản .2 Giåi thiệu thuÃt toán k-medoids .3 ThuÃt toán rút gán thuãc tính dựa vào gom cām ACBRC .4 KÁt quả thực nghiệm thuÃt toán ACBRC .5 KÁt luÃn ch°¢ng 3.
GOM CĀM DĂ LIàU SĀ DĀNG LÝ THUY¾T T¾P THÔ .2 Khái quát bài toán gom cām dữ liệu .1 Các b°åc giải bài toán gom cām dữ liệu .2 Các lo¿i ph°¢ng pháp gom cām dữ liệu.3 Các tiêu chí đánh giá mãt thuÃt toán gom cām hiệu.3 Gom cām dữ liệu phân lo¿i sử dāng Lý thuyÁt tÃp thô .1 ThuÃt toán lựa chán thuãc tính gom cām TR .2 ThuÃt toán lựa chán thuãc tính gom cām MDA .3 ThuÃt toán MMR (Min-Min-Roughness) .4 ThuÃt toán MGR (Mean Gain Ratio) .4 Đề xu¿t thuÃt toán MMNVI gom cām dữ liệu phân lo¿i .1 Ý t°ơꄉng và những đßnh ngh*a c¢ bản .2 ThuÃt toán MMNVI .3 Đã phāc t¿p cÿa thuÃt toán MMNVI .4 NhÃn xét thuÃt toán MMNVI.5 KÁt quả thực nghiệm thuÃt toán MMNVI.1 Bã dữ liệu đánh giá .2 Ph°¢ng pháp đánh giá hiệu su¿t .4 So sánh MMNVI våi thuÃt toán MMR và MGR .5 KÁt luÃn ch°¢ng 4. K¾T LU¾N VÀ H¯âNG PHÁT TRIÂN .1 Những kÁt quả và đóng góp chính cÿa luÃn án .2 H°ång phát trißn cÿa luÃn án. 88 BÀNG THU¾T NGĂ ANH - VIàT Ti¿ng Anh Vi¿t tắt Ti¿ng viát Adjusted Rand Index ARI Chỉ số ngÁu nhiên hiệu chỉnh Attribute clustering Gom cām thuãc tính Attribute reduction Rút gán thuãc tính Attribute Clustering Based Tính toán tÃp rút gán dựa trên ACBRC Reduct Computing gom cām thuãc tính Categorical Data Dữ liệu phân lo¿i/ph¿m trù Clustering data Gom cām dữ liệu Data mining KPDL Khai phá dữ liệu Database CDSL C¢ sơꄉ dữ liệu Decision table DT Bảng quyÁt đßnh Feature selection Lựa chán thuãc tính/đặc tr°ng Information system IS Hệ thông tin Knowledge Discovery in Khám phá tri thāc từ C¢ sơꄉ dữ KDD Databases liệu Normalized Mutual NMI Thông tin t°¢ng há chu¿n hóa Information Machine learning ML Hác máy Minimum Mean Normalized MMNVI Variation of Information Mean Gain Ratio MGR Min-Min-Roughness MMR Normalized Variation of NVI BiÁn thß thông tin chu¿n hóa Information Overall Purity OP Đã thuÁn khiÁt tßng thß Rough Sets Theory LTTT Lý thuyÁt tÃp thô B䄃ऀNG C䄃ĀC K夃Ā HI쨃⌀U Ký hiáu, tÿ vi¿t tắt Dißn giÁi āþ = (Ā, ý) Hệ thông tin |Ā| Số đối t°ÿng |ą | Thuãc tính điều kiện trong bảng quyÁt đßnh |ý| Số thuãc tính trong hệ thông tin Ă (Ă ) Giá trß cÿa đối t°ÿng u t¿i thuãc tính a āāĀ (þ) Quan hệ B − không phân biệt [Ă ]þ Låp t°¢ng đ°¢ng chāa u cÿa quan hệ IND ( B ) Ā/þ Phân ho¿ch cÿa U sinh bơꄉi tÃp thuãc tính B. þÿ B − x¿p xỉ d°åi cÿa X þÿ B − x¿p xỉ trên cÿa X �㗼þ (ÿ) Đã chính xác cÿa x¿p xỉ ÿ thông qua þ ýþ (ÿ ) Đã thô (roughness) cÿa X đối våi B ăĂþþ (Ā) B − miền d°¢ng cÿa D ÿąÿĆ(ÿ) TÃp loi ÿþ (ą ) Đã phā thuãc cÿa ą vào þ Ā (Ă ) Shannon Entropy cÿa tÃp thuãc tính Ă Ā (Ă, ă) Entropy đồng thçi cÿa Ă và ă Ā (Ă|ă) Entropy có điều kiện cÿa Ă khi đã biÁt ă ā (Ă; ă) Thông tin t°¢ng há giữa hai thuãc tính Ă và ă āāā (Ă, ă) BiÁn thß thông tin chu¿n hóa giữa Ă và ă ýąĂĈ/ÿĀ (Ăÿ ) Đã thô trung bình cÿa thuãc tính Ăÿ đối våi thuãc tính ĂĀ ýÿĀ (ÿā ) Đã thô låp t°¢ng đ°¢ng ÿā đối våi ĂĀ ÿý(Ăÿ ) Tßng đã thô ÿý cÿa Ăÿ våi mái thuãc tính ĂĀ * ý Āý(Ăÿ ) Đã thô cực tißu ÿýĀ (Ă) Tỷ lệ lÿi thông tin cÿa Ăÿ đối våi ĂĀ Āÿý (Ăÿ ) Tỷ lệ lÿi thông tin trung bình cÿa Ăÿ đối mái våi ĂĀ BiÁn thß thông tin chu¿n hóa trung bình giữa Ăÿ våi mái Āāāā (Ăÿ ) ĂĀ * ý āĄāÿąĆþ(ÿ ) Tntropy cÿa tÃp dữ liệu ÿ ⊆ Ā argmin Xác đßnh phÁn tử có giá trß nh漃ऀ nh¿t trên mãt miền giá trß DANH MĀC BÀNG BIÂU Bảng 3.1 Bảng quyÁt đßnh ví dā 3.2 Ma trÃn phân biệt cÿa Bảng quyÁt đßnh 3.3 Bảng quyÁt đßnh .4 Bảng mô tả các tÃp dữ liệu thực nghiệm .5 Những thuãc tính đ°ÿc chán bơꄉi ba giải thuÃt rút gán thuãc tính .6 Bảng so sánh thçi gian thực hiện cÿa các thuÃt toán (theo giây) .7 Đã chính xác phân låp khi ch°a rút gán thuãc tính .8 Đã chính xác phân låp våi các thuãc tính đ°ÿc chán bơꄉi ACBRC .9 Đã chính xác phân låp bằng C5.0 sau khi sử dāng các ph°¢ng pháp rút gán thuãc tính khác nhau .10 Đã chính xác phân låp Bayes sử dāng các thuÃt toán rút gán thuãc tính .1 Hệ thông tin về ch¿t l°ÿng đÁu vào cÿa sinh viên .2 Đã chắc chắn trung bình cÿa các thuãc tính .3 Tám bã dữ liệu chu¿n UCI .4 Bảng dự phòng .5 KÁt quả gom cām MMNVI trên tÃp dữ liệu Soybean Small.6 KÁt quả gom cām MMNVI trên tÃp dữ liệu Breast Cancer Wisconsin.7 KÁt quả gom cām MMNVI trên tÃp dữ liệu Car Evaluation.8 KÁt quả gom cām MMNVI trên tÃp dữ liệu Vote.9 KÁt quả gom cām MMNVI trên tÃp dữ liệu Chess.10 KÁt quả gom cām MMNVI trên tÃp dữ liệu Mushroom.11 KÁt quả gom cām MMNVI trên tÃp dữ liệu Balance Scale .12 KÁt quả gom cām MMNVI trên tÃp dữ liệu Zoo .13 Đã thuÁn khiÁt tßng thß cÿa 3 thuÃt toán trên 8 bã dữ liệu.14 Chỉ số ngÁu nhiên hiệu chỉnh (ARI) cÿa ba thuÃt toán trên 8 tÃp dữ liệu.15 Thông tin t°¢ng há chu¿n hóa (NMI) cÿa ba thuÃt toán trên 8 tÃp dữ liệu.
84 DANH MĀC HÌNH VẼ Hình 3.1 Hình minh háa thuÃt toán ACBRC .1 Hình minh háa so sánh đã thuÁn khiÁt tßng thß cÿa ba thuÃt toán trên tám tÃp dữ liệu thực nghiệm .2 Hình minh háa so sánh chỉ số ngÁu nhiên hiệu chỉnh trung bình cÿa ba thuÃt toán trên tám tÃp dữ liệu thực nghiệm .3 Hình minh háa so sánh thông tin t°¢ng há chu¿n hóa cÿa ba thuÃt toán đối våi các tÃp dữ liệu có sự phân bß låp cân bằng. 85 DANH MĀC THU¾T TOÁN ThuÃt toán 2.1 ThuÃt toán xác đßnh låp t°¢ng đ°¢ng .2 ThuÃt toán xác đßnh x¿p xỉ d°åi .3 ThuÃt toán xác đßnh x¿p xỉ trên .4 ThuÃt toán xác đßnh miền d°¢ng .1 ThuÃt toán QuickReduct .2 ThuÃt toán RelativeReduct .3 ThuÃt toán CEBARKNC .4 ThuÃt toán gom cām thuãc tính MNF .1 ThuÃt toán TR (Total Roughness) .2 ThuÃt toán MDA (Maximumdegree of Dependency of Attributes) .3 ThuÃt toán MMR (Min–Min–Mean-Roughness) .4 ThuÃt toán MGR (Mean Gain Ratio). Mà ĐÀU Ngày nay, cùng våi sự phát trißn cÿa khoa hác công nghệ, m¿ng máy tính và truyền thông đã có những b°åc phát trißn m¿nh m¿ và đ°ÿc āng dāng rãng rãi trong t¿t cả các l*nh vực đçi sống. Cùng våi đó, nhu cÁu và khả năng thu thÃp, l°u trữ dữ liệu cÿa con ng°çi không ngừng tăng lên theo c¿p số nhân.
Våi l°ÿng dữ liệu khßng lồ hiện nay, yêu cÁu đặt ra đối våi các công cā xử lý, phân tích thông tin ngày càng cao. Đặc biệt h¢n, con ng°çi luôn mong muốn thu nhÃn mãt cách tự đãng những tri thāc tiềm ¿n, mang tính dự đoán từ nguồn dữ liệu quý giá này. Trong những năm qua, khám phá tri thāc (khai phá dữ liệu), hác máy, trích xu¿t quy tắc từ dữ liệu v. đã thu hút nhiều sự chú ý cÿa các nhà khoa hác trong l*nh vực trí tuệ nhân t¿o.
Trên c¢ sơꄉ đó, nhiều ph°¢ng pháp khám phá tri thāc từ c¢ sơꄉ dữ liệu (CSDL) đã ra đçi. Khám phá tri thāc từ CSDL (Knowledge Discovery in Databases – KDD) là mãt l*nh vực khoa hác nhằm nghiên cāu đß t¿o ra những công cā khai phá những thông tin, tri thāc hữu ích, tiềm ¿n mang tính dự đoán trong các CSDL lån [1, 2].
Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ
Trích dẫn luận án này
Đỗ Sĩ Trường (2023). Lựa chọn thuộc tính và gom cụm dữ liệu phân loại: Luận án tiến sĩ [Luận án tiến sĩ, Trường Đại học Lạc Hồng]. LuanAn.net. https://luanan.net/cong-nghe-thong-tin/he-thong-thong-tin/lua-chon-thuoc-tinh-gom-cum-du-lieu-phan-loai
Câu hỏi thường gặp
Luận án "Lựa chọn thuộc tính và gom cụm dữ liệu phân loại: Luận án tiến sĩ" nghiên cứu về vấn đề gì?
"Luận án tiến sĩ: phương pháp chọn thuộc tính, kỹ thuật gom cụm, cải thiện phân loại dữ liệu thô, giải pháp tối ưu."
Luận án "Lựa chọn thuộc tính và gom cụm dữ liệu phân loại: Luận án tiến sĩ" được bảo vệ tại trường nào?
Luận án này được bảo vệ tại Trường Đại học Lạc Hồng. Năm bảo vệ: 2023.
Luận án "Lựa chọn thuộc tính và gom cụm dữ liệu phân loại: Luận án tiến sĩ" thuộc chuyên ngành gì?
Luận án "Lựa chọn thuộc tính và gom cụm dữ liệu phân loại: Luận án tiến sĩ" thuộc chuyên ngành Khoa học máy tính. Danh mục: Hệ Thống Thông Tin.
Luận án "Lựa chọn thuộc tính và gom cụm dữ liệu phân loại: Luận án tiến sĩ" có bao nhiêu trang?
Luận án "Lựa chọn thuộc tính và gom cụm dữ liệu phân loại: Luận án tiến sĩ" có 107 trang. Bạn có thể xem trước một phần tài liệu ngay trên trang web trước khi tải về.
Cách tải luận án "Lựa chọn thuộc tính và gom cụm dữ liệu phân loại: Luận án tiến sĩ" về máy như thế nào?
Để tải luận án về máy, bạn nhấn nút "Tải xuống ngay" trên trang này, sau đó hoàn tất thanh toán phí lưu trữ. File sẽ được tải xuống ngay sau khi thanh toán thành công. Hỗ trợ qua Zalo: 0559 297 239.