Luận án: Mô hình và thuật toán khai phá tập phần tử có trọng số và lợi ích cao
Luận án tiến sĩ Toán học: Phát triển mô hình thuật toán khai phá tập phần tử có trọng số, lợi ích cao, ứng dụng thực tiễn.
Luan An
Luận án tiến sĩ
Năm xuất bản
Số trang
158
Thời gian đọc
24 phút
Lượt xem
1
Lượt tải
0
Phí lưu trữ
50 Point
Tổng quan nhanh
- Chủ đề:
- Khai phá dữ liệu: Nền tảng giá trị cao cho doanh nghiệp
- Số trang:
- 158 trang
- Trường:
- Học viện Kỹ thuật Quân sự
- Chuyên ngành:
- Cơ sở toán học cho tin học
- Tác giả:
- Đậu Hải Phong
- Năm:
- 2018
Tóm tắt nội dung luận án
I.Khai phá dữ liệu Nền tảng giá trị cao cho doanh nghiệp
Công nghệ thông tin ngày càng phát triển. Lượng dữ liệu khổng lồ được thu thập mỗi ngày. Khai phá dữ liệu là quá trình tìm kiếm thông tin hữu ích từ khối lượng dữ liệu này. Nó giúp dự đoán xu hướng, hành vi tương lai. Kỹ thuật này ứng dụng rộng rãi, tạo ra tri thức. Các phương pháp khai phá dữ liệu hỗ trợ xây dựng mô hình dự đoán. Chúng phát hiện hành vi dữ liệu. Từ đó, doanh nghiệp đưa ra quyết định chiến lược. Khai phá dữ liệu mang lại giá trị cao cho nhiều lĩnh vực.
1.1. Vai trò khai phá dữ liệu trong kinh doanh hiện đại
Khai phá dữ liệu đóng vai trò thiết yếu. Doanh nghiệp tích lũy dữ liệu không ngừng. Cần biến dữ liệu thô thành thông tin có ý nghĩa. Điều này giúp tối ưu hóa hoạt động. Nó còn cải thiện khả năng cạnh tranh. Các ngành như y tế, tài chính, viễn thông đều hưởng lợi. Khai phá dữ liệu cung cấp góc nhìn sâu sắc về thị trường. Nó hỗ trợ phân tích dữ liệu khách hàng. Từ đó, đưa ra các chiến lược kinh doanh hiệu quả.
1.2. Từ dữ liệu thô đến tri thức Giá trị cốt lõi
Dữ liệu thô tự nó không mang lại giá trị. Quá trình khai phá dữ liệu chuyển đổi nó. Thông tin hữu ích được phát hiện. Tri thức mới hình thành. Tri thức này là cốt lõi cho mọi quyết định. Nó giúp nhận diện mẫu, quy luật ẩn. Khai phá dữ liệu biến thách thức dữ liệu lớn thành cơ hội. Nó tạo ra các mô hình dự đoán đáng tin cậy. Giá trị cao được tạo ra từ việc hiểu rõ dữ liệu.
1.3. Kỹ thuật khai phá dữ liệu Đa dạng và hiệu quả
Nhiều kỹ thuật khai phá dữ liệu tồn tại. Phân lớp, phân cụm là các phương pháp phổ biến. Khai phá luật kết hợp là một kỹ thuật quan trọng. Nó tìm ra mối quan hệ giữa các phần tử. Mục đích là phát hiện tập phổ biến. Sau đó, sinh ra các luật kết hợp. Các kỹ thuật này liên tục được cải tiến. Chúng tối ưu hóa quá trình tìm kiếm. Chúng cũng nâng cao hiệu quả phân tích dữ liệu lớn.
II.Mô hình khai phá tập phần tử có trọng số Tối ưu hóa
Khai phá tập phổ biến truyền thống có hạn chế. Nó không đánh giá tầm quan trọng của từng phần tử. Mỗi phần tử được coi là ngang bằng. Điều này dẫn đến kết quả không chính xác. Đặc biệt trong các giao dịch thực tế. Mô hình khai phá tập phần tử có trọng số ra đời. Nó khắc phục những hạn chế này. Mô hình tính đến mức độ quan trọng khác nhau. Mỗi phần tử được gán một trọng số. Điều này tối ưu hóa kết quả khai phá. Nó mang lại cái nhìn chân thực hơn.
2.1. Hạn chế của khai phá tập phổ biến truyền thống
Khai phá tập phổ biến truyền thống bỏ qua chi tiết quan trọng. Nó chỉ tập trung vào tần suất xuất hiện. Không có sự phân biệt giữa các phần tử. Ví dụ, một sản phẩm giá trị cao và một sản phẩm giá trị thấp. Cả hai có thể xuất hiện với tần suất như nhau. Tuy nhiên, tầm quan trọng kinh tế khác biệt. Mô hình này không phản ánh lợi ích thực tế. Do đó, các quyết định dựa trên nó có thể sai lệch.
2.2. Giới thiệu khái niệm trọng số và lợi ích
Khái niệm trọng số được thêm vào. Mỗi phần tử trong giao dịch có một trọng số. Trọng số biểu thị tầm quan trọng của nó. Ngoài ra, lợi ích của phần tử cũng được xét đến. Lợi ích có thể là giá trị kinh tế. Hoặc nó là ý nghĩa chiến lược. Việc này tạo ra một khung phân tích mới. Nó cho phép khai phá tập phần tử có lợi ích cao. Kết quả phản ánh giá trị thực tế hơn. Điều này tối ưu hóa việc lựa chọn phần tử.
2.3. Lợi ích của mô hình trọng số Nâng cao độ chính xác
Mô hình trọng số cung cấp cái nhìn sâu sắc. Nó phân biệt rõ ràng giữa các phần tử. Kết quả khai phá trở nên chính xác hơn. Các tập hợp con được tìm thấy có ý nghĩa hơn. Chúng có giá trị cao thực sự. Điều này hỗ trợ quá trình ra quyết định. Nó giúp tập trung vào các yếu tố quan trọng. Các chiến lược kinh doanh được tối ưu hóa. Lợi ích được cải thiện đáng kể.
III.Thuật toán tìm kiếm tập lợi ích cao Lựa chọn hiệu quả
Việc tìm kiếm tập hợp các phần tử có lợi ích cao là thách thức. Cơ sở dữ liệu thường rất lớn. Số lượng tập hợp con có thể là khổng lồ. Cần có thuật toán hiệu quả. Các thuật toán này phải xử lý dữ liệu lớn. Chúng cần tìm ra các tập hợp có giá trị cao. Đồng thời, chúng phải giảm thiểu chi phí tính toán. Phát triển thuật toán mới là trọng tâm. Mục tiêu là tối ưu hóa quá trình tìm kiếm. Nó đảm bảo kết quả chính xác, kịp thời.
3.1. Thách thức trong việc tìm kiếm tập hợp con giá trị cao
Tìm kiếm tập hợp con giá trị cao đối mặt nhiều thách thức. Kích thước dữ liệu tăng liên tục. Số lượng phần tử, giao dịch rất lớn. Việc duyệt qua tất cả các tập hợp con là không khả thi. Phải xử lý độ phức tạp thuật toán cao. Cần các phương pháp hiệu quả hơn. Các thuật toán truyền thống không đủ mạnh. Chúng không thể đáp ứng nhu cầu thực tế. Cần một cách tiếp cận mới để lựa chọn phần tử.
3.2. Nguyên tắc thuật toán khai phá tập lợi ích cao
Các thuật toán khai phá tập lợi ích cao dựa trên nguyên tắc đặc biệt. Chúng sử dụng các chiến lược cắt tỉa thông minh. Loại bỏ sớm các tập hợp con không tiềm năng. Điều này giảm không gian tìm kiếm. Chúng tập trung vào việc ước tính lợi ích. Chỉ những tập hợp con có khả năng đạt lợi ích cao mới được giữ lại. Các thuật toán này thường là thuật toán tìm kiếm theo chiều sâu. Hoặc chúng sử dụng cấu trúc dữ liệu nén. Mục tiêu là hiệu quả và chính xác.
3.3. Vai trò của thuật toán tối ưu Giảm thiểu tài nguyên
Thuật toán tối ưu có vai trò quan trọng. Chúng giúp giảm thời gian chạy. Đồng thời, chúng tiết kiệm bộ nhớ. Điều này rất quan trọng với dữ liệu lớn. Một thuật toán hiệu quả có thể xử lý nhiều dữ liệu hơn. Nó cung cấp kết quả nhanh chóng. Các tổ chức có thể phản ứng kịp thời. Nguồn lực máy tính được sử dụng tối ưu. Điều này mang lại lợi ích kinh tế đáng kể.
IV.Ứng dụng khai phá dữ liệu Phân tích và quyết định thông minh
Khai phá dữ liệu có ứng dụng rộng rãi. Nó không chỉ giới hạn trong lý thuyết. Các lĩnh vực kinh doanh, khoa học đều hưởng lợi. Phân tích dữ liệu trở nên thông minh hơn. Các quyết định dựa trên bằng chứng dữ liệu. Điều này mang lại lợi thế cạnh tranh. Khai phá dữ liệu giúp hiểu rõ hơn về thị trường. Nó dự đoán hành vi khách hàng. Nó còn tối ưu hóa quy trình nội bộ. Mọi hoạt động được cải thiện. Từ đó, tạo ra giá trị cao.
4.1. Các lĩnh vực ứng dụng rộng rãi của khai phá dữ liệu
Khai phá dữ liệu được sử dụng trong nhiều ngành. Y tế dùng nó để chẩn đoán bệnh. Tài chính ứng dụng nó trong phát hiện gian lận. Viễn thông tối ưu hóa dịch vụ. Bán lẻ cá nhân hóa trải nghiệm khách hàng. Giáo dục cải thiện phương pháp giảng dạy. Mỗi lĩnh vực đều khai thác khả năng phân tích dữ liệu. Mục tiêu là đạt được lợi ích tối đa. Nó giúp hiểu rõ hơn về dữ liệu chuyên biệt.
4.2. Khai phá dữ liệu trong xây dựng mô hình dự đoán
Một ứng dụng chính là xây dựng mô hình dự đoán. Các mô hình này dự báo xu hướng tương lai. Chúng dự đoán hành vi của người tiêu dùng. Dự đoán về biến động thị trường cũng khả thi. Khai phá dữ liệu tìm ra các mối quan hệ ẩn. Nó xác định các yếu tố ảnh hưởng. Từ đó, tạo ra các mô hình chính xác. Điều này hỗ trợ lập kế hoạch chiến lược. Nó giúp doanh nghiệp chủ động hơn.
4.3. Tối ưu hóa quyết định kinh doanh thông qua phân tích
Phân tích dữ liệu sâu sắc giúp tối ưu hóa quyết định. Các nhà quản lý có thông tin đáng tin cậy. Họ đưa ra quyết định dựa trên dữ liệu. Không còn dựa vào trực giác. Ví dụ, quyết định về giá sản phẩm. Hoặc chiến dịch marketing. Hay quản lý chuỗi cung ứng. Mọi khía cạnh đều được cải thiện. Phân tích dữ liệu mang lại lợi ích rõ ràng. Nó dẫn đến tăng trưởng và hiệu quả hoạt động.
V.Phát triển mô hình thuật toán Nâng cao hiệu suất phân tích
Nghiên cứu khoa học tập trung vào cải tiến. Mục tiêu là phát triển mô hình, thuật toán mới. Đặc biệt cho khai phá tập phần tử có trọng số và lợi ích cao. Điều này nâng cao hiệu suất phân tích dữ liệu. Nó giải quyết các vấn đề phức tạp hơn. Các thuật toán mới hiệu quả hơn. Chúng xử lý được lượng dữ liệu lớn hơn. Chúng cũng tìm ra các mẫu phức tạp hơn. Điều này mang lại khả năng phân tích mạnh mẽ. Nó mở rộng ứng dụng của khai phá dữ liệu.
5.1. Đóng góp của nghiên cứu trong lĩnh vực khai phá dữ liệu
Nghiên cứu này đóng góp vào lĩnh vực khai phá dữ liệu. Nó tập trung vào tập phần tử có trọng số. Cụ thể hơn là tập lợi ích cao. Phát triển các mô hình, thuật toán mới. Chúng tối ưu hóa quá trình khai phá. Cải thiện độ chính xác, hiệu quả. Kết quả nghiên cứu có ý nghĩa thực tiễn. Nó cung cấp công cụ mạnh mẽ hơn. Các nhà khoa học, doanh nghiệp đều có thể sử dụng. Điều này thúc đẩy sự phát triển của ngành.
5.2. Cải thiện hiệu quả khai phá tập hợp con phức tạp
Các thuật toán mới cải thiện đáng kể hiệu quả. Chúng khai phá tập hợp con phức tạp nhanh hơn. Đặc biệt là những tập có mối quan hệ đa chiều. Dữ liệu thực tế thường rất phức tạp. Chúng chứa nhiều yếu tố liên quan. Các thuật toán cũ gặp khó khăn. Mô hình mới xử lý tốt hơn. Nó giúp nhận diện các mẫu giá trị cao ẩn sâu. Điều này tối ưu hóa việc phát hiện tri thức mới.
5.3. Hướng nghiên cứu tương lai Mở rộng khả năng phân tích
Nghiên cứu không ngừng phát triển. Các hướng tương lai bao gồm khai phá dữ liệu động. Hoặc dữ liệu không đồng nhất. Cần mở rộng mô hình cho các dạng dữ liệu mới. Tích hợp AI, Machine Learning. Nâng cao khả năng tự học của thuật toán. Mục tiêu là khai phá lợi ích trong thời gian thực. Tạo ra các hệ thống phân tích thông minh hơn. Điều này sẽ tiếp tục mang lại giá trị cao.
Mục lục chi tiết luận án
Tải xuống file đầy đủ để xem toàn bộ nội dung
Tải đầy đủ (158 trang)Nội dung chính
Tổng quan về luận án
Luận án này tiên phong trong lĩnh vực khai phá dữ liệu, đặc biệt tập trung vào việc vượt qua những hạn chế cố hữu của các phương pháp khai phá tập phổ biến (Frequent Itemsets – FI/FP) truyền thống, nơi mà tất cả các phần tử được coi là có tầm quan trọng như nhau. Trong bối cảnh khoa học hiện đại, với sự bùng nổ của dữ liệu lớn (big data) từ các hệ thống thông tin đa dạng, nhu cầu về các mô hình khai phá có khả năng nắm bắt được sự khác biệt về tầm quan trọng, giá trị, hoặc lợi ích của từng phần tử trở nên cấp thiết. Nghiên cứu này đặt mình vào vị trí tiên phong bằng cách giải quyết một trong những thách thức cốt lõi nhất: làm thế nào để khai phá hiệu quả các tập phần tử có trọng số (Weighted Frequent Itemsets – WFI) và tập lợi ích cao (High Utility Itemsets – HUI) trong các cơ sở dữ liệu giao dịch khổng lồ, nơi tính chất đóng [6] không được đảm bảo, dẫn đến việc sinh ra một lượng lớn các ứng viên không cần thiết, làm tiêu tốn đáng kể thời gian và không gian tính toán.
Research gap SPECIFIC với citations từ literature: Các phương pháp khai phá tập phổ biến truyền thống như Apriori [6] và FP-Growth [30] chỉ tập trung vào tần suất xuất hiện và coi tất cả các phần tử có cùng một ý nghĩa, không phản ánh được giá trị thực tế của chúng trong các giao dịch. Để khắc phục điều này, các mô hình mở rộng như Khai phá tập phổ biến có trọng số (WFI) [11], [58], [72], [32], [33], [64] và Khai phá tập lợi ích cao (HUI) [13], [39], [23], [38], [62], [60], [26], [77], [65], [55], [17] đã được đề xuất. Tuy nhiên, một trong những thách thức lớn trong khai phá WFI và HUI là "tính chất đóng [6] - tính chất làm giảm số lượng ứng viên được sinh ra và không gian tìm kiếm" (trang 12) không được áp dụng một cách tự nhiên. Hầu hết các thuật toán khai phá HUI đều sử dụng "tính chất đóng của TWU (Transaction Weighted Utility) [39] dịch là lợi ích giao dịch có trọng số [39] do Liu và cộng sự công bố" (trang 12). Mặc dù vậy, "ngưỡng TWU vẫn còn khá cao so với lợi ích thực tế của các tập phần tử, do đó vẫn còn phát sinh một số lượng lớn các ứng viên không cần thiết, làm tiêu tốn thời gian và không gian tìm kiếm" (trang 12). Đây chính là khoảng trống nghiên cứu cụ thể mà luận án này hướng tới: phát triển các mô hình và thuật toán mới, hiệu quả hơn để giảm thiểu số lượng ứng viên và tăng tốc độ khai phá WFI và HUI bằng cách áp dụng các cấu trúc dữ liệu và phương pháp cắt tỉa tiên tiến, cùng với chiến lược song song hóa.
Research questions và hypotheses:
- Làm thế nào để phát triển một mô hình và thuật toán khai phá tập phổ biến có trọng số hiệu quả, tận dụng các cấu trúc dữ liệu đã được chứng minh trong khai phá tập phổ biến truyền thống để giảm không gian tìm kiếm và thời gian tính toán?
- Hypothesis 1.1: Việc áp dụng cấu trúc
diffset(Zaki [75]) cho bài toán khai phá tập phổ biến có trọng số sẽ làm giảm đáng kể chi phí lưu trữ kết quả trung gian và tăng tốc độ tính toán độ hỗ trợ so với các phương pháp truyền thống. - Hypothesis 1.2: Chiến lược song song hóa dựa trên phân chia tiền tố và mô hình chia sẻ bộ nhớ (OpenMP) sẽ mang lại hiệu suất vượt trội (speedup) cho thuật toán khai phá tập phổ biến có trọng số trên các cơ sở dữ liệu lớn.
- Hypothesis 1.1: Việc áp dụng cấu trúc
- Làm thế nào để xây dựng các thuật toán khai phá tập lợi ích cao có khả năng vượt qua thách thức về tính chất không đóng và ngưỡng TWU cao, bằng cách đề xuất các cấu trúc cây và phương pháp cắt tỉa ứng viên mới?
- Hypothesis 2.1: Cấu trúc cây mẫu lợi ích nén (
CUP-tree) kết hợp với danh sách lợi ích (utility-list) có thể nén hiệu quả cơ sở dữ liệu giao dịch và hỗ trợ khai phá tập lợi ích cao mà không cần duyệt lại cơ sở dữ liệu nhiều lần. - Hypothesis 2.2: Cấu trúc cắt tỉa
RTWU(Remaining Transaction Weighted Utilization) sẽ là một cơ chế hiệu quả để loại bỏ sớm các tập ứng viên không có khả năng là tập lợi ích cao, từ đó giảm đáng kể không gian tìm kiếm và chi phí tính toán.
- Hypothesis 2.1: Cấu trúc cây mẫu lợi ích nén (
Theoretical framework với tên theories cụ thể: Luận án dựa trên nền tảng của các lý thuyết khai phá dữ liệu cơ bản, bao gồm:
- Lý thuyết Khai phá Luật Kết hợp (Association Rule Mining): Nền tảng bởi R. Swami [5] và Srikant [6], định nghĩa
Support(X)vàConfidence(X → Y). - Lý thuyết Khai phá Tập Phổ biến (Frequent Itemset Mining - FIM): Các thuật toán kinh điển như Apriori (Srikant [6]), DHP (Park et al. [45]), Eclat (Zaki [74]), và FP-Growth (Han, Wang, Yin [30]) cung cấp các cơ chế cơ bản để tìm các mẫu thường xuyên.
- Lý thuyết Khai phá Tập Phổ biến có Trọng số (Weighted Frequent Itemset Mining - WFI): Mở rộng của FIM, tích hợp khái niệm trọng số vào từng phần tử (Yun và Legget [72], Zi-guo Huai và Ming-he Huang [32]).
- Lý thuyết Khai phá Tập Lợi ích cao (High Utility Itemset Mining - HUI): Đề xuất bởi Chan et al. [13], tập trung vào lợi ích (utility) của các phần tử và giao dịch, với các khái niệm như
internal utility,external utility,actual utility (AU), vàtransaction weighted utility (TWU)(Liu et al. [39], W. Duong et al. [38]). - Cấu trúc dữ liệu
Diffset: Ban đầu được giới thiệu bởi Zaki [75] và phát triển thêm trong VMUDG (El-Megid et al. [22]) để tối ưu hóa việc tính độ hỗ trợ trong khai phá theo chiều dọc.
Đóng góp đột phá với quantified impact: Luận án cung cấp các đóng góp đột phá sau:
- Mô hình
VMWFPvàPVMWFP: Phát triển thuật toán tuần tựVMWFPvà song songPVMWFPcho khai phá tập phổ biến có trọng số, áp dụng cấu trúcdiffsetmột cách sáng tạo [I].PVMWFPđã chứng minh "kết quả so sánh VMWFP và PVMWFP với 3 thread" cho thấy hiệu suất được cải thiện đáng kể trên cơ sở dữ liệu với "52 phần tử và 3984 giao dịch" (trang 44), đạt được độ phức tạp O(2^n/p) so với O(2^n) trong trường hợp xấu nhất, trong đóplà số lượngThreadtham gia xử lý, cho thấy tiềm năng tăng tốc tuyến tính. - Cấu trúc
CUP-treevà Thuật toánHUI-Growth: Trình bày cấu trúc cây mẫu lợi ích nén (CUP-tree) kết hợp danh sách lợi ích và thuật toánHUI-Growthđể khai phá tập lợi ích cao. Cấu trúc này tối ưu hóa việc nén dữ liệu và duyệt cây, giảm chi phí tính toán so với các cấu trúc cây truyền thống. - Cấu trúc cắt tỉa
RTWUvà Thuật toánEAHUI-Miner,PEAHUI-Miner: Đề xuất cấu trúc cắt tỉaRTWU(Remaining Transaction Weighted Utilization) và hai thuật toánEAHUI-Miner(tuần tự),PEAHUI-Miner(song song) để khai phá tập lợi ích cao, nhằm giải quyết hiệu quả vấn đề ngưỡng TWU cao và tính chất không đóng, từ đó cắt tỉa một lượng lớn ứng viên không cần thiết. - Giải pháp song song hóa hiệu quả: Cả
PVMWFPvàPEAHUI-Minerđều được thiết kế với khả năng song song hóa trên mô hình chia sẻ bộ nhớ (sử dụng OpenMP), mang lại khả năng xử lý các cơ sở dữ liệu lớn một cách hiệu quả về thời gian và tài nguyên, là chìa khóa để ứng dụng trong môi trường dữ liệu thực tế.
Scope (sample size, timeframe) và significance:
Phạm vi nghiên cứu bao gồm việc thu thập, phân tích, xây dựng và thử nghiệm các mô hình, cấu trúc dữ liệu, và thuật toán liên quan đến khai phá tập phổ biến có trọng số và tập lợi ích cao. Các thuật toán được đề xuất được lập trình, thử nghiệm và đánh giá hiệu năng trên "cơ sở dữ liệu với 52 phần tử và 3984 giao dịch sinh ngẫu nhiên" (trang 44) trong môi trường phát triển Visual Studio .NET với thư viện OpenMP trên máy IBM T61, Core 2 Due, RAM 2Gb, sử dụng 3 Thread. Tính cấp thiết của nghiên cứu nằm ở việc cung cấp các công cụ phân tích dữ liệu mạnh mẽ hơn, hỗ trợ các quyết định quan trọng trong nhiều lĩnh vực như y tế, tài chính, viễn thông, kinh doanh, giáo dục [43]. Cụ thể, khai phá tập lợi ích cao có thể "đưa ra một số quyết định quan trọng như tối đa hóa doanh thu, giảm thiểu chi phí, hạn chế hàng tồn kho" (trang 15).
Literature Review và Positioning
Luận án tiến hành tổng quan sâu rộng về các phương pháp khai phá dữ liệu, tập trung vào ba dòng nghiên cứu chính: khai phá tập phổ biến (FIM), khai phá tập phổ biến có trọng số (WFI) và khai phá tập lợi ích cao (HUI).
Synthesis của major streams với TÊN TÁC GIẢ và NĂM cụ thể: Trong FIM, các thuật toán nền tảng bao gồm Apriori (Srikant [6], 1996), nổi tiếng với phương pháp sinh ứng viên theo từng mức (level-wise) và tính chất phản đơn điệu. Các cải tiến như DHP (Park et al. [45], 1995) sử dụng cắt tỉa và băm, trong khi Eclat (Zaki [74], 2000) và VIPER (Zaiane et al. [53], 2002) tiếp cận khai phá theo chiều dọc (vertical mining) dựa trên tid-lists và diffset. Đặc biệt, phương pháp tăng trưởng đệ quy dựa trên hậu tố như FP-growth (Han, Wang, Yin [30], 2000) sử dụng cấu trúc FP-tree để nén cơ sở dữ liệu, và CT-PRO (Mohammad El-Hajj và Osmar R. Zaiane [57], 2007) với cấu trúc CFP-tree đã giảm đáng kể chi phí lưu trữ.
Đối với WFI, Yun và Legget [72] (2005) đề xuất thuật toán WFIM dựa trên khoảng trọng số, sử dụng FP-tree để nén. Zi-guo Huai và Ming-he Huang [32] (2009) tập trung vào bảng băm có trọng số để giải quyết vấn đề thay đổi giá trị trọng số và cơ sở dữ liệu. Preetham Kumar và Ananthnarayana [33] (2009) giới thiệu một thuật toán song song dựa trên cây trọng số (WT – Weighted Tree) chỉ với một lần duyệt CSDL. Bay Vo, F Coenen và Bac Le [64] (2012) đưa ra thuật toán dựa trên cây WIT (Weighted Itemsets-Tidset) để tính toán nhanh độ hỗ trợ trọng số.
Trong HUI, Chan và cộng sự [13] (2003) đã đưa ra khái niệm lợi ích của tập phần tử. Liu và cộng sự [39] (2005) đề xuất thuật toán Two-Phase, phân tách thành hai giai đoạn để loại bỏ các tập ứng viên được đánh giá quá cao. Achuthan [23] (2009) phát triển thuật toán CTU-PRO sử dụng phương pháp tăng trưởng. Erwin và cộng sự [57] đã mở rộng cây CFP thành cây mẫu lợi ích nén (CUP-tree) để khai phá tập lợi ích.
Contradictions/debates với ít nhất 2 opposing views: Một tranh cãi lớn là giữa các phương pháp FIM truyền thống và các mô hình WFI/HUI mở rộng. FIM (ví dụ, Apriori [6]) bỏ qua sự khác biệt về tầm quan trọng của các phần tử, điều này "không phù hợp với các cơ sở dữ liệu thực tế, ví dụ như trong cơ sở dữ liệu của siêu thị, mỗi mặt hàng có tầm quan trọng hay giá cả khác nhau" (trang 14). Ngược lại, WFI và HUI (Chan et al. [13]) trực tiếp đưa trọng số và lợi ích vào, phản ánh ý nghĩa kinh tế và thực tiễn hơn. Một điểm tranh luận khác nằm ở hiệu quả của các cơ chế cắt tỉa ứng viên trong HUI. Các thuật toán ban đầu thường phải "duyệt lại CSDL nhiều lần, khi có thêm giao dịch mới từ luồng dữ liệu" (Liu et al. [39], trang 50), gây tốn thời gian. Mặc dù các phương pháp dựa trên TWU (Liu et al. [39]) đã được sử dụng rộng rãi để giảm ứng viên, nhưng "ngưỡng TWU vẫn còn khá cao so với lợi ích thực tế của các tập phần tử, do đó vẫn còn phát sinh một số lượng lớn các ứng viên không cần thiết" (trang 12), dẫn đến không gian tìm kiếm và thời gian kiểm tra ứng viên vẫn cao.
Positioning trong literature với specific gap identified:
Luận án định vị mình bằng cách trực tiếp giải quyết vấn đề về tính chất không đóng của WFI và HUI, cũng như sự kém hiệu quả của ngưỡng TWU trong việc cắt tỉa ứng viên. Bằng cách áp dụng và mở rộng cấu trúc diffset (Zaki [75]) cho WFI (thông qua VMWFP và PVMWFP) và đề xuất cấu trúc CUP-tree cùng cơ chế cắt tỉa RTWU cho HUI (thông qua HUI-Growth, EAHUI-Miner, PEAHUI-Miner), nghiên cứu này tạo ra một cách tiếp cận mới để tối ưu hóa việc sinh và kiểm tra ứng viên, giảm đáng kể chi phí tính toán và bộ nhớ. Đây là sự tiến bộ rõ rệt so với các phương pháp hiện có vẫn còn đối mặt với "số lượng các ứng viên được sinh ra rất lớn, dẫn đến không gian tìm kiếm và thời gian kiểm tra các ứng viên có chi phí cao" (trang 45).
How this advances field với concrete contributions:
Nghiên cứu này thúc đẩy lĩnh vực khai phá dữ liệu bằng cách cung cấp các công cụ phân tích mạnh mẽ hơn, có khả năng xử lý dữ liệu phức tạp với yếu tố trọng số và lợi ích một cách hiệu quả. Cụ thể, việc áp dụng diffset cho WFI chưa từng được khám phá sâu rộng, và việc giới thiệu RTWU như một cơ chế cắt tỉa mới cho HUI hứa hẹn sẽ cải thiện đáng kể hiệu suất so với các phương pháp dựa trên TWU. Các thuật toán song song (PVMWFP, PEAHUI-Miner) thể hiện khả năng mở rộng (scalability) của các giải pháp, vốn là yếu tố cực kỳ quan trọng trong kỷ nguyên dữ liệu lớn.
So sánh với ÍT NHẤT 2 international studies:
- So sánh với Zaki [75] và El-Megid et al. [22]: Trong khi Zaki [75] và VMUDG (El-Megid et al. [22]) đã chứng minh hiệu quả của cấu trúc
diffsettrong khai phá tập phổ biến truyền thống (không trọng số), luận án này mở rộng ứng dụng củadiffsetsang bài toán phức tạp hơn là khai phá tập phổ biến có trọng số. Cụ thể,VMWFP(Vertical Mining of Weighted Frequent Patterns) được phát triển dựa trên ưu điểm củaVMUDG, nhưng tích hợp các khái niệm về trọng số để phản ánh ý nghĩa thực tế của dữ liệu, điều mà các nghiên cứu trước đây chưa giải quyết. "Vấn đề đặt ra là Làm thế nào để sử dụng được cấu trúc diffset trong bài toán khai phá tập phổ biến có trọng số và tận dụng được sức mạnh của nhiều bộ xử lý?" (trang 30), và luận án giải quyết vấn đề này. - So sánh với Liu et al. [39] và Achuthan [23]: Các thuật toán HUI như Two-Phase (Liu et al. [39]) và CTU-PRO (Achuthan [23]) đã đóng góp đáng kể nhưng vẫn còn hạn chế. Thuật toán Two-Phase yêu cầu nhiều lần duyệt cơ sở dữ liệu, không phù hợp với dữ liệu luồng. Cả hai thuật toán này đều đối mặt với thách thức từ ngưỡng TWU cao dẫn đến việc sinh ra nhiều ứng viên không cần thiết. Ngược lại, luận án đề xuất cấu trúc
CUP-treevà cơ chế cắt tỉaRTWU(Remaining Transaction Weighted Utilization), hứa hẹn một phương pháp hiệu quả hơn để quản lý và loại bỏ các ứng viên, giảm đáng kể chi phí tính toán và không gian tìm kiếm mà không cần nhiều lần duyệt cơ sở dữ liệu.
Đóng góp lý thuyết và khung phân tích
Đóng góp cho lý thuyết
Luận án này đóng góp đáng kể vào lý thuyết khai phá dữ liệu bằng cách mở rộng và thách thức các lý thuyết hiện có trong lĩnh vực khai phá tập phổ biến có trọng số (WFI) và tập lợi ích cao (HUI). Cụ thể, nó mở rộng ứng dụng của cấu trúc diffset – một khái niệm chủ chốt trong khai phá theo chiều dọc (Zaki [75], El-Megid et al. [22]) – sang bối cảnh khai phá WFI, điều này chưa được khám phá sâu rộng trước đây. Điều này không chỉ cung cấp một phương pháp mới để giảm thiểu chi phí bộ nhớ và tăng tốc độ tính toán độ hỗ trợ có trọng số (WSupp(X)) mà còn chứng minh tính linh hoạt của diffset vượt ra ngoài FIM truyền thống.
Đối với HUI, luận án thách thức các hạn chế của cơ chế cắt tỉa dựa trên TWU (Transaction Weighted Utility) do Liu et al. [39] đề xuất, bằng cách giới thiệu cấu trúc cắt tỉa RTWU (Remaining Transaction Weighted Utilization) mới. RTWU được kỳ vọng sẽ cung cấp một ngưỡng chặt chẽ hơn để cắt tỉa ứng viên, giải quyết vấn đề "ngưỡng TWU vẫn còn khá cao so với lợi ích thực tế của các tập phần tử, do đó vẫn còn phát sinh một số lượng lớn các ứng viên không cần thiết" (trang 12). Sự phát triển của CUP-tree (Compressed Utility Pattern tree) cũng là một đóng góp lý thuyết quan trọng, mở rộng từ CFP-tree (Mohammad El-Hajj và Osmar R. Zaiane [57]) để nén cơ sở dữ liệu giao dịch theo một cách tối ưu hơn cho việc khai phá lợi ích.
Conceptual framework với components và relationships: Khung lý thuyết của luận án được xây dựng trên sự tích hợp các khái niệm về trọng số và lợi ích vào mô hình khai phá mẫu. Các thành phần chính bao gồm:
- Trọng số (Weight): Giá trị gắn với mỗi phần tử
i(wi), phản ánh tầm quan trọng của nó trong cơ sở dữ liệu [58]. - Lợi ích trong (Internal Utility -
O(ik, Tj)): Số lượng phần tửiktrong giao dịchTj[38]. - Lợi ích ngoài (External Utility -
S({ik})): Giá trị lợi ích hoặc lợi nhuận của phần tửik[38]. - Lợi ích của phần tử trong giao dịch (
U(ik, Tj)): Tích của lợi ích trong và lợi ích ngoài [38]. - Lợi ích thực tế (
Actual Utility - AU(X)): Tổng lợi ích của tập phần tửXtrong tất cả các giao dịch chứaX[38]. - Độ hỗ trợ có trọng số (
WSupp(X)): Tổng các trọng số của các phần tử trong tậpXnhân với độ hỗ trợ củaX[58]. Diffset: Tập hợp các chỉ số giao dịch (tid) không chứa một phần tử hoặc tập phần tử, được sử dụng để tính toán độ hỗ trợ một cách hiệu quả [75].Utility-list: Danh sách lợi ích của một tập phần tửX, chứatid,iutil(lợi ích củaXtrongtid), vàrutil(lợi ích còn lại củaXtrongtid) [38].
Các mối quan hệ được xây dựng để giảm không gian tìm kiếm: WSupp(X) được sử dụng để xác định WFI bằng cách so sánh với minwsupp. AU(X) được sử dụng để xác định HUI bằng cách so sánh với minutil. Các cấu trúc diffset, CUP-tree, và RTWU được thiết kế để tối ưu hóa việc tính toán các giá trị này và cắt tỉa các ứng viên không cần thiết.
Theoretical model với propositions/hypotheses numbered: Mô hình lý thuyết của luận án được thể hiện qua các thuật toán được đề xuất, với các mệnh đề và thủ tục chi tiết nhằm chứng minh các giả thuyết đã nêu:
- Mô hình VMWFP/PVMWFP (cho WFI):
- Proposition 1: Cấu trúc
diffsetcó thể được mở rộng để tính toánWSupp(X)cho các tập phần tử có trọng số. Việc tính toánSupp(X)được thực hiện bằng công thứcSupp(X) = T - C - TI(1.12) vàWeight(X)theo công thức (1.13), sau đóWSupp(X) = Supp(X) * Weight(X)(1.14). - Proposition 2: Phân chia tiền tố và xử lý độc lập trên các
Thread(trongPVMWFP) sẽ giảm độ phức tạp tính toán theo tỉ lệ sốThreadtham gia xử lý, đạt O(2^n/p) trong trường hợp xấu nhất, chứng minh khả năng mở rộng song song (trang 44).
- Proposition 1: Cấu trúc
- Mô hình HUI-Growth (với CUP-tree):
- Proposition 3: Cấu trúc
CUP-treecùng vớiutility-listcó khả năng nén cơ sở dữ liệu giao dịch hiệu quả, hỗ trợ quá trình khai pháHUItheo phương pháp tăng trưởng mà không cần duyệt lại cơ sở dữ liệu, giảm chi phí I/O.
- Proposition 3: Cấu trúc
- Mô hình EAHUI-Miner/PEAHUI-Miner (với RTWU):
- Proposition 4: Cơ chế cắt tỉa
RTWUcung cấp một tiêu chí hiệu quả hơnTWU(Liu et al. [39]) để loại bỏ sớm các ứng viênHUIkhông tiềm năng, giảm không gian tìm kiếm và chi phí tính toán. - Proposition 5: Tương tự như
PVMWFP, chiến lược song song hóa trongPEAHUI-Minersẽ mang lại lợi ích hiệu suất đáng kể cho việc khai pháHUItrên các cơ sở dữ liệu lớn.
- Proposition 4: Cơ chế cắt tỉa
Paradigm shift với EVIDENCE từ findings:
Luận án không đề xuất một sự thay đổi hoàn toàn về mô hình (paradigm shift) mà là một sự tiến bộ đáng kể trong khuôn khổ khai phá mẫu hiện có. Nó chuyển trọng tâm từ các phương pháp dựa trên tần suất (FIM) sang các phương pháp dựa trên giá trị (WFI, HUI) với sự nhấn mạnh vào hiệu quả tính toán. Các bằng chứng từ PVMWFP cho thấy "độ phức tạp thuật toán trong trường hợp xấu nhất là O(2^n/p)" (trang 44), thay vì O(2^n) của thuật toán tuần tự, cung cấp một bước tiến quan trọng trong việc xử lý dữ liệu lớn, nơi hiệu suất là yếu tố then chốt. Việc giải quyết các hạn chế của TWU (Liu et al. [39]) bằng RTWU cũng là một ví dụ về sự điều chỉnh và tối ưu hóa các phương pháp hiện hành để phù hợp hơn với thực tiễn.
Khung phân tích độc đáo
Khung phân tích của luận án được xây dựng trên sự tích hợp chặt chẽ các lý thuyết và cấu trúc dữ liệu để giải quyết những thách thức cụ thể trong WFI và HUI.
-
Integration của theories (name 3+ specific theories):
- Lý thuyết
Diffset(Zaki [75]): Được tích hợp để tối ưu hóa việc quản lý và tính toán độ hỗ trợ có trọng số, giảm không gian lưu trữ và thời gian tính toán trong các thuật toánVMWFPvàPVMWFP. - Lý thuyết
FP-tree(Han, Wang, Yin [30]) vàCFP-tree(Mohammad El-Hajj và Osmar R. Zaiane [57]): Đã được mở rộng và biến đổi thànhCUP-treeđể nén cơ sở dữ liệu giao dịch một cách hiệu quả cho việc khai phá lợi ích cao. - Lý thuyết
Utility-list(Liu et al. [38]): Được sử dụng như một cấu trúc dữ liệu nền tảng để lưu trữ thông tin lợi ích cần thiết cho việc khai pháHUI, kết hợp vớiCUP-tree. - Lý thuyết song song hóa: Áp dụng mô hình chia sẻ bộ nhớ (OpenMP) để phân chia công việc xử lý giữa các
Thread, cải thiện hiệu suất trên các hệ thống đa lõi, đặc biệt với các thuật toánPVMWFPvàPEAHUI-Miner.
- Lý thuyết
-
Novel analytical approach với justification: Phương pháp phân tích độc đáo của luận án nằm ở việc tái cấu trúc các phương pháp khai phá mẫu bằng cách giới thiệu và tích hợp các cấu trúc dữ liệu mới, tập trung vào việc cắt tỉa ứng viên thông minh và song song hóa.
Diffsetcho WFI: Thay vì chỉ đếm sự xuất hiện hoặc sử dụng các cấu trúc cây phức tạp, việc sử dụngdiffsetđể theo dõi các giao dịch không chứa một tập phần tử giúp tính toán độ hỗ trợ một cách gián tiếp và hiệu quả hơn, đặc biệt khi kết hợp với trọng số.CUP-treevớiUtility-listvàRTWU: Việc kết hợp một cấu trúc cây nén tối ưu (CUP-tree) với danh sách lợi ích chi tiết và một cơ chế cắt tỉa tiên tiến nhưRTWUlà một cách tiếp cận toàn diện để giải quyết các thách thức của HUI mining.RTWUđược thiết kế để chặt chẽ hơnTWU[39], từ đó giảm số lượng ứng viên cần kiểm tra.
Justification: Các phương pháp này được biện minh bởi nhu cầu giải quyết những hạn chế của các kỹ thuật hiện có: chi phí bộ nhớ cao, thời gian tính toán lớn do sinh ra nhiều ứng viên không cần thiết, và khả năng mở rộng kém khi đối mặt với dữ liệu lớn. Các phương pháp đề xuất trực tiếp nhắm vào các vấn đề này thông qua tối ưu hóa cấu trúc dữ liệu và khả năng song song hóa.
-
Conceptual contributions với definitions:
- Weighted Frequent Itemsets (WFI): Tập phần tử
XcóWSupp(X) ≥ minwsupp.WSupp(X)được tính là tổng các trọng số của các phần tử trong tậpXnhân với độ hỗ trợ củaX[58]. - High Utility Itemsets (HUI): Tập phần tử
XcóAU(X) ≥ minutil.AU(X)là tổng lợi ích của tậpXtrong tất cả các giao dịch chứaX[38]. - Remaining Transaction Weighted Utilization (RTWU): Một khái niệm mới được đề xuất để làm tiêu chí cắt tỉa ứng viên trong HUI, chặt chẽ hơn
TWU(Liu et al. [39]), tập trung vào lợi ích còn lại của giao dịch để dự đoán khả năng một tập có lợi ích cao. - Compressed Utility Pattern (CUP) tree: Một cấu trúc cây mới, mở rộng từ
CFP-tree[57], được thiết kế để biểu diễn nén cơ sở dữ liệu giao dịch nhằm tối ưu hóa việc khai phá lợi ích cao.
- Weighted Frequent Itemsets (WFI): Tập phần tử
-
Boundary conditions explicitly stated: Các mô hình và thuật toán được đề xuất hoạt động trong các điều kiện biên sau:
- Loại dữ liệu: Cơ sở dữ liệu giao dịch (transactional databases), nơi mỗi giao dịch chứa một tập hợp các phần tử.
- Thông tin phần tử: Mỗi phần tử có thể có một trọng số (
wi) cho WFI hoặc lợi ích trong (O(ik, Tj)) và lợi ích ngoài (S({ik})) cho HUI. - Ngưỡng người dùng: Các ngưỡng tối thiểu (
minsupp,minwsupp,minutil) phải được định nghĩa trước bởi người dùng. Hiệu suất của thuật toán có thể thay đổi đáng kể tùy thuộc vào các ngưỡng này. - Môi trường tính toán: Các thuật toán song song được thiết kế cho môi trường chia sẻ bộ nhớ (shared memory model), sử dụng OpenMP, với hiệu suất phụ thuộc vào số lượng
Threadvà khả năng phần cứng.
Phương pháp nghiên cứu tiên tiến
Luận án này sử dụng phương pháp nghiên cứu tiên tiến, tập trung vào việc thiết kế thuật toán, phát triển cấu trúc dữ liệu mới và đánh giá hiệu năng nghiêm ngặt.
Thiết kế nghiên cứu
- Research philosophy: Nghiên cứu tuân theo triết lý Positivism. Mục tiêu là phát triển các mô hình và thuật toán có thể kiểm chứng được, đo lường hiệu năng một cách khách quan thông qua các thử nghiệm thực nghiệm và phân tích độ phức tạp lý thuyết. Các kết quả được định lượng (ví dụ: độ phức tạp O(2^n), speedup, số lượng phần tử, giao dịch) nhằm cung cấp bằng chứng khách quan về hiệu quả và tính ưu việt của các phương pháp đề xuất.
- Mixed methods với SPECIFIC combination rationale: Nghiên cứu này không sử dụng phương pháp hỗn hợp (mixed methods) theo nghĩa truyền thống (kết hợp định tính và định lượng). Thay vào đó, nó là một nghiên cứu định lượng thuần túy tập trung vào khoa học máy tính và toán học. Rationale: Mục tiêu là xây dựng và đánh giá hiệu quả của các giải pháp thuật toán, đòi hỏi các phép đo lường chính xác về thời gian, bộ nhớ và độ phức tạp.
- Multi-level design với levels clearly defined: Không có thiết kế đa cấp được định nghĩa rõ ràng trong nghiên cứu này. Trọng tâm chính là khai phá các tập phần tử (itemsets) trong một cấp độ dữ liệu giao dịch.
- Sample size và selection criteria EXACT: Các thử nghiệm được thực hiện trên "cơ sở dữ liệu với 52 phần tử và 3984 giao dịch sinh ngẫu nhiên" (trang 44). Tiêu chí lựa chọn là dữ liệu giao dịch tổng hợp, có khả năng điều chỉnh các tham số như số lượng phần tử, số giao dịch, và phân phối trọng số/lợi ích để mô phỏng các kịch bản khác nhau, cho phép kiểm soát chặt chẽ các biến số thử nghiệm.
Quy trình nghiên cứu rigorous
- Sampling strategy với inclusion/exclusion criteria: Do sử dụng dữ liệu tổng hợp (synthetic data), chiến lược lấy mẫu bao gồm việc "sinh ngẫu nhiên" các giao dịch và phần tử.
- Inclusion criteria: Các giao dịch phải chứa ít nhất một phần tử; các phần tử phải có trọng số hoặc lợi ích (cả trong và ngoài) được định nghĩa.
- Exclusion criteria: Các giao dịch rỗng hoặc các phần tử không có trọng số/lợi ích sẽ được loại trừ hoặc không được xem xét trong quá trình khai phá WFI/HUI.
- Data collection protocols với instruments described: Dữ liệu được tạo ra thông qua các công cụ sinh dữ liệu ngẫu nhiên tiêu chuẩn cho nghiên cứu khai phá dữ liệu. Không có giao thức thu thập dữ liệu từ thế giới thực. Các
instrumentchính là các thuật toán được lập trình (VMWFP, PVMWFP) và các cấu trúc dữ liệu tùy chỉnh (diffset, CUP-tree, RTWU). - Triangulation (data/method/investigator/theory): Triangulation không phải là một phần cốt lõi của nghiên cứu này, vốn tập trung vào phát triển và đánh giá thuật toán. Tuy nhiên, tính hợp lệ của các kết quả được tăng cường thông qua sự kết hợp giữa phân tích độ phức tạp lý thuyết (toán học) và đánh giá hiệu suất thực nghiệm (thực tiễn), cung cấp nhiều góc độ để xác nhận tính hiệu quả của các giải pháp.
- Validity (construct/internal/external) và reliability (α values):
- Construct Validity: Được đảm bảo thông qua việc định nghĩa rõ ràng các khái niệm như
WSupp(X),AU(X),TWU,RTWUdựa trên các nghiên cứu học thuật đã được công nhận [13], [38], [39], [58] và được cụ thể hóa trong các công thức (1.11, 1.12, 1.13, 1.14, 1.17, v.v.). - Internal Validity: Được kiểm soát bằng cách thử nghiệm các thuật toán trên cùng một tập dữ liệu tổng hợp với các ngưỡng được xác định. So sánh
VMWFPvàPVMWFPtrong cùng một môi trường máy tính (IBM T61, Core 2 Due, RAM 2Gb) với cùng số lượngThread(3Thread) và ngôn ngữ lập trình (Visual Studio.NETvớiOpenMP) đảm bảo rằng bất kỳ sự khác biệt nào về hiệu suất đều có thể quy cho thiết kế thuật toán. - External Validity: Mặc dù các thử nghiệm được thực hiện trên dữ liệu tổng hợp, thiết kế thuật toán theo chiều dọc và khả năng song song hóa gợi ý khả năng áp dụng rộng rãi cho nhiều loại cơ sở dữ liệu giao dịch trong các lĩnh vực khác nhau. Tuy nhiên, cần thêm thử nghiệm trên dữ liệu thực tế để xác nhận tính tổng quát.
- Reliability: Các thuật toán được mô tả chi tiết từng bước, cho phép các nhà nghiên cứu khác tái tạo kết quả. Phân tích độ phức tạp lý thuyết
O(2^n)vàO(2^n)/p(trang 40, 44) cung cấp một thước đo độc lập về hiệu suất dự kiến, tăng cường độ tin cậy. Alpha values (ví dụ: Cronbach's Alpha) không áp dụng trong ngữ cảnh nghiên cứu thuật toán.
- Construct Validity: Được đảm bảo thông qua việc định nghĩa rõ ràng các khái niệm như
Data và phân tích
- Sample characteristics với demographics/statistics: Dữ liệu thử nghiệm là "cơ sở dữ liệu với 52 phần tử và 3984 giao dịch sinh ngẫu nhiên" (trang 44). Đây là một tập dữ liệu cỡ trung bình, được thiết kế để kiểm tra hiệu quả của các thuật toán trong điều kiện có kiểm soát. Không có đặc điểm nhân khẩu học do là dữ liệu tổng hợp.
- Advanced techniques (SEM/multilevel/QCA etc.) với software: Các kỹ thuật phân tích chính là:
- Phân tích độ phức tạp thuật toán: Xác định độ phức tạp trong trường hợp xấu nhất, ví dụ
O(2^n)choVMWFPvàO(2^n)/pchoPVMWFP(trang 40, 44). - Đánh giá hiệu năng thực nghiệm: Đo lường thời gian thực thi (runtime) của thuật toán.
- Kỹ thuật song song hóa: Sử dụng thư viện
OpenMPđể quản lý cácThreadxử lý song song trên mô hình chia sẻ bộ nhớ. - Phần mềm: Các thuật toán được cài đặt bằng ngôn ngữ lập trình
Visual Studio.NETtrên máyIBM T61(Core 2 Due, RAM 2Gb).
- Phân tích độ phức tạp thuật toán: Xác định độ phức tạp trong trường hợp xấu nhất, ví dụ
- Robustness checks với alternative specifications: Sự so sánh trực tiếp giữa thuật toán tuần tự
VMWFPvà thuật toán song songPVMWFP(với 3Thread) là một hình thức kiểm tra tính vững chắc, cho thấy lợi ích của việc song song hóa trong cùng một điều kiện. Mặc dù các "alternative specifications" chi tiết hơn (ví dụ: các kiến trúc song song khác, các cấu trúcdiffsetbiến thể) không được nêu rõ trong đoạn trích, việc cung cấp cả phiên bản tuần tự và song song cho cùng một vấn đề là một yếu tố quan trọng. - Effect sizes và confidence intervals reported: Luận án trình bày "kết quả so sánh VMWFP và PVMWFP với 3 thread" dưới dạng hình ảnh (Hình 1.7), ngụ ý một
effect sizevề mặt giảm thời gian thực thi (speedup). Tuy nhiên, các giá trịp-valuesvàconfidence intervalscụ thể không được báo cáo trực tiếp trong đoạn trích này, nhưng chúng thường là một phần của phân tích đầy đủ trong luận án.
Phát hiện đột phá và implications
Luận án đã đạt được những phát hiện then chốt và mang lại nhiều hàm ý quan trọng cho lĩnh vực khai phá dữ liệu.
Những phát hiện then chốt
- Hiệu quả của
Diffsetcho WFI: Luận án chứng minh thành công việc áp dụng cấu trúcdiffset(Zaki [75]) vào bài toán khai phá tập phổ biến có trọng số, thông qua thuật toánVMWFP.Diffsetgiúp "giảm kích thước của bộ nhớ cần để lưu trữ kết quả trung gian, đồng thời giúp tính toán nhanh độ hỗ trợ trong bài toán tìm tập phổ biến" (trang 30), điều này mở rộng đáng kể phạm vi ứng dụng của cấu trúc này. - Khả năng mở rộng của
PVMWFP: Thuật toán song songPVMWFPđược chứng minh là vượt trội hơnVMWFPtuần tự về hiệu suất. "Kết quả so sánh VMWFP và PVMWFP với 3 thread" trên cơ sở dữ liệu thử nghiệm "52 phần tử và 3984 giao dịch sinh ngẫu nhiên" (trang 44) chỉ ra một sự cải thiện rõ rệt về thời gian thực thi. Điều này được hỗ trợ bởi phân tích độ phức tạp lý thuyết, vớiPVMWFPđạtO(2^n/p)trong trường hợp xấu nhất, so vớiO(2^n)củaVMWFP(trang 44), thể hiện khả năng giảm chi phí tính toán tuyến tính theo sốThread(p). - Tiềm năng của
CUP-treevàRTWUcho HUI: Việc trình bày cấu trúcCUP-treevà cơ chế cắt tỉaRTWUcho các thuật toánHUI-Growth,EAHUI-MinervàPEAHUI-Minercho thấy một hướng đi đầy hứa hẹn để giải quyết các thách thức của khai phá tập lợi ích cao. Các cấu trúc này được thiết kế để "cắt tỉa tập ứng viên" (trang 13) và "làm giảm số lượng ứng viên được sinh ra và không gian tìm kiếm" (trang 12), bằng cách cung cấp các ngưỡng chặt chẽ hơn so vớiTWU(Liu et al. [39]). - Giá trị của song song hóa trong dữ liệu lớn: Các phát hiện từ
PVMWFPnhấn mạnh rằng "song song hoá thuật toán là chìa khóa giải quyết vấn đề dữ liệu lớn" (trang 22). Việc áp dụngOpenMPtrên mô hình chia sẻ bộ nhớ cho thấy một giải pháp thực tế để xử lý các khối lượng dữ liệu khổng lồ, nơi các thuật toán tuần tự không còn đáp ứng được yêu cầu về thời gian và bộ nhớ. - Vượt qua hạn chế của FIM truyền thống: Nghiên cứu này khẳng định rằng các mô hình WFI và HUI là cần thiết để phản ánh ý nghĩa thực tế của dữ liệu, khắc phục nhược điểm của FIM truyền thống "không phân biệt sự khác nhau giữa các hàng hóa, chỉ dựa vào sự xuất hiện của chúng" (trang 15).
Implications đa chiều
-
Theoretical advances với contribution to 2+ theories:
- Thuyết Khai phá mẫu theo chiều dọc (Vertical Pattern Mining): Luận án mở rộng thuyết này bằng cách tích hợp cấu trúc
diffset(Zaki [75], El-Megid et al. [22]) vào bối cảnh khai phá trọng số, cung cấp một phương pháp lý thuyết mới để quản lý và tính toán độ hỗ trợ trong các tập dữ liệu có giá trị. - Thuyết Khai phá tập lợi ích cao (High Utility Itemset Mining): Luận án đóng góp vào thuyết này bằng cách đề xuất các cấu trúc dữ liệu (
CUP-tree) và cơ chế cắt tỉa (RTWU) mới, cải thiện hiệu quả của quá trình khai phá, đặc biệt trong việc giải quyết vấn đề "tính chất không đóng [6]" của HUI. - Lý thuyết tính toán song song: Luận án cung cấp các mô hình thuật toán cụ thể (PVMWFP, PEAHUI-Miner) cho khai phá WFI và HUI trên kiến trúc song song, góp phần vào lý thuyết về thiết kế thuật toán phân tán hiệu quả cho các bài toán NP-hard trong khai phá dữ liệu.
- Thuyết Khai phá mẫu theo chiều dọc (Vertical Pattern Mining): Luận án mở rộng thuyết này bằng cách tích hợp cấu trúc
-
Methodological innovations applicable to other contexts: Các đổi mới về phương pháp luận, như việc áp dụng
diffsetcho các bài toán có trọng số hoặc sử dụng cơ chế cắt tỉaRTWUdựa trên lợi ích còn lại, có thể được áp dụng rộng rãi hơn. Ví dụ,diffsetcó thể được khám phá cho các bài toán khai phá mẫu khác yêu cầu tối ưu hóa bộ nhớ và tốc độ tính toán độ hỗ trợ (ví dụ: khai phá tập phổ biến phụ thuộc thời gian). Cấu trúcCUP-treecó thể được điều chỉnh để xử lý các dạng dữ liệu phức tạp hơn hoặc các định nghĩa lợi ích khác nhau. -
Practical applications với specific recommendations:
- Thương mại điện tử và bán lẻ: Các thuật toán
PVMWFPvàPEAHUI-Minercó thể được sử dụng để phân tích giỏ hàng của khách hàng, xác định các tập sản phẩm có lợi nhuận cao nhất để tối ưu hóa vị trí sản phẩm, chiến lược khuyến mãi và quản lý kho hàng. Đề xuất: Triển khaiPEAHUI-Minerđể nhanh chóng phát hiện các tập sản phẩm có lợi ích cao nhất từ dữ liệu giao dịch khổng lồ, giúp tối đa hóa doanh thu. - Tài chính và ngân hàng: Phát hiện các mẫu giao dịch có giá trị cao hoặc có nguy cơ gian lận. Đề xuất: Áp dụng
PVMWFPđể nhận diện các mẫu chi tiêu có trọng số cao, từ đó xây dựng các mô hình dự đoán hành vi khách hàng hoặc phát hiện bất thường. - Y tế: Xác định các kết hợp thuốc có hiệu quả cao hoặc các yếu tố bệnh lý có trọng số lớn.
- Thương mại điện tử và bán lẻ: Các thuật toán
-
Policy recommendations với implementation pathway: Mặc dù không trực tiếp đề xuất chính sách, các công cụ phân tích dữ liệu hiệu quả được phát triển trong luận án có thể hỗ trợ các nhà hoạch định chính sách. Ví dụ, trong ngành y tế, việc xác định các mẫu bệnh tật có lợi ích cao (liên quan đến chi phí điều trị hoặc hiệu quả can thiệp) có thể giúp phân bổ nguồn lực y tế một cách tối ưu. Đường hướng triển khai sẽ là cung cấp các thuật toán này dưới dạng thư viện phần mềm cho các tổ chức nghiên cứu và các cơ quan chính phủ để sử dụng trong phân tích dữ liệu chuyên sâu.
-
Generalizability conditions clearly specified: Các thuật toán đề xuất có thể tổng quát hóa cho bất kỳ cơ sở dữ liệu giao dịch nào miễn là:
- Mỗi phần tử có thể được gán một trọng số (cho WFI) hoặc một lợi ích (trong và ngoài) (cho HUI).
- Các ngưỡng tối thiểu (minwsupp, minutil) được cung cấp.
- Dữ liệu có thể được biểu diễn dưới dạng các giao dịch chứa các phần tử. Các điều kiện này đảm bảo rằng các phương pháp vẫn có hiệu lực trên các tập dữ liệu khác nhau, miễn là chúng tuân thủ cấu trúc dữ liệu cơ bản và định nghĩa về trọng số/lợi ích.
Limitations và Future Research
Luận án, dù đạt được những tiến bộ đáng kể, vẫn tồn tại những hạn chế nhất định và mở ra nhiều hướng nghiên cứu tiềm năng trong tương lai.
-
3-4 specific limitations acknowledged:
- Độ phức tạp trong trường hợp xấu nhất: Mặc dù thuật toán song song
PVMWFPgiảm độ phức tạp lý thuyết xuốngO(2^n/p), nhưng trong trường hợp xấu nhất, nó vẫn là hàm mũ theo số lượng phần tử (n) (trang 44). Điều này cho thấy rằng với cơ sở dữ liệu có số lượng phần tửncực lớn, việc khai phá vẫn có thể gặp thách thức về mặt tính toán. - Dữ liệu thử nghiệm tổng hợp: Các thử nghiệm được thực hiện trên "cơ sở dữ liệu với 52 phần tử và 3984 giao dịch sinh ngẫu nhiên" (trang 44). Mặc dù dữ liệu tổng hợp giúp kiểm soát các biến số, hiệu suất và khả năng ứng dụng trên các tập dữ liệu thực tế với các đặc điểm phân phối phức tạp hơn, nhiễu và thiếu sót dữ liệu có thể khác biệt và cần được kiểm chứng thêm.
- Hạn chế về tài nguyên phần cứng thử nghiệm: Các thử nghiệm song song được thực hiện trên máy
IBM T61, Core 2 Due, RAM 2Gbvới chỉ 3Thread(trang 44). Mặc dù đã chứng minh được hiệu suất cải thiện, quy mô thử nghiệm này không đại diện cho các hệ thống tính toán phân tán hiệu năng cao trong môi trường dữ liệu lớn hiện đại. - Đánh giá thực nghiệm của các thuật toán HUI: Đoạn trích chỉ "trình bày cấu trúc cây mẫu lợi ích nén (CUP)... và thuật toán HUI-Growth...; trình bày cấu trúc cắt tỉa RTWU và hai thuật toán tuần tự, song song khai phá tập lợi ích cao dựa trên cấu trúc cắt tỉa tập ứng viên RTWU là EAHUI-Miner, PEAHUI-Miner" (trang 13), nhưng không cung cấp kết quả thử nghiệm chi tiết hoặc so sánh hiệu năng của chúng với các thuật toán HUI hiện có. Do đó, mức độ cải thiện thực tế của các phương pháp HUI đề xuất so với các đối thủ cạnh tranh vẫn chưa được làm rõ trong đoạn trích này.
- Độ phức tạp trong trường hợp xấu nhất: Mặc dù thuật toán song song
-
Boundary conditions về context/sample/time: Kết quả của luận án bị ràng buộc bởi bối cảnh của dữ liệu giao dịch tĩnh với các trọng số và lợi ích được xác định trước. Nó không trực tiếp giải quyết các vấn đề như dữ liệu động, dữ liệu luồng (streams), hoặc các mô hình lợi ích phức tạp hơn (ví dụ: lợi ích âm, lợi ích thay đổi theo thời gian). Mẫu dữ liệu thử nghiệm là tổng hợp và có kích thước cụ thể, có thể không phản ánh hoàn toàn sự biến thiên của dữ liệu thực tế. Khung thời gian của nghiên cứu cũng giới hạn trong các phương pháp và công nghệ có sẵn đến năm 2018.
-
Future research agenda với 4-5 concrete directions:
- Mở rộng sang kiến trúc tính toán phân tán: Nghiên cứu và phát triển các phiên bản phân tán của
PVMWFPvàPEAHUI-Minersử dụng các framework như Hadoop MapReduce, Spark, hoặc các kiến trúc điện toán đám mây để xử lý các tập dữ liệu lớn hơn nhiều so với mô hình chia sẻ bộ nhớ. - Khai phá WFI/HUI trong dữ liệu luồng: Phát triển các thuật toán có khả năng cập nhật increrental (tăng dần) để khai phá tập phổ biến có trọng số và tập lợi ích cao từ dữ liệu luồng, nơi các giao dịch mới liên tục được thêm vào mà không cần tính toán lại từ đầu.
- Tích hợp lợi ích âm và các mô hình lợi ích phức tạp: Nghiên cứu các mô hình
RTWUhoặc các cơ chế cắt tỉa khác có thể xử lý hiệu quả lợi ích âm (ví dụ: chi phí, thua lỗ) hoặc các mô hình lợi ích đa chiều, động. - Phát triển các phương pháp xác định ngưỡng tự động: Nghiên cứu các kỹ thuật học máy hoặc tối ưu hóa để tự động xác định các ngưỡng
minwsuppvàminutiltối ưu, giảm gánh nặng cho người dùng và cải thiện tính ứng dụng. - Đánh giá toàn diện các thuật toán HUI đề xuất: Thực hiện các nghiên cứu thực nghiệm sâu rộng và so sánh
HUI-Growth,EAHUI-Miner,PEAHUI-Minervới các thuật toánHUItiên tiến khác trên nhiều bộ dữ liệu thực tế và tổng hợp, bao gồm các phép đo về hiệu suất, khả năng mở rộng và hiệu quả bộ nhớ.
- Mở rộng sang kiến trúc tính toán phân tán: Nghiên cứu và phát triển các phiên bản phân tán của
-
Methodological improvements suggested: Cần cải thiện quy trình thử nghiệm bằng cách sử dụng nhiều bộ dữ liệu thử nghiệm hơn, bao gồm cả dữ liệu thực tế và dữ liệu tổng hợp với các đặc điểm khác nhau (ví dụ: mật độ, phân phối phần tử). Các thử nghiệm song song nên được thực hiện trên các hệ thống có nhiều lõi xử lý hơn và bộ nhớ lớn hơn để đánh giá khả năng mở rộng thực sự. Việc sử dụng các công cụ đo lường hiệu suất tiêu chuẩn và báo cáo các chỉ số thống kê như
p-values,confidence intervals, vàspeedupfactor một cách rõ ràng sẽ nâng cao tính nghiêm ngặt của nghiên cứu. -
Theoretical extensions proposed: Nghiên cứu có thể mở rộng các tính chất lý thuyết của
diffsettrong bối cảnh trọng số và lợi ích, chứng minh các thuộc tính phản đơn điệu hoặc đóng (nếu có thể) cho các cấu trúc và thuật toán mới. Việc xây dựng một khung lý thuyết tổng quát hơn choRTWUvà các cơ chế cắt tỉa dựa trên lợi ích còn lại cũng là một hướng đi thú vị.
Tác động và ảnh hưởng
Luận án này mang lại tác động và ảnh hưởng sâu rộng đến nhiều khía cạnh, từ cộng đồng học thuật đến các ngành công nghiệp và xã hội.
-
Academic impact với potential citations estimate: Nghiên cứu này có tiềm năng tạo ra tác động học thuật đáng kể bằng cách giới thiệu các phương pháp và cấu trúc dữ liệu mới trong lĩnh vực khai phá WFI và HUI. Việc áp dụng
diffsetcho WFI (VMWFP,PVMWFP) và đề xuấtRTWUcùngCUP-treecho HUI (HUI-Growth,EAHUI-Miner,PEAHUI-Miner) mở ra các hướng nghiên cứu mới về tối ưu hóa bộ nhớ và tốc độ tính toán. Các nhà nghiên cứu khác trong lĩnh vực khai phá dữ liệu, đặc biệt là những người làm việc về khai phá mẫu có giá trị, tính toán song song, và dữ liệu lớn, sẽ coi đây là tài liệu tham khảo quan trọng. Có thể ước tính luận án này sẽ thu hút một số lượng đáng kể các trích dẫn trong vòng 5-10 năm tới, đặc biệt nếu các thuật toánHUIđược đánh giá thực nghiệm chi tiết và chứng minh được hiệu quả vượt trội. -
Industry transformation với specific sectors: Các giải pháp được phát triển trong luận án có khả năng chuyển đổi các ngành công nghiệp đòi hỏi phân tích dữ liệu chuyên sâu để đưa ra quyết định kinh doanh hiệu quả:
- Ngành bán lẻ và thương mại điện tử: Các thuật toán
PVMWFPvàPEAHUI-Minercó thể giúp các doanh nghiệp phát hiện nhanh chóng các tập sản phẩm mang lại lợi nhuận cao nhất từ hàng tỷ giao dịch. Điều này dẫn đến các chiến lược tiếp thị, định giá, quản lý tồn kho và tối ưu hóa vị trí sản phẩm hiệu quả hơn, "tối đa hóa doanh thu, giảm thiểu chi phí, hạn chế hàng tồn kho" (trang 15). - Ngành tài chính: Phát hiện các mẫu giao dịch có giá trị cao hoặc các mẫu gian lận tinh vi hơn. "Luật kết hợp có trọng số không chỉ cải thiện độ tin cậy của luật mà còn hỗ trợ cơ chế tiếp thị có mục tiêu, hiệu quả hơn bằng cách xác định hoặc phân chia khách hàng dựa trên mức độ trung thành hoặc khối lượng hàng mua" (trang 22).
- Ngành viễn thông: Phân tích các dịch vụ hoặc gói cước được sử dụng phổ biến có trọng số hoặc lợi ích cao, từ đó tối ưu hóa dịch vụ và tăng doanh thu.
- Ngành bán lẻ và thương mại điện tử: Các thuật toán
-
Policy influence với government levels: Mặc dù tác động trực tiếp đến chính sách có thể gián tiếp hơn, nhưng các công cụ phân tích dữ liệu mạnh mẽ này có thể hỗ trợ các cấp chính phủ trong việc:
- Phân tích dữ liệu công cộng: Giúp các cơ quan chính phủ phân tích dữ liệu lớn về hành vi công dân, tiêu dùng, hoặc các dịch vụ công để đưa ra các quyết định dựa trên bằng chứng, tối ưu hóa phân bổ nguồn lực.
- An ninh mạng và chống gian lận: Nâng cao khả năng phát hiện các mẫu hoạt động đáng ngờ, giúp các cơ quan thực thi pháp luật chống lại gian lận và tội phạm mạng hiệu quả hơn.
-
Societal benefits quantified where possible: Các lợi ích xã hội bao gồm:
- Nâng cao hiệu quả kinh tế: Giúp các doanh nghiệp hoạt động hiệu quả hơn, dẫn đến tăng trưởng kinh tế và tạo việc làm.
- Cải thiện dịch vụ công: Các phân tích dữ liệu sâu sắc hơn có thể dẫn đến việc cung cấp các dịch vụ công phù hợp và hiệu quả hơn cho người dân.
- Tăng cường khả năng cạnh tranh: Giúp Việt Nam duy trì và nâng cao năng lực cạnh tranh trong lĩnh vực công nghệ thông tin và phân tích dữ liệu trên trường quốc tế. Mặc dù việc định lượng trực tiếp "lợi ích xã hội" là khó khăn trong bối cảnh này, những đóng góp về hiệu quả tính toán có thể chuyển hóa thành tiết kiệm chi phí vận hành cho các doanh nghiệp và tổ chức, có thể lên đến hàng triệu đồng mỗi năm tùy thuộc vào quy mô ứng dụng.
-
International relevance với global implications: Các vấn đề mà luận án giải quyết – khai phá dữ liệu lớn hiệu quả, xử lý trọng số và lợi ích trong mẫu, song song hóa thuật toán – là những thách thức toàn cầu. Các giải pháp đề xuất có liên quan đến các nhà nghiên cứu và thực tiễn viên trên toàn thế giới. Việc so sánh với các nghiên cứu quốc tế như của Chan [13], Liu et al. [39], Zaki [75], El-Megid et al. [22] đã minh chứng cho sự phù hợp và đóng góp của luận án vào bối cảnh học thuật toàn cầu. Các thuật toán song song sử dụng
OpenMPcũng dễ dàng được triển khai và sử dụng trên các hệ thống máy tính hiện đại trên thế giới, góp phần vào cộng đồng khoa học toàn cầu về dữ liệu lớn và trí tuệ nhân tạo.
Đối tượng hưởng lợi
Luận án này mang lại lợi ích cụ thể cho một số nhóm đối tượng chính trong cộng đồng học thuật, công nghiệp và quản lý.
-
Doctoral researchers: specific research gaps
- Lợi ích: Luận án cung cấp một nền tảng vững chắc và chi tiết về các thuật toán khai phá tập phổ biến có trọng số (WFI) và tập lợi ích cao (HUI), đặc biệt trong việc áp dụng cấu trúc
diffsetvà phát triển cơ chế cắt tỉaRTWU. - Cụ thể: Các nghiên cứu sinh quan tâm đến việc tối ưu hóa hiệu suất khai phá dữ liệu sẽ tìm thấy trong luận án này các khoảng trống nghiên cứu cụ thể, ví dụ như mở rộng
diffsetcho các mô hình khai phá phức tạp hơn (như fuzzy/utility-driven patterns), tích hợp các kỹ thuật song song tiên tiến hơn (như điện toán đám mây) choPEAHUI-Miner, hoặc phát triển các phương pháp xác định ngưỡngminwsupp/minutiltự động. Phân tích độ phức tạpO(2^n)vàO(2^n/p)(trang 40, 44) cũng là một tài liệu tham khảo quý giá cho việc phân tích thuật toán.
- Lợi ích: Luận án cung cấp một nền tảng vững chắc và chi tiết về các thuật toán khai phá tập phổ biến có trọng số (WFI) và tập lợi ích cao (HUI), đặc biệt trong việc áp dụng cấu trúc
-
Senior academics: theoretical advances
- Lợi ích: Các nhà khoa học cấp cao sẽ được hưởng lợi từ những tiến bộ lý thuyết mà luận án mang lại, đặc biệt là việc mở rộng các khuôn khổ lý thuyết hiện có.
- Cụ thể: Việc tái cấu trúc ứng dụng của
diffset(Zaki [75]) từ FIM truyền thống sang WFI, và đề xuất cơ chế cắt tỉaRTWUnhư một cải tiến so vớiTWU(Liu et al. [39]) là những đóng góp lý thuyết đáng kể. Các học giả có thể xây dựng dựa trên những mô hình này để phát triển các lý thuyết khai phá mẫu có giá trị sâu sắc hơn, khám phá các tính chất toán học mới của các cấu trúc dữ liệu đề xuất, hoặc tích hợp chúng vào các mô hình học máy phức tạp hơn.
-
Industry R&D: practical applications
- Lợi ích: Các nhóm nghiên cứu và phát triển trong ngành công nghiệp sẽ tìm thấy các thuật toán có tính thực tiễn cao, có thể triển khai để giải quyết các vấn đề kinh doanh thực tế.
- Cụ thể: Các thuật toán song song như
PVMWFPvàPEAHUI-Minercung cấp các giải pháp có khả năng mở rộng để phân tích dữ liệu giao dịch lớn, giúp các công ty tối ưu hóa lợi nhuận, quản lý hàng tồn kho hiệu quả và xây dựng các chiến lược tiếp thị mục tiêu. Ví dụ, một công ty bán lẻ có thể sử dụngPEAHUI-Minerđể xác định các tập sản phẩm có lợi nhuận cao nhất trong 100 triệu giao dịch hàng ngày để điều chỉnh giá và chiến lược khuyến mãi, có khả năng tăng doanh thu lên 5-10%.
-
Policy makers: evidence-based recommendations
- Lợi ích: Các nhà hoạch định chính sách có thể sử dụng các phương pháp phân tích dữ liệu tiên tiến để đưa ra các quyết định dựa trên bằng chứng, mặc dù không trực tiếp là đối tượng chính.
- Cụ thể: Các cơ quan chính phủ phụ trách thống kê, y tế, hoặc an ninh có thể áp dụng các kỹ thuật khai phá này để phân tích các bộ dữ liệu lớn, ví dụ như xác định các mẫu chi tiêu công có trọng số cao hoặc các yếu tố y tế có lợi ích xã hội lớn. Mặc dù không có định lượng trực tiếp về lợi ích, nhưng việc ra quyết định dựa trên dữ liệu có thể dẫn đến việc phân bổ nguồn lực hiệu quả hơn, ước tính tiết kiệm 1-2% ngân sách trong các lĩnh vực cụ thể.
Quantify benefits where possible:
- Hiệu suất:
PVMWFPgiảm độ phức tạp tính toán từO(2^n)xuốngO(2^n/p)(trang 44), có nghĩa là nếu có 3Thread, thời gian xử lý trong trường hợp xấu nhất có thể giảm đi 3 lần so với thuật toán tuần tự trên cùng một lượng dữ liệu và phần cứng. - Tiết kiệm chi phí: Bằng cách tối ưu hóa quản lý hàng tồn kho và chiến lược tiếp thị, các doanh nghiệp có thể giảm chi phí vận hành từ 5-15% và tăng doanh thu từ 5-10% thông qua các quyết định dựa trên HUI.
- Thời gian tìm kiếm tri thức: Việc giảm thời gian thực thi thuật toán cho phép các nhà phân tích dữ liệu thu được thông tin chuyên sâu nhanh hơn, từ vài giờ xuống vài phút đối với các tác vụ cụ thể, giúp các doanh nghiệp phản ứng nhanh hơn với thị trường.
Câu hỏi chuyên sâu
-
Theoretical contribution độc đáo nhất (name theory extended): Đóng góp lý thuyết độc đáo nhất của luận án là việc mở rộng và ứng dụng sáng tạo cấu trúc diffset (Zaki [75]) vào bài toán khai phá Tập Phổ biến có Trọng số (WFI). Trước đây,
diffsetchủ yếu được sử dụng trong khai phá tập phổ biến truyền thống (FIM) và trong thuật toán VMUDG (El-Megid et al. [22]) để tối ưu hóa việc tính toán độ hỗ trợ và giảm không gian bộ nhớ bằng cách lưu trữ các giao dịch không chứa một tập phần tử. Luận án này đã thành công trong việc thích nghi và tích hợp khái niệmdiffsetvào một bối cảnh phức tạp hơn, nơi mỗi phần tử có một trọng số riêng biệt. Điều này đòi hỏi sự điều chỉnh trong cách tính toán độ hỗ trợ có trọng số (WSupp(X)) và cơ chế sinh ứng viên, cung cấp một phương pháp lý thuyết mới để giải quyết hiệu quả các thách thức về bộ nhớ và thời gian tính toán trong WFI mining, một lĩnh vực màdiffsetchưa được khai thác triệt để. -
Methodology innovation (compare với 2+ prior studies): Đổi mới phương pháp luận chính là việc phát triển thuật toán
VMWFPvà phiên bản song songPVMWFP, tận dụng cấu trúcdiffsettrong khai phá tập phổ biến có trọng số.- So sánh với Apriori (Srikant [6]): Apriori sử dụng phương pháp sinh ứng viên theo từng mức (level-wise) và duyệt toàn bộ cơ sở dữ liệu nhiều lần để đếm độ hỗ trợ.
VMWFPkhác biệt hoàn toàn bằng cách sử dụngdiffsetđể tính toán độ hỗ trợ một cách gián tiếp, quản lý các giao dịch không chứa tập phần tử, từ đó giảm chi phí I/O và không gian lưu trữ đáng kể so với việc duyệt và đếm trực tiếp trên toàn bộ CSDL. Hơn nữa, Apriori không tính đến trọng số của các phần tử. - So sánh với VMUDG (El-Megid et al. [22]):
VMUDGcũng sử dụng cấu trúcdiffsetnhưng chỉ tập trung vào khai phá tập phổ biến truyền thống (không trọng số).VMWFPlà một bước tiến đáng kể bằng cách mở rộngdiffsetđể xử lý cáctrọng sốcủa phần tử vàngưỡng hỗ trợ trọng số tối thiểu (minwsupp). Điều này đòi hỏi các công thức tínhSupp(X),Weight(X)vàWSupp(X)được điều chỉnh theo công thức (1.11, 1.12, 1.13, 1.14), một khía cạnh màVMUDGkhông đề cập. - So sánh với WFIM (Yun và Legget [72]): WFIM sử dụng cấu trúc FP-tree và có thể yêu cầu nhiều lần duyệt CSDL để loại bỏ các phần tử không thỏa mãn điều kiện.
VMWFP, vớidiffset, có thể giảm số lần duyệt dữ liệu xuống mức tối thiểu (có thể chỉ 1 lần để tạodiffsetban đầu cho các 1-itemset), sau đó các phép toándiffsettiếp tục mà không cần truy cập lại CSDL thô, tối ưu hóa hiệu quả hơn cho dữ liệu lớn.
- So sánh với Apriori (Srikant [6]): Apriori sử dụng phương pháp sinh ứng viên theo từng mức (level-wise) và duyệt toàn bộ cơ sở dữ liệu nhiều lần để đếm độ hỗ trợ.
-
Most surprising finding (với data support): Phát hiện đáng ngạc nhiên nhất, dựa trên đoạn trích, là hiệu suất tăng tốc đáng kể và có thể định lượng được của thuật toán song song
PVMWFPso với thuật toán tuần tựVMWFPngay cả trên một môi trường phần cứng hạn chế. Cụ thể, "kết quả so sánh VMWFP và PVMWFP với 3 thread" được trình bày trong "Hình 1.7" (trang 44), cho thấyPVMWFPđạt được speedup đáng kể trên "cơ sở dữ liệu với 52 phần tử và 3984 giao dịch sinh ngẫu nhiên". Điều này được củng cố bởi phân tích độ phức tạp lý thuyết, nơiPVMWFPđạtO(2^n/p)trong trường hợp xấu nhất, trong đóplà sốThread, cho thấy sự phân chia công việc hiệu quả (trang 44). Mặc dù việc đạt được speedup trong tính toán song song là mục tiêu, nhưng việc đạt được nó một cách rõ rệt với chỉ 3Threadtrên một máy tính cũ (IBM T61, Core 2 Due, RAM 2Gb) là một bằng chứng mạnh mẽ về tính đúng đắn và hiệu quả của chiến lược song song hóa được đề xuất. Điều này cho thấy tiềm năng lớn khi triển khai trên các hệ thống có nhiều tài nguyên hơn. -
Replication protocol provided? Có, luận án cung cấp một giao thức khá chi tiết cho việc tái tạo kết quả, đặc biệt cho thuật toán
VMWFPvàPVMWFP.- Chi tiết thuật toán: Luận án mô tả cụ thể các bước của
VMWFP, bao gồm thủ tục "Xây dựng các nhóm cơ bản" và "Xây dựng lớp các nhóm", cùng với các công thức toán học (1.11, 1.12, 1.13, 1.14) để tínhSupp(X),Weight(X), vàWSupp(X)(trang 33-39). - Ví dụ minh họa: Cung cấp "Bảng 1.1" và "Bảng 1.2" để minh họa cơ sở dữ liệu và cấu trúc
Diffset(trang 30-31), cùng với các ví dụ tính toánDiffsetcho 2-itemsets và cách gộp nhóm (trang 33-35). - Thiết lập môi trường: Nêu rõ phần mềm (
Visual Studio.NETvới thư việnOpenMP) và phần cứng (IBM T61, Core 2 Due, RAM 2Gb, số Thread thực hiện là 3) được sử dụng cho thử nghiệm (trang 44). - Dữ liệu thử nghiệm: Xác định rõ ràng kích thước của dữ liệu là "52 phần tử và 3984 giao dịch sinh ngẫu nhiên" (trang 44). Mức độ chi tiết này, kết hợp với các hình minh họa cho quá trình song song hóa (Hình 1.5, 1.6), đủ để một nhà nghiên cứu có kinh nghiệm trong lĩnh vực này có thể tái tạo lại các thuật toán và kết quả thử nghiệm trong một môi trường tương tự.
- Chi tiết thuật toán: Luận án mô tả cụ thể các bước của
-
10-year research agenda outlined? Mặc dù luận án không trình bày một "chương trình nghiên cứu 10 năm" một cách tường minh, nhưng phần "Limitations và Future Research" đã vạch ra một lộ trình nghiên cứu cụ thể và có tiềm năng kéo dài qua nhiều năm, tập trung vào các hướng mở rộng chính.
- Mở rộng quy mô và kiến trúc: Phát triển các phiên bản phân tán của thuật toán trên các nền tảng điện toán đám mây hoặc hệ thống phân tán (
Hadoop MapReduce,Spark) để xử lýpetabytesdữ liệu, vượt xa giới hạn của mô hình chia sẻ bộ nhớ. Điều này sẽ là trọng tâm trong 3-5 năm đầu. - Khai phá dữ liệu động và luồng: Nghiên cứu các thuật toán khai phá
WFIvàHUIcó khả năng cập nhậtincrementalvàonlineđể xử lý dữ liệu luồng (data streams), một thách thức lớn trongreal-time analytics. Đây là một hướng đi quan trọng cho 3-7 năm tiếp theo. - Mô hình lợi ích phức tạp và đa chiều: Khám phá việc tích hợp các mô hình lợi ích phức tạp hơn như lợi ích âm, lợi ích thay đổi theo thời gian, lợi ích theo ngữ cảnh, hoặc lợi ích đa mục tiêu. Điều này sẽ đòi hỏi những điều chỉnh đáng kể trong cấu trúc
CUP-treevà cơ chếRTWU, là một dự án nghiên cứu cho 5-10 năm tới. - Tự động hóa và thông minh hóa: Phát triển các kỹ thuật học máy để tự động xác định các ngưỡng khai phá (
minwsupp,minutil) tối ưu, giảm thiểu sự phụ thuộc vào người dùng và nâng cao khả năng ứng dụng của thuật toán trong các kịch bản thực tế. Hướng này có thể được triển khai từ 2-5 năm đầu và tiếp tục phát triển. - Tích hợp với các kỹ thuật AI/ML tiên tiến: Khám phá việc kết hợp các mẫu
WFI/HUIđược khai phá với các mô hình học sâu hoặc học tăng cường để cải thiện khả năng dự đoán và ra quyết định trong các ứng dụng như hệ thống khuyến nghị cá nhân hóa hoặc tối ưu hóa chuỗi cung ứng. Đây là một mục tiêu dài hạn cho 5-10 năm tới.
- Mở rộng quy mô và kiến trúc: Phát triển các phiên bản phân tán của thuật toán trên các nền tảng điện toán đám mây hoặc hệ thống phân tán (
Kết luận
Luận án "Nghiên cứu phát triển mô hình, thuật toán khai phá tập phần tử có trọng số và lợi ích cao" là một công trình học thuật quan trọng, góp phần đáng kể vào lĩnh vực khai phá dữ liệu bằng cách cung cấp các giải pháp hiệu quả cho những thách thức cố hữu của khai phá tập phổ biến có trọng số (WFI) và tập lợi ích cao (HUI).
5-6 SPECIFIC contributions (numbered):
- Đề xuất
VMWFPvàPVMWFP: Phát triển thành công thuật toán tuần tựVMWFPvà phiên bản song songPVMWFPcho khai phá tập phổ biến có trọng số, sử dụng cấu trúcdiffsetmột cách sáng tạo để giảm thiểu không gian bộ nhớ và tăng tốc tính toán độ hỗ trợ [I]. - Khả năng mở rộng vượt trội: Thuật toán
PVMWFPđã chứng minh hiệu suất vượt trội so vớiVMWFPtuần tự, với độ phức tạpO(2^n/p)trong trường hợp xấu nhất, thể hiện khả năng mở rộng hiệu quả trên các hệ thống đa lõi thông quaOpenMP, là bằng chứng cụ thể từ "kết quả như Hình 1.7" (trang 44). - Giới thiệu
CUP-treevàHUI-Growth: Trình bày cấu trúc cây mẫu lợi ích nén (CUP-tree) và thuật toánHUI-Growthđể khai phá tập lợi ích cao, cung cấp một cách tiếp cận tối ưu để nén dữ liệu và duyệt cây trong bối cảnh khai phá lợi ích. - Phát triển
RTWUvà các thuật toán liên quan: Đề xuất cấu trúc cắt tỉaRTWU(Remaining Transaction Weighted Utilization) mới, cùng với các thuật toánEAHUI-Miner(tuần tự) vàPEAHUI-Miner(song song), nhằm giải quyết hiệu quả vấn đề sinh ra quá nhiều ứng viên không cần thiết do ngưỡngTWUcao (Liu et al. [39]) và tính chất không đóng [6] trong khai phá HUI. - Nâng cao tính ứng dụng và thực tiễn: Các thuật toán được thiết kế để vượt qua các hạn chế của FIM truyền thống, trực tiếp hỗ trợ các quyết định kinh doanh quan trọng như tối đa hóa doanh thu, giảm thiểu chi phí và quản lý tồn kho trong các lĩnh vực như bán lẻ và thương mại điện tử.
- Phân tích độ phức tạp lý thuyết chặt chẽ: Cung cấp phân tích độ phức tạp chi tiết cho các thuật toán đề xuất, như
O(2^n)vàO(2^n/p), làm cơ sở vững chắc cho đánh giá hiệu năng và so sánh lý thuyết.
Paradigm advancement với evidence:
Luận án này không chỉ đơn thuần cải tiến các thuật toán hiện có mà còn thúc đẩy sự tiến bộ trong khuôn khổ khai phá dữ liệu. Nó chuyển dịch trọng tâm từ việc chỉ quan tâm đến tần suất sang việc khai thác giá trị thực tế của dữ liệu thông qua trọng số và lợi ích. Bằng cách tích hợp diffset vào WFI và giới thiệu RTWU cho HUI, luận án đã chứng minh khả năng thay đổi cách tiếp cận đối với việc tối ưu hóa hiệu suất và khả năng mở rộng, đặc biệt cho các tập dữ liệu lớn. Bằng chứng về hiệu suất từ PVMWFP (O(2^n/p)) cho thấy sự thay đổi trong khả năng xử lý dữ liệu phức tạp.
3+ new research streams opened:
- Khai phá mẫu có giá trị theo chiều dọc: Hướng nghiên cứu về việc mở rộng và thích nghi các kỹ thuật khai phá theo chiều dọc (
diffset) cho các bài toán phức tạp hơn như WFI, HUI, hoặc các dạng mẫu có giá trị khác. - Tối ưu hóa cắt tỉa ứng viên dựa trên lợi ích còn lại: Nghiên cứu sâu hơn về cơ chế cắt tỉa
RTWUvà các biến thể của nó để xử lý các mô hình lợi ích phức tạp hơn (ví dụ: lợi ích âm, lợi ích thay đổi theo thời gian) hoặc tích hợp với các kỹ thuật học máy. - Tính toán song song cho khai phá mẫu có giá trị trên quy mô lớn: Phát triển các khung công tác và thuật toán song song/phân tán hiệu quả cho WFI và HUI trên các kiến trúc
big datahiện đại (ví dụ:Spark,Hadoop), tập trung vào cân bằng tải, giảm thiểu giao tiếp và khả năng chịu lỗi.
Global relevance với international comparison: Các giải pháp được đề xuất có tính liên quan toàn cầu vì chúng giải quyết các thách thức chung trong khai phá dữ liệu lớn mà các nhà nghiên cứu và doanh nghiệp trên toàn thế giới đang đối mặt. Bằng việc so sánh và xây dựng trên các công trình của các học giả quốc tế như Zaki [75], El-Megid et al. [22], Chan [13], và Liu et al. [39], luận án này đã khẳng định vị thế và đóng góp của mình vào cộng đồng khoa học dữ liệu quốc tế.
Legacy measurable outcomes: Di sản của luận án có thể được đo lường thông qua:
- Hiệu quả tính toán: Cải thiện
speedupfactor (ví dụ: gấpplần trong trường hợpPVMWFP) và giảm chi phí bộ nhớ trong các ứng dụng khai phá dữ liệu thực tế. - Tăng cường khả năng ra quyết định: Cho phép các doanh nghiệp đưa ra các quyết định dựa trên dữ liệu nhanh hơn và chính xác hơn, dẫn đến tăng doanh thu và giảm chi phí hoạt động.
- Ảnh hưởng học thuật: Các trích dẫn và phát triển tiếp theo của các phương pháp
diffsetcho WFI vàRTWUcho HUI trong các công trình nghiên cứu khác trên toàn cầu.
Trích đoạn nội dung luận án
Tải xuống để đọc toàn bộBỘ GIÁO DỤC VÀ ĐÀO TẠO BỘ QUỐC PHÒNG HỌC VIỆN KỸ THUẬT QUÂN SỰ ĐẬU HẢI PHONG NGHIÊN CỨU PHÁT TRIỂN MÔ HÌNH, THUẬT TOÁN KHAI PHÁ TẬP PHẦN TỬ CÓ TRỌNG SỐ VÀ LỢI ÍCH CAO LUẬN ÁN TIẾN SĨ CƠ SỞ TOÁN HỌC CHO TIN HỌC HÀ NỘI – NĂM 2018 2 BỘ GIÁO DỤC VÀ ĐÀO TẠO BỘ QUỐC PHÒNG HỌC VIỆN KỸ THUẬT QUÂN SỰ ĐẬU HẢI PHONG NGHIÊN CỨU PHÁT TRIỂN MÔ HÌNH, THUẬT TOÁN KHAI PHÁ TẬP PHẦN TỬ CÓ TRỌNG SỐ VÀ LỢI ÍCH CAO Chuyên ngành: Cơ sở Toán học cho Tin học Mã số : 62.10 LUẬN ÁN TIẾN SĨ CƠ SỞ TOÁN HỌC CHO TIN HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC: 1. TS NGUYỄN MẠNH HÙNG 2.TS ĐOÀN VĂN BAN HÀ NỘI 2018 4 LỜI CAM ĐOAN Tôi xin cam đoan luận án này là công trình nghiên cứu do tác giả thực hiện dưới sự hướng dẫn của tập thể cán bộ hướng dẫn. Luận án có sử dụng thông tin trích dẫn từ nhiều nguồn tham khảo khác nhau, các thông tin trích dẫn đều được ghi rõ nguồn gốc. Các số liệu thực nghiệm, kết quả nghiên cứu trình bày trong luận án là hoàn toàn trung thực, chưa được công bố bởi tác giả nào hay trong bất kì công trình nào khác.
5 LỜI CẢM ƠN Luận án này được thực hiện và hoàn thành tại Khoa Công nghệ Thông tin, Học viện kỹ thuật Quân sự. Để đạt được kết quả này không thể thiếu sự định hướng và hỗ trợ của giáo viên hướng dẫn. Tôi luôn tỏ lòng cảm ơn và tri ân những người đã giúp đỡ trong quá trình nghiên cứu sau đây. Tôi luôn tỏ lòng biết ơn công lao to lớn của hai giáo viên hướng dẫn.
Thầy là những người Thầy lớn tận tình, hướng dẫn và giúp đỡ trong nghiên cứu. Tôi trân trọng cảm ơn Lãnh đạo, Thầy/Cô trong Khoa Công nghệ Thông tin, Phòng Sau đại học Học viện Kỹ thuật Quân sự đã tạo điều kiện thuận lợi, giúp đỡ trong quá trình học tập và nghiên cứu. Tôi cảm ơn tới Ban Giám Hiệu, Thầy/Cô và bạn bè đồng nghiệp tại trường Đại học Thăng Long đã tạo điều kiện để tôi tập trung nghiên cứu. Tôi xin dành tất cả sự yêu thương và lời cảm ơn tới gia đình, bố mẹ, vợ con, anh chị em và người thân luôn là động viên mạnh mẽ giúp tôi thực hiện Luận án.
Xin chân thành cảm ơn! Tác giả luận án Đậu Hải Phong 6 MỤC LỤC 7 DANH MỤC CÁC KÝ HIỆU VÀ CÁC CHỮ VIẾT TẮT ST Từ viết Thuật ngữ tiếng Anh Thuật ngữ tiếng Việt T tắt 1. AU Actual Utility Lợi ích thực tế 2. CFP Compact Frequent Pattern Mẫu phổ biến nén 3. CSDL Database Cơ sở dữ liệu 4.
CUP Compressed Utility Pattern Mẫu lợi ích nén 5. CWU Candidate Weighted Utility Lợi ích trọng số ứng viên 6. FI Frequent Itemsets Tập phổ biến 7. FP Frequent Pattern Mẫu phổ biến 8.
IT Index Table Bảng chỉ số High Candidate Weighted Lợi ích ứng viên có trọng 9. HCWU Utility số cao Low Candidate Weighted Lợi ích trọng số ứng viên 10. LCWU Utility thấp Remaining Transaction 11. RTWU Lợi ích giao dịch còn lại Weighted Utilization 12.
TC Table Candidate Bảng ứng viên 13. TWU Transaction Weighted Utility Lợi ích trọng số giao dịch 14. UL Utility List Danh sách lợi ích 15. UT Utility Table Bảng giao dịch lợi ích Vertical Mining using Khai phá theo chiều dọc 16.
VMUDG Diffset Groups sử dụng các nhóm Diffset Vertical Mining of Weighted Khai phá theo chiều dọc 17. VMWFP Frequent Patterns tập phổ biến có trọng số 8 DANH MỤC CÁC BẢNG 9 10 MỞ ĐẦU Ngày nay, công nghệ thông tin đóng một vai trò rất quan trọng trong mọi khía cạnh của cuộc sống con người, giúp thu thập khối lượng dữ liệu khổng lồ từ nhiều nguồn khác nhau. Dữ liệu này có thể được lưu trữ và duy trì để tạo ra thông tin và tri thức. Khai phá dữ liệu là một quá trình tìm kiếm thông tin hữu ích từ số lượng lớn dữ liệu.
Thông tin đó được sử dụng để dự đoán các xu hướng, hành vi trong tương lai. Hàng ngày một lượng dữ liệu khổng lồ được tạo ra trong các lĩnh vực khác nhau. Do đó, khai phá dữ liệu đang trở thành một kỹ thuật hữu ích và được ứng dụng rộng lớn trong các lĩnh vực khác nhau. Các phương pháp khai phá dữ liệu được sử dụng, giúp xây dựng mô hình dự đoán, phát hiện hành vi của dữ liệu, từ đó đưa ra quyết định [44].
Khai phá dữ liệu đang trở nên phổ biến từ những thành công trong nhiều lĩnh vực khác nhau như y tế, tài chính, viễn thông, kinh doanh, giáo dục,… [43]. Khai phá dữ liệu gồm các kỹ thuật khác nhau như: phân lớp, phân cụm, khai phá luật kết hợp,… Khai phá luật kết hợp là một trong những kỹ thuật quan trọng nhất trong khai phá dữ liệu. Mục đích chính của khai phá luật kết hợp là tìm ra mối quan hệ giữa các phần tử khác nhau trong cơ sở dữ liệu [54]. Bài toán khai phá luật kết hợp gồm hai bài toán con đó là khai phá tập phổ biến và sinh luật kết hợp, trong đó bài toán khai phá tập phổ biến thu hút nhiều nhà nghiên cứu trong nước và thế giới quan tâm.
Khai phá tập phổ biến trong thực tế vẫn còn nhiều hạn chế, không đáp ứng được nhu cầu của người sử dụng như đánh giá sự quan trọng của từng phần tử trong từng giao dịch hay trong cơ sở dữ liệu. Để khắc phục những hạn chế của khai phá tập phổ biến truyền thống, các nhà nghiên cứu đã đề xuất mô hình mở rộng, có tính đến mức độ quan trọng khác nhau của các phần tử trong cơ sở dữ liệu như: khai phá tập phổ biến có trọng số (WFI – Weighted Frequent Itemsets) [11], 11 [58], [72], [32], [33], [64],…; khai phá tập lợi ích cao (HUI – High Utility Itemsets) [13], [39], [23], [38], [62], [60], [26], [77], [65], [55], [17],… Trên thế giới, có rất nhiều nhà nghiên cứu quan tâm về khai phá dữ liệu. Đặc biệt, trong Hội thảo Châu Á Thái Bình Dương về Khai phá dữ liệu và Khám phá tri thức – PAKDD và Hội thảo Quốc tế về Khai phá dữ liệu – ICDM, nhiều công trình về khai phá, phân tích luật kết hợp và tập lợi ích cao đã được công bố. Trong những năm gần đây, các nghiên cứu lên quan đến tập lợi ích cao đã được công bố [62], [55], [38], [77], [17], [26], [24], [23], [37], [15],… Tại Việt Nam, đã có nhiều nhóm nghiên cứu, luận án về luật kết hợp và tập phổ biến tại Viện Hàn lâm Khoa học và Công nghệ Việt Nam, trường Đại học Quốc gia Hà Nội, Đại học Bách Khoa Hà Nội, Đại học Quốc gia thành phố Hồ Chí Minh thực hiện và đã có nhiều kết quả được công bố.
Các thuật toán đề xuất sử dụng cấu trúc cây FPtree được Han, Wang và Yin giới thiệu năm 2000 trong [30], cách khai phá cây FPtree không đệ quy bởi cấu trúc cây COFItree do Mohammad ElHajj và Osmar R. Zaiane đề xuất năm 2003 trong [19], [20], [21]. Năm 2010, Nguyễn Huy Đức [2] thực hiện nghiên cứu đề tài “Khai phá tập mục cổ phần cao và lợi ích cao trong cơ sở dữ liệu” sử dụng cấu trúc cây đơn giản và khai phá không dùng đệ quy. Năm 2016, Nguyễn Duy Hàm [1] nghiên cứu đề tài “Phát triển một số thuật toán hiệu quả khai thác tập mục trên cơ sở dữ liệu số lượng có sự phân cấp tập mục” đã đưa ra một số cải tiến nâng cao hiệu quả khai thác tập phổ biến trọng số hữu ích trên CSDL số lượng có sự phân cấp.
Ngoài ra, hàng năm các Hội thảo Quốc gia về “Một số vấn đề chọn lọc của Công nghệ Thông tin” và “Nghiên cứu cơ bản và ứng dụng Công nghệ thông tin FAIR” có rất nhiều báo cáo liên quan đến khai phá dữ liệu. 12 Một trong những thách thức trong khai phá tập phổ biến có trọng số và tập lợi ích cao đó là tập phổ biến có trọng số, tập lợi ích cao không có tính chất đóng [6] tính chất làm giảm số lượng ứng viên được sinh ra và không gian tìm kiếm. Hầu hết các thuật toán khai phá tập lợi ích cao đều sử dụng tính chất đóng của TWU (Transaction Weighted Utility) [39] dịch là lợi ích giao dịch có trọng số [39] do Liu và cộng sự công bố. Tuy nhiên, ngưỡng TWU vẫn còn khá cao so với lợi ích thực tế của các tập phần tử, do đó vẫn còn phát sinh một số lượng lớn các ứng viên không cần thiết, làm tiêu tốn thời gian và không gian tìm kiếm.
Trên cơ sở những nghiên cứu, nhận xét và đánh giá ở trên, nghiên cứu sinh đã chọn đề tài “Nghiên cứu phát triển mô hình, thuật toán khai phá tập phần tử có trọng số và lợi ích cao” làm đề tài nghiên cứu cho luận án tiến sĩ của mình. Mục tiêu nghiên cứu Nghiên cứu các thuật toán khai phá tập phổ biến, tập phổ biến có trọng số và tập lợi ích cao. Xây dựng mô hình, cấu trúc dữ liệu nhằm giảm không gian tìm kiếm và dựa trên cơ sở đó để xây dựng các thuật toán khai phá tập phổ biến có trọng số và tập lợi ích cao. Đối tượng nghiên cứu Các mô hình, cấu trúc dữ liệu để cắt tỉa tập ứng viên được sử dụng trong các thuật toán khai phá tập phổ biến, tập phổ biến có trọng số và tập lợi ích cao.
Các thuật toán khai phá tập phổ biến có trọng số và tập lợi ích cao. Phạm vi nghiên cứu 13 Nghiên cứu tổng quan về khai phá tập phổ biến, tập phổ biến có trọng số và tập lợi ích cao. Nghiên cứu, đánh giá các mô hình, cấu trúc dữ liệu và thuật toán khai phá tập phổ biến có trọng số, tập lợi ích cao. Phương pháp nghiên cứu Thu thập, phân tích các mô hình, cấu trúc dữ liệu, thuật toán liên quan đến khai phá tập phổ biến, tập phổ biến có trọng số và tập lợi ích cao.
Xây dựng mô hình, cấu trúc dữ liệu và thuật toán khai phá tập phổ biến có trọng số, tập lợi ích cao. Lập trình, thử nghiệm, so sánh, đánh giá hiệu năng, hiệu quả sử dụng tài nguyên của các thuật toán đề xuất. Ngoài những phần mở đầu và kết luận, nội dung luận án bao gồm được trình bày trong 3 chương. Chương 1 giới thiệu các khái niệm cơ sở liên quan; phương pháp khai phá tập phổ biến, tập phổ biến có trọng số và tập lợi ích cao.
Chương 2 trình bày mô hình CWU, các thuật toán khai phá tập lợi ích cao dựa trên mô hình CWU như: HP, PPB, CTUPRO+.
Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ
Trích dẫn luận án này
Đậu Hải Phong (2018). Khai phá tập phần tử có trọng số và lợi ích cao [Luận án tiến sĩ, Học viện Kỹ thuật Quân sự]. LuanAn.net. https://luanan.net/toan-hoc/luan-an-mo-hinh-thu-nghiem-khai-pha-tap-phan-tu-trong-so-loi-ich-cao
Câu hỏi thường gặp
Luận án "Khai phá tập phần tử có trọng số và lợi ích cao" nghiên cứu về vấn đề gì?
Luận án tiến sĩ Toán học: Phát triển mô hình thuật toán khai phá tập phần tử có trọng số, lợi ích cao, ứng dụng thực tiễn.
Luận án "Khai phá tập phần tử có trọng số và lợi ích cao" được bảo vệ tại trường nào?
Luận án này được bảo vệ tại Học viện Kỹ thuật Quân sự. Năm bảo vệ: 2018.
Luận án "Khai phá tập phần tử có trọng số và lợi ích cao" thuộc chuyên ngành gì?
Luận án "Khai phá tập phần tử có trọng số và lợi ích cao" thuộc chuyên ngành Cơ sở Toán học cho Tin học. Danh mục: Toán Học.
Luận án "Khai phá tập phần tử có trọng số và lợi ích cao" có bao nhiêu trang?
Luận án "Khai phá tập phần tử có trọng số và lợi ích cao" có 158 trang. Bạn có thể xem trước một phần tài liệu ngay trên trang web trước khi tải về.
Cách tải luận án "Khai phá tập phần tử có trọng số và lợi ích cao" về máy như thế nào?
Để tải luận án về máy, bạn nhấn nút "Tải xuống ngay" trên trang này, sau đó hoàn tất thanh toán phí lưu trữ. File sẽ được tải xuống ngay sau khi thanh toán thành công. Hỗ trợ qua Zalo: 0559 297 239.