Luận án tiến sĩ: Phát triển thuật toán khai thác tập mục trên cơ sở dữ liệu số lượng phân cấp - Nguyễn Duy Hàm - ĐHQG Hà Nội
Phát triển thuật toán hiệu quả khai thác tập mục trên cơ sở dữ liệu có phân cấp các mục, cải tiến hiệu suất xử lý dữ liệu lớn với độ chính xác cao.
Năm xuất bản
Số trang
120
Thời gian đọc
18 phút
Lượt xem
1
Lượt tải
0
Phí lưu trữ
40 Point
Tổng quan nhanh
- Chủ đề:
- Tổng quan khai thác tập mục: Khám phá tri thức
- Số trang:
- 120 trang
- Trường:
- Trường Đại học Khoa học Tự nhiên, Đại học Quốc gia Hà Nội
- Chuyên ngành:
- Cơ sở toán cho tin học
- Tác giả:
- Nguyễn Duy Hàm
- Năm:
- 2016
Tóm tắt nội dung luận án
I.Tổng quan khai thác tập mục Khám phá tri thức
Khai thác tập mục là một lĩnh vực quan trọng trong khai thác dữ liệu. Nó giúp khám phá các mối quan hệ tiềm ẩn giữa các mục trong tập dữ liệu. Mục tiêu chính là tìm ra các tập mục thường xuyên xuất hiện cùng nhau. Kết quả cung cấp tri thức giá trị, hỗ trợ ra quyết định. Phân tích tập mục thường xuyên là nền tảng cho nhiều ứng dụng. Nó được sử dụng rộng rãi trong phân tích giỏ hàng, đề xuất sản phẩm.
1.1. Khái niệm và ý nghĩa khai thác tập mục
Khai thác tập mục là quá trình tìm kiếm các tập hợp các mục xuất hiện cùng nhau trong một tập dữ liệu lớn. Mục tiêu chính là phát hiện các quy luật, mô hình hữu ích. Khám phá tri thức này giúp hiểu rõ hơn về hành vi khách hàng. Nó có giá trị lớn trong việc tối ưu hóa chiến lược kinh doanh, quản lý tồn kho và thiết kế hệ thống khuyến nghị. Hiệu suất khai thác là yếu tố then chốt cho các hệ thống lớn.
1.2. Các loại bài toán khai thác tập mục phổ biến
Nhiều bài toán khai thác tập mục đã được nghiên cứu. Bài toán khai thác tập mục thường xuyên (FI mining) là cơ bản nhất. Các biến thể bao gồm khai thác tập mục có trọng số (FWI) và khai thác tập mục hữu ích (FWUI). Bài toán FWI tính đến trọng số khác nhau của các mục. Bài toán FWUI xem xét cả số lượng và giá trị hữu ích. Các thuật toán khai thác dữ liệu như Apriori và FP-Growth là những phương pháp kinh điển, tạo nền tảng cho nhiều cải tiến sau này.
1.3. Thách thức trên cơ sở dữ liệu phức tạp
Khai thác tập mục trên cơ sở dữ liệu lớn đặt ra nhiều thách thức. Đặc biệt, cơ sở dữ liệu phân cấp hoặc có cấu trúc cây phức tạp. Dữ liệu có cấu trúc cây yêu cầu phương pháp xử lý đặc biệt. Việc tính toán độ hỗ trợ hoặc độ hữu ích trở nên phức tạp hơn. Cần thuật toán khai thác dữ liệu hiệu quả để xử lý dữ liệu phân cấp. Đảm bảo tính nhất quán và đầy đủ của tập mục trong môi trường này là một bài toán khó. Hiệu suất khai thác là yếu tố then chốt.
II.Thuật toán khai thác dữ liệu Tập mục trên CSDL số lượng
Trên cơ sở dữ liệu số lượng, khái niệm trọng số và hữu ích trở nên quan trọng. Khai thác tập mục có trọng số (FWI) cho phép gán trọng số khác nhau cho các mục. Điều này phản ánh tầm quan trọng khác nhau của chúng. Khai thác tập mục hữu ích (FWUI) mở rộng FWI. Nó xem xét cả số lượng và giá trị của từng mục trong giao dịch. Việc này cung cấp cái nhìn sâu sắc hơn về hành vi mua sắm. Các thuật toán khai thác dữ liệu truyền thống thường không xử lý tốt các yếu tố này. Cần có những cải tiến để tối ưu thuật toán.
2.1. Khai thác tập mục có trọng số FWI và hữu ích FWUI
Bài toán khai thác tập mục có trọng số (FWI) tập trung vào việc tìm kiếm các tập mục thường xuyên với trọng số riêng. Mỗi mục có thể có một trọng số khác nhau. Điều này phản ánh sự quan trọng tương đối. Khai thác tập mục hữu ích (FWUI) tiến xa hơn. Nó tìm kiếm các tập mục có tổng giá trị hữu ích cao. Giá trị hữu ích thường được tính từ số lượng và lợi nhuận của mục. Các thuật toán khai thác dữ liệu cho FWI và FWUI đòi hỏi các kỹ thuật đặc biệt để xử lý các thuộc tính này hiệu quả. Mục tiêu là tối ưu thuật toán để có hiệu suất khai thác cao.
2.2. Phương pháp khai thác tập mục có trọng số theo thứ hạng TRFWUIk
Bài toán khai thác tập mục có trọng số theo thứ hạng (TRFWUIk) là một thách thức khác. Nó tìm kiếm các tập mục hữu ích hàng đầu. Các tập mục này có tổng hữu ích cao nhất. Việc xác định thứ hạng yêu cầu tính toán và so sánh phức tạp. Thuật toán khai thác dữ liệu phải xử lý hiệu quả. Mục tiêu là tìm ra k tập mục hữu ích nhất. Khám phá tri thức này giúp doanh nghiệp tập trung nguồn lực vào các sản phẩm hoặc dịch vụ có lợi nhuận cao nhất. Đây là một dạng phân tích tập mục thường xuyên nâng cao.
2.3. Hiệu suất thuật toán trên dữ liệu số lượng lớn
Hiệu suất khai thác là một vấn đề then chốt, đặc biệt với cơ sở dữ liệu số lượng lớn. Các thuật toán khai thác FWI và FWUI đòi hỏi nhiều tài nguyên tính toán. Chúng cần xử lý nhiều phép tính trọng số và hữu ích. Tối ưu thuật toán là cần thiết để giảm thời gian thực hiện. Cần các kỹ thuật mới để nâng cao hiệu suất. Phân tích tập mục thường xuyên trên dữ liệu số lượng lớn yêu cầu các cấu trúc dữ liệu và phương pháp duyệt tối ưu. Việc này giúp khám phá tri thức kịp thời.
III.Cải tiến khai thác tập mục CSDL phân cấp hiệu quả
Cơ sở dữ liệu phân cấp có cấu trúc cây. Các mục được tổ chức theo quan hệ cha-con. Ví dụ: 'sữa' là con của 'sản phẩm từ sữa'. Việc này ảnh hưởng lớn đến quá trình khai thác tập mục thường xuyên. Một giao dịch chứa mục con cũng ngụ ý chứa mục cha. Thuật toán khai thác dữ liệu cần xử lý logic này. Dữ liệu có cấu trúc cây đòi hỏi phương pháp đặc biệt. Cần đảm bảo tính nhất quán và đầy đủ của tập mục. Luận án tập trung vào việc cải tiến thuật toán khai thác FWUI trên cơ sở dữ liệu phân cấp có trọng số (HQDB).
3.1. Đặc điểm cơ sở dữ liệu phân cấp và ảnh hưởng đến khai thác
Cơ sở dữ liệu phân cấp tổ chức dữ liệu theo một cấu trúc cây. Các mục có mối quan hệ cha-con. Đặc điểm này gây ra thách thức cho khai thác tập mục thường xuyên. Nếu một mục con xuất hiện, mục cha tương ứng cũng được ngụ ý xuất hiện. Thuật toán khai thác dữ liệu phải tính đến quy tắc này. Việc bỏ qua cấu trúc phân cấp có thể dẫn đến bỏ sót các tập mục quan trọng. Phân tích tập mục thường xuyên cần được điều chỉnh để xử lý hiệu quả dữ liệu có cấu trúc cây, đảm bảo tính chính xác và đầy đủ của kết quả.
3.2. Thuật toán FWUI trên cơ sở dữ liệu phân cấp có trọng số HQDB
Luận án phát triển thuật toán FWUI chuyên biệt cho cơ sở dữ liệu phân cấp có trọng số (HQDB). Mục tiêu là khai thác tập mục hữu ích trên dữ liệu có hệ thống phân cấp. Thuật toán cần tích hợp đồng thời khái niệm trọng số và cấu trúc phân cấp. Cần xác định trọng số cho các mục cha dựa trên các mục con. Thêm mục cha vào cơ sở dữ liệu giao dịch là một bước cải tiến. Điều này giúp phản ánh đúng giá trị hữu ích tổng thể của các tập mục. Tối ưu thuật toán cho HQDB mang lại hiệu suất khai thác cao hơn, cung cấp khám phá tri thức chính xác.
3.3. Xử lý mối quan hệ cha con trong tập mục
Xử lý mối quan hệ cha-con là trọng tâm của cải tiến thuật toán. Khi một mục con xuất hiện trong giao dịch, thuật toán tự động mở rộng giao dịch đó bằng cách thêm mục cha tương ứng. Điều này đảm bảo việc tính toán độ hữu ích của các tập mục phân cấp chính xác. Kỹ thuật này giúp phân tích tập mục thường xuyên toàn diện hơn. Nó ngăn chặn việc bỏ sót các tập mục quan trọng, đặc biệt là những tập mục liên quan đến các cấp độ cao hơn trong hệ thống phân cấp. Tối ưu thuật toán ở bước này giúp tăng hiệu suất khai thác tổng thể.
IV.Tối ưu thuật toán Nâng cao hiệu suất khai thác dữ liệu
Việc tối ưu thuật toán phụ thuộc nhiều vào cấu trúc dữ liệu và phương pháp xử lý. Để nâng cao hiệu suất khai thác, nhiều cấu trúc mới được đề xuất. Các kỹ thuật như bit-vector cũng đóng vai trò quan trọng. Chúng giúp giảm thiểu chi phí bộ nhớ và thời gian tính toán. Cải tiến trong quản lý và xác định tập mục cũng là yếu tố then chốt. Luận án tập trung vào việc áp dụng các phương pháp này để tăng tốc độ và hiệu quả của các thuật toán khai thác dữ liệu, đặc biệt trên cơ sở dữ liệu lớn và phức tạp. Mục tiêu là đạt được hiệu suất khai thác tối ưu.
4.1. Ứng dụng cấu trúc dữ liệu hiệu quả MBiS tree DTab DHeap
Để nâng cao hiệu suất khai thác, nhiều cấu trúc dữ liệu mới được đề xuất. Cấu trúc Multi Bit Segment (MBiS) giúp biểu diễn và xử lý tập ID giao dịch hiệu quả. Cây MBiS (MBiS-tree) là một cải tiến cho việc tìm kiếm. Cấu trúc DTab và DHeap cũng được sử dụng. Chúng hỗ trợ việc quản lý và truy vấn dữ liệu nhanh chóng. Các cấu trúc này giảm thiểu đáng kể chi phí bộ nhớ và thời gian tính toán. Việc áp dụng các cấu trúc này là một phần quan trọng trong việc tối ưu thuật toán, đặc biệt cho khai thác tập mục thường xuyên trên dữ liệu số lượng lớn.
4.2. Kỹ thuật bit vector và tối ưu phép giao tập
Kỹ thuật bit-vector được áp dụng rộng rãi trong khai thác tập mục. Nó cho phép biểu diễn tập ID giao dịch dưới dạng chuỗi bit. Phép giao giữa các tập ID trở thành phép toán AND bitwise. Phép toán này cực kỳ nhanh và hiệu quả. Nó đóng vai trò quan trọng trong việc tối ưu thuật toán khai thác dữ liệu. Kỹ thuật bit-vector cải thiện đáng kể hiệu suất khai thác, đặc biệt khi xử lý các tập dữ liệu lớn. Nó là một phương pháp hiệu quả để xử lý dữ liệu có cấu trúc cây, giúp tăng tốc quá trình phân tích tập mục thường xuyên.
4.3. Cải tiến cho việc xác định và quản lý các tập mục
Ngoài cấu trúc dữ liệu, các phương pháp quản lý tập mục cũng được cải tiến. Các thuật toán khai thác dữ liệu cần cơ chế hiệu quả để xác định và lưu trữ các tập mục phổ biến. Phương pháp tính toán tidset nút cha từ tidset nút con là một ví dụ. Kiểm tra mối quan hệ cha con giữa các mục trong tập mục được tối ưu hóa. Những cải tiến này giúp giảm lặp lại công việc và nâng cao tổng thể hiệu suất khai thác. Mục tiêu là tối ưu thuật toán để khám phá tri thức một cách nhanh chóng và chính xác.
V.Ứng dụng thực tiễn Khai thác tập mục giá trị kinh doanh
Các thuật toán phát triển trong luận án mang lại giá trị lớn. Khai thác tập mục thường xuyên, FWI, FWUI, TRFWUIk cung cấp tri thức sâu sắc. Doanh nghiệp có thể hiểu rõ hơn về hành vi khách hàng. Khám phá tri thức này hỗ trợ đưa ra quyết định chiến lược. Nó giúp tối ưu hóa chiến dịch marketing, quản lý tồn kho. Hiệu suất khai thác cao giúp phân tích nhanh hơn. Các thuật toán này có tiềm năng ứng dụng rộng rãi, không chỉ giới hạn trong lĩnh vực bán lẻ.
5.1. Giá trị của khám phá tri thức từ tập mục
Các thuật toán được phát triển cung cấp một công cụ mạnh mẽ cho khám phá tri thức. Thông qua khai thác tập mục thường xuyên, FWI, FWUI, và TRFWUIk, các doanh nghiệp có thể hiểu rõ hơn về mẫu hành vi mua sắm của khách hàng. Tri thức này có giá trị chiến lược cao. Nó hỗ trợ trong việc tối ưu hóa cách bố trí sản phẩm, xây dựng các gói khuyến mãi hiệu quả và dự đoán xu hướng thị trường. Hiệu suất khai thác cao giúp các phân tích này được thực hiện kịp thời, mang lại lợi thế cạnh tranh.
5.2. Tiềm năng ứng dụng trong các lĩnh vực khác nhau
Ứng dụng của khai thác tập mục rất đa dạng, không chỉ giới hạn trong bán lẻ. Trong y tế, nó giúp phát hiện các triệu chứng bệnh thường xuất hiện cùng nhau. Trong giáo dục, xác định các môn học thường được học chung, tối ưu hóa chương trình giảng dạy. Trong an ninh, phân tích các hoạt động đáng ngờ để phòng ngừa tội phạm. Cơ sở dữ liệu phân cấp xuất hiện ở nhiều lĩnh vực. Các thuật toán được phát triển có thể áp dụng rộng rãi để phân tích hiệu quả dữ liệu có cấu trúc cây, mang lại khám phá tri thức mới.
5.3. Hướng nghiên cứu tiếp theo để nâng cao hiệu quả
Mặc dù đã có nhiều cải tiến, lĩnh vực này vẫn còn tiềm năng nghiên cứu. Hướng nghiên cứu tiếp theo có thể tập trung vào xử lý dữ liệu lớn hơn. Tích hợp thêm các ràng buộc phức tạp vào bài toán khai thác tập mục. Khám phá tri thức từ dữ liệu bán cấu trúc cũng là một hướng quan trọng. Phát triển thuật toán phân tán cho khai thác tập mục là cần thiết. Mục tiêu cuối cùng là tối ưu thuật toán hơn nữa để nâng cao hiệu suất khai thác và khả năng ứng dụng trong các môi trường dữ liệu ngày càng phức tạp.
Mục lục chi tiết luận án
Tải xuống file đầy đủ để xem toàn bộ nội dung
Tải đầy đủ (120 trang)Nội dung chính
Tổng quan về luận án
Trong kỷ nguyên bùng nổ dữ liệu số, việc trích xuất tri thức hữu ích và phát hiện các mẫu tiềm ẩn từ các hệ thống thông tin giao dịch đóng vai trò then chốt trong hỗ trợ ra quyết định kinh doanh, y tế và an ninh xã hội. Luận án tiến sĩ toán học chuyên ngành Cơ sở toán cho tin học (Mã số: 62460110) với đề tài "Phát triển một số thuật toán hiệu quả khai thác tập mục trên cơ sở dữ liệu số lượng có sự phân cấp các mục" do tác giả Nguyễn Duy Hàm thực hiện dưới sự hướng dẫn khoa học của TS. Nguyễn Thị Hồng Minh và PGS. Võ Đình Bảy tại Trường Đại học Khoa học Tự nhiên - Đại học Quốc gia Hà Nội, đã tạo nên một bước tiến đột phá trong lý thuyết và thuật toán khai thác mẫu phổ biến (Frequent Itemset Mining - FIM).
Về mặt bối cảnh khoa học, bài toán khai thác tập mục phổ biến khởi nguồn từ các mô hình cơ sở dữ liệu (CSDL) nhị phân đơn giản của Agrawal và cộng sự (1993, 1994). Tuy nhiên, các CSDL thực tế trong thương mại điện tử, siêu thị bán lẻ hay hồ sơ bệnh án không chỉ ghi nhận sự xuất hiện đơn thuần (0/1) của mặt hàng, mà còn chứa thông tin số lượng (quantity), trọng số lợi ích (weight/utility) và tồn tại cấu trúc quan hệ phân loại dạng cây phân cấp (taxonomy/hierarchy). Khoảng trống nghiên cứu (research gap) cốt lõi được xác định: các thuật toán hiện hành trên thế giới hoặc chỉ giải quyết bài toán khai thác tập mục có trọng số (FWI), tập mục trọng số hữu ích (FWUI) trên CSDL số lượng phẳng không có cấu trúc phân cấp (Tao et al., 2003; Khan et al., 2010; Vo et al., 2013), hoặc chỉ khai thác tập mục trên CSDL nhị phân có phân cấp (Han et al., 1995; Liu et al., 1999; Tseng et al., 2006; Vo et al., 2012). Chưa có một mô hình toán học và thuật toán tối ưu nào tích hợp toàn diện việc khai thác tập mục trọng số hữu ích trên CSDL số lượng có sự phân cấp các mục (Hierarchical Quantitative Database - HQDB), cũng như giải quyết bài toán khai thác $k$ nhóm tập mục phổ biến trọng số hữu ích có thứ hạng cao nhất (TRFWUIk).
Luận án thiết lập hệ thống câu hỏi nghiên cứu và giả thuyết khoa học chặt chẽ:
- Câu hỏi nghiên cứu 1 (RQ1): Làm thế nào để loại bỏ sự dư thừa bộ nhớ và tăng tốc độ xử lý bitwise khi biểu diễn tập định danh giao dịch (tidset) trong CSDL số lượng?
- Câu hỏi nghiên cứu 2 (RQ2): Mô hình toán học nào cho phép định nghĩa chuẩn xác độ hỗ trợ trọng số hữu ích ($wus$) và trọng số giao dịch hữu ích ($twu$) khi các mục có quan hệ tổ tiên - con cháu trên cây phân cấp?
- Câu hỏi nghiên cứu 3 (RQ3): Có thể loại bỏ hoàn toàn việc chèn trực tiếp các mục cha vào CSDL vật lý mà vẫn bảo đảm khai thác chính xác toàn bộ không gian mẫu hay không?
- Giả thuyết khoa học (H1, H2, H3): (H1) Cấu trúc nén vector bit dạng đoạn word ($IWS$) và đoạn bit 1 liên tiếp ($MBiS$) sẽ giảm không gian lưu trữ tidset ít nhất $50-80%$ trên CSDL thưa so với cấu trúc Dynamic Bit-Vector ($DBV$); (H2) Khai thác tập $k$ thứ hạng cao nhất ($TRFWUIk$) sử dụng cấu trúc đống động ($DHeap$) sẽ vượt trội hơn kỹ thuật duyệt cây tiền thứ tự/hậu thứ tự ($PPC-tree/N-list$); (H3) Kỹ thuật tổng hợp tidset nút cha từ các nút con thông qua cấu trúc bit động mở rộng ($EDBV$) sẽ loại bỏ hoàn toàn chi phí bùng nổ dung lượng do chèn mục cha vật lý.
Phạm vi thực nghiệm của luận án bao quát các tập dữ liệu chuẩn quốc tế quy mô lớn gồm dữ liệu thưa và dữ liệu dày như RETAIL ($88.162$ giao dịch), BMS-POS ($515.597$ giao dịch), SALE-FACT-1997, SALE-FACT-1997+1998, SALE-FACT-SYNC, CONNECT và ACCIDENTS ($340.183$ giao dịch), chứng minh tính vượt trội về cả thời gian tính toán và tiêu hao bộ nhớ.
Literature Review và Positioning
Lịch sử phát triển của lý thuyết khai thác tập mục phổ biến trải qua ba trường phái phương pháp luận chính:
[Trường phái Quét ngang - Apriori] (Agrawal 1994, Tao 2003)
│ (Quét nhiều lần, sinh ứng viên lớn)
▼
[Trường phái Nén tiền tố - FP-Growth] (Han 2000, Grahne 2003)
│ (2 lần quét, tốn chi phí đệ quy duyệt cây)
▼
[Trường phái Dữ liệu dọc - Eclat/IT-tree] (Zaki 1997, 2003)
│ (1 lần quét, tốn bộ nhớ lưu tidset danh sách)
▼
[Đột phá Luận án: HQDB + IWS/MBiS/EDBV + DHeap] (Nguyen Duy Ham, 2016)
Trường phái thứ nhất đại diện bởi thuật toán Apriori (Agrawal & Srikant, 1994) và các biến thể trọng số của Tao và cộng sự (2003). Nhược điểm chí mạng của nhánh này là quy tắc sinh ứng viên tổ hợp bùng nổ và phải quét toàn bộ CSDL nhiều lần, khiến chi phí I/O trở thành nút thắt cổ chai khi dữ liệu mở rộng.
Trường phái thứ hai sử dụng cấu trúc cây nén mẫu phổ biến FP-tree (Han et al., 2000; Grahne & Zhu, 2003). Dù rút ngắn số lần quét đĩa xuống còn $2$ lần, phương pháp này gặp khó khăn nghiêm trọng khi áp dụng cho CSDL số lượng, bởi việc tính toán trọng số động của các giao dịch ($tw, twu$) phân tán trên các nút nhánh cây sinh ra chi phí đệ quy và quản lý con trỏ rất lớn.
Trường phái thứ ba dựa trên định dạng dữ liệu dọc (Vertical Data Format) với thuật toán Eclat và cấu trúc Itemset Tidset-tree ($IT-tree$) của Zaki (1997). Zaki và cộng sự (2003) đề xuất cấu trúc $diffset$ (chỉ lưu hiệu số giữa các tidset) để giảm bộ nhớ trên CSDL dày, nhưng $diffset$ lại mất tác dụng hoàn toàn trên CSDL thưa - vốn chiếm tuyệt đại đa số trong ứng dụng thực tế. Nhằm tối ưu hóa $IT-tree$, các nghiên cứu tiếp cận vector bit như BitTable (Dong & Han, 2007) và Dynamic Bit-Vector ($DBV$) (Vo et al., 2012) được phát triển. Tuy nhiên, $DBV$ chỉ loại bỏ các byte $0$ ở hai đầu mút, vẫn để lại hàng triệu byte $0$ xen kẽ ở giữa trong các CSDL thưa lớn.
Song song đó, các tranh luận học thuật về gán trọng số chia thành hai quan điểm đối nghịch:
- Quan điểm trọng số trung bình (Yun et al., 2003; Lan et al., 2014): Sử dụng hàm trung bình hoặc chặn trên cực đại ($WSPAN$), dẫn đến việc phá vỡ tính chất bao đóng giảm tự nhiên (Downward Closure Property / Apriori Property), buộc phải dùng các cận trên lỏng lẻo làm tăng số ứng viên giả.
- Quan điểm trọng số giao dịch (Tao et al., 2003; Khan et al., 2010; Vo et al., 2013): Sử dụng trọng số giao dịch ($tw$) và trọng số hữu ích giao dịch ($twu$), duy trì tính bao đóng giảm một cách tự nhiên.
Về khai thác trên cấu trúc phân cấp, Han và cộng sự (1995), Liu và cộng sự (1999), Tseng và cộng sự (2006) và Vo và cộng sự (2012) với cây $GIT-tree$ đều vướng phải hạn chế lớn: buộc phải chèn tất cả các mục tổ tiên vào từng giao dịch chứa mục con, làm tăng kích thước CSDL lên gấp $2-3$ lần và gây nghẽn bộ nhớ. Luận án định vị chính xác điểm giao thoa chưa từng được giải quyết: thiết lập nền tảng khai thác tập mục trọng số hữu ích ($FWUI$) trực tiếp trên CSDL số lượng có phân cấp ($HQDB$) bằng kỹ thuật nén bit nâng cao mà không làm phình to dữ liệu.
Đóng góp lý thuyết và khung phân tích
Đóng góp cho lý thuyết
Luận án đã mở rộng hình thức toán học của lý thuyết khai thác dữ liệu thông qua các định nghĩa và bổ đề toán học mới:
-
Thiết lập mô hình không gian CSDL số lượng phân cấp ($HQDB$): Một $HQDB$ được chuẩn hóa thành bộ tứ toán học $\langle T, I, W, Tr \rangle$, trong đó $T = {t_1, t_2, \dots, t_m}$ là tập các giao dịch số lượng, $I = {i_1, i_2, \dots, i_n}$ là tập các mục lá, $W = {w_1, w_2, \dots, w_n}$ là vector trọng số thực, và $Tr$ là rừng các cây phân cấp chứa tập mục cha $J$. Luận án chứng minh rằng không gian mẫu hợp lệ phải thỏa mãn điều kiện loại trừ quan hệ phụ thuộc cha - con: một tập mục $X \subseteq (I \cup J)$ chỉ là tập mục phân cấp hợp lệ nếu $\forall u, v \in X$, $u$ không phải là tổ tiên của $v$ trên $Tr$.
-
Hình thức hóa độ đo trọng số hữu ích phân cấp ($twu$ và $wus$): Công thức toán học tính trọng số hữu ích giao dịch $t_k$ được xác lập: $$twu(t_k) = \frac{\sum_{i=1}^{n_k} (q_{ik} \times w_i)}{s(t_k)}$$ Trong đó $q_{ik}$ là số lượng mục thứ $i$, $w_i$ là trọng số mục, và $s(t_k)$ là tổng số lượng các mục trong giao dịch $t_k$. Độ hỗ trợ trọng số hữu ích của tập mục $X$ được định nghĩa: $$wus(X) = \frac{\sum_{t_k \in T(X)} twu(t_k)}{\sum_{k=1}^m twu(t_k)}$$ Luận án chứng minh chặt chẽ rằng $wus(X)$ bảo toàn tính chất bao đóng giảm: nếu $X \subseteq Y$ thì $wus(Y) \le wus(X)$. Do đó, nếu $wus(X) < minwus$ thì mọi tập mở rộng $Y$ chứa $X$ đều bị cắt nhánh an toàn.
-
Mô hình toán học cho bài toán $TRFWUIk$ trên CSDL số lượng: Định nghĩa khái niệm thứ tự xếp hạng (Rank $R_X$) dựa trên quan hệ thứ tự toàn phần của giá trị $wus(X)$, thiết lập thuật toán xác định chính xác $k$ nhóm tập mục có độ hữu ích cao nhất mà không cần người dùng phải phỏng đoán ngưỡng $minwus$ đầu vào.
Cơ sở Dữ liệu Số lượng có Phân cấp (HQDB)
│
┌──────────────────┴──────────────────┐
▼ ▼
[Lý thuyết Trọng số Hữu ích] [Lý thuyết Phân cấp & Bit-vector]
- twu(tk), wus(X) - Hierarchy Tree Tr
- Bảo toàn Anti-monotonicity - Khử Byte 0: IWS & MBiS
- Phân hạng Top-Rank-k (TRFWUIk) - Kế thừa Bitwise cha-con (EDBV)
└──────────────────┬──────────────────┘
▼
[Cây HIT-tree & Thuật toán Tối ưu]
Khung phân tích độc đáo
Khung phân tích của luận án tích hợp ba trụ cột lý thuyết: Lý thuyết dàn khái niệm (Concept Lattice Theory) qua biểu diễn lớp tương đương trên cây dọc ($IT-tree$), Lý thuyết đồ thị cây phân cấp (Taxonomy Graph Theory), và Đại số logic Bitwise cấp thấp.
Cải tiến cốt lõi là cơ chế tính toán tidset "ảo": Thay vì chèn mục cha vào từng bản ghi giao dịch, luận án xây dựng cấu trúc vector bit động mở rộng ($EDBV$). Tidset của nút cha $P$ được tổng hợp trực tiếp bằng phép hợp logic ($OR$) trên bit-vector của tất cả các nút con trực tiếp $C_1, C_2, \dots, C_r$ thuộc $P$: $$tidset(P) = \bigvee_{j=1}^r tidset(C_j)$$ Cách tiếp cận này chuyển đổi toàn bộ độ phức tạp không gian lưu trữ từ mức $O(|T| \times |I \cup J|)$ xuống chỉ còn phụ thuộc vào tập mục lá $O(|T| \times |I|)$.
Phương pháp nghiên cứu tiên tiến
Thiết kế nghiên cứu
Luận án tuân thủ triết lý nghiên cứu thực chứng - quy nạp thuật toán (Positivist & Formal Algorithmic Research Paradigm). Thiết kế nghiên cứu bao gồm việc hình thức hóa các cấu trúc dữ liệu mới, chứng minh tính đúng đắn toán học của các thuật toán, và kiểm chứng thực nghiệm đa chiều (benchmarking) so sánh trực tiếp với các thuật toán cơ sở hàng đầu thế giới trên cùng môi trường phần cứng và tập dữ liệu tiêu chuẩn.
Quy trình nghiên cứu rigorous
Quy trình nghiên cứu bao gồm việc phát triển và tích hợp các cấu trúc dữ liệu tiên tiến:
[Bit-vector gốc với nhiều khoảng 0]
│
├─► [Cấu trúc IWS]: Chỉ lưu {Start_Word_Index, Word_List != 0}
│ └─► Tra cứu Bit 1 bằng Bảng MAP[65536] trong O(1)
│
├─► [Cấu trúc MBiS]: Chỉ lưu {Start_Bit_Index, End_Bit_Index} của chuỗi bit 1
│ └─► Giao 2 MBiS cực nhanh qua max(start), min(end)
│
└─► [Cấu trúc EDBV]: Tổng hợp tidset nút cha từ con qua Bitwise OR
└─► Triệt tiêu 100% việc chèn mục cha vật lý
- Cấu trúc Interval Word Segment ($IWS$): Phân rã bit-vector thành các đơn vị word ($2$ bytes $= 16$ bits). $IWS$ loại bỏ hoàn toàn các word có giá trị bằng $0$. Mỗi đoạn trong $IWS$ được định nghĩa bởi bộ đôi: $\langle Start, Word_list \rangle$, trong đó $Start$ là chỉ số word khác $0$ đầu tiên, $Word_list$ là mảng các giá trị word khác $0$ liên tiếp. Ví dụ trích xuất từ luận án: một bit-vector có các byte khác $0$ rải rác được ánh xạ thành
IWS {3(1545), 5(1, 1281, 1030), 12(1, 1284, 1536)}, nén gọn toàn bộ dữ liệu. - Kỹ thuật tối ưu hóa bảng tra cứu trước $MAP$ ($65.536$ phần tử): Nhằm giải quyết điểm nghẽn tính tổng $tw$ và $twu$ khi duyệt word $16$ bit, luận án khởi tạo một mảng toàn cục $MAP$ kích thước $2^{16} = 65.536$ phần tử. Mỗi phần tử $MAP[K]$ lưu sẵn danh sách chỉ số các vị trí bit $1$ của số nguyên $K$. Khi tính độ hỗ trợ $ws(X)$ hoặc $wus(X)$, thuật toán chỉ cần truy xuất trực tiếp $MAP[K]$ với độ phức tạp $O(1)$, loại bỏ hoàn toàn các vòng lặp kiểm tra bit riêng lẻ.
- Cấu trúc Multi Bits Segment ($MBiS$): Biểu diễn tidset chỉ bằng các khoảng bit $1$ liên tiếp $\langle Start_Bit, End_Bit \rangle$. Phép giao hai tập $MBiS$ của hai tập mục được thực hiện bằng cách so sánh mút đoạn: $start_{new} = \max(start_x, start_y)$ và $end_{new} = \min(end_x, end_y)$. Nếu $start_{new} \le end_{new}$, đoạn giao hợp lệ được sinh ra ngay lập tức mà không cần xử lý từng bit đơn lẻ.
- Cấu trúc DTab và DHeap phục vụ khai thác $TRFWUIk$: Thay vì sử dụng cấu trúc cây $PPC-tree$ hai lần quét đĩa như thuật toán $NTK$ (Deng, 2012) và $iNTK$ (Le et al., 2014), luận án đề xuất cấu trúc đống $k$ phần tử ($DHeap$) kết hợp cây $TR-tree$ theo định dạng dọc. Ngưỡng $minwus$ động được liên tục nâng lên bằng giá trị tại đỉnh đống, giúp cắt nhánh không gian tìm kiếm với tốc độ vượt bậc.
Data và phân tích
Các thuật toán được cài đặt hoàn chỉnh bằng ngôn ngữ C++, biên dịch tối ưu hóa trên nền tảng hệ điều hành Linux/Windows 64-bit. Môi trường thực nghiệm được kiểm chứng trên các tập dữ liệu đa dạng về độ dày, độ dài giao dịch và số lượng cây phân cấp:
- SALE-FACT-1997, SALE-FACT-1997+1998, SALE-FACT-SYNC: Dữ liệu bán hàng đa cấp độ phân loại với hàng trăm ngàn bản ghi giao dịch, độ sâu cây phân cấp từ $3$ đến $5$ mức.
- RETAIL, BMS-POS: CSDL giao dịch bán lẻ quy mô lớn, tính chất cực thưa.
- CONNECT, ACCIDENTS: CSDL mật độ cao (dense database) kiểm tra tính chịu tải của thuật toán trong điều kiện bùng nổ tổ hợp.
Các chỉ số đo lường hiệu năng cốt lõi bao gồm: Thời gian thực thi tuyệt đối (Execution Time tính bằng giây) và Dung lượng bộ nhớ đỉnh (Peak Memory Usage tính bằng Megabytes) qua các dải ngưỡng $minws$, $minwus$ từ $0,1%$ đến $10%$ và các giá trị $k$ từ $10$ đến $500$.
Phát hiện đột phá và implications
Những phát hiện then chốt
- Hiệu năng nén bộ nhớ vượt trội của $IWS$ và $MBiS$: Trên CSDL thưa RETAIL và BMS-POS, cấu trúc $IWS$ giúp giảm dung lượng bộ nhớ tiêu hao từ $60%$ đến $82%$ so với cấu trúc $DBV$ truyền thống và giảm hơn $10$ lần so với lưu trữ tidset dạng danh sách mảng của $WIT-tree$ (Vo et al., 2013).
- Tăng tốc độ tính toán giao tidset: Nhờ mảng tra cứu $MAP[65.536]$ và kỹ thuật so khớp biên của $MBiS$, thuật toán khai thác $FWI$ và $FWUI$ đạt tốc độ thực thi nhanh hơn từ $2,5$ đến $5,8$ lần so với các thuật toán dựa trên $DBV$ và nhanh hơn gấp hàng chục lần so với tiếp cận dạng Apriori ($WSPAN$).
- Đột phá trong bài toán Top-Rank-k trên CSDL số lượng: Thuật toán sử dụng $DHeap$ khắc phục hoàn toàn nhược điểm của thuật toán $VTK$ (Fang et al., 2008) và vượt trội hơn thuật toán $iNTK$ (Le et al., 2014) về mặt thời gian, do $DHeap$ chỉ quét CSDL đúng $1$ lần và duy trì không gian lưu trữ đống nhỏ gọn $O(k)$.
- Triệt tiêu bùng nổ dữ liệu trên CSDL phân cấp ($HQDB$): Bằng việc sử dụng cấu trúc $EDBV$ và thuật toán tính trực tiếp tidset nút cha từ nút con, luận án chứng minh kích thước CSDL làm việc giảm từ $45%$ đến $65%$ so với phương pháp chèn mục cha truyền thống trên CSDL SALE-FACT, đồng thời tốc độ khai thác trên cây $HIT-tree$ nhanh hơn từ $3$ đến $8$ lần so với cấu trúc $GIT-tree$ (Vo et al., 2012).
So sánh Thời gian Xử lý & Bộ nhớ trên CSDL Phân cấp Lớn
┌─────────────────────────────────────────────────────────────┐
│ Phương pháp Cũ (Chèn cha vật lý + IT-tree List): │
│ ████████████████████████████████████████ [Bộ nhớ: 100%] │
│ ████████████████████████████████████████ [Thời gian: 100%] │
├─────────────────────────────────────────────────────────────┤
│ Giải pháp Luận án (EDBV Bitwise + HIT-tree + MAP lookup): │
│ ████████ [Bộ nhớ: ~35-40%] │
│ █████ [Thời gian: ~15-25%] │
└─────────────────────────────────────────────────────────────┘
Implications đa chiều
- Về mặt phương pháp luận: Mở ra hướng đi mới trong việc ứng dụng đại số bitwise nâng cao kết hợp mảng tra cứu tĩnh ($lookup\ tables$) để giải quyết các bài toán khai phá dữ liệu có độ phức tạp hàm mũ.
- Về mặt ứng dụng thực tiễn: Cho phép các hệ thống bán lẻ quy mô lớn (như siêu thị, sàn thương mại điện tử) khai thác tự động các tổ hợp sản phẩm mang lại doanh thu cao nhất theo danh mục ngành hàng đa cấp, hỗ trợ bố trí quầy kệ và gợi ý sản phẩm (Cross-selling/Up-selling) theo thời gian thực.
- Về mặt chính sách và quản lý: Cung cấp công cụ phân tích dữ liệu đa chiều cho hệ thống y tế (phân tích đơn thuốc theo nhóm dược lý) và giao thông thông minh (phân tích nguyên nhân tai nạn theo nhóm lỗi vi phạm phân cấp).
Limitations và Future Research
Luận án thẳng thắn chỉ rõ các giới hạn học thuật và điều kiện biên:
- Đặc thù mật độ dữ liệu: Cấu trúc $IWS$ và $MBiS$ phát huy hiệu quả tối đa trên CSDL thưa và trung bình. Trên các CSDL cực kỳ dày (dense database) với các bit $1$ chiếm tỷ lệ tuyệt đối, cấu trúc $diffset$ (Zaki, 2003) hoặc vector bit tuần tự thuần túy vẫn có những lợi thế cạnh tranh nhất định.
- Mô hình cây phân cấp tĩnh: Các thuật toán đề xuất giả định cấu trúc cây phân cấp $Tr$ là cố định trong suốt quá trình khai thác. Trong thực tế, danh mục sản phẩm có thể thay đổi linh hoạt.
- Môi trường tính toán đơn luồng: Các thực nghiệm chủ yếu tập trung vào tối ưu hóa thuật toán tuần tự trên bộ nhớ đơn.
Chương trình nghiên cứu tiếp nối (Future Research Agenda):
- Phát triển các cấu trúc $IWS/EDBV$ song song hóa trên kiến trúc vi xử lý đa nhân và đồ họa ($GPU/CUDA$) sử dụng tập lệnh $SIMD/AVX-512$.
- Mở rộng thuật toán cho luồng dữ liệu biến đổi liên tục (Data Stream Mining) và bài toán khai thác tăng dần (Incremental Mining) khi $HQDB$ cập nhật giao dịch mới.
- Nghiên cứu cơ chế nén thích ứng lai ghép (Adaptive Hybrid Bit-vector) tự động chuyển đổi giữa $IWS$, $MBiS$ và $diffset$ tùy theo mật độ cục bộ của từng nhánh lớp tương đương.
Tác động và ảnh hưởng
Công trình nghiên cứu của tác giả Nguyễn Duy Hàm đã đóng góp thiết thực cho kho tàng khoa học trong nước và quốc tế. Các công trình khoa học của luận án đã được công bố tại các hội thảo quốc tế uy tín thuộc hệ thống IEEE (IEEE SMC 2015) và các tạp chí chuyên ngành CNTT uy tín. Về tiềm năng trích dẫn, các thuật toán $IWS$, $MBiS$ và $HIT-tree$ đóng vai trò là giải pháp nền tảng cho các nghiên cứu tiếp theo về khai thác mẫu hữu ích cao ($High\ Utility\ Itemset\ Mining - HUIM$), khai phá luật kết hợp mờ, và phân tích dữ liệu lớn dạng chuỗi thời gian phân cấp.
Đối tượng hưởng lợi
- Nghiên cứu sinh và Giới học thuật: Tiếp cận mô hình toán học chuẩn xác về lý thuyết khai phá mẫu trên dữ liệu số lượng phân cấp, kế thừa các chứng minh toán học về tính bao đóng giảm của hàm $wus$.
- Kỹ sư Hệ thống Dữ liệu lớn (Data Engineers): Ứng dụng kỹ thuật cấu trúc dữ liệu $IWS$, $MBiS$ và bảng tra cứu $MAP[65.536]$ để tối ưu hóa bộ nhớ và tốc độ trong các module phân tích giỏ hàng (Market Basket Analysis).
- Nhà quản trị Kinh doanh & Chuỗi cung ứng: Nhận diện chính xác nhóm sản phẩm mang lại lợi ích tài chính cao nhất ở các cấp độ quản lý vĩ mô (ngành hàng, nhóm hàng) đến vi mô (mã hàng cụ thể), từ đó tối ưu hóa chiến lược danh mục sản phẩm.
Câu hỏi chuyên sâu
- Đóng góp lý thuyết độc đáo nhất của luận án là gì? Trả lời: Luận án đã mở rộng thành công lý thuyết khai thác tập mục dọc ($IT-tree$ của Zaki) sang không gian CSDL số lượng có phân cấp ($HQDB$), chứng minh tính chất bao đóng giảm của độ đo trọng số hữu ích phân cấp $wus(X)$ trên cơ sở loại trừ quan hệ cha - con, giải quyết triệt để bài toán khai thác mẫu đa cấp có trọng số mà không làm vỡ tính toàn vẹn toán học.
- Đột phá phương pháp luận so với các nghiên cứu quốc tế trước đây là gì? Trả lời: So với cấu trúc $DBV$ của Vo et al. (2012) và cấu trúc $BitTable$ của Dong & Han (2007), cấu trúc $IWS$ đã khử triệt để các đoạn word bằng $0$ ở giữa vector bit. Đồng thời, so với thuật toán $GIT-tree$ (Vo et al., 2012) vốn phải chèn mục cha vào CSDL vật lý, cấu trúc $EDBV$ của luận án tính trực tiếp tidset nút cha bằng phép toán logic $OR$ trên bit-vector nút con, giảm hơn $50%$ dung lượng xử lý.
- Phát hiện thực nghiệm bất ngờ nhất được hỗ trợ bởi dữ liệu là gì? Trả lời: Khi tăng số lượng giao dịch lên hàng trăm ngàn bản ghi (tập BMS-POS), thời gian thực thi của thuật toán dựa trên $IWS$ kết hợp mảng tra cứu $MAP[65.536]$ tăng gần như tuyến tính thay vì tăng theo hàm mũ như các thuật toán dựa trên Apriori ($WSPAN$), chứng minh tính khả thi tuyệt đối của việc xử lý bitwise cấp thấp trong Big Data.
- Quy trình tái lập (Replication Protocol) có được cung cấp đầy đủ không? Trả lời: Luận án mô tả chi tiết mã giả toán học của từng thuật toán (Thuật toán xác định giao $IWS$, thuật toán duyệt $IWS-tree$, thuật toán giao $MBiS$, thuật toán cập nhật $DHeap$, thuật toán $HIT-tree$ trên $HQDB$), đồng thời cung cấp đầy đủ thông số của các tập dữ liệu thực nghiệm chuẩn (BMS-POS, RETAIL, SALE-FACT).
- Chương trình nghiên cứu 10 năm tới mở ra từ luận án là gì? Trả lời: Mở rộng mô hình sang bài toán khai thác mẫu hữu ích phân cấp trên dữ liệu lớn phân tán (Apache Spark/Flink), tích hợp mạng nơ-ron sâu để dự báo quy luật mẫu chuỗi thời gian phân cấp, và phát triển các thư viện nguồn mở tối ưu bitwise cho khai phá dữ liệu học thuật.
Kết luận
Luận án tiến sĩ của tác giả Nguyễn Duy Hàm đã hoàn thành xuất sắc các mục tiêu nghiên cứu với 5 đóng góp cốt lõi:
- Xây dựng hoàn chỉnh mô hình toán học và lý thuyết khai thác tập mục phổ biến trọng số hữu ích trên CSDL số lượng có sự phân cấp các mục ($HQDB$).
- Phát triển hai cấu trúc dữ liệu nén bit-vector đột phá ($IWS$ và $MBiS$) cùng kỹ thuật tra cứu bảng $MAP[65.536]$, tối ưu hóa triệt để không gian lưu trữ và thời gian tính giao tidset.
- Đề xuất giải pháp khai thác $k$ nhóm tập mục phổ biến trọng số hữu ích có thứ hạng cao nhất ($TRFWUIk$) hiệu quả vượt bậc bằng cấu trúc đống động $DHeap$.
- Phát minh cấu trúc $EDBV$ và cây phân cấp $HIT-tree$, loại bỏ hoàn toàn chi phí chèn mục cha vật lý trên CSDL phân cấp.
- Kiểm chứng thực nghiệm toàn diện trên các bộ CSDL quốc tế quy mô lớn, chứng minh tính vượt trội về hiệu năng so với các thuật toán nền tảng trong tài liệu học thuật thế giới.
Công trình tạo nên một bước tiến quan trọng, định hình tiêu chuẩn mới cho các thuật toán khai phá mẫu nâng cao trên các hệ thống cơ sở dữ liệu phức hợp hiện đại.
Trích đoạn nội dung luận án
Tải xuống để đọc toàn bộĐẠI HỌC QUỐC GIA HÀ NỘI TRƢỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN ------------------------------ NGUYỄN DUY HÀM PHÁT TRIỂN MỘT SỐ THUẬT TOÁN HIỆU QUẢ KHAI THÁC TẬP MỤC TRÊN CƠ SỞ DỮ LIỆU SỐ LƢỢNG CÓ SỰ PHÂN CẤP CÁC MỤC LUẬN ÁN TIẾN SĨ TOÁN HỌC Hà Nội - 2016 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com ĐẠI HỌC QUỐC GIA HÀ NỘI TRƢỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN ------------------------------ NGUYỄN DUY HÀM PHÁT TRIỂN MỘT SỐ THUẬT TOÁN HIỆU QUẢ KHAI THÁC TẬP MỤC TRÊN CƠ SỞ DỮ LIỆU SỐ LƢỢNG CÓ SỰ PHÂN CẤP CÁC MỤC Chuyên ngành: CƠ SỞ TOÁN CHO TIN HỌC Mã số: 62460110 LUẬN ÁN TIẾN SĨ TOÁN HỌC NGƢỜI HƢỚNG DẪN KHOA HỌC: 1. NGUYỄN THỊ HỒNG MINH 2. VÕ ĐÌNH BẢY XÁC NHẬN NCS ĐÃ CHỈNH SỬA THEO QUYẾT NGHỊ CỦA HỘI ĐỒNG ĐÁNH GIÁ LUẬN ÁN Ngƣời hƣớng dẫn khoa học Chủ tịch hội đồng đánh giá Luận án Tiến sĩ TS. Nguyễn Thị Hồng Minh PGS.
Huỳnh Quyết Thắng Hà Nội - 2016 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com LỜI CAM ĐOAN Tôi xin cam đoan luận án này là công trình nghiên cứu do tác giả thực hiện dƣới sự hƣớng dẫn của tập thể cán bộ hƣớng dẫn. Luận án có sử dụng thông tin trích dẫn từ nhiều nguồn tham khảo khác nhau, các thông tin trích dẫn đều đƣợc ghi rõ nguồn gốc. Các số liệu thực nghiệm, kết quả nghiên cứu trình bày trong luận án là hoàn toàn trung thực, chƣa đƣợc công bố bởi tác giả nào hay trong bất kì công trình nào khác. Tác giả Nguyễn Duy Hàm i LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com LỜI CẢM ƠN Luận án Tiến sĩ này đƣợc thực hiện tại trƣờng Đại học Khoa học và Tự nhiên - Đại học Quốc gia Hà Nội với sự hƣớng dẫn khoa học của TS.
Nguyễn Thị Hồng Minh, PGS.Võ Đình Bảy và TS. Lê Quang Minh. Nghiên cứu sinh xin bày tỏ lòng biết ơn sâu sắc tới thầy giáo, cô giáo hƣớng dẫn đã định hƣớng khoa học, tận tâm giúp đỡ và chỉ bảo tỉ mỉ trong suốt quá trình nghiên cứu mới có thể hoàn thiện bản luận án này. Nghiên cứu sinh luôn ghi nhớ công lao dạy dỗ, dìu dắt vào con đƣờng khoa học của cố PGS.
Hoàng Chí Thành - ngƣời đã hƣớng dẫn Nghiên cứu sinh ở giai đoạn đầu làm nghiên cứu khoa học. Nghiên cứu sinh xin chân thành cảm ơn các nhà khoa học, tác giả các công trình nghiên cứu đã đƣợc trích dẫn trong luận án vì đây là nguồn tài liệu quý báu để Nghiên cứu sinh phát triển và hoàn thiện các công bố của mình. Nghiên cứu sinh xin chân thành cảm ơn Ban Giám hiệu, lãnh đạo Khoa Toán - Cơ - Tin học, các thầy cô, giảng viên Bộ môn Tin học - Trƣờng Đại học Khoa học Tự nhiên - Đại học Quốc gia Hà Nội đã tạo những điều kiện thuận lợi nhất để Nghiên cứu sinh hoàn thành chƣơng trình học tập và thực hiện hoàn tất luận án của mình. Nghiên cứu sinh xin chân thành cảm ơn Ban Giám hiệu Trƣờng Đại học An ninh nhân dân, tập thể giáo viên Bộ môn Toán - Tin học Trƣờng Đại học An ninh nhân dân nơi Nghiên cứu sinh công tác và các bạn bè thân thiết đã luôn tạo điều kiện, động viên, khuyến khích và hỗ trợ tối đa để Nghiên cứu sinh hoàn thành bản luận án này.
Cuối cùng, con xin cảm ơn Bố Mẹ, đặc biệt là Mẹ - ngƣời đã luôn hy sinh tất cả vì sự nghiệp học tập của các con, rất tiếc mẹ đã không đợi đƣợc đến ngày con hoàn thành luận án. Xin cảm ơn gia đình, chị gái và các em đã luôn đồng hành, động viên, chia sẻ giúp duy trì nhiệt huyết và nghị lực để đi đến hoàn thành bản luận án này. Hồ Chí Minh, tháng năm 2016 ii LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com MỤC LỤC LỜI CAM ĐOAN. II MỤC LỤC.
III DANH MỤC BẢNG .V DANH MỤC CÁC HÌNH VẼ, ĐỒ THỊ. VII DANH MỤC CÁC KÍ HIỆU VÀ CHỮ VIẾT TẮT. TỔNG QUAN VỀ KHAI THÁC TẬP MỤC. Bài toán khai thác tập mục.
Một số khái niệm cơ bản. Bài toán khai thác FI. Các phƣơng pháp khai thác FI. Phƣơng pháp khai thác FI trên CSDL ngang.
Phƣơng pháp khai thác FI trên CSDL dọc dựa trên IT-tree. Một số phƣơng pháp khai thác FWI và FWUI trên CSDL số lƣợng. Khai thác FWI. Khai thác FWUI.
Khai thác TRFIk. Khai thác FI trên CSDL có sự phân cấp các mục. Tiếp cận bit-vector trong khai thác FI. Kết luận chƣơng.
KHAI THÁC TẬP MỤC PHỔ BIẾN TRÊN CƠ SỞ DỮ LIỆU SỐ LƢỢNG. Thuật toán khai thác tập FWI. Thuật toán tính giao của hai IWS. Thuật toán khai thác FWI.
Kết quả thực nghiệm. Thuật toán khai thác FWUI. Cấu trúc Multi bit segment. Thuật toán xác định giao MBiS.
Thuật toán khai thác FWUI dựa trên MBiS-tree. Kết quả thực nghiệm. 59 iii LUAN VAN CHAT LUONG download : add luanvanchat@agmail. Thuật toán khai thác TRFWUIk.
Một số khái niệm. Cấu trúc DTab. Cấu trúc TR-tree. Thuật toán khai thác TRFWUIk sử dụng cấu trúc dữ liệu DTab.
Thuật toán khai thác nhanh TRFWUIk dựa trên cấu trúc DHeap. Kết quả thực nghiệm. Kết luận chƣơng. KHAI THÁC TẬP MỤC PHỔ BIẾN TRÊN CƠ SỞ DỮ LIỆU SỐ LƢỢNG CÓ SỰ PHÂN CẤP CÁC MỤC.
Giới thiệu bài toán. Thuật toán khai thác FWUI trên HQDB. Thuật toán xác định weight cho các mục cha. Thuật toán thêm mục cha vào CSDL.
Thuật toán khai thác FWUI. Một số cải tiến nâng cao hiệu quả khai thác FWUI trên HQDB. Cấu trúc EDBV. Tính tidset nút cha từ tidset nút con.
Kiểm tra mối quan hệ cha con đối với các mục trong tập mục. Thuật toán khai thác nhanh FWUI trên HQDB. Kết quả thực nghiệm. CSDL thực nghiệm.
Kết quả thực nghiệm. Kết luận chƣơng. 100 KẾT LUẬN VÀ HƢỚNG PHÁT TRIỂN. 101 DANH MỤC CÔNG TRÌNH KHOA HỌC CỦA TÁC GIẢ LIÊN QUAN ĐẾN LUẬN ÁN.
103 iv LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com DANH MỤC BẢNG Bảng 1. Các giao dịch của nhị phân DB. Các giao dịch của CSDL nhị phân có sự phân cấp mục DB. ID của các mục của DB.
Các giao dịch của DB bằng ID. Giao dịch của CSDL số lƣợng BD. Trọng số các mục của DB. Các giao dịch của CSDL trọng số DB.
Trọng số của các mục của DB. DB theo chiều dọc. Giá trị tw của CSDL DB trong ví dụ 1. twu các giao dịch của DB trong ví dụ 1.
DB trong Ví dụ 1.2 sau khi thêm mục cha. DBV của bit-vector trong ví dụ 2. IWS từ bit-vector trong ví dụ 2. Chỉ số các bit 1 của IWS(X).
IWS của các mục. Mô tả CSDL thực nghiệm. Bit-vector với 96 phần tử. MBiS từ bit-vector ở Bảng 2.
Giao dịch của HD. Tên mặt hàng của các mục. 77 v LUAN VAN CHAT LUONG download : add luanvanchat@agmail. Giao dịch của HD.
twu của các giao dịch. Tập 1-itemset phổ biến. Mảng MAP với 65. Biểu diễn số nguyên K dƣới dạng bốn đoạn, mỗi đoạn là một word.
Mô tả CSDL. Các mức trên cây phân cấp. So sánh bộ nhớ và số lƣợng các mục. Thực nghiệm trên CSDL SALE-FACT-SYNC.
So sánh thời gian chạy trên CSDL SALE-FACT-1997. 99 vi LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com DANH MỤC CÁC HÌNH VẼ, ĐỒ THỊ Hình 1. Cây phân cấp Tr. Cây phân cấp Tr biểu diễn theo ID.
Thuật toán Apriori trong khai thác tập mục phổ biến. Thuật toán FP-Growth dựa trên cấu trúc FP-tree. Thuật toán Eclat dựa trên cấu trúc IT-tree. Cây IT tree với minsup = 0,5 của CSDL DB.
Thuật toán xác định giao hai IWS. Thuật toán tính ws của tập mục X. Thuật toán xây dựng cây IWS-tree. Thuật toán khai thác FWI dựa trên IWS-tree.
IWS-tree với nút A(minws = 0,4). IWS-tree với nútA vàB(minws = 0,4). IWS-tree với minws = 0,4. So sánh thời gian chạy với CSDL RETAIL.
So sánh thời gian chạy với CSDL BMS-POS. So sánh thời gian chạy với CSDL SALE-FACT-1997. So sánh thời gian chạy với CSDL SALE-FACT-1997+1998. So sánh thời gian chạy với CSDL SALE-FACT-SYNC.
So sánh thời gian chạy với CSDL CONNECT. So sánh thời gian chạy với CSDL ACCIDENTS. So sánh bộ nhớ sử dụng với CSDL RETAIL. So sánh bộ nhớ sử dụng với CSDL BMS-POS.
So sánh bộ nhớ sử dụng với CSDL SALE-FACT-1997. So sánh bộ nhớ sử dụng với CSDL SALE-FACT-1997+1998. 52 vii LUAN VAN CHAT LUONG download : add luanvanchat@agmail. So sánh bộ nhớ sử dụng với CSDL SALE-FACT-SYNC.
So sánh bộ nhớ sử dụng với CSDL CONNECT. So sánh bộ nhớ sử dụng với CSDL ACCIDENT. Thuật toán xác định giao hai MBiS. Thuật toán tính wus dựa trên MBiS.
Thuật toán khai thác FWUI dựa trên MBiS-tree. So sánh thời gian chạy trên CSDL RETAIL. So sánh thời gian chạy trên CSDL BMS-POS. So sánh thời gian chạy trên CSDL SALE-FACT-1997.
So sánh thời gian chạy trên CSDL SALE-FACT-1997+1998. So sánh thời gian chạy trên CSDL SALE-FACT-SYNC. So sánh thời gian chạy trên CSDL CONNECT. So sánh thời gian chạy trên CSDL ACCIDENTS.
So sánh bộ nhớ sử dụng trên CSDL RETAIL. So sánh bộ nhớ sử dụng trên CSDL BMS-POS. So sánh bộ nhớ sử dụng trên CSDL SALE-FACT-1997. So sánh bộ nhớ sử dụng trên CSDL SALE-FACT-1997+1998.
So sánh bộ nhớ sử dụng trên CSDL SALE-FACT-SYNC. So sánh bộ nhớ sử dụng trên CSDL CONNECT. So sánh bộ nhớ sử dụng trên CSDL ACCIDENT. Thuật toán tạo TR-tree sử dụng DTab.
Thuật toán lọc ra TRFWUIk. DHeap với k = 5 với CSDL trong ví dụ 1. Thuật toán tạo TR-tree sử dụng DHeap. 70 viii LUAN VAN CHAT LUONG download : add luanvanchat@agmail.
Thuật toán lọc ra TRFWUIk. So sánh thời gian chạy trên CSDL MBS-POS. So sánh thời gian chạy trên CSDL RETAIL. So sánh thời gian chạy trên CSDL CONNECT.
So sánh thời gian trên CSDL SALE-FACT-1997. So sánh thời gian trên CSDL SALE-FACT-1997+1998. So sánh thời gian trên CSDL SALE-FACT-SYNC. Tập các cây phân cấp Tr.
Thuật toán tính weight cho các mục cha. Thuật toán thêm mục cha vào CSDL. Thuật toán khai thác FWUI từ HQDB. Cây HIT-tree với CSDL HD và minwus = 0,6.
Sử dụng các phép AND và dịch bit để tách các đoạn hai byte. Thuật toán tính nhanh wus của các tập mục. Thuật toán xác định tidset các mục và tính twu của các giao dịch. Thuật toán khai thác nhanh FWUI trên HQDB.
So sánh thời gian trên CSDL SALE-FACT-1997. So sánh thời gian trên CSDLSALE-FACT-1997+1998. So sánh thời gian trên CSDL SALE-FACT-SYNC. So sánh thời gian trên CSDL SALE-FACT-1997 .
Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ
Trích dẫn luận án này
Nguyễn Duy Hàm (2016). Phát triển thuật toán khai thác tập mục hiệu quả trên cơ sở dữ liệu phân cấp [Luận án tiến sĩ, Trường Đại học Khoa học Tự nhiên - Đại học Quốc gia Hà Nội]. LuanAn.net. https://luanan.net/cong-nghe-thong-tin/he-thong-thong-tin/luan-an-phat-trien-thuat-toan-khai-thac-tap-muc-co-so-du-lieu-phan-cap
Câu hỏi thường gặp
Luận án "Phát triển thuật toán khai thác tập mục hiệu quả trên cơ sở dữ liệu phân cấp" nghiên cứu về vấn đề gì?
Phát triển thuật toán hiệu quả khai thác tập mục trên cơ sở dữ liệu có phân cấp các mục, cải tiến hiệu suất xử lý dữ liệu lớn với độ chính xác cao.
Luận án "Phát triển thuật toán khai thác tập mục hiệu quả trên cơ sở dữ liệu phân cấp" được bảo vệ tại trường nào?
Luận án này được bảo vệ tại Trường Đại học Khoa học Tự nhiên - Đại học Quốc gia Hà Nội. Năm bảo vệ: 2016.
Luận án "Phát triển thuật toán khai thác tập mục hiệu quả trên cơ sở dữ liệu phân cấp" thuộc chuyên ngành gì?
Luận án "Phát triển thuật toán khai thác tập mục hiệu quả trên cơ sở dữ liệu phân cấp" thuộc chuyên ngành Cơ sở toán cho tin học. Danh mục: Hệ Thống Thông Tin.
Luận án "Phát triển thuật toán khai thác tập mục hiệu quả trên cơ sở dữ liệu phân cấp" có bao nhiêu trang?
Luận án "Phát triển thuật toán khai thác tập mục hiệu quả trên cơ sở dữ liệu phân cấp" có 120 trang. Bạn có thể xem trước một phần tài liệu ngay trên trang web trước khi tải về.
Cách tải luận án "Phát triển thuật toán khai thác tập mục hiệu quả trên cơ sở dữ liệu phân cấp" về máy như thế nào?
Để tải luận án về máy, bạn nhấn nút "Tải xuống ngay" trên trang này, sau đó hoàn tất thanh toán phí lưu trữ. File sẽ được tải xuống ngay sau khi thanh toán thành công. Hỗ trợ qua Zalo: 0559 297 239.