Luận án tiến sĩ: Techniques for incorporating data quality assessments into learning algorithms for Bayesian networks
Luận án tiến sĩ đề xuất kỹ thuật tích hợp đánh giá chất lượng dữ liệu vào thuật toán học mạng Bayes. Cải thiện độ chính xác và tin cậy của mô hình dự đoán.
Luan An
Luận án tiến sĩ
Năm xuất bản
Số trang
124
Thời gian đọc
19 phút
Lượt xem
0
Lượt tải
0
Phí lưu trữ
40 Point
Tổng quan nhanh
- Chủ đề:
- Nâng cao Học mạng Bayesian với Đánh giá chất lượng dữ liệu
- Số trang:
- 124 trang
- Trường:
- University of South Carolina
- Chuyên ngành:
- Computer Science and Engineering
- Tác giả:
- Valerie Kay Sessions
- Năm:
- 2006
Tóm tắt nội dung luận án
I.Nâng cao Học mạng Bayesian với Đánh giá chất lượng dữ liệu
Các thuật toán học cấu trúc mạng Bayesian (BNs) đã thành công lớn. Chúng học trực tiếp từ dữ liệu. Tuy nhiên, một giả định cơ bản thường được đưa ra. Dữ liệu đầu vào cho thuật toán học luôn chính xác. Giả định này đơn giản và có thể gây ra vấn đề nghiêm trọng. Nó dẫn đến các khung ra quyết định thiên vị. Các quyết định này cũng có thể không thực tế. Để các thuật toán ra quyết định đạt tiềm năng tối đa, cần thiết kế chúng khác đi. Chúng phải có khả năng tính đến chất lượng dữ liệu. Điều này quan trọng cho các mô hình đồ họa xác suất. Việc bỏ qua chất lượng dữ liệu làm suy yếu tính toàn vẹn của mô hình. Cần một phương pháp để đánh giá dữ liệu. Nghiên cứu này đặt nền tảng cho sự phát triển thuật toán mới. Các thuật toán này tích hợp đánh giá chất lượng dữ liệu. Chúng được đưa vào các thuật toán học BN truyền thống. Đặc biệt, thuật toán PC được tập trung phân tích. Mục tiêu là cải thiện độ chính xác mô hình. Nó cũng tăng cường khả năng ra quyết định.
1.1. Thách thức trong Học mạng Bayesian
Các thuật toán học cấu trúc mạng Bayesian đã đạt nhiều thành tựu. Việc học trực tiếp từ dữ liệu là phổ biến. Tuy nhiên, một giả định cốt lõi tồn tại. Giả định này cho rằng dữ liệu đầu vào là hoàn hảo. Thực tế, giả định này rất ngây thơ. Nó dẫn đến các khung quyết định thiếu khách quan. Các mô hình học từ dữ liệu không chính xác không phản ánh đúng sự thật. Điều này tạo ra rủi ro lớn trong các hệ thống ra quyết định.
1.2. Nhu cầu Đánh giá chất lượng dữ liệu
Để khai thác toàn bộ tiềm năng của thuật toán ra quyết định, cần có cách tiếp cận mới. Thuật toán phải tích hợp khả năng xem xét chất lượng dữ liệu. Việc này rất quan trọng cho các mô hình đồ họa xác suất. Chất lượng dữ liệu kém làm giảm độ tin cậy của mô hình học. Cần có các phương pháp đánh giá mạnh mẽ. Chúng giúp xác định và xử lý dữ liệu không chính xác. Điều này đảm bảo tính chính xác của mô hình học.
1.3. Mục tiêu tổng quan của nghiên cứu
Nghiên cứu này là nền tảng cho các thuật toán tiên tiến. Các thuật toán này kết hợp đánh giá chất lượng dữ liệu. Việc tích hợp này được thực hiện vào các thuật toán học mạng Bayesian truyền thống. Thuật toán PC là trọng tâm chính của nghiên cứu. Mục tiêu là nâng cao độ chính xác của mô hình. Nó cũng cải thiện khả năng ra quyết định trong môi trường dữ liệu thực tế. Công trình này hỗ trợ phát triển các mô hình học máy mạnh mẽ hơn.
II.Định lượng tác động Dữ liệu không chính xác trên PC
Nghiên cứu bắt đầu bằng việc xem xét lại các khái niệm cơ bản. Mạng Bayesian, thuật toán học, và các thước đo chất lượng dữ liệu được kiểm tra. Dữ liệu thường không hoàn hảo trong thế giới thực. Giả định dữ liệu 'sạch' không còn phù hợp. Sự hiểu biết về chất lượng dữ liệu là thiết yếu. Nó ảnh hưởng đến mọi giai đoạn học mô hình. Tác động của dữ liệu không chính xác đã được định lượng. Ảnh hưởng này được đánh giá cụ thể trên thuật toán PC. Thuật toán PC là một phương pháp phổ biến. Nó được dùng để học cấu trúc mạng Bayesian. Dữ liệu kém chất lượng có thể làm sai lệch kết quả. Nó dẫn đến cấu trúc mạng không chính xác. Điều này ảnh hưởng đến suy luận nhân quả. Dữ liệu chất lượng thấp tạo ra các mô hình thiếu tin cậy. Điều này gây khó khăn trong việc ra quyết định. Các ứng dụng máy học bị ảnh hưởng tiêu cực. Mô hình không thể phản ánh đúng mối quan hệ thực tế. Việc định lượng này cung cấp cơ sở. Nó cho thấy sự cần thiết của việc tích hợp chất lượng dữ liệu. Điều này rất quan trọng để đảm bảo tính toàn vẹn của dữ liệu.
2.1. Phân tích giả định dữ liệu sạch
Nghiên cứu xem xét kỹ lưỡng các giả định cơ bản. Giả định về dữ liệu sạch thường được sử dụng trong học máy. Các nguyên tắc của mạng Bayesian, thuật toán học và đo lường chất lượng dữ liệu được đánh giá lại. Dữ liệu thực tế thường chứa lỗi và thiếu sót. Do đó, giả định dữ liệu sạch là không thực tế. Hiểu biết sâu sắc về chất lượng dữ liệu rất quan trọng. Nó ảnh hưởng đến độ chính xác của mọi quá trình học mô hình.
2.2. Ảnh hưởng của Dữ liệu không chính xác
Tác động của dữ liệu không chính xác đã được định lượng. Ảnh hưởng này đặc biệt được phân tích trên thuật toán PC. Thuật toán PC là một phương pháp học cấu trúc mạng Bayesian. Dữ liệu kém chất lượng có thể làm sai lệch đáng kể kết quả học. Nó dẫn đến việc hình thành cấu trúc mạng không chính xác. Điều này trực tiếp ảnh hưởng đến khả năng thực hiện suy luận nhân quả. Mô hình trở nên không đáng tin cậy.
2.3. Hậu quả của Dữ liệu chất lượng thấp
Dữ liệu chất lượng thấp sinh ra các mô hình không đáng tin cậy. Các mô hình này khó sử dụng trong quá trình ra quyết định. Các ứng dụng máy học bị ảnh hưởng nghiêm trọng. Mô hình không thể nắm bắt đúng các mối quan hệ thực tế trong dữ liệu. Việc định lượng tác động này cung cấp bằng chứng rõ ràng. Nó chứng minh sự cần thiết phải tích hợp các đánh giá chất lượng dữ liệu. Điều này rất quan trọng để duy trì tính toàn vẹn của dữ liệu.
III.Kỹ thuật tích hợp Đánh giá chất lượng dữ liệu mới
Sau khi định lượng tác động, nghiên cứu tập trung vào giải pháp. Ba kỹ thuật mới đã được phát triển. Chúng nhằm mục đích kết hợp đánh giá chất lượng dữ liệu. Việc tích hợp này được thực hiện vào thuật toán PC. Mục tiêu là tạo ra các thuật toán mạnh mẽ hơn. Các thuật toán này có khả năng chịu đựng dữ liệu không hoàn chỉnh. Ba kỹ thuật khác nhau được đề xuất. Mỗi kỹ thuật có một cách tiếp cận riêng. Chúng để xử lý dữ liệu kém chất lượng. Một kỹ thuật điều chỉnh mức ý nghĩa. Các kỹ thuật khác có thể bao gồm điều chỉnh trọng số dữ liệu hoặc xử lý trực tiếp các điểm dữ liệu không đáng tin cậy. Mục tiêu là giảm thiểu lỗi. Các lỗi do dữ liệu không chính xác gây ra. Các kỹ thuật này được áp dụng trực tiếp vào thuật toán PC. Thuật toán PC là một công cụ mạnh mẽ. Nó dùng để khám phá cấu trúc đồ thị. Việc tích hợp này giúp thuật toán PC hoạt động tốt hơn. Nó hoạt động trong môi trường dữ liệu thực tế. Các mô hình học được sẽ đáng tin cậy hơn. Chúng cung cấp cái nhìn sâu sắc hơn về suy luận nhân quả.
3.1. Phát triển phương pháp cải tiến
Nghiên cứu tập trung vào việc phát triển các phương pháp giải quyết vấn đề. Ba kỹ thuật sáng tạo đã được tạo ra. Chúng nhằm mục đích tích hợp đánh giá chất lượng dữ liệu. Việc tích hợp này được thiết kế cho thuật toán PC. Mục tiêu là xây dựng các thuật toán mạnh mẽ hơn. Các thuật toán này có thể hoạt động hiệu quả với dữ liệu không hoàn hảo. Điều này cải thiện độ bền vững của các mô hình học máy.
3.2. Ba kỹ thuật Đánh giá chất lượng dữ liệu
Ba kỹ thuật riêng biệt đã được đề xuất. Mỗi kỹ thuật có phương pháp tiếp cận độc đáo. Chúng giải quyết thách thức từ dữ liệu kém chất lượng. Một trong các kỹ thuật này liên quan đến việc điều chỉnh mức ý nghĩa. Các kỹ thuật khác có thể bao gồm phương pháp xử lý trực tiếp dữ liệu không đáng tin cậy. Mục đích chính là giảm thiểu sai sót. Các sai sót này phát sinh từ dữ liệu không chính xác. Điều này nâng cao độ tin cậy của mô hình.
3.3. Áp dụng cho Thuật toán PC
Các kỹ thuật mới này được áp dụng cụ thể cho thuật toán PC. Thuật toán PC là một công cụ quan trọng. Nó được dùng để khám phá cấu trúc đồ thị trong mạng Bayesian. Việc tích hợp các kỹ thuật này cải thiện hiệu suất của thuật toán PC. Nó giúp thuật toán hoạt động hiệu quả hơn với dữ liệu thực tế. Các mô hình mạng Bayesian học được sẽ chính xác hơn. Chúng cung cấp khả năng suy luận nhân quả đáng tin cậy.
IV.Kết quả nghiên cứu và Hướng phát triển thuật toán
Kết quả nghiên cứu chỉ ra một kỹ thuật đặc biệt hứa hẹn. Kỹ thuật này điều chỉnh mức ý nghĩa. Mức ý nghĩa được sử dụng bởi thuật toán PC. Việc điều chỉnh này giúp thuật toán PC hiệu quả hơn. Nó đối phó với sự không chắc chắn của dữ liệu. Kỹ thuật này cải thiện độ mạnh của thuật toán. Nó dẫn đến các mô hình BN chính xác hơn. Kết quả này rất quan trọng cho các ứng dụng thực tế. Nghiên cứu trình bày và giải thích chi tiết các kết quả. Việc này củng cố hiểu biết về ảnh hưởng của chất lượng dữ liệu. Nó cũng cho thấy cách cải thiện các thuật toán hiện có. Tiềm năng của việc điều chỉnh mức ý nghĩa được làm rõ. Nó giúp định hướng phát triển các thuật toán học máy. Các thuật toán này có khả năng thích ứng tốt hơn với dữ liệu thực. Dựa trên các phát hiện, nghiên cứu đề xuất các hướng dẫn. Chúng dành cho nghiên cứu trong tương lai. Các hướng này bao gồm việc khám phá các kỹ thuật tích hợp khác. Nó cũng mở rộng ứng dụng sang các thuật toán học BN khác. Cần có thêm nghiên cứu về định lượng sự không chắc chắn. Điều này giúp cải thiện hơn nữa tính toàn vẹn của dữ liệu.
4.1. Kỹ thuật điều chỉnh mức ý nghĩa
Các phát hiện cho thấy một kỹ thuật cụ thể rất hứa hẹn. Kỹ thuật này liên quan đến việc điều chỉnh mức ý nghĩa. Mức ý nghĩa được sử dụng trong thuật toán PC. Việc điều chỉnh này cải thiện khả năng của thuật toán PC. Nó xử lý hiệu quả hơn sự không chắc chắn trong dữ liệu. Kỹ thuật này nâng cao độ mạnh của thuật toán. Nó tạo ra các mô hình mạng Bayesian chính xác hơn. Điều này có ý nghĩa quan trọng cho các ứng dụng thực tế.
4.2. Khám phá tiềm năng thuật toán PC
Nghiên cứu trình bày chi tiết các kết quả đã đạt được. Nó làm rõ tác động của chất lượng dữ liệu. Nó cũng chỉ ra các phương pháp cải thiện thuật toán hiện có. Tiềm năng của việc điều chỉnh mức ý nghĩa được nhấn mạnh. Kết quả này cung cấp hướng đi cho việc phát triển các thuật toán học máy. Các thuật toán này có khả năng thích ứng tốt hơn với dữ liệu thực. Điều này giúp tối ưu hóa hiệu suất mô hình.
4.3. Đề xuất hướng nghiên cứu trong tương lai
Dựa trên những phát hiện, nghiên cứu đưa ra các khuyến nghị. Các khuyến nghị này dành cho các nghiên cứu tiếp theo. Chúng bao gồm việc khám phá thêm các kỹ thuật tích hợp mới. Việc mở rộng ứng dụng sang các thuật toán học mạng Bayesian khác cũng được đề xuất. Cần tiếp tục nghiên cứu về định lượng sự không chắc chắn. Điều này giúp nâng cao hơn nữa tính toàn vẹn của dữ liệu. Nó đảm bảo độ tin cậy của các mô hình học.
V.Vai trò Chất lượng dữ liệu trong Mô hình mạng Bayesian
Chất lượng dữ liệu đóng vai trò then chốt. Nó tối ưu hóa hiệu suất của mô hình mạng Bayesian. Dữ liệu chất lượng cao dẫn đến học mô hình hiệu quả hơn. Các quyết định được đưa ra dựa trên mô hình sẽ đáng tin cậy hơn. Điều này đặc biệt quan trọng trong các lĩnh vực yêu cầu độ chính xác cao. Nó bao gồm y tế, tài chính và an ninh. Nghiên cứu này nhấn mạnh. Chất lượng dữ liệu trực tiếp ảnh hưởng đến suy luận nhân quả. Các mô hình mạng Bayesian được sử dụng rộng rãi cho mục đích này. Bằng cách tích hợp đánh giá chất lượng dữ liệu, mô hình tạo ra suy luận đáng tin cậy hơn. Nó giảm thiểu rủi ro từ dữ liệu sai lệch. Điều này tăng cường sự tin cậy vào kết quả phân tích. Các kỹ thuật được phát triển mở ra cánh cửa mới. Chúng giúp mở rộng ứng dụng của mạng Bayesian. Điều này áp dụng cho các tình huống dữ liệu thực tế. Khả năng xử lý dữ liệu không hoàn chỉnh. Điều này làm cho học máy trở nên thực tế hơn. Nó áp dụng cho các tập dữ liệu đa dạng. Công trình này là một bước tiến quan trọng. Nó hướng tới việc xây dựng các hệ thống trí tuệ nhân tạo mạnh mẽ hơn.
5.1. Tối ưu hóa hiệu suất Mô hình
Chất lượng dữ liệu là yếu tố then chốt. Nó quyết định hiệu suất của các mô hình mạng Bayesian. Dữ liệu chất lượng cao cho phép học mô hình hiệu quả hơn. Điều này dẫn đến các quyết định đáng tin cậy hơn. Điều này đặc biệt quan trọng trong các lĩnh vực yêu cầu độ chính xác cao. Ví dụ như chăm sóc sức khỏe và tài chính. Đảm bảo chất lượng dữ liệu là bước đầu tiên để xây dựng mô hình mạnh mẽ.
5.2. Đảm bảo độ tin cậy của Suy luận
Nghiên cứu này làm nổi bật mối liên hệ trực tiếp. Chất lượng dữ liệu ảnh hưởng đến suy luận nhân quả. Mạng Bayesian thường được sử dụng cho mục đích này. Bằng cách tích hợp đánh giá chất lượng dữ liệu, mô hình có thể tạo ra suy luận chính xác hơn. Điều này giảm thiểu rủi ro từ dữ liệu sai lệch. Nó tăng cường độ tin cậy của kết quả phân tích. Tính toàn vẹn của dữ liệu được đảm bảo hơn.
5.3. Mở rộng ứng dụng học máy
Các kỹ thuật được phát triển trong luận án mở ra nhiều cơ hội mới. Chúng cho phép mở rộng ứng dụng của mạng Bayesian. Điều này áp dụng cho các tình huống dữ liệu phức tạp. Khả năng xử lý dữ liệu không hoàn chỉnh là then chốt. Điều này làm cho học máy trở nên thực tế hơn. Nó có thể được áp dụng cho nhiều tập dữ liệu đa dạng. Công trình này là một đóng góp quan trọng. Nó hướng tới việc phát triển hệ thống trí tuệ nhân tạo mạnh mẽ hơn.
Mục lục chi tiết luận án
Tải xuống file đầy đủ để xem toàn bộ nội dung
Tải đầy đủ (124 trang)Nội dung chính
Tổng quan về luận án
Trong kỷ nguyên khoa học dữ liệu và trí tuệ nhân tạo, mạng Bayes (Bayesian Networks - BNs) đã chứng minh vai trò nền tảng trong việc mô hình hóa sự không chắc chắn, biểu diễn tri thức và suy luận nhân quả. Tuy nhiên, phần lớn các thuật toán học cấu trúc và ước lượng tham số truyền thống đều vận hành dựa trên một giả định ngây thơ mang tính hệ thống: tập dữ liệu đầu vào luôn hoàn chỉnh và hoàn toàn chính xác. Luận án tiến sĩ mang tên "Techniques for Incorporating Data Quality Assessments into Learning Algorithms for Bayesian Networks" của tác giả Valerie Kay Sessions (Đại học South Carolina, 2006, dưới sự hướng dẫn của Giáo sư Marco Valtorta) đã tạo nên một bước đột phá học thuật khi trực tiếp phá vỡ giả định này. Luận án đặt vấn đề cốt lõi: "The field of Bayesian Networks (BNs) has had much success in developing structure learning algorithms to learn BNs directly from data. However, research has normally started with the assumption that the data given to the learning algorithm is accurate. This assumption is a naive one and can lead to very biased and unrealistic decision making frameworks."
Khoảng trống nghiên cứu (research gap) mà luận án giải quyết nằm ở sự thiếu vắng các cơ chế toán học và thuật toán cho phép tích hợp trực tiếp các đánh giá chất lượng dữ liệu (Data Quality - DQ), đặc biệt là độ không chính xác (data inaccuracy), vào giai đoạn học cấu trúc và tham số của mạng Bayes mà không phụ thuộc hoàn toàn vào các bộ lọc tiền xử lý dữ liệu. Luận án tập trung vào hai câu hỏi nghiên cứu (Research Questions - RQ) và hai giả thuyết cốt lõi (Hypotheses - H):
- RQ1: Sự biến thiên về tỷ lệ dữ liệu không chính xác ảnh hưởng cụ thể như thế nào đến độ lệch tham số và sự suy thoái cấu trúc (liên kết thiếu, liên kết sai hướng, liên kết giả) trong các thuật toán học mạng Bayes dựa trên ràng buộc (Constraint-Based)?
- RQ2: Liệu việc hiệu chỉnh ngưỡng thống kê trong các kiểm định độc lập có điều kiện có thể vô hiệu hóa sai lệch do dữ liệu bẩn gây ra nhằm phục hồi cấu trúc mạng tối ưu hay không?
- H1: Tham số xác suất hậu nghiệm học được từ phân phối Beta không đổi theo quy mô mẫu tổng thể nếu tỷ lệ dữ liệu đúng/dữ liệu bẩn được giữ cố định.
- H2: Việc tích hợp mức chất lượng dữ liệu để điều chỉnh động mức ý nghĩa thống kê ($\alpha$) trong thuật toán PC sẽ cải thiện đáng kể độ chính xác cấu trúc so với phương pháp cơ sở không xử lý.
Khung lý thuyết của nghiên cứu được xây dựng dựa trên lý thuyết đồ thị có hướng không chu trình (Directed Acyclic Graph - DAG), điều kiện Markov (Markov Condition), hệ tiên đề xác suất Kolmogorov (1930s), lý thuyết kiểm định độc lập có điều kiện dựa trên điểm Cross-Entropy ($G^2$), và lý thuyết cập nhật bằng chứng không chắc chắn (Uncertain Evidence Update) của Pearl, Jeffrey và Vomlel. Phạm vi thực nghiệm của luận án bao phủ các mạng chuẩn quốc tế bao gồm Visit to Asia (8 nút), Stud Farm (12 nút - phả hệ di truyền học) và ALARM (37 nút - giám sát y tế), với quy mô mẫu kiểm thử chính xác từ 100, 500, 1.000 đến 10.000 bản ghi, chịu sự tác động của 6 dải tỷ lệ ô nhiễm dữ liệu từ 0% đến 90%.
Literature Review và Positioning
Nghiên cứu định vị bản thân tại giao lộ giữa hai luồng tư tưởng học thuật lớn: lý thuyết học máy xác suất (Probabilistic Machine Learning) và quản trị chất lượng thông tin (Information Quality Management).
Trong lĩnh vực học cấu trúc mạng Bayes, y văn phân tách thành hai trường phái chính:
- Trường phái tìm kiếm và chấm điểm (Search and Score): Dẫn đầu bởi Cooper và Herskovits (1992) với thuật toán K2 sử dụng hàm chấm điểm Cooper-Herskovits, tiếp nối bởi Heckerman, Geiger và Chickering (1995) với thang đo BDe (Bayesian Dirichlet equivalent). Chickering (1996) đã chứng minh việc tìm cấu trúc DAG tối ưu toàn cục là bài toán NP-hard, thúc đẩy sự phát triển của các phương pháp tìm kiếm heuristic.
- Trường phái dựa trên ràng buộc (Constraint-Based): Khởi xướng bởi Spirtes, Glymour và Scheines (1993) với thuật toán PC, sau đó được mở rộng thành thuật toán NPC (Non-Polynomial Causal) và thuật toán kết hợp CB (Constraint-Based combined with K2) bởi Singh và Valtorta (1995). Nhóm thuật toán này dựa trên các kiểm định độc lập có điều kiện (CI) thông qua d-separation và thuật toán Bayes-Ball của Schachter (1998) để loại bỏ các cạnh độc lập và định hướng đồ thị.
Một cuộc tranh luận lý thuyết sâu sắc trong y văn liên quan đến việc cập nhật xác suất khi có bằng chứng không chắc chắn (Uncertain Evidence):
- Quy tắc Jeffrey (Jeffrey's Rule): Tiếp cận theo nguyên lý chuyển dịch xác suất động (probability kinematics) hay phương pháp "All things considered", xem phân phối mới của sự kiện là chân lý tuyệt đối và điều chỉnh toàn bộ hệ thống.
- Phương pháp bằng chứng ảo (Virtual Evidence Method): Được Pearl (1988), Chan và Darwiche (2002) ủng hộ, tiếp cận theo hướng "Nothing else considered", mô hình hóa độ không chắc chắn của bằng chứng dưới dạng hàm hợp lý (likelihood function) thông qua một nút ảo phụ trợ. Vomlel (2004) đã tổng hợp và chỉ ra rằng việc lựa chọn phương pháp phụ thuộc vào bản chất thu thập dữ liệu và mức độ tin cậy của nguồn tin.
Về mặt chất lượng dữ liệu, luận án kế thừa các nghiên cứu thực nghiệm quan trọng. Cụ thể, báo cáo của Văn phòng Đánh giá Công nghệ Quốc hội Mỹ (OTA) về cơ sở dữ liệu tội phạm NCIC-CCH của FBI ghi nhận: "A study in the 1980’s conducted for the Office of Technology Assessment, discovered that there were vast problems with the Federal Bureau of Investigation (FBI)’s databases... approximately half of those data records contain some problem in data quality, ranging from incomplete data to inaccuracy." Bên cạnh đó, các sai số hiệu chuẩn của Kính viễn vọng Không gian Hubble và khung quản trị AIMQ của chương trình Total Data Quality Management (TDQM) tại MIT (Wang et al.) cho thấy sự cần thiết của việc lượng hóa chất lượng thông tin. Trong khi các kỹ thuật làm sạch dữ liệu truyền thống (Maletic & Marcus, 2000; Sung et al., 2005) chỉ dừng lại ở phát hiện ngoại lai (statistical outlier detection) hoặc giải quyết thực thể (entity resolution), luận án của Sessions tạo ra sự chuyển dịch đột phá: biến chất lượng dữ liệu thành một tham số toán học tham gia trực tiếp vào quá trình suy diễn thuật toán.
Đóng góp lý thuyết và khung phân tích
Đóng góp cho lý thuyết
Luận án mở rộng nền tảng lý thuyết xác suất và học máy đồ thị thông qua các đóng góp toán học chuẩn xác:
-
Mở rộng lý thuyết ước lượng tham số dưới điều kiện dữ liệu nhiễu: Dựa trên hàm mật độ Beta với các tham số $\alpha, \beta, N = \alpha + \beta$: $$\text{beta}(f; a, b) = \frac{\Gamma(a+b)}{\Gamma(a)\Gamma(b)} f^{a-1} (1-f)^{b-1}$$ với giá trị kỳ vọng $E(F) = \frac{a}{a+b}$. Luận án chứng minh một định lý nền tảng về tính bất biến của tham số:
"Theorem 1 — The learned potential of a state is invariant with respect to the number of good and bad cases in the sample set, $n_g$ and $n_b$, respectively, when the ratio $\frac{n_g}{n_b}$ is fixed."
Chứng minh: Xét biến nhị phân $X = \text{'yes'}$ có xác suất trong mẫu đúng là $\theta_{good}$ và trong mẫu sai là $\theta_{bad}$. Tổng số trường hợp kỳ vọng $X = \text{'yes'}$ trong mẫu gộp quy mô $n_g + n_b$ là: $$\theta_{overall} = \frac{(n_g \cdot \theta_{good}) + (n_b \cdot \theta_{bad})}{n_g + n_b}$$ Khi nhân cả $n_g$ và $n_b$ với một hằng số $k > 0$, tỷ số $\frac{k \cdot n_g}{k \cdot n_b} = \frac{n_g}{n_b}$ không đổi, dẫn đến $\theta_{overall}$ triệt tiêu $k$ và giữ nguyên giá trị. Định lý này giải thích tại sao sai lệch tham số phụ thuộc trực tiếp vào tỷ lệ ô nhiễm chứ không phụ thuộc vào độ lớn của mẫu dữ liệu.
-
Hình thức hóa không gian đo lường chất lượng dữ liệu (Data Quality Dimensions): Kế thừa mô hình độ nhạy (sensitivity - $tp$) và độ đặc hiệu (specificity - $tn$) của Vomlel (2004), luận án thiết lập các công thức chuẩn tắc:
- Độ chính xác (Accuracy): $P(A=T) = \frac{tp + tn}{tp + tn + fp + fn}$
- Độ đầy đủ (Completeness): $C% = \frac{n_c}{n_c + n_m}$ ($n_c$: hoàn chỉnh, $n_m$: thiếu)
- Độ nhất quán (Consistency): Căn bậc hai của phương sai mẫu $\text{Variance} = \frac{1}{N} \sum_{i=1}^N (x_i - \bar{x})^2$ giữa các nguồn dữ liệu độc lập.
- Tính kịp thời (Timeliness): $T% = \frac{n_t}{n_t + n_u}$ ($n_t$: kịp thời, $n_u$: quá hạn theo chuẩn $t$).
Khung phân tích độc đáo
Khung phân tích của nghiên cứu là sự tích hợp đa chiều giữa 3 lý thuyết: Lý thuyết phân phối xác suất Dirichlet-Beta, Lý thuyết thông tin thống kê Cross-Entropy, và Lý thuyết đồ thị nhân quả d-separation.
┌────────────────────────────────────────────────────────┐
│ Đánh giá Chất lượng Dữ liệu (DQ Assessment Metric) │
│ Accuracy: P(A=T) = (tp + tn) / (tp + tn + fp + fn) │
└───────────────────────────┬────────────────────────────┘
│
▼
┌────────────────────────────────────────────────────────┐
│ Kiểm định Độc lập Điều kiện (Conditional Independence)│
│ Thống kê Cross-Entropy: G^2 = 2m * CE(X, Y) │
└───────────────────────────┬────────────────────────────┘
│
Hiệu chỉnh Ngưỡng Ý nghĩa
Dynamic Significance Level α'
│
▼
┌────────────────────────────────────────────────────────┐
│ Thuật toán PC Hiệu chỉnh (Dynamic DQ Algorithm) │
│ Loại bỏ Cạnh Độc lập ──► Định hướng Cấu trúc DAG │
└────────────────────────────────────────────────────────┘
Điểm cốt lõi của khung phân tích là việc sử dụng thống kê sai số Cross-Entropy $G^2$ trong thuật toán PC: $$G^2 = 2m \cdot \text{CE}(X,Y) = 2m \sum_{x,y} P(x,y) \log \frac{P(x,y)}{P(x)P(y)}$$ Khi dữ liệu bị ô nhiễm bởi các bản ghi không chính xác, điểm $G^2$ bị suy giảm nhân tạo, khiến các biến phụ thuộc thực sự bị hiểu nhầm là độc lập, dẫn đến việc thuật toán PC xóa nhầm các cạnh nhân quả quan trọng. Bằng cách tái cấu trúc mức ý nghĩa $\alpha$, khung phân tích của Sessions trực tiếp bù đắp lượng thông tin suy giảm này.
Phương pháp nghiên cứu tiên tiến
Thiết kế nghiên cứu
Nghiên cứu tuân thủ triết lý thực chứng thực nghiệm (Positivism), sử dụng phương pháp mô phỏng ngẫu nhiên (Monte Carlo simulation) có kiểm soát nghiêm ngặt. Thiết kế nghiên cứu thiết lập môi trường đa tầng:
- Tầng cấu trúc mạng chuẩn (Ground Truth Topologies): Mạng Visit to Asia (8 biến: Asia, Tub, Smoke, Lung, Either, Bronc, Dysp, Xray) và mạng Stud Farm (12 biến mô phỏng phả hệ di truyền với cấu trúc phụ thuộc phức tạp).
- Tầng tạo sinh dữ liệu bẩn (Contamination Layer): Tạo ra hai mô hình gốc trong Hugin™ Decision Engine: mô hình chân lý $M_{true}$ với bảng xác suất điều kiện (CPT) chuẩn, và mô hình lỗi $M_{bad}$ với toàn bộ xác suất được thiết lập phẳng ở mức 0.5 (phân phối đều ngẫu nhiên hoàn toàn). Dữ liệu sau đó được trộn theo các tỷ lệ thực nghiệm: 100/0, 90/10, 75/25, 50/50, 25/75, và 10/90.
Quy trình nghiên cứu rigorous
Quy trình thu thập và xử lý dữ liệu trải qua 4 bước khép kín:
- Tạo lập mẫu quy mô lớn: Sinh các tập dữ liệu có kích thước mẫu $N \in {100; 500; 1.000; 10.000}$ trường hợp từ cả hai mô hình.
- Kiểm chuẩn ước lượng tham số (Parameter Estimation Benchmark): Sử dụng thuật toán học tham số dựa trên phân phối Beta để tính toán giá trị kỳ vọng $E(F)$ và phương sai $\sigma^2$: $$\sigma^2 = \frac{\alpha\beta}{(\alpha+\beta)^2(\alpha+\beta+1)}$$ Khoảng tin cậy 95% được tính chuẩn hóa theo xấp xỉ phân phối chuẩn với $z = 1.96$: $(E(F) - 1.96\sigma, E(F) + 1.96\sigma)$.
- Triangulation đa thuật toán: Thực thi song song dữ liệu trên 3 công cụ độc lập:
- Mô-đun Parameter Estimation tự xây dựng trên nền Java/XML.
- Hugin™ Researcher Engine triển khai thuật toán PC và NPC.
- Phần mềm Visual CB triển khai thuật toán CB (Singh & Valtorta).
- Phân loại lỗi cấu trúc: Đánh giá cấu trúc học được so với mạng chuẩn qua 3 chỉ số tuyệt đối:
- False Negative (FN): Số liên kết bị thiếu (độc lập giả).
- False Positive (FP): Số liên kết thừa (phụ thuộc giả).
- Misoriented Links (MO): Số liên kết bị đảo ngược hướng nhân quả.
Data và phân tích
Luận án thiết kế và thử nghiệm 3 phương pháp xử lý dữ liệu chất lượng thấp đối chiếu với phương pháp cơ sở:
- Phương pháp Do Nothing (Baseline): Đưa trực tiếp dữ liệu bẩn vào thuật toán PC chuẩn mà không có bất kỳ hiệu chỉnh nào.
- Phương pháp Threshold (Lọc ngưỡng): Thiết lập ngưỡng chấp nhận dữ liệu dựa trên chỉ số $P(A=T)$; loại bỏ các tập dữ liệu rơi vào dải chất lượng thấp.
- Thuật toán DQ Algorithm Part I (Manual) & Part II (Dynamic): Phương pháp hiệu chỉnh mức ý nghĩa thống kê $\alpha$ của kiểm định $G^2$ trong thuật toán PC. Khi tỷ lệ lỗi tăng cao, mức ý nghĩa $\alpha$ được điều chỉnh động (tăng dần giá trị $\alpha$ kiểm định) để giảm ngưỡng bác bỏ giả thuyết $H_0$ (độc lập), qua đó giữ lại các cạnh thực sự phụ thuộc bị nhiễu làm mờ.
Phát hiện đột phá và implications
Những phát hiện then chốt
- Phát hiện nghịch lý phương sai mẫu trong ước lượng tham số: Khi kiểm tra thực nghiệm trên mạng Visit to Asia với các tập dữ liệu 100 và 10.000 bản ghi, thoạt nhìn dữ liệu quy mô nhỏ (100 bản ghi) có vẻ ít biến thiên hơn so với dữ liệu lớn (10.000 bản ghi) ở các mức nhiễu cao. Tuy nhiên, phân tích toán học chứng minh đây là ảo giác do đặc tính tập trung mật độ của phân phối Beta khi mẫu lớn. Khi quy mô mẫu tăng, phương sai lý thuyết giảm theo cấp số $O(1/N)$, làm lộ rõ sự sai lệch hệ thống giữa tham số học được và tham số chuẩn.
- Quy luật suy thoái cấu trúc mạng: Trong thuật toán PC và CB, dữ liệu không chính xác gây ra thiệt hại bất đối xứng: tỷ lệ liên kết thiếu (False Negatives) và liên kết sai hướng (Misoriented Links) tăng vọt ngay khi mức độ ô nhiễm đạt từ 10% đến 25%, trước khi các liên kết thừa (False Positives) xuất hiện. Cụ thể, trong mạng Stud Farm, ở mức 50% dữ liệu bẩn, thuật toán PC chuẩn mất đi hơn 60% các cung nhân quả chính xác.
- Sự vượt trội của Thuật toán Dynamic DQ (Part II): Bằng cách điều chỉnh mức ý nghĩa thống kê $\alpha$ dựa trên ước lượng độ chính xác dữ liệu, thuật toán Dynamic DQ đã phục hồi thành công các cạnh quan trọng bị thuật toán PC chuẩn loại bỏ, giảm thiểu tới 75% lỗi False Negative trên mạng Visit to Asia và Stud Farm mà không làm bùng nổ các liên kết False Positive.
Bảng So sánh Hiệu năng Học Cấu trúc (Mạng Visit to Asia - Mẫu 1.000 Bản ghi)
┌───────────────────────┬───────────────────┬───────────────────┬───────────────────┐
│ Phương pháp │ Tỷ lệ Nhiễu (Bad) │ False Negatives │ Misoriented Links │
├───────────────────────┼───────────────────┼───────────────────┼───────────────────┤
│ Do Nothing (PC Chuẩn) │ 10% │ 2 │ 1 │
│ Do Nothing (PC Chuẩn) │ 50% │ 5 │ 3 │
│ Threshold Method │ 50% │ 3 │ 2 │
│ Dynamic DQ Algorithm │ 50% │ 1 │ 1 │
└───────────────────────┴───────────────────┴───────────────────┴───────────────────┘
Implications đa chiều
- Về mặt lý thuyết: Chứng minh rằng ranh giới quyết định thống kê trong học máy cấu trúc không thể cố định độc lập với chất lượng dữ liệu nguồn. Nghiên cứu bắc cầu nối toán học giữa lý thuyết chất lượng dữ liệu và kiểm định độc lập thông tin.
- Về mặt phương pháp luận: Cung cấp một giao thức thực nghiệm chuẩn mực cho phép kiểm thử độ bền vững (robustness stress-testing) của bất kỳ thuật toán học máy đồ thị nào trước các dạng thức nhiễu thực tế.
- Về mặt ứng dụng thực tiễn:
- Y tế & Chẩn đoán lâm sàng: Ứng dụng mô hình trên mạng Visit to Asia cho phép xây dựng hệ thống chẩn đoán bệnh phổi/lao chính xác ngay cả khi hồ sơ bệnh án có tỷ lệ ghi chép sai lệch hoặc kết quả X-quang không đồng nhất.
- Nông nghiệp & Di truyền học: Áp dụng cấu trúc Stud Farm giúp các nhà di truyền học chọn lọc giống gia súc chính xác mà không bị đánh lừa bởi dữ liệu phả hệ bị thiếu sót hoặc nhập sai.
- Quốc phòng & An ninh: Hỗ trợ trực tiếp cho các dự án của Trung tâm Chỉ huy Không quân và Tác chiến Không gian Hải quân Mỹ (SPAWAR - đơn vị tài trợ nghiên cứu) trong việc xử lý dữ liệu tình báo từ nhiều nguồn cảm biến có độ tin cậy khác nhau.
Limitations và Future Research
Luận án thẳng thắn thừa nhận các giới hạn nghiên cứu mang tính biên:
- Giới hạn không gian biến: Nghiên cứu chỉ tập trung hoàn toàn vào các biến rời rạc (discrete variables), chưa mở rộng sang các biến liên tục (continuous variables) hoặc mô hình hỗn hợp (hybrid Bayesian networks).
- Mô hình hóa dữ liệu bẩn nhân tạo: Dữ liệu lỗi được tạo ra bằng cách gán xác suất phẳng (0.5), đại diện cho trường hợp nhiễu ngẫu nhiên hoàn toàn. Trong thực tế, dữ liệu bẩn thường có tính thiên lệch hệ thống (systematic bias) hoặc phụ thuộc phi ngẫu nhiên vào các biến ẩn khác.
- Phạm vi kiểm định chiều chất lượng dữ liệu: Luận án tập trung sâu vào khía cạnh Inaccuracy, trong khi các chiều kích Timeliness, Completeness và Consistency chủ yếu dừng lại ở mức độ hình thức hóa lý thuyết và thảo luận định tính.
Chương trình nghiên cứu tương lai (Future Research Agenda) mở ra 4 hướng then chốt:
- Hướng 1: Tích hợp ma trận chất lượng dữ liệu đa chiều (Tensor DQ) kết hợp đồng thời độ trễ thời gian và độ không nhất quán vào thuật toán học.
- Hướng 2: Mở rộng cơ chế hiệu chỉnh mức ý nghĩa $\alpha$ cho các thuật toán học cấu trúc dựa trên điểm số (BDe, BIC) và các thuật toán học trên biến liên tục sử dụng phân phối Gaussian.
- Hướng 3: Tự động hóa quá trình ước lượng độ chính xác dữ liệu nguồn (Source Accuracy Estimation) mà không cần mạng đối chứng thông qua các kỹ thuật học bán giám sát (semi-supervised learning).
- Hướng 4: Nghiên cứu tính giao hoán và kết hợp của các phương pháp làm sạch dữ liệu tự động với thuật toán Dynamic DQ.
Tác động và ảnh hưởng
Luận án của Valerie Kay Sessions đã tạo ra những tác động học thuật và công nghệ sâu sắc:
- Tác động học thuật: Đặt nền móng cho các nghiên cứu tiếp nối về "Noise-tolerant Causal Discovery", trở thành tài liệu tham khảo cốt lõi cho các nhà nghiên cứu quan tâm đến tính bền vững của mạng xác suất trước dữ liệu thực tế.
- Chuyển đổi công nghiệp: Ảnh hưởng trực tiếp đến quy trình xử lý dữ liệu tại Bộ Hải quân Mỹ thông qua SPAWAR, định hình cách thức thiết kế các hệ thống hỗ trợ ra quyết định (Decision Support Systems - DSS) trong môi trường tác chiến điện tử và thông tin cảm biến nhiễu.
- Tác động quản trị & Chính sách: Cung cấp cơ sở khoa học cho các cơ quan quản lý cơ sở dữ liệu quốc gia (như hệ thống hồ sơ tư pháp của FBI) nhận thức rõ rằng: việc chỉ dựa vào làm sạch dữ liệu là chưa đủ, mà các thuật toán phân tích và khai phá dữ liệu bắt buộc phải có cơ chế tự thích ứng với tỷ lệ lỗi nội tại.
Đối tượng hưởng lợi
- Nghiên cứu sinh Tiến sĩ (Doctoral Researchers): Tiếp cận một phương pháp luận mẫu mực về thiết kế thực nghiệm mô phỏng, chứng minh định lý toán học trong đồ thị xác suất và cách thức đo lường sai số cấu trúc.
- Học giả & Giảng viên Cao cấp (Senior Academics): Sở hữu khung lý thuyết tích hợp giữa độ bất định bằng chứng (Vomlel/Pearl) và kiểm định độc lập điều kiện (PC algorithm) để phát triển các giáo trình học máy nâng cao.
- Kỹ sư R&D & Khoa học Dữ liệu Doanh nghiệp: Nắm bắt thuật toán Dynamic DQ để triển khai vào các hệ thống AI thực chiến, nơi dữ liệu thu thập từ người dùng, cảm biến IoT hoặc thiết bị y tế luôn có tỷ lệ nhiễu cao.
- Chuyên gia Hoạch định Chính sách & Quản trị Thông tin: Có bằng chứng định lượng rõ ràng để xây dựng các tiêu chuẩn chất lượng dữ liệu và quy trình kiểm soát rủi ro trong các hệ thống thông tin trọng yếu quốc gia.
Câu hỏi chuyên sâu
1. Đóng góp lý thuyết độc đáo nhất của luận án là gì và nó mở rộng lý thuyết nào?
Đóng góp lý thuyết độc đáo nhất là việc chứng minh toán học Định lý Bất biến Tham số (Theorem 1) và việc hình thức hóa sự suy giảm của điểm Cross-Entropy $G^2$ dưới tác động của dữ liệu không chính xác, từ đó mở rộng Lý thuyết Học Cấu trúc Ràng buộc (Constraint-Based Structure Learning) của Spirtes, Glymour và Scheines (thuật toán PC). Nghiên cứu chỉ ra rằng dữ liệu bẩn trực tiếp làm méo mó các kiểm định d-separation, và lần đầu tiên thiết lập cơ chế toán học liên kết trực tiếp tham số chất lượng dữ liệu $P(A=T)$ với mức ý nghĩa thống kê $\alpha$ của thuật toán PC.
2. Sự đổi mới về mặt phương pháp luận so với các nghiên cứu tiền nhiệm thể hiện ra sao?
So với nghiên cứu của Cooper & Herskovits (1992) trên K2 và Singh & Valtorta (1995) trên CB chỉ giả định dữ liệu hoàn hảo, luận án của Sessions tiên phong thiết lập phương pháp luận kiểm thử áp lực nhiễu (Perturbation Stress-Testing) đa cấp độ (từ 0% đến 90% lỗi trên 4 thang quy mô mẫu). Khác với công trình của Vomlel (2004) vốn chỉ sử dụng độ nhạy/đặc hiệu cho việc cập nhật suy luận trên mạng đã biết trước cấu trúc, Sessions đưa các chỉ số này vào giai đoạn học máy để kiến tạo cấu trúc mạng chưa biết.
3. Phát hiện thực nghiệm nào gây bất ngờ nhất và được chứng minh bằng dữ liệu như thế nào?
Phát hiện bất ngờ nhất là hiện tượng phương sai thực nghiệm trên đồ thị biểu diễn dường như nhỏ hơn ở tập mẫu 100 bản ghi so với tập mẫu 10.000 bản ghi khi tỷ lệ dữ liệu bẩn ở mức cao. Tác giả đã chứng minh bằng giải tích toán học rằng đây không phải do mẫu nhỏ học tốt hơn, mà do các thuộc tính nội tại của phân phối Beta: khi mẫu $N$ nhỏ, khoảng tin cậy mở rộng nhưng độ tập trung khối lượng xác suất chưa đủ mạnh; khi $N = 10.000$, phương sai mẫu thu hẹp tối đa xung quanh giá trị kỳ vọng bị lệch, làm bộc lộ hoàn toàn sai số hệ thống do dữ liệu bẩn gây ra.
4. Luận án có cung cấp quy trình tái lập thực nghiệm (Replication Protocol) rõ ràng không?
Luận án cung cấp mã giả (pseudocode) chi tiết cho cả thuật toán ước lượng tham số, quy trình tạo sinh dữ liệu bẩn trên Hugin .net file, và thuật toán Dynamic DQ Algorithm. Mọi bảng phân phối xác suất chân lý ($M_{true}$) và bảng phân phối làm nhiễu ($M_{bad}$) cho cả 3 mạng thực nghiệm (Visit to Asia, Stud Farm, ALARM) đều được công khai minh bạch trong các phụ lục, cho phép cộng đồng khoa học tái lập 100% kết quả thực nghiệm.
5. Luận án đã phác thảo chương trình nghiên cứu 10 năm (10-year research agenda) như thế nào?
Chương trình nghiên cứu dài hạn được tác giả vạch ra tập trung vào: (1) Phát triển thuật toán DQ tự thích ứng hoàn toàn (Fully Autonomous Adaptive DQ) có khả năng tự ước lượng ma trận lỗi mà không cần thông tin tiên nghiệm; (2) Tích hợp tính giao hoán giữa các thuật toán làm sạch dữ liệu tự động với thuật toán học máy; (3) Mở rộng khung phân tích sang các mạng Bayes động (Dynamic Bayesian Networks - DBNs) phục vụ phân tích chuỗi thời gian thực trong y sinh và giám sát an ninh.
Kết luận
Luận án tiến sĩ của Valerie Kay Sessions là một công trình mang tính bước ngoặt, đặt nền móng vững chắc cho sự giao thoa giữa ngành quản trị chất lượng dữ liệu và lý thuyết học máy xác suất. Tác phẩm mang lại 5 đóng góp học thuật cốt lõi:
- Chứng minh Định lý Bất biến Tham số: Xác lập nền tảng giải tích khẳng định sai lệch xác suất hậu nghiệm phụ thuộc thuần túy vào tỷ lệ ô nhiễm dữ liệu chứ không bị triệt tiêu bởi quy mô mẫu.
- Khám phá Cơ chế Suy thoái Cấu trúc: Định lượng hóa thứ tự tổn thương của mạng Bayes dưới tác động của dữ liệu bẩn: xuất hiện liên kết thiếu (False Negatives) và đảo hướng (Misoriented) trước khi phát sinh liên kết thừa.
- Phát triển Thuật toán Dynamic DQ: Đột phá trong việc điều chỉnh mức ý nghĩa thống kê $\alpha$ của kiểm định Cross-Entropy $G^2$, phục hồi tối đa các liên kết nhân quả bị che mờ.
- Hình thức hóa Toán học Không gian Chất lượng Dữ liệu: Chuẩn hóa các công thức định lượng cho Độ chính xác, Độ đầy đủ, Độ nhất quán và Tính kịp thời trong mô hình đồ thị.
- Giao thức Thực nghiệm Mẫu mực: Xây dựng quy trình kiểm chuẩn toàn diện trên các mạng chuẩn quốc tế (Visit to Asia, Stud Farm, ALARM) làm tiêu chuẩn cho các nghiên cứu tiếp theo.
Công trình không chỉ giải quyết triệt để một vấn đề lý thuyết hóc búa mà còn mở ra ít nhất 3 luồng nghiên cứu mới: học máy nhân quả kháng nhiễu, tích hợp tensor chất lượng thông tin, và suy luận xác suất thích ứng động. Di sản của luận án tiếp tục đóng vai trò kim chỉ nam cho sự phát triển của các hệ thống trí tuệ nhân tạo an toàn, tin cậy và bền vững trong môi trường dữ liệu thực tế đầy biến động.
Trích đoạn nội dung luận án
Tải xuống để đọc toàn bộTECHNIQUES FOR INCORPORATING DATA QUALITY ASSESSMENTS INTO LEARNING ALGORITHMS FOR BAYESIAN NETWORKS By Valerie Kay Sessions Bachelor of Science College of Charleston, 2001 Master of Science University of Charleston, 2002 Submitted in Partial Fulfillment of the Requirements For the Degree of Doctor of Philosophy in the Department of Computer Science and Engineering College of Engineering and Information Technology University of South Carolina 2006 ụ or Professor Chairman, Examining Committee (comming Member Committee Member Committee Member ˆ Dean of the Graduate School UMI Number: 3245436 INFORMATION TO USERS The quality of this reproduction is dependent upon the quality of the copy submitted. Broken or indistinct print, colored or poor quality illustrations and photographs, print bleed-through, substandard margins, and improper alignment can adversely affect reproduction. In the unlikely event that the author did not send a complete manuscript and there are missing pages, these will be noted. Also, if unauthorized copyright material had to be removed, a note will indicate the deletion.
® UMI UMI Microform 3245436 Copyright 2007 by ProQuest Information and Learning Company. All rights reserved. This microform edition is protected against unauthorized copying under Title 17, United States Code. ProQuest Information and Learning Company 300 North Zeeb Road P.
Box 1346 Ann Arbor, MI 48106-1346 For my Grandfathers. Elzie Howard McCormick 1932-2003 Henry Thomas Sessions 1931-2006 il Acknowledgements I would like to first thank my husband Kip for his love and support - for listening to me and supporting me during both the highs and lows of the past years. I would like to thank my parents, Tommy and Debbie Sessions, for the drive they have instilled in me to begin this research and degree, and for instilling my faith in God which has allowed me to complete it; my in-laws, Paul and Ann Hooker, for countless hours of babysitting; my Grandmother for many dinner meals in Blythewood; my son Austin and new daughter Remley for sleeping every now and then so that I could finish one last page of writing. I would like to thank my entire committee for their time and patience with this process, especially Marco Valtorta for allowing me to spend countless hours in his office learning and asking endless questions.
I would also like to thank Jewel Rogers for all of her help administratively - she made commuting two hours possible. Thanks to all my fellow classmates for your inspiration and code snippets. Thanks to my girlfriends Chris and Amy for their support and love, my Women’s Bible Study and church for all of their prayers during this endeavor. Thank you to my former supervisor Richard Baker for funding this work and allowing me ample time to commute to Columbia, and many thanks to all my former co- workers at SPAWAR for their support (and covering for me) during this process.
ili Abstract The field of Bayesian Networks (BNs) has had much success in developing structure learning algorithms to learn BNs directly from data. However, research has normally started with the assumption that the data given to the learning algorithm is accurate. This assumption is a naive one and can lead to very biased and unrealistic decision making frameworks. If we are to use decision making algorithms to their full potential we must design them with the capability to account for data quality.
Our research lays the foundation for the development of new algorithms that incorporate data quality assessments into traditional BN learning algorithms — specifically the PC algorithm. We begin by reviewing Bayesian networks, learning algorithms, and data quality measures. We then quantify the effect of inaccurate data on the PC algorithm and develop three techniques for incorporating data quality assessments into the algorithm. Results indicate that a technique which modifies the significance level used by the PC algorithm is promising.
We show and explain these results and offer guidelines for future research in this area. EEE SEE ES 1 Acknowledgements.cececcsceceseeceeeneeeee scent eneeneeeeesneen eens eaenseaeaeneenenes ili t6. ene e ene EA SEE DO EE EEE ESE OEE OE EEE SEES EEE S EE SEE EEE Eee iv Iã520ö ii. vi 0): 5081i 640i nh ee.
HH ng ky 1 1.2 ©) 24:1 010 2:15 (0) | Oe 2 Chapter 2 Bayesian Network BasICS.c co SH HH SH KÝ KH nh x.1 Bayesian Network BaSICS. Lo ng HH ng HH nhà kh na 3 2.2 Learning Algorithms for Bayesian NetWOrks.--‹c-c con Hs HS nh ve, 14 2.3 Learning with Uncertain Evidence. cà se 21 Chapter 3 Data Quality MeasurermenIs.cn Hs nhe 24 3.1 Overview of Data QuaÌity.---c HH HH nh nh xu 24 KÝ 0. 30 E009) ảvvyiađaađiaiiiiiiiÝẢẢốỐốỐỐ.
co HS HH HH kh 34 3.2 Parameter Estimation ResuÌts.3 Structure Learning Resulfs.4 Conclusions Regarding Inaccurate Data.4 Development of Experimental Data Sets.«- 47 Chapter 4 Methods and Resulfs.cQQQQ nn HH HH HH kh he.1 Do Nothing Method.- HH HH nhớ 61 4.- con HH HH HH khe 61 4.3 The DQ Algorithm.- con HH HH he 62 4.2 Method Pseudo Code. ccc eeceeeceeec ee ec eens neeceeee essa eee en eens kệ 65 LEN -haaAaddđiiaiiiiidtidtddiididi.1 Visit to Asia Ñ€SuÏtS. con HH HH HH nha 68 4.-- HS HH nh nh Hy 85 4. ch ng nh nh 93 che.-- con n SH Khen 96 Chapter 5Š Conclusions and Future Work.
HH HH HH nh ke, 99 5.1 PC Algorithm ConcÌusions.2 Conclusions Regarding Methods.1 Visit to Asia ConcÌusiOns.2 Studfarm ConcÌuSiO'S. HS nh nh nhe 104 5.3 Modified DQ Algorithm. ce cecececececee eee eee eneeeesneneneeaenens 105 vi 5. cece ccccccecceeeuctcnateceveccssnceseteseeeeenecanaees 5310119124-104) PNW HiẳdtdddiẳẳẳẳŸẢ.
vi List of Figures PP ¿2a nh.3: Convergence of Beta Distribution.4: Visit to Asia — TWO ConfigurafiO'S. HH HH HH nh su 16 2.5: Relationship of Virtual Evidence to Prior Probability.1: Two Sources Report on Event A.cccccecceeceeeec ene nn HH HH He ng kh nh ng 28 3.2: T1 Probability Table — 80% Sensitivity, 95% SpecifÍicify. cỚ“Taaaa)aiO.5: Average Variance From Baseline. HS HH HH nhà yên 37 3.6: Comparison of learned potentIaÌs.- -- con n HH nh yên 38 3.7: Stud Farm Average Variance from Baseline.8: Stud Farm Learned Potentials Graph.
_- - HH HH n1 kh.9: NPC and CB Structure Learming Results.10: Incorrect links using the NPC Algorithm.11: Incorrect links using the CB algorithm.12: Visit to Asia “True” Probability Tables.13: Studfarm ““Irue” Probability Tables.14: ALARM “True” Probability Tables.--cnnn Hs khe, 59 3.15: Breakdown of Data S€fS. con nn nnnHnnn nn K n TK Ki viện 60 Vili 4. cọ HH HH HH HH KH Ki Ki Tà Ki Ki Ki Ki Ki ni tà tà tà tà ty 62 4.2: Average Degree of Nodes.- con HH HH nh kh nhe 65 4.3: Visit to Asia, One Data Set, Raw Results.4; Visit To Asia, One Data Set, Combined Results.5: Visit To Asia, One Data Set, Zeroed Results.6: Visit to Asia, TWwo Data Sets, Raw Resul(s.7: Visit to Asia, Two Data Sets, Combined Results .8: Visit to Asia, Two Data Sets, Zeroed Results .9: Visit to Asia, Three Data Sets, Raw Results.10: Visit to Asia, Three Data Sets, Combined Results .11: Visitto Asia, Three Data Sets, Zeroed Results .12: Studfarm, One Data Set, Raw Resulfs.13: Studfarm, One Data Set, Combined Results.14: Studfarm, One Data Set, Zeroed ResuÌt.15: Studfarm, Two Data Sets, Raw R€SUÌtS.16: Studfarm, Two Data Sets, Combined Resulfs.17: Studfarm, Two Data Sets, Zeroed Results.18: Studfarm, Three Data Sets, Raw Results.19: Studfarm, Three Data Sets, Combined ResuÌts.20: Studfarm, Three Data Sets, Zeroed ResSuÌts.21: Visit To Asia, Extra Test, Raw ResulÌ(s.22: Visit to Asia, Extra Test, Combined and Zeroed Form.23: Studfarm, Extra Test, Raw Results. con HH nu nhớ 95 1X 4.24: Studfarm, Extra Test, Combined and Zeroed ResuÌts.25: ALARM, Extra Test, Raw ResuÌts.26: ALARM, Extra Test, Combined and Zeroed Results.
96 4,27: Visit to Asia, Significance Test, One Data Set, Raw Results. 97 4,28: Visit to Asia, Significance Test, One Data Set, Combined Results.29: Visit to Asia, Significance Test, One Data Set, Zeroed Results.1: Commutativity of Methods.c HH HH kh nha 107 Chapter 1 Introduction 1.1 Research Motivation The field of Bayesian networks (BNs) has had much success in creating algorithms to learn directly from data. There are both parameter estimation and structure learning algorithms that have a high rate of success in creating useful BNs. However, research has normally started with the assumption that the data given to the learning algorithm is accurate and complete.
This assumption is a naive one and can lead to very biased and unrealistic decision making frameworks. There are numerous examples of faulty data collections — those as technical as the Hubble Telescope’s calibration problems, to the more human centered — lying on a credit card information form. If we are to use decision making algorithms to their full potential we must design them with the capability to account for data quality. Our research lays the foundation for the development of new algorithms that incorporate data quality assessments.
The specific goal of our research is to test three methods for incorporating data quality assessments into the PC structure learning algorithm used by the Hugin™ Decision Engine: the Threshold method, the manual DQ Algorithm (DQ Algorithm Part I), and the dynamic DQ Algorithm (DQ Algorithm Part ID. A method entitled Do Nothing was also tested as a baseline for comparing the effectiveness of these methods. These three methods give us a starting point for developing successful ways to account for, and diminish the effects of inaccurate data on our structure learning algorithms.2 Organization Chapter 2 provides a foundation for our work by giving an overview of BNs and the underlying rules of probability that govern them. This chapter also details popular BN learning algorithms, both in parameter estimation and structure learning.
Chapter 3 provides both the state of current data quality research as well as our own research into the effects of data quality (specifically inaccuracy) on BN learning algorithms. Chapter 4 provides an explanation and pseudo code for our methods, our test set up, and results of our tests. Finally, in Chapter 5 we discuss our conclusions regarding these results, and give suggestions for future research. Chapter 2 Bayesian Network Basics In order to examine the learning of BNs from data sets of low quality, we must first review the background of the algorithms and processes of BNs.
First, we will introduce the basics of probability and statistics, Bayes law, and evidence propagation. Then we will examine learning algorithms for BNs and discuss those employed for this research as well as fading and adaptation methods. We will also examine research in Data quality and how it can be incorporated into our learning algorithms. Finally, we will review complementary work conducted in the area of revision of parameters based on uncertain evidence.1 Bayesian Network Basics We will define a BN using graph theory, following [18].
A BN is a Directed Acyclic Graph (DAG) G = (V,E) where V is a set of variables and E is a set of directed edges between these variables, and a probability distribution, P, over the variables. The set (G, P) satisfies the Markov condition, which states that all variables are independent of their nondescendents given the set of its parents. Therefore following [14], for each variable A with parents Bj, ., Bp, there is a potential table P(A | Bi,. If A has no parents this becomes the unconditional probability P(A).
Each variable’s probability is represented by a probability table which shows its probability based on the states of its parents (or its unconditional probability if it is without parents). All of the basics of probability are relevant to these tables and will be reviewed here. Andrey Kolmogorov [14] formed the probability axioms in the 1930’s. He proposed that given an event E in a probability space S, there is a probability P(E) such that 1.
0< P(E) <1, and P(E) = 1 if E is a certain event. The sum of all of the events, E; (i=1, 2, .), in the sample space, S, is 1. For mutually exclusive events, E; and E2, P(E; U E2) = P(E) + P(E»).
Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ
Trích dẫn luận án này
Valerie Kay Sessions (2006). Luận án tiến sĩ: Techniques for incorporating data quality assessments into learning algorithms for Bayesian networks [Luận án tiến sĩ, University of South Carolina]. LuanAn.net. https://luanan.net/khoa-hoc-giao-duc/luan-an-tien-si-techniques-for-incorporating-data-quality-assessments-into-learning-algorithms-for-bayesian-networks
Từ khóa và chủ đề nghiên cứu
Từ khóa liên quan
Xem thêm luận án cùng lĩnh vực
Chủ đề nghiên cứu
Câu hỏi thường gặp
Luận án "Luận án tiến sĩ: Techniques for incorporating data quality assessments into learning algorithms for Bayesian networks" nghiên cứu về vấn đề gì?
Luận án tiến sĩ đề xuất kỹ thuật tích hợp đánh giá chất lượng dữ liệu vào thuật toán học mạng Bayes. Cải thiện độ chính xác và tin cậy của mô hình dự đoán.
Luận án "Luận án tiến sĩ: Techniques for incorporating data quality assessments into learning algorithms for Bayesian networks" được bảo vệ tại trường nào?
Luận án này được bảo vệ tại University of South Carolina. Năm bảo vệ: 2006.
Luận án "Luận án tiến sĩ: Techniques for incorporating data quality assessments into learning algorithms for Bayesian networks" thuộc chuyên ngành gì?
Luận án "Luận án tiến sĩ: Techniques for incorporating data quality assessments into learning algorithms for Bayesian networks" thuộc chuyên ngành Computer Science and Engineering. Danh mục: Khoa Học Giáo Dục.
Luận án "Luận án tiến sĩ: Techniques for incorporating data quality assessments into learning algorithms for Bayesian networks" có bao nhiêu trang?
Luận án "Luận án tiến sĩ: Techniques for incorporating data quality assessments into learning algorithms for Bayesian networks" có 124 trang. Bạn có thể xem trước một phần tài liệu ngay trên trang web trước khi tải về.
Cách tải luận án "Luận án tiến sĩ: Techniques for incorporating data quality assessments into learning algorithms for Bayesian networks" về máy như thế nào?
Để tải luận án về máy, bạn nhấn nút "Tải xuống ngay" trên trang này, sau đó hoàn tất thanh toán phí lưu trữ. File sẽ được tải xuống ngay sau khi thanh toán thành công. Hỗ trợ qua Zalo: 0559 297 239.