00050014124 nghiên cứu tích hợp đảm bảo tính công bằng cho các mô hình học máy á

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ Kiều Thị Nhung MHV: 23025018 NGHIÊN CỨU TÍCH HỢP ĐẢM BẢO TÍNH CÔNG BẰNG CHO CÁC MÔ HÌNH HỌC MÁY ÁP DỤNG AUTOML LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH HÀ NỘI - 2025 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ Kiều Thị Nhung NGHIÊN CỨU TÍCH HỢP ĐẢM BẢO TÍNH CÔNG BẰNG CHO CÁC MÔ HÌNH HỌC MÁY ÁP DỤNG AUTOML Ngành: Khoa học Máy tính Chuyên ngành: Khoa học Máy tính Mã số: 8480101.01 LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH NGƯỜI HƯỚNG DẪN KHOA HỌC TS. Lê Đức Trọng TS. Lê Hoàng Quỳnh HÀ NỘI - 2025 LỜI CAM ĐOAN Tôi – Kiều Thị Nhung xin cam đoan: luận văn tốt nghiệp với đề tài “Nghiên cứu tích hợp đảm bảo tính công bằng cho các mô hình học máy áp dụng AutoML” trong báo cáo này là của tôi dưới sự hướng dẫn của TS. Lê Đức Trọng và TS.

Lê Hoàng Quỳnh, chưa từng được nộp như một luận văn tốt nghiệp hay báo cáo nghiên cứu khoa học nào tại Trường Đại học Công Nghệ hoặc bất kỳ trường đại học nào khác. Tất cả những tham khảo trong luận văn này – bao gồm hình ảnh, bảng biểu, số liệu, và các câu từ trích dẫn – đều được ghi rõ ràng và đầy đủ nguồn gốc trong danh mục tài liệu tham khảo. Đây là công trình nghiên cứu của cá nhân tôi tự phát triển, các mã nguồn được phát triển dựa trên giải pháp tôi đã đề xuất trong luận văn này mà không sao chép từ bất cứ đâu. Nếu vi phạm những điều trên, tôi xin chấp nhận tất cả những truy cứu về trách nhiệm theo quy định của Trường Đại học Công Nghệ.

Hà Nội, ngày. năm 2025 Học viên Kiều Thị Nhung LỜI CẢM ƠN Sau một thời gian học tập và nghiên cứu, trải qua nhiều khó khăn, đến nay tôi đã hoàn thành bản luận văn Thạc sĩ của mình. Với tất cả tấm lòng, tôi xin bày tỏ lời cảm ơn sâu sắc nhất đến các thầy giáo: TS. Lê Đức Trọng và cô giáo: TS.

Lê Hoàng Quỳnh, đã tận tình hướng dẫn tôi trong suốt quá trình thực hiện luận văn tốt nghiệp. Tôi xin bày tỏ lời cảm ơn chân thành tới Trường Đại học Công nghệ - ĐHQG Hà Nội và những thầy cô giáo đã giảng dạy, truyền thụ kiến thức cho tôi trong thời gian qua, cùng với các đồng nghiệp tại Tập đoàn Công nghiệp Viên thông Quân đội, đã tạo điều kiện và hỗ trợ tôi trong suốt thời gian thực hiện luận văn này. Cuối cùng, tôi xin cảm ơn tất cả gia đình, bạn bè đã luôn động viên giúp đỡ tôi trong thời gian nghiên cứu đề tài. Tuy đã có những cố gắng nhất định nhưng do thời gian và trình độ có hạn nên luận văn còn nhiều thiếu sót và hạn chế.

Kính mong nhận được sự góp ý của quý thầy cô và các bạn. Hà Nội, ngày. năm 2025 Học viên Kiều Thị Nhung TÓM TẮT Sự phát triển mạnh mẽ của lĩnh vực học máy đang ngày càng ảnh hưởng sâu rộng đến mọi lĩnh vực trong đời sống con người hiện nay, các quyết định của con người ngày càng phụ thuộc vào kết quả dự đoán từ các mô hình học máy. Tuy nhiên, tồn tại những quan ngại về việc các hệ thống học máy có thể tái tạo, khuếch đại hoặc thậm chí lan rộng sự không công bằng trong xã hội, và gây hại hay tạo ra sự bất công cho một hoặc nhóm người cụ thể.

Hiện nay, đã có những giải pháp, kỹ thuật đảm bảo tính công bằng trong các mô hình học máy và học máy tự động nhưng các giải pháp vẫn có những hạn chế nhất định. Bài nghiên cứu này sẽ đề xuất phương pháp tích hợp toàn diện đảm bảo tính công bằng cho các mô hình học máy áp dụng AutoML (FairAutoML). Ý tưởng chính của phương pháp là hỗ trợ linh hoạt đội ngũ phát triển mô hình sử dụng các kỹ thuật đảm bảo công bằng, các định nghĩa công bằng và ràng buộc công bằng tương ứng để sử dụng trong quá trình xây dựng mô hình phân loại nhị phân trong học máy tự động. Giải pháp cho phép tiếp cận các kỹ thuật đảm bảo tính công bằng ở toàn bộ các tác vụ của giai đoạn mô hình hóa mô hình học máy từ tiền xử lý dữ liệu, tối ưu siêu tham số đảm bảo nhiều tiêu chí rằng buộc công bằng một cách linh hoạt, lựa chọn thuật toán tối ưu đến đánh giá mô hình theo các tiêu chí công bằng.

Ngoài ra, bài nghiên cứu đã áp dụng giải pháp đề xuất trong xây dựng mô hình dự đoán điểm tín dụng, và cung cấp các bài đánh giá thực nghiệm thú vị và những đánh giá so sánh để cho thấy tính khả thi, hiệu quả khả quan và sự linh hoạt mà giải pháp mang lại khi áp dụng vào một bài toán thực tế. Từ khóa: học mày tự động nhận thức về công bằng, kỹ thuật đảm bảo tính công bằng, kỹ thuật giảm thiểu thiên lệch, đánh giá công bằng tự động, tối ưu siêu tham số đảm bảo công bằng MỤC LỤC Lời cam đoan Lời cảm ơn Tóm tắt Danh mục hình vẽ. Danh mục bảng biểu. GIỚI THIỆU BÀI TOÁN.

KIẾN THỨC NỀN TẢNG VÀ NGHIÊN CỨU LIÊN QUAN 5 2.1 Khái niệm về sự công bằng và thiên kiến trong mô hình học máy .2 Học máy tự động - AutoML.3 Các kỹ thuật truyền thống đảm bảo tính công bằng .1 Kỹ thuật giảm thiểu độ lệch mẫu - SMOTE .2 Fair Bayesian Optimization (Fair BO) .4 Các kỹ thuật đảm bảo tính công bằng trong AutoML .5 Quy trình cơ sở.6 Các thuật toán đầu vào cơ bản khi xây dựng mô hình .1 Thuật toán Logistic Regression .2 Thuật toán Random Forest Classifier .3 Thuật toán GBT Classifier. PHƯƠNG PHÁP TÍCH HỢP ĐẢM BẢO TÍNH CÔNG BẰNG CHO CÁC MÔ HÌNH HỌC MÁY ÁP DỤNG AUTOML.1 Phương pháp đánh giá công bằng .2 Tổng quan phương pháp đề xuất .1 Tích hợp SMOTE trong bước tiền xử lý dữ liệu.2 Tích hợp kỹ thuật fairBO có ràng buộc đảm bảo công bằng và lựa chọn thuật toán tối ưu .1 Bộ dữ liệu .2 Phương pháp thực nghiệm và đánh giá.3 Thực nghiệm 1: So sánh hiệu quả của giải pháp FairAutoML cho mô hình.4 Thực nghiệm 2: Kết hợp nhiều kỹ thuật đảm bảo công bằng trong giải pháp AutoML .5 Thực nghiệm 3: AutoML với nhiều ràng buộc công bằng. 49 TÀI LIỆU THAM KHẢO. 54 DANH MỤC HÌNH VẼ Hình 2.1 Mô hình một số loại bias trong vòng lặp tương tác giữa dữ liệu, thuật toán và quan điểm xã hội .2 Các giai đoạn trong quy trình phân tích dữ liệu theo chuẩn CRISP-DM (CRoss Industry Standard Process for Data Mining) của Shearer [32] .3 Các tiêu chí lựa chọn đặc trưng trong bài toán AutoML .1 AutoML có tích hợp đảm tính công bằng trong xây dựng mô hình học máy theo quy trình chuẩn CRISP-DM .2 Luồng tích hợp SMOTE vào giai đoạn tiền xử lý dữ liệu .3 Tổng hợp mẫu để cân bằng tập thiểu số trong SMOTE .4 Luồng lựa chọn thuật toán và tối ưu siêu tham số .1 So sánh hiệu quả của mô hình trong quá trình tối ưu siêu tham số về kết quả đánh giá lỗi (validation error) cho từng giải pháp FairAutoML với điều kiện đạt tiêu chí DSP < 0.05 trong mỗi lần đánh giá mô hình .2 So sánh hiệu quả của mô hình trong quá trình tối ưu siêu tham số về kết quả đánh giá lỗi (validation error) khi có sự kết hợp giữa các kỹ thuật đảm bảo tính công bằng trong giải pháp FairAutoML.3 So sánh kết quả tốt nhất của giải pháp FairAutoML so với baseline khi nhìn nhận kết hợp giữa các tiêu chí Accuracy, DFP, DSP, DEO.

46 DANH MỤC BẢNG BIỂU Bảng 3.1 Danh sách tham số đầu vào để lựa chọn mô hình và tối ưu siêu tham số .2 Không gian tối ưu siêu tham số của các thuật toán cần lựa chọn mặc định .1 Định nghĩa dữ liệu đánh giá rủi ro tín dụng GCD .2 Chi tiết dữ liệu đánh giá rủi ro tín dụng GCD .3 Kết quả tốt nhất đạt tiêu chí công bằng DSP < 0.05 của các giải pháp đề xuất so với kết quả baseline .4 Kết quả tốt nhất đạt tiêu chí công bằng DEO < 0.05 của các giải pháp đề xuất so với kết quả baseline .5 Kết quả tốt nhất đạt tiêu chí công bằng DEO < 0.05 của các giải pháp đề xuất so với kết quả baseline .6 Kết quả tốt nhất đạt tiêu chí công bằng DEO < 0.05 của các giải pháp đề xuất so với kết quả baseline .7 Kết quả tốt nhất theo giải pháp FairAutoML so với baseline với ràng buộc công bằng là DEO < 0. GIỚI THIỆU BÀI TOÁN Học máy là một công nghệ mang tính đột phá, đã làm thay đổi mạnh mẽ các ứng dụng hiện đại dựa trên dữ liệu và đang ngày càng thâm nhập sâu vào các ứng dụng công nghiệp cũng như trong mọi lĩnh vực ảnh hưởng đến cuộc sống hàng ngày của chúng ta, ví dụ như đánh giá điểm tín dụng để cho vay, phát hiện gian lận tài chính, tuyển dụng, tư pháp hình sự, đánh giá nhu cầu chăm sóc sức khỏe của bệnh nhân và tuyển sinh đại học. Tuy nhiên, tồn tại những quan ngại về việc các hệ thống học máy có thể tái tạo, khuếch đại hoặc thậm chí lan rộng sự không công bằng trong xã hội, và gây hại hay tạo ra sự bất công cho một hoặc nhóm người cụ thể [1], [2], [3], [4]. Trong đánh giá tính công bằng, thiên kiến về dữ liệu đôi khi là nguyên nhân sâu xa đẫn đến những sai lệch không chủ ý mang tính hệ thống [5].

Các mô hình được huấn luyện dựa trên dữ liệu sai lệch, không đảm bảo tính đa dạng có thể gặp khó khăn trong việc khái quát hóa tốt các tình huống đa dạng, không công bằng hoặc phi đạo đức từ các mô hình học máy. Hạn chế này cản trở khả năng thích ứng của hệ thống học máy trong việc ứng dụng vào thế giới thực, khiến chúng kém hiệu quả và kém tin cậy hơn. Khi các công nghệ học máy được sử dụng trong các bối cảnh ảnh hưởng đến yếu tố con người, các doanh nghiệp cũng như các nhà nghiên cứu cần phải đảm bảo rằng sẽ không có bất kỳ sự thiên kiến nào [6] liên quan đến các khía cạnh xã hội, pháp lý và đạo đức, chẳng hạn như phân biệt xã hội, sắc tộc, người khuyết tật, sự bất bình đẳng giới [7] hay vấn đề học vấn. ảnh hưởng đến kết quả dự đoán của mô hình.