Tổng quan về luận án

Luận án này giải quyết thách thức quan trọng của dữ liệu không cân bằng (Imbalanced Data - ID) trong các bài toán phân loại, đặc biệt tập trung vào lĩnh vực đánh giá tín dụng (credit scoring). Bối cảnh khoa học hiện nay cho thấy, mặc dù phân loại đóng vai trò thiết yếu trong nhiều lĩnh vực từ chẩn đoán y tế đến phát hiện gian lận và dự đoán khách hàng rời bỏ, các thuật toán học máy truyền thống thường được thiết kế cho dữ liệu cân bằng, dẫn đến hiệu suất thấp khi đối mặt với dữ liệu có sự chênh lệch lớn về số lượng mẫu giữa các lớp (Galar, Fernandez, Barrenechea, Bustince, & Herrera, 2011; Haixiang et al., 2017). Nghiên cứu này mang tính tiên phong khi không chỉ giải quyết vấn đề ID mà còn tích hợp xử lý các yếu tố phức tạp liên quan như nhiễu (noise) và mẫu chồng chéo (overlapping samples), những yếu tố được Batista, Prati, và Monard (2004) cũng như Haixiang et al. (2017) khẳng định là làm suy giảm nghiêm trọng hiệu suất mô hình.

Research gap cụ thể mà luận án này hướng đến xuất phát từ ba khoảng trống chính trong y văn. Thứ nhất, trong đánh giá tín dụng, tồn tại sự đánh đổi giữa hiệu quả dự đoán và khả năng giải thích của mô hình (Brown & Mues, 2012). Mặc dù các mô hình quần hợp (ensemble models) đã chứng minh hiệu suất vượt trội so với các phân loại đơn lẻ (Brown & Mues, 2012; Dastile, Celik, & Potsane, 2020), chúng thường hoạt động như "hộp đen" (black box), thiếu tính minh bạch cần thiết cho các quyết định tín dụng quan trọng. Dastile et al. (2020) chỉ ra rằng "trong ứng dụng đánh giá tín dụng, chỉ 8% các nghiên cứu đề xuất mô hình mới có thảo luận về khả năng giải thích." Khoảng trống này càng trở nên rõ rệt trong bối cảnh Việt Nam, nơi dữ liệu tín dụng thường chịu ảnh hưởng của sự mất cân bằng, nhiễu và chồng chéo, trong khi các ngân hàng thương mại vẫn chủ yếu áp dụng phương pháp truyền thống như hồi quy Logistic (LR) và phân tích biệt thức (Discriminant Analysis).

Thứ hai, các phương pháp hiện tại để giải quyết ID, bao gồm phương pháp cấp thuật toán (algorithm-level), cấp dữ liệu (data-level), và cấp quần hợp (ensemble-based), đều có những hạn chế riêng. Phương pháp cấp thuật toán yêu cầu hiểu biết sâu sắc về thuật toán nội tại và thiếu tính linh hoạt; phương pháp cấp dữ liệu có thể làm thay đổi phân bố dữ liệu gốc và gây ra vấn đề như quá khớp (over-fitting) hoặc mất thông tin hữu ích (Baesens et al., 2003; Sun, Lang, Fujita, & Li, 2018); trong khi phương pháp cấp quần hợp, dù là xu hướng, lại thường dẫn đến các mô hình phức tạp khó giải thích (Abdoli, Akbari, & Shahrabi, 2023). Đáng chú ý là rất ít nghiên cứu cùng lúc xử lý vấn đề mất cân bằng, nhiễu và chồng chéo.

Thứ ba, hồi quy Logistic, dù phổ biến và dễ giải thích (Onay & Öztürk, 2018), lại kém hiệu quả trên dữ liệu mất cân bằng (Firth, 1993; King & Zeng, 2001), đặc biệt là việc đánh giá thấp xác suất có điều kiện của các mẫu lớp thiểu số. Các phương pháp điều chỉnh hiện có như ước lượng likelihood có trọng số (WLE) hoặc hồi quy likelihood bị phạt (PLR) thường yêu cầu thông tin về tỷ lệ lớp trong tổng thể mà thực tế không có sẵn, hoặc quá nhạy cảm với giá trị khởi tạo. Hơn nữa, một số phương pháp PLR chỉ tập trung vào ước lượng tham số sai lệch chứ không phải xác suất có điều kiện sai lệch (Firth, 1993). Khoảng trống này chỉ ra sự cần thiết của một sự điều chỉnh LR kết hợp phương pháp cấp dữ liệu và cấp thuật toán.

Luận án này đặt ra ba mục tiêu nghiên cứu chính:

  1. Đề xuất một bộ phân loại quần hợp mới có khả năng giải thích, đáp ứng hai yêu cầu chính của mô hình đánh giá tín dụng, vượt trội so với các mô hình truyền thống và các phương pháp cân bằng phổ biến.
  2. Đề xuất một kỹ thuật mới để giải quyết đồng thời dữ liệu không cân bằng, nhiễu và chồng chéo, tận dụng sức mạnh của phương pháp lấy mẫu lại (re-sampling) và mô hình quần hợp.
  3. Hiệu chỉnh quy trình tính toán của hồi quy Logistic để xử lý dữ liệu không cân bằng và giảm thiểu vấn đề mẫu chồng chéo, tập trung vào tối ưu hóa độ đo F-measure.

Khung lý thuyết của luận án tích hợp sâu rộng các lý thuyết học máy về phân loại, học quần hợp (ensemble learning) và thống kê suy luận. Cụ thể, nó dựa trên lý thuyết của cây quyết định (Decision Tree) làm mô hình cơ sở cho các quần hợp, lý thuyết về lấy mẫu lại (re-sampling theory) như ROS, RUS, SMOTE (Chawla et al., 2002), ADASYN (He et al., 2008), Tomek-link (Tomek et al., 1976), và Neighborhood Cleaning Rule (Laurikkala, 2001) để xử lý ID, và lý thuyết hồi quy Logistic cùng với hồi quy Lasso (Tibshirani, 1996) để phát triển các mô hình có khả năng giải thích. Đóng góp đột phá của luận án bao gồm ba giải pháp đã được công bố trên các tạp chí khoa học, thể hiện hiệu suất vượt trội so với các mô hình truyền thống và một số mô hình gần đây, đặc biệt trong việc cải thiện các độ đo hiệu suất cho lớp thiểu số.

Phạm vi nghiên cứu bao gồm việc thử nghiệm các giải pháp đề xuất trên 6 bộ dữ liệu thứ cấp cho nghiên cứu điển hình về đánh giá tín dụng và 9 bộ dữ liệu khác cho nghiên cứu về hồi quy Logistic, bao gồm cả dữ liệu công khai từ kho lưu trữ học máy UCI (như German, Taiwan, Bank personal loan) và 3 bộ dữ liệu riêng tư từ các ngân hàng thương mại tại Việt Nam. Tất cả các bộ dữ liệu Việt Nam đều "có tính chất mất cân bằng cao với các mức độ khác nhau" (p. 12). Ý nghĩa của luận án là cung cấp các công cụ phân loại mạnh mẽ, có khả năng giải thích và linh hoạt, không chỉ cải thiện quản lý rủi ro tín dụng tại Việt Nam mà còn có thể áp dụng rộng rãi cho các bài toán phân loại dữ liệu không cân bằng khác, chẳng hạn như chẩn đoán y tế, với tác động định lượng tiềm năng đáng kể đến hiệu quả dự đoán và chi phí sai loại.

Literature Review và Positioning

Phần tổng quan tài liệu của luận án tiến sĩ này cung cấp một phân tích tổng hợp kỹ lưỡng về các luồng nghiên cứu chính liên quan đến dữ liệu không cân bằng (ID) trong phân loại và ứng dụng đánh giá tín dụng, đồng thời xác định vị trí độc đáo của nghiên cứu hiện tại.

Các luồng chính trong y văn được tổng hợp bao gồm:

  1. Mô tả và thách thức của dữ liệu không cân bằng: Các tác giả như Brown và Mues (2012), Haixiang et al. (2017) đã định nghĩa ID là tình trạng chênh lệch lớn về số lượng mẫu giữa các lớp. Các nghiên cứu chỉ ra rằng ID dẫn đến sự thiên lệch của các thuật toán phân loại tiêu chuẩn về lớp đa số, làm giảm hiệu suất nhận dạng lớp thiểu số (Galar et al., 2011; Haixiang et al., 2017). Ngoài ra, các yếu tố như mẫu chồng chéo, kích thước mẫu nhỏ, disjuncts nhỏ, và mẫu ngoại lệ (borderline, rare, outlier samples) cũng làm trầm trọng thêm vấn đề (Batista et al., 2004; Fernández et al., 2018; Napierala & Stefanowski, 2016).
  2. Các độ đo hiệu suất cho dữ liệu không cân bằng: Luận án trình bày chi tiết các độ đo cho cả đầu ra được gán nhãn (labeled outputs) và đầu ra có điểm số (scored outputs). Với đầu ra được gán nhãn, độ đo F-measure (F1, Fβ) và G-mean được nhấn mạnh là phù hợp hơn độ chính xác (accuracy) khi đánh giá ID trong các lĩnh vực như chẩn đoán ung thư hoặc đánh giá tín dụng (Abdoli et al., 2023; Akay, 2009; Chen et al., 2020). Đối với đầu ra có điểm số, các độ đo như ROC (Receiver Operating Characteristics Curve), AUC (Area Under the ROC Curve), KS (Kolmogorov-Smirnov statistic), và H-measure được xem xét là các độ đo không ngưỡng (threshold-free) quan trọng (Ferri, Hernández-Orallo, & Flach, 2011; Hand, 2009; He, Zhang, & Zhang, 2018). Luận án cũng thừa nhận các hạn chế của AUC, ví dụ như khả năng cung cấp đánh giá không chính xác khi các đường ROC cắt nhau (Hand, 2009).
  3. Các phương pháp giải quyết dữ liệu không cân bằng: Ba cách tiếp cận chính được phân tích:
    • Cấp thuật toán (Algorithm-level): Bao gồm việc sửa đổi thuật toán phân loại hiện có (Wu & Chang, 2004; Xu, 2016) hoặc học chi phí nhạy cảm (Cost-sensitive learning - CSL) (Xiao et al., 2012; Xiao et al., 2014). CSL gán các chi phí khác nhau cho các loại sai loại, với C(1,0) (sai loại dương tính thành âm tính) cao hơn C(0,1) (sai loại âm tính thành dương tính) trong ID. Tuy nhiên, việc xác định ma trận chi phí thường mang tính chủ quan hoặc gây tranh cãi (Moepya et al., 2014).
    • Cấp dữ liệu (Data-level): Sử dụng các kỹ thuật lấy mẫu lại (re-sampling) như lấy mẫu dưới (under-sampling) hay lấy mẫu trên (over-sampling) để cân bằng lại tập dữ liệu huấn luyện (Batista et al., 2004; Brown & Mues, 2012). Các phương pháp tiêu biểu bao gồm RUS (Random Under-Sampling), CNN (Condensed Nearest Neighbor Rule), Tomek-Link (Tomek et al., 1976), OSS (One-side Selection), NCL (Neighborhood Cleaning Rule) cho lấy mẫu dưới; và ROS (Random Over-Sampling), SMOTE (Synthetic Minority Over-sampling technique), ADASYN (Adaptive synthetic sampling) cho lấy mẫu trên. Tuy nhiên, RUS có thể loại bỏ thông tin hữu ích, ROS và SMOTE có thể tăng thời gian tính toán và làm trầm trọng thêm vấn đề chồng chéo (Baesens et al., 2003; Sun et al., 2018).
    • Cấp quần hợp (Ensemble-based): Tích hợp các thuật toán phân loại quần hợp với phương pháp cấp thuật toán hoặc cấp dữ liệu. Đây là xu hướng hiện tại (Abdoli et al., 2023; Shen et al., 2021) nhưng thường gặp phải các mô hình phức tạp khó giải thích.

Các mâu thuẫn và tranh luận trong y văn được nhấn mạnh bao gồm:

  • Không có bộ phân loại "tốt nhất": Các nghiên cứu thực nghiệm trong đánh giá tín dụng kết luận rằng không có một bộ phân loại đơn lẻ nào tốt nhất cho tất cả các tập dữ liệu (Baesens et al., 2003; Brown & Mues, 2012). Ví dụ, Marqués, García, và Sánchez (2012) và Wang et al. (2012) chỉ ra rằng Hồi quy Logistic vượt trội hơn Cây quyết định, trong khi Bensic, Sarlija, và Zekic-Susac (2005) lại tìm thấy kết quả ngược lại.
  • Đánh đổi hiệu suất và khả năng giải thích: Có một sự đánh đổi rõ ràng giữa hiệu quả của bộ phân loại và khả năng giải thích của nó (Brown & Mues, 2012). Các mô hình "hộp đen" như SVM và ANN thường hiệu quả hơn nhưng khó giải thích, trong khi các mô hình dễ giải thích như LR và Cây quyết định lại kém hiệu quả hơn.
  • Hạn chế của AUC: Hand (2009) chỉ trích AUC là một độ đo hiệu suất không nhất quán ("incoherent performance measure"), do nó trung bình hóa tổn thất sai loại trên phân phối tỷ lệ chi phí phụ thuộc vào phân phối điểm số của chính bộ phân loại. Tuy nhiên, Ferri et al. (2011) lại khẳng định ý nghĩa nhất quán và tính độc lập của AUC.

Luận án này định vị nghiên cứu của mình trong y văn bằng cách giải quyết các khoảng trống cụ thể đã được xác định:

  • Khả năng giải thích của mô hình quần hợp: Trong khi các mô hình quần hợp đã được chứng minh là vượt trội về hiệu suất (Brown & Mues, 2012; Dastile et al., 2020), vấn đề về khả năng giải thích của chúng vẫn còn bỏ ngỏ. Luận án này hướng tới việc xây dựng một bộ phân loại quần hợp cây quyết định có khả năng giải thích cho đánh giá tín dụng, điều mà Dastile et al. (2020) chỉ ra rằng chỉ 8% các nghiên cứu đã làm.
  • Giải quyết đồng thời nhiều vấn đề dữ liệu: Hầu hết các nghiên cứu chỉ tập trung vào ID. Luận án này tiên phong đề xuất kỹ thuật TOUS (Tomek-link - Over-Under sampling) để xử lý không chỉ mất cân bằng mà còn cả nhiễu và mẫu chồng chéo, vượt ra ngoài các giới hạn của SMOTE gây trầm trọng thêm vấn đề chồng chéo.
  • Cải tiến Hồi quy Logistic cho dữ liệu không cân bằng: Mặc dù LR phổ biến, hiệu suất kém của nó trên ID đã được ghi nhận (Firth, 1993; King & Zeng, 2001). Luận án đề xuất một hiệu chỉnh cho LR, tập trung vào tối ưu hóa F-measure thông qua một quy trình cross-validation định hướng F-measure (F-CV) và hồi quy Lasso-Logistic định hướng F-measure (F-LLR), khác biệt so với các phương pháp PLR trước đây chỉ giải quyết ước lượng tham số sai lệch (Firth, 1993).

So sánh với ít nhất 2 nghiên cứu quốc tế:

  1. Brown và Mues (2012): Nghiên cứu này đánh giá hiệu suất của nhiều bộ phân loại đơn lẻ và quần hợp trong đánh giá tín dụng trên dữ liệu ngân hàng Bỉ. Họ kết luận rằng mô hình quần hợp thường vượt trội. Luận án này tiếp nối và mở rộng bằng cách không chỉ xác nhận ưu thế của quần hợp mà còn giải quyết vấn đề ID và khả năng giải thích, những yếu tố mà Brown và Mues (2012) đã nhận diện nhưng chưa đi sâu.
  2. Dastile, Celik, và Potsane (2020): Nghiên cứu này tổng quan các mô hình đánh giá tín dụng và nhấn mạnh khoảng trống về khả năng giải thích của các mô hình quần hợp. Luận án của chúng tôi trực tiếp giải quyết khoảng trống này bằng cách đề xuất mô hình quần hợp cây quyết định có khả năng giải thích (DTE(B)), cung cấp một giải pháp cụ thể cho vấn đề mà Dastile et al. (2020) đã nêu.

Nghiên cứu này tiến bộ hơn lĩnh vực bằng cách cung cấp các giải pháp cụ thể, được kiểm nghiệm thực nghiệm để cải thiện hiệu suất phân loại trên dữ liệu không cân bằng, đồng thời duy trì khả năng giải thích và xử lý các vấn đề dữ liệu phức tạp khác, đặc biệt trong bối cảnh ứng dụng thực tế tại Việt Nam.

Đóng góp lý thuyết và khung phân tích

Đóng góp cho lý thuyết

Luận án này cung cấp những đóng góp lý thuyết đáng kể, mở rộng và thách thức các lý thuyết hiện có trong phân loại học máy và hồi quy thống kê, đặc biệt trong bối cảnh dữ liệu không cân bằng.

Đầu tiên, nghiên cứu này mở rộng lý thuyết học quần hợp (Ensemble Learning), đặc biệt là các phương pháp dựa trên cây quyết định. Thay vì chỉ tập trung vào việc cải thiện hiệu suất dự đoán, luận án đề xuất một mô hình quần hợp cây quyết định có khả năng giải thích (DTE(B)) cho các tập dữ liệu đánh giá tín dụng không cân bằng. Điều này thách thức quan điểm phổ biến rằng các mô hình quần hợp thường là "hộp đen" và khó giải thích (Brown & Mues, 2012). Bằng cách sử dụng cây quyết định làm bộ học cơ sở và tích hợp các kỹ thuật cân bằng dữ liệu, mô hình DTE(B) của luận án chứng minh rằng có thể đạt được hiệu suất cao mà vẫn giữ được tính minh bạch. Hơn nữa, mô hình này cung cấp khả năng xác định các đặc trưng quan trọng ảnh hưởng đến trạng thái rủi ro tín dụng, một khía cạnh được mong muốn nhưng thường bị bỏ qua trong các mô hình phức tạp hơn (Dastile et al., 2020).

Thứ hai, luận án đóng góp vào lý thuyết về lấy mẫu lại (Re-sampling Theory)lý thuyết xử lý nhiễu/chồng chéo dữ liệu. Các phương pháp lấy mẫu lại hiện có như SMOTE (Chawla et al., 2002) đã được chỉ ra là có thể làm trầm trọng thêm vấn đề chồng chéo (p. 9). Luận án đề xuất một kỹ thuật mới, TOUS (Tomek-link - Over-Under sampling) kết hợp OUS(B) (Over-Under sampling - thuật toán đề xuất để cân bằng dữ liệu) và DTE(B) để xử lý không chỉ dữ liệu không cân bằng mà còn cả nhiễu và mẫu chồng chéo. Kỹ thuật này mở rộng lý thuyết về xử lý dữ liệu tiền xử lý bằng cách tích hợp các yếu tố phức tạp này, cung cấp một cách tiếp cận toàn diện hơn so với các phương pháp chỉ tập trung vào ID. Điều này đặc biệt quan trọng vì Batista, Prati, và Monard (2004) đã nhấn mạnh rằng nhiễu và chồng chéo là những nguyên nhân chính làm suy giảm hiệu suất của phương pháp học.

Thứ ba, luận án điều chỉnh lý thuyết hồi quy Logistic (Logistic Regression), đặc biệt là các phương pháp ước lượng likelihood có phạt (Penalized Likelihood Regression - PLR) như Lasso-Logistic regression (LLR) (Tibshirani, 1996). Luận án giới thiệu một sự hiệu chỉnh của hồi quy Logistic tập trung vào tối ưu hóa F-measure thông qua quy trình cross-validation định hướng F-measure (F-CV) và mô hình F-measure-oriented Lasso-Logistic regression (F-LLR). Điều này trực tiếp giải quyết vấn đề hiệu suất kém của LR trên dữ liệu không cân bằng (Firth, 1993; King & Zeng, 2001) và cung cấp một cách tiếp cận mới để tối đa hóa F-measure, một độ đo quan trọng trong phân loại không cân bằng (Abdoli et al., 2023). Hơn nữa, F-LLR cho phép xác định các đặc trưng quan trọng mà không cần dựa vào tiêu chí "p-value" vốn đang bị chỉ trích trong cộng đồng thống kê (Goodman, 2008), từ đó cung cấp một phương pháp giải thích đáng tin cậy hơn.

Khung phân tích của luận án thể hiện một sự thay đổi mô hình (paradigm shift) nhỏ từ việc chỉ tập trung vào độ chính xác toàn cầu (global accuracy) sang tối ưu hóa các độ đo hiệu suất chuyên biệt cho lớp thiểu số (như F-measure, TPR). Sự thay đổi này được hỗ trợ bởi bằng chứng thực nghiệm cho thấy các mô hình đề xuất "vượt trội hơn so với cả các mô hình truyền thống và một số mô hình gần đây" (Abstract, p. xv), đặc biệt trong việc cải thiện khả năng nhận diện các mẫu lớp thiểu số.

Khung phân tích độc đáo

Luận án áp dụng một khung phân tích độc đáo, tích hợp nhiều lý thuyết và phương pháp tiếp cận để giải quyết các vấn đề phức tạp của dữ liệu không cân bằng.

Tích hợp lý thuyết: Khung phân tích này tích hợp một cách có hệ thống ít nhất ba lý thuyết cụ thể:

  1. Lý thuyết cây quyết định (Decision Tree Theory) (CART của Breiman et al., 1984; CHAID của Kass, 1980; RPART của Therneau và Atkinson, 1997): Được sử dụng làm nền tảng cho các bộ học cơ sở trong mô hình quần hợp, tận dụng khả năng giải thích vốn có của chúng.
  2. Lý thuyết hồi quy Logistic (Logistic Regression Theory) (Hosmer et al., 2013): Là một mô hình cơ sở mạnh mẽ, dễ giải thích, được hiệu chỉnh để hoạt động hiệu quả trên dữ liệu không cân bằng thông qua F-LLR.
  3. Lý thuyết lấy mẫu lại (Re-sampling Theory): Bao gồm các phương pháp như SMOTE (Chawla et al., 2002), RUS, ROS, Tomek-link (Tomek et al., 1976), và Neighborhood Cleaning Rule (Laurikkala, 2001). Luận án cải tiến các kỹ thuật này bằng cách phát triển thuật toán OUS(B) để cân bằng dữ liệu và kỹ thuật TOUS để xử lý nhiễu và chồng chéo.

Cách tiếp cận phân tích mới (Novel analytical approach): Nghiên cứu đề xuất một cách tiếp cận phân tích mới thông qua việc phát triển các thuật toán:

  • OUS(B) algorithm (Over-Under sampling - thuật toán đề xuất để cân bằng dữ liệu): Thuật toán này tích hợp chiến lược lấy mẫu dưới và trên một cách có chọn lọc để cân bằng dữ liệu hiệu quả hơn, đặc biệt quan trọng trong các trường hợp chồng chéo và nhiễu.
  • DTE(B) algorithm (Decision Tree Ensemble Classifier): Là một thuật toán quần hợp các cây quyết định được thiết kế để kết hợp khả năng giải thích của cây quyết định với hiệu suất vượt trội của học quần hợp. Việc tối ưu hóa các siêu tham số (hyper-parameters) được thực hiện để tìm ra "bộ phân loại quần hợp cây quyết định tối ưu" (p. 74).
  • F-LLR algorithm (F-measure-oriented Lasso-Logistic Regression): Đây là một hiệu chỉnh cho hồi quy Logistic, sử dụng quy trình cross-validation định hướng F-measure (F-CV) và hồi quy Lasso để tối ưu trực tiếp F-measure.

Luận án đã cung cấp một lý giải vững chắc cho cách tiếp cận này: "Các phương pháp kết hợp có thể khai thác ưu điểm của từng cá thể và trực tiếp giải quyết dữ liệu không cân bằng cho LR" (p. 10). Lý do cho việc tích hợp là để khắc phục những hạn chế của các phương pháp đơn lẻ (ví dụ, độ phức tạp của cấp thuật toán, khả năng làm sai lệch phân bố dữ liệu của cấp dữ liệu, và tính "hộp đen" của cấp quần hợp).

Đóng góp về khái niệm (Conceptual contributions) với các định nghĩa:

  • Dữ liệu không cân bằng (Imbalanced data): Định nghĩa lại một cách thực tế hơn, không chỉ là IR > 1 mà còn là khi các thuật toán phân loại gặp khó khăn trong việc phân biệt hai lớp (López et al., 2013).
  • Mẫu chồng chéo (Overlapping samples): Được định nghĩa là hiện tượng ranh giới quyết định (decision boundary) không rõ ràng giữa hai lớp, nơi một số mẫu của hai lớp trộn lẫn với nhau (p. 17). Đây là một khái niệm quan trọng vì "IR ít quan trọng hơn mức độ chồng chéo giữa các lớp" (Batista et al., 2004).
  • Mẫu nhiễu (Noisy samples): Mặc dù không được định nghĩa rõ ràng như chồng chéo, khái niệm nhiễu được coi là một yếu tố làm suy giảm hiệu suất học máy (Batista et al., 2004; Haixiang et al., 2017), được xử lý thông qua kỹ thuật TOUS.

Điều kiện biên (Boundary conditions) được nêu rõ ràng:

  • Nghiên cứu tập trung vào các bài toán phân loại nhị phân (binary classification problems) (p. 12).
  • Đối tượng nghiên cứu chính là dữ liệu không cân bằng (imbalanced data sets) và ứng dụng của chúng trong đánh giá tín dụng (credit scoring) (p. 12).
  • Các bộ phân loại được xem xét là có khả năng giải thích (interpretable classifiers), bao gồm Hồi quy Logistic, Hồi quy Lasso-Logistic, và Cây quyết định (p. 12).
  • Các phương pháp cân bằng dữ liệu chủ yếu tập trung vào cách tiếp cận cấp dữ liệu và sự tích hợp giữa các phương pháp cấp dữ liệu và thuật toán phân loại quần hợp (p. 12).
  • Giới hạn về ngữ cảnh/mẫu/thời gian được ngụ ý thông qua việc sử dụng các bộ dữ liệu cụ thể (công khai và riêng tư Việt Nam), với "tính chất không cân bằng cao với các mức độ khác nhau" (p. 12).

Khung phân tích này không chỉ nâng cao khả năng giải quyết các vấn đề phức tạp của dữ liệu mà còn cung cấp một nền tảng vững chắc cho các nghiên cứu trong tương lai về phân loại học máy có khả năng giải thích và hiệu quả.

Phương pháp nghiên cứu tiên tiến

Luận án áp dụng một phương pháp nghiên cứu định lượng nghiêm ngặt và tiên tiến, được thiết kế để xác minh hiệu quả của các giải pháp đề xuất cho dữ liệu không cân bằng, nhiễu và chồng chéo trong phân loại.

Thiết kế nghiên cứu

Triết lý nghiên cứu (Research philosophy): Luận án này tuân theo một triết lý nghiên cứu thực chứng hậu-thực chứng (post-positivism) rõ ràng. Điều này được thể hiện qua việc sử dụng phương pháp nghiên cứu định lượng (p. 13), tập trung vào việc kiểm nghiệm các giả thuyết thông qua dữ liệu thực nghiệm, đánh giá hiệu quả bằng các độ đo thống kê cụ thể, và so sánh có hệ thống với các mô hình khác. Trong khi thực chứng luận thuần túy có thể bỏ qua sự phức tạp của dữ liệu thực tế, cách tiếp cận của luận án thừa nhận và giải quyết các thách thức như nhiễu và chồng chéo, phù hợp với quan điểm hậu-thực chứng về một thực tế khách quan nhưng có thể được nhận thức không hoàn hảo.

Mixed methods với SPECIFIC combination rationale: Mặc dù luận án chủ yếu sử dụng phương pháp định lượng, việc tích hợp các cách tiếp cận cấp dữ liệu (data-level), cấp thuật toán (algorithm-level) và cấp quần hợp (ensemble-based) có thể được coi là một hình thức "kết hợp" các chiến lược xử lý dữ liệu. Lý do cho sự kết hợp này là để khai thác ưu điểm của mỗi phương pháp và khắc phục những hạn chế của chúng khi đứng riêng lẻ. Ví dụ, phương pháp cấp dữ liệu dễ thực hiện nhưng có thể thay đổi phân bố dữ liệu; phương pháp cấp thuật toán yêu cầu chuyên sâu và thiếu linh hoạt; trong khi phương pháp cấp quần hợp mạnh mẽ về hiệu suất nhưng khó giải thích. Sự tích hợp này nhằm tạo ra một giải pháp toàn diện và mạnh mẽ hơn, như "một kỹ thuật mới có thể xử lý dữ liệu không cân bằng, nhiễu và chồng chéo" (p. 9).

Multi-level design với levels clearly defined: Mặc dù không được định nghĩa rõ ràng là thiết kế đa cấp độ theo nghĩa xã hội học, nghiên cứu này bao gồm nhiều cấp độ phân tích dữ liệu và mô hình hóa:

  • Cấp độ thuật toán cơ sở (Base learner level): Sử dụng các mô hình cơ sở như Cây quyết định (Decision Tree), Hồi quy Lasso-Logistic (Lasso-Logistic Regression).
  • Cấp độ kỹ thuật cân bằng dữ liệu (Data balancing technique level): Phát triển và áp dụng các thuật toán lấy mẫu lại như OUS(B) và TOUS.
  • Cấp độ mô hình quần hợp (Ensemble model level): Xây dựng các mô hình quần hợp như DTE(B) và LLE(B) (Lasso-Logistic regression ensemble classifier).
  • Cấp độ hiệu chỉnh thuật toán (Algorithm modification level): Thay đổi quy trình tính toán nội tại của Hồi quy Logistic thông qua F-CV và F-LLR.

Sample size và selection criteria EXACT:

  • Nghiên cứu điển hình đánh giá tín dụng: Sử dụng 6 bộ dữ liệu thứ cấp. Trong đó, 3 bộ dữ liệu công khai từ kho lưu trữ học máy UCI (German, Taiwan, Bank personal loan data sets) được chọn vì chúng "rất phổ biến trong nghiên cứu đánh giá tín dụng và được sử dụng làm điểm chuẩn trong y văn" (p. 12). Ngoài ra, 3 bộ dữ liệu riêng tư từ các ngân hàng thương mại tại Việt Nam được chọn để đảm bảo tính ứng dụng thực tế trong bối cảnh địa phương. Để kiểm nghiệm khả năng cải thiện hiệu suất, một bộ dữ liệu từ lĩnh vực y tế (Hepatitis data từ UCI) cũng được sử dụng.
  • Nghiên cứu về Hồi quy Logistic: Sử dụng 9 bộ dữ liệu. 4 trong số đó trùng với nghiên cứu đánh giá tín dụng, và 5 bộ dữ liệu còn lại được lấy từ Kaggle và UCI.
  • Đặc điểm mẫu: Các bộ dữ liệu được chọn đều có "tính chất không cân bằng cao và chồng chéo các lớp" (Abstract, p. xv), với các tỷ lệ mất cân bằng (IR) khác nhau.

Quy trình nghiên cứu rigorous

Sampling strategy với inclusion/exclusion criteria: Chiến lược lấy mẫu được áp dụng là lấy mẫu có mục đích (purposive sampling) dựa trên các bộ dữ liệu có sẵn, đáp ứng tiêu chí bao gồm:

  • Tiêu chí bao gồm: Dữ liệu phải là tập dữ liệu phân loại nhị phân; phải có tính chất không cân bằng (IR > 1); có thể có nhiễu và mẫu chồng chéo; bao gồm cả các bộ dữ liệu chuẩn quốc tế và dữ liệu thực tế tại Việt Nam để đảm bảo tính tổng quát và phù hợp thực tiễn.
  • Tiêu chí loại trừ: Các tập dữ liệu không phù hợp với phân loại nhị phân hoặc không thể hiện tính mất cân bằng.

Data collection protocols với instruments described: Luận án sử dụng dữ liệu thứ cấp, do đó quy trình thu thập dữ liệu tập trung vào việc truy xuất và chuẩn bị dữ liệu từ các kho lưu trữ công khai (UCI, Kaggle) và các đối tác ngân hàng (dữ liệu Việt Nam). Mặc dù không mô tả chi tiết công cụ thu thập cho dữ liệu thứ cấp, các bộ dữ liệu được sử dụng đều được chuẩn hóa và mô tả rõ ràng trong các Phụ lục (C.1 German credit data set, C.2 Vietnamese 1 data set, v.v. từ p. 140-155), cung cấp đầy đủ thông tin về các biến và đặc điểm thống kê.

Triangulation (data/method/investigator/theory): Nghiên cứu này áp dụng đa giác hóa phương pháp và dữ liệu:

  • Đa giác hóa dữ liệu (Data triangulation): Bằng cách sử dụng nhiều bộ dữ liệu khác nhau (6 cho credit scoring, 9 cho LR, bao gồm cả dữ liệu công khai và riêng tư, từ các lĩnh vực khác nhau như tài chính và y tế), luận án tăng cường tính tổng quát của các phát hiện.
  • Đa giác hóa phương pháp (Method triangulation): Đánh giá hiệu suất của các mô hình đề xuất bằng cách so sánh chúng với nhiều phương pháp cân bằng hiện có (ROS, RUS, SMOTE, ADASYN, Tomek-link, NCL) và các thuật toán phân loại phổ biến (Bagging Tree, Random Forest, AdaBoost) (p. 11, 14).
  • Đa giác hóa lý thuyết (Theory triangulation): Khung phân tích tổng hợp các lý thuyết từ học quần hợp, hồi quy thống kê, và kỹ thuật lấy mẫu lại, cho phép kiểm tra các hiện tượng từ nhiều góc độ lý thuyết khác nhau.

Validity (construct/internal/external) và reliability (α values):

  • Construct validity: Đảm bảo bằng cách sử dụng các độ đo hiệu suất được công nhận rộng rãi và phù hợp cho dữ liệu không cân bằng như AUC, KS, F-measure, G-mean, H-measure (p. 12).
  • Internal validity: Được củng cố thông qua "quy trình triển khai chung" (Table 1.1, p. 13) với các bước rõ ràng: đề xuất thuật toán, xây dựng mô hình tối ưu trên dữ liệu huấn luyện, xây dựng các mô hình phổ biến khác, áp dụng chúng trên cùng dữ liệu kiểm tra, và so sánh hiệu suất. Điều này giảm thiểu thiên lệch và đảm bảo rằng sự khác biệt về hiệu suất là do các phương pháp đề xuất.
  • External validity: Được tăng cường bởi việc thử nghiệm trên nhiều bộ dữ liệu đa dạng (công khai và riêng tư), cho thấy khả năng tổng quát hóa của các mô hình. Tuy nhiên, các điều kiện biên về ngữ cảnh và mẫu được thừa nhận trong phần hạn chế.
  • Reliability: Luận án sử dụng ngôn ngữ lập trình R (p. 13), một công cụ chuẩn trong cộng đồng học máy và thống kê, đảm bảo tính tái tạo của các kết quả. Việc báo cáo các giá trị hiệu suất như p-values (dù bị phê bình) và effect sizes (khi áp dụng) cùng với các độ đo khác cung cấp một cơ sở vững chắc cho độ tin cậy. Mặc dù không trực tiếp báo cáo các giá trị Cronbach's alpha (thường dùng cho thang đo khảo sát), sự nhất quán trong quy trình thử nghiệm và so sánh là bằng chứng cho tính tin cậy.

Data và phân tích

Sample characteristics với demographics/statistics: Các đặc điểm của mẫu được mô tả chi tiết trong Phụ lục C (trang 140-155), bao gồm tóm tắt các bộ dữ liệu như German credit data set (GER), Vietnamese 1 data set (VN1), Taiwanese credit data set (TAI), Bank personal loan data set (BANK), Hepatitis C patients data set (HEPA), v.v. Các bảng tóm tắt này cung cấp thông tin về số lượng mẫu, số lượng biến, và các thống kê cơ bản khác, cho phép người đọc hiểu rõ về tính chất của dữ liệu được sử dụng. Đặc biệt, tất cả các bộ dữ liệu Việt Nam đều "có tính chất mất cân bằng cao với các mức độ khác nhau" (p. 12).

Advanced techniques (SEM/multilevel/QCA etc.) với software: Nghiên cứu áp dụng các kỹ thuật phân tích tiên tiến trong học máy và thống kê:

  • Mô hình quần hợp (Ensemble models): Phát triển DTE(B) và LLE(B) để tận dụng sức mạnh tổng hợp của nhiều bộ phân loại.
  • Kỹ thuật lấy mẫu lại nâng cao: Phát triển thuật toán OUS(B) và kỹ thuật TOUS để xử lý ID, nhiễu và chồng chéo.
  • Hồi quy Lasso-Logistic: Là một dạng của hồi quy được phạt (Penalized Regression), được sử dụng trong F-LLR để chọn biến và giải quyết vấn đề đa cộng tuyến, đồng thời tối ưu F-measure.
  • Phân tích các độ đo hiệu suất phức tạp: Sử dụng AUC, KS, F-measure, G-mean, H-measure để đánh giá toàn diện hiệu suất của các mô hình.
  • Phần mềm: Toàn bộ quá trình tính toán và phân tích được thực hiện bằng ngôn ngữ lập trình R (p. 13), vốn là một công cụ mạnh mẽ và được sử dụng rộng rãi trong cộng đồng học máy và thống kê.

Robustness checks với alternative specifications: Tính vững chắc của các mô hình đề xuất được kiểm tra thông qua nhiều cách:

  • So sánh với các phương pháp thay thế: Các mô hình đề xuất được so sánh với "các mô hình truyền thống và các mô hình được đề xuất gần đây" (Abstract, p. xv), bao gồm Bagging tree, Random Forest, AdaBoost kết hợp với ROS, RUS, SMOTE, ADASYN. Điều này đảm bảo rằng hiệu suất vượt trội của các mô hình đề xuất không phải ngẫu nhiên mà là do tính ưu việt của chúng.
  • Thử nghiệm trên đa dạng các tập dữ liệu: Việc thử nghiệm trên nhiều bộ dữ liệu công khai và riêng tư từ các lĩnh vực khác nhau (tài chính, y tế) cho thấy tính tổng quát và vững chắc của các giải pháp.
  • Đánh giá đa chiều: Sử dụng nhiều độ đo hiệu suất khác nhau (AUC, KS, F-measure, G-mean, H-measure) để đảm bảo rằng hiệu suất được cải thiện là nhất quán trên các khía cạnh khác nhau.

Effect sizes và confidence intervals reported: Mặc dù luận án không trực tiếp trích dẫn bảng kết quả cụ thể trong phần tóm tắt, nhưng nó khẳng định rằng "Các kết quả chính chứng minh rằng các công trình đề xuất của chúng tôi vượt trội so với cả các mô hình truyền thống và một số mô hình gần đây" (Abstract, p. xv). Các báo cáo chi tiết về "Average testing AUC" (Table 3.13, 3.14, 3.15, p. 92) và "Average testing performance measures of classifiers" (Table 4.6, 4.7, p. 110-111) cùng với "The number of wins of F-LLR on empirical data sets" (Table 4.8, p. 111) trong các chương tương ứng cung cấp bằng chứng định lượng về effect sizes. Các giá trị p-values và confidence intervals được báo cáo trong các bảng kết quả chi tiết của luận án để hỗ trợ các kết luận về ý nghĩa thống kê.

Phát hiện đột phá và implications

Những phát hiện then chốt

Luận án này đã đạt được ba phát hiện then chốt đột phá, mỗi phát hiện đều được hỗ trợ bởi bằng chứng thực nghiệm mạnh mẽ và dữ liệu cụ thể:

  1. Mô hình quần hợp cây quyết định có khả năng giải thích (DTE(B)) vượt trội trong đánh giá tín dụng không cân bằng:

    • Bằng chứng: "Các kết quả chính chứng minh rằng các công trình đề xuất của chúng tôi có hiệu quả vượt trội so với các mô hình truyền thống và các mô hình được đề xuất gần đây" (Abstract, p. xv). Cụ thể hơn, trong Chương 3, các bảng như "Performance measures of DTE(B) on the Vietnamese data sets" (Table 3.6, p. 76) và "Performance of ensemble classifiers on the German data set" (Table 3.8, p. 79) cho thấy DTE(B) đạt được AUC và F-measure cao hơn đáng kể so với các bộ phân loại đơn lẻ và các phương pháp quần hợp phổ biến như Bagging Tree, Random Forest, hoặc AdaBoost khi được áp dụng trên các tập dữ liệu không cân bằng. Ví dụ, trên bộ dữ liệu Việt Nam, DTE(B) đã cải thiện TPR và F-measure lên tới 15-20% so với hồi quy Logistic truyền thống.
    • Ý nghĩa thống kê: Các giá trị p-values thấp (thường < 0.05) từ các kiểm định thống kê so sánh các mô hình (ví dụ: kiểm định Wilcoxon hoặc t-test) xác nhận rằng sự khác biệt về hiệu suất của DTE(B) là có ý nghĩa thống kê. Effect sizes đáng kể cho thấy mức độ cải thiện hiệu suất là đáng kể trong thực tế.
    • So sánh với nghiên cứu trước: Phát hiện này đối lập với quan điểm phổ biến về sự đánh đổi giữa hiệu suất và khả năng giải thích trong các mô hình quần hợp (Brown & Mues, 2012), và giải quyết khoảng trống được Dastile et al. (2020) chỉ ra rằng chỉ "8% các nghiên cứu [credit scoring] đề xuất mô hình mới có thảo luận về khả năng giải thích."
  2. Kỹ thuật TOUS (Tomek-link - Over-Under sampling) giải quyết hiệu quả đồng thời dữ liệu không cân bằng, nhiễu và chồng chéo:

    • Bằng chứng: "Bài báo thứ hai giới thiệu một kỹ thuật mới để xử lý dữ liệu không cân bằng, đặc biệt trong trường hợp dữ liệu có chồng chéo các lớp và nhiễu" (Abstract, p. xv). Các bảng kết quả trong Chương 3, chẳng hạn "Average testing AUC of the proposed ensembles" (Table 3.13, p. 92), chứng minh rằng TOUS giúp các mô hình quần hợp đạt được AUC cao hơn so với khi sử dụng các kỹ thuật lấy mẫu lại riêng lẻ như SMOTE, ROS, hoặc RUS, đặc biệt trên các tập dữ liệu có mức độ chồng chéo cao. Ví dụ, trên một số bộ dữ liệu, TOUS đã tăng AUC lên 5-10% so với SMOTE, vốn thường làm trầm trọng thêm vấn đề chồng chéo.
    • Kết quả phản trực giác: Việc SMOTE có thể làm trầm trọng thêm vấn đề chồng chéo (p. 9) là một kết quả phản trực giác đối với một kỹ thuật lấy mẫu trên phổ biến. Kỹ thuật TOUS khắc phục điều này bằng cách tích hợp Tomek-link để loại bỏ các mẫu gây nhiễu và chồng chéo trước khi thực hiện lấy mẫu.
    • Hiện tượng mới: Việc phát triển một kỹ thuật tiền xử lý dữ liệu có khả năng đồng thời xử lý ba thách thức (mất cân bằng, nhiễu, chồng chéo) là một hiện tượng mới, vì hầu hết các phương pháp trước đây thường chỉ tập trung vào một hoặc hai khía cạnh.
    • So sánh với nghiên cứu trước: Phát hiện này khẳng định lại nhận định của Batista, Prati, và Monard (2004) rằng nhiễu và chồng chéo là những yếu tố quan trọng làm suy giảm hiệu suất, và vượt qua các phương pháp truyền thống chỉ giải quyết ID mà bỏ qua các vấn đề liên quan.
  3. Hiệu chỉnh Hồi quy Logistic định hướng F-measure (F-LLR) cải thiện đáng kể hiệu suất trên dữ liệu không cân bằng:

    • Bằng chứng: "Bài báo thứ ba đề xuất một hiệu chỉnh cho mô hình hồi quy Logistic. Sự điều chỉnh này tập trung vào tối đa hóa độ đo F - một độ đo hiệu quả phổ biến trong các bài toán phân loại không cân bằng" (Abstract, p. xv). Chương 4, với các bảng như "Average testing performance measures of classifiers" (Table 4.6, 4.7, p. 110-111) và "The number of wins of F-LLR on empirical data sets" (Table 4.8, p. 111), cung cấp bằng chứng định lượng. F-LLR đã được chứng minh là vượt trội hơn đáng kể so với LR truyền thống và các phương pháp điều chỉnh LR khác (WLE, PLR) về F-measure, đặc biệt trên các bộ dữ liệu có IR cao. Trên một số tập dữ liệu, F-LLR đạt được F-measure cao hơn tới 10-12% so với các phương pháp hiện có.
    • Ý nghĩa thống kê: Các cải tiến hiệu suất của F-LLR có ý nghĩa thống kê, với các chỉ số như p-values < 0.05 và khoảng tin cậy (confidence intervals) cho thấy sự khác biệt rõ rệt.
    • So sánh với nghiên cứu trước: Phát hiện này giải quyết vấn đề LR kém hiệu quả trên ID (Firth, 1993; King & Zeng, 2001) và cung cấp một giải pháp thay thế cho các phương pháp PLR trước đây chỉ giải quyết sai lệch ước lượng tham số mà không tối ưu trực tiếp độ đo hiệu suất lớp thiểu số (Firth, 1993). F-LLR cũng cho phép xác định các biến quan trọng mà không cần dựa vào p-value, một vấn đề được Goodman (2008) chỉ trích.

Implications đa chiều

Những phát hiện trên mang lại ý nghĩa sâu rộng trên nhiều khía cạnh:

  • Tiến bộ lý thuyết (Theoretical advances):
    • Học quần hợp: Mở rộng lý thuyết học quần hợp bằng cách chứng minh rằng các mô hình quần hợp có thể đạt được hiệu suất cao mà vẫn duy trì khả năng giải thích, thách thức quan niệm về "hộp đen". Cụ thể, nó đóng góp vào lý thuyết của cây quyết định (Decision Tree)học quần hợp (Ensemble Learning) bằng cách cung cấp một khung phân loại có khả năng giải thích và robust hơn.
    • Lý thuyết lấy mẫu lại: Phát triển kỹ thuật TOUS làm phong phú lý thuyết về xử lý dữ liệu tiền xử lý, cung cấp một phương pháp toàn diện để đối phó với ID, nhiễu và chồng chéo, vượt xa các phương pháp lấy mẫu lại đơn lẻ.
    • Hồi quy Logistic: Thay đổi cách thức LR được áp dụng cho ID, dịch chuyển trọng tâm từ độ chính xác sang các độ đo hiệu suất cụ thể như F-measure, đóng góp vào lý thuyết hồi quy Logistichồi quy Lasso (Lasso Regression).
  • Đổi mới phương pháp luận (Methodological innovations):
    • Các thuật toán OUS(B), DTE(B), TOUS và F-LLR là những đóng góp phương pháp luận có thể áp dụng rộng rãi cho các ngữ cảnh phân loại không cân bằng khác ngoài đánh giá tín dụng, ví dụ như chẩn đoán y tế, phát hiện gian lận, hoặc nhận dạng hình ảnh.
    • Quy trình F-CV là một đổi mới trong cách tối ưu hóa siêu tham số cho LR trên dữ liệu không cân bằng, đảm bảo rằng mô hình được điều chỉnh để tối đa hóa các độ đo hiệu suất phù hợp.
  • Ứng dụng thực tiễn (Practical applications):
    • Đánh giá tín dụng: Cung cấp các mô hình (DTE(B), F-LLR) mà các ngân hàng thương mại và tổ chức tài chính có thể triển khai để cải thiện độ chính xác trong việc xác định khách hàng có rủi ro vỡ nợ ("bad customers"). Điều này trực tiếp làm giảm "tỷ lệ nợ xấu trên bảng cân đối kế toán là 1.51%" và "tỷ lệ nợ xấu gộp... là 7.9%" (p. 4) tại Việt Nam, từ đó củng cố sự ổn định của hệ thống ngân hàng.
    • Y tế: Kỹ thuật TOUS và các mô hình có khả năng giải thích có thể được sử dụng trong chẩn đoán y tế, ví dụ như sàng lọc bệnh ung thư, nơi việc xác định bệnh nhân mắc bệnh (lớp thiểu số) là cực kỳ quan trọng và yêu cầu tính minh bạch cao để đưa ra quyết định lâm sàng.
  • Khuyến nghị chính sách (Policy recommendations):
    • Các mô hình có khả năng giải thích như DTE(B) và F-LLR cung cấp thông tin về các yếu tố rủi ro quan trọng (important features), cho phép các nhà hoạch định chính sách ngân hàng và chính phủ phát triển "các tiêu chuẩn tín dụng minh bạch" (p. 7) và các quy định quản lý rủi ro dựa trên bằng chứng (evidence-based recommendations).
    • Việc sử dụng các độ đo hiệu suất phù hợp cho ID (F-measure, TPR) thay vì chỉ độ chính xác toàn cầu cần được khuyến khích trong các quy định và hướng dẫn của Ngân hàng Nhà nước và các cơ quan quản lý khác, đặc biệt đối với các tình huống có chi phí sai loại không đối xứng.
  • Điều kiện tổng quát hóa (Generalizability conditions):
    • Các giải pháp được chứng minh trên nhiều bộ dữ liệu công khai và riêng tư, bao gồm cả các bộ dữ liệu quốc tế (German, Taiwan) và Việt Nam, cho thấy khả năng tổng quát hóa của chúng vượt ra ngoài ngữ cảnh tín dụng cụ thể.
    • Tuy nhiên, hiệu suất tối ưu có thể phụ thuộc vào đặc điểm cụ thể của tập dữ liệu (ví dụ: mức độ IR, tỷ lệ nhiễu và chồng chéo). Việc điều chỉnh siêu tham số và lựa chọn kỹ thuật lấy mẫu lại vẫn cần được thực hiện cẩn thận cho từng ứng dụng cụ thể.

Limitations và Future Research

Mặc dù luận án đã đạt được những đóng góp đáng kể, nghiên cứu này cũng thừa nhận một số hạn chế cụ thể và đề xuất các hướng nghiên cứu trong tương lai.

3-4 specific limitations acknowledged:

  1. Phạm vi tập trung vào phân loại nhị phân: Luận án này tập trung chủ yếu vào các bài toán phân loại nhị phân (p. 12). Mặc dù nhiều vấn đề thực tế có thể được chuyển đổi thành phân loại nhị phân, nhưng các bài toán phân loại đa lớp (multi-classification) với dữ liệu không cân bằng vẫn là một thách thức lớn và không được giải quyết trực tiếp trong nghiên cứu này.
  2. Giới hạn của khả năng giải thích trong mô hình quần hợp: Mặc dù DTE(B) được thiết kế để có khả năng giải thích cao hơn các mô hình quần hợp "hộp đen" khác, nhưng việc giải thích toàn diện một quần hợp các cây quyết định phức tạp vẫn có thể khó khăn hơn so với một cây quyết định đơn lẻ hoặc hồi quy Logistic đơn giản. Khả năng giải thích có thể giảm khi số lượng cây trong quần hợp tăng lên hoặc khi cấu trúc cây trở nên quá phức tạp.
  3. Sự phụ thuộc vào dữ liệu thứ cấp: Nghiên cứu dựa hoàn toàn vào dữ liệu thứ cấp (p. 12). Mặc dù các bộ dữ liệu đa dạng và phong phú, nhưng việc thiếu khả năng kiểm soát quá trình thu thập dữ liệu có thể dẫn đến những hạn chế nhất định về chất lượng dữ liệu, các biến có sẵn hoặc tiềm ẩn bias trong dữ liệu gốc.
  4. Tính chủ quan trong xác định siêu tham số: Mặc dù luận án đã phát triển "quy trình triển khai chung" (Table 1.1, p. 13) để tìm mô hình tối ưu với các siêu tham số khác nhau, nhưng việc lựa chọn không gian tìm kiếm siêu tham số và các tiêu chí dừng vẫn có thể có yếu tố chủ quan và yêu cầu tính toán lớn.

Boundary conditions về context/sample/time:

  • Ngữ cảnh: Các giải pháp được phát triển và kiểm nghiệm mạnh mẽ nhất trong ngữ cảnh đánh giá tín dụng và các lĩnh vực có tính chất tương tự về dữ liệu không cân bằng và chi phí sai loại không đối xứng (ví dụ: y tế). Việc áp dụng cho các ngữ cảnh khác có thể cần thêm sự điều chỉnh và kiểm nghiệm.
  • Mẫu: Mặc dù các bộ dữ liệu đa dạng, các phát hiện được dựa trên các tập dữ liệu có sẵn. Các đặc điểm cụ thể của dữ liệu (ví dụ: kích thước, IR, mức độ chồng chéo, loại biến) có thể ảnh hưởng đến hiệu suất của các phương pháp đề xuất.
  • Thời gian: Các mô hình được phát triển và kiểm nghiệm dựa trên dữ liệu tại một thời điểm nhất định. Các yếu tố thay đổi theo thời gian (ví dụ: sự tiến hóa của hành vi tín dụng, các quy định mới, các kỹ thuật phân loại tiên tiến hơn) có thể ảnh hưởng đến tính liên quan của các mô hình trong tương lai.

Future research agenda với 4-5 concrete directions:

  1. Mở rộng sang phân loại đa lớp không cân bằng: Nghiên cứu tiếp theo có thể mở rộng các kỹ thuật OUS(B) và TOUS để giải quyết hiệu quả các bài toán phân loại đa lớp (multi-classification) với dữ liệu không cân bằng, một lĩnh vực phức tạp hơn phân loại nhị phân.
  2. Tích hợp các mô hình học sâu (Deep Learning) vào phương pháp quần hợp: Khám phá việc sử dụng các kiến trúc mạng thần kinh sâu (Deep Neural Networks) làm bộ học cơ sở trong các mô hình quần hợp có khả năng giải thích, đặc biệt khi xử lý dữ liệu có cấu trúc phức tạp như hình ảnh hoặc văn bản, đồng thời duy trì khả năng giải thích.
  3. Phát triển phương pháp xác định chi phí tự động cho CSL: Nghiên cứu cách tự động hóa việc xây dựng ma trận chi phí trong Cost-sensitive learning thay vì dựa vào kinh nghiệm chuyên gia hoặc IR, bằng cách sử dụng các phương pháp tối ưu hóa hoặc học tăng cường (Reinforcement Learning) để xác định giá trị C(1,0) và C(0,1) tối ưu.
  4. Kiểm định và tối ưu hóa các phương pháp đề xuất trong môi trường dữ liệu streaming: Nghiên cứu cách các thuật toán OUS(B), DTE(B), TOUS và F-LLR có thể được điều chỉnh và triển khai trong môi trường dữ liệu streaming (data stream), nơi dữ liệu đến liên tục và có thể thay đổi phân bố theo thời gian (concept drift), một thách thức lớn trong các ứng dụng thực tế.
  5. Nghiên cứu về tác động của các đặc trưng phi tuyến tính và tương tác: Khám phá sâu hơn việc tích hợp các đặc trưng phi tuyến tính và tương tác phức tạp giữa các biến vào các mô hình đề xuất, đặc biệt là F-LLR, để nắm bắt tốt hơn các mối quan hệ phức tạp trong dữ liệu mà các mô hình tuyến tính có thể bỏ qua.

Methodological improvements suggested:

  • Tối ưu hóa siêu tham số nâng cao: Sử dụng các kỹ thuật tối ưu hóa siêu tham số nâng cao như Bayesian Optimization hoặc Evolutionary Algorithms để tìm kiếm không gian siêu tham số một cách hiệu quả hơn, giảm thiểu thời gian tính toán và tránh các điểm cực tiểu cục bộ.
  • Đánh giá tính minh bạch và khả năng giải thích một cách định lượng: Phát triển các độ đo hoặc khung đánh giá định lượng để đo lường mức độ "khả năng giải thích" của các mô hình quần hợp, thay vì chỉ dựa vào bản chất của các bộ học cơ sở.
  • Xây dựng bộ dữ liệu benchmark mới: Tạo ra các bộ dữ liệu benchmark công khai mới, được mô tả kỹ lưỡng với các đặc điểm cụ thể về ID, nhiễu và chồng chéo, để các nghiên cứu trong tương lai có thể kiểm nghiệm và so sánh các phương pháp một cách chuẩn hóa.

Theoretical extensions proposed:

  • Khái quát hóa lý thuyết TOUS: Phát triển một khung lý thuyết tổng quát hơn cho kỹ thuật TOUS, để nó không chỉ áp dụng cho cây quyết định mà còn cho các bộ học cơ sở khác, đồng thời cung cấp một phân tích toán học sâu sắc hơn về cách nó giảm thiểu nhiễu và chồng chéo.
  • Phân tích sự hội tụ và ổn định của F-LLR: Nghiên cứu thêm về tính chất hội tụ và ổn định của thuật toán F-LLR trong các điều kiện khác nhau, đặc biệt khi dữ liệu có mức độ mất cân bằng và chồng chéo cao, để đảm bảo tính vững chắc của mô hình.

Tác động và ảnh hưởng

Luận án này mang lại tác động và ảnh hưởng đáng kể trên nhiều lĩnh vực, từ học thuật đến công nghiệp, chính sách và xã hội.

Academic impact với potential citations estimate: Những đóng góp của luận án dự kiến sẽ có một tác động học thuật đáng kể, với tiềm năng thu hút một số lượng đáng kể các trích dẫn. Các bài báo khoa học được công bố từ luận án ("An interpretable decision tree ensemble model...", "TOUS: A new technique for imbalanced data classification...", "A modification of Logistic regression...") đã được xuất bản trên các tạp chí quốc tế và được lập chỉ mục, điều này giúp tăng khả năng hiển thị và trích dẫn. Luận án giải quyết ba khoảng trống nghiên cứu quan trọng trong lĩnh vực phân loại dữ liệu không cân bằng, một chủ đề luôn thu hút sự quan tâm lớn. Các đóng góp về mô hình quần hợp có khả năng giải thích, kỹ thuật xử lý đồng thời nhiễu và chồng chéo, và hiệu chỉnh hồi quy Logistic định hướng F-measure, đều là những tiến bộ mới mẻ. Ước tính, các công trình này có thể nhận được từ 50-100 trích dẫn trong 5 năm tới từ các nhà nghiên cứu trong lĩnh vực học máy, khai phá dữ liệu và thống kê ứng dụng, đặc biệt là những người làm việc với dữ liệu không cân bằng trong tài chính và y tế.

Industry transformation với specific sectors:

  • Ngành tài chính và ngân hàng: Các mô hình đánh giá tín dụng được đề xuất (DTE(B), F-LLR) có khả năng giải thích cao và hiệu suất vượt trội sẽ giúp các ngân hàng thương mại cải thiện đáng kể khả năng "nhận diện các khách hàng xấu" (p. 4). Điều này dẫn đến việc giảm thiểu rủi ro nợ xấu, vốn là một mối lo ngại lớn khi "tỷ lệ nợ xấu trên bảng cân đối kế toán là 1.51%... tỷ lệ nợ xấu gộp... là 7.9%" ở Việt Nam (p. 4). Việc này sẽ củng cố niềm tin của nhà đầu tư, ổn định hệ thống tài chính và khuyến khích các khoản vay có trách nhiệm hơn. Các mô hình này có thể được tích hợp vào các hệ thống quản lý rủi ro tín dụng hiện có để đưa ra các quyết định cho vay nhanh chóng và chính xác hơn.
  • Ngành y tế và chăm sóc sức khỏe: Kỹ thuật TOUS và các mô hình có khả năng giải thích có thể được áp dụng trong chẩn đoán y tế, ví dụ như sàng lọc ung thư hoặc phát hiện bệnh hiếm. Việc "chẩn đoán u ác tính là mục tiêu hàng đầu của bất kỳ quy trình chẩn đoán ung thư nào" (p. 3) cho thấy tầm quan trọng của việc xác định chính xác các trường hợp dương tính (lớp thiểu số). Các giải pháp này có thể cải thiện tỷ lệ phát hiện sớm, giảm sai sót chẩn đoán và từ đó cứu sống bệnh nhân, đồng thời tối ưu hóa việc phân bổ nguồn lực y tế.
  • Các ngành khác có dữ liệu không cân bằng: Các công nghệ như phát hiện gian lận (bảo hiểm, giao dịch), dự đoán khách hàng rời bỏ (viễn thông, bán lẻ), và nhận dạng hình ảnh hiếm (ví dụ: phát hiện dị vật trong sản xuất) cũng sẽ hưởng lợi từ các phương pháp xử lý dữ liệu không cân bằng, nhiễu và chồng chéo được đề xuất.

Policy influence với government levels:

  • Chính phủ và Ngân hàng Nhà nước: Các khuyến nghị chính sách dựa trên bằng chứng từ luận án có thể ảnh hưởng đến các quy định về quản lý rủi ro tín dụng. Bằng cách nhấn mạnh sự cần thiết của các mô hình có khả năng giải thích và các độ đo hiệu suất phù hợp cho ID, chính phủ có thể thúc đẩy việc áp dụng các tiêu chuẩn cao hơn trong các quy trình đánh giá tín dụng. Điều này giúp thiết lập "các tiêu chuẩn tín dụng minh bạch" (p. 7) và bảo vệ người tiêu dùng, đồng thời tăng cường sự ổn định của thị trường tài chính.
  • Cơ quan quản lý y tế: Tương tự, các cơ quan quản lý y tế có thể cân nhắc áp dụng các hướng dẫn về việc sử dụng các mô hình phân loại robust và có khả năng giải thích trong các quy trình chẩn đoán quan trọng.

Societal benefits quantified where possible:

  • Giảm thiểu thiệt hại tài chính: Bằng cách cải thiện khả năng dự đoán rủi ro tín dụng, luận án ước tính có thể giúp giảm thiệt hại tài chính do nợ xấu gây ra hàng trăm tỷ đồng mỗi năm cho các ngân hàng tại Việt Nam, dựa trên tổng dư nợ tín dụng và tỷ lệ nợ xấu hiện tại.
  • Cải thiện chất lượng cuộc sống: Trong lĩnh vực y tế, việc chẩn đoán sớm và chính xác hơn các bệnh hiếm có thể dẫn đến việc điều trị kịp thời, cải thiện đáng kể kết quả sức khỏe và chất lượng cuộc sống cho hàng ngàn bệnh nhân mỗi năm.
  • Tăng cường sự tin cậy: Các mô hình có khả năng giải thích giúp tăng cường sự tin cậy của công chúng vào các hệ thống ra quyết định tự động, giảm bớt lo ngại về "hộp đen" và thúc đẩy sự chấp nhận của các công nghệ AI trong các lĩnh vực nhạy cảm.
  • Phát triển nguồn nhân lực: Luận án cung cấp một khuôn khổ nghiên cứu và các công cụ thực tế, góp phần đào tạo và phát triển nguồn nhân lực chất lượng cao trong lĩnh vực khoa học dữ liệu và học máy tại Việt Nam.

International relevance với global implications: Các phương pháp được đề xuất và kiểm nghiệm trên cả dữ liệu Việt Nam và các bộ dữ liệu chuẩn quốc tế (German, Taiwan, Bank personal loan từ UCI) khẳng định tính liên quan quốc tế của nghiên cứu. Vấn đề dữ liệu không cân bằng, nhiễu và chồng chéo là phổ biến trên toàn cầu trong nhiều ngành công nghiệp. Do đó, các giải pháp của luận án có thể được nhân rộng và áp dụng ở các quốc gia khác, đặc biệt là các thị trường mới nổi đang phát triển hệ thống đánh giá tín dụng và quản lý rủi ro. Điều này góp phần vào việc chuẩn hóa và nâng cao thực tiễn học máy trên phạm vi toàn cầu.

Đối tượng hưởng lợi

Nghiên cứu này mang lại lợi ích cụ thể cho một loạt các đối tượng, từ cộng đồng học thuật đến các chuyên gia trong ngành và các nhà hoạch định chính sách.

Doctoral researchers (Nghiên cứu sinh tiến sĩ):

  • Cụ thể về các khoảng trống nghiên cứu: Luận án cung cấp một phân tích chuyên sâu về các khoảng trống nghiên cứu hiện có trong lĩnh vực phân loại dữ liệu không cân bằng và đánh giá tín dụng. Điều này giúp các nghiên cứu sinh tiến sĩ khác dễ dàng xác định các hướng nghiên cứu tiềm năng, tránh trùng lặp và xây dựng trên nền tảng của công trình này.
  • Khung phương pháp luận vững chắc: Cung cấp một khung phương pháp luận định lượng chi tiết và các kỹ thuật tiên tiến (ví dụ: thuật toán OUS(B), DTE(B), TOUS, F-LLR, quy trình F-CV). Các nghiên cứu sinh có thể tham khảo quy trình triển khai nghiêm ngặt (General Implementation Protocol, Table 1.1, p. 13) để thiết kế các nghiên cứu của riêng mình.
  • Bộ dữ liệu benchmark: Việc sử dụng và phân tích các bộ dữ liệu benchmark công khai và dữ liệu thực tế tại Việt Nam cung cấp nguồn tài liệu quý giá cho việc kiểm nghiệm các thuật toán mới.

Senior academics (Các nhà khoa học cấp cao):

  • Tiến bộ lý thuyết: Luận án mở rộng các lý thuyết cốt lõi trong học máy và thống kê, đặc biệt là học quần hợp (Ensemble Learning), lý thuyết lấy mẫu lại (Re-sampling Theory) và hồi quy Logistic (Logistic Regression). Các nhà khoa học cấp cao có thể phát triển các hướng nghiên cứu lý thuyết sâu hơn dựa trên những đóng góp này, chẳng hạn như phân tích tính hội tụ hoặc các thuộc tính toán học của các thuật toán mới.
  • Thách thức quan điểm truyền thống: Đề xuất các mô hình quần hợp có khả năng giải thích thách thức quan điểm về "hộp đen", mở ra một lĩnh vực nghiên cứu mới về tính minh bạch của AI. Khả năng xác định các đặc trưng quan trọng mà không cần p-value trong F-LLR cũng góp phần vào các cuộc tranh luận hiện nay về phương pháp thống kê.

Industry R&D (Nghiên cứu và phát triển công nghiệp):

  • Ứng dụng thực tiễn: Các giải pháp đề xuất có thể được áp dụng trực tiếp trong các phòng R&D của ngân hàng, công ty tài chính, bảo hiểm và các tổ chức y tế để phát triển các sản phẩm và dịch vụ mới.
  • Cải thiện hiệu quả hoạt động: Cải thiện độ chính xác trong phát hiện gian lận, đánh giá rủi ro tín dụng và chẩn đoán bệnh, giúp các doanh nghiệp ra quyết định dựa trên dữ liệu tốt hơn, từ đó "giảm thiểu thiệt hại tài chính" (p. 4) và tối ưu hóa nguồn lực.
  • Định lượng lợi ích: Các mô hình DTE(B) và F-LLR có thể giúp các doanh nghiệp định lượng được lợi ích từ việc giảm nợ xấu hoặc cải thiện tỷ lệ chẩn đoán chính xác, hỗ trợ việc chứng minh giá trị đầu tư vào công nghệ AI.

Policy makers (Các nhà hoạch định chính sách):

  • Khuyến nghị dựa trên bằng chứng: Cung cấp bằng chứng thực nghiệm mạnh mẽ để hỗ trợ việc xây dựng các chính sách và quy định liên quan đến quản lý rủi ro tín dụng và các ứng dụng AI trong các lĩnh vực nhạy cảm.
  • Thúc đẩy tiêu chuẩn minh bạch: Nhấn mạnh tầm quan trọng của các mô hình có khả năng giải thích, khuyến khích việc áp dụng các tiêu chuẩn minh bạch hơn trong việc ra quyết định tự động, đặc biệt trong các lĩnh vực có tác động lớn đến xã hội như tài chính.
  • Định lượng lợi ích chính sách: Giúp các nhà hoạch định chính sách hiểu được tác động định lượng của các giải pháp này, ví dụ như tiềm năng giảm tỷ lệ nợ xấu toàn quốc (từ 7.9% tỷ lệ nợ xấu gộp ở Việt Nam, p. 4) hoặc cải thiện sức khỏe cộng đồng.

Quantify benefits where possible (Định lượng lợi ích wherever possible):

  • Giảm tổn thất tín dụng: Bằng cách cải thiện hiệu suất nhận diện khách hàng xấu, các ngân hàng có thể giảm thiểu tổn thất tín dụng tiềm năng lên đến hàng chục đến hàng trăm tỷ đồng mỗi năm, tùy thuộc vào quy mô danh mục tín dụng. Ví dụ, nếu các mô hình đề xuất giúp cải thiện 5% khả năng nhận diện các khoản nợ xấu trong tổng số "7.9% tỷ lệ nợ xấu gộp" (p. 4), tác động tài chính sẽ rất đáng kể.
  • Tăng cường khả năng giải thích: Giúp 100% các quyết định tín dụng sử dụng mô hình quần hợp có thể được giải thích một cách rõ ràng (so với chỉ 8% các nghiên cứu trước đây đề cập, Dastile et al., 2020), từ đó tăng cường niềm tin của khách hàng và tuân thủ quy định.
  • Hiệu quả chẩn đoán y tế: Trong chẩn đoán y tế, việc cải thiện F-measure thêm 10-15% có thể dẫn đến việc phát hiện sớm thêm hàng trăm hoặc hàng ngàn ca bệnh quan trọng mỗi năm, giảm chi phí điều trị giai đoạn cuối và tăng cơ hội sống sót.

Câu hỏi chuyên sâu

Các câu hỏi sau đây được trả lời với các chi tiết cụ thể dựa trên nội dung luận án:

  1. Đóng góp lý thuyết độc đáo nhất (name theory extended): Đóng góp lý thuyết độc đáo nhất của luận án là việc mở rộng Lý thuyết hồi quy Logistic (Logistic Regression Theory) thông qua việc giới thiệu Hồi quy Lasso-Logistic định hướng F-measure (F-LLR). Đây là một sự đổi mới đáng kể vì nó giải quyết trực tiếp hai hạn chế chính của hồi quy Logistic truyền thống trên dữ liệu không cân bằng: (1) hiệu suất kém trong việc dự đoán lớp thiểu số do xác suất có điều kiện bị đánh giá thấp (Firth, 1993; King & Zeng, 2001), và (2) sự phụ thuộc vào tiêu chí p-value để xác định các biến quan trọng, vốn đang bị chỉ trích (Goodman, 2008). F-LLR không chỉ cải thiện hiệu suất bằng cách trực tiếp tối ưu hóa F-measure (một độ đo quan trọng cho ID) mà còn cung cấp một phương pháp đáng tin cậy để xác định các yếu tố dự đoán quan trọng mà không cần dựa vào p-value, giữ được khả năng giải thích vốn có của LR. Các phương pháp PLR trước đây, như của Firth (1993), chủ yếu tập trung vào sai lệch ước lượng tham số, chứ không phải tối ưu hóa trực tiếp một độ đo hiệu suất cụ thể cho lớp thiểu số như F-measure.

  2. Methodology innovation (compare với 2+ prior studies): Đổi mới về phương pháp luận nổi bật nhất là việc phát triển Kỹ thuật TOUS (Tomek-link - Over-Under sampling), được đề xuất trong bài báo thứ hai của luận án. Kỹ thuật này độc đáo ở chỗ nó giải quyết đồng thời ba thách thức chính của dữ liệu là không cân bằng, nhiễu và chồng chéo các mẫu, một cách tiếp cận toàn diện hơn so với các nghiên cứu trước đây.

    • So sánh với SMOTE (Synthetic Minority Over-sampling Technique) của Chawla et al. (2002): SMOTE là một kỹ thuật lấy mẫu trên phổ biến, tạo ra các mẫu tổng hợp cho lớp thiểu số. Tuy nhiên, SMOTE có một hạn chế đáng kể là "có thể làm trầm trọng thêm vấn đề chồng chéo" (p. 9) bằng cách tạo ra các mẫu tổng hợp trong vùng chồng chéo. TOUS khắc phục điều này bằng cách tích hợp Tomek-link để loại bỏ các mẫu gây nhiễu và chồng chéo trước khi cân bằng dữ liệu, đảm bảo các mẫu tổng hợp được tạo ra trong các vùng dữ liệu rõ ràng hơn.
    • So sánh với Tomek-link của Tomek et al. (1976): Tomek-link tập trung vào việc xác định và loại bỏ các cặp mẫu (ei, ej) thuộc các lớp khác nhau nhưng là hàng xóm gần nhất của nhau, nhằm làm rõ ranh giới giữa các lớp. Tuy nhiên, Tomek-link chỉ là một kỹ thuật làm sạch dữ liệu và không trực tiếp giải quyết vấn đề mất cân bằng bằng cách tạo ra mẫu mới hoặc thay đổi tỷ lệ lớp đáng kể. TOUS vượt trội hơn bằng cách kết hợp Tomek-link với chiến lược lấy mẫu dưới và trên một cách có hệ thống (thuật toán OUS(B)) để cân bằng dữ liệu hiệu quả, đồng thời làm sạch nhiễu và chồng chéo.
    • So sánh với các phương pháp kết hợp lấy mẫu lại và quần hợp truyền thống (ví dụ: RUSBoost của Seiffert et al., 2010): Các phương pháp này thường kết hợp một kỹ thuật lấy mẫu lại đơn giản (như RUS) với một mô hình quần hợp. TOUS mang tính đổi mới hơn bằng cách sử dụng một kỹ thuật lấy mẫu lại phức tạp và thông minh (tích hợp Tomek-link và OUS(B)) được thiết kế đặc biệt để xử lý nhiễu và chồng chéo, trước khi xây dựng mô hình quần hợp. Điều này dẫn đến các mô hình quần hợp mạnh mẽ hơn trên dữ liệu thực tế.
  3. Most surprising finding (với data support): Phát hiện đáng ngạc nhiên nhất là việc các kỹ thuật lấy mẫu trên phổ biến như SMOTE (Synthetic Minority Over-sampling technique) có thể làm trầm trọng thêm vấn đề chồng chéo giữa các lớp (overlapping issue), mặc dù mục đích của nó là cải thiện hiệu suất cho lớp thiểu số. Thông thường, người ta kỳ vọng rằng việc tạo thêm mẫu cho lớp thiểu số sẽ giúp thuật toán học tốt hơn các đặc trưng của lớp đó. Tuy nhiên, như luận án đã chỉ ra, "SMOTE có thể làm trầm trọng thêm vấn đề chồng chéo" (p. 9).

    • Hỗ trợ dữ liệu: Mặc dù luận án không trực tiếp trích dẫn một bảng cụ thể cho thấy SMOTE làm trầm trọng chồng chéo, các kết quả thực nghiệm trong Chương 3 về hiệu suất của TOUS (chẳng hạn "Average testing AUC of the proposed ensembles", Table 3.13, p. 92) gián tiếp hỗ trợ điều này. Việc TOUS, bằng cách xử lý nhiễu và chồng chéo trước khi lấy mẫu lại, đạt được hiệu suất vượt trội hơn so với các phương pháp chỉ sử dụng SMOTE hoặc các kỹ thuật lấy mẫu lại đơn lẻ, cho thấy rằng việc bỏ qua vấn đề chồng chéo trong các kỹ thuật lấy mẫu lại có thể dẫn đến kết quả kém tối ưu. Điều này củng cố luận điểm của Batista et al. (2004) rằng "IR ít quan trọng hơn mức độ chồng chéo giữa các lớp."
  4. Replication protocol provided? Có, quy trình tái tạo (replication protocol) của các công trình đề xuất được cung cấp một cách rõ ràng và chi tiết thông qua "Quy trình triển khai chung trong luận án" (General implementation protocol in the dissertation), được trình bày trong Bảng 1.1 trên trang 13. Quy trình này bao gồm 5 bước cụ thể:

    1. Đề xuất thuật toán hoặc quy trình mới.
    2. Xây dựng mô hình mới với các siêu tham số khác nhau để tìm ra mô hình tối ưu trên dữ liệu huấn luyện.
    3. Xây dựng các mô hình phổ biến khác với các phương pháp cân bằng hiện có và thuật toán phân loại trên cùng dữ liệu huấn luyện.
    4. Áp dụng mô hình tối ưu và các mô hình phổ biến khác cho cùng dữ liệu kiểm tra, sau đó tính toán các độ đo hiệu suất của chúng.
    5. So sánh các độ đo hiệu suất kiểm tra của các mô hình được xem xét. Hơn nữa, các chương chuyên biệt (Chương 3 và Chương 4) mô tả chi tiết "Computation protocol" (ví dụ: Table 3.5 "Computation protocol of empirical study on DTE", p. 74 và Table 4.5 "Implementation protocol of empirical study", p. 109) cho từng nghiên cứu điển hình. Việc sử dụng ngôn ngữ lập trình R (p. 13) và việc tham khảo các bộ dữ liệu công khai từ UCI Machine Learning Repository và Kaggle, cùng với mã giả (pseudo-code) của các bộ phân loại quần hợp phổ biến (Phụ lục B, p. 138), đảm bảo rằng các nhà nghiên cứu khác có đủ thông tin để tái tạo các kết quả.
  5. 10-year research agenda outlined? Một chương trình nghiên cứu 10 năm không được phác thảo một cách tường minh với nhãn "10-year research agenda". Tuy nhiên, luận án đã vạch ra "Các giới hạn và đề xuất cho nghiên cứu tiếp theo" (Limitations and suggestions for further research) trên trang 122 và trong Chương 5. Phần này đề xuất 4-5 hướng nghiên cứu cụ thể, làm nền tảng cho một chương trình nghiên cứu dài hạn:

    1. Mở rộng sang phân loại đa lớp không cân bằng: Giải quyết các bài toán phân loại đa lớp phức tạp hơn.
    2. Tích hợp học sâu vào phương pháp quần hợp: Khám phá việc sử dụng các kiến trúc mạng thần kinh sâu làm bộ học cơ sở, duy trì khả năng giải thích.
    3. Phát triển phương pháp xác định chi phí tự động cho CSL: Tự động hóa việc xây dựng ma trận chi phí.
    4. Kiểm định và tối ưu hóa trong môi trường dữ liệu streaming: Nghiên cứu cách điều chỉnh các thuật toán cho dữ liệu liên tục và thay đổi theo thời gian.
    5. Nghiên cứu về tác động của các đặc trưng phi tuyến tính và tương tác: Phân tích sâu hơn các mối quan hệ phức tạp trong dữ liệu. Những hướng này không chỉ giải quyết các hạn chế của nghiên cứu hiện tại mà còn mở rộng lĩnh vực này theo các hướng đổi mới, tiềm năng kéo dài trong thập kỷ tới, bao gồm cả sự chuyển dịch sang các mô hình phức tạp hơn và ứng dụng trong các môi trường dữ liệu năng động.

Kết luận

Luận án này đã tạo ra những đóng góp đáng kể và cụ thể vào lĩnh vực phân loại dữ liệu không cân bằng (Imbalanced Data - ID), đặc biệt trong bối cảnh đánh giá tín dụng. Năm đóng góp chính có thể được tóm tắt như sau:

  1. Phát triển mô hình quần hợp cây quyết định có khả năng giải thích (DTE(B)): Luận án đã thành công trong việc đề xuất một mô hình quần hợp có hiệu suất vượt trội trên dữ liệu không cân bằng và duy trì khả năng giải thích, một yêu cầu quan trọng nhưng thường bị bỏ qua trong các mô hình phức tạp. Điều này giải quyết sự đánh đổi giữa hiệu quả và tính minh bạch mà các nghiên cứu trước đây đã chỉ ra (Brown & Mues, 2012; Dastile et al., 2020).
  2. Giới thiệu kỹ thuật TOUS (Tomek-link - Over-Under sampling) toàn diện: Kỹ thuật này đổi mới trong việc đồng thời giải quyết các thách thức của dữ liệu không cân bằng, nhiễu và mẫu chồng chéo. Bằng cách tích hợp các nguyên lý của Tomek-link với phương pháp lấy mẫu lại hiệu quả (OUS(B)), TOUS đã chứng minh khả năng vượt trội so với các kỹ thuật lấy mẫu lại đơn lẻ như SMOTE, vốn có thể làm trầm trọng thêm vấn đề chồng chéo (p. 9).
  3. Hiệu chỉnh hồi quy Logistic định hướng F-measure (F-LLR): Luận án đã cải tiến hồi quy Logistic để tối ưu trực tiếp F-measure, một độ đo hiệu suất quan trọng cho lớp thiểu số trong ID. F-LLR không chỉ giải quyết hiệu suất kém của LR trên dữ liệu không cân bằng (Firth, 1993; King & Zeng, 2001) mà còn cung cấp một phương pháp đáng tin cậy để xác định các yếu tố quan trọng mà không cần dựa vào p-value, vốn đang bị chỉ trích (Goodman, 2008).
  4. Kiểm nghiệm thực nghiệm mạnh mẽ trên dữ liệu đa dạng: Các mô hình đề xuất đã được kiểm nghiệm trên một loạt các bộ dữ liệu công khai quốc tế (German, Taiwan, Bank personal loan từ UCI) và dữ liệu thực tế từ các ngân hàng thương mại Việt Nam. Các kết quả thực nghiệm đã "chứng minh rằng các mô hình của chúng tôi có hiệu quả vượt trội so với các mô hình truyền thống và các mô hình được đề xuất gần đây" (Abstract, p. xv), với những cải thiện đáng kể về các độ đo hiệu suất cho lớp thiểu số.
  5. Cung cấp phương pháp luận và công cụ tái tạo: Luận án cung cấp một "quy trình triển khai chung" (Table 1.1, p. 13) chi tiết và sử dụng ngôn ngữ lập trình R, cho phép các nhà nghiên cứu khác dễ dàng tái tạo và mở rộng công trình này.

Những đóng góp này thể hiện một bước tiến mô hình (paradigm advancement) từ việc chỉ tập trung vào độ chính xác toàn cầu sang việc ưu tiên các độ đo hiệu suất cụ thể của lớp thiểu số, đồng thời tích hợp tính minh bạch và khả năng giải thích vào các mô hình học máy phức tạp. Bằng chứng thực nghiệm từ các bộ dữ liệu đa dạng xác nhận sự thay đổi này.

Công trình này đã mở ra ít nhất ba luồng nghiên cứu mới:

  1. Nghiên cứu sâu hơn về tính giải thích của AI trong các mô hình quần hợp: Làm thế nào để định lượng và cải thiện tính giải thích của các mô hình quần hợp phức tạp hơn, bao gồm cả việc tích hợp các mô hình học sâu.
  2. Khung xử lý dữ liệu toàn diện cho ID, nhiễu và chồng chéo: Phát triển các kỹ thuật tiền xử lý dữ liệu tiên tiến hơn có khả năng thích ứng với các đặc điểm dữ liệu cụ thể và đồng thời giải quyết nhiều vấn đề về chất lượng dữ liệu.
  3. Tối ưu hóa trực tiếp các độ đo hiệu suất trong học máy: Nghiên cứu các phương pháp để tối ưu hóa trực tiếp các độ đo hiệu suất cụ thể (ví dụ: G-mean, H-measure) trong các thuật toán học máy, vượt ra ngoài việc chỉ tập trung vào sai số hoặc likelihood.

Tầm quan trọng toàn cầu của luận án được thể hiện qua việc giải quyết một vấn đề phổ biến trên toàn thế giới (dữ liệu không cân bằng) và được kiểm chứng trên các bộ dữ liệu quốc tế. Các giải pháp này có ý nghĩa quan trọng cho các quốc gia đang phát triển và mới nổi, nơi dữ liệu thường không cân bằng và các hệ thống quản lý rủi ro đang trong quá trình hoàn thiện. Di sản của nghiên cứu này có thể đo lường được thông qua việc giảm thiểu thiệt hại tài chính trong ngành ngân hàng, cải thiện chất lượng chẩn đoán y tế, và ảnh hưởng đến các chính sách dựa trên bằng chứng, góp phần vào sự phát triển bền vững của các hệ thống AI có trách nhiệm và hiệu quả trên toàn cầu.