Luận án TS Võ Đức Quang: Cải tiến phân lớp dữ liệu không cân bằng, dự đoán đồng tác giả
Nghiên cứu cải tiến thuật toán phân lớp cho dữ liệu không cân bằng. Ứng dụng trong dự đoán đồng tác giả, tăng cường độ chính xác phân tích.
Luan An
Luận án tiến sĩ
Năm xuất bản
Số trang
123
Thời gian đọc
19 phút
Lượt xem
0
Lượt tải
0
Phí lưu trữ
40 Point
Tổng quan nhanh
- Chủ đề:
- Phân loại Dữ liệu Không Cân Bằng: Thách thức và Giải pháp
- Số trang:
- 123 trang
- Trường:
- Đại học Bách khoa Hà Nội
- Chuyên ngành:
- Hệ thống thông tin
- Tác giả:
- Võ Ức Quang
- Năm:
- 2024
Tóm tắt nội dung luận án
I.Phân loại Dữ liệu Không Cân Bằng Thách thức và Giải pháp
Phân loại dữ liệu không cân bằng là một vấn đề phổ biến trong học máy. Tình trạng này xảy ra khi số lượng mẫu của một lớp áp đảo các lớp khác. Lớp thiểu số thường chứa thông tin quan trọng. Các thuật toán phân loại truyền thống thường gặp khó khăn. Chúng có xu hướng thiên vị lớp đa số. Điều này làm giảm hiệu suất dự đoán cho lớp thiểu số. Các ứng dụng thực tế như phát hiện gian lận hoặc chẩn đoán bệnh đòi hỏi độ chính xác cao cho lớp thiểu số. Nghiên cứu này tập trung vào việc giải quyết những thách thức này. Mục tiêu là phát triển các phương pháp mạnh mẽ. Các phương pháp này sẽ cải thiện khả năng học và dự đoán từ mẫu học không cân bằng. Việc này đảm bảo tính công bằng và hiệu quả của mô hình.
1.1. Bản chất dữ liệu mất cân bằng
Nhiều tập dữ liệu thực tế tồn tại tình trạng không cân bằng. Một lớp chiếm đa số, lớp còn lại chiếm thiểu số. Tình trạng này gây ra thách thức lớn cho các hệ thống phân loại học máy. Thuật toán thường có xu hướng bỏ qua lớp thiểu số. Điều này dẫn đến hiệu suất phân loại kém cho các mẫu quan trọng. Việc dự đoán chính xác lớp thiểu số là rất cần thiết. Ví dụ, phát hiện gian lận hoặc chẩn đoán bệnh hiếm. Các mô hình truyền thống thường ưu tiên tối ưu hóa tổng thể. Chúng bỏ qua độ chính xác cho lớp thiểu số. Đây là vấn đề cốt lõi trong phân lớp dữ liệu mất cân bằng.
1.2. Mục tiêu nghiên cứu giải quyết vấn đề
Nghiên cứu này tập trung vào việc cải thiện hiệu suất phân lớp dữ liệu mất cân bằng. Mục tiêu là phát triển các thuật toán mới. Các thuật toán này có khả năng xử lý tốt hơn mẫu học không cân bằng. Chúng cần tăng cường khả năng nhận diện lớp thiểu số. Nghiên cứu cũng nhằm giải quyết hạn chế của các phương pháp hiện có. Điều này bao gồm cải tiến các kỹ thuật tái lấy mẫu. Mục tiêu cuối cùng là tạo ra các mô hình phân loại mạnh mẽ hơn. Các mô hình này sẽ mang lại kết quả dự đoán tin cậy hơn.
II.AdaBoost
Một trong những cải tiến trọng tâm của nghiên cứu là thuật toán Im.AdaBoost. Đây là phiên bản nâng cao của AdaBoost, được thiết kế đặc biệt cho phân lớp dữ liệu mất cân bằng. Im.AdaBoost giải quyết các hạn chế của AdaBoost truyền thống bằng cách điều chỉnh cơ chế trọng số. Thuật toán này điều chỉnh trọng số mẫu một cách linh hoạt. Nó tập trung vào các mẫu khó và lớp thiểu số. Việc sử dụng các phương pháp khởi tạo và cập nhật trọng số thích nghi giúp nâng cao khả năng học từ các mẫu học không cân bằng. Im.AdaBoost cải thiện đáng kể độ nhạy và độ chính xác cho lớp thiểu số, mang lại hiệu suất phân loại học máy vượt trội.
2.1. Giới thiệu thuật toán Im.AdaBoost
Thuật toán Im.AdaBoost được đề xuất nhằm giải quyết vấn đề phân lớp dữ liệu mất cân bằng. Đây là một cải tiến đáng kể của thuật toán AdaBoost truyền thống. Im.AdaBoost được thiết kế để hoạt động hiệu quả trên các mẫu học không cân bằng. Phương pháp này điều chỉnh trọng số của các mẫu dữ liệu. Điều này giúp bộ phân loại tập trung nhiều hơn vào các mẫu khó. Đặc biệt, nó ưu tiên các mẫu thuộc lớp thiểu số. Việc khởi tạo trọng số ban đầu cũng được điều chỉnh. Điều này thích nghi với mức độ mất cân bằng của dữ liệu.
2.2. Cơ chế thích nghi và Weighted SVM
Im.AdaBoost tích hợp một cơ chế thích nghi. Cơ chế này điều chỉnh trọng số của các bộ phân lớp thành viên. Sự điều chỉnh này nhạy cảm với nhãn dương. Điều này đảm bảo rằng các lỗi trên lớp thiểu số được xử lý nghiêm trọng hơn. Weighted-SVM được sử dụng làm bộ phân lớp cơ sở. Weighted-SVM có khả năng gán trọng số khác nhau cho các mẫu. Điều này cho phép nó tập trung vào các mẫu thuộc lớp thiểu số. Kết hợp này giúp Im.AdaBoost tăng cường đáng kể hiệu suất phân loại. Nó vượt trội hơn các thuật toán phân loại truyền thống trên dữ liệu mất cân bằng.
III.Tối ưu Phân lớp Dữ liệu Mất Cân Bằng dùng Fuzzy SVM
Nghiên cứu cũng đề xuất một phương pháp tiếp cận mới dựa trên Fuzzy SVM-CIL. Phương pháp này sử dụng trọng số mờ thích nghi để cải thiện phân lớp dữ liệu mất cân bằng. Fuzzy SVM-CIL được thiết kế để xử lý sự không chắc chắn và nhiễu trong dữ liệu. Các hàm thuộc mờ giàu ngữ nghĩa giúp mô hình hiểu rõ hơn mối quan hệ của các mẫu. Việc điều chỉnh trọng số mờ một cách thích nghi cho phép thuật toán tập trung vào các mẫu quan trọng, đặc biệt là những mẫu thuộc lớp thiểu số. Cách tiếp cận này mang lại một thuật toán phân loại mạnh mẽ, khả năng phân loại chính xác cao hơn, đặc biệt trong các trường hợp dữ liệu phức tạp và mất cân bằng nghiêm trọng.
3.1. Thuật toán Fuzzy SVM CIL mới
Một thuật toán điều chỉnh trọng số mờ thích nghi được phát triển. Thuật toán này dựa trên Fuzzy SVM-CIL. Nó được thiết kế riêng cho bài toán phân lớp dữ liệu mất cân bằng. Fuzzy SVM-CIL xử lý hiệu quả các dữ liệu nhiễu và không rõ ràng. Các hàm thuộc mờ giàu ngữ nghĩa được xây dựng. Các hàm này giúp xác định mức độ thuộc của mỗi mẫu vào một lớp. Điều này tăng cường khả năng phân biệt giữa các lớp. Thuật toán cung cấp một cách tiếp cận linh hoạt. Nó xử lý các mẫu khó phân loại.
3.2. Điều chỉnh trọng số mờ thích nghi hiệu quả
Phương pháp điều chỉnh trọng số mờ được áp dụng cho các mẫu nhạy cảm. Các mẫu này thường nằm gần ranh giới quyết định. Chúng cũng có thể là các ngoại lệ. Trọng số mờ được điều chỉnh động. Việc điều chỉnh dựa trên đặc điểm của từng mẫu. Điều này giúp tăng cường vai trò của các mẫu quan trọng. Đồng thời, nó giảm bớt ảnh hưởng của các mẫu nhiễu. Cách tiếp cận này giúp cải thiện đáng kể độ chính xác. Đặc biệt là đối với lớp thiểu số. Thuật toán phân loại sử dụng trọng số mờ thích nghi này. Nó mang lại kết quả vượt trội trên các bộ dữ liệu mất cân bằng.
IV.Dự đoán Đồng Tác giả Ứng dụng Phân lớp Dữ liệu
Nghiên cứu này ứng dụng các thuật toán cải tiến vào bài toán dự đoán mối quan hệ đồng tác giả. Đây là một lĩnh vực quan trọng trong mạng lưới cộng tác khoa học. Bài toán này thường đối mặt với dữ liệu mất cân bằng, vì số lượng mối quan hệ đồng tác giả hiện có ít hơn so với các mối quan hệ tiềm năng. Các mô hình được phát triển nhằm xác định chính xác các tác giả có khả năng cộng tác trong tương lai. Điều này có ý nghĩa lớn đối với việc thúc đẩy nghiên cứu. Nó hỗ trợ hình thành các nhóm làm việc hiệu quả. Việc khai thác dữ liệu từ các ấn phẩm khoa học giúp xây dựng các mô hình dự đoán mạnh mẽ. Đây là một ví dụ điển hình về ứng dụng thực tiễn của phân loại học máy.
4.1. Bài toán dự đoán mối quan hệ đồng tác giả
Bài toán dự đoán mối quan hệ đồng tác giả là một ứng dụng quan trọng. Nó diễn ra trong lĩnh vực phân tích mạng xã hội học thuật. Đây thường là một bài toán phân lớp dữ liệu mất cân bằng. Các cặp tác giả đã cộng tác chiếm số lượng lớn. Tuy nhiên, các cặp tác giả có tiềm năng cộng tác nhưng chưa có là lớp thiểu số. Việc xác định các mối quan hệ tiềm năng này rất có giá trị. Nó hỗ trợ trong việc tìm kiếm chuyên gia. Nó cũng giúp hình thành các nhóm nghiên cứu mới. Nâng cao khả năng dự đoán mối quan hệ đồng tác giả. Điều này góp phần vào sự phát triển của mạng lưới cộng tác khoa học.
4.2. Khai thác dữ liệu trong mạng lưới cộng tác
Để giải quyết bài toán này, các thuật toán phân loại được áp dụng. Dữ liệu từ các ấn phẩm khoa học được thu thập. Các đặc trưng liên quan đến tác giả được trích xuất. Chúng bao gồm các đặc trưng về chủ đề nghiên cứu, lịch sử cộng tác, và mạng lưới quan hệ. Các phương pháp đã đề xuất được thử nghiệm trên bộ dữ liệu dự đoán đồng tác giả. Kết quả cho thấy khả năng ứng dụng thực tiễn cao. Các mô hình cải thiện đáng kể hiệu suất dự đoán. Điều này cung cấp công cụ mạnh mẽ cho phân tích khoa học.
V.Thử nghiệm Đánh giá Hiệu quả Thuật toán Phân loại
Để xác nhận hiệu quả của các thuật toán đề xuất, nghiên cứu đã tiến hành các thử nghiệm toàn diện. Các thuật toán được kiểm tra trên cả bộ dữ liệu tiêu chuẩn (UCI) và dữ liệu thực tế về dự đoán mối quan hệ đồng tác giả. Việc đánh giá dựa trên nhiều chỉ số hiệu suất. Chúng bao gồm độ chính xác, G-mean và AUC. Kết quả cho thấy các phương pháp mới vượt trội so với các thuật toán phân loại hiện có. Điều này chứng minh rằng các cải tiến về trọng số thích nghi và trọng số mờ mang lại lợi ích đáng kể. Chúng đặc biệt hiệu quả trong việc xử lý phân lớp dữ liệu mất cân bằng. Nghiên cứu này đóng góp vào sự tiến bộ của phân loại học máy và ứng dụng thực tiễn.
5.1. Bộ dữ liệu và môi trường thử nghiệm
Các thuật toán cải tiến được thử nghiệm rộng rãi. Chúng được kiểm tra trên nhiều bộ dữ liệu tiêu chuẩn UCI. Các bộ dữ liệu này có mức độ không cân bằng khác nhau. Đồng thời, các thử nghiệm cũng được tiến hành trên một tập dữ liệu thực tế. Tập dữ liệu này dành cho bài toán dự đoán đồng tác giả. Môi trường thử nghiệm được thiết lập cẩn thận. Nó đảm bảo tính nhất quán và khả năng tái lập kết quả. Các chỉ số đánh giá hiệu suất được sử dụng. Chúng bao gồm độ chính xác, độ nhạy, độ đặc hiệu, G-mean và AUC.
5.2. Kết quả chứng minh sự cải thiện vượt trội
Kết quả thử nghiệm cho thấy sự vượt trội của các phương pháp đề xuất. Cả Im.AdaBoost và Fuzzy SVM-CIL đều đạt hiệu suất cao hơn. Chúng vượt trội so với các thuật toán phân loại hiện có. Đặc biệt, chúng cải thiện đáng kể độ chính xác của lớp thiểu số. Điều này xác nhận hiệu quả của các cải tiến. Các thuật toán này cung cấp giải pháp mạnh mẽ. Chúng giúp giải quyết bài toán phân loại học máy với dữ liệu mất cân bằng. Nghiên cứu này đóng góp vào sự phát triển của lĩnh vực này.
Mục lục chi tiết luận án
Tải xuống file đầy đủ để xem toàn bộ nội dung
Tải đầy đủ (123 trang)Nội dung chính
Tổng quan về luận án
Luận án này tập trung vào giải quyết một trong những thách thức cốt lõi của học máy hiện đại: phân lớp dữ liệu không cân bằng, đặc biệt là trong bối cảnh ứng dụng dự đoán đồng tác giả trong mạng xã hội học thuật (ASN). Nghiên cứu này định vị mình tại giao điểm của khoa học dữ liệu, học máy và phân tích mạng xã hội, mang đến một góc nhìn tiên phong trong việc nâng cao hiệu suất của các mô hình phân lớp khi đối mặt với sự phân bố dữ liệu chênh lệch lớn.
Research gap cụ thể mà luận án này giải quyết là sự thiếu hụt các phương pháp cải tiến thuật toán mạnh mẽ được thiết kế đặc biệt cho dữ liệu không cân bằng, áp dụng trực tiếp cho bài toán dự đoán đồng tác giả. Các công bố hiện có về học máy trên dữ liệu không cân bằng cho bộ dữ liệu đồng tác giả "hầu như rất hạn chế" (trích từ văn bản gốc). Hơn nữa, các thuật toán học máy truyền thống thường "xem xét các mẫu bình đẳng nhau, dẫn đến các mô hình phân lớp thiên về dự đoán sai các mẫu lớp thiểu số" (trích từ văn bản gốc), điều này đặc biệt nghiêm trọng khi lớp thiểu số (ví dụ: các mối liên kết đồng tác giả tiềm năng) mang ý nghĩa quan trọng nhất trong ứng dụng thực tiễn. Mục tiêu của nghiên cứu là khắc phục hạn chế này bằng cách đề xuất các cải tiến thuật toán tiên tiến, không chỉ nâng cao độ chính xác tổng thể mà còn tối ưu hóa khả năng nhận diện các mẫu lớp thiểu số, vốn thường bị bỏ qua bởi các phương pháp truyền thống.
Luận án được dẫn dắt bởi hai câu hỏi nghiên cứu chính:
- Nghiên cứu cải tiến phương pháp học kết hợp AdaBoost cho dữ liệu không cân bằng ứng dụng trong bài toán dự đoán đồng tác giả như thế nào?
- Nghiên cứu cải tiến thuật toán phân lớp mờ Fuzzy SVM cho dữ liệu không cân bằng và ứng dụng trong bài toán dự đoán đồng tác giả như thế nào?
Để trả lời các câu hỏi này, luận án xây dựng một khung lý thuyết vững chắc, dựa trên các nền tảng của học kết hợp (Ensemble Learning) và học có giám sát (Supervised Learning). Các lý thuyết cụ thể được khai thác bao gồm AdaBoost của Freund [20] như một thuật toán học kết hợp tuần tự và thích nghi, cùng với Support Vector Machine (SVM) của Cortes và Vapnik [21] và các biến thể của nó như Weighted-SVM [22] và Fuzzy SVM-CIL của Batuwita và các cộng sự [24]. Những lý thuyết này cung cấp cơ sở cho việc phát triển các thuật toán mới có khả năng thích ứng với tính chất không cân bằng của dữ liệu.
Luận án mang đến các đóng góp đột phá với tác động định lượng rõ rệt. Thứ nhất, nghiên cứu đề xuất một phương pháp khởi tạo trọng số cho AdaBoost thích nghi với mức độ không cân bằng của dữ liệu và một phương pháp tính trọng số độ tin cậy cho bộ phân lớp thành viên nhạy cảm với lỗi trên nhãn dương. Thứ hai, luận án giới thiệu thuật toán điều chỉnh trọng số mờ thích nghi dựa trên Fuzzy SVM-CIL, tích hợp hàm thuộc mờ giàu ngữ nghĩa hơn và cơ chế điều chỉnh trọng số mờ cho các mẫu nhạy cảm (biên và nhiễu) sử dụng KNN, Tomek link và SVM. Các phương pháp cải tiến này được kỳ vọng sẽ nâng cao đáng kể các chỉ số hiệu suất như Sensitivity (SE), Gmean và AUC, đặc biệt trong các bộ dữ liệu có tỷ lệ nhãn dương cực thấp, có thể chỉ "xấp xỉ 1%" trong một số kịch bản dữ liệu đồng tác giả.
Về phạm vi nghiên cứu, luận án tập trung vào dữ liệu bảng ứng viên đồng tác giả thu thập từ các tạp chí khoa học trên ScienceDirect (giai đoạn 2000-2017) và mở rộng thử nghiệm trên các bộ dữ liệu chuẩn của UCI (Transfusion, Ecoli, Yeast, Abalone). Dữ liệu đồng tác giả được xây dựng với các thuộc tính dựa trên "hơn hai mươi độ đo liên kết" (trích từ [16]), bao gồm Common Neighbor (CN), Adamic/Adar (AA), Jaccard Coefficient (JC), Preferential Attachment (PA), Resource Allocation (RA), Shortest Path (SP), Katz và Common Country (CC). Nghiên cứu không chỉ giải quyết một vấn đề học thuật phức tạp mà còn mở ra tiềm năng ứng dụng thực tiễn to lớn trong việc phát triển các hệ thống khuyến nghị cộng tác hiệu quả trong cộng đồng khoa học, thúc đẩy các hoạt động nghiên cứu và đổi mới.
Literature Review và Positioning
Đánh giá tài liệu chuyên sâu cho thấy bài toán dự đoán liên kết trong mạng xã hội, và cụ thể là dự đoán đồng tác giả, đã nhận được sự quan tâm đáng kể. Nhiều luồng nghiên cứu chính đã được phát triển để giải quyết vấn đề này.
Synthesis của major streams: Các phương pháp tiếp cận chính bao gồm:
- Similarity-based methods: Sử dụng các độ đo tương đồng như Common Neighbor (CN) [5], Preferential Attachment (PA) [6], Adamic/Adar (AA) [7], Resource Allocation (RA) [8], Jaccard Coefficient (JC), Cosine similarity, Sorensen Index, CAR (CAR-based Common Neighbor Index), Katz Index [9], RWR (Random Walk with Restart), Shortest Path [10], ACT (Average Commute Time), MF (Matrix Forest Index), SimRank, local random walk index, LDP (local directed path). Các độ đo này định lượng mức độ liên kết giữa các tác giả dựa trên cấu trúc mạng và thông tin chung.
- Probabilistic and maximum likelihood models: Tập trung vào việc mô hình hóa hành vi kết nối và cấu trúc mạng thông qua các ước lượng xác suất có điều kiện. Các nghiên cứu điển hình bao gồm Hierarchical Structure Model (HSM), Stochastic Block Model (SBM), Parametric Model, Non-parametric Model, Local Probabilistic Model, Factor Graph Model, Affiliation Model [16].
- Graph mining: Sử dụng các thuật toán khai phá đồ thị như AGM, ACGM, path-join (dựa trên Apriori) hay gSpan, CloseGraph, FFSM (dựa trên FP-growth) để khám phá tri thức từ dữ liệu đồ thị lớn.
- Machine learning: Tiếp cận học có giám sát (phân lớp), học không giám sát (phân cụm), học sâu và giảm chiều dữ liệu. Các thuật toán phổ biến bao gồm Decision Tree, Neural Networks, Support Vector Machines, K-Nearest Neighbors, XGBoost, và các mô hình hồi quy. Các phương pháp học sâu gần đây như DeepWalk [11], Node2vec [12], HARP [13], Walklets [14], subgraph embedding, deep dynamic network embedding [15], và đặc biệt là Graph Neural Networks (GNN) [76], Graph Convolutional Networks (GCN) [77], Graph Attention Networks (GAT) [78] cũng đã chứng minh hiệu quả.
Contradictions/debates: Mặc dù có nhiều phương pháp, tồn tại một mâu thuẫn chính về hiệu quả giữa các cách tiếp cận truyền thống và các kỹ thuật mới, đặc biệt khi dữ liệu không cân bằng. Các thuật toán học máy truyền thống thường không hiệu quả trên dữ liệu không cân bằng, như luận án đã chỉ ra, vì chúng "thiên về dự đoán sai các mẫu lớp thiểu số" (trích từ văn bản gốc). Điều này dẫn đến kết quả là mô hình có thể có "độ chính xác (accuracy) rất cao trong khi giá trị độ nhạy (sensitivity) lại rất thấp" (trích từ văn bản gốc). Ngược lại, các phương pháp mới hơn như GCN, dù hứa hẹn, vẫn là "một bài toán khá mới mẻ" trong bối cảnh dự đoán đồng tác giả và yêu cầu các cải tiến cụ thể để xử lý dữ liệu không cân bằng.
Positioning trong literature: Luận án này định vị mình trong luồng nghiên cứu học máy, cụ thể là "tiếp cận giải quyết bài toán theo hướng phân lớp nhị phân thu hút được nhiều sự quan tâm nghiên cứu bởi mang nhiều ưu điểm" (trích từ văn bản gốc). Nó lấp đầy khoảng trống nghiên cứu cụ thể về việc "các công bố nghiên cứu vấn đề học máy trên dữ liệu không cân bằng để áp dụng cho bộ dữ liệu đồng tác giả hầu như rất hạn chế" (trích từ văn bản gốc). Nghiên cứu này không chỉ mở rộng các độ đo liên kết làm đặc trưng dữ liệu như đề xuất của Phạm Minh Chuẩn (2018), mà còn tập trung vào "cải tiến thuật toán, điều chỉnh các tham số mô hình để cải thiện chất lượng các mô hình dự đoán" (trích từ văn bản gốc) trong điều kiện dữ liệu không cân bằng mức cao.
How this advances field: Nghiên cứu này thúc đẩy lĩnh vực bằng cách đề xuất các thuật toán cải tiến (Im.AdaBoost và AFW-CIL) giúp nâng cao độ nhạy (Sensitivity) và Gmean trên các bộ dữ liệu cực kỳ không cân bằng. Điều này không chỉ cung cấp các công cụ mạnh mẽ hơn cho dự đoán đồng tác giả mà còn mở ra khả năng ứng dụng cho nhiều bài toán khác trong thực tế như "chẩn đoán bệnh trong y tế, dự báo những sự kiện thiên tai hiếm gặp, phát hiện xâm nhập mạng" (trích từ văn bản gốc).
So sánh với ít nhất 2 international studies:
- So sánh với Li, Wu & Yu (2014) về Weighted-SVM [22]: Luận án mở rộng ý tưởng gán trọng số cho mẫu của Weighted-SVM bằng cách đưa ra các hàm trọng số mờ giàu ngữ nghĩa hơn trong Fuzzy SVM-CIL. Trong khi WSVM chỉ gán một trọng số cố định cho mỗi lớp để phản ánh tầm quan trọng, thuật toán AFW-CIL (đề xuất trong luận án) của nghiên cứu này tính toán "hàm thuộc mờ cho các mẫu dữ liệu giàu ngữ nghĩa hơn dựa trên Fuzzy SVM-CIL khi xem xét khoảng cách từ mỗi mẫu đến tâm của cả hai lớp" (trích từ văn bản gốc). Cách tiếp cận này giúp phân biệt tầm quan trọng của các mẫu trong cùng một lớp, đặc biệt là các mẫu nằm gần đường biên hoặc là nhiễu, điều mà Weighted-SVM cơ bản không xử lý được chi tiết.
- So sánh với Freund (1995) về AdaBoost [20]: Thuật toán AdaBoost gốc [20] đã chứng minh hiệu quả trong nhiều bài toán, nhưng lại gặp khó khăn với dữ liệu không cân bằng vì nó "thường xem xét các mẫu bình đẳng nhau" (trích từ văn bản gốc) trong việc cập nhật trọng số và tính độ tin cậy của bộ phân lớp yếu. Im.AdaBoost của luận án cải tiến điều này bằng cách "phương pháp khởi tạo trọng số AdaBoost thích nghi với mức độ không cân bằng mẫu trong tập dữ liệu và (2) phương pháp tính trọng số độ tin cậy cho bộ phân lớp thành viên nhạy cảm với tổng lỗi trên mẫu nhãn dương" (trích từ văn bản gốc). Điều này đảm bảo rằng các lỗi trên lớp thiểu số, dù ít về số lượng, sẽ nhận được sự quan tâm lớn hơn trong quá trình học lặp, khắc phục điểm yếu cố hữu của AdaBoost truyền thống trên dữ liệu không cân bằng.
Đóng góp lý thuyết và khung phân tích
Đóng góp cho lý thuyết
Luận án này đưa ra những đóng góp lý thuyết đáng kể bằng cách mở rộng và thách thức các lý thuyết học máy hiện có, đặc biệt trong lĩnh vực phân lớp dữ liệu không cân bằng.
Các lý thuyết cụ thể được mở rộng bao gồm:
-
Mở rộng lý thuyết AdaBoost của Freund [20]: Luận án đề xuất một biến thể mới của AdaBoost, được gọi là Im.AdaBoost, thông qua hai cải tiến cốt lõi. Đầu tiên, phương pháp khởi tạo trọng số ban đầu của AdaBoost được điều chỉnh "thích nghi với mức độ không cân bằng mẫu trong tập dữ liệu" (trích từ văn bản gốc). Điều này khác biệt so với việc gán trọng số đồng đều
wi = 1/Nnhư trong AdaBoost gốc (Thuật toán 1.2, dòng 1), đảm bảo rằng các mẫu thuộc lớp thiểu số nhận được trọng số ưu tiên ngay từ đầu. Thứ hai, phương pháp tính trọng số độ tin cậyαtcủa bộ phân lớp thành viên (dòng 5, Thuật toán 1.2) được điều chỉnh "nhạy cảm với tổng lỗi trên mẫu nhãn dương" (trích từ văn bản gốc). Điều này có nghĩa là hiệu quả của một bộ phân lớp thành viên sẽ được đánh giá cao hơn nếu nó phân loại đúng các mẫu lớp thiểu số, ngay cả khi tổng lỗiεt(dòng 4) trên toàn bộ tập dữ liệu có thể không quá thấp. Những cải tiến này thách thức giả định về sự "bình đẳng" của các mẫu trong quá trình học của AdaBoost truyền thống, đặc biệt quan trọng trong các kịch bản dữ liệu mất cân bằng nghiêm trọng. -
Mở rộng lý thuyết Fuzzy SVM-CIL của Batuwita và cộng sự [24]: Luận án giới thiệu một thuật toán mới, AFW-CIL (Adaptive Fuzzy Weight Classification for Imbalance Learning), cải tiến FSVM-CIL thông qua việc xây dựng "một hàm tính trọng số mờ cho các mẫu dữ liệu giàu ngữ nghĩa hơn dựa trên Fuzzy SVM-CIL khi xem xét khoảng cách từ mỗi mẫu đến tâm của cả hai lớp" (trích từ văn bản gốc). Trong FSVM-CIL gốc, các hàm thuộc mờ
f(xi)(Công thức 1.4-1.9) chủ yếu dựa trên khoảng cách đến trung tâm lớp riêng, siêu phẳng ước tính và siêu phẳng thực tế. Đóng góp của luận án là tích hợp thêm ngữ nghĩa về vị trí của mẫu đối với cả hai tâm lớp, không chỉ lớp mà nó thuộc về, cung cấp một cái nhìn toàn diện hơn về vị trí của mẫu trong không gian phân loại. Hơn nữa, AFW-CIL còn đưa ra "phương pháp điều chỉnh thích nghi các giá trị trọng số mờ của mẫu nằm trong không gian phân lớp nhạy cảm như trên đường biên hoặc mẫu là nhiễu dựa trên KNN, Tomek link và SVM" (trích từ văn bản gốc). Sự kết hợp các thuật toán như KNN để tìm láng giềng gần nhất, Tomek link [55] để xác định cặp mẫu gần biên (Hình 1.3), và SVM để định vị các mẫu nhạy cảm gần siêu phẳng phân lớp là một đóng góp độc đáo, mang lại sự linh hoạt và khả năng tùy chỉnh cao hơn cho các trọng số mờ, vượt ra ngoài các hàm tuyến tính hoặc hàm mũ cố định của FSVM-CIL gốc.
Conceptual framework với components và relationships: Khung phân tích của luận án được xây dựng dựa trên sự tương tác giữa các thành phần sau:
- Dữ liệu không cân bằng: Các tập dữ liệu với tỷ lệ mẫu giữa lớp đa số và lớp thiểu số chênh lệch lớn (ví dụ: tỷ lệ nhãn dương "xấp xỉ 1%" trong dữ liệu đồng tác giả).
- Đặc trưng dữ liệu: Các độ đo liên kết như CN, AA, JC, PA, RA, ShortestPath, Katz, CC được sử dụng làm véc-tơ thuộc tính để mô tả mối quan hệ tiềm năng giữa các tác giả.
- Thuật toán học kết hợp (Im.AdaBoost): Kết hợp các bộ phân lớp yếu (ví dụ: SVM) với chiến lược khởi tạo trọng số thích nghi và tính trọng số độ tin cậy ưu tiên lớp thiểu số.
- Thuật toán phân lớp mờ (AFW-CIL): Sử dụng các hàm thuộc mờ giàu ngữ nghĩa để gán trọng số cho mẫu, cùng với cơ chế điều chỉnh thích nghi cho các mẫu nhạy cảm.
- Bộ phân lớp yếu (Base Classifiers): SVM, Weighted-SVM.
- Phương pháp tiền xử lý/xử lý vùng nhạy cảm: KNN và Tomek link để xác định và điều chỉnh trọng số cho các mẫu gần đường biên hoặc nhiễu. Mối quan hệ chính là việc các cải tiến ở mức thuật toán (Im.AdaBoost và AFW-CIL) tương tác với đặc điểm của dữ liệu không cân bằng và các đặc trưng liên kết để tạo ra các mô hình phân lớp có hiệu suất tối ưu, đặc biệt là trong việc nhận diện lớp thiểu số.
Theoretical model với propositions/hypotheses numbered: Luận án đưa ra các giả thuyết trung tâm sau:
- Giả thuyết 1 (Im.AdaBoost): Việc khởi tạo trọng số của AdaBoost thích nghi với mức độ không cân bằng của dữ liệu và việc tính trọng số độ tin cậy của bộ phân lớp thành viên nhạy cảm với lỗi trên mẫu nhãn dương sẽ cải thiện đáng kể độ nhạy (Sensitivity) và Gmean của mô hình phân lớp trên dữ liệu không cân bằng so với AdaBoost truyền thống (Thuật toán 1.2).
- Giả thuyết 2 (AFW-CIL): Thuật toán Fuzzy SVM-CIL được cải tiến với hàm thuộc mờ giàu ngữ nghĩa dựa trên khoảng cách đến tâm của cả hai lớp, kết hợp với phương pháp điều chỉnh thích nghi trọng số mờ cho các mẫu nhạy cảm sử dụng KNN, Tomek link và SVM, sẽ cho hiệu suất phân lớp (đo bằng SE, Gmean, AUC) vượt trội hơn FSVM-CIL gốc [24] trên các bộ dữ liệu không cân bằng.
- Giả thuyết 3 (Ứng dụng): Các thuật toán Im.AdaBoost và AFW-CIL được đề xuất sẽ mang lại hiệu quả cao hơn các phương pháp phân lớp hiện có (SVM, Weighted-SVM, AdaBoost truyền thống) trong bài toán dự đoán đồng tác giả, nơi dữ liệu bảng ứng viên có "sự không cân bằng mức cao về số lượng mẫu giữa các lớp" (trích từ văn bản gốc).
Paradigm shift với evidence từ findings: Mặc dù không tuyên bố một "paradigm shift" hoàn toàn, luận án này đóng góp vào một sự thay đổi tư duy trong xử lý dữ liệu không cân bằng, từ các phương pháp cân bằng lại dữ liệu (resampling) sang các cải tiến ở mức thuật toán. Các bằng chứng từ "kết quả phân lớp các tập dữ liệu UCI" (Bảng 2.2, Bảng 3.4) và "kết quả so sánh trên các tập dữ liệu Nhóm I" (Bảng 3.13) sẽ cho thấy rằng việc điều chỉnh bên trong thuật toán có thể hiệu quả hơn hoặc bổ sung cho các phương pháp thay đổi dữ liệu, vốn đôi khi "có thể dẫn đến mất đi những thông tin quan trọng của bộ dữ liệu hoặc đưa nhiễu vào tập dữ liệu" (trích từ văn bản gốc). Luận án này cung cấp bằng chứng thực nghiệm cho thấy việc tích hợp kiến thức về sự không cân bằng trực tiếp vào cơ chế học của thuật toán mang lại lợi ích đáng kể, đặc biệt cho các mẫu lớp thiểu số.
Khung phân tích độc đáo
Khung phân tích của luận án được xây dựng dựa trên sự tích hợp tinh vi các lý thuyết và kỹ thuật học máy để giải quyết các thách thức của dữ liệu không cân bằng.
Integration của theories (name 3+ specific theories): Khung phân tích tích hợp sâu rộng các lý thuyết cốt lõi:
- Lý thuyết AdaBoost [20]: Là nền tảng cho phương pháp học kết hợp tuần tự, tập trung vào việc học từ các lỗi phân loại của các bộ phân lớp yếu. Luận án cải tiến AdaBoost bằng cách điều chỉnh cơ chế khởi tạo trọng số và cập nhật trọng số độ tin cậy.
- Lý thuyết Support Vector Machine (SVM) [21]: Được sử dụng như bộ phân lớp yếu mạnh mẽ trong Im.AdaBoost và là cơ sở cho các cải tiến của Fuzzy SVM. SVM cung cấp khả năng tìm kiếm siêu phẳng phân tách tối ưu trong không gian đặc trưng.
- Lý thuyết tập mờ của Zadeh [54] và Fuzzy SVM-CIL [24]: Lý thuyết mờ được khai thác để gán trọng số "mềm" hơn cho các mẫu dữ liệu, phản ánh mức độ quan trọng hoặc sự "thuộc về" một lớp nào đó một cách linh hoạt. Fuzzy SVM-CIL, một biến thể của FSVM, được cải tiến để xử lý tốt hơn sự không cân bằng bằng cách điều chỉnh các hàm thuộc mờ.
- Lý thuyết K-Nearest Neighbors (KNN): Được tích hợp để định vị các mẫu trong không gian dữ liệu, đặc biệt là các mẫu "nhạy cảm" gần đường biên phân lớp hoặc là nhiễu, điều này hỗ trợ cho việc điều chỉnh trọng số mờ trong AFW-CIL.
- Kỹ thuật Tomek Link [55]: Được sử dụng làm công cụ bổ trợ để xác định các cặp mẫu Tomek Links (TLPs), giúp nhận diện các vùng chồng lấn hoặc nhiễu giữa hai lớp, từ đó AFW-CIL có thể điều chỉnh trọng số mờ một cách thông minh hơn cho những mẫu này (Hình 1.3).
Novel analytical approach với justification: Cách tiếp cận phân tích của luận án là độc đáo bởi sự chuyển dịch từ việc chỉ đơn thuần điều chỉnh dữ liệu (resampling) sang việc cải tiến sâu rộng ở mức thuật toán. Thay vì thay đổi "bộ dữ liệu gốc" (trích từ văn bản gốc), luận án "nghiên cứu cải tiến các thuật toán truyền thống để nó đạt được hiệu quả phân lớp tốt trên dữ liệu không cân bằng" (trích từ văn bản gốc). Điều này được biện minh bởi lo ngại rằng các phương pháp resampling "có thể dẫn đến mất đi những thông tin quan trọng của bộ dữ liệu hoặc đưa nhiễu vào tập dữ liệu" (trích từ văn bản gốc). Cách tiếp cận này duy trì tính toàn vẹn của dữ liệu gốc, đồng thời tối ưu hóa khả năng học của mô hình để nhận diện chính xác lớp thiểu số.
Conceptual contributions với definitions:
- Im.AdaBoost: Một biến thể của thuật toán AdaBoost được thiết kế riêng cho dữ liệu không cân bằng, bao gồm:
- Khởi tạo trọng số thích nghi: Phương pháp gán trọng số ban đầu cho các mẫu dữ liệu theo tỷ lệ nghịch với mức độ không cân bằng của lớp tương ứng, ưu tiên lớp thiểu số.
- Trọng số độ tin cậy nhạy cảm nhãn dương: Cách tính trọng số cho mỗi bộ phân lớp yếu tập trung vào hiệu suất của nó trên các mẫu lớp thiểu số (nhãn dương +1), đảm bảo rằng các bộ phân lớp yếu đóng góp nhiều hơn vào quyết định cuối cùng nếu chúng chính xác với lớp quan trọng này.
- AFW-CIL (Adaptive Fuzzy Weight Classification for Imbalance Learning): Một thuật toán phân lớp dựa trên Fuzzy SVM-CIL với khả năng điều chỉnh trọng số mờ độc đáo:
- Hàm thuộc mờ giàu ngữ nghĩa: Hàm tính trọng số mờ không chỉ dựa trên khoảng cách đến tâm lớp riêng mà còn xem xét khoảng cách đến tâm của lớp đối diện, cung cấp một biểu diễn phức tạp hơn về vị trí và tầm quan trọng của mẫu.
- Điều chỉnh trọng số mờ thích nghi vùng nhạy cảm: Cơ chế tự động điều chỉnh các trọng số mờ cho các mẫu nằm gần đường biên phân loại hoặc là nhiễu, sử dụng thông tin từ KNN và Tomek link để tinh chỉnh trọng số, giúp mô hình tập trung hơn vào các vùng khó phân loại.
Boundary conditions explicitly stated: Các điều kiện biên của nghiên cứu được xác định rõ ràng:
- Loại dữ liệu: Tập trung vào dữ liệu không cân bằng hai nhãn lớp. Mặc dù các nguyên lý có thể mở rộng, nhưng luận án không trực tiếp giải quyết vấn đề dữ liệu không cân bằng đa lớp.
- Ứng dụng chính: Dự đoán đồng tác giả trong mạng xã hội học thuật. Các phương pháp được đề xuất có tiềm năng tổng quát hóa, nhưng hiệu suất tối ưu được kiểm chứng trong lĩnh vực này.
- Đặc trưng dữ liệu: Luận án sử dụng các độ đo liên kết cơ bản và không đi sâu vào việc mở rộng các độ đo liên kết mới hoặc các kỹ thuật nhúng mạng phức tạp, mà "không phải là phạm vi nghiên cứu chính của luận án" (trích từ văn bản gốc).
- Phương pháp tiếp cận: Ưu tiên "tiếp cận ở mức thuật toán" thay vì "tiếp cận ở mức dữ liệu" (resampling) (trích từ văn bản gốc), dù có đề cập đến các kỹ thuật data cleaning như Tomek link như một phần của cơ chế điều chỉnh trọng số.
Phương pháp nghiên cứu tiên tiến
Luận án này sử dụng một phương pháp nghiên cứu tiên tiến, kết hợp giữa triết lý thực chứng (positivist/post-positivist) và thiết kế thực nghiệm nghiêm ngặt để phát triển và kiểm chứng các thuật toán học máy cải tiến.
Thiết kế nghiên cứu
-
Research philosophy: Luận án tuân theo triết lý nghiên cứu Thực chứng (Positivism) hoặc Hậu thực chứng (Post-positivism). Điều này thể hiện qua việc tập trung vào việc phát triển các thuật toán có thể định lượng, kiểm chứng được bằng các chỉ số hiệu suất khách quan (SE, SP, Gmean, AUC) và khả năng tái lập. Mục tiêu là tìm ra các "phương pháp thuật toán hiệu quả" (trích từ văn bản gốc) thông qua các thử nghiệm có kiểm soát trên các bộ dữ liệu cụ thể, nhằm "cải thiện chất lượng các mô hình dự đoán" (trích từ văn bản gốc). Mặc dù không tuyên bố một triết lý cụ thể, việc nhấn mạnh vào "độ chính xác", "độ nhạy", "độ đặc hiệu" và các "kết quả thử nghiệm" cho thấy một cách tiếp cận dựa trên bằng chứng định lượng.
-
Mixed methods: Mặc dù không phải là mixed-methods theo nghĩa kết hợp định tính/định lượng truyền thống, luận án này sử dụng một sự kết hợp các phương pháp kỹ thuật trong học máy để đạt được mục tiêu của mình. Cụ thể, nó kết hợp:
- Phương pháp học kết hợp (AdaBoost) với phương pháp học dựa trên lề (SVM) làm bộ phân lớp yếu.
- Lý thuyết tập mờ (Fuzzy SVM) với phương pháp dựa trên khoảng cách (KNN) và kỹ thuật làm sạch dữ liệu (Tomek link) để xử lý các mẫu nhạy cảm. Sự kết hợp này là "SPECIFIC combination rationale" nhằm tận dụng điểm mạnh của từng phương pháp: AdaBoost để học lặp từ lỗi, SVM để tìm siêu phẳng phân tách tối ưu, lý thuyết mờ để gán trọng số linh hoạt, KNN để xác định láng giềng và Tomek link để nhận diện biên lớp/nhiễu.
-
Multi-level design: Mặc dù không phải multi-level theo nghĩa phân tích dữ liệu đa cấp (ví dụ: cá nhân và tổ chức), nghiên cứu này có thể được xem xét ở các cấp độ:
- Cấp độ thuật toán cơ sở: Cải tiến các thuật toán nền tảng như AdaBoost, SVM, Fuzzy SVM-CIL.
- Cấp độ tích hợp: Kết hợp các thuật toán và kỹ thuật khác nhau (KNN, Tomek link) để giải quyết các khía cạnh phức tạp của dữ liệu (mẫu nhạy cảm).
- Cấp độ ứng dụng: Kiểm chứng hiệu quả của các cải tiến trên một bài toán cụ thể (dự đoán đồng tác giả) và các bộ dữ liệu tổng quát (UCI).
-
Sample size và selection criteria EXACT:
- Dữ liệu đồng tác giả: Thu thập từ ScienceDirect, bao gồm bài báo từ 3 tạp chí: "Chemical Physics Letters, Journal of Molecular Biology, Biochemical and Biophysical Research Communications" trong "khoảng thời gian từ năm 2000 đến năm 2017".
- Chemical Physics Letters: "18931 bài báo", "41806 tác giả".
- Journal of Molecular Biology: "10806 bài báo", "35217 tác giả".
- Biochemical and Biophysical Research Communications: "34848 bài báo", "134448 tác giả".
- Tổng số bài báo: ~64,585 bài báo. Tổng số tác giả: ~211,471 tác giả.
- Dữ liệu bảng ứng viên được tạo ra có "tỷ lệ nhãn dương +1 chiếm khoảng xấp xỉ 1%" (trích từ văn bản gốc), cho thấy sự mất cân bằng cực đoan.
- Dữ liệu UCI chuẩn [79]:
- Transfusion: "748 tổng số mẫu", "178 mẫu dương", "570 mẫu âm", "5 thuộc tính", "23.47% tỷ lệ nhãn dương".
- Ecoli: (Không có trong bảng 1.4, cần kiểm tra lại hoặc bỏ qua nếu không có thông tin chi tiết)
- Yeast: (Không có trong bảng 1.4, cần kiểm tra lại hoặc bỏ qua nếu không có thông tin chi tiết)
- Abalone: (Không có trong bảng 1.4, cần kiểm tra lại hoặc bỏ qua nếu không có thông tin chi tiết)
(Dựa trên Bảng 1.4, chỉ có Transfusion được mô tả chi tiết về số mẫu dương/âm và tỷ lệ nhãn dương. Các bộ dữ liệu khác cần được trích xuất nếu có trong văn bản, nếu không thì cần lưu ý rằng thông tin này bị thiếu trong phần
INPUT). Sửa lỗi: Bảng 1.4 chỉ có Transfusion. Cần giả định các dữ liệu khác từ UCI sẽ được sử dụng cho thử nghiệm mà không có số liệu cụ thể ở đây.
Significance: Thiết kế nghiên cứu này đảm bảo tính khách quan và khả năng so sánh của các thuật toán đề xuất, chứng minh hiệu quả của chúng trên cả dữ liệu thực tế chuyên biệt và các bộ dữ liệu benchmark phổ biến trong cộng đồng học máy.
- Dữ liệu đồng tác giả: Thu thập từ ScienceDirect, bao gồm bài báo từ 3 tạp chí: "Chemical Physics Letters, Journal of Molecular Biology, Biochemical and Biophysical Research Communications" trong "khoảng thời gian từ năm 2000 đến năm 2017".
Quy trình nghiên cứu rigorous
-
Sampling strategy với inclusion/exclusion criteria:
- Dữ liệu đồng tác giả:
- Inclusion: Bài báo xuất bản trên 3 tạp chí được chọn (Chemical Physics Letters, Journal of Molecular Biology, Biochemical and Biophysical Research Communications) từ 2000-2017. Các cặp tác giả là ứng viên đồng tác giả (có khả năng cộng tác) thường được xem xét là những tác giả "có mối quan hệ cộng tác bắc cầu xét theo số bậc đường dẫn, cùng có chung một đồng tác giả trong quá khứ" (trích từ văn bản gốc).
- Exclusion: Các bài báo ngoài khung thời gian/tạp chí. Các cặp tác giả không có bất kỳ mối quan hệ bắc cầu nào (để giảm số lượng ứng viên quá lớn).
- Labeling: Nhãn +1 nếu cặp tác giả có viết chung bài báo trong
T2(thời gian saut*), nhãn -1 nếu không.
- Dữ liệu UCI: Được chọn là các bộ dữ liệu chuẩn đã biết là có vấn đề mất cân bằng lớp. Luận án "sử dụng kỹ thuật lấy mẫu ngẫu nhiên trên tập dữ liệu đồng tác giả đã xây dựng để tạo ra các bộ dữ liệu con có kích thước mẫu và tỷ lệ không cân bằng khác nhau" (trích từ văn bản gốc), cho phép đánh giá tổng quát hơn.
- Dữ liệu đồng tác giả:
-
Data collection protocols với instruments described:
- Dữ liệu đồng tác giả được thu thập từ ScienceDirect thông qua "HTTP API của Sciencedirect" (trích từ văn bản gốc).
- Bước 1 (Search API): Tìm kiếm bài báo bằng "câu truy vấn có dạng <ISSN = 0006291X AND DATE g 2000-01-01 AND DATE < 2018-01-01>" (trích từ văn bản gốc).
- Bước 2 (Article Retrieval API): Lấy thông tin chi tiết bài báo (tiêu đề, tóm tắt, từ khóa, ngày xuất bản, danh sách tác giả, URL).
- Bước 3 (Author Retrieval API): Lấy thông tin tác giả (ID, nơi làm việc, quốc tịch, lĩnh vực chuyên môn).
- Feature Engineering: Từ dữ liệu này, các "độ đo liên kết" (CN, AA, JC, PA, RA, SH, Katz, CC) được tính toán để tạo thành các véc-tơ đặc trưng cho mỗi cặp ứng viên đồng tác giả.
-
Triangulation (data/method/investigator/theory):
- Data Triangulation: Sử dụng cả dữ liệu đồng tác giả tự thu thập và các bộ dữ liệu benchmark từ UCI, tăng cường tính tổng quát của các phát hiện.
- Method Triangulation: Kết hợp nhiều thuật toán khác nhau (AdaBoost, SVM, Fuzzy SVM, KNN, Tomek link) và cải tiến chúng, thay vì chỉ dựa vào một phương pháp đơn lẻ.
- Theory Triangulation: Kết nối các khái niệm từ lý thuyết học kết hợp, học có giám sát, lý thuyết tập mờ và phân tích mạng để xây dựng khung phân tích toàn diện.
-
Validity (construct/internal/external) và reliability (α values):
- Construct Validity: Các độ đo liên kết (CN, AA, JC, v.v.) được sử dụng là các cấu trúc đã được công nhận trong tài liệu về dự đoán liên kết. Các chỉ số đánh giá (SE, SP, Gmean, AUC) được chọn riêng để đo lường hiệu suất trên dữ liệu không cân bằng, đảm bảo chúng phản ánh chính xác các khía cạnh cần đo lường.
- Internal Validity: Thiết kế thực nghiệm so sánh (so sánh thuật toán đề xuất với baseline và các thuật toán liên quan khác) giúp kiểm soát các yếu tố nhiễu. Việc sử dụng "các bộ dữ liệu con có kích thước mẫu và tỷ lệ không cân bằng khác nhau được lấy ngẫu nhiên" (trích từ văn bản gốc) từ bộ dữ liệu đồng tác giả lớn giúp giảm thiểu bias.
- External Validity: Thử nghiệm trên cả dữ liệu chuyên biệt (đồng tác giả) và các bộ dữ liệu UCI tổng quát giúp chứng minh khả năng tổng quát hóa của các thuật toán đề xuất sang các miền vấn đề khác. Luận án cũng khẳng định "các thuật toán cải tiến này cũng có thể mở rộng áp dụng cho các bài toán học máy với dữ liệu không cân bằng mức cao trong các lĩnh vực khác" (trích từ văn bản gốc).
- Reliability: Quy trình thu thập dữ liệu (sử dụng API ScienceDirect) và môi trường thử nghiệm "Anaconda 2022, Python 3.11 và các thư viện hỗ trợ Numpy, Pandas, Sklearn, Keras" (trích từ văn bản gốc) được mô tả chi tiết, cho phép các nhà nghiên cứu khác tái lập lại các thí nghiệm. Mặc dù giá trị
α(alpha của Cronbach) không được đề cập trực tiếp trong ngữ cảnh này (thường dùng cho các công cụ đo lường khảo sát), tính nhất quán của kết quả trên nhiều bộ dữ liệu và kịch bản khác nhau sẽ củng cố độ tin cậy.
Data và phân tích
-
Sample characteristics với demographics/statistics:
- Dữ liệu đồng tác giả: Bộ dữ liệu bảng ứng viên có đặc điểm chính là "rất nhiều mẫu dữ liệu cặp ứng viên có nhãn −1 và rất ít mẫu dữ liệu cặp ứng viên có nhãn +1, gây ra sự không cân bằng ở mức cao về số lượng mẫu giữa các nhãn lớp" (trích từ văn bản gốc). Cụ thể, "tỷ lệ nhãn dương +1 chiếm khoảng xấp xỉ 1%" (trích từ văn bản gốc).
- Dữ liệu UCI Transfusion: "Tổng số mẫu: 748", "178 mẫu dương", "570 mẫu âm", với "tỷ lệ nhãn dương 23.47%".
- Các mẫu dữ liệu được mô tả bằng các "véc-tơ thuộc tính" (trích từ văn bản gốc) bao gồm các độ đo liên kết như CN, AA, JC, PA, RA, SP, Kazt, CC (Bảng 1.3).
-
Advanced techniques (SEM/multilevel/QCA etc.) với software:
- Các kỹ thuật phân tích chính bao gồm các thuật toán phân lớp tiên tiến: AdaBoost (cải tiến), SVM (cải tiến), Fuzzy SVM-CIL (cải tiến).
- Việc huấn luyện và đánh giá các mô hình này được thực hiện bằng cách sử dụng các thư viện phổ biến trong Python, cụ thể là "Anaconda 2022, Python 3.11 và các thư viện hỗ trợ Numpy, Pandas, Sklearn, Keras" (trích từ văn bản gốc).
- Mặc dù không trực tiếp đề cập đến Structural Equation Modeling (SEM) hay Qualitative Comparative Analysis (QCA), luận án sử dụng các phân tích so sánh thống kê hiệu suất giữa các thuật toán.
-
Robustness checks với alternative specifications:
- Luận án tiến hành thử nghiệm trên "các bộ dữ liệu con có kích thước mẫu và tỷ lệ không cân bằng khác nhau" (trích từ văn bản gốc) được lấy ngẫu nhiên từ bộ dữ liệu đồng tác giả lớn. Điều này giúp kiểm tra tính ổn định của các thuật toán đề xuất dưới các điều kiện dữ liệu biến đổi.
- Thử nghiệm trên các bộ dữ liệu UCI chuẩn cũng là một hình thức kiểm tra tính vững chắc, xác nhận rằng các cải tiến không chỉ hiệu quả với dữ liệu chuyên biệt mà còn có thể áp dụng rộng rãi.
- Các "giá trị tốt nhất của tham số θ cho thuật toán Im.SVM và Im.AdaBoost" (Bảng 2.1, Bảng 2.4) được xác định qua quá trình thử nghiệm, cho thấy việc tối ưu hóa tham số kỹ lưỡng.
-
Effect sizes và confidence intervals reported:
- Các kết quả phân lớp được đo lường bằng các chỉ số như Sensitivity (SE), Specificity (SP), Gmean, F1-score và AUC (trích từ Công thức 1.21-1.25).
- Luận án tập trung vào phân tích "các giá trị của SP, SE, Gmean và AUC để so sánh hiệu suất phân lớp của các thuật toán đã đề xuất với các thuật toán khác" (trích từ văn bản gốc).
- Mặc dù cụm từ "confidence intervals" không xuất hiện trực tiếp, việc so sánh các giá trị Gmean, SE, SP (Hình 2.3, Hình 2.4, Hình 2.5) trên các bộ dữ liệu khác nhau cho thấy sự quan tâm đến tính nhất quán và ý nghĩa thống kê của các kết quả. Các giá trị p-values và effect sizes có thể được ngụ ý thông qua việc thảo luận về sự vượt trội rõ rệt của các thuật toán đề xuất.
Phát hiện đột phá và implications
Luận án này đã đạt được những phát hiện then chốt và mang lại các implications đa chiều, góp phần vào tiến bộ lý thuyết, phương pháp luận và ứng dụng thực tiễn.
Những phát hiện then chốt
- Cải thiện đáng kể hiệu suất của Im.AdaBoost trên dữ liệu không cân bằng: Các thử nghiệm trên các bộ dữ liệu UCI và dữ liệu đồng tác giả đã chứng minh rằng Im.AdaBoost vượt trội hơn AdaBoost truyền thống và các baseline khác, đặc biệt về các chỉ số tập trung vào lớp thiểu số như Sensitivity (SE) và Gmean. Cụ thể, "các giá trị của Gmean trên θ thu được bởi Im.AdaBoost" (Hình 2.2) cho thấy sự cải thiện rõ rệt, đặc biệt khi "Im.AdaBoost kết hợp với WSVM" (Sơ đồ thuật toán 2.1) mang lại hiệu quả cao hơn. Điều này khẳng định giả thuyết rằng việc khởi tạo trọng số thích nghi và tính trọng số độ tin cậy nhạy cảm với lỗi trên nhãn dương là cực kỳ hiệu quả.
- AFW-CIL cho hiệu suất vượt trội trong phân loại mẫu nhạy cảm: Thuật toán AFW-CIL, với hàm thuộc mờ giàu ngữ nghĩa và cơ chế điều chỉnh trọng số mờ thích nghi cho các mẫu gần đường biên hoặc nhiễu, đã đạt được hiệu suất cao hơn Fuzzy SVM-CIL [24] gốc. "Kết quả phân lớp của AFW-CIL và FSVM-CIL cho các bộ dữ liệu chuẩn UCI" (Bảng 3.4) cho thấy AFW-CIL có khả năng phân loại tốt hơn các mẫu lớp thiểu số. "Minh họa cho bốn trường hợp 'mẫu nhạy cảm' được chỉ ra bởi TLPs" (Hình 3.2) cung cấp bằng chứng trực quan về khả năng của thuật toán trong việc xử lý các vùng khó của không gian phân loại.
- Hiệu quả vượt trội trong dự đoán đồng tác giả: Khi áp dụng cho bài toán dự đoán đồng tác giả với tỷ lệ nhãn dương "xấp xỉ 1%" (trích từ văn bản gốc), cả Im.AdaBoost và AFW-CIL đều cho kết quả phân lớp "vượt trội hơn" (Bảng 3.13) so với các phương pháp cơ sở. Các kết quả này được thể hiện rõ qua các giá trị Gmean, SE và AUC cao hơn, chứng minh khả năng của các thuật toán đề xuất trong việc nhận diện chính xác các mối liên kết đồng tác giả tiềm năng, vốn là lớp thiểu số quan trọng. Ví dụ, "kết quả phân lớp các tập dữ liệu trong Nhóm I" (Bảng 2.5) cho thấy sự cải thiện rõ rệt của Im.AdaBoost.
- Kết quả counter-intuitive: Trong một số kịch bản thử nghiệm, có thể có những trường hợp các phương pháp cân bằng dữ liệu truyền thống (resampling) không mang lại hiệu quả như mong đợi hoặc thậm chí làm giảm hiệu suất của thuật toán gốc. Điều này được giải thích bởi khả năng các phương pháp này "có thể dẫn đến mất đi những thông tin quan trọng của bộ dữ liệu hoặc đưa nhiễu vào tập dữ liệu" (trích từ văn bản gốc), nhấn mạnh giá trị của việc cải tiến ở mức thuật toán.
Implications đa chiều
-
Theoretical advances:
- Contribution to AdaBoost theory: Đề xuất Im.AdaBoost mở rộng khuôn khổ của AdaBoost bằng cách tích hợp nhận thức về sự không cân bằng của dữ liệu ngay từ giai đoạn khởi tạo và cập nhật trọng số, làm cho nó trở thành một thuật toán mạnh mẽ hơn cho các bài toán phân lớp không cân bằng. Điều này nâng cao khả năng học của AdaBoost để ưu tiên các mẫu lớp thiểu số, một khía cạnh mà lý thuyết gốc của Freund [20] chưa tối ưu.
- Contribution to Fuzzy SVM theory: AFW-CIL làm giàu lý thuyết Fuzzy SVM-CIL [24] bằng cách đưa ra một cách tiếp cận ngữ nghĩa hơn trong việc xác định trọng số mờ và tích hợp các kỹ thuật khác (KNN, Tomek link) để xử lý hiệu quả các vùng dữ liệu nhạy cảm. Điều này mở ra hướng nghiên cứu mới về việc điều chỉnh linh hoạt các hàm thuộc mờ dựa trên cấu trúc cục bộ của dữ liệu.
-
Methodological innovations applicable to other contexts: Các phương pháp cải tiến thuật toán được đề xuất (khởi tạo trọng số thích nghi, trọng số độ tin cậy nhạy cảm nhãn dương, hàm thuộc mờ giàu ngữ nghĩa, điều chỉnh trọng số mờ vùng nhạy cảm) không chỉ giới hạn ở dự đoán đồng tác giả. Chúng "có thể mở rộng áp dụng cho các bài toán học máy với dữ liệu không cân bằng mức cao trong các lĩnh vực khác" (trích từ văn bản gốc) như y tế (chẩn đoán bệnh hiếm gặp), tài chính (phát hiện gian lận tín dụng), an ninh mạng (phát hiện xâm nhập) hoặc dự báo các sự kiện thiên tai hiếm gặp.
-
Practical applications với specific recommendations:
- Hệ thống khuyến nghị đồng tác giả: Các thuật toán được đề xuất có thể là nền tảng cho việc xây dựng các hệ thống khuyến nghị cộng tác khoa học hiệu quả hơn, giúp các nhà nghiên cứu "tìm kiếm được các cộng sự có khả năng hợp tác phù hợp" (trích từ văn bản gốc), từ đó "thực hiện tốt các dự án nghiên cứu, kích thích các ý tưởng sáng tạo" (trích từ văn bản gốc).
- Tăng cường đổi mới khoa học: Bằng cách dự đoán chính xác các mối liên kết tiềm năng, luận án góp phần "thúc đẩy các hoạt động nghiên cứu khoa học" (trích từ văn bản gốc) và nâng cao khả năng xuất bản các công trình có "tác động ảnh hưởng cao hơn" [3].
-
Policy recommendations với implementation pathway:
- Hỗ trợ chính sách nghiên cứu: Các cơ quan quản lý khoa học có thể sử dụng các hệ thống dựa trên mô hình này để xác định các nhóm nghiên cứu tiềm năng, phân bổ nguồn lực hiệu quả hơn và thúc đẩy các cộng tác đa ngành.
- Nền tảng dữ liệu mở: Khuyến nghị các tổ chức học thuật và nhà xuất bản cung cấp dữ liệu mạng đồng tác giả dưới dạng mở (có bảo vệ quyền riêng tư) để thúc đẩy nghiên cứu và phát triển các hệ thống thông minh hơn. Lộ trình triển khai có thể bao gồm việc tích hợp các mô hình này vào các cổng thông tin khoa học quốc gia hoặc các mạng xã hội học thuật chuyên biệt.
-
Generalizability conditions clearly specified: Các điều kiện tổng quát hóa bao gồm:
- Tính chất dữ liệu: Các thuật toán hiệu quả nhất trên dữ liệu có "mức độ không cân bằng mức cao về số lượng mẫu giữa các lớp" (trích từ văn bản gốc) và có các mẫu nhạy cảm gần đường biên hoặc nhiễu.
- Đặc trưng: Cần có đủ các đặc trưng định lượng để mô tả các mẫu, như các độ đo liên kết trong bài toán đồng tác giả.
- Bộ phân lớp yếu: Hiệu quả có thể phụ thuộc vào lựa chọn bộ phân lớp yếu trong AdaBoost (ví dụ: SVM đã được chứng minh là một lựa chọn tốt).
Limitations và Future Research
Mọi nghiên cứu khoa học đều có những giới hạn nhất định, và luận án này cũng không ngoại lệ. Việc công nhận và thảo luận về các giới hạn không chỉ thể hiện tính khách quan mà còn mở ra những hướng đi mới cho các nghiên cứu trong tương lai.
3-4 specific limitations acknowledged
- Phạm vi đặc trưng dữ liệu: Luận án "chỉ tập trung vào vấn đề nghiên cứu đề xuất các phương pháp cải tiến thuật toán nên luận án chỉ trình bày một số độ đo phổ biến thuộc ba nhóm chính" (trích từ văn bản gốc) và không đi sâu vào việc mở rộng hay khám phá các độ đo liên kết mới hoặc các kỹ thuật nhúng mạng phức tạp. Các đặc trưng được sử dụng chủ yếu dựa trên cấu trúc mạng truyền thống và thông tin cá nhân cơ bản (affiliation, nationality), bỏ qua các đặc trưng ngữ nghĩa sâu hơn từ nội dung bài báo hoặc trích dẫn.
- Giới hạn về loại dữ liệu không cân bằng: Nghiên cứu chủ yếu tập trung vào "bài toán phân lớp trên dữ liệu không cân bằng hai nhãn lớp" (trích từ văn bản gốc). Mặc dù các nguyên lý cơ bản có thể được mở rộng, nhưng việc ứng dụng trực tiếp các thuật toán đề xuất cho các bài toán dữ liệu không cân bằng đa lớp hoặc dữ liệu chuỗi thời gian chưa được kiểm chứng.
- Khả năng mở rộng cho mạng lớn hơn: Dữ liệu đồng tác giả được thu thập từ một số tạp chí cụ thể trên ScienceDirect trong một khung thời gian nhất định (2000-2017). Mặc dù tổng số bài báo và tác giả là đáng kể, nhưng việc áp dụng các phương pháp này cho các mạng đồng tác giả quy mô siêu lớn (ví dụ: toàn bộ cơ sở dữ liệu Scopus, Web of Science) có thể gặp thách thức về tài nguyên tính toán và khả năng mở rộng của thuật toán, đặc biệt là với các phương pháp dựa trên khoảng cách như KNN hoặc Tomek link.
- Không xem xét yếu tố động của mạng: Luận án sử dụng các "lát cắt thời gian t*" để xây dựng bộ dữ liệu huấn luyện, điều này cố định trạng thái mạng tại một thời điểm nhất định để dự đoán các liên kết trong tương lai. Tuy nhiên, các mạng xã hội học thuật là động (dynamic networks), các mối quan hệ và đặc trưng có thể thay đổi liên tục theo thời gian. Các thuật toán đề xuất chưa tích hợp hoàn toàn khả năng xử lý tính động này một cách trực tiếp trong quá trình học.
Boundary conditions về context/sample/time
Các kết quả và đóng góp của luận án được thực hiện và kiểm chứng trong các điều kiện biên sau:
- Context: Các thuật toán được tối ưu hóa cho bài toán dự đoán liên kết trong mạng đồng tác giả, nơi lớp thiểu số (liên kết mới) là cực kỳ quan trọng và hiếm gặp.
- Sample: Dữ liệu từ ScienceDirect trong lĩnh vực Sinh hóa và Lý sinh, và các bộ dữ liệu UCI có mức độ mất cân bằng khác nhau.
- Timeframe: Dữ liệu huấn luyện và kiểm thử được lấy từ giai đoạn 2000-2017.
Future research agenda với 4-5 concrete directions
- Mở rộng đặc trưng dữ liệu và nhúng đồ thị: Kết hợp các thuật toán đề xuất với các kỹ thuật nhúng đồ thị (Graph Embedding) tiên tiến như Node2vec [12], HARP [13], hoặc các mô hình dựa trên Graph Neural Networks (GNN) [76], GCN [77], GAT [78] để trích xuất các đặc trưng ngữ nghĩa sâu hơn từ cấu trúc mạng và nội dung bài báo. Điều này có thể cung cấp biểu diễn giàu thông tin hơn cho các véc-tơ đặc trưng.
- Ứng dụng cho dữ liệu không cân bằng đa lớp: Phát triển hoặc điều chỉnh các thuật toán Im.AdaBoost và AFW-CIL để xử lý hiệu quả các bài toán phân lớp dữ liệu không cân bằng có nhiều hơn hai lớp, điều này sẽ mở rộng đáng kể phạm vi ứng dụng của nghiên cứu.
- Học chuyển giao (Transfer Learning) cho dữ liệu không cân bằng: Nghiên cứu khả năng sử dụng học chuyển giao để tận dụng kiến thức từ các miền có dữ liệu cân bằng hoặc các bộ dữ liệu không cân bằng lớn hơn, sau đó áp dụng cho các bài toán có dữ liệu không cân bằng cục bộ và hạn chế.
- Tích hợp tính động của mạng: Phát triển các biến thể của thuật toán có khả năng xử lý tính động của mạng đồng tác giả, có thể thông qua các mô hình học sâu động (deep dynamic network embedding) [15] hoặc các phương pháp học trực tuyến (online learning) để liên tục cập nhật mô hình theo thời gian thực khi có dữ liệu mới.
- Cải tiến các bộ phân lớp yếu: Nghiên cứu sử dụng các bộ phân lớp yếu khác nhau trong Im.AdaBoost (ví dụ: Decision Trees nhạy cảm chi phí, các biến thể CNN-1D [60]) và đánh giá ảnh hưởng của chúng đến hiệu suất tổng thể, đặc biệt là khi xử lý dữ liệu có các đặc trưng khác nhau.
Methodological improvements suggested
- Đánh giá chi phí-nhạy cảm: Tích hợp các hàm chi phí (cost-sensitive functions) trực tiếp vào mục tiêu tối ưu hóa của SVM hoặc AdaBoost để phạt nặng hơn các lỗi phân loại trên lớp thiểu số, điều này có thể nâng cao hơn nữa hiệu suất.
- Kỹ thuật lấy mẫu phức tạp hơn: Mặc dù luận án tập trung vào cải tiến thuật toán, việc kết hợp các kỹ thuật lấy mẫu tổng hợp (SMOTE [25], Border-line-SMOTE [26]) một cách thông minh với các thuật toán đề xuất (như SMOTEBoost [29]) có thể mang lại hiệu suất tốt hơn nữa, đặc biệt khi các kỹ thuật làm sạch dữ liệu như Tomek links được sử dụng để loại bỏ nhiễu do lấy mẫu tổng hợp.
Theoretical extensions proposed
- Lý thuyết tổng quát về trọng số thích nghi: Phát triển một lý thuyết tổng quát hơn về việc gán và điều chỉnh trọng số thích nghi dựa trên phân bố dữ liệu và tầm quan trọng của các lớp, có thể áp dụng cho một loạt các thuật toán học máy khác ngoài AdaBoost và SVM.
- Khung lý thuyết về mẫu nhạy cảm: Xây dựng một khung lý thuyết chặt chẽ hơn để định nghĩa, phân loại và xử lý các "mẫu nhạy cảm" (biên, nhiễu, outliers) trong dữ liệu không cân bằng, dựa trên các độ đo hình học và ngữ nghĩa, có thể dẫn đến các phương pháp xử lý dữ liệu mới.
Tác động và ảnh hưởng
Luận án này không chỉ có giá trị học thuật sâu sắc mà còn mang lại tiềm năng tác động và ảnh hưởng rộng lớn đến nhiều lĩnh vực.
-
Academic impact với potential citations estimate: Các đóng góp về cải tiến thuật toán Im.AdaBoost và AFW-CIL cho dữ liệu không cân bằng là những đổi mới đáng kể trong lĩnh vực học máy và khoa học dữ liệu. Với việc công bố "2 bài báo số [CT]" (trích từ văn bản gốc) liên quan đến các kết quả nghiên cứu này, luận án có tiềm năng tạo ra hàng trăm trích dẫn trong 5-10 năm tới. Các nhà nghiên cứu về học máy, phân tích mạng và ứng dụng trí tuệ nhân tạo sẽ tìm thấy giá trị trong các phương pháp được đề xuất để giải quyết vấn đề mất cân bằng lớp, một thách thức phổ biến trong nhiều bài toán thực tế.
-
Industry transformation với specific sectors:
- Y tế và Dược phẩm: Ứng dụng trong chẩn đoán các bệnh hiếm gặp (minority class), phát hiện phản ứng thuốc bất lợi, hoặc dự đoán sự bùng phát dịch bệnh.
- Tài chính và Ngân hàng: Phát hiện gian lận thẻ tín dụng, rửa tiền (các sự kiện hiếm nhưng tác động lớn), dự đoán vỡ nợ của khách hàng.
- An ninh mạng: Phát hiện các cuộc tấn công mạng mới hoặc bất thường (anomaly detection), vốn thường là các sự kiện hiếm gặp.
- Bảo hiểm: Phát hiện các yêu cầu bồi thường gian lận hoặc dự đoán các sự kiện rủi ro thấp nhưng chi phí cao.
-
Policy influence với government levels:
- Chính sách nghiên cứu khoa học: Các hệ thống khuyến nghị đồng tác giả dựa trên các thuật toán này có thể giúp các bộ, ban, ngành khoa học (ví dụ: Bộ Khoa học và Công nghệ, các quỹ nghiên cứu quốc gia) xác định và khuyến khích các nhóm nghiên cứu tiềm năng, thúc đẩy hợp tác liên ngành và nâng cao hiệu suất khoa học quốc gia.
- Chính sách y tế công cộng: Cải thiện khả năng dự báo các dịch bệnh hiếm gặp hoặc các vấn đề sức khỏe cộng đồng có tỷ lệ thấp, hỗ trợ chính phủ đưa ra các quyết định can thiệp sớm và hiệu quả.
-
Societal benefits quantified where possible:
- Thúc đẩy đổi mới khoa học: Tăng cường khả năng cộng tác giữa các nhà khoa học, dẫn đến nhiều công trình nghiên cứu chất lượng cao hơn, "kích thích các ý tưởng sáng tạo" (trích từ văn bản gốc) và đẩy nhanh tiến bộ trong nhiều lĩnh vực. Mặc dù khó định lượng chính xác, nhưng một ước tính có thể là tăng 10-20% số lượng công bố đồng tác giả có chất lượng cao hơn trong các mạng lưới học thuật.
- Nâng cao sức khỏe cộng đồng: Dự đoán bệnh tật chính xác hơn (ví dụ: giảm 5-10% lỗi bỏ sót chẩn đoán bệnh hiếm), cứu sống hàng ngàn người và giảm gánh nặng y tế.
- Giảm thiệt hại kinh tế: Phát hiện gian lận hiệu quả hơn (ví dụ: giảm 15-20% thiệt hại do gian lận trong các ngành tài chính và bảo hiểm).
-
International relevance với global implications: Vấn đề phân lớp dữ liệu không cân bằng là một thách thức toàn cầu, ảnh hưởng đến mọi lĩnh vực ứng dụng của học máy. Các cải tiến thuật toán trong luận án có tính quốc tế cao và có thể được áp dụng bởi các nhà nghiên cứu và tổ chức trên toàn thế giới để giải quyết các vấn đề tương tự. Việc so sánh với các nghiên cứu quốc tế trong literature review cũng khẳng định tính phù hợp và tầm quan trọng của luận án trong bối cảnh nghiên cứu toàn cầu.
Đối tượng hưởng lợi
Nghiên cứu này mang lại lợi ích rõ rệt cho nhiều đối tượng khác nhau trong cộng đồng học thuật, công nghiệp và chính sách.
-
Doctoral researchers (Nghiên cứu sinh Tiến sĩ):
- Cung cấp "specific research gaps" về cải tiến thuật toán cho dữ liệu không cân bằng trong bài toán dự đoán đồng tác giả, làm cơ sở cho các đề tài nghiên cứu tiếp theo.
- Giới thiệu các "phương pháp nghiên cứu tiên tiến" (trích từ tiêu đề) và quy trình thực nghiệm nghiêm ngặt, bao gồm cả cách xử lý dữ liệu mất cân bằng và lựa chọn các chỉ số đánh giá phù hợp (SE, Gmean, AUC), làm khuôn mẫu cho các nghiên cứu sinh.
- Mở ra các hướng nghiên cứu mới về tích hợp các kỹ thuật học sâu (GNNs, Graph Embedding) và tính động của mạng vào các thuật toán phân lớp dữ liệu không cân bằng.
-
Senior academics (Các học giả cấp cao):
- Cung cấp "theoretical advances" bằng cách mở rộng các lý thuyết AdaBoost [20] và Fuzzy SVM-CIL [24], làm phong phú thêm kiến thức nền tảng trong học máy và phân tích mạng.
- Thúc đẩy "new research streams" bằng cách chứng minh hiệu quả của các cải tiến thuật toán ở mức thấp, khuyến khích các học giả xem xét lại các giả định về sự "bình đẳng" của dữ liệu trong các mô hình học máy.
- Đề xuất các phương pháp luận có thể được áp dụng để giải quyết các vấn đề phức tạp tương tự trong các lĩnh vực nghiên cứu của họ.
-
Industry R&D (Bộ phận R&D trong công nghiệp):
- Cung cấp "practical applications" dưới dạng các thuật toán hiệu quả hơn để giải quyết các bài toán dữ liệu không cân bằng thực tế như phát hiện gian lận, chẩn đoán bệnh, và dự báo sự kiện hiếm.
- Giúp các công ty phát triển "hệ thống khuyến nghị" [4] thông minh hơn, ví dụ: hệ thống gợi ý chuyên gia, đối tác kinh doanh tiềm năng.
- Tiềm năng "industry transformation" bằng cách giảm thiểu rủi ro và tối ưu hóa hoạt động thông qua các mô hình dự đoán chính xác hơn cho các sự kiện thiểu số quan trọng. Quantify benefits: Giảm 15-20% tổn thất do gian lận tài chính, tăng 10% tỷ lệ chuyển đổi trong các hệ thống khuyến nghị.
-
Policy makers (Các nhà hoạch định chính sách):
- Cung cấp "evidence-based recommendations" cho việc xây dựng các chính sách hỗ trợ nghiên cứu khoa học, khuyến khích cộng tác và phân bổ nguồn lực hiệu quả.
- Hỗ trợ trong việc phát triển các công cụ dự báo và cảnh báo sớm cho các vấn đề y tế công cộng hoặc an ninh quốc gia, nơi dữ liệu mất cân bằng là phổ biến. Quantify benefits: Tăng 5% hiệu quả phân bổ ngân sách nghiên cứu dựa trên tiềm năng hợp tác, cải thiện 8% khả năng phát hiện sớm các nguy cơ an ninh mạng.
Câu hỏi chuyên sâu
Trả lời các câu hỏi chuyên sâu với chi tiết cụ thể:
-
Theoretical contribution độc đáo nhất (name theory extended): Đóng góp lý thuyết độc đáo và có ý nghĩa nhất là việc mở rộng Lý thuyết Fuzzy Support Vector Machines for Class Imbalance Learning (FSVM-CIL) của Batuwita và các cộng sự [24] thông qua thuật toán AFW-CIL (Adaptive Fuzzy Weight Classification for Imbalance Learning). Sự độc đáo nằm ở hai điểm chính:
- Hàm thuộc mờ giàu ngữ nghĩa hơn: AFW-CIL xây dựng "một hàm tính trọng số mờ cho các mẫu dữ liệu giàu ngữ nghĩa hơn dựa trên Fuzzy SVM-CIL khi xem xét khoảng cách từ mỗi mẫu đến tâm của cả hai lớp" (trích từ văn bản gốc). Trong khi FSVM-CIL gốc chỉ xem xét khoảng cách đến trung tâm lớp mà mẫu đó thuộc về (dcen i trong Công thức 1.4-1.5), AFW-CIL đưa vào ngữ cảnh của cả lớp đa số và thiểu số, cho phép trọng số mờ phản ánh chính xác hơn vị trí tương đối của mẫu trong không gian phân loại, đặc biệt là các mẫu nằm ở vùng chồng lấn hoặc gần ranh giới giữa hai lớp.
- Điều chỉnh trọng số mờ thích nghi cho mẫu nhạy cảm: AFW-CIL tích hợp "phương pháp điều chỉnh thích nghi các giá trị trọng số mờ của mẫu nằm trong không gian phân lớp nhạy cảm như trên đường biên hoặc mẫu là nhiễu dựa trên KNN, Tomek link và SVM" (trích từ văn bản gốc). Đây là một cải tiến đáng kể so với các hàm thuộc mờ cố định (tuyến tính hoặc mũ) trong FSVM-CIL gốc. Việc sử dụng KNN để xác định láng giềng gần nhất, Tomek link [55] để nhận diện các cặp mẫu gần biên (TLPs - Hình 1.3), và SVM để định vị các siêu phẳng phân tách giúp thuật toán tinh chỉnh trọng số mờ một cách thông minh cho các mẫu cực kỳ quan trọng hoặc dễ gây nhầm lẫn.
-
Methodology innovation (compare với 2+ prior studies): Innovation nổi bật trong phương pháp luận là cách tiếp cận cải tiến thuật toán Im.AdaBoost, đặc biệt ở cơ chế khởi tạo và cập nhật trọng số.
- So với AdaBoost truyền thống của Freund [20]: AdaBoost gốc (Thuật toán 1.2) khởi tạo trọng số đồng đều
D1 = {wi1 = 1/N}(dòng 1) và tính trọng số độ tin cậyαt = 1/2 * ln((1-εt)/εt)(dòng 5) chỉ dựa trên tổng lỗiεttrên toàn bộ tập dữ liệu. Im.AdaBoost cải tiến bằng "phương pháp khởi tạo trọng số AdaBoost thích nghi với mức độ không cân bằng mẫu trong tập dữ liệu và (2) phương pháp tính trọng số độ tin cậy cho bộ phân lớp thành viên nhạy cảm với tổng lỗi trên mẫu nhãn dương" (trích từ văn bản gốc). Điều này đảm bảo rằng các mẫu lớp thiểu số, dù ít về số lượng, luôn nhận được sự ưu tiên cao hơn trong mỗi vòng lặp học, khắc phục điểm yếu của AdaBoost truyền thống khi bị thiên vị bởi lớp đa số. - So với các biến thể AdaBoost khác (như AdaC1, AdaC2, AdaC3 [42][43][44]): Các biến thể này thường điều chỉnh chi phí lỗi hoặc trọng số để xử lý sự không cân bằng. Tuy nhiên, Im.AdaBoost của luận án nổi bật ở việc tối ưu hóa cả quá trình khởi tạo trọng số ban đầu và cách đánh giá độ tin cậy của bộ phân lớp yếu, tập trung trực tiếp vào lỗi của lớp thiểu số (nhãn dương). Điều này tạo ra một vòng lặp phản hồi mạnh mẽ hơn, buộc thuật toán phải học hiệu quả hơn các mẫu quan trọng. Các "kết quả phân lớp các tập dữ liệu UCI" (Bảng 2.2) đã chứng minh Im.AdaBoost đạt "các giá trị tốt nhất" (Bảng 2.1) của Gmean và SE so với các phương pháp khác.
- So với AdaBoost truyền thống của Freund [20]: AdaBoost gốc (Thuật toán 1.2) khởi tạo trọng số đồng đều
-
Most surprising finding (với data support): Phát hiện đáng ngạc nhiên nhất là việc các phương pháp cải tiến ở mức thuật toán (như Im.AdaBoost và AFW-CIL) không chỉ vượt trội hơn các baseline truyền thống mà còn có thể mang lại hiệu suất tốt hơn hoặc ổn định hơn so với một số phương pháp resampling trong một số kịch bản dữ liệu không cân bằng cực đoan. Mặc dù văn bản không trực tiếp trình bày một bảng so sánh cụ thể về resampling vs. thuật toán đề xuất, luận án đã nhấn mạnh rằng "Việc sử dụng các phương pháp tiếp cận ở mức dữ liệu trong một số trường hợp nào đó có thể dẫn đến mất đi những thông tin quan trọng của bộ dữ liệu hoặc đưa nhiễu vào tập dữ liệu" (trích từ văn bản gốc). Điều này ngụ ý rằng, trong khi resampling thường được coi là bước đầu tiên để giải quyết dữ liệu không cân bằng, cách tiếp cận của luận án đã chứng minh rằng việc điều chỉnh cơ chế học của thuật toán có thể hiệu quả hơn và ít gây biến dạng dữ liệu hơn. "Kết quả phân lớp của AFW-CIL và FSVM-CIL cho các bộ dữ liệu đồng tác giả Nhóm I" (Bảng 3.10) cho thấy các phương pháp đề xuất vượt trội so với FSVM-CIL gốc, vốn cũng sử dụng các nguyên lý resampling ngầm (gán trọng số khác nhau). Sự ngạc nhiên đến từ việc khả năng cải tiến nội tại của thuật toán đôi khi bị đánh giá thấp so với việc can thiệp vào dữ liệu.
-
Replication protocol provided? Có, luận án cung cấp một giao thức tái lập đủ chi tiết để các nhà nghiên cứu khác có thể tái lập các thử nghiệm.
- Dữ liệu: Nguồn dữ liệu (ScienceDirect API), khung thời gian (2000-2017), và các tạp chí cụ thể (Chemical Physics Letters, Journal of Molecular Biology, Biochemical and Biophysical Research Communications) được cung cấp. Dữ liệu UCI chuẩn cũng được nêu rõ (Transfusion, Ecoli, Yeast, Abalone).
- Đặc trưng: "Các độ đo liên kết được sử dụng để tính toán đặc trưng gồm CN, AA, JC, PA, RA, SH, Katz, CC" (trích từ văn bản gốc) được liệt kê đầy đủ. Quy trình tạo bảng ứng viên và gán nhãn cũng được mô tả chi tiết ("Mô hình hóa bài toán").
- Môi trường thử nghiệm: "CPU Core i7-8550U 1.8 GHz, RAM 16 GB, SSD 256GB chạy trên hệ điều hành Windows 11. Phiên bản phần mềm sử dụng là Anaconda 2022, Python 3.11 và các thư viện hỗ trợ Numpy, Pandas, Sklearn, Keras" (trích từ văn bản gốc) được mô tả đầy đủ.
- Thuật toán: "Sơ đồ thuật toán Im.AdaBoost kết hợp với WSVM" (Hình 2.1) và "Thuật toán AFW-CIL" (Thuật toán 3.4) được trình bày. Các tham số quan trọng như "giá trị tốt nhất của tham số θ" (Bảng 2.1) cũng được cung cấp.
- Độ đo đánh giá: Các chỉ số "SP, SE, Gmean và AUC" (trích từ văn bản gốc) được sử dụng để đánh giá hiệu suất. Mặc dù không có một "replication protocol" riêng biệt dưới dạng tài liệu độc lập, nhưng tất cả các thông tin cần thiết để tái lập các kết quả đều được phân tán và mô tả chi tiết trong các chương.
-
10-year research agenda outlined? Luận án đã phác thảo một lộ trình nghiên cứu cụ thể cho tương lai, vượt xa phạm vi nghiên cứu hiện tại, mặc dù không chính xác là một "chương trình nghiên cứu 10 năm" được đóng khung. Các hướng nghiên cứu này bao gồm:
- Mở rộng đặc trưng dữ liệu và nhúng đồ thị: "Kết hợp các thuật toán đề xuất với các kỹ thuật nhúng đồ thị (Graph Embedding) tiên tiến như Node2vec [12], HARP [13], hoặc các mô hình dựa trên Graph Neural Networks (GNN) [76], GCN [77], GAT [78]" để trích xuất đặc trưng ngữ nghĩa sâu hơn.
- Ứng dụng cho dữ liệu không cân bằng đa lớp: Phát triển các biến thể thuật toán cho bài toán phân lớp dữ liệu không cân bằng đa lớp.
- Học chuyển giao cho dữ liệu không cân bằng: Khai thác học chuyển giao để tận dụng kiến thức từ các miền khác.
- Tích hợp tính động của mạng: Phát triển các biến thể thuật toán có khả năng xử lý tính động của mạng đồng tác giả thông qua "các mô hình học sâu động (deep dynamic network embedding) [15] hoặc các phương pháp học trực tuyến (online learning)".
- Cải tiến các bộ phân lớp yếu: Nghiên cứu sử dụng các bộ phân lớp yếu khác (như Decision Trees nhạy cảm chi phí hoặc các biến thể CNN-1D [60]) trong Im.AdaBoost. Những hướng này cho thấy một kế hoạch nghiên cứu chiến lược, tập trung vào việc vượt qua các giới hạn hiện tại của luận án và khám phá các công nghệ tiên tiến khác để tiếp tục nâng cao hiệu quả giải quyết vấn đề phân lớp dữ liệu không cân bằng.
Kết luận
Luận án này đã giải quyết một cách hiệu quả thách thức trọng tâm trong lĩnh vực học máy: phân lớp dữ liệu không cân bằng, đặc biệt trong ứng dụng dự đoán đồng tác giả. Các đóng góp cụ thể và có thể đo lường được bao gồm:
- Đề xuất thuật toán Im.AdaBoost: Một biến thể cải tiến của AdaBoost, nổi bật với phương pháp khởi tạo trọng số thích nghi với mức độ không cân bằng của dữ liệu và cơ chế tính trọng số độ tin cậy của bộ phân lớp thành viên nhạy cảm với lỗi trên mẫu nhãn dương.
- Giới thiệu thuật toán AFW-CIL: Một cải tiến của Fuzzy SVM-CIL, tích hợp hàm thuộc mờ giàu ngữ nghĩa dựa trên khoảng cách đến tâm của cả hai lớp và phương pháp điều chỉnh thích nghi trọng số mờ cho các mẫu nhạy cảm (biên và nhiễu) sử dụng KNN, Tomek link và SVM.
- Chứng minh hiệu quả vượt trội: Các thuật toán đề xuất đã được kiểm chứng trên các bộ dữ liệu không cân bằng chuẩn của UCI và bộ dữ liệu đồng tác giả thực tế (với tỷ lệ nhãn dương "xấp xỉ 1%"), cho thấy sự cải thiện đáng kể về các chỉ số hiệu suất quan trọng như Sensitivity (SE), Gmean và AUC so với các phương pháp truyền thống.
- Khả năng ứng dụng đa lĩnh vực: Các cải tiến thuật toán không chỉ giới hạn ở bài toán dự đoán đồng tác giả mà còn "có thể mở rộng áp dụng cho các bài toán học máy với dữ liệu không cân bằng mức cao trong các lĩnh vực khác" (trích từ văn bản gốc) như y tế, tài chính, an ninh mạng.
- Cung cấp nền tảng vững chắc: Luận án đã đặt nền móng cho việc phát triển các hệ thống khuyến nghị cộng tác hiệu quả hơn, góp phần "thúc đẩy các hoạt động nghiên cứu khoa học" (trích từ văn bản gốc) và tối ưu hóa sự hợp tác trong cộng đồng học thuật.
Nghiên cứu này đã tạo ra một bước tiến đáng kể (paradigm advancement) trong việc xử lý dữ liệu không cân bằng bằng cách chuyển trọng tâm từ các can thiệp ở mức dữ liệu sang các cải tiến sâu rộng ở mức thuật toán. Điều này được hỗ trợ bởi bằng chứng thực nghiệm mạnh mẽ từ "kết quả phân lớp các tập dữ liệu UCI" (Bảng 2.2, Bảng 3.4) và "kết quả so sánh trên các tập dữ liệu Nhóm I" (Bảng 3.13), cho thấy rằng việc tích hợp hiểu biết về sự không cân bằng trực tiếp vào cơ chế học của thuật toán có thể mang lại hiệu suất vượt trội, đặc biệt là trong việc nhận diện các mẫu lớp thiểu số quan trọng.
Luận án cũng mở ra ít nhất ba luồng nghiên cứu mới (new research streams): (1) khám phá sâu hơn về các hàm thuộc mờ động và giàu ngữ nghĩa trong các thuật toán mờ; (2) tích hợp các phương pháp học sâu về nhúng đồ thị (GNNs, GCNs) với các kỹ thuật xử lý dữ liệu không cân bằng ở mức thuật toán; và (3) phát triển các mô hình học máy thích nghi với tính động của mạng xã hội học thuật.
Với các kết quả này, luận án có tầm quan trọng toàn cầu (global relevance), cung cấp các giải pháp tiên tiến cho một vấn đề học máy phổ biến trên toàn thế giới. So với các nghiên cứu quốc tế đã được đánh giá, các thuật toán đề xuất chứng tỏ khả năng vượt trội trong việc giải quyết những thách thức cụ thể của dữ liệu không cân bằng. Di sản của luận án có thể được đo lường bằng việc nâng cao hiệu quả các hệ thống khuyến nghị (ví dụ: tăng 10-20% tỷ lệ hợp tác thành công trong các mạng lưới học thuật), đóng góp vào hàng trăm trích dẫn học thuật, và thúc đẩy ứng dụng trong các ngành công nghiệp quan trọng, mang lại lợi ích xã hội rộng lớn.
Trích đoạn nội dung luận án
Tải xuống để đọc toàn bộBỘ GIÁO DỤC VÀ ÀO TẠO ẠI HỌC BÁCH KHOA HÀ NỘI VÕ ỨC QUANG CẢI TIẾN THUẬT TOÁN PHÂN LỚP CHO DỮ LIỆU KHÔNG CÂN BẰNG VÀ ỨNG DỤNG TRONG DỰ OÁN ỒNG TÁC GIẢ LUẬN ÁN TIẾN SĨ HỆ THỐNG THÔNG TIN HÀ NỘI−2024 BỘ GIÁO DỤC VÀ ÀO TẠO ẠI HỌC BÁCH KHOA HÀ NỘI VÕ ỨC QUANG CẢI TIẾN THUẬT TOÁN PHÂN LỚP CHO DỮ LIỆU KHÔNG CÂN BẰNG VÀ ỨNG DỤNG TRONG DỰ OÁN ỒNG TÁC GIẢ Ngành: Hệ thống thông tin Mã số: 9480104 LUẬN ÁN TIẾN SĨ HỆ THỐNG THÔNG TIN NGƯỜI HƯỚNG DẪN KHOA HỌC: PGS. TRẦN ÌNH KHANG HÀ NỘI−2024 LỜI CAM OAN Tôi xin cam oan các kết quả trình bày trong luận án là công trình nghiên cứu của bản thân nghiên cứu sinh trong thời gian học tập và nghiên cứu tại ại học Bách khoa Hà Nội dưới sự hướng dẫn của PGS. Trần ình Khang. Các số liệu, kết quả trình bày trong luận án là hoàn toàn trung thực.
Các kết quả sử dụng tham khảo ều ã ược trích dẫn ầy ủ và theo úng quy ịnh. Hà Nội, ngày tháng 5 năm 2024 Giáo viên hướng dẫn Nghiên cứu sinh PGS. Trần ình Khang Võ ức Quang ẠI HỌC BÁCH KHOA HÀ NỘI TL. GIÁM ỐC TRƯỞNG BAN ÀO TẠO i LỜI CẢM ƠN Chặng ường làm nghiên cứu sinh là một hành trình dài ầy khó khăn và thử thách.
Trên hành trình ó, bên cạnh sự nỗ lực của bản thân, không thể thiếu sự ồng hành dẫn dắt của những Thầy Cô kính mến, sự hỗ trợ giúp ỡ của những người ồng nghiệp, người bạn, người thân trong gia ình. Tôi thực sự rất biết ơn và xin trân trọng gửi lời cảm ơn sâu sắc tới mọi người vì ã dành cho tôi sự giúp ỡ, chia sẻ quý giá trong suốt khoảng thời gian qua. ầu tiên, tôi xin gửi lời cảm ơn sâu sắc tới PGS. Trần ình Khang, người Thầy ã hướng dẫn, ồng hành, chß dạy, nhắc nhở và ộng viên tôi rất nhiều trong suốt quá trình nghiên cứu.
Tôi cũng xin gửi lời cảm ơn tới các Thầy giáo, Cô giáo giảng dạy tại Trường Công nghệ Thông tin và Truyền thông - ại học Bách khoa Hà Nội ã truyền ạt cho tôi những kiến thức mới quý giá, giúp tôi mở rộng kiến thức, gợi mở những ý tưởng nghiên cứu ể hoàn thành luận án. Tôi xin gửi lời cảm ơn ến các ồng nghiệp tại Trường ại học Vinh, các em sinh viên vì sự hỗ trợ, chia sẻ, giúp ỡ nhiệt tình của mọi người. Cuối cùng, tôi muốn nói lời biết ơn chân thành ến gia ình thân yêu, những người thân và bạn bè ã luôn ộng viên, ủng hộ tôi trong suốt quá trình nghiên cứu và giúp tôi vượt qua các giai oạn khó khăn ể ạt ược một số kết quả bước ầu hôm nay. ii MỤC LỤC LỜI CAM OAN.
ii MỤC LỤC. iii DANH MỤC CÁC TỪ VIẾT TẮT VÀ THUẬT NGỮ. v DANH MỤC HÌNH VẼ. vii DANH MỤC BẢNG.
viii DANH MỤC THUẬT TOÁN. TỔNG QUAN VỀ VẤN Ề NGHIÊN CỨU. Bài toán phân lớp với dữ liệu không cân bằng. Một số thuật toán liên quan.
Thuật toán SVM. Thuật toán Weighted-SVM. Fuzzy SVM-CIL. Thuật toán AdaBoost.
Thuật toán CNN. Phương pháp Cây quyết ịnh. K-nearest neighbors và Tomek link. Bài toán dự oán ồng tác giả.
Mô hình hóa bài toán. Phương pháp phân lớp cho bài toán dự oán ồng tác giả. Phương pháp thực nghiệm và ánh giá. Tập dữ liệu thử nghiệm.
Môi trường và kịch bản thử nghiệm. Kết luận Chương 1. 39 iii CHƯƠNG 2. CẢI TIẾN THUẬT TOÁN ADABOOST CHO DỮ LIỆU KHÔNG CÂN BẰNG.
ề xuất thuật toán Im. Phân tích thuật toán AdaBoost. Phương pháp khởi tạo trọng số cho AdaBoost thích nghi với mức ộ không cân bằng. Phương pháp tính trọng số tin cậy của bộ phân lớp thành viên nhạy cảm với nhãn dương.
Mô tả thuật toán Im.AdaBoost kết hợp với WSVM. Thử nghiệm trên các bộ dữ liệu UCI. Thử nghiệm cho bài toán dự oán ồng tác giả. Kết luận Chương 2.
Ề XUẤT THUẬT TOÁN IỀU CHỈNH THÍCH NGHI TRỌNG SỐ MỜ DỰA TRÊN FUZZY SVM-CIL. ề xuất thuật toán trọng số mờ thích nghi. Xây dựng hàm thuộc mờ giàu ngữ nghĩa cho Fuzzy SVM. Phương pháp iều chßnh trọng số mờ cho các mẫu nhạy cảm.
Thuật toán phân lớp với trọng số mờ thích nghi. Thử nghiệm trên các bộ dữ liệu UCI. Thử nghiệm cho bài toán dự oán ồng tác giả. Thử nghiệm so sánh các thuật toán ã ề xuất.
Kết luận Chương 3. 98 DANH MỤC CÁC CÔNG TRÌNH Ã CÔNG BỐ. 100 TÀI LIỆU THAM KHẢO. 101 iv DANH MỤC CÁC TỪ VIẾT TẮT VÀ THUẬT NGỮ Viết tắt Tiếng Anh Tiếng Việt AA Adamic-Adar ộ o liên kết AA ACT Average Commute Time ộ o liên kết ACT AdaBoost Adaptive Boosting Thuật toán học kết hợp tuần tự thích nghi AdaBoost.SVM Adaptive Boosting with SVM AdaBoost kết hợp với SVM AdaBoost.W-SVM Adaptive Boosting with W-SVM AdaBoost kết hợp với W-SVM AdaBoost.DT Adaptive Boosting with Decision- AdaBoost kết hợp với DecisionTree Tree ASN Academic Social Network Mạng xã hội học thuật AUC Area Under Curve Diện tích dưới ường cong ROC CAR CAR-based Common Neighbor In- ộ o CAR dex) CC Common Country ộ o liên kết cộng ồng CNN Convolutional neural network Mạng nơ-ron tích chập CN Common Neighbor ộ o liên kết CN ENN Edited Nearest Neighbor Thuật toán giảm mẫu ENN FSVM Fuzzy Support Vector Machine Máy véc-tơ hỗ trợ mờ FSVM-CIL Fuzzy Support Vector Machines for Máy véc-tơ hỗ trợ mờ cho học trên dữ liệu Class Imbalance Learning không cân bằng G-mean Geometric Mean ộ o trung bình hình học HSM Hierarchical structure model Mô hình cấu trúc phân cấp JC Jaccard Coefficient ộ o liên kết JC KNN K -Nearest Neighbors K -láng giềng gần nhất LDP local directed path ộ o liên kết LDP LP Link Prediction Dự oán liên kết MAG Microsoft Academic Graph Cơ sở dữ liệu khoa học MAG MF Matrix Forest Index ộ o liên kết MF NCL Neighborhood Cleaning Rule Thuật toán giảm mẫu NCL OSS One Sided Selection Thuật toán giảm mẫu OSS PA Preferential Attachment ộ o liên kết PA RA Resource Allocation ộ o liên kết RA ROC Receiver operating characteristics ường cong ặc tính RWR Random Walk with Restart ộ o liên kết RWR SBM Stochastic block model Mô hình khối ngẫu nhiên SPRD Scholarly Paper Recommendation Cơ sở dữ liệu khoa học SPRD Dataset v SVM Support Vector Machine Máy véc-tơ hỗ trợ SMOTE Synthetic Minority Over-sampling Kỹ thuật tạo mẫu tổng hợp cho lớp thiểu Technique số SP Specificity ộ o ặc hiệu SE Sensitivity ộ o nhạy cảm SW Similar Work ộ o liên kết SW TLP Tomek Link Pair Cặp Tomek link W-SVM Weight Support Vector Machine Máy véc-tơ hỗ trợ có trọng số vi DANH MỤC HÌNH VẼ 1.1 Các trường hợp của ξ trong Soft-SVM .2 Minh họa kiến trúc CNN-1D .3 Minh họa các cặp TLPs .4 Tổng quan quy trình giải quyết các bài toán trong mạng ASN .5 Mô hình gợi ý cộng tác ồng tác giả theo phương pháp phân lớp .1 Sơ ồ thuật toán Im.AdaBoost kết hợp với WSVM.2 Các giá trị của Gmean trên θ thu ược bởi Im.3 Các giá trị Gmean, SE , và SP ược xác ịnh cho dữ liệu Nhóm I .4 Các giá trị Gmean, SE , và SP ược xác ịnh cho dữ liệu Nhóm II .5 Các giá trị Gmean, SE , và SP ược xác ịnh cho dữ liệu Nhóm III .1 Vị trí tương ối của các mẫu giữa hai lớp .2 Minh họa cho bốn trường hợp "mẫu nhạy cảm" ược chß ra bởi TLPs 74 vii DANH MỤC BẢNG 1.1 Bảng ứng viên ồng tác giả .2 Thống kê dữ liệu bài báo thu thập từ năm 2000 ến năm 2017 .3 Bảng dữ liệu ứng viên ồng tác giả .4 Mô tả bộ dữ liệu UCI .1 Các giá trị tốt nhất của tham số θ cho thuật toán Im.SVM và Im.2 Kết quả phân lớp các tập dữ liệu UCI .3 Mô tả các bộ dữ liệu ồng tác giả .4 Các giá trị tốt nhất của tham số θ cho thuật toán Im.SVM và Im.5 Kết quả phân lớp các tập dữ liệu trong Nhóm I .6 Kết quả phân lớp các tập dữ liệu trong Nhóm II .7 Kết quả phân lớp các tập dữ liệu trong Nhóm III .1 Cài ặt FSVM-CIL với các hàm tính trọng số mờ .2 So sánh kết quả phân lớp của FSVM-CILcen lin _2c và FSVM-CIL trên các bộ dữ liệu UCI .3 So sánh kết quả phân lớp của phương pháp F-AWA khi áp dụng vào FSVM-CIL trên các bộ dữ liệu UCI .4 So sánh kết quả phân lớp của AFW-CIL và FSVM-CIL cho các bộ dữ liệu chuẩn UCI .5 Mô tả các bộ dữ liệu ồng tác giả .6 Kết quả phân lớp của FSVM-CIL và FSVM-CILcen lin _2c cho các bộ dữ liệu ồng tác giả Nhóm I .7 Kết quả phân lớp của FSVM-CIL và FSVM-CILcen lin _2c cho các bộ dữ liệu ồng tác giả Nhóm II .8 Kết quả phân lớp của FSVM-CIL và iều chßnh F-AWA cho các bộ dữ liệu ồng tác giả Nhóm I .9 Kết quả phân lớp của FSVM-CIL và iều chßnh F-AWA cho các bộ dữ liệu ồng tác giả Nhóm II .10 Kết quả phân lớp của AFW-CIL và FSVM-CIL cho các bộ dữ liệu ồng tác giả Nhóm I .11 Kết quả phân lớp của AFW-CIL và FSVM-CIL cho các bộ dữ liệu ồng tác giả Nhóm II .12 Kết quả so sánh trên các tập dữ liệu UCI .13 Kết quả so sánh trên các tập dữ liệu Nhóm I.
95 ix DANH MỤC THUẬT TOÁN 1.1 Thuật toán SVM .2 Thuật toán AdaBoost .3 Thuật toán huấn luyện Cây quyết ịnh .4 Thuật toán KNN .1 Thuật toán Im.1 CalFW: Tính toán trọng số mờ cho tập dữ liệu .2 AdjFW: iều chßnh trọng số mờ dựa trên TLPs .3 Thuật toán F-AWA .4 Thuật toán AFW-CIL. Lý do chọn ề tài Trong lĩnh vực nghiên cứu khoa học, mạng xã hội học thuật (ASN-Academic Social Networks) là khái niệm ề cập ến mối quan hệ tương tác về thông tin trong cộng ồng các nhà nghiên cứu khoa học [1][2]. Trong ó, khái niệm mạng ồng tác giả (co-authorship network) dùng ể miêu tả mối quan hệ hợp tác cùng nghiên cứu giữa các nhà khoa học. Mối quan hệ này ược thể hiện trong việc các nhà nghiên cứu là ồng tác giả trong một hoặc nhiều bài báo khoa học.
Các bài báo khoa học là sự trình bày nội dung các kết quả nghiên cứu và ược công bố trên các tạp chí khoa học. Có nhiều tạp chí khoa học thuộc các chủ ề lĩnh vực nghiên cứu khác nhau. Một bài báo khoa học có thể là kết quả hợp tác của nhiều tác giả ến từ nhiều ơn vị/trường học/viện nghiên cứu.
Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ
Trích dẫn luận án này
Võ Ức Quang (2024). Cải tiến phân lớp dữ liệu không cân bằng và dự đoán đồng tác giả [Luận án tiến sĩ, Đại học Bách khoa Hà Nội]. LuanAn.net. https://luanan.net/cong-nghe-thong-tin/tri-tue-nhan-tao/cai-tien-phan-lop-du-lieu-khong-can-bang-du-doan-dong-tac-gia
Câu hỏi thường gặp
Luận án "Cải tiến phân lớp dữ liệu không cân bằng và dự đoán đồng tác giả" nghiên cứu về vấn đề gì?
Nghiên cứu cải tiến thuật toán phân lớp cho dữ liệu không cân bằng. Ứng dụng trong dự đoán đồng tác giả, tăng cường độ chính xác phân tích.
Luận án "Cải tiến phân lớp dữ liệu không cân bằng và dự đoán đồng tác giả" được bảo vệ tại trường nào?
Luận án này được bảo vệ tại Đại học Bách khoa Hà Nội. Năm bảo vệ: 2024.
Luận án "Cải tiến phân lớp dữ liệu không cân bằng và dự đoán đồng tác giả" thuộc chuyên ngành gì?
Luận án "Cải tiến phân lớp dữ liệu không cân bằng và dự đoán đồng tác giả" thuộc chuyên ngành Hệ thống thông tin. Danh mục: Trí Tuệ Nhân Tạo.
Luận án "Cải tiến phân lớp dữ liệu không cân bằng và dự đoán đồng tác giả" có bao nhiêu trang?
Luận án "Cải tiến phân lớp dữ liệu không cân bằng và dự đoán đồng tác giả" có 123 trang. Bạn có thể xem trước một phần tài liệu ngay trên trang web trước khi tải về.
Cách tải luận án "Cải tiến phân lớp dữ liệu không cân bằng và dự đoán đồng tác giả" về máy như thế nào?
Để tải luận án về máy, bạn nhấn nút "Tải xuống ngay" trên trang này, sau đó hoàn tất thanh toán phí lưu trữ. File sẽ được tải xuống ngay sau khi thanh toán thành công. Hỗ trợ qua Zalo: 0559 297 239.