Luận án tiến sĩ: Xây dựng mô hình đánh giá độ khó văn bản tiếng Việt
Luận án tiến sĩ xây dựng mô hình đánh giá độ khó văn bản tiếng Việt. Áp dụng BERT, SVM, Random Forest để phân lớp tự động từ dữ liệu sách giáo khoa.
Năm xuất bản
Số trang
176
Thời gian đọc
27 phút
Lượt xem
2
Lượt tải
0
Phí lưu trữ
50 Point
Tổng quan nhanh
- Chủ đề:
- 1. Mô Hình Đánh Giá Độ Khó Văn Bản Tiếng Việt
- Số trang:
- 176 trang
- Trường:
- Trường Đại học Khoa học Tự nhiên - Đại học Quốc gia TP. HCM
- Chuyên ngành:
- Khoa học máy tính
- Tác giả:
- Lương An Vinh
- Năm:
- 2023
Tóm tắt nội dung luận án
I. Mô Hình Đánh Giá Độ Khó Văn Bản Tiếng Việt
Đánh giá độ khó văn bản tiếng Việt là bài toán quan trọng trong xử lý ngôn ngữ tự nhiên tiếng Việt. Mô hình đánh giá độ phức tạp văn bản giúp phân loại tài liệu theo trình độ người đọc. Nghiên cứu sử dụng hai hướng tiếp cận chính: thống kê và máy học. Hướng thống kê dựa trên các đặc trưng ngôn ngữ học như độ dài câu trung bình, mật độ từ vựng. Hướng máy học áp dụng thuật toán phân loại văn bản hiện đại. Kết quả cho thấy mô hình kết hợp đạt hiệu quả cao nhất.
1.1. Tổng Quan Nghiên Cứu Độ Khó Văn Bản
Độ khó văn bản phản ánh mức độ phức tạp khi đọc hiểu. Các yếu tố ảnh hưởng bao gồm từ vựng, cấu trúc câu, ngữ cảnh. Nghiên cứu tập trung vào văn bản tiếng Việt từ sách giáo khoa. Ngữ liệu được thu thập từ nhiều cấp học khác nhau. Phương pháp đánh giá sử dụng readability score chuẩn quốc tế. Mục tiêu xây dựng công thức tính toán phù hợp với tiếng Việt.
1.2. Ý Nghĩa Thực Tiễn Của Mô Hình
Mô hình hỗ trợ giáo viên chọn tài liệu phù hợp trình độ học sinh. Ứng dụng trong biên soạn sách giáo khoa theo chuẩn độ khó. Giúp phân loại tài liệu trực tuyến tự động. Nâng cao chất lượng giảng dạy tiếng Việt. Tạo cơ sở cho các hệ thống học tập thích ứng. Đóng góp vào phát triển NLP tiếng Việt.
1.3. Phạm Vi Và Đối Tượng Nghiên Cứu
Nghiên cứu tập trung văn bản giáo dục tiếng Việt. Ngữ liệu từ sách giáo khoa các cấp tiểu học đến trung học phổ thông. Bổ sung ngữ liệu văn học và ngôn ngữ học chuyên ngành. Tổng số văn bản được phân tích vượt ngưỡng đại diện. Các văn bản được gán nhãn độ khó theo cấp học. Đảm bảo tính đa dạng về chủ đề và thể loại.
II. Đặc Trưng Ngôn Ngữ Học Trong Phân Tích Văn Bản
Đặc trưng ngôn ngữ học là yếu tố cốt lõi trong phân tích độ phức tạp văn bản. Nghiên cứu rút trích ba nhóm đặc trưng chính: cấp độ từ, cấp độ câu, cấp độ văn bản. Mỗi nhóm cung cấp thông tin khác biệt về độ khó. Độ dài câu trung bình phản ánh cấu trúc cú pháp. Mật độ từ vựng cho biết sự đa dạng từ ngữ. Tần suất từ phức tạp đo lường khó khăn về từ vựng. Phân tích cú pháp giúp hiểu cấu trúc ngữ pháp.
2.1. Đặc Trưng Cấp Độ Từ Vựng
Số lượng từ trong văn bản là chỉ số cơ bản nhất. Độ dài trung bình của từ phản ánh độ phức tạp từ vựng. Tần suất từ phức tạp được tính dựa trên danh sách từ chuẩn. Mật độ từ vựng đo bằng tỷ lệ từ độc nhất. Số lượng từ chuyên ngành ảnh hưởng đến độ khó. Các từ đa âm tiết thường khó hơn từ đơn âm tiết.
2.2. Đặc Trưng Cấp Độ Câu
Độ dài câu trung bình tính theo số từ mỗi câu. Số lượng mệnh đề phụ thuộc tăng độ phức tạp cú pháp. Cấu trúc câu ghép phức tạp hơn câu đơn. Phân tích cú pháp xác định độ sâu cây cú pháp. Mật độ động từ và danh từ ảnh hưởng đến khả năng đọc. Số lượng thành phần câu phản ánh cấu trúc ngữ pháp.
2.3. Đặc Trưng Cấp Độ Văn Bản
Số lượng đoạn văn và cách tổ chức ý. Mức độ liên kết giữa các câu trong văn bản. Sử dụng từ nối và liên từ logic. Tính nhất quán về chủ đề qua các đoạn. Độ dài văn bản tổng thể ảnh hưởng đến độ khó. Cấu trúc tổng thể từ mở bài đến kết luận.
III. Hướng Tiếp Cận Thống Kê Đánh Giá Độ Khó
Hướng tiếp cận thống kê sử dụng công thức toán học tính readability score. Phương pháp này dựa trên phân tích tương quan giữa đặc trưng và độ khó. Phân tích hồi quy xác định hệ số trọng số cho từng đặc trưng. Công thức Syntactic Density Score được điều chỉnh cho tiếng Việt. Kết quả cho thấy độ dài câu và mật độ từ vựng có tương quan cao. Phương pháp đơn giản, dễ triển khai nhưng độ chính xác hạn chế.
3.1. Phân Tích Tương Quan Đặc Trưng
Hệ số tương quan Pearson đo mối liên hệ giữa đặc trưng và độ khó. Độ dài câu trung bình có tương quan dương mạnh. Mật độ từ vựng tương quan với cấp độ văn bản. Số lượng từ phức tạp là yếu tố quan trọng. Phân tích loại bỏ đặc trưng có tương quan thấp. Kết quả giúp lựa chọn đặc trưng hiệu quả cho mô hình.
3.2. Mô Hình Hồi Quy Tuyến Tính
Hồi quy tuyến tính kết hợp nhiều đặc trưng tính điểm độ khó. Phương trình có dạng tuyến tính với hệ số được học từ dữ liệu. Phương pháp bình phương tối thiểu tìm hệ số tối ưu. Đánh giá mô hình bằng R-squared và RMSE. Kết quả cho thấy độ chính xác trung bình 65-70%. Phù hợp cho ứng dụng cần tính toán nhanh.
3.3. Công Thức Độ Khó Cho Tiếng Việt
Công thức được điều chỉnh từ SDS cho đặc thù tiếng Việt. Tích hợp đặc trưng về âm tiết và thanh điệu. Trọng số các đặc trưng được tối ưu trên ngữ liệu tiếng Việt. Kết quả quy đổi thành thang điểm chuẩn hóa. Áp dụng thành công trên văn bản sách giáo khoa. Tạo cơ sở cho các nghiên cứu tiếp theo.
IV. Thuật Toán Phân Loại Văn Bản Máy Học
Thuật toán phân loại văn bản sử dụng máy học giám sát. Nghiên cứu thử nghiệm nhiều thuật toán: SVM, Random Forest, Naive Bayes, KNN. Đặc trưng được biểu diễn bằng vector TF-IDF và đặc trưng ngôn ngữ học. Random Forest cho kết quả tốt nhất với độ chính xác 85%. SVM phù hợp với dữ liệu nhiều chiều. Kỹ thuật RFECV giúp lựa chọn đặc trưng tối ưu. Phương pháp này vượt trội hướng thống kê về độ chính xác.
4.1. Support Vector Machine SVM
SVM tìm siêu phẳng phân tách tối ưu giữa các lớp. Sử dụng kernel RBF cho dữ liệu phi tuyến. Tham số C và gamma được tinh chỉnh bằng grid search. Kết quả đạt độ chính xác 82% trên tập test. Thời gian huấn luyện cao với dữ liệu lớn. Phù hợp cho bài toán phân lớp nhị phân và đa lớp.
4.2. Random Forest Và Lựa Chọn Đặc Trưng
Random Forest kết hợp nhiều cây quyết định. Số lượng cây và độ sâu được tối ưu hóa. RFECV tự động loại bỏ đặc trưng không quan trọng. Kết quả xác định 45 đặc trưng tối ưu từ 120 ban đầu. Độ chính xác đạt 85% vượt các thuật toán khác. Feature importance giúp hiểu vai trò từng đặc trưng.
4.3. So Sánh Các Thuật Toán Truyền Thống
Naive Bayes đơn giản nhưng độ chính xác chỉ 72%. KNN nhạy cảm với tham số k và khoảng cách. Random Forest cân bằng giữa độ chính xác và tốc độ. SVM tốt với dữ liệu có nhiều đặc trưng. Kết hợp nhiều mô hình bằng ensemble learning cải thiện kết quả. Lựa chọn thuật toán phụ thuộc yêu cầu ứng dụng.
V. Mô Hình Học Sâu BERT Cho Tiếng Việt
BERT (Bidirectional Encoder Representations from Transformers) là mô hình học sâu tiên tiến. Nghiên cứu sử dụng PhoBERT - mô hình BERT được huấn luyện trước trên tiếng Việt. Kỹ thuật fine-tuning điều chỉnh mô hình cho bài toán đánh giá độ khó. Văn bản được tách thành các đoạn ngắn trước khi đưa vào BERT. Vector đầu ra được tổng hợp và đưa qua lớp phân loại. Tích hợp thêm đặc trưng ngôn ngữ học nâng cao hiệu suất. Kết quả đạt độ chính xác 89%, cao nhất trong các phương pháp.
5.1. Kiến Trúc PhoBERT Cho Tiếng Việt
PhoBERT được huấn luyện trên 20GB dữ liệu tiếng Việt. Sử dụng tokenizer dựa trên BPE cho tiếng Việt. Mô hình có 12 lớp transformer với 768 chiều ẩn. Xử lý văn bản tối đa 256 token mỗi đoạn. Pre-training giúp mô hình học biểu diễn ngữ nghĩa sâu. Fine-tuning điều chỉnh cho bài toán cụ thể.
5.2. Kỹ Thuật Tinh Chỉnh Và Tổng Hợp Vector
Văn bản dài được chia thành nhiều đoạn 256 token. Mỗi đoạn qua PhoBERT tạo vector biểu diễn 768 chiều. Các vector được tổng hợp bằng mean pooling hoặc max pooling. Lớp fully connected chuyển đổi về số lớp độ khó. Sử dụng dropout 0.3 tránh overfitting. Learning rate 2e-5 với Adam optimizer.
5.3. Tích Hợp Đặc Trưng Ngôn Ngữ Học
Kết hợp vector BERT với đặc trưng ngôn ngữ học truyền thống. Concatenation vector tạo biểu diễn đa chiều phong phú. Đặc trưng ngôn ngữ học bổ sung thông tin cú pháp, từ vựng. Kết quả tăng 4% độ chính xác so với chỉ dùng BERT. Mô hình kết hợp tận dụng ưu điểm cả hai hướng. Đạt state-of-the-art trên ngữ liệu tiếng Việt.
VI. Xây Dựng Ngữ Liệu Và Đánh Giá Kết Quả
Ngữ liệu là yếu tố quyết định chất lượng mô hình. Nghiên cứu xây dựng hai bộ ngữ liệu chính: SGK và VH-NNH. Ngữ liệu SGK từ sách giáo khoa các cấp học, được gán nhãn theo lớp. Ngữ liệu VH-NNH từ văn bản văn học và ngôn ngữ học chuyên ngành. Tổng cộng hơn 5000 văn bản được thu thập và xử lý. Tiền xử lý bao gồm OCR, chuẩn hóa, tách câu, gán nhãn. Đánh giá sử dụng accuracy, precision, recall, F1-score. Kết quả cho thấy mô hình BERT kết hợp đặc trưng đạt hiệu quả cao nhất.
6.1. Thu Thập Và Tiền Xử Lý Ngữ Liệu
Sách giáo khoa được scan và chuyển đổi bằng OCR. Văn bản được chuẩn hóa về mã Unicode UTF-8. Loại bỏ ký tự đặc biệt, số trang, hình ảnh. Tách câu sử dụng dấu câu và quy tắc tiếng Việt. Gán nhãn độ khó dựa trên cấp học và chuyên gia. Kiểm tra chất lượng bằng đánh giá chéo.
6.2. Thống Kê Và Phân Tích Ngữ Liệu
Ngữ liệu SGK gồm 3 cấp: tiểu học, THCS, THPT. Mỗi cấp có đặc điểm về độ dài câu và từ vựng khác biệt. Ngữ liệu VH-NNH phức tạp hơn với từ chuyên ngành. Phân bố lớp tương đối cân bằng sau gom nhóm. Độ dài văn bản trung bình tăng theo cấp học. Mật độ từ vựng cũng tăng dần qua các cấp.
6.3. Kết Quả Thực Nghiệm Và So Sánh
Mô hình BERT đạt accuracy 89% trên ngữ liệu SGK. Random Forest đạt 85%, SVM đạt 82%. Hướng thống kê chỉ đạt 68% độ chính xác. Trên ngữ liệu VH-NNH, BERT đạt 86%. Tích hợp đặc trưng ngôn ngữ học cải thiện 3-4%. Kết quả vượt trội các nghiên cứu trước về NLP tiếng Việt.
Mục lục chi tiết luận án
Tải xuống file đầy đủ để xem toàn bộ nội dung
Tải đầy đủ (176 trang)Nội dung chính
Tổng quan về luận án
Nghiên cứu "Xây dựng mô hình đánh giá độ khó của văn bản tiếng Việt" của nghiên cứu sinh Lương An Vinh (chuyên ngành Khoa học Máy tính, mã số 62480101, Đại học Khoa học Tự nhiên – Đại học Quốc gia TP.HCM, dưới sự hướng dẫn khoa học của PGS. Đinh Điền) là công trình tiên phong, toàn diện đầu tiên thiết lập nền tảng tính toán học thuật chuẩn xác cho bài toán đánh giá độ khó văn bản (text readability) trong tiếng Việt. Trong bối cảnh bùng nổ thông tin số hóa, việc xác định độ tương thích giữa độ phức tạp ngôn ngữ nội tại của văn bản và năng lực tiếp nhận của người đọc trở thành một bài toán cấp thiết trong giáo dục, xuất bản và xử lý ngôn ngữ tự nhiên (NLP).
Khoảng trống nghiên cứu (research gap) cốt lõi xuất phát từ thực tế: trong khi lý thuyết và kỹ thuật đo độ khó văn bản trên thế giới đã phát triển qua hơn một thế kỷ với hàng loạt chuẩn mực từ thống kê cổ điển đến học máy hiện đại, tiếng Việt chỉ tồn tại duy nhất hai nghiên cứu sơ khai của Liêm Thanh Nguyễn và Alan B. Henkin thực hiện từ những năm 1982 [2] và 1985 [3]. Hai công trình này tồn tại những hạn chế mang tính hệ thống: kích thước ngữ liệu cực kỳ khiêm tốn (lần lượt chỉ gồm 20 và 54 đoạn văn bản), phương pháp chỉ tiếp cận ở mức bề mặt cơ bản (độ dài từ, độ dài câu, tỷ lệ từ Hán-Việt) và hoàn toàn vắng bóng các đặc trưng cú pháp, ngữ nghĩa tầng sâu cũng như các thuật toán máy học hiện đại.
Để giải quyết triệt để khoảng trống này, luận án tập trung giải quyết 3 câu hỏi nghiên cứu then chốt:
- RQ1: Bản chất khách quan của độ khó văn bản tiếng Việt được cấu thành bởi hệ thống các yếu tố ngôn ngữ nào ở các tầng mức bề mặt, từ vựng, cú pháp, ngữ nghĩa và đặc trưng đặc thù?
- RQ2: Làm thế nào để tự động hóa việc trích xuất, lựa chọn không gian đặc trưng tối ưu và xây dựng công thức hồi quy/phân lớp học máy có độ chính xác cao cho văn bản tiếng Việt?
- RQ3: Kiến trúc học sâu dựa trên mô hình ngôn ngữ tiền huấn luyện (Pre-trained Language Models) kết hợp với đặc trưng ngôn ngữ truyền thống có khả năng biểu diễn và phân lớp độ khó văn bản tiếng Việt vượt trội ra sao so với các mô hình độc lập?
Luận án triển khai trên khung lý thuyết phân tách rạch ròi giữa "Độ khó của văn bản" (Text Readability - thuộc tính khách quan, quá trình mã hóa encoding của tác giả) và "Khả năng đọc hiểu" (Comprehensibility - thuộc tính chủ quan, quá trình giải mã decoding của người đọc). Quy mô thực nghiệm bao gồm 2 bộ ngữ liệu chuẩn hóa đầu tiên được công bố công khai: Bộ ngữ liệu Sách giáo khoa (370 văn bản tiếng Việt và Ngữ văn từ lớp 1 đến lớp 12) và Bộ ngữ liệu Văn học – Ngôn ngữ học (1.825 văn bản được thẩm định bởi chuyên gia ngôn ngữ). Đột phá định lượng của luận án thể hiện ở việc khảo sát hệ thống toàn diện 262 đặc trưng ngôn ngữ, nâng độ chính xác phân lớp lên trên 96% ở cấp học phổ thông và xác lập tương quan vượt trội so với mọi công thức trước đây.
Literature Review và Positioning
Dòng chảy học thuật về độ khó văn bản trên thế giới khởi nguồn từ thế kỷ XIX khi Lucius Adelno Sherman (1893) [4] tiên phong phân tích thống kê cấu trúc câu qua các thời kỳ văn học Anh, chứng minh độ dài câu trung bình giảm dần từ 50 từ/câu (thời tiền Elizabeth) xuống 23 từ/câu (thời cận đại) và câu ngắn giúp giảm tải nhận thức. Tiếp đó, Edward Thorndike (1921, 1932, 1944) [6, 7, 8] đặt nền móng cho yếu tố tần suất từ vựng qua các bộ danh mục từ 10.000 đến 30.000 từ. Trên nền tảng đó, hàng loạt công thức thống kê kinh điển ra đời: Gray và Leary (1935) [15] khảo sát 288 yếu tố trên 1.690 người đọc để chọn ra 17 đặc trưng cốt lõi (độ tương quan $r = 0,645$); Rudolf Flesch (1948) [19] công bố chỉ số Flesch Reading Ease: $$\text{Score} = 206,835 - (1,015 \times \text{ASL}) - (84,6 \times \text{ASW})$$ (trong đó $\text{ASL}$ là độ dài trung bình câu, $\text{ASW}$ là số âm tiết trung bình mỗi từ); Edgar Dale và Jeanne S. Chall (1948, 1995) [18, 21] xây dựng thang đo kết hợp danh sách từ khó với độ dài câu; Harry McLaughlin (1969) [22] đề xuất công thức SMOG dựa trên căn bậc hai của số từ đa tiết; J. Peter Kincaid et al. (1975) [25] chuẩn hóa thang đo Flesch-Kincaid Grade Level cho quân đội Hoa Kỳ; Golub và Kidder (1974) [24] đột phá với Điểm mật độ cú pháp (Syntactic Density Score - SDS) khai thác cấu trúc T-unit và mệnh đề phụ.
Bước sang kỷ nguyên máy học, các tranh luận học thuật chuyển trọng tâm từ công thức tĩnh sang không gian biểu diễn đa chiều. Schwarm và Ostendorf (2005) [36] kết hợp mô hình ngôn ngữ n-gram, 4 đặc trưng cú pháp và độ dài bề mặt bằng Support Vector Machine (SVM) trên ngữ liệu Weekly Reader, đối lập với quan điểm của Heilman et al. (2007) [37] vốn chứng minh đặc trưng cú pháp đóng vai trò quyết định đối với người học ngôn ngữ thứ hai. Pitler và Nenkova (2008) [38] chứng minh quan hệ diễn ngôn (discourse relations) có tương quan mật thiết với năng lực nhận thức văn bản. Gần đây, Bruce và Jason (2020) [26] phát triển chỉ số LXPER Index 2.0 cho tiếng Hàn trên 2.700 văn bản CoKEC-text bằng việc kết hợp lexical chain và entity density; Chakraborty et al. (2021) [27] khảo sát hơn 96.000 câu tiếng Bangla; Chatzipanagiotidis et al. (2021) [49] kết hợp 212 đặc trưng hình thái - cú pháp trên tiếng Hy Lạp đạt độ chính xác trên 88%; Imperial (2021) [50] và Deutsch et al. (2020) [51] kết hợp đặc trưng ngôn ngữ trích xuất truyền thống với biểu diễn ngữ cảnh từ mô hình Transformer (BERT).
Tại Việt Nam, Liêm Thanh Nguyễn và Alan B. Henkin (1982, 1985) [2, 3] đề xuất hai công thức hồi quy tuyến tính: $$\text{RL}{1982} = (2 \times \text{WL}) + (0,2 \times \text{SL}) - 6$$ $$\text{RL}{1985} = (0,27 \times \text{WD}) + (0,13 \times \text{SL}) + 1,74$$ (với $\text{WL}$ là số ký tự/từ, $\text{SL}$ là số từ/câu, $\text{WD}$ là tỷ lệ từ ghép Hán-Việt). Luận án của Lương An Vinh định vị chính xác vị trí học thuật khi vượt qua toàn bộ giới hạn của các công trình tiền nhiệm tại Việt Nam: mở rộng kích thước ngữ liệu gấp hơn 40 lần (2.195 văn bản so với 54 văn bản), tăng số chiều đặc trưng từ 3 lên 262 đặc trưng đa tầng, và tiên phong ứng dụng kiến trúc học sâu kết hợp đặc trưng bản ngữ độc thù (từ Hán-Việt, từ địa phương, hư từ).
Đóng góp lý thuyết và khung phân tích
Đóng góp cho lý thuyết
Luận án mở rộng thuyết Đọc hiểu Ngôn ngữ học Tính toán và lý thuyết Xử lý Thông tin Nhận thức (Cognitive Information Processing) bằng cách chứng minh bản chất độ khó văn bản tiếng Việt là một hàm đa biến phi tuyến tính của các cấu trúc hình thái học, cú pháp học và ngữ nghĩa học tầng sâu, thay vì chỉ là các biến phụ thuộc bề mặt đơn giản.
+-------------------------------------------------------------------------+
| KHUNG PHÂN TÍCH ĐỘ KHÓ VĂN BẢN TIẾNG VIỆT |
+-------------------------------------------------------------------------+
| TẦNG BỀ MẶT & TỪ VỰNG TẦNG CÚ PHÁP & CẤU TRÚC TẦNG BẢN NGỮ |
| - Độ dài câu/từ/ký tự - Cây cú pháp, T-unit - Từ Hán-Việt|
| - Tần suất chữ/từ (TF-IDF) - Mật độ thực thể, PoS-tags - Phương ngữ |
| - Mật độ từ vựng/kênh từ - Quan hệ ngữ pháp, mệnh đề - Danh từ |
+-------------------------------------------------------------------------+
│
▼
+-------------------------------------------------------------------------+
| KHÔNG GIAN 262 ĐẶC TRƯNG NGÔN NGỮ ĐA TẦNG |
+-------------------------------------------------------------------------+
│ │
▼ ▼
[THỐNG KÊ SUY LUẬN] [MÁY HỌC TRUYỀN THỐNG]
- Phân tích tương quan Pearson - Tối ưu hóa đặc trưng bằng RFECV
- Hồi quy đa biến không triệt tiêu- Phân lớp: SVM, Random Forest, KNN, NB
│ │
└───────────────────┬─────────────────┘
│
▼
[MÔ HÌNH HỌC SÂU LAI HỢP ĐỀ XUẤT]
- Phân đoạn văn bản (Text Chunking)
- Tinh chỉnh BERT lấy embedding token [CLS]
- Mạng hồi quy LSTM biểu diễn chuỗi ngữ cảnh
- Tích hợp Vector Đặc trưng Ngôn ngữ Trích xuất
│
▼
+-------------------------------------------------------------------------+
| DỰ ĐOÁN ĐỘ KHÓ: ĐIỂM SỐ LIÊN TỤC / PHÂN LỚP CẤP ĐỘ ĐỌC HIỂU |
+-------------------------------------------------------------------------+
Hệ thống giả thuyết lý thuyết được xác lập:
- Mệnh đề $P_1$: Các biến ngôn ngữ bề mặt (độ dài ký tự, độ dài câu) chỉ phản ánh tải trọng nhận thức ban đầu, độ phức tạp thực sự của tiếng Việt chịu sự chi phối chặt chẽ bởi tỷ lệ cấu trúc từ ghép chính phụ/đẳng lập, mật độ từ Hán-Việt và tần suất xuất hiện của các hư từ chuyên biệt.
- Mệnh đề $P_2$: Việc tích hợp không gian vector biểu diễn ngữ cảnh từ mô hình ngôn ngữ mặt nạ (Masked Language Modeling) với vector đặc trưng bản ngữ tạo ra bước chuyển dịch mô hình (paradigm shift), khắc phục triệt để hiện tượng mất mát thông tin ngữ nghĩa dài hạn trong các văn bản có cấu trúc phân đoạn phức tạp.
Khung phân tích độc đáo
Khung phân tích của luận án tích hợp liên ngành giữa: (1) Ngôn ngữ học tiếng Việt hiện đại (phân loại từ loại, hiện tượng tiếp xúc ngôn ngữ Hán-Việt, phong cách học), (2) Lý thuyết Đánh giá Độ khó Cổ điển (Classical Readability Formulas), và (3) Kiến trúc Transformer/Deep Sequence Modeling. Luận án xác lập 4 nhóm biên giới ngữ cảnh (boundary conditions): (a) Văn bản viết/in dạng văn xuôi tiếng Việt; (b) Không áp dụng cho văn vần (thơ, ca dao, hò vè); (c) Loại trừ các yếu tố chủ quan từ tâm lý - thị giác người đọc; (d) Tập trung chính vào miền ngôn ngữ giáo khoa, văn học và học thuật.
Phương pháp nghiên cứu tiên tiến
Thiết kế nghiên cứu
Luận án định vị trên thế giới quan thực chứng (positivism) kết hợp kỹ thuật thực nghiệm tính toán nghiêm ngặt. Thiết kế nghiên cứu đa tầng bao gồm phân tích tương quan thống kê, mô hình hóa phân loại có giám sát (supervised machine learning) và mô hình học sâu lai hợp (hybrid deep learning architecture).
+─────────────────────────────────────────────────────────────────────────+
| QUY TRÌNH THỰC NGHIỆM VÀ ĐÁNH GIÁ |
+─────────────────────────────────────────────────────────────────────────+
| BỘ NGỮ LIỆU CHUẨN HOÁ |
| - Ngữ liệu SGK: 370 văn bản (Tiểu học: 130, THCS: 140, THPT: 100) |
| - Ngữ liệu VH-NNH: 1.825 văn bản (Gán nhãn chuyên gia 3 cấp độ khó) |
+─────────────────────────────────────────────────────────────────────────+
│
▼
| TIỀN XỬ LÝ & RÚT TRÍCH ĐẶC TRƯNG |
| - Tách từ, gán nhãn từ loại PoS, nhận dạng thực thể tên riêng NE |
| - Trích xuất tự động 262 đặc trưng đa tầng |
+─────────────────────────────────────────────────────────────────────────+
│
▼
| 3 NHÁNH MÔ HÌNH HÓA THỰC NGHIỆM |
| ├─ Nhánh 1: Hồi quy đa biến tương quan cao |
| ├─ Nhánh 2: RFECV + Máy học truyền thống (SVM, RF, KNN, NB) |
| └─ Nhánh 3: Tách đoạn + Fine-tuned BERT + Bi-LSTM + Feature Fusion |
+─────────────────────────────────────────────────────────────────────────+
│
▼
| KIỂM ĐỊNH ĐỘ TIN CẬY & HIỆU NĂNG |
| - 10-Fold Cross-Validation, RFECV feature selection |
| - Metrics: Pearson r, Accuracy, Macro F1-score, Precision, Recall |
+─────────────────────────────────────────────────────────────────────────+
Quy trình nghiên cứu rigorous
Quy trình xây dựng dữ liệu và kiểm định được chuẩn hóa qua các bước:
- Thu thập và tiền xử lý dữ liệu: Số hóa, trích xuất văn bản từ tài liệu gốc qua OCR chuẩn hóa, loại bỏ nhiễu định dạng, chuẩn hóa bảng mã Unicode dựng sẵn.
- Gán nhãn và phân định cấp độ: Bộ ngữ liệu SGK được gắn nhãn tự nhiên theo 12 khối lớp học và gom nhóm thành 3 cấp học (Tiểu học: Lớp 1-5; THCS: Lớp 6-9; THPT: Lớp 10-12). Bộ ngữ liệu Văn học – Ngôn ngữ học (1.825 văn bản) được thẩm định chéo độc lập bởi các chuyên gia ngôn ngữ học tiếng Việt theo thang 3 mức độ (Dễ, Trung bình, Khó).
- Trích xuất không gian 262 đặc trưng:
- Đặc trưng bề mặt: Độ dài văn bản, độ dài trung bình câu theo từ, độ dài từ theo ký tự, số lượng từ/câu ngắn/dài.
- Đặc trưng từ vựng & tần số: Phân bố tần suất ký tự, tần suất từ, tỷ lệ TF-IDF, mật độ từ vựng (lexical density), tỷ lệ các từ nằm ngoài danh sách từ vựng thông dụng.
- Đặc trưng ngữ pháp & từ loại (PoS): Tỷ lệ danh từ, động từ, tính từ, đại từ, liên từ, số lượng thực thể tên riêng (NE), cấu trúc cụm danh ngữ/động ngữ.
- Đặc trưng đặc thù tiếng Việt: Tỷ lệ từ ghép Hán-Việt, tỷ lệ từ ngữ địa phương (phương ngữ Bắc/Trung/Nam), tỷ lệ hư từ chuyên biệt.
- Lựa chọn đặc trưng tối ưu với thuật toán RFECV: Sử dụng kỹ thuật loại bỏ đặc trưng đệ quy kết hợp kiểm định chéo (Recursive Feature Elimination with Cross-Validation - RFECV) với mô hình cơ sở Random Forest/SVM để xác định không gian đặc trưng con có độ phân giải phân lớp cực đại, tránh hiện tượng quá khớp (overfitting) và giảm thiểu đa cộng tuyến.
Data và phân tích
Để xử lý hiện tượng văn bản có độ dài vượt quá giới hạn token của kiến trúc Transformer tiêu chuẩn (512 tokens), luận án đề xuất giải pháp kỹ thuật tinh vi:
- Kỹ thuật phân đoạn văn bản (Text Chunking): Văn bản đầu vào được chia thành các đoạn nhỏ có kích thước phù hợp ($k$ tokens với độ chồng lấp $m$ tokens).
- Trích xuất biểu diễn ngữ cảnh qua BERT: Mỗi đoạn văn bản được đưa qua mô hình ngôn ngữ tiền huấn luyện BERT được tinh chỉnh (fine-tuned); vector biểu diễn của token đặc biệt
[CLS]ở tầng ẩn cuối cùng được trích xuất làm vector đại diện cho đoạn văn bản. - Mô hình hóa chuỗi qua LSTM: Chuỗi các vector đại diện đoạn được đưa vào mạng Long Short-Term Memory (LSTM) để tổng hợp thông tin diễn ngôn toàn cục của toàn bộ văn bản.
- Tích hợp đặc trưng ngôn ngữ (Feature Fusion): Vector đầu ra của LSTM được ghép nối (concatenate) với vector đặc trưng ngôn ngữ trích xuất thủ công (linguistic feature vector) đã qua chuẩn hóa trước khi đưa vào tầng phân lớp Softmax cuối cùng.
Phát hiện đột phá và implications
Những phát hiện then chốt
Nghiên cứu mang lại 5 phát hiện mang tính đột phá cho ngành xử lý ngôn ngữ tự nhiên tiếng Việt:
-
Hiệu năng vượt bậc của không gian đặc trưng tối ưu: Việc ứng dụng thuật toán RFECV cho phép xác định tập đặc trưng cốt lõi giúp các thuật toán máy học truyền thống (đặc biệt là SVM và Random Forest) đạt độ chính xác phân lớp trên 96% trên ngữ liệu SGK gom nhóm theo 3 cấp học, vượt xa kết quả của các nghiên cứu trước đây (chỉ đạt mức tương quan đơn biến khiêm tốn).
-
Vai trò then chốt của các đặc trưng bản ngữ đặc thù: Trong không gian 262 đặc trưng, các chỉ số về tỷ lệ từ Hán-Việt, tỷ lệ từ ngữ địa phương và mật độ hư từ thể hiện hệ số tương quan rất cao với độ khó văn bản. Đưa các đặc trưng đặc thù tiếng Việt vào mô hình giúp độ chính xác tăng từ 85% lên hơn 96% trên tập ngữ liệu chuẩn hóa.
-
Cải tiến phương pháp hồi quy thống kê: Bằng việc duy trì các biến đặc trưng có tương quan cao trong phân tích hồi quy thay vì loại bỏ máy móc theo các giả định tuyến tính cổ điển, công thức đo độ khó văn bản tiếng Việt mới xây dựng đạt hệ số tương quan ($r$) vượt trội so với công thức của Liêm Thanh Nguyễn và Alan B. Henkin (1982, 1985).
-
Đột phá từ mô hình học sâu lai hợp (BERT + LSTM + Linguistic Features): Thử nghiệm cho thấy nếu chỉ sử dụng mô hình học sâu thuần túy (BERT + LSTM), độ chính xác phân lớp có xu hướng giảm nhẹ so với mô hình máy học truyền thống được trích xuất đặc trưng thủ công hoàn chỉnh, tuy nhiên mô hình học sâu tiết kiệm đáng kể chi phí gắn nhãn và kỹ nghệ đặc trưng. Đáng chú ý nhất, khi tích hợp vector đặc trưng ngôn ngữ vào tầng biểu diễn của BERT+LSTM, độ chính xác tổng thể được đẩy lên mức cao nhất, chứng minh tính bổ trợ hoàn hảo giữa ngữ nghĩa biểu diễn ngầm (latent representations) và tri thức ngôn ngữ học tường minh (explicit linguistic rules).
-
Tính phi đối xứng giữa độ khó văn bản và trực quan thị giác: Phân tích thực nghiệm chứng minh rằng các yếu tố hình thức (kiểu chữ, độ tương phản) chỉ quyết định tính dễ nhìn (legibility), trong khi độ phức tạp cú pháp và mật độ từ vựng chuyên ngành mới là yếu tố cốt lõi quyết định tải trọng nhận thức thực sự của văn bản tiếng Việt.
Implications đa chiều
- Ý nghĩa lý thuyết: Xác lập một hệ thống 262 chỉ số đo lường định lượng toàn diện cho văn bản học tiếng Việt, cung cấp khung quy chiếu lý thuyết vững chắc cho ngành Ngôn ngữ học Tính toán và Ngôn ngữ học Đối chiếu.
- Phương pháp luận: Thiết lập pipeline chuẩn mực cho bài toán đánh giá độ khó văn bản trên các ngôn ngữ đơn lập, không biến hình (isolating languages), mở đường cho việc áp dụng kỹ thuật RFECV và kiến trúc lai Transformer-LSTM-Linguistic Fusion cho các ngôn ngữ Đông Nam Á.
- Ứng dụng thực tiễn: Cung cấp công cụ tự động hỗ trợ đắc lực cho việc biên soạn, thẩm định và chuẩn hóa sách giáo khoa theo Chương trình Giáo dục Phổ thông; hỗ trợ biên tập xuất bản, tự động hóa phân loại tài liệu cho thư viện số và hỗ trợ tối ưu hóa giáo trình giảng dạy tiếng Việt như một ngoại ngữ (VFL/VSL).
- Khuyến nghị chính sách: Cung cấp cơ sở khoa học định lượng để Bộ Giáo dục và Đào tạo cùng các cơ quan quản lý văn hóa xây dựng "Khung chuẩn mực độ khó văn bản tiếng Việt" thống nhất cho từng cấp học và độ tuổi độc giả.
Limitations và Future Research
Luận án chỉ ra 4 giới hạn nghiên cứu chính:
- Phạm vi thể loại: Nghiên cứu chỉ tập trung vào văn bản văn xuôi thuộc lĩnh vực giáo khoa, văn học và ngôn ngữ học; chưa bao quát các thể loại văn vần (thơ ca, đồng dao), văn bản hành chính - pháp luật phức tạp, văn bản y khoa hoặc tài liệu khoa học kỹ thuật chuyên sâu.
- Dữ liệu đa phương thức: Mô hình chỉ đánh giá các yếu tố nội dung ngôn ngữ đơn thuần, chưa tích hợp đánh giá ảnh hưởng của các yếu tố đa phương thức (multimodal) như biểu đồ, sơ đồ minh họa, hình ảnh đi kèm văn bản.
- Đặc trưng ngữ dụng và dụng học: Chưa mô hình hóa trọn vẹn các cấu trúc ẩn dụ phức tạp, tính châm biếm, ngữ cảnh văn hóa sâu rộng hoặc phong cách cá nhân hóa của từng tác giả.
Chương trình nghiên cứu tương lai (Future Research Agenda):
- Mở rộng hệ thống ngữ liệu sang các miền chuyên ngành hẹp (khoa học tự nhiên, công nghệ, kinh tế, y tế, văn bản luật pháp).
- Ứng dụng các mô hình ngôn ngữ lớn tiên tiến (như GPT-4, LLaMA, PhoBERT v2, Gemini) với kỹ thuật Prompting và In-context Learning để tối ưu hóa việc phân tích ngữ nghĩa sâu.
- Phát triển công cụ tích hợp trực tiếp (Add-in / Extension) vào các phần mềm soạn thảo văn bản phổ biến (Microsoft Word, Google Docs, LibreOffice) tương tự tính năng Flesch Reading Ease cho tiếng Việt.
- Nghiên cứu cơ chế cá nhân hóa kết hợp giữa Độ khó của văn bản (Readability) và Khả năng đọc hiểu của từng nhóm đối tượng người đọc chuyên biệt (Comprehensibility).
Tác động và ảnh hưởng
Nghiên cứu tạo nên bước ngoặt trong cộng đồng khoa học máy tính và ngôn ngữ học tính toán tại Việt Nam:
- Tác động học thuật: Định hình lại các tiêu chuẩn đánh giá văn bản tiếng Việt, đóng góp nguồn ngữ liệu chuẩn mở (open benchmark corpora) thúc đẩy hàng loạt nghiên cứu tiếp nối về tóm tắt văn bản tự động, đơn giản hóa văn bản (text simplification), và sinh văn bản có kiểm soát độ khó.
- Chuyển đổi công nghiệp & EdTech: Cung cấp thuật toán lõi cho các nền tảng công nghệ giáo dục, ứng dụng đọc sách điện tử, hệ thống gợi ý bài đọc thông minh theo trình độ cá nhân hóa của học sinh.
- Hiệu quả xã hội: Hỗ trợ đắc lực cho công cuộc phổ cập tri thức, giúp chuẩn hóa tài liệu tuyên truyền chính sách của chính phủ sao cho phù hợp nhất với năng lực đọc hiểu của đại đa số quần chúng nhân dân.
Đối tượng hưởng lợi
- Nghiên cứu sinh & Nhà khoa học NLP: Tiếp cận tập ngữ liệu chuẩn hóa 2.195 văn bản và danh mục 262 đặc trưng ngôn ngữ học tính toán được trích xuất hoàn chỉnh làm baseline nghiên cứu.
- Hội đồng biên soạn Sách giáo khoa & Nhà giáo dục: Sử dụng công cụ định lượng chính xác để thẩm định độ khó của các bài đọc, đảm bảo phân phối độ khó khoa học, tăng dần theo từng cấp lớp học.
- Các nhà xuất bản & Cơ quan truyền thông: Kiểm soát chất lượng bản thảo, định vị chính xác phân khúc độc giả mục tiêu cho từng ấn phẩm.
- Người học tiếng Việt (Bản ngữ và Quốc tế): Tiếp cận nguồn tài liệu đọc được phân loại chính xác theo cấp độ năng lực ngôn ngữ tương thích với khung tham chiếu chuẩn (như CEFR hay Khung năng lực tiếng Việt 6 bậc).
Câu hỏi chuyên sâu
-
Đóng góp lý thuyết độc đáo nhất của luận án là gì? Trả lời: Luận án đã mở rộng lý thuyết Đánh giá Độ khó Văn bản trong Ngôn ngữ học Tính toán bằng cách chứng minh rằng đối với ngôn ngữ đơn lập, không biến hình như tiếng Việt, độ phức tạp của văn bản không thể chỉ đo bằng độ dài từ/câu mà phụ thuộc quyết định vào cấu trúc từ loại bản ngữ (từ ghép Hán-Việt, từ địa phương, hư từ phân loại) kết hợp với không gian ngữ nghĩa tiềm ẩn (latent semantic space) được nắm bắt qua mô hình Transformer.
-
Đột phá về mặt phương pháp luận so với các công bố quốc tế trước đây? Trả lời: So với các nghiên cứu quốc tế trên các ngôn ngữ thứ hai như Bruce & Jason (2020) cho tiếng Hàn hay Chatzipanagiotidis et al. (2021) cho tiếng Hy Lạp, luận án không chỉ dừng lại ở các bộ phân lớp truyền thống với đặc trưng thủ công mà tiên phong thiết kế kiến trúc học sâu lai hợp: kết hợp phân đoạn văn bản linh hoạt, trích xuất biểu diễn ngữ cảnh tầng sâu bằng BERT, tổng hợp ngữ cảnh chuỗi toàn cục bằng LSTM và ghép nối trực tiếp với vector 262 đặc trưng ngôn ngữ trích xuất tinh tuyển bằng thuật toán RFECV.
-
Phát hiện nào trong dữ liệu thực nghiệm mang tính bất ngờ nhất? Trả lời: Phát hiện bất ngờ nhất là việc mô hình học sâu hiện đại (BERT + LSTM) nếu không được bổ sung đặc trưng ngôn ngữ học truyền thống thì hiệu năng phân lớp thực tế thấp hơn một chút so với mô hình học máy truyền thống (SVM/RF) được tối ưu hóa đặc trưng bằng RFECV. Tuy nhiên, khi hợp nhất hai luồng biểu diễn này, mô hình đạt độ chính xác tối ưu vượt trội, chứng minh đặc trưng ngôn ngữ học tường minh vẫn đóng vai trò là "kim chỉ nam" nhận thức không thể thay thế hoàn toàn bởi các mạng nơ-ron hộp đen.
-
Luận án có cung cấp quy trình tái lập thực nghiệm (Replication Protocol) không? Trả lời: Luận án cung cấp chi tiết toàn bộ quy trình tái lập: từ 2 bộ ngữ liệu công khai (370 văn bản SGK và 1.825 văn bản VH-NNH), định nghĩa tường minh toán học của 262 đặc trưng, các tham số cấu hình mô hình học máy (kernel SVM, số cây Random Forest, n_splits trong Cross-Validation), đến cấu hình siêu tham số của mô hình học sâu (kích thước chunk, learning rate fine-tuning BERT, hidden units của LSTM).
-
Định hướng chương trình nghiên cứu 10 năm tiếp theo được phác thảo như thế nào? Trả lời: Luận án vạch ra lộ trình 10 năm phát triển bài toán độ khó văn bản tiếng Việt theo 3 giai đoạn: (1) Tích hợp công nghệ vào các hệ soạn thảo quốc gia; (2) Mở rộng thang đo đa phương thức và đa miền chuyên ngành kỹ thuật - y dược; (3) Kết hợp đo sóng não/theo dõi chuyển động mắt (Eye-tracking/EEG) trong quá trình đọc để hợp nhất hoàn hảo giữa Độ khó văn bản (Readability) và Năng lực lĩnh hội của não bộ người đọc (Comprehensibility).
Kết luận
Luận án "Xây dựng mô hình đánh giá độ khó của văn bản tiếng Việt" của tác giả Lương An Vinh đã ghi dấu mốc lịch sử trong lĩnh vực Khoa học Máy tính và Xử lý Ngôn ngữ Tự nhiên tiếng Việt với các đóng góp cốt lõi:
- Thiết lập hệ thống lý luận học thuật hoàn chỉnh, phân định rạch ròi bản chất khách quan của độ khó văn bản tiếng Việt và cơ chế tiếp nhận nhận thức của độc giả.
- Xây dựng và công bố công khai 2 bộ ngữ liệu chuẩn hóa đầu tiên về độ khó văn bản tiếng Việt với tổng quy mô 2.195 văn bản được thẩm định khoa học nghiêm ngặt.
- Khảo sát và xây dựng thành công bộ trích xuất toàn diện 262 đặc trưng ngôn ngữ đa tầng mức (bề mặt, từ vựng, cú pháp, ngữ nghĩa, mô hình ngôn ngữ và đặc thù bản ngữ tiếng Việt).
- Đề xuất công thức hồi quy thống kê mới tối ưu, đạt hệ số tương quan vượt trội so với các công thức cổ điển trong nước và quốc tế.
- Ứng dụng thành công thuật toán RFECV trên các mô hình phân lớp học máy truyền thống, đạt độ chính xác ấn tượng trên 96% trên ngữ liệu chuẩn sách giáo khoa.
- Thiết kế và thực nghiệm thành công kiến trúc học sâu lai hợp tiên phong kết hợp Fine-tuned BERT, LSTM và tích hợp vector đặc trưng ngôn ngữ, mở ra kỷ nguyên mới cho các bài toán xử lý văn bản tiếng Việt mức độ sâu.
Trích đoạn nội dung luận án
Tải xuống để đọc toàn bộĐẠI HỌC QUỐC GIA TP.HCM TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN LƯƠNG AN VINH XÂY DỰNG MÔ HÌNH ĐÁNH GIÁ ĐỘ KHÓ CUA VĂN BẢN TIENG VIỆT LUẬN ÁN TIEN SĨ KHOA HOC MAY TÍNH TP. Hồ Chí Minh — Năm 2023 _ ĐẠI HỌC QUỐC GIA TP.HCM _ TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN LƯƠNG AN VINH XÂY DỰNG MÔ HÌNH ĐÁNH GIÁ ĐỘ KHÓ CUA VĂN BẢN TIENG VIỆT Ngành: Khoa học Máy tính Mã số ngành: 62480101 Phản biện 1: PGS. Nguyễn Tuần Đăng Phản biện 2: PGS. Nguyễn Thanh Hiên Phản biện 3: PGS.
Nguyễn Ngọc Vũ Phản biện độc lập 1: PGS. Nguyễn Tuan Đăng Phản biện độc lập 2: PGS. Nguyễn Ngọc Vũ NGƯỜI HƯỚNG DẪN KHOA HỌC: PGS. ĐINH ĐIÈN TP.
Hồ Chí Minh — Năm 2023 LỜI CÁM ƠN Lời đầu tiên tôi xin gửi lời cảm ơn chân thành và biết ơn sâu sắc tới PGS. Dinh Điền, người thay đã chỉ bao và hướng dẫn tận tình cho tôi trong suốt quá trình nghiên cứu khoa học và thực hiện luận án này. Tôi xin chân thành cảm ơn sự giúp đỡ và góp ý rất nhiệt tình của tập thé giảng viên, cán bộ Khoa Công nghệ thông tin và Trung tâm Ngôn ngữ học Tính toán, Trường Đại hoc Khoa học Tự nhiên — Đại học Quốc gia Tp. Hồ Chí Minh.
Cuối cùng, tôi xin gửi lời cảm ơn tới gia đình, người thân và bạn bè — những người luôn ở bên tôi những lúc khó khăn nhât, luôn động viên tôi, khuyên khích tôi trong cuộc sông và trong công việc. Tôi xin chân thành cảm ơn! ii LỜI CAM ĐOAN Tôi xin cam đoan luận án này được hoàn thành trên cơ sở nghiên cứu, tông hợp và phát triển các nghiên cứu đánh giá độ khó của các văn bản trong nước và trên thế giới do tôi thực hiện đưới sự hướng dẫn của PGS. Tat cả các tài liệu tham khảo đều được nêu rõ nguồn gốc một cách rõ ràng trong Danh mục tài liệu tham khảo. Các công trình công bồ là trung thực và chưa được ai công bé trong bat kỳ công trình nào khác.
Ký tên Lương An Vinh iii 8/9000. iii MUC LUC DANH MỤC CÁC KY HIỆU, CÁC CHỮ VIET TÁTT. viii DANH MỤC CAC HINH VE, DO THI. TOM TAT LUẬN AN.
Độ khó cua văn bản. Các nghiên cứu về độ khó của văn bản 1. Hướng tiếp cận thống kê. Hướng tiếp cận máy học.
Mục tiêu và phạm vi của lUẬH đhH.- th HH HH HT26 1. Đối tượng nghiên cứu. Nội dung luận án. Phạm vi nghiên CỨU.
Đóng góp của lUẬN đH. BO cục luận đn.--cccccceS2EEEEtrtthHHHHH ae 30 D6. Tig Ket nh. CƠ SỞ LÝ THUYET VE ĐỘ KHO CUA VAN BẢN.
DO KN6 CUA VGN DAN n4. Các yếu tổ ngôn ngữ ảnh hưởng đến độ khó của văn bản. Yếu tố từ. Yếu tổ câu 2.
Yếu tố van bản. Các hướng tiếp cận đánh giá độ khó văn bản tự động. Đánh giá độ khó van bản theo hướng tiếp cận thống kê. Đánh giá độ khó theo hướng tiếp cận máy học.
HH giờ 63 CHUONG 3. MÔ HÌNH ĐÁNH GIA ĐỘ KHÓ VAN BẢN TIENG VIỆT. Các AGC IFƯHg. St TH HH ngư64 3.
Đánh giá độ khó văn bản tiếng Việt theo hướng tiếp cận thống kê. Phân tích tương quan. Phân tích hdi quy. Đánh giá độ khó văn bản tiếng Việt theo hướng tiếp cận máy học, sử dung các thuật toán phân lớp truyền thống.
Mô hình đánh giá độ khó văn ban sử dụng kỹ thuật học sâu. Tach đoạn văn ban. Tinh chỉnh BERT. Tổng hợp vector văn bản và phân lớp.
Tích hợp đặc trưng ngôn ngữ vào mô hình. THỰC NGHIỆM VÀ ĐÁNH GIÁ. Xây dựng ngữ liỆM. ST St St SH 89 4.
Thu thập ngữ liệu độ khó văn ban từ sách giáo khoa tiếng Viét. Xây dựng ngữ liệu độ khó của các văn bản lĩnh vực văn học và ngôn ngữ hỌc. Tiền xử lý va gán nhãn ngữ liệu. Thống kê và gom nhóm ngữ liệu.
Rút trích đặc trưng 4. Phương pháp đánh giá 4. St ST TT HH TII 4. Công thức đo độ khó văn bản tiếng Việt.
Đánh giá độ khó văn bản theo hướng tiếp cận máy học, sử dụng các thuật toán phân lớp truyền thống. Đánh giá độ khó văn bản sử dụng kỹ thuật học sâu. So sánh với các nghiên cứu khác .--- + s es+x+x+x+vzervxexex 127 AS. TiGU KE na.
KET LUẬN VA HƯỚNG PHAT TRIÊN.------- 135 DANH MỤC CONG TRINH CONG BO CUA TÁC GIẢ.-- 142 DANH MUC TAI LIEU THAM KHAO. PHU LUC DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ VIET TAT STT Từ viết tắt Tên đầy đủ 1 | SVM Support Vector Machine 2 | TF-IDF Term Frequency - Inverse Document Frequency 3 | CEFR Common European Framework of Reference 4 | PoS Part-of-Speech 5 | NE Named-Entity 6 | NB Naive Bayes 7 |KNN K-nearest neighbors 8 | RF Random Forest 9 | RFECV Recursive Feature Elimination with Cross-Validation 10 | BERT Bidirectional Encoder Representations from Transformers 11 | LSTM Long short-term memory 12 | OCR Optical Character Recognition 13 ¡SGK Sách giáo khoa 14 | VH-NNH_| Van học — Ngôn ngữ học Vii DANH MỤC CÁC BẢNG Bang 1.1: Các đặc trưng và hệ số tinh Syntactic Density Score - SDS.2: Quy đổi từ SDS sang độ khó văn bản.3: Tổng hợp một số nghiên cứu về độ khó văn bản.1: So sánh Khả năng hiểu văn bản và Độ phức tạp của văn bản.1: Thống kê ngữ liệu SGK.2: Thống kê ngữ liệu SGK (gom nhóm theo 3 cấp học).3: Thống kê ngữ liệu VH-NNH.4: Hệ số tương quan của các đặc trưng với độ khó của van bản 12 Bảng 4.5: Hệ số tương quan của các công thức đo độ khó 114 Bang 4.6: Các đặc trưng cho kết quả tốt nhất trên bộ ngữ liệu SGK.7: Các đặc trưng tốt nhất trên ngữ liệu SGK - với đặc trưng độ dài.8: Kết quả đánh giá trên bộ ngữ liệu SGK.9: Danh sách đặc trưng của thuật toán RF - ngữ liệu VH-NNH.10: Kết quả đánh giá trên bộ ngữ liệu VH-NNH.11: Thông tin cầu hình của mô hình học sâu.12: Kết quả của mô hình học sâu, so sánh với các mô hình khác.13: Hệ số tương quan của các công thức đo độ khó.14: So sánh các mô hình máy học của luận án với các nghiên cứu khác. 133 viii DANH MỤC CÁC HÌNH VẼ, ĐÒ THỊ Hình 1.1: Ví dụ về văn bản dé và văn bản khó.2: Minh họa sự khác biệt giữa độ khó văn bản và khả năng đọc hiểu.1: Ví dụ về tính dé nhìn của văn bản. 2-52-5222 ++2Ec2EEEEEerEkerrxerree 36 Hình 2.2: Các hướng nghiên cứu về sự phù hợp giữa văn bản và người đọc.3: Khung tham chiếu trình độ ngôn ngữ chung của châu Âu CEER.4: Độ khó của văn bản được tích hợp trong công cụ Microsoft Word.5: Minh họa siêu phẳng, margin trong SVM.6: Minh họa thuật toán KNN với k đối tượng khác nhau.7: Minh họa thuật toán Random Forest.1: Hệ số tương quan biểu thị trên đồ thị phân tán Scatter.2: Biểu diễn phương trình hồi quy tuyến "0 .3: Minh họa các dang hàm hỏi quy phi tuyến.------cc+-222cvsve 7I Hình 3.4: Mô hình lựa chọn đặc trưng dựa trên thuật toán RFECV.5: Sự khác biệt giữa câu trúc của BERT, OpenAI GPT và ELMo.6: Mô hình đánh giá độ khó của văn bản sử dung BERT.7: Mô hình ngôn ngữ mặt nạ của BERÌT.8: Vector của token [CLS] được dùng như vector đại diện cho đoạn văn.9: Mô hình phân lớp sử dụng LSTM.10: Mô hình đề xuất, sử dung BERT và tích hợp đặc trưng ngôn ngữ.1: Quá trình xây dựng ngữ liệu đánh giá độ khó van bản.2: Thực nghiệm thuật toán RFECV trên bộ ngữ liệu SGK.3: Thực nghiệm thuật toán RFECV sử dụng thêm 6 đặc trưng độ dai.4: Thực nghiệm thuật toán RFECV trên ngữ liệu VH-NNH.
122 ix TOM TAT LUẬN ÁN Độ khó của văn bản là hệ thống các yếu tố ngôn ngữ của nội tại văn bản ảnh hướng đến tính dễ đọc hay khó đọc của một văn bản. Các nghiên cứu về độ khó đã được bắt đầu từ lâu, nhưng hau hết các nghiên cứu đó đều được thực hiện trên tiếng Anh và một số ngôn ngữ phô biến trên thế giới. Trong tiếng Việt, trước đây chỉ có hai công trình nghiên cứu về Độ khó của văn bản, thực hiện trên hai bộ ngữ liệu khá nhỏ. Chính vì thế, rất cần có thêm các công trình nghiên cứu khác về độ khó của văn bản tiếng Việt thực hiện trên các bộ ngữ liệu cập nhật hơn, lớn hơn và trên các đặc trưng sâu hơn của văn bản như vai trò của từ, ngữ, cầu trúc ngữ pháp, ngữ nghĩa của cau.
Luận án đã xây dựng 2 bộ ngữ liệu dùng đề khảo sát và thực nghiệm đánh giá độ khó văn bản tiếng Việt, gồm: (1) Bộ ngữ liệu 370 văn bản thu thập từ sách giáo khoa tiếng Việt và Ngữ văn; và (2) Bộ ngữ liệu 1.825 văn bản thuộc lĩnh vực văn học và ngôn ngữ học. Đây là 2 bộ ngữ liệu lớn và công khai đầu tiên về độ khó văn bản trong tiếng Việt. Luận án đã khảo sát 262 đặc trưng được trích xuất từ các văn bản này để xây dựng các công thức, các mô hình đánh giá độ khó văn bản. Các đặc trưng này được thuộc nhiều cấp độ của văn bản như các đặc trưng ở mức bề mặt (độ dài câu, độ dài từ, .), các đặc trưng về tần suất từ và tần suất chữ, các đặc trưng ở cấp độ ngữ pháp mức từ, mức câu, các đặc trưng thuộc về mô hình ngôn ngữ, các đặc trưng đơn giản ở cấp độ ngữ nghĩa và các đặc trưng của riêng tiếng Việt (như tỉ lệ từ mượn, tỉ lệ phương ngữ).
Luận án cũng đã giới thiệu 3 mô hình đánh giá độ khó văn bản tiếng Việt theo từng hướng tiếp cận: Với hướng tiếp cận thống kê, luận án đã thực hiện phân tích tương quan dé chọn ra những đặc trưng có tương quan cao nhất với độ khó của văn bản, sau đó thực hiện phân tích hồi quy với một số cải tiến khi thực nghiệm để xây dựng công thức tính độ khó văn bản tiếng Việt. Kết quả cho thấy công thức mới được xây dựng có độ tương quan với độ khó văn bản vượt trội so với tất cả các nghiên cứu khác. Với hướng tiếp cận máy học, luận án đã đề xuất sử dụng thuật toán RFECV dé tự động chọn ra các đặc trưng có đóng góp tốt vào các mô hình máy học đánh giá độ khó văn bản dùng các thuật toán phân lớp truyền thống. Nhờ đó, mô hình mà luận án xây dựng đã đạt độ chính xác cao so với các nghiên cứu trước đây.
Ngoài ra, luận án cũng đề xuất một mô hình học sâu đề phân lớp văn bản theo độ khó dựa trên mô hình ngôn ngữ tiền huấn luyện BERT và mạng LSTM.
Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ
Trích dẫn luận án này
Lương An Vinh (2023). Mô hình đánh giá độ khó văn bản tiếng Việt bằng máy học [Luận án tiến sĩ, trường đại học khoa học tự nhiên - đại học quốc gia tp.hcm]. LuanAn.net. https://luanan.net/cong-nghe-thong-tin/khoa-hoc-may-tinh/xay-dung-mo-hinh-danh-gia-do-kho-van-ban-tieng-viet
Từ khóa và chủ đề nghiên cứu
Từ khóa liên quan
Xem thêm luận án cùng lĩnh vực
Chủ đề nghiên cứu
Câu hỏi thường gặp
Luận án "Mô hình đánh giá độ khó văn bản tiếng Việt bằng máy học" nghiên cứu về vấn đề gì?
Luận án tiến sĩ xây dựng mô hình đánh giá độ khó văn bản tiếng Việt. Áp dụng BERT, SVM, Random Forest để phân lớp tự động từ dữ liệu sách giáo khoa.
Luận án "Mô hình đánh giá độ khó văn bản tiếng Việt bằng máy học" được bảo vệ tại trường nào?
Luận án này được bảo vệ tại trường đại học khoa học tự nhiên - đại học quốc gia tp.hcm. Năm bảo vệ: 2023.
Luận án "Mô hình đánh giá độ khó văn bản tiếng Việt bằng máy học" thuộc chuyên ngành gì?
Luận án "Mô hình đánh giá độ khó văn bản tiếng Việt bằng máy học" thuộc chuyên ngành Khoa học Máy tính. Danh mục: Khoa Học Máy Tính.
Luận án "Mô hình đánh giá độ khó văn bản tiếng Việt bằng máy học" có bao nhiêu trang?
Luận án "Mô hình đánh giá độ khó văn bản tiếng Việt bằng máy học" có 176 trang. Bạn có thể xem trước một phần tài liệu ngay trên trang web trước khi tải về.
Cách tải luận án "Mô hình đánh giá độ khó văn bản tiếng Việt bằng máy học" về máy như thế nào?
Để tải luận án về máy, bạn nhấn nút "Tải xuống ngay" trên trang này, sau đó hoàn tất thanh toán phí lưu trữ. File sẽ được tải xuống ngay sau khi thanh toán thành công. Hỗ trợ qua Zalo: 0559 297 239.