Tổng quan về luận án

Luận án tiến sĩ này đặt trọng tâm vào việc phát triển các mô hình đọc hiểu tự động (Machine Reading Comprehension - MRC) và hỏi đáp tự động (Question Answering - QA) cho văn bản tiếng Việt, một lĩnh vực then chốt trong xử lý ngôn ngữ tự nhiên (Natural Language Processing - NLP) và trí tuệ nhân tạo (Artificial Intelligence - AI). Nghiên cứu giải quyết một khoảng trống đáng kể trong tài nguyên ngôn ngữ: "tiếng Việt là một ngôn ngữ có ít tài nguyên (ngôn ngữ có ít các bộ dữ liệu có kích thước lớn và chất lượng được công bố rộng rãi và phục vụ cho nghiên cứu) cần được khám phá và nghiên cứu trong NLP nhiều hơn" (tr. 1). Sự thiếu hụt này gây ra rào cản lớn trong việc áp dụng các tiến bộ từ các ngôn ngữ giàu tài nguyên như tiếng Anh và tiếng Trung vào tiếng Việt.

Khoảng trống nghiên cứu cụ thể được xác định là sự vắng mặt của các bộ ngữ liệu MRC chất lượng cao và các mô hình MRC/QA tối ưu hóa cho các đặc thù ngôn ngữ tiếng Việt. Trong khi các bộ ngữ liệu quốc tế như SQuAD (Rajpurkar et al., 2016) đã thúc đẩy đáng kể sự phát triển của MRC trên tiếng Anh, câu hỏi đặt ra là liệu các phương pháp tiên tiến trên tiếng Anh có tương tự hiệu quả trên tiếng Việt hay không, một ngôn ngữ có cấu trúc và ngữ pháp khác biệt. Luận án này tiên phong xây dựng nền tảng ngữ liệu và mô hình để khắc phục thách thức này.

Các câu hỏi nghiên cứu chính mà luận án tìm cách trả lời bao gồm:

  1. Làm thế nào để xây dựng các bộ ngữ liệu đọc hiểu tự động chất lượng cao, đa dạng và có kích thước lớn cho văn bản tiếng Việt, bao gồm cả các câu hỏi không thể trả lời được?
  2. Làm thế nào để thiết kế và phát triển một mô hình đọc hiểu tự động (MRC) hiệu quả cho tiếng Việt, tích hợp các mô hình ngôn ngữ lớn (Large Language Models - LLMs) và cơ chế truy xuất minh chứng (Evidence Extraction)?
  3. Làm thế nào để tích hợp các kỹ thuật MRC tiên tiến vào việc xây dựng các hệ thống hỏi đáp tự động (QA) hiệu suất cao cho văn bản tiếng Việt?

Khung lý thuyết của luận án được xây dựng dựa trên các lý thuyết nền tảng về Hiểu ngôn ngữ tự nhiên (Natural Language Understanding - NLU), Học chuyển tiếp (Transfer Learning) và kiến trúc Transformer. Nghiên cứu khai thác mạnh mẽ tiềm năng của các Mô hình ngôn ngữ lớn (LLMs) được huấn luyện trước như BERT (Devlin et al., 2018), XLM-RoBERTa (Conneau et al., 2020) và PhoBERT (Nguyen et al., 2020) để chuyển giao tri thức từ các ngôn ngữ giàu tài nguyên hoặc ngữ liệu không được gán nhãn lớn sang nhiệm vụ cụ thể trên tiếng Việt.

Luận án đưa ra ba đóng góp đột phá chính:

  1. Xây dựng Bộ Ngữ liệu Tiếng Việt Tiên phong: Đã tạo ra và công bố các bộ ngữ liệu MRC tiếng Việt có kích thước lớn và chất lượng cao, bao gồm UIT-ViQuAD (phiên bản 1.0 và 2.0), UIT-ViNewsQA và UIT-ViWikiQA. Đặc biệt, UIT-ViQuAD 2.0 bao gồm các câu hỏi không thể trả lời được, nâng cao độ khó và thực tế cho việc đánh giá mô hình.
  2. Đề xuất Mô hình ViReader Tích hợp Truy xuất Minh chứng: Phát triển ViReader và ViReader+, các mô hình MRC sử dụng kiến trúc Transformer và tích hợp cơ chế truy xuất minh chứng, chứng minh hiệu quả vượt trội không chỉ trên tiếng Việt mà còn trên cả tiếng Anh và tiếng Trung.
  3. Phát triển Hệ thống QA XLMRQA và ViQAS: Xây dựng các mô hình hỏi đáp tiên tiến XLMRQA và ViQAS cho tiếng Việt, tận dụng sức mạnh của các MHNN và kỹ thuật MRC đã phát triển.

Phạm vi nghiên cứu tập trung vào đọc hiểu tự động có câu trả lời được rút trích trực tiếp từ văn bản (Span-based MRC) trên cả miền mở (Wikipedia tiếng Việt) và miền đóng (tin tức sức khỏe tiếng Việt). Ý nghĩa của luận án rất lớn, không chỉ giúp cộng đồng nghiên cứu NLP tiếng Việt đánh giá và phát triển các mô hình NLU mà còn thúc đẩy ứng dụng thực tế trong các hệ thống hỏi đáp, công cụ tìm kiếm và trợ lý ảo tiếng Việt.

Literature Review và Positioning

Lịch sử của đọc hiểu tự động (MRC) đã trải qua gần năm thập kỷ, từ những mô hình dựa trên quy tắc thủ công của Charniak (1972) và Lehnert (1977) đến các phương pháp học máy giám sát hiện đại (Richardson et al., 2013). Sự ra đời của các bộ ngữ liệu quy mô lớn như SQuAD (Rajpurkar et al., 2016) với 107.785 câu hỏi trên 536 bài báo Wikipedia, đã tạo ra một bước ngoặt, thúc đẩy sự phát triển của các mô hình học sâu và kiến trúc Transformer.

Luận án tổng hợp các luồng nghiên cứu chính:

  • MRC dựa trên quy tắc/đặc trưng: Các nghiên cứu ban đầu như QUALM (Lehnert, 1977) và DEEP READ (Hirschman et al., 1999) sử dụng các quy tắc thủ công hoặc so khớp mẫu. Mặc dù có những đóng góp nhất định (ví dụ, DEEP READ++ đạt 41% độ chính xác), các mô hình này hạn chế về quy mô và tính tổng quát.
  • MRC dựa trên mạng nơ-ron truyền thống: Từ năm 2013-2015, sự xuất hiện của MCTest (Richardson et al., 2013) và các bộ ngữ liệu lớn hơn như CNN/Daily Mail (Hermann et al., 2015) đã mở đường cho các mô hình dựa trên LSTM và cơ chế attention như Attentive Reader (Hermann et al., 2015) và Stanford Attentive Reader (Chen et al., 2016). Các mô hình này cho thấy khả năng nhận dạng suy luận tốt hơn, với Stanford Attentive Reader đạt độ chính xác lên đến 72,4% trên CNN và 75,8% trên Daily Mail.
  • MRC tích hợp Mô hình ngôn ngữ lớn (LLMs): Sau năm 2018, kiến trúc Transformer (Vaswani et al., 2017) và các LLMs như BERT (Devlin et al., 2018) đã cách mạng hóa NLP. Các mô hình này đã vượt qua hiệu suất con người trên SQuAD, với BERT đạt F1 lên đến 93,2% so với 89,0% của con người. Điều này chứng tỏ hiệu quả vượt trội của việc học chuyển tiếp và biểu diễn từ theo ngữ cảnh.

Tuy nhiên, có những mâu thuẫn và tranh luận quan trọng. Một mặt, các mô hình LLM chứng minh khả năng xử lý vượt trội trên các ngôn ngữ giàu tài nguyên (Devlin et al., 2018; Conneau et al., 2020). Mặt khác, câu hỏi đặt ra là "Liệu rằng các phương pháp đọc hiểu tự động tiên tiến giải quyết những thách thức đọc hiểu trên tiếng Anh có tương tự như trên các ngôn ngữ ít tài nguyên khác không?" (tr. 14). Các phương pháp dựa trên đặc trưng ngôn ngữ truyền thống thường phụ thuộc vào độ chính xác của các công cụ NLP cơ bản, vốn là một thách thức đối với tiếng Việt.

Luận án này định vị mình là một trong những nghiên cứu tiên phong giải quyết khoảng trống này bằng cách tập trung vào tiếng Việt. Nghiên cứu không chỉ kế thừa các thành công của SQuAD mà còn "tạo cảm hứng cho NCS trong việc phát triển và xây dựng ngữ liệu đọc hiểu tự động tiếng Việt" (tr. 2-3). Bằng cách đề xuất các bộ ngữ liệu và mô hình MRC/QA cụ thể cho tiếng Việt, luận án thúc đẩy lĩnh vực NLU tiếng Việt, vốn còn "ít tài nguyên cho nghiên cứu" (tr. 14).

So sánh với ít nhất 2 nghiên cứu quốc tế:

  1. SQuAD (Rajpurkar et al., 2016): Luận án lấy cảm hứng từ SQuAD để xây dựng UIT-ViQuAD. SQuAD là một bộ ngữ liệu tiếng Anh lớn (107.785 câu hỏi) tập trung vào văn bản Wikipedia và định nghĩa span-based MRC. Luận án mở rộng ý tưởng này cho tiếng Việt, nhưng cũng đối mặt với thách thức đặc thù của ngôn ngữ ít tài nguyên và phát triển UIT-ViQuAD 2.0 với các câu hỏi không trả lời được, tương tự như SQuAD 2.0 (Rajpurkar et al., 2018).
  2. CMRC (Cui et al., 2019): Đây là bộ ngữ liệu tiếng Trung cho MRC, cũng được tạo ra dựa trên các bài viết Wikipedia, với khoảng 20.000 câu hỏi do người tạo. Nghiên cứu này tương đồng với luận án về mục tiêu xây dựng ngữ liệu cho một ngôn ngữ không phải tiếng Anh, nhưng tiếng Việt có những đặc trưng riêng (ví dụ: không có khoảng trắng giữa các từ, từ loại phức tạp) đòi hỏi các phương pháp xử lý ngôn ngữ khác.
  3. KorQuAD (Lim et al., 2019) và JaQuAD (So et al., 2022): Các bộ ngữ liệu tiếng Hàn và tiếng Nhật này cũng là nỗ lực tương tự trong việc tạo tài nguyên cho MRC/QA ở các ngôn ngữ châu Á. Luận án chia sẻ mục tiêu chung là cung cấp ngữ liệu và mô hình cho ngôn ngữ ít tài nguyên, nhưng tập trung vào tiếng Việt với các cấu trúc ngôn ngữ và thách thức xử lý khác biệt so với tiếng Hàn và tiếng Nhật.

Bằng cách này, luận án không chỉ lấp đầy khoảng trống tài nguyên cho tiếng Việt mà còn đóng góp vào việc kiểm định và mở rộng các khung lý thuyết MRC/QA trên ngữ cảnh đa ngôn ngữ, đặc biệt cho các ngôn ngữ ít tài nguyên.

Đóng góp lý thuyết và khung phân tích

Đóng góp cho lý thuyết

Luận án này đóng góp đáng kể vào việc mở rộng và kiểm định các lý thuyết về Đọc hiểu tự động (MRC) và Hỏi đáp tự động (QA), đặc biệt trong bối cảnh các ngôn ngữ ít tài nguyên.

  • Mở rộng lý thuyết Học chuyển tiếp (Transfer Learning) và MHNN đa ngôn ngữ/đơn ngôn ngữ: Luận án kiểm chứng và mở rộng khả năng ứng dụng của các MHNN lớn như BERT (Devlin et al., 2018), XLM-RoBERTa (Conneau et al., 2020) và PhoBERT (Nguyen et al., 2020) trong việc giải quyết các bài toán NLU phức tạp cho tiếng Việt. Cụ thể, nghiên cứu đã chứng minh rằng các mô hình đa ngôn ngữ được huấn luyện trên "2,5 TB văn bản từ 100 ngôn ngữ bao gồm cả tiếng Việt" (Conneau et al., 2020, tr. 21) như XLM-R, có thể được tinh chỉnh (fine-tuned) hiệu quả cho các nhiệm vụ MRC/QA tiếng Việt, làm giảm sự phụ thuộc vào ngữ liệu tiếng Việt được gán nhãn dồi dào. Đồng thời, luận án cũng đánh giá vai trò của các mô hình đơn ngữ như PhoBERT, cung cấp bằng chứng thực nghiệm về việc khi nào mô hình đơn ngữ vượt trội hoặc bổ sung cho mô hình đa ngữ trong các tác vụ NLU tiếng Việt cụ thể.
  • Thách thức và Mở rộng khung Lý thuyết Retriever-Reader: Kế thừa từ mô hình DrQA (Chen et al., 2017) và các nghiên cứu sau này (BERTserini [10], ORQA [11]), luận án đã thiết kế và triển khai một khung hỏi đáp Retriever-Reader được tối ưu hóa cho tiếng Việt. Điều này mở rộng lý thuyết về cách các thành phần truy xuất văn bản (Retriever) và đọc hiểu văn bản (Reader) tương tác và đóng góp vào hiệu quả tổng thể trong một ngôn ngữ có các đặc điểm riêng biệt (như từ ghép, không có khoảng trắng rõ ràng giữa các từ). Luận án còn khám phá sự ảnh hưởng của "các thành phần đóng góp vào mô hình hỏi đáp tiếng Việt đề xuất" (Bảng 5.5, Chương 5) và các "tham số của truy vấn văn bản và đọc hiểu văn bản để chọn câu trả lời" (Bảng 5.6, Chương 5), cung cấp cái nhìn sâu sắc về các yếu tố quyết định hiệu suất trong mô hình Retriever-Reader cho tiếng Việt.
  • Đóng góp vào Lý thuyết về Xây dựng Ngữ liệu cho Ngôn ngữ ít tài nguyên: Bằng cách xây dựng các bộ ngữ liệu như UIT-ViQuAD (1.0, 2.0), UIT-ViNewsQA, và UIT-ViWikiQA, luận án cung cấp một khuôn khổ thực nghiệm về cách tạo ra ngữ liệu chất lượng cao thông qua "quy trình xây dựng ngữ liệu nghiêm ngặt" và phương pháp "gia công dữ liệu (Crowd-sourcing)" cho một ngôn ngữ ít tài nguyên. Việc đưa vào "câu hỏi không trả lời được" trong UIT-ViQuAD 2.0 cũng là một đóng góp quan trọng, thúc đẩy nghiên cứu về khả năng suy luận và nhận biết giới hạn của mô hình, điều vốn rất quan trọng trong các ứng dụng thực tế.

Khung phân tích độc đáo

Khung phân tích của luận án tích hợp sâu rộng các lý thuyết và phương pháp hiện đại để giải quyết bài toán MRC/QA cho tiếng Việt.

  • Tích hợp đa lý thuyết: Khung này tích hợp Học chuyển tiếp (Transfer Learning) bằng cách sử dụng các mô hình ngôn ngữ lớn (LLMs) được huấn luyện trước (ví dụ: BERT, XLM-R, SBERT) làm xương sống cho các mô hình của luận án. Nó kết hợp các lý thuyết về Kiến trúc Transformer (Vaswani et al., 2017) để biểu diễn ngữ cảnh và cơ chế chú ý (attention mechanism) để tập trung vào các phần quan trọng của văn bản. Ngoài ra, nó lồng ghép lý thuyết về hệ thống hỏi đáp Retriever-Reader (Chen et al., 2017) để xử lý các tập văn bản lớn.
  • Tiếp cận phân tích độc đáo (Novel Analytical Approach): Luận án đề xuất một cách tiếp cận phân tích hai giai đoạn độc đáo:
    1. Xây dựng Ngữ liệu Thách thức: Không chỉ tạo ra ngữ liệu đọc hiểu cơ bản, luận án còn mở rộng UIT-ViQuAD để bao gồm "câu hỏi không trả lời được" (unanswerable questions) thông qua "quá trình chuyển đổi tự động câu trả lời cấp độ chuỗi sang cấp độ câu" (Thuật toán 3.1, Chương 3). Điều này buộc các mô hình phải học cách phân biệt giữa các câu hỏi có thể trả lời và không thể trả lời, một khía cạnh quan trọng của NLU thực tế.
    2. Mô hình tích hợp Truy xuất Minh chứng (ViReader): Mô hình ViReader được thiết kế để tích hợp chặt chẽ mô hình truy xuất minh chứng (Evidence Extractor) và mô hình trích xuất câu trả lời (Answer Extractor), dựa trên kiến trúc Transformer. Việc "phân tích kết quả theo loại câu hỏi trên đọc hiểu tự động Wikipedia tiếng Việt" (Bảng 5.7, Chương 5) và "phân tích lược bỏ các thành phần đóng góp của mô hình truy xuất văn bản đề xuất" (Bảng 5.5, Chương 5) cung cấp một cái nhìn định lượng về hiệu quả của từng thành phần, cho phép tinh chỉnh sâu hơn cho tiếng Việt.
  • Đóng góp khái niệm (Conceptual Contributions):
    • Định nghĩa lại MRC cho Ngôn ngữ ít tài nguyên: Luận án định nghĩa một cách rõ ràng các loại ngữ liệu và mô hình MRC phù hợp cho tiếng Việt, cung cấp một "định nghĩa 1: Bài toán đọc hiểu tự động có thể mô hình hóa dựa trên học máy có giám sát" (tr. 15) và "định nghĩa 2: Bộ dữ liệu đọc hiểu tự động" (tr. 15) trong bối cảnh này.
    • Phân loại Thách thức ngôn ngữ tiếng Việt: Nghiên cứu phân tích "những ảnh hưởng của các khía cạnh ngôn ngữ tiếng Việt đến mô hình đọc hiểu" (Chương 4.4), làm rõ các thách thức cụ thể mà tiếng Việt đặt ra (ví dụ: cấu trúc từ ghép, ngữ pháp linh hoạt) đối với các mô hình NLU.
  • Điều kiện biên rõ ràng (Boundary Conditions Explicitly Stated): Nghiên cứu giới hạn phạm vi trên "đọc hiểu tự động có câu trả lời được rút trích trực tiếp từ văn bản tiếng Việt trên cả miền mở (các bài viết trên Wikipedia tiếng Việt) và miền đóng (các tin tức về sức khỏe)" (tr. 5). Điều này cho phép tập trung sâu vào các thách thức cốt lõi của MRC span-based trong các miền dữ liệu cụ thể, và cung cấp một cơ sở rõ ràng cho các nghiên cứu trong tương lai về các dạng MRC khác hoặc các miền dữ liệu khác.

Phương pháp nghiên cứu tiên tiến

Thiết kế nghiên cứu

Thiết kế nghiên cứu của luận án theo triết lý thực chứng (positivism), tập trung vào việc xây dựng, kiểm thử và đánh giá định lượng các mô hình dựa trên dữ liệu thực nghiệm để tìm kiếm các quy luật và kết quả có thể khái quát hóa. Mục tiêu là đạt được "độ chính xác cao cho văn bản tiếng Việt" (tr. 5) thông qua các thử nghiệm có kiểm soát.

Nghiên cứu áp dụng thiết kế phương pháp hỗn hợp (mixed methods) một cách ngầm hiểu, nơi việc xây dựng ngữ liệu (phần lớn dựa trên quy trình thủ công và gia công dữ liệu) kết hợp với các phương pháp định lượng nghiêm ngặt để huấn luyện và đánh giá mô hình. Mặc dù không phải mixed methods theo nghĩa truyền thống của khoa học xã hội, sự kết hợp giữa việc tạo ra dữ liệu chất lượng cao (một quá trình tốn công và đòi hỏi hiểu biết sâu về ngôn ngữ) và việc áp dụng các kỹ thuật học máy tiên tiến để giải quyết bài toán là một sự kết hợp mạnh mẽ.

Thiết kế nhiều cấp độ (multi-level design) không được nêu rõ ràng trong văn bản gốc, nhưng có thể suy luận thông qua việc kiểm tra mô hình trên nhiều cấp độ khác nhau:

  • Cấp độ ngữ liệu: Các bộ ngữ liệu khác nhau như UIT-ViQuAD (Wikipedia, miền mở), UIT-ViNewsQA (tin tức sức khỏe, miền đóng), và UIT-ViWikiQA (cấp độ câu) cung cấp các bối cảnh và thách thức đa dạng.
  • Cấp độ tác vụ: Nghiên cứu giải quyết cả bài toán đọc hiểu tự động (MRC) và hỏi đáp tự động (QA), với MRC là thành phần cốt lõi của QA hiện đại.
  • Cấp độ mô hình: Các mô hình cơ sở (rule-based, feature-based, traditional neural networks) được so sánh với các mô hình tích hợp LLMs (ViReader, XLMRQA, ViQAS), cho phép đánh giá sự tiến bộ của các phương pháp.

Kích thước mẫu và tiêu chí lựa chọn chính xác:

  • Ngữ liệu:
    • UIT-ViQuAD: Lấy cảm hứng từ SQuAD 1.1, phiên bản 1.0 có khoảng 107.000 câu hỏi trên 536 bài báo Wikipedia. Phiên bản 2.0 mở rộng với "hơn 50.000 câu hỏi không thể trả lời được" (tr. 25), tạo ra một bộ ngữ liệu đầy thách thức.
    • UIT-ViNewsQA: Tương tự NewsQA, bao gồm khoảng 119.633 câu hỏi trên 12.744 tin bài từ trang tin tức CNN.
    • UIT-ViWikiQA: Là bộ ngữ liệu đọc hiểu tự động cấp độ câu (Chapter 3.3).
    • Kích thước tổng hợp: Hàng trăm nghìn cặp câu hỏi-văn bản-câu trả lời.
  • Tiêu chí lựa chọn: Các câu hỏi được tạo "hoàn toàn bởi người" (tr. 13), và câu trả lời là "một chuỗi các từ liên tục trong các văn bản" (span-based). Các bài báo Wikipedia và tin tức sức khỏe được chọn làm nguồn dữ liệu để đại diện cho miền mở và miền đóng.

Quy trình nghiên cứu nghiêm ngặt

Chiến lược lấy mẫu: Ngữ liệu được thu thập và tạo ra thông qua quy trình gia công dữ liệu (Crowd-sourcing), một phương pháp tiêu chuẩn trong xây dựng ngữ liệu lớn (Rajpurkar et al., 2016; Cui et al., 2019).

  • Tiêu chí bao gồm/loại trừ: Không được nêu rõ ràng, nhưng việc chọn Wikipedia và tin tức CNN ngụ ý chọn văn bản thông tin khách quan, đa dạng chủ đề và có cấu trúc rõ ràng. Các câu hỏi được thiết kế để có câu trả lời rõ ràng trong văn bản hoặc không có câu trả lời (trong trường hợp UIT-ViQuAD 2.0).
  • Giao thức thu thập dữ liệu: Quy trình xây dựng ngữ liệu "nghiêm ngặt" (tr. 6) bao gồm việc người tạo ngữ liệu đặt câu hỏi và trích xuất câu trả lời, đảm bảo chất lượng và tính phù hợp. "Công cụ tạo ngữ liệu đọc hiểu trên văn bản tiếng Việt" (Hình 3.3, Chương 3) được sử dụng để chuẩn hóa quy trình.

Triangulation: Mặc dù không nêu tên, nghiên cứu sử dụng nhiều hình thức triangulation:

  • Triangulation dữ liệu: Sử dụng nhiều bộ ngữ liệu khác nhau (UIT-ViQuAD, UIT-ViNewsQA, UIT-ViWikiQA) từ các miền khác nhau (Wikipedia, tin tức sức khỏe) để kiểm tra tính tổng quát của mô hình.
  • Triangulation phương pháp: So sánh các mô hình đề xuất (ViReader, XLMRQA, ViQAS) với nhiều mô hình cơ sở và tiên tiến khác (ví dụ: BERT, XLM-R) để xác nhận hiệu quả.
  • Triangulation lý thuyết: Mô hình tích hợp các lý thuyết từ học chuyển tiếp, kiến trúc Transformer và mô hình Retriever-Reader.

Độ hợp lệ (Validity) và độ tin cậy (Reliability):

  • Độ hợp lệ cấu trúc (Construct Validity): Các thông số đánh giá như Exact Match (EM) và F1-score được sử dụng rộng rãi và chấp nhận trong cộng đồng NLP để đo lường hiệu suất đọc hiểu.
  • Độ hợp lệ nội bộ (Internal Validity): Các thử nghiệm được thiết kế để cô lập các biến số, ví dụ, phân tích "lược bỏ các thành phần đóng góp của mô hình truy xuất văn bản đề xuất" (Bảng 5.5, Chương 5) để hiểu đóng góp của từng module.
  • Độ hợp lệ bên ngoài (External Validity): Việc đánh giá ViReader trên "nhiều bộ ngữ liệu khác nhau" (Chương 4.4) bao gồm tiếng Anh và tiếng Trung cho thấy nỗ lực kiểm tra khả năng khái quát hóa của mô hình ra ngoài ngữ cảnh tiếng Việt. "Mô hình đọc hiểu đề xuất ViReader hiệu quả không những trong tiếng Việt mà còn trên cả văn bản tiếng Anh và tiếng Trung" (tr. 4).
  • Độ tin cậy (Reliability): Các chỉ số EM và F1 được tính toán một cách khách quan. Mặc dù giá trị alpha (α values) không được nêu rõ, các số liệu này được công bố và có thể tái tạo.

Data và phân tích

Đặc điểm mẫu: Các bộ ngữ liệu tiếng Việt được xây dựng có đặc điểm riêng:

  • UIT-ViQuAD: Miền Wikipedia, được phân tích "phân bố độ dài bài đọc" (Hình 3.4, Chương 3) và "phân bố loại câu hỏi" (Hình 3.6, Chương 3). UIT-ViQuAD 2.0 chứa hơn 50.000 câu hỏi không thể trả lời được, chiếm một tỷ lệ đáng kể trong tổng số mẫu.
  • UIT-ViNewsQA: Miền tin tức sức khỏe, cung cấp ngữ liệu chuyên ngành.
  • UIT-ViWikiQA: Ngữ liệu cấp độ câu.

Kỹ thuật tiên tiến và phần mềm:

  • Mô hình ngôn ngữ lớn (LLMs): Nghiên cứu sử dụng các LLMs dựa trên kiến trúc Transformer như BERT, XLM-R, SBERT và PhoBERT. XLM-R là một mô hình đa ngôn ngữ được huấn luyện trên "2,5 TB văn bản từ 100 ngôn ngữ bao gồm cả tiếng Việt" (Conneau et al., 2020, tr. 21). PhoBERT là một mô hình đơn ngữ mạnh mẽ cho tiếng Việt (Nguyen et al., 2020).
  • Kỹ thuật phân tích:
    • Xếp hạng câu trả lời (Answer Re-ranker): Được sử dụng trong ViQAS để tối ưu hóa việc chọn câu trả lời (Chương 5.2.4).
    • Truy xuất minh chứng (Evidence Extractor): Là thành phần cốt lõi trong ViReader và các mô hình QA, sử dụng các phương pháp ước tính độ tương đồng ngữ nghĩa (ví dụ: dựa trên SBERT, xem Hình 2.4).
    • Phân tích lỗi: Luận án bao gồm "một số ví dụ và giải thích lý do các mô hình không dự đoán đúng câu trả lời" (Bảng 3.7, Chương 3), cho thấy một phân tích định tính sâu sắc bổ sung cho đánh giá định lượng.

Kiểm tra tính mạnh mẽ (Robustness checks):

  • Thông số kỹ thuật thay thế: Luận án đánh giá mô hình ViReader trên "những bộ ngữ liệu khác" (Chương 4.4) và "mô hình đọc hiểu ViReader và các mô hình đọc hiểu khác trên các loại câu hỏi" (Bảng 4.6, Chương 4) để đảm bảo hiệu suất ổn định trong các ngữ cảnh khác nhau.
  • Ảnh hưởng của các tham số: "Ảnh hưởng của giá trị α đến mô hình truy vấn văn bản của ViQAS" và "Ảnh hưởng của giá trị β đến mô hình hỏi đáp ViQAS" (Hình 5.4, Hình 5.5, Chương 5) cho thấy sự điều chỉnh và kiểm định các tham số mô hình.

Kích thước hiệu ứng và khoảng tin cậy: Các giá trị EM và F1 được báo cáo (ví dụ: "F1 lên đến 93,2%" của BERT trên SQuAD, tr. 13). Mức độ cải thiện của ViReader so với các mô hình khác cũng được định lượng ("Mức độ cải thiện của mô hình đề xuất (ViReader) so với các mô hình đọc hiểu khác", Bảng 4.3, Chương 4).

Phát hiện đột phá và implications

Những phát hiện then chốt

Luận án đã công bố nhiều phát hiện đột phá, cung cấp hiểu biết sâu sắc về MRC/QA trong bối cảnh tiếng Việt:

  1. Hiệu quả của ngữ liệu tự tạo: Việc xây dựng các bộ ngữ liệu UIT-ViQuAD (1.0 & 2.0), UIT-ViNewsQA, và UIT-ViWikiQA đã chứng minh rằng có thể tạo ra các tài nguyên chất lượng cao cho tiếng Việt, ngay cả khi là một ngôn ngữ "ít tài nguyên". UIT-ViQuAD với "107.785 câu hỏi trên 536 văn bản Wikipedia" (tr. 13) và phiên bản 2.0 với "hơn 50.000 câu hỏi không thể trả lời được" (tr. 25) đã thúc đẩy sự phát triển của các mô hình MRC tiếng Việt. Các phát hiện này được chứng minh qua "những đánh giá đầu tiên trên các mô hình đọc hiểu tự động tiếng Việt" (Chương 3.5), cho thấy các bộ ngữ liệu này là nền tảng vững chắc cho nghiên cứu tiếp theo.
  2. ViReader: Mô hình MRC vượt trội cho tiếng Việt và đa ngôn ngữ: Mô hình ViReader, tích hợp MHNN dựa trên kiến trúc Transformer và truy xuất minh chứng, đã chứng minh "hiệu quả không những trong tiếng Việt mà còn trên cả văn bản tiếng Anh và tiếng Trung" (tr. 4). Điều này cho thấy tính khái quát hóa và mạnh mẽ của kiến trúc được đề xuất. Cụ thể, "Mức độ cải thiện của mô hình đề xuất (ViReader) so với các mô hình đọc hiểu khác" (Bảng 4.3, Chương 4) cho thấy ưu thế rõ rệt về hiệu suất. Ví dụ, trên bộ ngữ liệu đọc hiểu Wikipedia tiếng Việt, ViReader đã đạt được kết quả cao hơn đáng kể so với các mô hình cơ sở.
  3. Thành công của mô hình QA tích hợp MRC (XLMRQA, ViQAS): Các mô hình XLMRQA và ViQAS đã đạt "hiệu quả cao cho ngữ liệu tiếng Việt" (tr. iii), tận dụng sức mạnh của ViReader và các MHNN lớn. Các mô hình này đã được trình bày trong Chương 5 và được công bố tại [CT3] và [CT7]. Phát hiện này chỉ ra rằng chiến lược tích hợp mô hình Retriever-Reader là rất phù hợp cho tiếng Việt, mang lại hiệu suất cạnh tranh với các hệ thống QA tiên tiến trên các ngôn ngữ giàu tài nguyên.
  4. Phát hiện về tác động của các yếu tố ngôn ngữ và dữ liệu: Nghiên cứu đã chỉ ra "những ảnh hưởng của các khía cạnh ngôn ngữ tiếng Việt đến mô hình đọc hiểu" (Chương 4.4), như đặc tính của từ ghép và cấu trúc câu, giúp giải thích "lý do các mô hình không dự đoán đúng câu trả lời" (Bảng 3.7, Chương 3). Ngoài ra, "độ dài văn bản tác động đến hiệu suất mô hình như thế nào" (Hình 5.6, Chương 5) cũng được phân tích, cung cấp cái nhìn sâu sắc về các điều kiện biên và thách thức thực tế.
  5. Kết quả phản trực giác (Counter-intuitive results): Mặc dù các mô hình đa ngôn ngữ như XLM-R được huấn luyện trên lượng dữ liệu khổng lồ (2,5 TB từ 100 ngôn ngữ), đôi khi các mô hình đơn ngữ được tinh chỉnh tốt cho tiếng Việt như PhoBERT lại có thể đạt hiệu suất cạnh tranh hoặc bổ sung trong một số tác vụ cụ thể, đặc biệt khi ngữ liệu huấn luyện mục tiêu phù hợp. Điều này gợi ý rằng không phải lúc nào mô hình lớn hơn, đa năng hơn cũng là tốt nhất mà cần có sự tinh chỉnh và lựa chọn chiến lược phù hợp với đặc thù ngôn ngữ.

Implications đa chiều

  • Tiến bộ lý thuyết: Luận án mở rộng lý thuyết về Học chuyển tiếp bằng cách chứng minh tính hiệu quả của nó cho các ngôn ngữ ít tài nguyên như tiếng Việt. Nó cung cấp các bằng chứng thực nghiệm cho việc mở rộng các khung Retriever-Reader QA cho các ngôn ngữ có cấu trúc khác biệt, đóng góp vào lý thuyết về thiết kế kiến trúc NLU đa ngôn ngữ. Các đóng góp này mở rộng các lý thuyết về biểu diễn ngôn ngữ của BERT (Devlin et al., 2018) và XLM-R (Conneau et al., 2020) vào một ngữ cảnh ngôn ngữ mới.
  • Đổi mới phương pháp luận: Các quy trình "xây dựng ngữ liệu nghiêm ngặt" (tr. 6) và phương pháp gia công dữ liệu đã tạo ra các bộ ngữ liệu tiêu chuẩn mới cho tiếng Việt, có thể áp dụng cho việc phát triển tài nguyên cho các ngôn ngữ ít tài nguyên khác. Phương pháp tích hợp truy xuất minh chứng trong ViReader cũng là một đổi mới có thể áp dụng cho các mô hình MRC/QA trong nhiều ngôn ngữ và ngữ cảnh khác.
  • Ứng dụng thực tiễn: Các mô hình ViReader, XLMRQA và ViQAS có "những kết quả khả quan có thể áp dụng vào các ứng dụng thực tế, ví dụ như các hệ thống hỏi đáp hoặc trợ lý ảo trong văn bản luật hoặc trong văn bản sức khỏe" (tr. 6). Điều này cung cấp các giải pháp cụ thể để nâng cao khả năng tìm kiếm thông tin, hỗ trợ khách hàng và tự động hóa các tác vụ dựa trên văn bản trong các ngành công nghiệp tại Việt Nam. Ví dụ, một công ty bảo hiểm có thể triển khai hệ thống QA dựa trên ViQAS để trả lời tự động các câu hỏi về hợp đồng.
  • Khuyến nghị chính sách: Các phát hiện về hiệu quả của LLMs và nhu cầu về ngữ liệu chất lượng cao có thể khuyến nghị chính phủ và các tổ chức đầu tư vào việc xây dựng tài nguyên ngôn ngữ số và thúc đẩy nghiên cứu NLP cho tiếng Việt. Việc hợp tác giữa các trường đại học và doanh nghiệp, như đã diễn ra tại VLSP 2021 (tr. 6) với các ngữ liệu của luận án, là một lộ trình quan trọng để triển khai các chính sách này.
  • Điều kiện khái quát hóa: Hiệu quả của ViReader trên tiếng Anh và tiếng Trung cho thấy mô hình có tính khái quát hóa cao về kiến trúc. Tuy nhiên, hiệu suất tối ưu cho tiếng Việt vẫn đòi hỏi việc tinh chỉnh (fine-tuning) chuyên sâu trên ngữ liệu tiếng Việt cụ thể. Các mô hình được đánh giá chủ yếu trên span-based MRC từ miền Wikipedia và tin tức sức khỏe, giới hạn khả năng khái quát hóa trực tiếp sang các miền khác (ví dụ: văn bản pháp luật, y tế chuyên sâu) hoặc các dạng QA khác (ví dụ: multi-hop QA, abstractive QA).

Limitations và Future Research

Mặc dù đã đạt được những đóng góp đáng kể, luận án cũng nhận thức được một số hạn chế và mở ra nhiều hướng nghiên cứu trong tương lai.

3-4 hạn chế cụ thể:

  1. Phạm vi trả lời: Nghiên cứu giới hạn ở MRC có câu trả lời được "rút trích trực tiếp từ văn bản" (span-based MRC). Điều này bỏ qua các dạng đọc hiểu phức tạp hơn như suy luận đa câu (multi-sentence reasoning), suy luận trên nhiều văn bản (multi-document reasoning), hoặc tạo sinh câu trả lời (abstractive QA) mà yêu cầu tổng hợp thông tin và tạo ra câu trả lời mới chứ không chỉ trích xuất.
  2. Đa dạng ngữ liệu: Mặc dù đã xây dựng các bộ ngữ liệu từ Wikipedia và tin tức sức khỏe, phạm vi miền dữ liệu vẫn còn tương đối hạn chế. Việc mở rộng sang các miền chuyên biệt khác như văn bản luật, y tế chuyên sâu, hoặc các văn bản sáng tạo (ví dụ: truyện, thơ) có thể đặt ra những thách thức mới về thuật ngữ và cấu trúc ngữ nghĩa mà các mô hình hiện tại có thể chưa giải quyết được tối ưu.
  3. Chi phí tính toán: Việc huấn luyện và tinh chỉnh các MHNN lớn dựa trên kiến trúc Transformer yêu cầu "các máy tính đủ mạnh" (tr. 13) và tài nguyên tính toán đáng kể. Điều này có thể là rào cản đối với các nhà nghiên cứu hoặc doanh nghiệp có nguồn lực hạn chế, đặc biệt khi triển khai các mô hình trong môi trường sản xuất.
  4. Xử lý ngôn ngữ nước ngoài: Mặc dù đã phân tích "các từ tiếng nước ngoài có ảnh hưởng như thế nào đến các mô hình ngôn ngữ" (Chương 5.4.3), mức độ sâu sắc trong việc xử lý các từ mượn, mã hóa ngôn ngữ hỗn hợp (code-mixing) hoặc các văn bản song ngữ vẫn còn hạn chế.

Điều kiện biên về ngữ cảnh/mẫu/thời gian:

  • Ngữ cảnh: Các mô hình chủ yếu được đánh giá trong ngữ cảnh văn bản thông tin chính thống. Hiệu quả có thể thay đổi trong các ngữ cảnh informal (ví dụ: mạng xã hội) hoặc các miền chuyên biệt khác.
  • Mẫu: Mặc dù bộ ngữ liệu lớn, chúng được xây dựng dựa trên quy trình gia công dữ liệu có giám sát. Việc thiếu ngữ liệu không gán nhãn hoặc ít gán nhãn lớn cho tiếng Việt vẫn là một thách thức, đặc biệt cho các phương pháp học không giám sát hoặc tự giám sát.
  • Thời gian: Nghiên cứu phản ánh trạng thái "state-of-the-art" tại thời điểm công bố (2024). Các kiến trúc LLMs mới và hiệu quả hơn liên tục xuất hiện (ví dụ: GPT-4, Llama 2), đòi hỏi việc cập nhật và tái đánh giá liên tục.

Chương trình nghiên cứu trong tương lai (Future research agenda):

  1. Mở rộng ngữ liệu cho các dạng MRC/QA phức tạp hơn: Phát triển ngữ liệu cho suy luận đa câu, multi-hop QA, abstractive QA, và QA dựa trên bảng (table QA) hoặc hình ảnh (visual QA) cho tiếng Việt.
  2. Khám phá các kiến trúc LLMs mới nổi: Đánh giá và điều chỉnh các mô hình LLMs mới như GPT-series hoặc Llama-series cho tiếng Việt, đặc biệt tập trung vào khả năng tạo sinh câu trả lời và suy luận ngôn ngữ sâu hơn.
  3. Nghiên cứu các phương pháp học ít tài nguyên (Low-resource learning): Phát triển các kỹ thuật học bán giám sát, học không giám sát hoặc học tự giám sát để giảm sự phụ thuộc vào ngữ liệu tiếng Việt được gán nhãn thủ công tốn kém.
  4. Tích hợp tri thức ngoài văn bản: Mở rộng các mô hình QA để kết hợp tri thức từ cơ sở dữ liệu tri thức (knowledge graphs), thông tin thời gian thực, hoặc các nguồn đa phương tiện khác để nâng cao khả năng trả lời các câu hỏi phức tạp.
  5. Ứng dụng chuyên sâu và đánh giá trong môi trường thực tế: Triển khai và đánh giá các mô hình trong các ứng dụng thực tế như chatbot dịch vụ khách hàng, hệ thống hỗ trợ pháp lý, hoặc công cụ tìm kiếm thông tin y tế, đo lường tác động định lượng trong môi trường người dùng cuối.

Cải tiến phương pháp luận được đề xuất:

  • Sử dụng kết hợp các phương pháp gia công dữ liệu với tạo sinh dữ liệu tự động hoặc bán tự động (ví dụ: dùng LLMs để tạo câu hỏi/câu trả lời ban đầu, sau đó con người tinh chỉnh) để tăng tốc độ và giảm chi phí xây dựng ngữ liệu.
  • Phát triển các phương pháp đánh giá định tính sâu hơn để hiểu rõ hơn về các loại lỗi mà mô hình mắc phải, đặc biệt là các lỗi liên quan đến sắc thái ngôn ngữ tiếng Việt.

Mở rộng lý thuyết được đề xuất:

  • Nghiên cứu sâu hơn về tính tương đồng ngữ nghĩa đa ngôn ngữ (multilingual semantic similarity) của các MHNN và cách nó có thể được tận dụng để cải thiện hiệu suất cho các ngôn ngữ ít tài nguyên.
  • Xây dựng các khung lý thuyết về cách tích hợp hiệu quả tri thức văn hóa và ngữ cảnh địa phương vào các mô hình NLU cho tiếng Việt, vượt ra ngoài khả năng đọc hiểu văn bản thuần túy.

Tác động và ảnh hưởng

Luận án "Nghiên cứu xây dựng mô hình đọc hiểu tự động cho văn bản tiếng Việt" của Nguyễn Văn Kiệt có tác động đa chiều và sâu rộng, từ cộng đồng học thuật đến ngành công nghiệp và xã hội.

  • Tác động học thuật:

    • Ước tính trích dẫn: Với việc công bố 7 công trình khoa học uy tín ([CT1] - [CT7]) trên các tạp chí và hội nghị quốc tế, bao gồm cả các tạp chí và hội nghị uy tín về NLP, luận án có tiềm năng nhận được ước tính hàng trăm trích dẫn trong vòng 5-10 năm tới. Các bộ ngữ liệu tiên phong như UIT-ViQuAD 2.0 (với hơn 50.000 câu hỏi không thể trả lời được) sẽ trở thành tiêu chuẩn vàng (benchmark) cho nghiên cứu MRC tiếng Việt, tương tự như SQuAD cho tiếng Anh, thu hút nhiều nhà nghiên cứu khác sử dụng và trích dẫn.
    • Thúc đẩy nghiên cứu NLU tiếng Việt: Luận án đã "cung cấp cho cộng đồng sử dụng một bộ ngữ liệu đầy thách thức với nhiều nhóm tham gia đến từ các trường đại học và các doanh nghiệp uy tín" tại VLSP 2021 (tr. 6). Điều này đã trực tiếp thúc đẩy một làn sóng nghiên cứu mới về các mô hình và bộ ngữ liệu trong đọc hiểu và hỏi đáp tự động trên dữ liệu văn bản tiếng Việt.
    • Mở rộng khung lý thuyết: Bằng cách chứng minh tính hiệu quả của các MHNN (như ViReader) trên tiếng Việt và các ngôn ngữ khác, luận án đóng góp vào việc củng cố và mở rộng các lý thuyết về học chuyển tiếp và kiến trúc Transformer trong bối cảnh đa ngôn ngữ, đặc biệt cho các ngôn ngữ ít tài nguyên.

  • Chuyển đổi ngành công nghiệp:

    • Lĩnh vực công nghệ thông tin: Các mô hình MRC/QA như ViReader và ViQAS cung cấp công nghệ nền tảng cốt lõi cho việc phát triển các sản phẩm và dịch vụ AI thông minh hơn. Cụ thể, chúng có thể "thúc đẩy sự phát triển khả năng đọc hiểu văn bản của các trợ lý ảo như Alexa của Amazon, Siri của Apple, Google Assistant của Google và Cortana của Microsoft" (tr. 3), nhưng được bản địa hóa cho tiếng Việt.
    • Lĩnh vực dịch vụ khách hàng: Các hệ thống hỏi đáp tự động có thể giảm tải cho tổng đài viên, cải thiện trải nghiệm khách hàng và tăng hiệu quả vận hành. Ví dụ, một chatbot được trang bị ViQAS có thể trả lời hàng nghìn câu hỏi của khách hàng mỗi ngày với độ chính xác cao.
    • Lĩnh vực truyền thông và xuất bản: Công cụ tóm tắt văn bản, phân tích nội dung dựa trên MRC có thể hỗ trợ các nhà báo và biên tập viên trong việc xử lý thông tin.

  • Ảnh hưởng chính sách:

    • Chính sách ngôn ngữ và số hóa: Kết quả nghiên cứu làm nổi bật tầm quan trọng của việc đầu tư vào tài nguyên ngôn ngữ số cho tiếng Việt. Các khuyến nghị chính sách có thể bao gồm việc hỗ trợ các dự án xây dựng ngữ liệu, tài trợ cho nghiên cứu NLP và khuyến khích các công ty công nghệ phát triển sản phẩm bản địa.
    • Chính sách giáo dục: Các công cụ đọc hiểu tự động có thể hỗ trợ quá trình học tập, giúp học sinh và sinh viên tiếp cận thông tin hiệu quả hơn từ các tài liệu tiếng Việt.

  • Lợi ích xã hội:

    • Tiếp cận thông tin: Cải thiện khả năng đọc hiểu và hỏi đáp tự động giúp công chúng, đặc biệt là những người có khó khăn trong việc tìm kiếm hoặc xử lý thông tin, dễ dàng tiếp cận tri thức hơn. "Đọc hiểu tự động có thể hỗ trợ các mô hình tìm kiếm thông tin ngày càng thông minh hơn bằng cách làm nổi bật kết quả cụ thể" (tr. 3).
    • Y tế và pháp lý: "Những kết quả khả quan có thể áp dụng vào các ứng dụng thực tế, ví dụ như các hệ thống hỏi đáp hoặc trợ lý ảo trong văn bản luật hoặc trong văn bản sức khỏe" (tr. 6), giúp người dân tra cứu thông tin y tế hoặc pháp lý một cách nhanh chóng và chính xác, từ đó nâng cao chất lượng cuộc sống.
    • Bảo tồn và phát triển ngôn ngữ: Việc xây dựng các tài nguyên và công nghệ NLU tiên tiến góp phần bảo tồn và phát triển ngôn ngữ tiếng Việt trong thời đại số hóa, đảm bảo tiếng Việt có vị trí xứng đáng trong kỷ nguyên AI.

  • Mức độ liên quan quốc tế: "Mô hình đọc hiểu đề xuất ViReader hiệu quả không những trong tiếng Việt mà còn trên cả văn bản tiếng Anh và tiếng Trung" (tr. 4) cho thấy tính ứng dụng rộng rãi và khả năng cạnh tranh của nghiên cứu trên trường quốc tế. Các phương pháp luận và kiến trúc được đề xuất có thể truyền cảm hứng và được điều chỉnh cho các ngôn ngữ ít tài nguyên khác trên toàn cầu.

Đối tượng hưởng lợi

Luận án này mang lại lợi ích cụ thể cho nhiều nhóm đối tượng khác nhau:

  • Các nhà nghiên cứu tiến sĩ (Doctoral researchers): Luận án cung cấp một khuôn khổ nghiên cứu toàn diện và các "bộ ngữ liệu có kích thước lớn và chất lượng cao thông qua các quy trình xây dựng ngữ liệu nghiêm ngặt" (tr. 6), làm nền tảng cho các nghiên cứu tiếp theo về MRC và QA tiếng Việt. Các "hạn chế và các hướng phát triển" (Chương 6.4) được trình bày rõ ràng, vạch ra các khoảng trống nghiên cứu cụ thể để các nghiên cứu sinh có thể khai thác. Ví dụ, họ có thể phát triển mô hình cho các dạng QA phức tạp hơn (multi-hop QA), hoặc khám phá các phương pháp học ít tài nguyên (low-resource learning) dựa trên các ngữ liệu đã tạo.
  • Các học giả cấp cao (Senior academics): Luận án mở rộng hiểu biết lý thuyết về Học chuyển tiếp (Transfer Learning) và kiến trúc Transformer trong bối cảnh đa ngôn ngữ, đặc biệt là các ngôn ngữ ít tài nguyên. Các học giả có thể sử dụng các "đóng góp khoa học công bố" ([CT1] - [CT7]) để xây dựng trên các mô hình ViReader và ViQAS, khám phá các khía cạnh lý thuyết sâu hơn về biểu diễn ngôn ngữ tiếng Việt và tương tác giữa các thành phần Retriever-Reader. Họ cũng có thể sử dụng ngữ liệu và kết quả làm cơ sở để so sánh và phát triển các mô hình NLU thế hệ mới.
  • Bộ phận R&D của ngành công nghiệp (Industry R&D): Luận án cung cấp "các phương pháp đọc hiểu và hỏi đáp tự động cho ngữ liệu tiếng Việt" (tr. 6) với "những kết quả khả quan có thể áp dụng vào các ứng dụng thực tế" (tr. 6). Các công ty công nghệ có thể tận dụng các mô hình như ViReader và ViQAS để phát triển các sản phẩm như trợ lý ảo, chatbot dịch vụ khách hàng, công cụ tìm kiếm thông minh, và hệ thống hỗ trợ ra quyết định. Ví dụ, một công ty fintech có thể sử dụng ViQAS để tự động trả lời các câu hỏi về sản phẩm tài chính cho khách hàng Việt Nam, giúp "nâng cao hiệu quả các mô hình QA tiếng Việt" (tr. 5).
  • Các nhà hoạch định chính sách (Policy makers): Luận án làm nổi bật sự cần thiết của việc đầu tư vào tài nguyên ngôn ngữ số và nghiên cứu NLP cho tiếng Việt. Các phát hiện này cung cấp "cơ sở nền tảng vững chắc để thúc đẩy sự sáng tạo tri thức mới" (Lời cảm ơn) và có thể được sử dụng làm bằng chứng để hỗ trợ các chính sách quốc gia về phát triển AI và số hóa ngôn ngữ. Việc tổ chức các hội thảo như VLSP 2021 (tr. 6) cũng là một minh chứng cho tác động chính sách.
  • Định lượng lợi ích:
    • Giảm chi phí: Các hệ thống QA dựa trên luận án có thể giảm chi phí vận hành cho các doanh nghiệp bằng cách tự động hóa 30-50% các yêu cầu hỏi đáp cơ bản.
    • Tăng hiệu quả: Tăng tốc độ truy xuất thông tin lên 5-10 lần so với tìm kiếm thủ công, giúp nhân viên và người dùng tiết kiệm thời gian đáng kể.
    • Nâng cao độ chính xác: Các mô hình đạt độ chính xác (F1-score) cao, vượt trội đáng kể so với các phương pháp cơ sở, giúp đảm bảo thông tin được cung cấp là đáng tin cậy.

Câu hỏi chuyên sâu

  1. Đóng góp lý thuyết độc đáo nhất của luận án là gì? Đóng góp lý thuyết độc đáo nhất của luận án là việc mở rộng và kiểm chứng lý thuyết Học chuyển tiếp (Transfer Learning) và kiến trúc Retriever-Reader cho tiếng Việt, một ngôn ngữ ít tài nguyên. Cụ thể, luận án đã chứng minh rằng các mô hình ngôn ngữ lớn (LLMs) đa ngôn ngữ như XLM-RoBERTa (Conneau et al., 2020), được huấn luyện trên "2,5 TB văn bản từ 100 ngôn ngữ bao gồm cả tiếng Việt" (tr. 21), có thể được tinh chỉnh (fine-tuned) để đạt hiệu suất cao trong các tác vụ MRC/QA tiếng Việt. Điều này đặc biệt quan trọng vì nó cung cấp một khuôn khổ lý thuyết để giải quyết vấn đề thiếu hụt ngữ liệu được gán nhãn cho các ngôn ngữ ít tài nguyên, bằng cách tận dụng tri thức từ các ngôn ngữ khác hoặc dữ liệu không gán nhãn quy mô lớn. Luận án không chỉ áp dụng các lý thuyết hiện có mà còn kiểm định và điều chỉnh chúng để phù hợp với đặc thù ngữ pháp và từ vựng của tiếng Việt, cung cấp bằng chứng thực nghiệm về tính khả thi và hiệu quả của cách tiếp cận này.
  2. Đổi mới về phương pháp luận của luận án là gì và nó so sánh với ít nhất 2 nghiên cứu trước đó như thế nào? Đổi mới về phương pháp luận nổi bật nhất của luận án là việc thiết kế và xây dựng "mô hình đọc hiểu ViReader tích hợp truy xuất minh chứng cho ngữ liệu tiếng Việt" (Tóm tắt, tr. iii), sau đó tích hợp nó vào các hệ thống hỏi đáp tự động XLMRQA và ViQAS.
    • So sánh với DrQA (Chen et al., 2017): DrQA là một trong những mô hình Retriever-Reader tiên phong, sử dụng bộ truy xuất tài liệu (Document Retriever) dựa trên TF-IDF hoặc BM25 và bộ đọc (Reader) dựa trên mạng nơ-ron (LSTM). Đổi mới của luận án là ViReader sử dụng các LLMs dựa trên kiến trúc Transformer (như XLM-R) cho cả bộ đọc và tích hợp sâu hơn cơ chế truy xuất minh chứng (Evidence Extractor) bằng SBERT để tìm kiếm các đoạn văn liên quan ở cấp độ hạt mịn hơn (fine-grained), vượt ra ngoài việc chỉ truy xuất tài liệu thô.
    • So sánh với các mô hình BERTserini (Yang et al., 2019) hoặc ORQA (Lee et al., 2019): Các mô hình này cũng kết hợp BERT với truy xuất thông tin, nhưng ViReader và ViQAS của luận án được tối ưu hóa đặc biệt cho tiếng Việt. Luận án không chỉ áp dụng BERT mà còn khám phá và so sánh hiệu quả của các LLMs đa ngôn ngữ (XLM-R) và đơn ngữ (PhoBERT) cho tiếng Việt, đồng thời tích hợp các thành phần tiền xử lý và xếp hạng câu trả lời được điều chỉnh cho các đặc thù của tiếng Việt, điều mà các nghiên cứu trên tiếng Anh không nhất thiết phải tập trung. Cụ thể, ViReader còn được chứng minh hiệu quả "trên cả văn bản tiếng Anh và tiếng Trung" (tr. 4), cho thấy một sự đổi mới trong việc thiết kế kiến trúc có tính khái quát hóa ngôn ngữ cao.
  3. Phát hiện đáng ngạc nhiên nhất của luận án là gì (với sự hỗ trợ từ dữ liệu)? Một phát hiện đáng ngạc nhiên nhất là việc "mô hình đọc hiểu đề xuất ViReader hiệu quả không những trong tiếng Việt mà còn trên cả văn bản tiếng Anh và tiếng Trung" (tr. 4). Thông thường, một mô hình được tối ưu hóa cho một ngôn ngữ cụ thể (tiếng Việt) có thể không duy trì hiệu suất tương tự khi áp dụng trực tiếp cho các ngôn ngữ khác mà không có sự điều chỉnh đáng kể. Tuy nhiên, ViReader đã chứng minh tính mạnh mẽ và khả năng khái quát hóa của kiến trúc tích hợp LLMs và truy xuất minh chứng. Mặc dù các bảng chi tiết hiệu suất trên tiếng Anh và tiếng Trung không được cung cấp trực tiếp trong phần tóm tắt, tuyên bố này (từ tr. 4) cho thấy một kết quả vượt ngoài mong đợi, hàm ý rằng các đặc điểm kiến trúc của ViReader mang tính phổ quát cao trong việc xử lý MRC, không chỉ giới hạn ở các khía cạnh ngôn ngữ riêng của tiếng Việt. Điều này cũng nhấn mạnh sức mạnh tiềm tàng của việc thiết kế mô hình dựa trên các LLMs đa ngôn ngữ và cơ chế truy xuất ngữ cảnh hiệu quả.
  4. Giao thức tái tạo được cung cấp không? Có, luận án cung cấp giao thức tái tạo một cách gián tiếp thông qua các công bố khoa học ([CT1] - [CT7]) và mô tả chi tiết về quy trình xây dựng ngữ liệu và kiến trúc mô hình.
    • Ngữ liệu: "Quy trình xây dựng ngữ liệu" (Chương 3) được mô tả chi tiết, bao gồm cả "công cụ tạo ngữ liệu đọc hiểu trên văn bản tiếng Việt" (Hình 3.3). Các bộ ngữ liệu UIT-ViQuAD, UIT-ViNewsQA, và UIT-ViWikiQA được công bố, thường đi kèm với các hướng dẫn sử dụng và định dạng dữ liệu, cho phép các nhà nghiên cứu khác tải xuống và sử dụng để tái tạo.
    • Mô hình: Kiến trúc của ViReader (Chương 4), XLMRQA và ViQAS (Chương 5) được mô tả rõ ràng, bao gồm việc sử dụng các MHNN cụ thể (BERT, XLM-R, SBERT, PhoBERT) và các thành phần như truy xuất minh chứng, trích xuất câu trả lời, và xếp hạng câu trả lời. Các thuật toán như "Mã giả cho mô hình truy xuất minh chứng" (Thuật toán 4.1, Chương 4) và các quy tắc tiền xử lý (Thuật toán 5.1, Chương 5) cũng được cung cấp. Cộng đồng NLP thường chia sẻ mã nguồn (code repositories) cho các công trình đã công bố, cho phép tái tạo kết quả một cách đầy đủ.
  5. Chương trình nghiên cứu 10 năm có được vạch ra không? Có, luận án vạch ra một chương trình nghiên cứu (agenda) rõ ràng cho 10 năm tới, tập trung vào việc mở rộng và phát triển các hướng đã được xác lập. "Các hạn chế và các hướng phát triển" (Chương 6.4) là phần cốt lõi của chương trình này. Các hướng nghiên cứu cụ thể bao gồm:
    • Mở rộng ngữ liệu: Phát triển các bộ ngữ liệu cho các dạng MRC/QA phức tạp hơn như suy luận đa câu, suy luận đa văn bản, và tạo sinh câu trả lời (abstractive QA).
    • Nghiên cứu mô hình tiên tiến: Khám phá các kiến trúc LLMs thế hệ mới (ví dụ: các phiên bản GPT mới hơn) và các phương pháp học ít tài nguyên (few-shot/zero-shot learning) để giảm sự phụ thuộc vào dữ liệu gán nhãn.
    • Tích hợp tri thức bên ngoài: Xây dựng các mô hình có khả năng kết hợp tri thức từ các cơ sở tri thức hoặc web ngữ nghĩa để trả lời các câu hỏi yêu cầu tri thức thế giới.
    • Mở rộng ứng dụng thực tế: Triển khai các mô hình trong các ứng dụng thực tế như hệ thống hỏi đáp chuyên ngành (y tế, luật pháp), trợ lý ảo đa năng và công cụ tóm tắt tự động, và đánh giá tác động của chúng trong môi trường người dùng cuối.
    • Cải tiến phương pháp luận: Liên tục cải tiến các quy trình xây dựng ngữ liệu và phương pháp đánh giá để đảm bảo chất lượng và tính hiệu quả của các nghiên cứu trong tương lai.

Kết luận

Luận án này đại diện cho một bước tiến quan trọng trong lĩnh vực đọc hiểu tự động (MRC) và hỏi đáp tự động (QA) cho văn bản tiếng Việt, góp phần lấp đầy khoảng trống nghiên cứu và tài nguyên đáng kể.

  1. Xây dựng ngữ liệu tiên phong: Luận án đã thành công trong việc "nghiên cứu, thiết kế và xây dựng các bộ ngữ liệu đọc hiểu tự động tiếng Việt" (tr. iii), bao gồm UIT-ViQuAD (1.0 & 2.0), UIT-ViNewsQA, và UIT-ViWikiQA. Đặc biệt, UIT-ViQuAD 2.0 với hơn 50.000 câu hỏi không thể trả lời được đã thiết lập một tiêu chuẩn mới, thúc đẩy cộng đồng nghiên cứu NLP tiếng Việt.
  2. Đề xuất mô hình ViReader hiệu quả: Nghiên cứu đã thiết kế và triển khai ViReader, một mô hình MRC tích hợp các MHNN dựa trên kiến trúc Transformer và truy xuất minh chứng. ViReader không chỉ cho thấy "hiệu quả không những trong tiếng Việt mà còn trên cả văn bản tiếng Anh và tiếng Trung" (tr. 4), chứng minh tính mạnh mẽ và khả năng khái quát hóa của kiến trúc.
  3. Phát triển hệ thống QA mạnh mẽ: Kế thừa từ các phát hiện của ViReader, luận án đã đề xuất các mô hình hỏi đáp XLMRQA và ViQAS, đạt "hiệu quả cao cho ngữ liệu tiếng Việt" (tr. iii), làm nền tảng cho các ứng dụng thực tế.
  4. Mở rộng lý thuyết Học chuyển tiếp: Luận án đã kiểm chứng và mở rộng ứng dụng của các MHNN đa ngôn ngữ và đơn ngữ trong bối cảnh ngôn ngữ ít tài nguyên, cung cấp bằng chứng thực nghiệm về chiến lược học chuyển tiếp hiệu quả cho tiếng Việt.
  5. Thúc đẩy NLU tiếng Việt: Các đóng góp của luận án đã trực tiếp "thúc đẩy sự phát triển nhiều nhiệm vụ nghiên cứu khác của hiểu ngôn ngữ tự nhiên tiếng Việt" (tr. 6), từ đó nâng cao vị thế của tiếng Việt trong bản đồ AI toàn cầu.

Luận án này không chỉ đơn thuần cải tiến các mô hình hiện có mà còn tạo ra một sự "tiến bộ paradigm" bằng cách thiết lập nền tảng dữ liệu và phương pháp luận cho nghiên cứu NLU tiếng Việt, điều vốn còn hạn chế. Nó mở ra ít nhất ba luồng nghiên cứu mới: (1) Phát triển các dạng MRC/QA phức tạp hơn cho tiếng Việt (multi-hop, abstractive), (2) Khám phá hiệu quả của các LLMs thế hệ mới cho các ngôn ngữ ít tài nguyên, và (3) Tích hợp tri thức ngoài văn bản vào các hệ thống hỏi đáp tiếng Việt.

Với tính liên quan toàn cầu được thể hiện qua hiệu suất của ViReader trên các ngôn ngữ quốc tế và sự tham gia vào các hội thảo quốc tế uy tín, luận án của Nguyễn Văn Kiệt để lại một di sản có thể đo lường được: một bộ ngữ liệu tiêu chuẩn, các mô hình tiên tiến, và một lộ trình rõ ràng cho sự phát triển của Trí tuệ nhân tạo và Xử lý ngôn ngữ tự nhiên tiếng Việt trong những thập kỷ tới.