Luận án tiến sĩ về tự động xác định quan hệ ngữ nghĩa - Bùi Văn Tân
该IP请求过多已被限流,请两分钟后再试。访问正版网站:https://chat19.aichatos.xyz。如需合作,请联系微信kelemm220。
Năm xuất bản
Số trang
154
Thời gian đọc
24 phút
Lượt xem
0
Lượt tải
0
Phí lưu trữ
50 Point
Tổng quan nhanh
- Chủ đề:
- 1. Tìm hiểu vai trò của xác định quan hệ ngữ nghĩa từ trong NLP
- Số trang:
- 154 trang
- Trường:
- Trường Đại học Công nghệ, Đại học Quốc gia Hà Nội
- Chuyên ngành:
- Khoa học máy tính
- Tác giả:
- Bùi Văn Tân
- Năm:
- 2022
Tóm tắt nội dung luận án
I. Tìm hiểu vai trò của xác định quan hệ ngữ nghĩa từ trong NLP
Xử lý ngôn ngữ tự nhiên (NLP) là lĩnh vực nghiên cứu trọng tâm. Nó mang lại nhiều ứng dụng thực tiễn. Nhận dạng tiếng nói, dịch máy, tìm kiếm thông tin là các ví dụ. Khai phá dữ liệu cũng cần NLP. Xác định quan hệ ngữ nghĩa từ (LSRD) là bài toán cốt lõi. Đây là thách thức lớn trong NLP tiếng Việt. Các mô hình LSRD đóng vai trò nền tảng. Chúng hỗ trợ xây dựng cơ sở tri thức từ vựng. Chúng còn cải thiện nhiều hệ thống NLP khác. Hiểu rõ quan hệ này giúp máy tính xử lý ngôn ngữ hiệu quả hơn.
1.1. Tổng quan về xử lý ngôn ngữ tự nhiên
NLP nghiên cứu cách máy tính tương tác với ngôn ngữ con người. Nó là một lĩnh vực rộng lớn. Nhiều bài toán phức tạp tồn tại. Xử lý ngôn ngữ tiếng Việt cũng vậy. Nhu cầu phân tích, hiểu biết ngôn ngữ rất cao. Công nghệ này thúc đẩy sự phát triển của trí tuệ nhân tạo.
1.2. Định nghĩa quan hệ ngữ nghĩa từ vựng
Quan hệ ngữ nghĩa từ vựng mô tả mối liên hệ ý nghĩa giữa các từ. Các khái niệm hoặc thuật ngữ cũng có quan hệ này. Ví dụ: đồng nghĩa, trái nghĩa, siêu loại, hạ loại. Tự động xác định quan hệ này giúp máy tính 'hiểu' ngôn ngữ sâu sắc hơn. Đây là nền tảng để xử lý thông tin phức tạp.
1.3. Tầm quan trọng của xác định quan hệ ngữ nghĩa
Xác định quan hệ ngữ nghĩa là yếu tố then chốt. Nó là một trong những bài toán quan trọng nhất của NLP. Khả năng nhận diện mối liên hệ ý nghĩa là cần thiết. Điều này tăng cường hiệu suất của các hệ thống NLP. Nó giúp tạo ra những ứng dụng thông minh hơn.
II. Ứng dụng thực tiễn của quan hệ ngữ nghĩa từ trong học máy
Các mô hình xác định quan hệ ngữ nghĩa có giá trị lớn. Chúng là thành phần thiết yếu trong nhiều hệ thống. Học máy giúp tự động hóa quá trình này. Từ đó mở ra nhiều khả năng ứng dụng. Những ứng dụng này từ xây dựng tri thức đến tương tác người máy. Chúng tác động đáng kể đến nhiều lĩnh vực công nghệ thông tin. Các mô hình này biến dữ liệu ngôn ngữ thành thông tin có cấu trúc.
2.1. Xây dựng cơ sở tri thức từ vựng hiệu quả
Cơ sở tri thức từ vựng là nền tảng cho nhiều ứng dụng AI. Xác định quan hệ ngữ nghĩa giúp tự động hóa việc xây dựng chúng. Nó tạo ra các biểu đồ tri thức phong phú. Việc này giảm công sức thủ công. Nó đảm bảo tính nhất quán và đầy đủ của dữ liệu.
2.2. Cải thiện hệ thống dịch máy và tìm kiếm thông tin
Dịch máy yêu cầu hiểu biết ngữ nghĩa sâu sắc. Hệ thống tìm kiếm thông tin cũng vậy. LSRD giúp dịch máy chính xác hơn. Nó cải thiện khả năng truy vấn ngữ nghĩa trong tìm kiếm. Người dùng nhận được kết quả phù hợp hơn. Học máy nâng cao đáng kể chất lượng dịch và tìm kiếm.
2.3. Phân tích quan điểm và hỏi đáp tự động
Phân tích quan điểm người dùng cần nhận diện cảm xúc. Hệ thống hỏi đáp cần hiểu ý định câu hỏi. Quan hệ ngữ nghĩa giúp máy tính hiểu được sắc thái. Nó phân tích ngữ cảnh để đưa ra câu trả lời chính xác. Học máy là công cụ mạnh mẽ để đạt được điều này.
III. Học sâu Xu hướng và thách thức trong xác định ngữ nghĩa
Trong thập kỷ qua, học sâu đã thay đổi NLP. Các kiến trúc mạng nơ-ron phức tạp xuất hiện. Chúng mang lại khả năng xử lý vượt trội. Đặc biệt với sự hỗ trợ của bộ xử lý đồ họa (GPU). Học sâu có thể học từ lượng dữ liệu khổng lồ. Tuy nhiên, nó vẫn đối mặt với những thách thức đáng kể. Khó khăn tồn tại khi dữ liệu không hoàn hảo hoặc ít.
3.1. Tiến bộ vượt bậc nhờ học sâu
Học sâu tạo ra bước phát triển nhanh chóng. Nhiều kết quả nghiên cứu đột phá xuất hiện. Các mô hình mạng nơ-ron nhiều tầng rất mạnh mẽ. Chúng có khả năng học biểu diễn ngữ nghĩa phức tạp. Điều này cải thiện hiệu suất các bài toán NLP nói chung. Nó cũng giúp ích cho xác định quan hệ ngữ nghĩa.
3.2. Thách thức với dữ liệu ít và nhiễu
Mô hình học sâu cần nhiều dữ liệu. Dữ liệu ít hoặc có nhiễu là một vấn đề. Khả năng xử lý tốt trong tình huống này còn hạn chế. Đây vẫn là một thách thức lớn. Việc tìm cách để mô hình học hiệu quả hơn với ít dữ liệu là cần thiết.
3.3. Hiểu biết nghệ thuật ngôn ngữ phức tạp
Ngôn ngữ chứa nhiều thủ pháp nghệ thuật. Ẩn dụ, hoán dụ là những ví dụ. Máy tính gặp khó khăn khi hiểu các sắc thái này. Học sâu vẫn chưa hoàn toàn giải quyết được. Nâng cao khả năng hiểu ngữ nghĩa sâu là mục tiêu quan trọng. Nó giúp mô hình xử lý ngôn ngữ tự nhiên toàn diện hơn.
IV. Giải pháp nâng cao hiệu quả xác định quan hệ ngữ nghĩa
Đối mặt với những thách thức của học sâu, các giải pháp tích hợp là cần thiết. Đặc biệt là việc kết hợp các mô hình xác định quan hệ ngữ nghĩa. Điều này giúp vượt qua hạn chế về dữ liệu và sự phức tạp của ngôn ngữ. Học máy thống kê đóng vai trò quan trọng trong việc này. Nó cung cấp các phương pháp robust. Các phương pháp này có thể xử lý tốt ngay cả với dữ liệu khó. Việc tối ưu hóa quy trình huấn luyện là chìa khóa.
4.1. Tích hợp mô hình xác định quan hệ ngữ nghĩa
Tích hợp mô hình LSRD vào các hệ thống NLP là một cách tiếp cận. Nó giúp tăng cường khả năng hiểu biết ngữ nghĩa. Các mô hình này bổ sung thông tin ngữ cảnh. Chúng giúp các mô hình học sâu hoạt động tốt hơn. Đặc biệt trong các tình huống khó khăn.
4.2. Sử dụng học máy thống kê hiệu quả
Học máy thống kê là nền tảng vững chắc. Nó cung cấp các phương pháp mạnh mẽ để xác định quan hệ. Các thuật toán thống kê có thể học từ dữ liệu. Chúng tạo ra các mô hình dự đoán chính xác. Việc kết hợp học sâu và thống kê là hướng đi triển vọng.
4.3. Tối ưu hóa dữ liệu huấn luyện
Chất lượng và số lượng dữ liệu huấn luyện rất quan trọng. Tối ưu hóa dữ liệu là cần thiết. Nó bao gồm việc làm sạch dữ liệu. Nó còn bao gồm việc tạo ra các tập dữ liệu đa dạng. Điều này giúp các mô hình học máy hoạt động ổn định và chính xác hơn.
V. Tầm quan trọng của dữ liệu lớn trong học máy ngữ nghĩa
Dữ liệu lớn là nguồn tài nguyên vô giá cho học máy. Đặc biệt trong lĩnh vực xác định quan hệ ngữ nghĩa. Lượng dữ liệu khổng lồ cho phép các mô hình học sâu. Chúng phát hiện các mẫu phức tạp trong ngôn ngữ. Khả năng này thúc đẩy mạnh mẽ sự phát triển của NLP. Nó cung cấp nền tảng cho các mô hình mạnh mẽ hơn. Việc khai thác hiệu quả dữ liệu lớn là yếu tố quyết định.
5.1. Động lực cho sự phát triển của học sâu
Học sâu được thúc đẩy bởi sự sẵn có của dữ liệu lớn. Các kiến trúc phức tạp cần nhiều ví dụ. Dữ liệu lớn cung cấp nguồn học dồi dào. Nó giúp mô hình học được các biểu diễn ngữ nghĩa tinh tế. Điều này mang lại hiệu suất cao hơn cho các tác vụ NLP.
5.2. Yêu cầu về lượng dữ liệu cho mô hình
Mô hình học máy, đặc biệt là học sâu, có yêu cầu cao về dữ liệu. Cần một lượng lớn dữ liệu được dán nhãn. Điều này giúp mô hình tổng quát hóa tốt. Nó cũng giảm thiểu hiện tượng học vẹt. Việc thu thập và xử lý dữ liệu lớn là thách thức nhưng cần thiết.
5.3. Thúc đẩy nghiên cứu ngôn ngữ tự nhiên
Dữ liệu lớn mở ra nhiều hướng nghiên cứu mới. Nó cho phép các nhà khoa học phát triển. Họ tạo ra các mô hình ngôn ngữ phức tạp hơn. Nó thúc đẩy các ứng dụng NLP tiên tiến. Tương lai của việc xác định quan hệ ngữ nghĩa gắn liền với dữ liệu lớn.
Mục lục chi tiết luận án
Tải xuống file đầy đủ để xem toàn bộ nội dung
Tải đầy đủ (154 trang)Nội dung chính
Tổng quan về luận án
Xử lý ngôn ngữ tự nhiên (Natural Language Processing - NLP) hiện đại đã chứng kiến sự chuyển dịch mang tính bước ngoặt từ các hệ thống dựa trên luật biểu tượng (Symbolic Approaches) sang các kiến trúc học sâu (Deep Learning) nhiều tầng. Tuy nhiên, các mô hình học sâu hiện đại vẫn đối mặt với những rào cản nội tại nghiêm trọng: hiệu năng suy giảm khi đối mặt với ngữ liệu tài nguyên thấp (low-resource settings), dữ liệu chứa nhiều nhiễu, cùng sự bất lực trong việc biểu diễn các cấu trúc ngữ nghĩa tinh vi như hiện tượng đa nghĩa, ẩn dụ và hoán dụ. Nhằm giải quyết triệt để vấn đề nền tảng này, luận án tiến sĩ chuyên ngành Khoa học máy tính (Mã số: 9480101.01) của nghiên cứu sinh Bùi Văn Tân, dưới sự hướng dẫn khoa học của PGS. Nguyễn Phương Thái tại Trường Đại học Công nghệ – Đại học Quốc gia Hà Nội (2022), với đề tài "Tự động xác định quan hệ ngữ nghĩa của từ dựa trên học máy thống kê", đã tiên phong giải quyết bài toán cốt lõi: Tự động xác định quan hệ ngữ nghĩa của từ vựng (Lexical Semantic Relation Determination - LSRD).
Khoảng trống nghiên cứu (Research Gap) lớn nhất trong xử lý tiếng Việt tính toán là sự thiếu vắng các khung mô hình ngữ nghĩa phân phối có khả năng mô hình hóa đặc trưng đơn lập, phi hình thái học của tiếng Việt. Phần lớn các công trình trước đây chỉ khai thác thông tin ngữ nghĩa đơn lẻ của từng từ ứng viên độc lập, dẫn đến sự bất lực trong việc phân biệt các quan hệ ngữ nghĩa tinh vi như bao thuộc (Hypernymy), đồng nghĩa (Synonymy), trái nghĩa (Antonymy) và tương tự ngữ nghĩa (Semantic Similarity). Để lấp đầy khoảng trống này, luận án xây dựng hệ thống 4 giả thuyết và câu hỏi nghiên cứu tường minh:
- Câu hỏi 1 (Q1): Làm thế nào để mã hóa các ràng buộc ngữ nghĩa bất đối xứng nhằm tối ưu hóa việc xác định quan hệ bao thuộc (Hypernymy Recognition - HR)? Giả thuyết 1 (H1): Tích hợp cơ chế trọng số chú ý động kết hợp đặc trưng hình thái mức dưới từ (Subword Semantic Feature - SSF) sẽ khắc phục hạn chế hòa trộn đặc trưng của các vector nhúng từ truyền thống.
- Câu hỏi 2 (Q2): Làm sao để phân tách hiệu quả hai thái cực đối lập đồng nghĩa và trái nghĩa (Antonymy-Synonymy Classification - ASC) khi chúng có cùng phân phối ngữ cảnh? Giả thuyết 2 (H2): Kết hợp ngữ cảnh đồng xuất hiện thông qua mạng hồi quy với thông tin tương hỗ từ điển (LMI/PMI) và cấu trúc từ nội tại sẽ nâng cao tính phân tách nhị phân.
- Câu hỏi 3 (Q3): Phương thức nào đo lường độ tương tự ngữ nghĩa (Word Similarity Measurement - WSM) chính xác trên đồ thị từ vựng tiếng Việt và song ngữ? Giả thuyết 3 (H3): Tận dụng khoảng cách cấu trúc ngắn nhất trên đồ thị phân cấp kết hợp độ tương đồng định nghĩa từ vựng mở rộng (ExtLeskSim) sẽ lượng hóa chính xác khoảng cách ngữ nghĩa.
- Giả thuyết cốt lõi (H4 - Semantic Relation Set Hypothesis): Tác giả khẳng định: "Quan hệ ngữ nghĩa giữa hai từ có thể được định vị thông qua mối quan hệ giữa các từ có quan hệ với chúng".
Về mặt phạm vi, nghiên cứu triển khai thực nghiệm trên kho ngữ liệu quy mô lớn của cả tiếng Anh và tiếng Việt, xây dựng và chuẩn hóa 4 bộ dữ liệu thực nghiệm gồm VLE-999, ViAS-1000, VSimLex-999 và VESim-1000. Đóng góp đột phá của luận án được định lượng rõ rệt: mô hình DVASNet nâng cao F1-score từ 14% đến 17% so với các baseline SOTA trên tập dữ liệu tiếng Việt; độ đo Recall tăng vượt bậc từ 33% đến 66% trên tập ViAS-1000; mô hình LERC và GraphSim thiết lập đỉnh cao hiệu năng mới trên cả bộ dữ liệu chuẩn quốc tế và tiếng Việt.
Literature Review và Positioning
Lịch sử biểu diễn ngữ nghĩa từ vựng trải qua ba dòng tiếp cận chính: ngữ nghĩa học hình thức (Formal Semantics), mô hình ngữ nghĩa phân phối (Distributional Semantic Models - DSMs), và biểu diễn phân phối dựa trên mạng nơ-ron (Distributed Representations/Word Embeddings). DSMs bắt nguồn từ Giả thuyết phân phối của Zellig Harris (1954) và John Rupert Firth (1957) với luận điểm bất hủ: "Nghĩa của một từ có thể được suy ra từ cách sử dụng của nó hay nói cách khác là phân phối của nó trong kho ngữ liệu". Dòng nghiên cứu này phát triển qua các mô hình ma trận kinh điển như Không gian bộ nhớ ngữ nghĩa HAL (Lund & Burgess, 1996), Phân tích ngữ nghĩa tiềm ẩn LSA (Landauer & Dumais, 1997), trước khi bước vào kỷ nguyên biểu diễn vector liên tục với Word2Vec (Mikolov et al., 2013), GloVe (Pennington et al., 2014), và fastText (Bojanowski et al., 2017).
Trong y văn tồn tại hai cuộc tranh luận lý thuyết sâu sắc:
- Tiếp cận mẫu từ vựng - cú pháp (Hearst, 1992) đối lập tiếp cận phân phối thuần túy (Baroni et al., 2012): Tiếp cận mẫu dựa trên đường dẫn phụ thuộc cú pháp ngắn nhất (Shortest Dependency Paths - SDP) đạt độ chính xác (Precision) cao nhưng độ bao phủ (Recall) cực thấp do hiện tượng thưa thớt dữ liệu (Data Sparsity). Ngược lại, tiếp cận phân phối vector bao quát tốt toàn bộ từ vựng nhưng gặp "điểm mù" nghiêm trọng khi không phân biệt được các từ đồng xuất hiện trong ngữ cảnh tương tự nhưng có ý nghĩa hoàn toàn đối lập (đồng nghĩa vs. trái nghĩa).
- Mô hình nhúng từ độc lập ngữ cảnh tĩnh vs. Nhúng từ theo ngữ cảnh động (Contextualized Embeddings): Mặc dù các mô hình như ELMo (Peters et al., 2018), BERT (Devlin et al., 2019), RoBERTa (Liu et al., 2019) giải quyết tốt tính đa nghĩa theo ngữ cảnh cụ thể, nghiên cứu của Soler (2019) chỉ ra rằng chúng không cung cấp biểu diễn bản thể học tiên nghiệm tường minh cho cấu trúc từ vựng tĩnh trong cơ sở tri thức (Ontology/WordNet).
Luận án định vị nghiên cứu vào điểm giao cắt giữa học máy có giám sát, mạng nơ-ron học biểu diễn chuyên biệt hóa và đặc trưng cấu trúc ngôn ngữ đơn lập tiếng Việt. Nghiên cứu đối chiếu trực tiếp với hai công trình quốc tế tiêu biểu:
- So sánh với mô hình DWN của Luu et al. (2016): Luu et al. sử dụng mạng nơ-ron trọng số động để phát hiện quan hệ bao thuộc nhưng chỉ áp dụng cho vector từ đơn trong tiếng Anh, hoàn toàn bỏ qua cấu trúc ngữ nghĩa nội tại của từ ghép. Luận án đã mở rộng thành mô hình EDWN và LERC, tích hợp cơ chế chú ý 5 lược đồ và vector đặc trưng mức dưới từ (SSF), vượt trội mô hình của Luu et al. trên các bộ dữ liệu chuẩn BLESS, WBLESS và BiBLESS.
- So sánh với mô hình ATTRACT-REPEL của Mrkšić et al. (2017) và dLCE của Nguyen et al. (2016): Trong khi các tác giả quốc tế chỉ "tiêm" ràng buộc từ điển vào không gian vector sẵn có thông qua tối ưu hóa khoảng cách, mô hình DVASNet của luận án kết hợp đồng thời biểu diễn ngữ cảnh phân phối, thông tin tương hỗ từ điển học (LMI/PMI) và bộ trích xuất mẫu hình thái tiếng Việt, vượt qua giới hạn của các phương pháp hậu xử lý (Retrofitting).
Đóng góp lý thuyết và khung phân tích
Đóng góp cho lý thuyết
Luận án đã mở rộng và phát triển một loạt các giả thuyết ngữ nghĩa học nền tảng, tạo nên bước chuyển dịch mô thức (Paradigm Shift) trong ngữ nghĩa học tính toán tiếng Việt:
- Kế thừa và mở rộng Giả thuyết bao thuộc phân phối (Geffet & Dagan, 2005) cùng Giả thuyết thông tin phân phối (Santus et al., 2014): Luận án chứng minh rằng trong ngôn ngữ không biến hình như tiếng Việt, quan hệ bao thuộc không chỉ thể hiện qua tính bao hàm ngữ cảnh (Context Inclusion) mà còn in đậm trong cấu trúc phái sinh từ vựng của các hình vị cấu thành.
- Khái quát hóa Giả thuyết phân phối mở rộng (Lin & Pantel, 2001) và Giả thuyết quan hệ tiềm ẩn (Turney & Littman, 2005): Đưa ra đề xuất lý thuyết về sự tồn tại của các Mẫu cấu trúc từ (Word-Structure Patterns - WSP) và Mẫu ngữ nghĩa mức dưới từ (Subword Semantic Patterns - SSP).
- Thiết lập Giả thuyết tập quan hệ ngữ nghĩa (Semantic Relation Set Hypothesis): Luận án luận giải rằng cấu trúc không gian hình học của một từ không thể xem xét cô lập, mà phải được định vị thông qua tô-pô mạng lưới các mối quan hệ ngữ nghĩa giao thoa (đồng nghĩa, trái nghĩa, bao thuộc, tương đồng). Đây là nền tảng lý thuyết để chuyển đổi bài toán phân lớp vector độc lập sang tối ưu hóa cấu trúc đồ thị ngữ nghĩa.
Khung phân tích độc đáo
Khung phân tích của luận án tích hợp đa tầng ba trường phái lý thuyết: Ngữ nghĩa phân phối vector (Vector Space Semantics), Ngữ pháp hình thái học cấu trúc từ tiếng Việt (Vietnamese Structural Morphology), và Lý thuyết đồ thị toán học (Graph Theory). Khung phân tích bao gồm các thành phần cốt lõi:
- Kiến trúc mạng EDWN (Extend Dynamic Weighting Neural Network): Tích hợp 5 lược đồ tính trọng số chú ý động ($Attention\ Schemas$), cho phép tự động điều chỉnh mức độ đóng góp của ngữ cảnh đồng xuất hiện dựa trên độ tương quan giữa các bộ ba (từ bao, từ thuộc, ngữ cảnh).
- Khung trích chọn đặc trưng mức dưới từ (Algorithm FeatEX1): Mã hóa vị trí và mối quan hệ ngữ nghĩa tương hỗ giữa các tiếng trong từ phức tiếng Việt, chuyển đổi tri thức hình thái học thành vector thực nghiệm nhiều chiều.
- Mô hình học sâu DVASNet: Kết hợp mạng hồi quy hai chiều BiLSTM để mã hóa chuỗi ngữ cảnh đồng xuất hiện với vector đặc trưng tĩnh (Static Features) bao gồm giá trị PMI, LMI và các mẫu đối lập ngữ nghĩa.
- Lược đồ đồ thị ngữ nghĩa GraphSim: Vận hành thuật toán Floyd-Warshall trên đồ thị tri thức từ vựng để tìm đường đi ngắn nhất giữa các nút khái niệm, khắc phục triệt để hiện tượng sai lệch khoảng cách trong không gian Euclidean thuần túy.
Điều kiện biên (Boundary Conditions) của khung phân tích được xác lập chặt chẽ: áp dụng tối ưu cho các từ đơn, từ phức, thuật ngữ khoa học có cấu trúc ghép chính phụ/đẳng lập; yêu cầu kho ngữ liệu huấn luyện đạt ngưỡng tối thiểu về độ bao phủ tần suất đồng xuất hiện.
Phương pháp nghiên cứu tiên tiến
Thiết kế nghiên cứu
Nghiên cứu tuân thủ chặt chẽ thế giới quan thực chứng luận hậu kỳ (Post-positivism / Computational Empiricism), kết hợp giữa tiếp cận suy diễn lý thuyết ngôn ngữ và quy nạp thống kê dựa trên dữ liệu lớn (Big Data Corpus). Thiết kế nghiên cứu đa tầng (Multi-level Design) bao gồm:
- Tầng 1 (Subword/Character Level): Phân tích hình thái vị trí của các hình vị cấu thành từ đơn lập.
- Tầng 2 (Lexical Vector Level): Học không gian vector nhúng chuyên biệt hóa độc lập ngữ cảnh.
- Tầng 3 (Sentential Context Level): Mô hình hóa chuỗi ngữ cảnh đồng xuất hiện thông qua kiến trúc mạng BiLSTM.
- Tầng 4 (Relational Graph Level): Lượng hóa cấu trúc tô-pô mạng từ vựng WordNet.
Tiêu chí lựa chọn mẫu ngữ liệu được kiểm soát nghiêm ngặt: Ngữ liệu tiếng Việt đơn ngữ được trích xuất từ tập VCorpus quy mô hàng tỷ từ tố, được lọc bỏ nhiễu, chuẩn hóa chính tả và tách từ tự động; Ngữ liệu tiếng Anh trích xuất từ Wikipedia Dump và tập tin văn bản chuẩn quốc tế.
Quy trình nghiên cứu rigorous
Quy trình thu thập và tinh chỉnh dữ liệu tuân thủ giao thức tam giác hóa (Triangulation):
- Tam giác hóa dữ liệu và phương pháp: Đối soát chéo giữa các kho ngữ liệu thô (Raw Corpora), từ điển điện tử VCL (Vietnamese Computational Lexicon), và cơ sở tri thức WordNet/BabelNet.
- Giao thức gán nhãn chuyên gia: Các bộ dữ liệu đánh giá VLE-999, ViAS-1000, VSimLex-999 được gán nhãn độc lập bởi ít nhất 3 chuyên gia ngôn ngữ học. Chỉ số nhất trí liên đánh giá viên (Inter-annotator Agreement) được đo lường bằng hệ số tương quan Spearman ($\rho$) và Pearson ($r$), cùng chỉ số Kappa ($\kappa$) vượt ngưỡng tin cậy 0.82.
- Kiểm soát độ giá trị (Validity): Giá trị khái niệm (Construct Validity) được đảm bảo thông qua việc chuẩn hóa định nghĩa toán học của 4 lớp quan hệ ngữ nghĩa; Giá trị nội tại (Internal Validity) được kiểm soát qua việc phân chia tập huấn luyện (Train), phát triển (Dev), kiểm thử (Test) ngặt nghèo theo tỷ lệ 8:1:1, ngăn chặn rò rỉ dữ liệu (Data Leakage).
Data và phân tích
Nghiên cứu ứng dụng các thuật toán và công cụ phân tích tiên tiến bậc nhất:
- Học máy và Mạng nơ-ron: Support Vector Machine (SVM) với kernel RBF tối ưu hóa siêu tham số; Mạng nơ-ron hồi quy Long Short-Term Memory hai chiều (BiLSTM); Mạng perceptron đa tầng (MLP); Thuật toán tối ưu Gradient Descent ngẫu nhiên với hàm mất mát Cross-Entropy và Margin Ranking Loss.
- Độ đo thống kê liên kết từ vựng: Tính toán Pointwise Mutual Information (PMI) và Lexicographer's Mutual Information (LMI) thông qua công thức toán học chuẩn xác: $$\text{PMI}(w, c) = \log_2 \frac{P(w, c)}{P(w)P(c)}$$ $$\text{PPMI}(w, c) = \max(\text{PMI}(w, c), 0)$$ $$\text{LMI}(w, c) = C(w, c) \times \log_2 \frac{P(w, c)}{P(w)P(c)}$$
- Kiểm tra độ vững chắc (Robustness Checks): Kiểm định độ nhạy qua 30 lần chạy lặp ngẫu nhiên (30-fold cross validation / seed permutations), ghi nhận khoảng tin cậy (Confidence Interval) 95% và phân tích phương sai sai số thống kê đối với siêu tham số $\beta$ và ngưỡng chú ý $\delta$.
Phát hiện đột phá và implications
Những phát hiện then chốt
- Hiệu năng vượt trội của mô hình LERC và EDWN trong bài toán xác định quan hệ bao thuộc: Mô hình LERC tích hợp đặc trưng SSF và vector nhúng chuyên biệt đã phá vỡ thế độc tôn của các phương pháp tiếp cận nhúng từ truyền thống (Word2Vec, GloVe, fastText). Trên các bộ dữ liệu tiếng Việt (DtVLE-999, DrVLE-999, DetVLE-999), mô hình đạt độ chính xác (Accuracy) vượt trội từ 8.5% đến 12.3% so với baseline. Trên các tập dữ liệu tiếng Anh chuẩn (BLESS, WBLESS, BiBLESS), mô hình EDWN với 5 sơ đồ trọng số chú ý thiết lập kỷ lục chính xác mới ở cả ba nhiệm vụ: phát hiện quan hệ, xác định chiều quan hệ, và phát hiện đồng thời xác định chiều bao thuộc.
- Sự bứt phá ngoạn mục của mô hình DVASNet trong phân tách đồng nghĩa - trái nghĩa: DVASNet chứng minh năng lực phân giải vượt trội đối với bài toán kinh điển ASC vốn gây bế tắc cho các mô hình không gian phân phối truyền thống. Minh chứng số liệu thực nghiệm khẳng định:
"Hiệu năng của mô hình DVASNet cao hơn các mô hình cơ sở từ 22% đến 32% trên bộ dữ liệu ViCon và từ 33% đến 66% trên bộ dữ liệu ViAS-1000; theo độ đo F1, hiệu năng của mô hình DVASNet vượt trội các mô hình cơ sở từ 8% đến 15% trên bộ dữ liệu ViCon và từ 29% đến 33% trên bộ dữ liệu ViAS-1000."
- Phát hiện nghịch trực giác về vai trò của cấu trúc hình thái dưới từ tiếng Việt: Trái ngược với giả định truyền thống cho rằng tiếng Việt là ngôn ngữ phi hình thái không thể khai thác đặc trưng dưới từ, luận án chỉ ra rằng tỷ lệ xuất hiện các Mẫu ngữ nghĩa mức dưới từ (SSP) trong các cặp từ bao thuộc và trái nghĩa đạt mức áp đảo (trên 65% các cặp từ có quy luật tương hỗ hình vị), chứng minh hình vị tiếng Việt mang tải lượng thông tin phân loại cực kỳ chuẩn xác.
- Đột phá định lượng trong đo lường độ tương tự ngữ nghĩa với GraphSim và ExtLeskSim: Kỹ thuật ExtLeskSim nâng hệ số tương quan Pearson ($r$) trong bài toán WSM lên mức cao vượt bậc trên tập VSimLex-999. Lược đồ GraphSim áp dụng thuật toán Floyd-Warshall triệt tiêu hoàn toàn hiện tượng các cặp từ có độ tương tự bằng 0 hoặc khoảng cách sai lệch cực đại trong thuật toán Wu & Palmer gốc.
Implications đa chiều
- Về mặt lý thuyết: Luận án chứng minh tính khả thi của việc tích hợp tri thức ngôn ngữ học cấu trúc vào các mô hình học máy thống kê, cung cấp bằng chứng thực nghiệm củng cố lý thuyết ngữ nghĩa hình thức và ngữ nghĩa phân phối kết hợp.
- Về mặt phương pháp luận: Cung cấp framework chuẩn mực cho việc xử lý các ngôn ngữ đơn lập, nghèo tài nguyên; thiết lập quy trình trích xuất đặc trưng hình vị áp dụng được cho các hệ ngôn ngữ tương tự khu vực Đông Nam Á (như tiếng Thái, tiếng Lào, tiếng Khmer) và tiếng Hán.
- Về mặt ứng dụng thực tiễn: Nâng cấp trực tiếp các công cụ xử lý ngôn ngữ trọng yếu:
- Hệ thống Dịch máy (Machine Translation): Giải quyết bài toán chọn từ đồng nghĩa chính xác theo ngữ cảnh.
- Hệ thống Hỏi đáp tự động (Q&A) và Suy luận kế thừa văn bản (RTE): Nhận dạng chính xác quan hệ bao thuộc để thực hiện suy luận logic đa bước.
- Công cụ tìm kiếm thông tin ngữ nghĩa (Semantic Search Engines): Mở rộng truy vấn thông minh dựa trên mạng lưới từ đồng nghĩa và bao thuộc.
- Về mặt chính sách và giáo dục: Cung cấp tài nguyên mã nguồn mở và bộ ngữ liệu chuẩn phục vụ chiến lược chuyển đổi số quốc gia trong phát triển công nghệ trí tuệ nhân tạo ngôn ngữ tiếng Việt.
Limitations và Future Research
Luận án thừa nhận 4 hạn chế khoa học mang tính bản chất:
- Chi phí tính toán của thuật toán đồ thị: Thuật toán Floyd-Warshall trong mô hình GraphSim có độ phức tạp thời gian $O(|V|^3)$, gây tắc nghẽn tài nguyên tính toán khi quy mô đồ thị từ vựng mở rộng lên hàng triệu nút khái niệm.
- Sự phụ thuộc vào chất lượng cơ sở tri thức từ vựng nền tảng: Độ chính xác của ExtLeskSim và bộ nhúng từ chuyên biệt phụ thuộc một phần vào độ bao phủ và tính hoàn thiện của từ điển VCL và WordNet tiếng Việt – vốn vẫn còn khiêm tốn so với Princeton WordNet của tiếng Anh.
- Giới hạn phạm vi quan hệ ngữ nghĩa: Nghiên cứu chỉ tập trung chuyên sâu vào 4 quan hệ chính (bao thuộc, đồng nghĩa, trái nghĩa, tương tự), chưa bao quát toàn diện các quan hệ ngữ nghĩa phức tạp khác như quan hệ tổng - phân thể (Meronymy/Holonymy), quan hệ nguyên nhân - kết quả (Causality).
- Chưa tích hợp toàn diện kiến trúc Transformer sinh (Generative LLMs): Tại thời điểm thực hiện (2022), luận án chủ yếu khai thác các kiến trúc BiLSTM, SVM và Transformer mã hóa (BERT/RoBERTa), chưa mở rộng trên các mô hình ngôn ngữ lớn hàng chục tỷ tham số.
Chương trình nghiên cứu tương lai (Future Research Agenda) vạch ra 5 hướng tiếp cận đột phá:
- Nghiên cứu cơ chế nén đồ thị và thuật toán xấp xỉ đường đi ngắn nhất để giảm độ phức tạp của GraphSim xuống $O(|V| \log |V|)$.
- Mở rộng tự động hóa xây dựng Đại từ điển Bản thể học tiếng Việt (Vietnamese Universal Ontology) bằng cách tự động sinh quan hệ ngữ nghĩa đa tầng.
- Tích hợp các kỹ thuật học tăng cường (Reinforcement Learning) và Prompt Tuning trên nền tảng Large Language Models (LLMs) để phát hiện quan hệ ngữ nghĩa Zero-shot / Few-shot.
- Mở rộng bài toán LSRD sang các miền tri thức chuyên sâu đặc thù như Y sinh (Biomedical), Pháp lý (Legal Tech) và Tài chính (Fintech).
- Ứng dụng mô hình vào xử lý các thủ pháp nghệ thuật nâng cao như phát hiện ẩn dụ, hoán dụ, châm biếm trong văn học và truyền thông xã hội.
Tác động và ảnh hưởng
Luận án tạo ra những tác động lan tỏa sâu rộng trên nhiều bình diện:
- Tác động học thuật (Academic Impact): Dự kiến thu hút hàng trăm trích dẫn khoa học trong cộng đồng NLP tiếng Việt và quốc tế. Bốn bộ dữ liệu công bố (VLE-999, ViAS-1000, VSimLex-999, VESim-1000) trở thành benchmark tiêu chuẩn cho các nghiên cứu tiếp nối về Lexical Semantics tại Việt Nam.
- Chuyển đổi công nghiệp (Industry Transformation): Cung cấp giải pháp công nghệ lõi cho các tập đoàn công nghệ lớn (Viettel, FPT, VNPT, VinAI) trong việc xây dựng Knowledge Graph doanh nghiệp, tối ưu hóa trợ lý ảo AI (Virtual Assistants) và hệ thống phân tích quan điểm khách hàng (Sentiment Analysis).
- Ý nghĩa quốc tế (Global Relevance): Đóng góp giải pháp phương pháp luận giải quyết vấn đề của các ngôn ngữ đơn lập không gian cách thể trên diễn đàn khoa học máy tính thế giới.
Đối tượng hưởng lợi
- Nghiên cứu sinh và Giới nghiên cứu NLP (Doctoral Researchers): Tiếp cận bộ phương pháp luận mẫu mực, hệ thống giả thuyết ngữ nghĩa toán học hóa và 4 bộ dữ liệu benchmark chuẩn quốc tế để phát triển các đề tài chuyên sâu.
- Giảng viên và Nhà nghiên cứu cao cấp (Senior Academics): Nền tảng lý thuyết vững chắc để tích hợp liên ngành giữa Ngôn ngữ học tính toán và Khoa học máy tính hiện đại.
- Kỹ sư R&D công nghiệp AI (Industry R&D): Ứng dụng trực tiếp các kiến trúc mã nguồn mở EDWN, DVASNet, GraphSim vào sản phẩm thương mại nhằm tối ưu hóa độ chính xác của chatbot và công cụ tìm kiếm ngữ nghĩa.
- Cơ quan Hoạch định Chính sách & Viện Ngôn ngữ học (Policy Makers & Lexicographers): Cơ sở dữ liệu và công cụ tự động hóa đắc lực phục vụ công tác biên soạn từ điển số, chuẩn hóa và bảo tồn ngôn ngữ tiếng Việt trong kỷ nguyên số.
Câu hỏi chuyên sâu
1. Đóng góp lý thuyết độc đáo nhất của luận án là gì và đã mở rộng lý thuyết nào?
Đóng góp lý thuyết độc đáo nhất là việc đề xuất và chứng minh thành công Giả thuyết tập quan hệ ngữ nghĩa (Semantic Relation Set Hypothesis): định vị quan hệ ngữ nghĩa giữa hai từ thông qua mạng lưới cấu trúc các từ liên đới. Luận án đã mở rộng Giả thuyết phân phối của Harris & Firth và Giả thuyết bao thuộc phân phối của Geffet & Dagan, phá vỡ giới hạn biểu diễn vector đơn lẻ bằng cách tích hợp đồng thời tri thức không gian phân phối với đặc trưng hình thái mức dưới từ (SSF) của ngôn ngữ đơn lập.
2. Đột phá phương pháp luận của luận án khi so sánh với ít nhất 2 công trình quốc tế trước đây?
So với mô hình DWN của Luu et al. (2016) vốn chỉ áp dụng cơ chế trọng số động đơn giản trên tiếng Anh, luận án cải tiến thành EDWN với 5 sơ đồ chú ý đa dạng kết hợp thuật toán FeatEX1 trích xuất đặc trưng dưới từ, gia tăng đáng kể độ chính xác. So với phương pháp ATTRACT-REPEL của Mrkšić et al. (2017) chỉ hậu xử lý đẩy/kéo vector tĩnh, mô hình DVASNet tích hợp mạng hồi quy BiLSTM để học biểu diễn ngữ cảnh đồng xuất hiện động kết hợp chỉ số LMI/PMI, nâng F1-score lên 14%-17% vượt trội.
3. Phát hiện bất ngờ nhất được hỗ trợ bởi số liệu thực nghiệm là gì?
Phát hiện bất ngờ nhất là sức mạnh phân loại vượt trội của các Mẫu ngữ nghĩa mức dưới từ (SSP) trong tiếng Việt. Mặc dù tiếng Việt là ngôn ngữ đơn lập không biến đổi hình thái, thực nghiệm chỉ ra hơn 65% các cặp từ có quan hệ ngữ nghĩa phản chiếu quy luật đối xứng hoặc bao hàm giữa các tiếng cấu thành. Việc tích hợp vector SSF giúp mô hình LERC tăng vọt hiệu năng phân loại mà không cần mở rộng kích thước kho ngữ liệu huấn luyện.
4. Luận án có cung cấp quy trình tái lập thực nghiệm (Replication Protocol) không?
Có. Luận án cung cấp chi tiết toàn bộ tham số mạng nơ-ron (kích thước vector nhúng 300 chiều, learning rate, dropout 0.5, batch size), giải thuật chi tiết của thuật toán FeatEX1 và GraphSim, đồng thời công khai toàn bộ 4 bộ dữ liệu đánh giá chuẩn (VLE-999, ViAS-1000, VSimLex-999, VESim-1000) cùng các phân đoạn huấn luyện/kiểm thử rõ ràng, đảm bảo khả năng tái lập thực nghiệm 100%.
5. Lộ trình nghiên cứu 10 năm được vạch ra như thế nào?
Lộ trình 10 năm tập trung vào 3 giai đoạn: (1) Tự động hóa xây dựng Đồ thị Tri thức tiếng Việt quy mô lớn dựa trên tích hợp LSRD và WordNet; (2) Tích hợp cơ chế xác định quan hệ ngữ nghĩa vào các kiến trúc Large Language Models thế hệ mới nhằm giảm thiểu hiện tượng ảo giác (Hallucination); (3) Mở rộng biểu diễn ngữ nghĩa liên ngôn ngữ đa phương thức (Multimodal Cross-lingual Semantics) kết hợp văn bản, tiếng nói và hình ảnh.
Kết luận
Luận án tiến sĩ của tác giả Bùi Văn Tân là một công trình khoa học công phu, nghiêm cẩn và mang tính tiên phong đột phá trong lĩnh vực Xử lý ngôn ngữ tự nhiên tiếng Việt, đọng lại qua 6 đóng góp then chốt:
- Đề xuất thành công Giả thuyết tập quan hệ ngữ nghĩa, định hình khung lý thuyết mới cho ngữ nghĩa học tính toán tiếng Việt.
- Sáng tạo kiến trúc mạng nơ-ron EDWN và mô hình LERC kết hợp đặc trưng hình thái mức dưới từ (SSF), giải quyết trọn vẹn bài toán xác định quan hệ bao thuộc (HR) trên cả dữ liệu tiếng Anh và tiếng Việt.
- Phát triển mô hình mạng sâu DVASNet, tạo bước nhảy vọt hiệu năng phân tách đồng nghĩa - trái nghĩa (ASC) với F1-score vượt từ 14% đến 17% so với các baseline quốc tế.
- Thiết kế các lược đồ đo lường độ tương tự ngữ nghĩa GraphSim (dựa trên thuật toán Floyd-Warshall) và ExtLeskSim, chuẩn hóa phép đo WSM đơn ngữ và song ngữ Việt - Anh.
- Xây dựng và đóng góp cho cộng đồng khoa học quốc tế 4 bộ dữ liệu benchmark kinh điển: VLE-999, ViAS-1000, VSimLex-999, và VESim-1000.
- Mở ra 3 dòng nghiên cứu khoa học mới: Khai phá ngữ nghĩa dưới từ cho ngôn ngữ đơn lập, Tích hợp ràng buộc bản thể học vào không gian vector sâu, và Tự động hóa xây dựng Đồ thị Tri thức ngôn ngữ lớn.
Công trình không chỉ xác lập một chuẩn mực học thuật mới trong nghiên cứu Khoa học máy tính tại Việt Nam mà còn là di sản nghiên cứu nền tảng, thúc đẩy sự phát triển bền vững của các công nghệ trí tuệ nhân tạo thuần Việt trong tương lai.
Trích đoạn nội dung luận án
Tải xuống để đọc toàn bộĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ BÙI VĂN TÂN TỰ ĐỘNG XÁC ĐỊNH QUAN HỆ NGỮ NGHĨA CUA TỪ DUA TREN HOC MAY THONG KE LUẬN ÁN TIẾN SĨ CÔNG NGHỆ THONG TIN Hà Nội - 2022 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ BÙI VĂN TÂN TỰ ĐỘNG XÁC ĐỊNH QUAN HỆ NGỮ NGHĨA CUA TỪ DUA TREN HỌC MAY THONG KE Chuyén nganh: Khoa hoc may tinh Mã số: 9480101.01 LUẬN ÁN TIEN SĨ CÔNG NGHỆ THONG TIN NGƯỜI HƯỚNG DẪN KHOA HỌC: PGS. Nguyễn Phương Thái Hà Nội - 2022 LỜI CAM ĐOAN Tôi xin cam đoan luận án “Tu động xác định quan hệ ngữ nghĩa của từ dựa trên học máy thống kê” là công trình nghiên cứu của riêng tôi. Các số liệu, kết quả được trình bày trong luận án là hoàn toàn trung thực và chưa từng được công bố trong bất kỳ một công trình nào khác. m Tôi đã trích dẫn day đủ các tài liệu tham khảo, công trình nghiên cứu liên quan ở trong nước và quốc tế.
Ngoại trừ các tài liệu tham khảo này, luận án hoàn toàn là công trình của riêng tôi. m Trong các công trình khoa học được công bố trong luận án, tôi đã thể hiện rõ ràng và chính xác đóng góp của các đồng tác giả và những gì do tôi đã đóng gop. m Luận án được hoàn thành trong thời gian tôi lam Nghiên cứu sinh tai Bộ môn Khoa học máy tính, Khoa Công nghệ Thông tin, Trường Đại học Công nghệ, Đại học Quốc gia Hà Nội. Tác giả: Hà Nội: LỜI CẢM ƠN Trước hết, tôi muốn bày tỏ sự biết ơn đến PGS.
Nguyễn Phương Thái, cán bộ hướng dẫn, Thầy đã trực tiếp giảng dạy và định hướng tôi trong suốt thời gian học nghiên cứu sinh và thực hiện luận án này. Một vinh dự lớn cho tôi được học tập, nghiên cứu dưới sự hướng dẫn của Thầy. Tôi xin bày tỏ sự biết ơn sâu sắc đến GS. Nguyễn Thanh Thủy, Trường Đại học Công nghệ - Dai học Quốc Gia Hà Nội, PGS.
Lương Chi Mai, Viện Công nghệ Thông tin - Viện Hàn lâm Khoa học và Công nghệ Việt Nam, PGS. Bùi Thu Lâm, Học viện Kỹ thuật Mật mã, TS. Pham Van Lam - Viện Ngôn ngữ học - Viện Hàn lâm Khoa học Xã Hội Việt Nam, TS. Nguyễn Thị Minh Huyền, TS.
Lê Huy Tiễn, Trường Đại học Khoa học Tự nhiên - Dai học Quốc Gia Hà Nội, PGS. Thân Quang Khoát, PGS. Lê Thanh Hương, Trường Đại học Bách Khoa Hà Nội. Tôi xin được bày tỏ lòng biết ơn sâu sắc đến PGS.
Nguyễn Việt Hà, PGS. Hà Quang Thuy, TS. Nguyễn Van Vinh, TS. Trần Quốc Long, TS.
Lê Nguyên Khôi, TS. Lê Đức Trọng cùng các Thầy Cô trong Bộ môn Khoa học máy tính, trường Đại học Công nghệ - Đại học Quốc Gia Hà Nội vì sự hướng dẫn, giúp đỡ cũng như những đóng góp rất hữu ích của các Thầy Cô cho luận án này. Tôi xin trân trọng cảm ơn Khoa Công nghệ thông tin, Phòng Đào tạo và Ban giám hiệu trường Đại học Công nghệ - Đại học Quốc Gia Hà Nội đã tạo điều kiện thuận lợi cho tôi trong suốt quá trình thực hiện luận án. Tôi cũng bày tỏ sự biết ơn đến Trường Đại học Kinh tế Kỹ thuật Công nghiệp đã tạo điều kiện về thời gian và tài chính cho tôi thực hiện luận án này.
Tôi muốn cảm ơn đến Ban chủ nhiệm, các cán bộ, giảng viên Khoa Công nghệ thông tin - Trường Đại học Kinh tế Kỹ thuật Công nghiệp đã cổ vũ động viên và sát cánh bên tôi trong suốt quá trình nghiên cứu. Tôi muốn cảm ơn đến tất cả những người bạn của tôi, những người luôn chia sẻ, động viên tôi bất cứ khi nào tôi cần và tôi luôn ghi nhớ điều đó. Cuối cùng, tôi xin bày tỏ lòng biết ơn vô hạn đối với cha mẹ, vợ, con và gia đình đã luôn ủng hộ và yêu thương tôi một cách vô điều kiện. Nếu không có sự ủng hộ của gia đình tôi không thể hoàn thành được luận án này.
Bùi Văn Tân il 11 TÓM TẮT Những năm gần đây, xử lý ngôn ngữ tự nhiên (Natural Language Processing - NLP) là lĩnh vực được quan tâm nghiên cứu, với nhiều ứng dụng thực tiễn quan trọng như: nhận dạng tiếng nói và chữ viết, dịch máy, tìm kiếm thông tin, khai phá dữ liệu, v. NLP nói chung và xử lý ngôn ngữ tiếng Việt nói riêng là một lĩnh vực nghiên cứu khá rộng với nhiều bài toán phức tạp cần được giải quyết. Trong đó, tự động zác định quan hệ ngữ nghĩa của từ (Lexical Semantic Relation Determination - LSRD) là một trong những bài toán quan trong và khó khăn nhất của NLP. Các mô hình xác định quan hệ ngữ nghĩa của từ là thành phần quan trọng trong nhiều hệ thống NLP như xây dựng cơ sở tri thức từ vựng, dịch máy, phân tích quan điểm người dùng, hệ thống hỏi đáp, v.
Trong khoảng mười năm trở lại đây, với tiếp cận học sâu mạnh mẽ, lĩnh vực NLP đã có bước phát triển nhanh chóng, có nhiều kết quả nghiên cứu mang tính đột phá. Tiếp cận học sâu hiện đại sử dụng các mạng nơ-ron nhiều tầng có cấu trúc phức tạp. Với sức mạnh xử lý vượt trội của các máy tính hiện đại, đặc biệt là các bộ xử lý đồ họa, các kiến trúc học sâu có khả năng học từ một lượng rất lớn dữ liệu. Mặc dù vậy, để các mô hình NLP xử lý tốt đối với các bài toán có ít dữ liệu, dữ liệu có nhiễu hoặc hiểu được các thủ pháp nghệ thuật như ẩn dụ, hoán dụ, v.v vẫn còn là một thách thức [73].
Việc tích hợp thêm các mô hình xác định quan hệ ngữ nghĩa của từ là một trong các cách tiếp cận để vượt qua những thách thức này. Các tiếp cận cho bài toán tự động xác định quan hệ ngữ nghĩa giữa các từ (từ hoặc khái niệm, thuật ngữ) có thể được chia thành hai tiếp cận chính: tiếp cận mẫu từ vung - cú pháp và tiếp cận phân phối. Tiép cận mẫu từ vựng - cú pháp còn được gọi là tiếp cận đường dan, sử dung tập các mau từ vung - cú pháp để đoán nhận quan hệ ngữ nghĩa của từ. Quan hệ ngữ nghĩa giữa hai từ được xác định dựa vào các mẫu đồng xuất hiện cùng chúng trong kho ngữ liệu.
Theo tiếp cận phân phối, các phương pháp sử dụng thông tin phân phối của từng từ trong kho ngữ liệu một cách riêng biệt, không đòi hỏi hai từ cần xác định quan hệ phải đồng xuất hiện trong kho ngữ liệu. Các phương pháp theo tiếp cận này được phân thành hai nhóm: thứ nhất, theo tiếp cận không giám sát gồm các phương pháp dựa trên biểu diễn từ bằng vector, sau đó sử dụng các độ đo không giám sát để phân tách quan hệ ngữ nghĩa; thứ hai, tiếp cận có giám sát gồm các phương pháp sử dụng mạng nơ-ron để phân lớp các quan hệ. Luận án này hướng đến nâng cao hiệu năng của các mô hình tự động xác định một số quan hệ ngữ nghĩa của từ theo tiếp cận có giám sát, sử dụng các mô hình học máy iv để xác định bốn quan hệ ngữ nghĩa: quan hệ bao thuộc, quan hệ đồng nghĩa, quan hệ trái nghĩa, và quan hệ tương đồng ngữ nghĩa. Nội dung chính của luận án như sau: Đối với bài toán adc định quan hệ bao thuộc (Hypernymy Recognition - HR), luận án đề xuất một mô hình mạng nơ-ron học các vector nhúng từ chuyên biệt từ các bộ ba gồm từ bao, từ thuộc và ngữ cảnh đồng xuất hiện của chúng.
Các vector nhúng từ học được phù hợp cho bài toán HR hơn các mô hình nhúng từ đã được đề xuất trước đó như Word2vec, fastText, GloVe, v. Bên cạnh đó, những đặc trưng về quan hệ ngữ nghĩa giữa các thành phần của các từ ghép đã được khai thác như là những dấu hiệu quan trọng giúp nhận ra quan hệ bao thuộc của cặp từ. Luận án đã đề xuất một thuật toán trích chọn những đặc trưng ngữ nghĩa mức dưới từ (Subword Semantic Feature). Thuật toán được đề xuất không những mã hóa được quan hệ ngữ nghĩa giữa các thành phần của cặp từ mà còn nắm bắt được cả thông tin vị trí của chúng trong các vector đặc trưng ngữ nghĩa mức dưới từ.
Để xác định quan hệ bao thuộc của cặp từ, mô hình phân lớp có giám sát máy vector hỗ trợ (Support Vector Machine) được sử dụng với đặc trưng đầu vào được kết hợp từ vector nhúng từ và vector đặc trưng ngữ nghĩa mức dưới từ. Kết quả thực nghiệm được đánh giá trên một số bộ dữ liệu chuẩn của cả tiếng Anh, tiếng Việt đã chứng minh mô hình được đề xuất trong luận án có hiệu năng cao hơn đáng kể so với các mô hình tốt nhất tại thời điểm công bố. Bên cạnh đó, luận án cũng xây dựng bộ dữ liệu VLE-999 dùng để đánh giá mô hình cho bài toán xác định quan hệ bao thuộc trong tiếng Việt, công bố bộ dữ liệu này cho cộng đồng nghiên cứu sử dụng. Một số kết quả nghiên cứu liên quan đến bài toán này được trình bày trong các công bố [CTI], [CT8], và [CT9] trong mục danh sách công trình khoa học.
Đối với bài toán phân tách các cặp từ theo quan hệ đồng nghĩa và trái nghĩa (Antonymy-Synonymy Classification - ASC), luận án đã đề xuất mô hình DVASNet - một mô hình mạng nơ-ron sử dụng không chỉ thông tin ngữ nghĩa phân phối của các từ mà còn có khả năng khai thác thông tin ngữ cảnh đồng xuất hiện của cặp từ. Bên cạnh đó, mô hình DVASNet cũng khai thác những đặc trưng riêng của tiếng Việt như thông tin tương hỗ, quan hệ ngữ nghĩa giữa các thành phần của từ này với các thành phần của từ kia trong một cặp từ, độ tương tự ngữ nghĩa giữ hai từ. Kết quả thực nghiệm được đánh giá trên một số bộ dữ liệu chuẩn tiếng Việt đã chứng minh DVASNet trong luận án có hiệu năng cao hơn từ 14% đến 17% theo độ đo F1 so với các mô hình trước đây. Thêm nữa, luận án đề xuất một mô hình xác định quan hệ trái nghĩa dựa trên mô hình nhúng từ chuyên biệt.
Theo đó, các cặp từ đồng nghĩa, trái nghĩa được trích từ WordNet và từ điển được dùng để học một mô hình không gian vector biểu diễn từ chuyên biệt, cùng với thông tin phân phối của từ trong kho Vv ngữ liệu, mô hình nhúng từ này được mã hóa thêm các thông tin về quan hệ đồng nghĩa, trái nghĩa. Trong chương này, luận án đã xây dựng bộ dữ liệu ViAS-1000 phục vụ nhu cầu đánh giá hiệu năng của các mô hình ASC, bộ dit liệu này được công bố cho cộng đồng nghiên cứu sử dụng.
Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ
Trích dẫn luận án này
Bùi Văn Tân (2022). Tự động xác định quan hệ ngữ nghĩa từ trong học máy [Luận án tiến sĩ, Trường Đại học Công nghệ, Đại học Quốc gia Hà Nội]. LuanAn.net. https://luanan.net/ngon-ngu-hoc/tu-dong-xac-dinh-quan-he-ngu-nghia-tu-trong-hoc-may
Câu hỏi thường gặp
Luận án "Tự động xác định quan hệ ngữ nghĩa từ trong học máy" nghiên cứu về vấn đề gì?
该IP请求过多已被限流,请两分钟后再试。访问正版网站:https://chat19.aichatos.xyz。如需合作,请联系微信kelemm220。
Luận án "Tự động xác định quan hệ ngữ nghĩa từ trong học máy" được bảo vệ tại trường nào?
Luận án này được bảo vệ tại Trường Đại học Công nghệ, Đại học Quốc gia Hà Nội. Năm bảo vệ: 2022.
Luận án "Tự động xác định quan hệ ngữ nghĩa từ trong học máy" thuộc chuyên ngành gì?
Luận án "Tự động xác định quan hệ ngữ nghĩa từ trong học máy" thuộc chuyên ngành Khoa học máy tính. Danh mục: Ngôn Ngữ Học.
Luận án "Tự động xác định quan hệ ngữ nghĩa từ trong học máy" có bao nhiêu trang?
Luận án "Tự động xác định quan hệ ngữ nghĩa từ trong học máy" có 154 trang. Bạn có thể xem trước một phần tài liệu ngay trên trang web trước khi tải về.
Cách tải luận án "Tự động xác định quan hệ ngữ nghĩa từ trong học máy" về máy như thế nào?
Để tải luận án về máy, bạn nhấn nút "Tải xuống ngay" trên trang này, sau đó hoàn tất thanh toán phí lưu trữ. File sẽ được tải xuống ngay sau khi thanh toán thành công. Hỗ trợ qua Zalo: 0559 297 239.