Luận án tiến sĩ kỹ thuật: Giải pháp cải tiến chất lượng dịch tự động tiếng Việt - Nguyễn Văn Bình, ĐH Bách Khoa Đà Nẵng

ĐẠI HỌC ĐÀ NẴNG TRƯỜNG ĐẠI HỌC BÁCH KHOA  NGUYỄN VĂN BÌNH NGHIÊN CỨU GIẢI PHÁP CẢI TIẾN CHẤT LƯỢNG DỊCH TỰ ĐỘNG TIẾNG VIỆT LUẬN ÁN TIẾN SĨ KỸ THUẬT ĐẠI HỌC ĐÀ NẴNG TRƯỜNG ĐẠI HỌC BÁCH KHOA  Đà Nẵng, 12/2021 ĐẠI HỌC ĐÀ NẴNG TRƯỜNG ĐẠI HỌC BÁCH KHOA  NGUYỄN VĂN BÌNH NGHIÊN CỨU GIẢI PHÁP CẢI TIẾN CHẤT LƯỢNG DỊCH TỰ ĐỘNG TIẾNG VIỆT Chuyên ngành: Khoa học máy tính Mã số: 9480101 LUẬN ÁN TIẾN SĨ KỸ THUẬT Người hướng dẫn khoa học: ĐẠI HỌC ĐÀ NẴNG TRƯỜNG ĐẠI HỌC BÁCH KHOA  1. Huỳnh Công Pháp 2. Vincent Berment Đà Nẵng, 12/2021 P A G E 1 0 0 LỜI CAM ĐOAN Tôi tên là Nguyễn Văn Bình. Tôi xin cam đoan đây là công trình nghiên cứu do tôi thực hiện.

Các nội dung và kết quả nghiên cứu được trình bày trong Luận án là trung thực và mọi tham khảo đều được trích dẫn, chỉ rõ nguồn tham khảo theo đúng quy định. Tác giả Nguyễn Văn Bình P A G E 1 0 0 MỤC LỤC LỜI CAM ĐOAN 3 MỤC LỤC 4 DANH MỤC CÁC TỪ VIẾT TẮT 7 DANH MỤC BẢNG BIỂU 8 DANH MỤC HÌNH VẼ 10 MỞ ĐẦU 13 1. Mục tiêu nghiên cứu 14 3. Đối tượng và phạm vi nghiên cứu 14 4.

Phương pháp nghiên cứu 15 5. Bố cục của luận án 15 6. Đóng góp chính của luận án 16 P A G E 1 0 0 TỔNG QUAN VỀ DỊCH TỰ ĐỘNG VÀ CHẤT LƯỢNG DỊCH TỰ ĐỘNG TIẾNG VIỆT HIỆN NAY 19 1. Nghiên cứu tổng quan về dịch tự động, kho ngữ liệu, các phương pháp cải tiến và đánh giá chất lượng dịch tự động 21 Các phương pháp dịch tự động 21 Kho ngữ liệu trong dịch tự động 28 Đánh giá chất lượng hệ thống dịch tự động 33 1.

Các nghiên cứu liên quan đến xây dựng và cải tiến chất lượng dịch tự động tiếng Việt 43 P A G E 1 0 0 Nghiên cứu xây dựng hệ thống dịch và đánh giá chất lượng dịch. 43 Nghiên cứu xây dựng và cải tiến kho ngữ liệu tiếng Việt 45 1. Thực trạng chất lượng dịch tự động tiếng Việt 48 1. Kết luận Chương 1 52 GIẢI PHÁP CẢI TIẾN CHẤT LƯỢNG DỊCH TỰ ĐỘNG TIẾNG VIỆT 53 2.

Đánh giá chất lượng các hệ thống dịch tự động tiếng Việt 54 Tổ chức đánh giá 55 Nhận xét, đánh giá 60 P A G E 1 0 0 Đề xuất giải pháp đánh giá chất lượng dựa trên quá trình hiệu đính bản dịch 61 2. Giải pháp cải tiến chất lượng dịch tiếng Việt dựa vào kho ngữ liệu lớn 69 Tổng quan 69 Các nghiên cứu liên quan đến cải tiến chất lượng kho ngữ liệu 70 Giải pháp nâng cao chất lượng kho ngữ liệu 71 Đánh giá vai trò của kho ngữ liệu đối với kết quả hệ thống dịch 87 2. Giải pháp cải tiến chất lượng dịch tiếng Việt dựa vào mô hình máy học mạng nơ ron 91 Tổng quan 91 P A G E 1 0 0 Giải pháp cải tiến chất lượng dịch tiếng Việt bằng mô hình học máy mạng nơ ron 91 Kết quả xây dựng hệ thống dịch 102 Giải pháp xây dựng hệ thống dịch ngữ nghĩa 104 2. Kết luận Chương 2 109 HỆ THỐNG DỊCH TỰ ĐỘNG ANH-VIỆT VIKI TRANSLATOR.

Xây dựng kho ngữ liệu 112 P A G E 1 0 0 Quy trình các bước triển khai 112 Xây dựng kho ngữ liệu song ngữ số lượng lớn 113 Xây dựng công cụ hỗ trợ mở rộng ngôn ngữ và ngữ nghĩa 117 Xây dựng kho ngữ liệu ontology 118 3. Kết quả thực nghiệm xây dựng ứng dụng dịch Anh – Việt lĩnh vực văn bản pháp luật (VIKI Translator) 122 Quy trình các bước triển khai 122 Tổ chức huấn luyện mô hình và điều chỉnh tham số mô hình 122 Xây dựng các mô đun của hệ thống dịch 124 3. Đánh giá kết quả 125 Kết quả thực nghiệm 125 P A G E 1 0 0 Đánh giá của người dùng 128 3. Kết luận Chương 3 130 KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN 131 1.

Hướng phát triển 132 DANH MỤC CÁC CÔNG TRÌNH KHOA HỌC ĐÃ CÔNG BỐ 133 TÀI LIỆU THAM KHẢO 135 DANH MỤC CÁC TỪ VIẾT TẮT Thuật ngữ Tiếng Anh Tiếng Việt Automatic Language Processing Ủy ban cố vấn xử lý ngôn ngữ Advisory Committee tự động ALPAC Chỉ số đánh giá chất lượng bản dịch BLEU BLEU BiLingual Evaluation Understudy CBOW Continuous Bag of Words Mô hình túi từ liên tục Example Based Machine Dịch máy dựa trên ví dụ Translation EBMT Google Neural Machine Hệ thống dịch tự động sử dụng Translation mạng nơ ron của Google GNMT Chỉ số lỗi khi dịch bởi con người HTER Human Translation Error Rate National Institute of Standards Chỉ số đánh giá chất lượng bản and Technology dịch NIST NIST NMT Neural Network Translation Dịch máy sử dụng mạng nơ ron POS Part of Speech Phân loại từ vựng RNN Recurrent Neural Networks Mạng nơ ron tái phát SMT Statistical Machine Translation Dịch máy thống kê TBL Transformation-Based Learning Dịch máy chuyển đổi TER Translation Edit Rate Chỉ số đo lỗi bản dịch WER Word Error Rate Chỉ số tỉ lệ lỗi theo từ Workshop on Statistical Machine Hội thảo về dịch máy thống kê Translation WMT DANH MỤC BẢNG BIỂU Bảng 1. Chi tiết kho ngữ liệu EuroMatrix 30 Bảng 1. Tổng hợp một số kho ngữ liệu 31 Bảng 1. Bảng các thang đo tương ứng với mức độ đầy đủ và trôi chảy 36 Bảng 1.

Mô phỏng kết quả đánh giá bằng hình thức xếp hạng 37 Bảng 1. Đánh giá chất lượng dịch Anh – Việt từ hệ thống dịch dựa trên MOSES. So sánh kết quả dịch sử dụng MOSES và hệ thống Google, Microsoft 44 Bảng 1. Kết quả đánh giá trên tập dữ liệu TED tst2015 của IWSLT 2015 44 Bảng 1.

Đánh giá chất lượng hệ thống dịch sử dụng ngôn ngữ trung gian 45 Bảng 1. Ví dụ về một số câu hệ thống dịch sai nghĩa 50 Bảng 2. Thông tin về dữ liệu phục vụ đánh giá 55 Bảng 2. Đánh giá kết quả dịch từ tiếng Anh sang tiếng Việt 57 Bảng 2.

Đánh giá kết quả dịch từ tiếng Việt sang tiếng Anh 57 Bảng 2. Kết quả đánh giá bằng phương pháp chủ quan 59 Bảng 2. Trung bình các chỉ số trên 5 bộ dữ liệu 67 Bảng 2. Kết quả sau khi hiệu chỉnh bản dịch 67 Bảng 2.

Bảng tóm tắt đặc trưng các kho ngữ liệu phổ biến 72 Bảng 2. Số liệu kho ngữ liệu sử dụng để đánh giá sự ảnh hưởng đến chất lượng. Chất lượng các mô hình dịch nhận được 90 Bảng 2. Mô tả dữ liệu phục vụ xây dựng hệ thống dịch 103 Bảng 2.

So sánh chất lượng hệ thống dịch theo các phương pháp khác nhau 104 Bảng 3. Thống kê số lượng câu trong kho ngữ liệu đã được xây dựng 114 Bảng 3. Tổng hợp quy mô kho ngữ liệu của một số công bố 115 Bảng 3. Kết quả đánh giá và so sánh chất lượng hệ thống dịch Anh-Việt 125 Bảng 3.

So sánh điểm BLEU đạt được ở một số nghiên cứu xây dựng hệ thống dịch tiếng Việt 126 Bảng 3. So sánh số lượng câu dịch đúng 127 Bảng 3. Ví dụ về các câu, thuật ngữ mà hệ thống VIKI Translator đã dịch đúng. 127 DANH MỤC HÌNH VẼ Hình 1.

Tổng quan bài toán dịch tự động 19 Hình 1. Mô hình tổng quát của phương pháp dịch dựa trên ví dụ 22 Hình 1. Mô hình hóa phương pháp dịch thống kê 25 Hình 1. Một ánh xạ giữa các factor trong ngôn ngữ nguồn và ngôn ngữ đích 27 Hình 1.

Tích hợp thêm các lớp thông tin về lemma, POS vào dữ liệu huấn luyện27 Hình 1. Giao diện của phần mềm dịch EV-Shuttle và Cồ Việt 49 Hình 2. Hai yếu tố then chốt của hệ thống dịch tự động: Dữ liệu và Phương pháp dịch 53 Hình 2. Quy trình tổ chức đánh giá chất lượng dịch tiếng Việt 55 Hình 2.

Chương trình hỗ trợ trích xuất kết quả dịch từ các hệ thống 56 Hình 2. Biểu đồ so sánh kết quả đánh giá bằng phương pháp chủ quan 60 Hình 2. Chương trình tính chỉ số Tpe và Ope thông qua quá trình hiệu đính 64 Hình 2. Sơ đồ quy trình kết hợp hậu xử lý với đánh giá chất lượng hệ thống dịch.

Sự tương đồng giữa Tpe, Ope và ED, WER 68 Hình 2. Chỉ số BLEU, NIST trước và sau khi hiệu chỉnh 69 Hình 2. Quan hệ giữa các dạng dữ liệu của các kho ngữ liệu 72 Hình 2. Định dạng chuẩn biểu diễn kho ngữ liệu 74 Hình 2.

Giải pháp chuyển đổi các kho ngữ liệu 77 Hình 2. Giải pháp mở rộng ngôn ngữ cho kho ngữ liệu 77 Hình 2. Giải pháp thêm dữ liệu vào kho ngữ liệu 79 Hình 2. Hệ thống nhận dạng và phân loại thực thể danh từ riêng từ kho ngữ liệu.

Trích nội dung tập tin từ điển khi sử dụng mô hình dịch thống kê và dịch sử dụng mạng nơ ron 85 Hình 2. Kết quả xác định ranh giới từ tiếng Việt 87 Hình 2. Quy trình đánh giá sự ảnh hưởng của số lượng kho ngữ liệu đến chất lượng bản dịch 89 Hình 2. So sánh tương quan giữa số lượng kho ngữ liệu và chất lượng hệ thống dịch 90 Hình 2.

Mô hình dịch tự động sử dụng mạng nơ ron 92 Hình 2. Nguyên tắc hoạt động của mạng RNN 93 Hình 2. Minh họa bộ mã hóa – giải mã 94 Hình 2. Minh họa mô hình seq2seq dùng attention trong bài toán dịch máy [57].

Mô hình CBOW và Skip-gram trình bày tại [63] 98 Hình 2. Kiến trúc Bộ Mã hóa và Bộ Giải mã 99 Hình 2. Quá trình mã hóa câu nguồn để tạo véc tơ ngữ nghĩa 100 Hình 2. Minh họa Bộ Giảm mã thực hiện các bước dịch một câu 101 Hình 2.

Quá trình giải mã tái tạo câu được dịch 102 Hình 2. Tích hợp cơ chế attention trong Bộ Giải mã 102 Hình 2. Mô hình hệ thống dịch ngữ nghĩa 107 Hình 2. Giao diện hệ thống dịch ngữ nghĩa 109 Hình 3.

Quy trình triển khai thực nghiệm hệ thống dịch Anh - Việt 112 Hình 3. Sơ đồ trình tự các bước xây dựng kho ngữ liệu 112 Hình 3. Môi trường cho phép mở rộng kho ngữ liệu 118 Hình 3. Phân cấp các lớp và thuộc tính các lớp 119 Hình 3.

Minh họa phân lớp dữ liệu 120 Hình 3. Mô tả ngữ nghĩa của kho ngữ liệu 121 Hình 3. Sơ đồ trình tự các bước xây dựng hệ thống dịch 122 Hình 3. Mô hình tổ chức của hệ thống website dịch tự động 124 Hình 3.

Giao diện hệ thống dịch tự động VIKI Translator 128 Hình 3. Biểu đồ số lượng người sử dụng hàng tháng (Nguồn: Google Analytics). Thống kê tổng số người dùng (Nguồn: Google Analytics) 130 Hình 3. Thống kê số lượng liên kết (Nguồn: ahrefs.com) 130 MỞ ĐẦU 1.