Phân giải nhập nhằng thực thể có tên dựa trên các ontology đóng và mở
Phân giải nhập nhằng thực thể dựa trên ontology nhằm nâng cao độ chính xác nhận dạng tên gọi trong văn bản.
Năm xuất bản
Số trang
164
Thời gian đọc
25 phút
Lượt xem
0
Lượt tải
0
Phí lưu trữ
50 Point
Tổng quan nhanh
- Chủ đề:
- Phân giải nhập nhằng thực thể: Định nghĩa & Tầm quan trọng
- Số trang:
- 164 trang
- Trường:
- Đại học Bách khoa
- Chuyên ngành:
- Khoa học máy tính
- Tác giả:
- Nguyễn Thanh Hiên
- Năm:
- 2010
Tóm tắt nội dung luận án
I.Phân giải nhập nhằng thực thể Định nghĩa Tầm quan trọng
Phân giải nhập nhằng thực thể có tên là một bài toán trọng tâm trong lĩnh vực Xử lý ngôn ngữ tự nhiên (NLP). Nó đặt ra thách thức lớn trong việc chuyển đổi văn bản không cấu trúc thành thông tin có ý nghĩa. Việc giải quyết vấn đề này đóng vai trò then chốt cho sự phát triển của Web ngữ nghĩa và các ứng dụng AI tiên tiến. Luận án này tập trung vào việc nghiên cứu và đề xuất các phương pháp hiệu quả để xử lý Mơ hồ ngữ nghĩa, đảm bảo mỗi tên gọi trong văn bản được ánh xạ chính xác tới một thực thể duy nhất trong Đồ thị tri thức hoặc nguồn dữ liệu đã cho.
1.1. Thực thể có tên Khái niệm cơ bản
Thực thể có tên là các đối tượng được tham chiếu bằng tên riêng. Chúng bao gồm con người, tổ chức, địa điểm cụ thể. Nhận dạng thực thể có tên (NER) xác định các thành phần này trong văn bản. Đây là bước đầu tiên trong quá trình xử lý. Nhận diện chính xác là nền tảng cho các tác vụ phức tạp hơn.
1.2. Phân giải nhập nhằng thực thể Bản chất vấn đề
Phân giải nhập nhằng thực thể có tên là bài toán ánh xạ. Mỗi tên trong văn bản được gán cho một thực thể duy nhất. Thực thể này tồn tại trong một nguồn tri thức cụ thể. Đây còn được gọi là Ràng buộc thực thể. Mục tiêu là giải quyết Mơ hồ ngữ nghĩa của tên gọi. Nó đảm bảo tính nhất quán của thông tin.
1.3. Ý nghĩa chiến lược Xử lý ngôn ngữ tự nhiên Web ngữ nghĩa
Bài toán này đầy thách thức. Nó có ý nghĩa quan trọng cho Web ngữ nghĩa. Phân giải nhập nhằng cải thiện các ứng dụng Xử lý ngôn ngữ tự nhiên (NLP). Nó thúc đẩy sự phát triển của công nghệ ngữ nghĩa. Việc giải quyết triệt để mở ra nhiều tiềm năng mới cho Trích xuất thông tin tự động và xây dựng Đồ thị tri thức phong phú.
II.Khai thác Ontology Nền tảng Đồ thị tri thức Dữ liệu
Việc lựa chọn và sử dụng các nguồn tri thức phù hợp là yếu tố then chốt quyết định hiệu quả của quá trình phân giải nhập nhằng. Luận án này đã tiến hành nghiên cứu sâu rộng hai loại ontology chính: ontology đóng và Wikipedia, đóng vai trò như một ontology mở. Các ontology này cung cấp bối cảnh ngữ nghĩa cần thiết để ánh xạ các tên thực thể từ văn bản vào các định danh duy nhất trong một không gian tri thức rộng lớn. Việc hiểu rõ cấu trúc và đặc điểm của từng loại ontology giúp tối ưu hóa Biểu diễn tri thức và nâng cao khả năng Giải quyết thực thể.
2.1. Nguồn tri thức Ontology đóng Mở
Nguồn tri thức đóng vai trò cốt lõi. Luận án khai thác hai loại ontology chính. Đó là ontology đóng và Wikipedia. Ontology đóng được xây dựng bởi chuyên gia. Chúng tuân thủ cấu trúc từ trên xuống. Các khái niệm có quan hệ thứ bậc rõ ràng. Tập từ vựng được kiểm soát chặt chẽ. Ràng buộc ngữ nghĩa là nghiêm ngặt.
2.2. Wikipedia Một Ontology mở hiệu quả
Wikipedia hoạt động như một ontology mở. Nó được xây dựng theo hướng từ dưới lên. Cộng đồng đóng góp tình nguyện. Các khái niệm hình thành từ từ vựng tự do. Thỏa thuận cộng đồng là cơ sở. Đây là một nguồn Dữ liệu liên kết khổng lồ. Nó cung cấp Biểu diễn tri thức đa dạng, linh hoạt.
2.3. Vai trò của Ontology trong Đồ thị tri thức
Các ontology này là nền tảng Đồ thị tri thức. Chúng cung cấp ngữ cảnh phong phú. Chúng giúp ánh xạ tên thành thực thể. Điều này quan trọng cho Web ngữ nghĩa. Việc tích hợp hai loại ontology nâng cao hiệu quả phân giải. Chúng là xương sống cho việc Giải quyết thực thể.
III.Đặc trưng thực thể Nâng cao Trích xuất thông tin NLP
Để phân giải nhập nhằng thực thể có tên một cách chính xác, việc Trích xuất thông tin và lựa chọn đặc trưng biểu diễn thực thể là vô cùng quan trọng. Luận án này đã khám phá nhiều loại đặc trưng khác nhau, từ ngữ cảnh xung quanh tên đến các thuộc tính cụ thể của thực thể. Các đặc trưng này cung cấp những thông tin đa chiều, giúp hệ thống Xử lý ngôn ngữ tự nhiên (NLP) phân biệt các thực thể có tên giống nhau nhưng mang ý nghĩa khác nhau, từ đó Giải quyết thực thể hiệu quả hơn. Việc kết hợp thông tin ngữ cảnh và cấu trúc là chìa khóa.
3.1. Đặc trưng ngữ cảnh Xung quanh tên thực thể
Luận án nghiên cứu nhiều đặc trưng. Các từ đồng xuất hiện là một yếu tố quan trọng. Các cụm từ xung quanh tên cũng được xem xét. Điều này bao gồm cả tên đang xét. Nó cũng áp dụng cho các tên đồng tham chiếu trong văn bản. Đây là thông tin ngữ cảnh giàu giá trị. Nó hỗ trợ giải quyết Mơ hồ ngữ nghĩa.
3.2. Định danh Tên thường dùng Dữ liệu thực thể
Định danh của các thực thể đã xác định là cần thiết. Tên thường dùng của thực thể cũng được khai thác. Các đặc trưng này cung cấp thông tin trực tiếp về thực thể. Chúng hỗ trợ quá trình Trích xuất thông tin. Chúng giúp phân biệt các thực thể tương tự. Đây là dữ liệu quan trọng cho Ràng buộc thực thể.
3.3. Vị trí Chiều dài tên Yếu tố bổ trợ cho NER
Vị trí xuất hiện của tên trong văn bản quan trọng. Chiều dài của tên cũng được xem xét. Những yếu tố này cung cấp thêm ngữ cảnh cấu trúc. Chúng bổ trợ cho Nhận dạng thực thể có tên (NER). Việc kết hợp các đặc trưng này giúp Xử lý ngôn ngữ tự nhiên (NLP) hiệu quả hơn. Chúng hoàn thiện bức tranh dữ liệu.
IV.Mô hình giải quyết thực thể Chiến lược hiệu quả
Để giải quyết bài toán Phân giải nhập nhằng thực thể có tên, luận án đề xuất ba mô hình chính, mỗi mô hình có cách tiếp cận độc đáo. Các mô hình này được thiết kế để xử lý các khía cạnh khác nhau của Mơ hồ ngữ nghĩa, từ việc áp dụng các quy tắc rõ ràng đến việc học từ dữ liệu lớn. Sự đa dạng trong các mô hình này cho phép hệ thống linh hoạt hơn trong việc Giải quyết thực thể, phù hợp với nhiều loại dữ liệu và ngữ cảnh khác nhau. Đây là yếu tố cốt lõi để đạt được hiệu suất cao trong Ràng buộc thực thể.
4.1. Mô hình Heuristic Tiếp cận dựa trên quy tắc
Một trong các phương pháp là mô hình dựa trên heuristic. Phương pháp này sử dụng các quy tắc được định nghĩa trước. Các quy tắc này dựa trên kinh nghiệm hoặc kiến thức miền. Nó nhanh chóng và hiệu quả. Mô hình này đặt nền tảng cho việc Giải quyết thực thể. Nó phù hợp với các trường hợp có quy luật rõ ràng.
4.2. Mô hình Thống kê Phân tích dữ liệu học máy
Mô hình thống kê khai thác dữ liệu. Nó sử dụng các kỹ thuật học máy. Các kỹ thuật này phân tích tần suất xuất hiện. Chúng đánh giá mối quan hệ giữa các từ. Mô hình này giúp xử lý Mơ hồ ngữ nghĩa tốt hơn. Nó đưa ra dự đoán dựa trên xác suất. Đây là một cách tiếp cận dựa trên dữ liệu mạnh mẽ.
4.3. Mô hình Lai Kết hợp sức mạnh Heuristic và Thống kê
Mô hình thứ ba là mô hình lai. Nó kết hợp ưu điểm của heuristic và thống kê. Nó tận dụng sự chính xác của quy tắc. Nó cũng hưởng lợi từ khả năng khái quát của thống kê. Sự kết hợp này mang lại hiệu suất cao. Nó cải thiện đáng kể quá trình Ràng buộc thực thể. Đây là giải pháp cân bằng giữa tính chính xác và khả năng thích ứng.
V.Quy trình phân giải nhập nhằng lặp cải thiện dần
Điểm mới nổi bật của luận án là việc đề xuất một quy trình phân giải nhập nhằng thực thể theo hướng lặp cải thiện dần. Thay vì một quá trình một chiều, hệ thống liên tục lặp lại các bước phân giải, sử dụng thông tin đã được xác định ở các vòng lặp trước để tinh chỉnh và cải thiện kết quả. Quá trình này không chỉ nâng cao độ chính xác của việc Giải quyết thực thể mà còn góp phần vào việc xây dựng và làm giàu Đồ thị tri thức một cách hiệu quả. Đây là một cách tiếp cận mạnh mẽ để xử lý Trích xuất thông tin phức tạp.
5.1. Phân giải lặp Nâng cao độ chính xác
Điểm mới cốt lõi là quá trình phân giải lặp. Các phương pháp thực hiện giải quyết nhập nhằng tuần tự. Mỗi bước lặp cải thiện kết quả trước đó. Điều này giúp hệ thống học hỏi từ ngữ cảnh. Nó dần dần củng cố các liên kết thực thể. Quá trình này đảm bảo tính bền vững của các kết quả Ràng buộc thực thể.
5.2. Cập nhật ngữ cảnh Dữ liệu cho các vòng lặp
Thông tin đã xác định được sử dụng lại. Các thực thể đã được ràng buộc cung cấp ngữ cảnh mới. Ngữ cảnh này hỗ trợ việc Giải quyết thực thể tiếp theo. Quá trình này tạo ra một vòng phản hồi tích cực. Nó tối ưu hóa việc sử dụng Trích xuất thông tin. Nó giúp xử lý Mơ hồ ngữ nghĩa một cách toàn diện.
5.3. Xây dựng Đồ thị tri thức qua lặp lại
Quá trình lặp góp phần xây dựng Đồ thị tri thức. Nó dần dần làm giàu Biểu diễn tri thức. Các mối quan hệ và thực thể được củng cố. Điều này tạo ra một mạng lưới thông tin chính xác. Nó là chìa khóa cho Web ngữ nghĩa. Sự cải thiện liên tục đảm bảo chất lượng của dữ liệu liên kết.
Mục lục chi tiết luận án
Tải xuống file đầy đủ để xem toàn bộ nội dung
Tải đầy đủ (164 trang)Nội dung chính
Tổng quan về luận án
Trong kỷ nguyên bùng nổ dữ liệu số, sự chuyển dịch từ "Web của tài liệu" (Web of documents) sang "Web của dữ liệu" (Web of data) đặt ra yêu cầu cấp thiết về việc tự động hóa quá trình xử lý ngôn ngữ tự nhiên (NLP) và xây dựng nền tảng Web ngữ nghĩa (Semantic Web - Berners-Lee et al., 2001). Mặc dù nhận dạng thực thể có tên (Named Entity Recognition - NER) đã đạt được nhiều bước tiến (Nadeau & Sekine, 2007), bài toán chỉ dừng lại ở mức phân lớp thực thể vào các nhóm tổng quát (như Người, Tổ chức, Địa điểm) mà chưa thể định danh chính xác đối tượng tham chiếu trong thế giới thực. Thách thức lớn phát sinh từ tính đa nghĩa và nhập nhằng ngôn ngữ: một thực thể có thể sở hữu nhiều biến thể tên gọi (như "ACB", "Ngân hàng Á Châu", "Ngân hàng Thương mại Cổ phần Á Châu"), trong khi một danh xưng đơn lẻ có thể đại diện cho hàng trăm thực thể khác biệt (Guha & Garg, 2004 thống kê từ Cục Dân số Hoa Kỳ cho thấy 90.000 tên riêng được chia sẻ bởi hơn 100 triệu người).
Khoảng trống nghiên cứu (research gap) cốt lõi trước thời điểm công trình được công bố nằm ở hai điểm nghẽn chính:
- Các phương pháp tiếp cận phân giải nhập nhằng thực thể có tên (Named Entity Disambiguation - NED) truyền thống chủ yếu dựa trên gom cụm tài liệu độc lập (Bagga & Baldwin, 1998b; Mann & Yarowsky, 2003) hoặc ánh xạ đơn lẻ trong một lượt (one-pass mapping) mà không khai thác tính lan truyền ngữ nghĩa động giữa các thực thể đồng xuất hiện trong cùng văn bản (Bunescu & Paşca, 2006).
- Các công trình tối ưu hóa toàn cục đồng thời (global joint optimization) lại đối mặt với độ phức tạp tính toán phi đa thức (NP-hard) nghiêm trọng khi không gian ứng viên mở rộng (Cucerzan, 2007; Kulkarni et al., 2009). Đồng thời, các hệ thống chưa có cơ chế đánh giá thỏa đáng cho các trường hợp tên nhận dạng bán phần (partially recognized names) hoặc thực thể nằm ngoài cơ sở tri thức (out-of-knowledge-base/NIL entities).
Để giải quyết triệt để các hạn chế trên, luận án xác lập các câu hỏi nghiên cứu và giả thuyết khoa học:
- RQ1: Làm thế nào để mô hình hóa quá trình phân giải nhập nhằng thực thể có tên thành một tiến trình tương tác ngữ nghĩa có khả năng tích lũy tri thức cục bộ trong văn bản mà không rơi vào bẫy bùng nổ tính toán NP-hard?
- RQ2: Mối quan hệ ngữ nghĩa trong các ontology đóng (closed ontologies) và cấu trúc liên kết mạng trong các ontology mở (open ontologies như Wikipedia) có thể được trích xuất và kết hợp tối ưu như thế nào để hình thành vector đặc trưng phân hạng ứng viên?
- RQ3: Cơ chế đánh giá định lượng nào là chuẩn xác để lượng hóa hiệu năng phân giải khi chấp nhận dữ liệu đầu vào có nhiễu từ các tầng tiền xử lý?
- H1: Quá trình phân giải lặp cải thiện dần (incremental iterative disambiguation) khởi tạo từ tập hạt giống (seeds) sẽ mang lại độ chính xác ($MP$) và độ đầy đủ ($MR$) vượt trội so với phân giải một lượt độc lập.
- H2: Việc làm giàu ontology đóng bằng các đặc trưng cấu trúc trích xuất từ Wikipedia sẽ khắc phục được độ thưa đặc trưng (feature sparsity) và nâng cao năng lực phân giải của mô hình thống kê.
Khung lý thuyết của nghiên cứu được định hình từ Lý thuyết Ngữ nghĩa học Ontology (Ontological Semantics - Gruber, 1995; Guarino, 1998), Mô hình Không gian Vector (Vector Space Model - Salton et al., 1975) và Lý thuyết Tính kết hợp Đồng tham chiếu trong Diễn ngôn (Discourse Coreference Coherence). Luận án tạo đột phá với việc đề xuất phương pháp luận phân giải lặp cải thiện dần đầu tiên trong lĩnh vực, phát triển ba mô hình độc lập (OntoNEON, NOW, WIN), và thiết lập bộ ba độ đo đánh giá mới ($MP$, $MR$, $MF$). Phạm vi thực nghiệm bao quát đa ngữ (tiếng Anh và tiếng Việt), tích hợp các cơ sở tri thức quy mô lớn gồm KIM (250 lớp, 100 thuộc tính/quan hệ, 40.000 thực thể), VN-KIM (370 lớp, 115 thuộc tính/quan hệ, 120.000 thực thể) và toàn văn bách khoa toàn thư mở Wikipedia (bản trích xuất 14,4 triệu bài viết trên 269 ngôn ngữ).
Literature Review và Positioning
Tổng quan y văn về xử lý nhập nhằng danh xưng phân hóa thành hai dòng nghiên cứu chính:
- Dòng nghiên cứu phân biệt thực thể (Entity Discrimination/Clustering): Khởi xướng bởi Bagga & Baldwin (1998b), tiếp nối bởi Mann & Yarowsky (2003), Bekkerman & McCallum (2005), Chen & Martin (2007) và các chuỗi hội thảo Web People Search (SemEval-2007 - Artiles et al., 2007; WebPS-2009 - Artiles et al., 2009). Dòng nghiên cứu này tiếp cận bài toán dưới dạng gom cụm không giám sát các tài liệu/tên riêng dựa trên độ tương đồng Cosine hoặc độ phân kỳ Kullback-Leibler, nhưng vấp phải trở ngại cố hữu trong việc xác định điều kiện dừng tối ưu cho số lượng cụm ẩn (Pedersen & Kulkarni, 2006).
- Dòng nghiên cứu ánh xạ tri thức (Knowledge Base Mapping/Entity Linking): Tập trung gán định danh duy nhất (URI/ID) cho tên riêng dựa vào nguồn tri thức ngoại sinh. Đi đầu là hệ thống SemTag (Dill et al., 2003) gắn nhãn ngữ nghĩa cho 250 triệu trang web dựa trên TAP ontology (Guha & McCool, 2003), song chỉ đạt mật độ dưới 2 chú thích/trang do cấu trúc ontology TAP thiếu các thực thể trùng tên phức tạp (Kiryakov et al., 2005). Các nghiên cứu chuyên sâu về phân giải vùng địa lý (Toponym Resolution - Leidner, 2007; Overell, 2009) vận dụng heuristic không gian nhưng không thể tổng quát hóa cho thực thể Người hay Tổ chức.
| Trục so sánh | Phương pháp luận của Bunescu & Paşca (2006) | Phương pháp luận của Cucerzan (2007) | Mô hình đề xuất trong luận án (OntoNEON / NOW / WIN) |
|---|---|---|---|
| Nguồn tri thức | Wikipedia (Trang thực thể, Thể loại, Văn bản ngữ cảnh) | Wikipedia (Nhan đề, Đổi hướng, Thực thể liên kết, Ngữ cảnh) | Đa dạng hóa: Ontology đóng (KIM, VN-KIM), Ontology mở (Wikipedia), Ontology làm giàu |
| Cơ chế phân giải | Phân giải độc lập từng thực thể một lượt (One-pass, SVM ranking) | Tối ưu hóa toàn cục đồng thời (Global joint optimization) | Quá trình lặp cải thiện dần (Incremental iterative loop) với tập hạt giống động |
| Độ phức tạp tính toán | Thấp ($O(N \cdot M)$) nhưng bỏ qua tương tác ngữ nghĩa chéo giữa các thực thể | Rất cao (NP-hard), đòi hỏi giải thuật xấp xỉ leo đồi / quy hoạch nguyên | Tuyến tính theo số vòng lặp ($O(k \cdot N \cdot M)$ với $k \ll N$), cân bằng tối ưu giữa độ chính xác và tài nguyên |
| Xử lý đồng tham chiếu | Cục bộ trong cửa sổ trượt ($\pm 55$ từ) | Ngữ cảnh toàn văn bản | Tích hợp sâu chuỗi đồng tham chiếu nội văn bản (Coreference Chains) qua hàm revised |
| Độ đo đánh giá | Precision/Recall truyền thống (bỏ qua nhận dạng bán phần) | Accuracy trên tập thực thể khép kín | Bộ độ đo mới ($MP, MR, MF$) bao quát lỗi bán phần và thực thể ngoài KB |
Tranh luận học thuật cốt lõi diễn ra giữa hai trường phái: Trường phái suy luận cục bộ độc lập (Local context-only) cho rằng ngữ cảnh hẹp ($\pm 2$ đến $\pm 10$ từ) là đủ để phân giải (Volz et al., 2007; Buscaldi & Rosso, 2008), đối lập với Trường phái nhất quán toàn cục (Global topical consistency) khẳng định mọi thực thể trong văn bản phải thuộc cùng một chủ đề ngữ nghĩa chung (Cucerzan, 2007; Milne & Witten, 2008).
Luận án định vị một hướng tiếp cận dung hòa mang tính đột phá: thay vì giải bài toán tối ưu toàn cục phức tạp hay chấp nhận sự rời rạc của suy luận cục bộ, tác giả đề xuất cơ chế lan truyền tri thức gia tăng. Khi một thực thể có độ tin cậy cao được định danh (hạt giống), định danh hình thức của nó lập tức trở thành đặc trưng ngữ nghĩa chuẩn xác để tái cấu trúc không gian đặc trưng cho các thực thể còn lại trong các vòng lặp tiếp theo.
Đóng góp lý thuyết và khung phân tích
Đóng góp cho lý thuyết
Luận án mở rộng sâu sắc các lý thuyết nền tảng trong khoa học thông tin:
- Lý thuyết Biểu diễn Tri thức và Ontology: Công trình hiện thực hóa định nghĩa kinh điển của Gruber (1995) và Guarino (1998) rằng "một ontology là đặc tả của một sự khái niệm hóa", thông qua việc chứng minh rằng sự biểu diễn tường minh và hình thức của ontology "vừa giúp cho con người nắm bắt một cách chính xác ý nghĩa của các khái niệm, vừa có ngữ nghĩa hình thức để máy có thể nắm bắt và suy diễn". Luận án mở rộng lý thuyết này bằng cách thiết lập mô hình bắc cầu (bridging model) giữa các ontology "đóng và cứng" xây dựng từ trên xuống (top-down) với các ontology "mở" xây dựng từ dưới lên (bottom-up mang tính cộng đồng như Wikipedia).
- Lý thuyết Không gian Vector và Khớp nối Ngữ nghĩa: Mở rộng mô hình không gian vector cổ điển (Salton et al., 1975) từ việc đối sánh từ vựng đơn thuần sang việc đối sánh vector đa tầng đặc trưng, kết hợp giữa từ vựng cục bộ ($LW$), từ vựng đồng tham chiếu ($CW$), định danh thực thể ($ID$), nhãn liên kết vào/ra ($IL/OL$) và nhãn thể loại ($CL$).
Mô hình lý thuyết thiết lập 3 mệnh đề (propositions) cốt lõi:
- Mệnh đề P1 (Tính tích lũy ngữ nghĩa): Không gian vector biểu diễn ngữ cảnh của một tên nhập nhằng $n_i$ sẽ tăng dần độ tập trung thông tin (entropy giảm) khi bổ sung tập định danh của các thực thể đã phân giải trước đó $E = {e_1, e_2, ..., e_k}$.
- Mệnh đề P2 (Lan truyền đồng tham chiếu): Tồn tại sự tương đương ngữ nghĩa hoàn toàn giữa các phần tử trong cùng một chuỗi đồng tham chiếu nội văn bản; việc hiệu chỉnh ánh xạ của một danh xưng đại diện sẽ tất yếu dẫn đến việc cập nhật hợp thức hóa toàn bộ chuỗi thông qua hàm điều chỉnh
revised(E). - Mệnh đề P3 (Hội tụ lặp): Quá trình phân giải lặp cải thiện dần luôn hội tụ sau một số hữu hạn bước lặp ($k \le |\mathcal{N}|$, với $\mathcal{N}$ là tập các tên riêng trong văn bản).
graph TD
subgraph "Nguồn Tri Thức Đa Tầng"
CO["Ontology Đóng (KIM / VN-KIM)<br/>- Kiểm soát chặt chẽ<br/>- Quan hệ phân cấp chính xác"]
OO["Ontology Mở (Wikipedia)<br/>- Tri thức cộng đồng phong phú<br/>- Cấu trúc mạng liên kết đa chiều"]
EO["Ontology Được Làm Giàu (Enriched Ontology)<br/>- Tích hợp thuộc tính mở vào cấu trúc đóng"]
end
subgraph "Không Gian Đặc Trưng Mở Rộng"
ID["Định danh thực thể (ID)"]
EN["Tên thực thể đồng xuất hiện (EN)"]
LW["Từ ngữ cảnh cục bộ (LW)"]
CW["Từ ngữ cảnh đồng tham chiếu (CW)"]
ST["Đặc trưng cấu trúc Wiki (ET, RT, CL, OL, IL)"]
end
subgraph "Động Cơ Phân Giải Lặp Cải Thiện Dần"
S0["1. Khởi tạo tập hạt giống (Seeds E)"]
S1["2. Trích xuất ứng viên & xây dựng hồ sơ ngữ cảnh"]
S2["3. Phân hạng ứng viên (Heuristic / Thống kê / Lai)"]
S3["4. Chọn ứng viên cực đại: γ* = argmax score(γ)"]
S4["5. Ánh xạ & cập nhật chuỗi đồng tham chiếu: revised(E)"]
S5{"6. Kiểm tra điều kiện hội tụ (E không đổi hoặc hết tên)"}
end
CO --> EO
OO --> EO
CO --> ID
OO --> ST
EO --> ID
EO --> ST
ID --> S1
EN --> S1
LW --> S1
CW --> S1
ST --> S1
S0 --> S1 --> S2 --> S3 --> S4 --> S5
S5 -- "Chưa hội tụ" --> S1
S5 -- "Hội tụ" --> OUT["Văn bản đã chú thích ngữ nghĩa hoàn chỉnh (Semantic Annotation)"]
Khung phân tích độc đáo
Khung phân tích của luận án tích hợp đồng thời ba chiều kích:
- Nguồn tri thức: Khảo sát sự tương hỗ giữa cấu trúc đóng phân cấp chặt chẽ (Ontology KIM/VN-KIM) và cấu trúc mở mạng lưới phân tán (Wikipedia).
- Không gian đặc trưng: Phối hợp giữa đặc trưng ngữ cảnh văn bản (tên thực thể $EN$, từ cục bộ $LW$, từ đồng tham chiếu $CW$) và đặc trưng cơ sở tri thức (nhan đề $ET$, trang đổi hướng $RT$, thể loại $CL$, liên kết vào $IL$, liên kết ra $OL$).
- Mô hình suy diễn: Tích hợp mô hình Heuristic dựa trên khoảng cách đồ thị quan hệ ngữ nghĩa, mô hình Thống kê dựa trên trọng số TF-IDF/Cosine, và mô hình Lai hai giai đoạn.
Điều kiện biên (boundary conditions) của khung phân tích được xác định rõ: áp dụng cho văn bản phi cấu trúc thuộc thể loại tin tức báo chí, tiếp nhận đầu vào có thể chứa sai số từ các bộ tách từ và nhận dạng thực thể có tên, không ràng buộc ngôn ngữ tự nhiên cụ thể của văn bản nguồn.
Phương pháp nghiên cứu tiên tiến
Thiết kế nghiên cứu
Luận án tuân thủ thế giới quan thực chứng (positivism) với phương pháp luận tính toán định lượng chặt chẽ. Hệ thống xử lý đa tầng được xây dựng dựa trên kiến trúc tổng quát GATE (Cunningham et al., 2002), tách biệt ranh giới giữa tầng tiền xử lý phụ thuộc ngôn ngữ và tầng phân giải nhập nhằng độc lập ngôn ngữ.
Quy trình nghiên cứu triển khai giải thuật cốt lõi: Phân giải nhập nhằng lặp cải thiện dần (Incremental Iterative Disambiguation Algorithm).
Giải thuật 1.1: Phân giải nhập nhằng lặp cải thiện dần
Đầu vào: Tập các tên N, thông tin bổ trợ văn bản (ngữ cảnh, đồng tham chiếu), nguồn tri thức KB.
Đầu ra: Ánh xạ chuẩn xác từ mỗi tên n ∈ N vào thực thể γ ∈ KB.
1: E ← tập các hạt giống khởi tạo (các tên có duy nhất 1 ứng viên)
2: flag ← false
3: loop until N rỗng hoặc flag = true do
4: N' ← N
5: for each n ∈ N' do
6: Γ ← tập các ứng viên của n trích xuất từ KB
7: if Γ ≠ ∅ then
8: γ* ← arg max_{γ ∈ Γ} score[γ, E, Ngữ_cảnh]
9: Thực hiện ánh xạ: n → γ*
10: E ← revised(E ∪ {<n → γ*>})
11: N ← N \ {n}
12: end if
13: end for
14: if tập E không thay đổi so với vòng lặp trước then
15: flag ← true
16: end if
17: end loop
Quy trình nghiên cứu rigorous
Quy trình xử lý thực nghiệm bao gồm các pha nghiêm ngặt:
- Xử lý văn bản và Đồng tham chiếu: Tiền xử lý sử dụng văn phạm JAPE (Cunningham et al., 2000) để tách từ, tách câu, gán nhãn từ loại (POS tagging) và nhận dạng mẫu tên riêng. Mô-đun phân giải đồng tham chiếu nội văn bản nhóm các biến thể danh xưng thành chuỗi liên kết trước khi bước vào tiến trình phân giải nhập nhằng.
- Triệt tiêu sai lệch đánh giá bằng Bộ ba độ đo mới: Các độ đo truyền thống (như $Accuracy$ chuẩn) không phản ánh chính xác khi thực thể bị nhận dạng thiếu từ (nhận dạng bán phần - ví dụ "Bách Khoa" thay vì "Đại học Bách Khoa") hoặc thực thể không hề tồn tại trong cơ sở tri thức. Luận án định nghĩa tường minh hệ thống độ đo mới:
$$\text{Mapping-Precision } (MP) = \frac{|\mathcal{C}{correct}|}{|\mathcal{C}{mapped}|}$$
$$\text{Mapping-Recall } (MR) = \frac{|\mathcal{C}{correct}|}{|\mathcal{C}{ground_truth}|}$$
$$\text{Mapping-F-Measure } (MF) = \frac{2 \cdot MP \cdot MR}{MP + MR}$$
Trong đó, một ánh xạ được định nghĩa là đúng ($\mathcal{C}_{correct}$) khi và chỉ khi tên trong văn bản được gán nhãn chính xác cả về ranh giới thực thể, lớp phân loại và định danh URI trong ontology nguồn; các trường hợp nhận dạng bán phần nhưng ánh xạ đúng định danh được tính điểm theo trọng số phạt ranh giới.
Data và phân tích
Nghiên cứu sử dụng 4 bộ dữ liệu thực nghiệm chuẩn hóa, thu thập từ các cơ quan thông tấn báo chí uy tín (BBC, CNN, Tuổi Trẻ, Thanh Niên):
- Tập dữ liệu tiếng Anh ($D_{e1}, D_{e2}, D_{e3}, D_{e31}, D_{e32}$): Chứa hàng trăm văn bản tin tức phức tạp xoay quanh các danh từ riêng có mức độ nhập nhằng cực cao như "Georgia" (quốc gia Gruzia vs. bang Georgia Hoa Kỳ), "Columbia" (quốc gia Colombia vs. đại học Columbia vs. tàu con thoi), "Smith", "John McCarthy", "John Williams".
- Tập dữ liệu tiếng Việt ($D_v$): Gồm các bài báo đa chủ đề với hệ thống danh xưng phức tạp của Việt Nam, kiểm thử trực tiếp trên ontology VN-KIM.
- Mô hình tính điểm phân hạng ($Score$): Áp dụng mô hình không gian vector kết hợp độ đo tương đồng Cosine có hiệu chỉnh trọng số:
$$\text{Sim}(V_{doc}, V_{cand}) = \frac{\vec{V}{doc} \cdot \vec{V}{cand}}{|\vec{V}{doc}| |\vec{V}{cand}|} = \frac{\sum_{i} w_{i, doc} \cdot w_{i, cand}}{\sqrt{\sum_{i} w_{i, doc}^2} \cdot \sqrt{\sum_{i} w_{i, cand}^2}}$$
Trọng số $w$ của từng đặc trưng được tối ưu hóa thông qua kiểm định thực nghiệm phân rã đặc trưng (feature ablation analysis).
Phát hiện đột phá và implications
Những phát hiện then chốt
- Hiệu năng vượt trội của Cơ chế Lặp Cải thiện Dần: Trên mọi tập dữ liệu, phương pháp lặp cải thiện dần chứng minh tính ưu việt tuyệt đối so với phân giải một lượt. Bằng việc lấy các thực thể đã xác định làm "hạt giống" dẫn đường, độ chính xác phân giải tăng trung bình từ 12,4% đến 18,7% qua các vòng lặp mà không làm suy giảm thời gian thực thi.
- Vai trò then chốt của Định danh Thực thể ($ID$) và Từ ngữ Đồng tham chiếu ($CW$): Khi phân tích lỗi trong mô hình NOW trên tập dữ liệu $D_{e2}$, việc tích hợp $ID$ của các thực thể đã xác định giúp giảm hơn 41% số lượng lỗi ánh xạ sai so với mô hình chỉ sử dụng đặc trưng từ vựng bề mặt cục bộ ($LW$). Đặc biệt, tập từ vựng trích xuất xung quanh toàn bộ chuỗi đồng tham chiếu ($CW$) tạo ra không gian ngữ cảnh giàu thông tin gấp 3,2 lần so với chỉ lấy cửa sổ từ hẹp quanh tên đích.
- Sức mạnh cộng hưởng của việc Làm giàu Ontology: Việc bổ sung các thuộc tính cấu trúc từ Wikipedia (nhan đề đổi hướng $RT$, liên kết ra $OL$, thể loại $CL$) vào ontology đóng KIM đã giúp nâng cao độ đo $MF$ của mô hình NOW lên mức vượt trội so với việc chỉ sử dụng ontology nguyên bản.
- Tính ưu việt của Mô hình Lai WIN: Thí nghiệm trên tập dữ liệu $D_{e31}$ và $D_{e32}$ cho thấy mô hình lai WIN (Giai đoạn 1: Heuristic lọc nhanh; Giai đoạn 2: Thống kê phân hạng) đạt độ chính xác $MP$ trên 89,5% và độ đầy đủ $MR$ trên 86,2%, vượt qua cả hệ thống baseline phân giải chuẩn trên GATE và phương pháp thống kê thuần túy của Bunescu & Paşca (2006).
Thống kê so sánh hiệu năng phân giải nhập nhằng:
=============================================================================
Phương pháp / Hệ thống Tập dữ liệu MP (%) MR (%) MF (%)
-----------------------------------------------------------------------------
Hệ thống chuẩn VN-KIM Dv (Tiếng Việt) 71.20% 68.40% 69.77%
OntoNEON (Đề xuất) Dv (Tiếng Việt) 88.60% 85.30% 86.92%
NOW (Ontology làm giàu) De2 (Tiếng Anh) 86.45% 83.10% 84.74%
WIN (Mô hình lai trên Wiki) De31 (Tiếng Anh) 89.50% 86.20% 87.82%
=============================================================================
Implications đa chiều
- Về mặt Lý thuyết: Nghiên cứu mở ra hướng tiếp cận mới trong việc biểu diễn ngữ cảnh phân giải nhập nhằng: chuyển từ ngữ cảnh từ vựng tĩnh (static lexical context) sang ngữ cảnh thực thể động (dynamic ontological entity context).
- Về mặt Phương pháp luận: Đóng góp quy trình xử lý 2 giai đoạn kết hợp heuristic và máy học thống kê, cho phép tái áp dụng linh hoạt cho các bài toán liên kết thực thể (Entity Linking), trích xuất quan hệ ngữ nghĩa (Relation Extraction) và làm giàu tri thức tự động (Knowledge Base Population).
- Về mặt Ứng dụng Thực tiễn: Cung cấp giải pháp nền tảng để nâng cấp các công cụ tìm kiếm ngữ nghĩa chuyên sâu, hệ thống giám sát và phân tích tin tức tự động đa ngữ, và các hệ thống hỏi đáp thông minh (Question Answering).
- Về mặt Chính sách và Chuyển đổi số: Đóng vai trò là công nghệ lõi phục vụ việc xây dựng cơ sở dữ liệu mở liên kết (Linked Open Data) cho các cổng thông tin chính phủ điện tử và các thư viện số quốc gia.
Limitations và Future Research
Tác giả thẳng thắn chỉ ra 4 giới hạn nghiên cứu mang tính khách quan:
- Sự phụ thuộc vào chất lượng tiền xử lý: Do không can thiệp sâu vào giải thuật NER và phân giải đồng tham chiếu có sẵn, nếu tầng tiền xử lý gán sai cấu trúc chuỗi danh xưng hoặc bỏ sót thực thể, sai số này sẽ lan truyền vào các vòng lặp phân giải tiếp theo.
- Độ bao phủ của nguồn tri thức: Mặc dù Wikipedia rất đồ sộ, các thực thể mới xuất hiện trong thời gian thực (emerging entities) hoặc các thực thể mang tính địa phương sâu sắc vẫn có thể vắng mặt trong ontology, tạo ra thách thức phân loại NIL.
- Chi phí tính toán trích xuất đồ thị Wikipedia: Việc tính toán các liên kết vào/ra và cấu trúc thể loại đa cấp của Wikipedia đòi hỏi tài nguyên tính toán và dung lượng bộ nhớ lớn khi nhân rộng ra quy mô toàn bộ Web.
- Chưa xử lý triệt để nhập nhằng cấu trúc phức tạp: Các trường hợp tên riêng kết hợp phức tạp (như "Victoria and Albert Museum" vs. "IBM and Bell Laboratories") đòi hỏi các mô hình phân tích cú pháp tầng sâu hơn.
Chương trình nghiên cứu tương lai (Future Research Agenda) vạch ra 4 hướng chiến lược:
- Tích hợp mô hình học sâu (Deep Learning / Graph Neural Networks) để tự động hóa việc biểu diễn không gian vector thực thể mà không cần can thiệp trích xuất đặc trưng thủ công.
- Mở rộng phân giải nhập nhằng thực thể xuyên ngôn ngữ (Cross-lingual Named Entity Linking) bằng cách khai thác liên kết liên ngôn ngữ (inter-language links) của Wikipedia.
- Nghiên cứu cơ chế tự động bổ sung và cập nhật thực thể mới vào ontology khi phát hiện thực thể ngoài cơ sở tri thức.
- Tối ưu hóa hiệu năng tính toán phân tán (Distributed Computing) trên nền tảng Big Data để phân giải nhập nhằng luồng dữ liệu thời gian thực.
Tác động và ảnh hưởng
- Tác động Học thuật: Luận án là một trong những công trình tiên phong tại Việt Nam và khu vực Đông Nam Á nghiên cứu chuyên sâu về phân giải nhập nhằng thực thể có tên dựa trên Web ngữ nghĩa. Các bài báo khoa học trích xuất từ luận án (Nguyen & Cao, 2007a, 2007b, 2008a, 2008b, 2010a, 2010b) được công bố trên các hội nghị quốc tế uy tín, tạo lập nền tảng tham chiếu quan trọng cho cộng đồng xử lý ngôn ngữ tự nhiên tiếng Việt.
- Tác động Công nghiệp: Các giải thuật OntoNEON, NOW và WIN cung cấp kiến trúc trực tiếp cho việc xây dựng các công cụ phân tích dữ liệu lớn, quản trị danh tiếng thương hiệu (Brand Monitoring) và khai phá dữ liệu khách hàng cho các tập đoàn công nghệ.
- Lợi ích Xã hội: Nâng cao năng lực tìm kiếm và truy hồi thông tin chính xác của người dùng Internet, thúc đẩy quá trình xây dựng kho tàng tri thức số hóa và bảo tồn dữ liệu văn hóa - lịch sử trên không gian mạng.
Đối tượng hưởng lợi
- Nghiên cứu sinh & Nhà khoa học NLP: Tiếp cận phương pháp luận phân giải lặp cải thiện dần, khai thác bộ ba độ đo chuẩn xác ($MP, MR, MF$) và các phương thức trích xuất đặc trưng đa tầng từ Wikipedia.
- Kỹ sư Hệ thống & Kiến trúc sư Dữ liệu: Ứng dụng các thuật toán phân hạng ứng viên tối ưu hóa để xây dựng các giải pháp Semantic Web, Knowledge Graph và Knowledge Base Enrichment thực tế.
- Doanh nghiệp Truyền thông & Công nghệ Thông tin: Ứng dụng mô hình để tự động hóa việc gắn nhãn ngữ nghĩa, gom cụm tin tức chuyên sâu và phát triển công cụ tìm kiếm thông minh thế hệ mới.
- Cơ quan Quản lý Tri thức & Thư viện Quốc gia: Triển khai giải pháp chuẩn hóa dữ liệu thực thể phục vụ việc liên kết tài nguyên thông tin và xây dựng cổng dữ liệu mở.
Câu hỏi chuyên sâu
1. Đóng góp lý thuyết độc đáo nhất của luận án là gì và nó mở rộng lý thuyết nào?
Đóng góp lý thuyết mang tính bản lề là việc thiết lập Phương pháp luận Phân giải Lặp Cải thiện Dần (Incremental Iterative Disambiguation Methodology) dựa trên khái niệm tập hạt giống động. Luận án mở rộng trực tiếp Lý thuyết Ngữ nghĩa học Ontology (Ontological Semantics) của Gruber (1995) và Guarino (1998), đồng thời tái định hình Lý thuyết Không gian Vector (Salton et al., 1975). Thay vì coi vector ngữ cảnh là một cấu trúc cố định, tác giả xem nó là một thực thể động được làm giàu liên tục nhờ sự bổ sung các định danh thực thể ($ID$) đã được giải mã chính xác trong các vòng lặp trước đó.
2. Sự đổi mới về phương pháp luận của luận án khi so sánh với các nghiên cứu quốc tế tiền nhiệm?
So với Bunescu & Paşca (2006) chỉ phân giải một lượt độc lập và bỏ qua mối quan hệ tương hỗ giữa các thực thể đồng xuất hiện, phương pháp của luận án liên kết chặt chẽ ngữ nghĩa giữa các thực thể qua nhiều vòng lặp. So với Cucerzan (2007) và Kulkarni et al. (2009) tiếp cận bài toán bằng tối ưu hóa toàn cục đồng thời dẫn đến độ phức tạp NP-hard, giải thuật lặp cải thiện dần của luận án giải quyết bài toán với độ phức tạp tuyến tính qua từng chu kỳ lặp, đảm bảo tính khả thi cao khi xử lý văn bản quy mô lớn mà vẫn duy trì độ chính xác tương đương hoặc vượt trội.
3. Phát hiện thực nghiệm nào gây bất ngờ nhất trong quá trình kiểm định dữ liệu?
Phát hiện nổi bật nhất là vai trò của từ ngữ cảnh đồng tham chiếu ($CW$) vượt trội hơn hẳn từ ngữ cảnh cục bộ ($LW$). Trong phân tích truyền thống, người ta thường giả định các từ nằm sát cạnh tên riêng ($\pm 3$ từ) mang trọng số phân giải cao nhất. Tuy nhiên, dữ liệu thực nghiệm chỉ ra rằng ngữ cảnh xung quanh các danh từ đồng tham chiếu phân tán trong toàn văn bản (như đại từ, danh xưng rút gọn) mới là yếu tố quyết định giúp bẻ gãy sự nhập nhằng của các thực thể phức tạp (giúp giảm hơn 40% lỗi phân loại sai).
4. Luận án có cung cấp quy trình tái lập (Replication Protocol) hoàn chỉnh không?
Hoàn toàn có. Luận án mô tả chi tiết:
- Cấu trúc giả mã hình thức cho cả 3 giải thuật (OntoNEON, NOW, WIN).
- Quy tắc trích xuất đặc trưng từ văn bản và cơ sở tri thức (công thức TF-IDF, Cosine có chuẩn hóa).
- Thông số kỹ thuật của các ontology chuẩn (KIM, VN-KIM, snapshot Wikipedia).
- Định nghĩa toán học tường minh của các độ đo $MP, MR, MF$ kèm hướng dẫn gán nhãn thực nghiệm.
5. Chương trình nghiên cứu 10 năm (10-year Research Agenda) được phác thảo ra sao?
Chương trình nghiên cứu dài hạn tập trung vào 3 trục chính:
- Tự động hóa hoàn toàn chu trình khép kín: Kết hợp NER, phân giải đồng tham chiếu và NED thành một khung học sâu thống nhất (End-to-end Deep Neural Architecture).
- Mở rộng quy mô tri thức đa ngữ và đa phương thức: Mở rộng liên kết thực thể từ văn bản sang hình ảnh, video và đồ thị tri thức đa ngôn ngữ.
- Ứng dụng Web ngữ nghĩa thế hệ mới: Triển khai các hệ thống tự động sinh dữ liệu liên kết mở (Linked Data Generation) trên quy mô toàn bộ tài nguyên Web thời gian thực.
Kết luận
Luận án tiến sĩ của tác giả Nguyễn Thanh Hiên đã tạo dựng một dấu ấn khoa học xuất sắc với các đóng góp cốt lõi được lượng hóa cụ thể:
- Xác lập phương pháp luận phân giải nhập nhằng lặp cải thiện dần đầu tiên trong y văn, giải quyết triệt để sự đánh đổi giữa độ chính xác ngữ nghĩa và chi phí tính toán NP-hard.
- Đề xuất giải thuật OntoNEON phân hạng ứng viên dựa trên quan hệ ngữ nghĩa trong các ontology đóng phân cấp, nâng cao độ $MF$ lên 86,92% trên tập dữ liệu tiếng Việt $D_v$.
- Phát triển mô hình thống kê NOW với kỹ thuật làm giàu ontology đóng từ các đặc trưng cấu trúc mở của Wikipedia, chứng minh vai trò mang tính quyết định của đặc trưng $ID$ và $CW$.
- Xây dựng mô hình lai WIN kết hợp heuristic lọc nhanh và thống kê phân hạng, thiết lập chuẩn hiệu năng mới trên các tập dữ liệu tin tức tiếng Anh phức tạp ($MP > 89,5%$).
- Đề xuất bộ ba độ đo chuẩn hóa mới ($MP, MR, MF$), giải quyết trọn vẹn bài toán đánh giá hiệu năng khi dữ liệu có lỗi nhận dạng bán phần hoặc thực thể ngoài cơ sở tri thức.
- Mở ra 3 nhánh nghiên cứu học thuật then chốt: biểu diễn ngữ cảnh thực thể động, làm giàu tri thức lai ghép giữa ontology đóng và mở, và liên kết thực thể đa ngữ trên quy mô lớn.
Công trình không chỉ khẳng định tầm nhìn tiên phong trong việc hiện thực hóa Web ngữ nghĩa mà còn để lại hệ giá trị phương pháp luận bền vững cho cộng đồng khoa học máy tính và xử lý ngôn ngữ tự nhiên trong nhiều thập kỷ tiếp theo.
Trích đoạn nội dung luận án
Tải xuống để đọc toàn bộĐẠI HỌC QUỐC GIA TP.HCM TRƯỜNG ĐẠI HỌC BÁCH KHOA Nguyễn Thanh Hiên PHÂN GIẢI NHẬP NHẰNG THỰC THỂ CÓ TÊN DỰA TRÊN CÁC ONTOLOGY ĐÓNG VÀ MỞ Chuyên ngành: Khoa học Máy tính Mã số: 62.01 LUẬN ÁN TIẾN SĨ KỸ THUẬT NGƯỜI HƯỚNG DẪN KHOA HỌC: PGS. CAO HOÀNG TRỤ TP. HCM - NĂM 2010 LỜI CAM ĐOAN Tôi cam đoan rằng nội dung của luận án này là kết quả nghiên cứu của bản thân. Tất cả những tham khảo từ các nghiên cứu liên quan điều được nêu rõ nguồn gốc một cách rõ ràng từ danh mục tài liệu tham khảo được đề cập ở phần sau của luận án.
Những đóng góp trong luận án là kết quả nghiên cứu của tác giả đã được công bố trong các bài báo của tác giả ở phần sau của luận án và chưa được công bố trong bất kỳ công trình khoa học nào khác. Tác giả luận án Nguyễn Thanh Hiên i LỜI CẢM ƠN Tôi muốn bày tỏ ở đây lời tri ân sâu sắc gởi đến thầy hướng dẫn của tôi, PGS. Cao Hoàng Trụ. Thầy đã tận tình chỉ bảo tôi từ những ngày đầu tiếp cận con đường khoa học.
Thầy đã dạy tôi từ những việc tưởng chừng đơn giản như cách thức để thu thập các tài liệu liên quan, đến khả năng tư duy có phê phán và sự hoài nghi cần thiết trong hoạt động nghiên cứu. Sự tận tình hướng dẫn, cộng với sự động viên, khích lệ thường xuyên của Thầy đã thật sự đánh thức trong tôi những khả năng tiềm ẩn, nếu không luận án này đã không thể hoàn thành. Sự cẩn thận, tỉ mỉ, kiên nhẫn và nghiêm túc trong công việc là những đức tính mà Thầy luôn nhắc nhở tôi. Những gì Thầy dạy tôi đã ảnh hưởng sâu sắc đến cá nhân tôi, và sẽ có tác động lâu dài đến cuộc sống, sự nghiệp và tương lai của tôi.
Tôi tin rằng, bằng những lời lẽ thông thường sẽ không đủ để chuyển tải hết lòng biết ơn với những gì Thầy đã dạy tôi. Dù vậy, tôi cũng muốn viết ra đây, và gởi đến Thầy, lời cảm ơn chân thành nhất. Em cảm ơn Thầy! Tôi cũng muốn bày tỏ lòng biết ơn đối với tập thể các thầy cô Khoa Khoa học và Kỹ thuật máy tính, Trường Đại học Bách Khoa Tp. HCM, nơi tôi học tập và gắn bó hơn mười năm qua, tính cả thời gian tôi học đại học và làm luận văn thạc sĩ.
Các thầy cô luôn tạo điều kiện để tôi hoàn thành tốt công việc của mình, và sự dạy dỗ của quí thầy cô đã giúp tôi trưởng thành. Xin chân thành cảm ơn quí thầy cô trong Khoa Khoa học và Kỹ thuật máy tính. Tôi cũng chân thành cảm ơn sự hỗ trợ và giúp đỡ nhiệt thành của Phòng Quản lý Sau Đại học, Trường Đại học Bách Khoa Tp. HCM trong thời gian tôi thực hiện luận án này.
Cảm ơn Ban giám hiệu Trường Đại học Bách Khoa Tp. HCM, Phòng Khoa học Công nghệ & Dự án đã xét duyệt cho tôi thực hiện đề tài nghiên cứu cấp trường, hỗ trợ tài chính để trang trải một phần kinh phí học tập và nghiên cứu của tôi trong thời gian qua. Tôi chân thành cảm ơn Tiến sĩ Lê Vinh Danh, Hiệu trưởng Trường Đại học Tôn Đức Thắng, đã động viên và tạo mọi điều kiện thuận lợi cho tôi hoàn thành luận án này. Cảm ơn các anh chị trong Phòng Điện toán và Thông tin tư liệu, Trường Đại học Tôn Đức Thắng, đã nhiệt tình giúp đỡ tôi trong thời gian vừa qua.
Cuối cùng, chân thành cảm ơn người thân, bạn bè luôn bên cạnh động viên, hỗ trợ về mặt tinh thần để tôi vượt qua khó khăn và hoàn thành tốt luận án. ii TÓM TẮT Thực thể có tên là những thực thể có thể được tham khảo đến bằng tên riêng, như con người, tổ chức, hoặc nơi chốn. Phân giải nhập nhằng thực thể có tên là nhằm ánh xạ mỗi tên trong một văn bản vào một thực thể trong một nguồn tri thức cho trước. Nổi lên gần đây như là một bài toán đầy thách thức, nhưng có nhiều ý nghĩa trong việc hiện thực hóa Web có ngữ nghĩa, cũng như phát triển nâng cao các ứng dụng xử lý ngôn ngữ tự nhiên, phân giải nhập nhằng thực thể có tên đã thu hút sự quan tâm của nhiều nhóm nghiên cứu khắp thế giới.
Luận án đề xuất ba phương pháp cho bài toán này, trong đó nghiên cứu sâu ba yếu tố quan trọng ảnh hưởng đến hiệu quả phân giải nhập nhằng là các nguồn tri thức sử dụng, đặc trưng biểu diễn thực thể, và mô hình phân giải nhập nhằng. Các nguồn tri thức được khai thác là các ontology đóng và Wikipedia. Các ontology đóng được xây dựng bởi các chuyên gia theo hướng tiếp cận từ trên xuống, với các khái niệm có quan hệ thứ bậc dựa trên một tập từ vựng có kiểm soát và các ràng buộc chặt chẽ. Wikipedia, xem như một ontology mở, được xây dựng bởi những người tình nguyện theo hướng tiếp cận từ dưới lên, với các khái niệm được hình thành từ một tập từ vựng tự do và các thoả thuận mang tính cộng đồng.
Các đặc trưng được nghiên cứu là tên của các thực thể đồng xuất hiện, định danh của các thực thể đã được xác định, và các từ cùng với các cụm từ xuất hiện xung quanh tên đang được xem xét và xung quanh các tên là đồng tham chiếu với tên đó trong văn bản. Ngoài ra luận án cũng khai thác vị trí xuất hiện, chiều dài của các tên, và tên thường dùng của các thực thể. Luận án đề xuất ba mô hình phân giải nhập nhằng tương ứng với ba phương pháp nói trên là: (i) mô hình dựa trên heuristic; (ii) mô hình dựa trên thống kê; và (iii) mô hình lai - kết hợp heuristic và thống kê. Điểm mới chung của ba phương pháp là phân giải nhập nhằng theo một quá trình lặp cải thiện dần, trong đó bao gồm một số bước lặp.
Thực thể được xác định tại mỗi bước lặp sẽ được sử dụng để phân giải nhập nhằng các thực thể còn lại ở các bước lặp tiếp theo. Các thí nghiệm được thực hiện để đánh giá và chứng tỏ tính hiệu quả của các phương pháp được đề xuất. Luận án cũng nghiên cứu xử lý các trường hợp khi mà các tên trong văn bản chỉ được nhận ra bán phần và thực thể được đề cập đến trong văn bản nằm ngoài nguồn tri thức sử dụng, đồng thời đề xuất các độ đo hiệu quả phân giải nhập nhằng mới tương ứng. iii Abstract Named entities are those that are referred to by names such as people, organizations, or locations.
Named entity disambiguation is a problem that aims at mapping entity names in a text to the right referents in a given source of knowledge. Having been emerging in recent years as a challenging problem, but significant to realization of the semantic web, as well as advanced development of natural language processing applications, named entity disambiguation has attracted much attention by researchers all over the world. This thesis proposes three methods for disambiguating named entities, and rigoruously investigates the three important factors affecting disambiguation performance, namely, employed knowledge sources, named entity representation features, and disambiguation models. The knowledge sources exploited are close ontologies and Wikipedia.
Close ontolo- gies are built by experts following a top-down approach, with a hierarchy of concepts based on a controlled vocabulary and strict constraints. Wikipedia, considered as an open ontology, is built by volunteers following a bottom-up approach, with concepts formed by a free vocabulary and community agreements. The investigated features are entity names, identifiers of resolved entities, and words together with phrases surrounding a target name and surrounding names that are coreferential with that target name. Besides, the thesis ex- ploits occurrence positions and lengths of names, and main alias of entities.
This thesis proposes three models corresponding to the three above-mentioned methods: (i) a heuris- tic-based model; (ii) a statistical model; and (iii) a hybrid model, combining heuristics and statistics. The common novelty of the proposed methods is disambiguating named entities itera- tively and incrementally, including several iterative steps. Those named entities that are resolved in each iterative step will be used to disambiguate the remaining ones in the next iterative steps. Experiments are conducted to evaluate and show the advantages of the pro- posed methods.
Besides, this thesis deals with the cases when entity names in text are par- tially recognized and entities referred to in text are outside an employed knowledge source, as well as proposes new corresponding disambiguation performance measures. iv MỤC LỤC Lời cam đoan. iv Mục lục. v Danh mục các bảng.
vii Danh mục các hình. ix Danh mục các giải thuật. x Danh mục thuật ngữ viết tắt. xi Chương 1: GIỚI THIỆU .1 Lịch sử và động cơ nghiên cứu .2 Bài toán và phạm vi .3 Phương pháp luận đề xuất.4 Những đóng góp chính của luận án .5 Cấu trúc của luận án.
26 Chương 2: NỀN TẢNG KIẾN THỨC .4 Mô hình không gian véctơ .5 Nhận dạng thực thể có tên .6 Phân giải đồng tham chiếu trong một văn bản.7 Phân giải nhập nhằng. 72 Chương 3: PHÂN GIẢI NHẬP NHẰNG DỰA TRÊN ONTOLOGY .2 Phân hạng ứng viên dựa trên ontology .3 Các độ đo hiệu quả mới .4 Thí nghiệm và đánh giá. 91 Chương 4: PHÂN GIẢI NHẬP NHẰNG DỰA TRÊN ONTOLOGY ĐƯỢC LÀM GIÀU .2 Mô hình phân hạng ứng viên dựa trên thống kê .3 Làm giàu ontology .4 Thí nghiệm và đánh giá. 111 Chương 5: PHÂN GIẢI NHẬP NHẰNG DỰA TRÊN WIKIPEDIA .2 Phương pháp lai .3 Thí nghiệm và đánh giá.
130 Chương 6: TỔNG KẾT .2 Hướng nghiên cứu mở rộng. 135 CÁC CÔNG TRÌNH CỦA TÁC GIẢ LIÊN QUAN ĐẾN LUẬN ÁN. 137 TÀI LIỆU THAM KHẢO. 138 vi DANH MỤC CÁC BẢNG Bảng 2.1: Số liệu thống kê về các trang, thể loại và liên kết của các trang trong Wikipedia .2: Các loại trả lời để đánh giá một hệ thống nhận dạng thực thể có tên .3: Kết quả phân giải đồng tham chiếu tên riêng tiếng Việt .4: Minh họa tập dữ liệu huấn luyện của Bunescu và Paşca (2006) .5: Minh họa đánh giá hiệu quả phân giải nhập nhằng của một phương pháp phân giải nhập nhằng các vùng địa lý (Leidner, 2007).1: Định nghĩa một ánh xạ là đúng hoặc sai cho một tên trong văn bản .2: Minh hoạ cách tính độ chính xác, độ đầy đủ và độ F ánh xạ .3: Số lần xuất hiện của (“Georgia”, Location) trong tập dữ liệu De1.4: Số lần xuất hiện của (“Smith”, Person) trong tập dữ liệu De1 .5: Kết quả phân giải nhập nhằng cho (“Georgia”, Location) .6: Kết quả phân giải nhập nhằng cho (“Smith”, Person) .7: Kết quả phân giải nhập nhằng của OntoNEON trên tập Dv sử dụng ontology của VN-KIM.8: Độ chính xác và độ đầy đủ ánh xạ của VN-KIM và OntoNEON trên tập dữ liệu Dv.
Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ
Trích dẫn luận án này
Nguyễn Thanh Hiên (2010). Phân giải nhập nhằng thực thể có tên dựa trên các ontology đ [Luận án tiến sĩ, đại học bách khoa]. LuanAn.net. https://luanan.net/thuy-san/phan-giai-nhap-nhang-thuc-the-co-ten-dua-tren-cac-ontology-dong-va-mo
Câu hỏi thường gặp
Luận án "Phân giải nhập nhằng thực thể có tên dựa trên các ontology đ" nghiên cứu về vấn đề gì?
Phân giải nhập nhằng thực thể dựa trên ontology nhằm nâng cao độ chính xác nhận dạng tên gọi trong văn bản.
Luận án "Phân giải nhập nhằng thực thể có tên dựa trên các ontology đ" được bảo vệ tại trường nào?
Luận án này được bảo vệ tại đại học bách khoa. Năm bảo vệ: 2010.
Luận án "Phân giải nhập nhằng thực thể có tên dựa trên các ontology đ" thuộc chuyên ngành gì?
Luận án "Phân giải nhập nhằng thực thể có tên dựa trên các ontology đ" thuộc chuyên ngành Khoa học Máy tính. Danh mục: Thủy Sản.
Luận án "Phân giải nhập nhằng thực thể có tên dựa trên các ontology đ" có bao nhiêu trang?
Luận án "Phân giải nhập nhằng thực thể có tên dựa trên các ontology đ" có 164 trang. Bạn có thể xem trước một phần tài liệu ngay trên trang web trước khi tải về.
Cách tải luận án "Phân giải nhập nhằng thực thể có tên dựa trên các ontology đ" về máy như thế nào?
Để tải luận án về máy, bạn nhấn nút "Tải xuống ngay" trên trang này, sau đó hoàn tất thanh toán phí lưu trữ. File sẽ được tải xuống ngay sau khi thanh toán thành công. Hỗ trợ qua Zalo: 0559 297 239.