Luận án Tiến sĩ: Truy hồi thông tin dựa Ontology - Ngô Minh Vương, ĐHQG TP.HCM

| ĐẠI HỌC QUỐC GIA TP.HCM | TRƯỜNG ĐẠI HỌC BÁCH KHOA TP.HCM NGÔ MINH VƯƠNG TRUY HOI THONG TIN DUA TREN ONTOLOGY LUẬN AN TIEN SĨ KY THUAT ĐẠI HỌC QUỐC GIA TP.HCM TRƯỜNG ĐẠI HỌC BÁCH KHOA TP.HCM NGÔ MINH VƯƠNG TRUY HOI THONG TIN DỰA TREN ONTOLOGY LUẬN ÁN TIEN SI KỸ THUAT TP. HO CHI MINH NAM 2013 ĐẠI HỌC QUỐC GIA TP.HCM TRƯỜNG ĐẠI HỌC BÁCH KHOA TP.HCM NGÔ MINH VƯƠNG TRUY HOI THONG TIN DỰA TREN ONTOLOGY Chuyén nganh: Khoa hoc May tinh Ma s6 chuyén nganh: 62.01 Phan biện độc lập 1: PGS. Đồng Thị Bích Thủy, DH KHTN, ĐHQG TPHCM Phản biện độc lập 2: PGS. Lê Thanh Hương, Viện CNTT&TT, DH BKHN Phản biện 1: PGS.

Đỗ Phúc, ĐH CNTT, ĐHQG TPHCM Phản biện 2: TS. Nguyễn Thị Minh Huyền, ĐH KHTN, ĐHQG HN Phản biện 3: PGS. Dương Tuan Anh, DH BKTPHCM, ĐHQG TPHCM NGƯỜI HUONG DAN KHOA HỌC PGS. Cao Hoang Trụ, ĐH BKTPHCM, ĐHQG TPHCM LỜI CAM ĐOAN Tôi cam đoan rằng nội dung của luận án này là kết quả nghiên cứu của bản thân.

Tat cả những tham khảo từ các nghiên cứu liên quan điều được nêu rõ nguồn gốc một cách rõ ràng từ danh mục tài liệu tham khảo được dé cập ở phan sau của luận án. Những đóng góp trong luận án là kết quả nghiên cứu của tác giả đã được công bố trong các bài báo của tác giả ở phan sau của luận án và chưa được công bồ trong bat kỳ công trình khoa học nào khác. Tác giả luận án Ngô Minh Vương LỜI CÁM ƠN Trong quá trình hoàn thành luận án này, tôi đã được các thay cô nơi cơ sở đảo tạo giúp đỡ tận tình, cơ quan nơi công tác tạo mọi điều kiện thuận lợi và bạn bè cùng gia đình thường xuyên động viên khích lệ. Luận án này không thé hoàn thành tốt nếu không có sự tận tình hướng dan và sự giúp đỡ quí báu của PGS.

Cao Hoàng Trụ, Thầy hướng dẫn mà tôi tôn vinh và muốn được bày tỏ lòng biết ơn sâu sắc nhất. Tôi cũng muốn được bày tỏ lòng biết ơn đối với tập thé các thay cô Khoa KH&KT Máy Tính - Đại học Bách Khoa Tp.HCM đã giúp đỡ và tạo điều kiện cho tôi rất nhiều trong quá trình học tập và nghiên cứu ở Khoa. Cảm ơn Phòng Quản lý Sau Đại học về sự hỗ trợ các thủ tục trong quá trình hoàn thành luận án. Cảm ơn Ban Giám hiệu Trường Đại học Bách Khoa Tp.HCM, Phòng Khoa học Công nghệ & Dự án, và Phòng Quản lý Sau Đại học đã tài trợ cho tôi thực hiện đề tài nghiên cứu cấp trường năm 2010.

Cảm ơn Tập doan TOSHIBA đã cấp học bồng Chương trình nghiên cứu khoa học và công nghệ cho học viên sau đại học xuất sắc trong 3 năm 2008, 2009 va 2010. Cảm ơn Ban Giám đốc DHQGTpHCM, Ban Quan hệ và Đối ngoại đã tạo điều kiện thuận lợi cho tôi tiếp cận được học bỗng TOSHIBA ở trên. Cảm ơn Tập đoàn VNG đã tài trợ một phần kinh phí để tôi có thể công bố và thuyết trình công trình của mình tại hội nghị JCNLP-2011 ở Chiang Mai, Thailand. Những tài trợ này đã hỗ trợ tôi rất nhiều về mặt tài chính dé trang trải một phan kinh phí hoc tap va nghiên cứu của tôi trong thời gian qua.

Tôi chân thành cảm ơn Trung tâm CNTT - Ngân hàng Phát Triển Nhà ĐBSCL, Trung tam R&D - Tập đoàn VNG va Khoa CNTT - Đại học Tôn Đức Thắng đã tạo mọi điều kiện thuận lợi cho tôi từ năm 2008 đến nay để hoàn thành luận án này. Cuối cùng tôi cảm ơn tất cả bạn bè và người thân đã góp nhiều ý kiến và những lời động viên khích lệ quí báu giúp tôi vượt qua khó khăn đề hoàn thành tốt luận án. Tác giả luận án Ngô Minh Vương ii TÓM TẮT Các hệ thống truy hồi tài liệu dang văn bản hiện nay gặp nhiều thách thức trong việc khám phá và biểu diễn ngữ nghĩa của truy van và tài liệu. Truy hỏi tài liệu dựa trên việc so trùng các từ khóa có nhiều nhược điểm bởi vì nó chỉ xem xét đến hình thức bề mặt của các từ xuất hiện trong văn bản hơn là ý nghĩa của các từ này.

Trong khi đó, nội dung của văn bản phân lớn được xác định bởi các khái niệm như thực thể có tên và từ WordNet. Mặc khác, truy vẫn đã có thể hiện rõ hơn mong muốn của người đặt truy van nếu được bổ sung các khái niệm tiềm an phù hợp. Mục tiêu của luận án này là nghiên cứu và khai thác các ontology về thực thé có tên, từ WordNet và sự kiện về quan hệ thực thé dé nâng cao hiệu quả truy hồi tài liệu về độ chính xác và độ day đủ. Trong văn bản, các khái niệm được diễn đạt dưới các dạng như tên của thực thể hoặc nhãn của từ.

Các khái niệm này an chứa các đặc điểm ontology bên dưới các hình thức bề mặt của chúng như bí danh/từ đồng nghĩa, lớp cha/nghĩa cha, lớp con/nghĩa con và định danh/nghĩa của từ. Ngoài ra, mỗi truy vẫn còn hàm ý các thực thể liên quan đến các thực thể xuất hiện tường minh trong truy vấn. Luận án này có ba nội dung chính. Thứ nhất, luận án khảo sát tất cả các đặc điểm ontology của thực thé có tên, các cách kết hợp chúng với từ khóa thông thường, và nghiên cứu ảnh hưởng của chúng đến hiệu quả truy hồi tài liệu, trong đó có cặp tên-lớp và định danh của thực thể có tên mà các công trình trước đây chưa khai thác.

Thứ hai, luận án đề xuất sử dụng thêm cặp nhan-nghia của từ WordNet bên cạnh các đặc điểm ontology cơ bản khác đã được sử dụng trước đây. Thứ ba, luận án khai thác ontology về sự kiện dé mở rộng truy van bang các thực thé tiêm an theo các quan hệ tường minh với các thực thể trong truy vấn. Các mô hình dé xuất được hiện thực bằng cách mở rộng mô hình không gian vectơ cơ bản và được đánh giá băng thực nghiệm trên các tập dữ liệu và độ đo hiệu quả chuẩn. Kết quả thí nghiệm cho thay các mô hình đề xuất cho hiệu quả truy hồi tài liệu cao hơn so với các mô hình ở các công trình liên quan quan và mô hình truy hồi tài liệu theo từ khoá thông thường.

Đặc biệt luận án đã sử dụng phương pháp kiểm định ý nghĩa thống kê để xác nhận lại sự tăng hiệu quả thật sự của các mô hình dé xuat. lil ABSTRACT Current text document retrieval systems are facing to many challenges In discovering and representing the semantics of queries and documents. Document retrieval based on lexical matching of keywords has many drawbacks because it only considers the surface forms of words appearing in a text rather than the meaning of the words. Meanwhile, the content of a text is mostly determined by concepts such as named entities and WordNet words.

On the other hand, the meaning of a query could express more clearly user intention if it is expanded with suitable latent concepts. The objective of this thesis is to exploit ontologies of named entities, WordNet words and entity relationship facts to improve the performance of document retrieval in terms of the precision and recall measures. In a text, concepts are expressed by their surface forms like entity names or word labels. Those concepts contain hidden ontological features under their surface forms, such as aliases/synonyms, super-classes/hypernyms, sub-classes/hyponyms and identifiers/senses.

Besides, each query also implies those entities that are related to entities explicitly appearing in the query. This thesis consists of three main parts. First, the thesis explores ontological features of named entities, different combinations of them and keywords, and evaluates their impact to document retrieval performance, in which name-class pairs and identifies of named entities have not been exploited in previous works. Second, the thesis proposes usage of form-sense pairs of WordNet words in addition to other basic ontological features that have been used previously.

Third, the thesis exploits an ontology of facts to expand a query by latent entities that have explicit relations with other entities in the query. The proposed models are implemented by extending the basic vector space model and experimented on benchmark datasets and standard performance measures. Experiment results show that the proposed models give better retrieval performance than the models of related works and the traditional keyword-based document retrieval model. Especially, this thesis uses statistical significance tests to confirm the actual improvement in performance of the proposed models.

iV MỤC LỤC l_ Chương 1 - GIỚI THIỆUU.-- ¿<2 2E E38 5 EEk S2 5E 1E 1111 11c 511gr ru | I.I Động cơ nghiên CỨU.2 Mục tiêu và phạm vi của luận án. - ---- «<< << 1 11 1 re 2 I3 Những đóng góp chính của luận án. 3 1⁄4 Cấu trúc của luận án.- SG t1 KH1 S11 TH Su HT TH ng nhọ 4 2 _ Chương 2 - CƠ SỞ KIÊN THỨCC.1 Mô hình không gian V€CƠY .2 _ Giới thiệu về LLUC€ne. G- Ec t1S123 111 11 3191191 111519 11 11 1T Hư HH nhọ 7 2.Q Gọinh 7 24 Nhận diện thực thé có tên và phân giải nhập nhằng nghĩa của từ.5 _ Tập dữ liệu kiỂm tra.6 D6 đo hiệu quả truy hi oo.

¿6562 2 212% 525 5 51 121 1 52515125150 11x xe 13 2:7 _ Kiểm định ý nghĩa thống kê.---- ¿+ 2 E2 2E E321 EE E111 re rrrk 15 3 Chương 3 - KHAI THÁC THỰC THE CÓ TÊN.1 Giới thiSu cece ccccececscsesssscecscscsesscscscsesesssscecsesesesscscsesesseecscseseeseseeaes 17 3.2 _ Các công trình liÊn Quan. Mô hình đa không gian vecto cho thực thé có tên .4 Kết hợp thực thé có tên và từ Khóa.5 _ Đánh giá thực nghiệm. LH TH TH TH TH ng TT HH TH nung 56 4 Chương 4 - KHAI THÁC TU WORDNET.2 Cac công trình liên quan.3 Mô hình không gian vectơ dựa trên từ WordNet.- cà k, 61 4A Đánh giá thực nghiỆm. LG TH TH TT ng TH HT HT HH TH ngụ 72 5 Chương 5 - KHAI THÁC THONG TIN TIÊM AN.2 _ Các công trình HEN QUaTI.

Phương pháp kích hoạt lan truyÊn.- + + 2 + + 2+2 £2 E2 E£E£E£E££sEzkrerersrsed 76 SA ao na.5 _ Đánh giá thực nghiỆm. -- -- ----Ă Ă- - c9ng 80 5,6 K@tuan ei. cececceccscecsccescesseccscecceccscsscsececsscsacavscssesscescsesscsaceavsusacescacuasaceaees 86 6 Chương 6 — KET HOP CAC MO HINH ou.1 Giới thiSu cece ccc cecscscscscsessssescssscscecscecsescscsesesessvsssvsvscscsnscscsessseeesssees 88 6.2 Mô hình hợp nhất .3 Đánh giá thực nghiỆm. - -- - ---Ă Ă- < c9 ng ng 90 GA KẾt luận.G- c1 1S HT ng TT TH TH ng TH TH Hưng cep 95 7 Chương 7 - TONG KKẾT.2 Hướng phát triỀn.- ¿+ 52 2%2E SE S* SE SE SE EE E111 211111111111 re 98 CÁC CONG TRINH CUA TÁC GIÁ LIÊN QUAN DEN LUẬN ÁN.

100 TÀI LIEU THAM KHHẢO. G19 195191E 11 31 1 21 S1 1195113 11 1kg ưng 102 VỊ DANH MỤC CÁC BANG Bảng 2. Thống kê về việc sử dụng tập kiểm tra trong các công trình mà luận án khảo sát ở SIGIR-2007 và SIGIR-2006.------- SH kg 13 Bảng 3.