Luận án tiến sĩ khoa học máy tính phân giải đồng tham chiếu đối tượng cho phân t

Tổng quan về luận án

Trong kỷ nguyên bùng nổ thông tin số và thương mại điện tử toàn cầu, khối lượng dữ liệu phản hồi, đánh giá sản phẩm (product reviews) từ người tiêu dùng trên các nền tảng trực tuyến như Amazon hay mạng xã hội gia tăng theo hàm mũ. Dữ liệu này chứa đựng nguồn tri thức vô giá về trải nghiệm khách hàng, chất lượng tính năng và thái độ đối với thương hiệu. Tuy nhiên, việc khai thác tự động nguồn thông tin này đối mặt với rào cản lớn: các văn bản ngôn ngữ tự nhiên thường chứa cấu trúc ngữ nghĩa phức tạp, các phép thế đại từ, các câu so sánh đa thực thể và những khía cạnh ẩn (implicit aspects) không được gọi tên trực tiếp. Luận án tiến sĩ kĩ thuật chuyên ngành Khoa học Máy tính (mã số: 62.01) của nghiên cứu sinh Lê Thị Thủy, được thực hiện dưới sự hướng dẫn khoa học của GS. Phan Thị Tươi tại Trường Đại học Bách Khoa – Đại học Quốc gia TP. Hồ Chí Minh (2022) với đề tài "Phân giải đồng tham chiếu đối tượng cho phân tích cảm xúc" (Object Coreference Resolution for Sentiment Analysis), là công trình tiên phong giải quyết trọn vẹn điểm nghẽn học thuật này.

                  ┌────────────────────────────────────────┐
                  │          Văn bản cảm xúc thô           │
                  │   (Amazon Reviews / YouNetMedia data)  │
                  └───────────────────┬────────────────────┘
                                      │
                                      ▼
                  ┌────────────────────────────────────────┐
                  │    Tiền xử lý & Cú pháp phụ thuộc      │
                  │        (POS, Dependency Parse)         │
                  └───────────────────┬────────────────────┘
                                      │
                                      ▼
                  ┌────────────────────────────────────────┐
                  │     Nhận dạng thành phần (RECOAS)      │
                  │   Đối tượng (Obj) - Khía cạnh (Asp)    │
                  │           - Cảm xúc (Sen)              │
                  └─────────┬────────────────────┬─────────┘
                            │                    │
                Obj = 1     │                    │  Obj > 1
             ┌──────────────┘                    └──────────────┐
             ▼                                                  ▼
┌───────────────────────────┐                      ┌───────────────────────────┐
│     Mô hình OCR1Obj       │                      │     Mô hình CROAS         │
│  - Mô-đun IAI (W1,W2,W3)  │                      │  - Nhúng từ ngữ cảnh ECW  │
│  - Làm giàu bản thể ESO   │                      │  - Tiền huấn luyện BERT   │
│  - Mô-đun OBASCore        │                      │  - Bộ phân lớp nơ-ron     │
└────────────┬──────────────┘                      └────────────┬──────────────┘
             │                                                  │
             └──────────────────────┬───────────────────────────┘
                                    │
                                    ▼
                  ┌────────────────────────────────────────┐
                  │  Đồ thị đồng tham chiếu có hướng CRG   │
                  │  (CoReference Graph & Thuật toán duyệt)│
                  └───────────────────┬────────────────────┘
                                      │
                                      ▼
                  ┌────────────────────────────────────────┐
                  │    Bộ ba hoàn chỉnh có cấu trúc:       │
                  │   [Đối tượng - Khía cạnh - Cảm xúc]    │
                  │ (Triplets: Object - Aspect - Sentiment)│
                  └────────────────────────────────────────┘

Khoảng trống nghiên cứu (research gap) cốt lõi được luận án chỉ ra là: phần lớn các nghiên cứu về phân tích cảm xúc mức khía cạnh (Aspect-Based Sentiment Analysis - ABSA) trước đây (Ding et al., 2010; Liu, 2012) chỉ dừng lại ở việc gán nhãn phân cực phân lớp cảm xúc tổng thể hoặc trích xuất cặp khía cạnh - cảm xúc rời rạc, mà hoàn toàn bỏ qua liên kết đồng tham chiếu thực thể sở hữu khía cạnh đó khi văn bản xuất hiện từ hai đối tượng trở lên. Ngược lại, các nghiên cứu phân giải đồng tham chiếu (Coreference Resolution - CR) truyền thống (Sukthanker et al., 2018) chỉ tập trung vào đồng tham chiếu đại từ (Anaphora) hoặc thực thể mà thiếu vắng sự ràng buộc ngữ nghĩa với các từ mang cảm xúc. Hệ quả là thông tin khai phá bị phân mảnh, gán sai lệch quan điểm của đối tượng này sang đối tượng khác trong các ngữ cảnh so sánh phức tạp.

Để giải quyết triệt để khoảng trống trên, luận án xác lập hệ thống câu hỏi nghiên cứu và giả thuyết khoa học chặt chẽ:

• RQ1: Làm thế nào để xây dựng một cơ sở tri thức miền có khả năng biểu diễn cấu trúc quan hệ ngữ nghĩa phân cấp giữa đối tượng, khía cạnh và cảm xúc nhằm hỗ trợ phân giải đồng tham chiếu?
  • H1: Một Ontology cảm xúc (Sentiment Ontology - SO) với 3 lớp độc lập kết hợp đồ thị đồng tham chiếu (CoReference Graph - CRG) có hướng và có trọng số sẽ tối ưu hóa khả năng suy luận liên kết thực thể - thuộc tính.
• RQ2: Làm thế nào để tự động phát hiện các khía cạnh ẩn (implicit aspects) được bao hàm trong các từ cảm xúc mà không xuất hiện tường minh dưới dạng danh từ?
  • H2: Kỹ thuật học sâu phân tầng với cơ chế tinh chỉnh trọng số liên tiếp ($W_1 \rightarrow W_{2s} \rightarrow W_{3s}$) trên không gian vector ngữ cảnh cho phép phân lớp chính xác khía cạnh ẩn theo từng miền chuyên biệt.
• RQ3: Bằng phương thức nào có thể tự động làm giàu tri thức cho Ontology cảm xúc mà không phá vỡ tính nhất quán ngữ nghĩa?
  • H3: Sự kết hợp giữa các luật cú pháp phụ thuộc, độ đo tương tự ngữ nghĩa từ vựng (SSW) dựa trên WordNet và từ điển Opinion Lexicon (OL) sẽ tự động mở rộng tập thể hiện (instances) của bản thể luận với độ chính xác cao.
• RQ4: Làm thế nào để phân giải chính xác đồng tham chiếu đối tượng trong các văn bản phức tạp chứa từ hai đối tượng trở lên (multi-object) mà không cần gán nhãn thủ công tốn kém?
  • H4: Biểu diễn nhúng từ ngữ cảnh hóa hai chiều (Contextual Word Embedding - ECW) thông qua mô hình ngôn ngữ BERT kết hợp mạng nơ-ron phân lớp được huấn luyện trên kho ngữ liệu đơn đối tượng (Corpus1) có thể khái quát hóa để giải quyết phân giải đồng tham chiếu đa đối tượng (Corpus2).

Về khung lý thuyết, công trình tích hợp lý thuyết bản thể luận (Ontology Engineering), lý thuyết đồ thị (Graph Theory), ngôn ngữ học ngữ pháp phụ thuộc (Dependency Grammar) và mô hình học sâu biểu diễn ngữ cảnh (Transformers/BERT). Phạm vi nghiên cứu tập trung vào văn bản cảm xúc tiếng Anh thuộc miền sản phẩm công nghệ (điện thoại thông minh - smartphone), thực nghiệm trên tập dữ liệu quy mô lớn gồm 389.103 văn bản (Corpus12) trích xuất từ Amazon và YouNetMedia, mang lại ý nghĩa đột phá cả về mặt học thuật lẫn ứng dụng thực tiễn trong hệ thống lắng nghe xã hội (Social Listening) và phân tích cạnh tranh thị trường.

Literature Review và Positioning

Nghiên cứu về phân tích cảm xúc và phân giải đồng tham chiếu đã trải qua nhiều giai đoạn phát triển với các trường phái tiếp cận khác nhau trong xử lý ngôn ngữ tự nhiên (NLP).

                               TIẾN TRÌNH TIẾP CẬN HỌC THUẬT
                               
  Phân giải đồng tham chiếu (CR)                  Phân tích cảm xúc (ABSA)
  ──────────────────────────────                  ────────────────────────
  • Dựa trên luật cú pháp / heuristic             • Khai phá từ vựng & Thống kê
    (Lappin & Leass, 1994; Mitkov, 2002)            (Hu & Liu, 2004; Turney, 2002)
                 │                                               │
                 ▼                                               ▼
  • Học máy có giám sát & Đồ thị                  • Cây cú pháp hồi quy & RNTN
    (Culotta et al., 2007; Ding et al., 2010)       (Manning et al., 2014; Stanford CoreNLP)
                 │                                               │
                 ▼                                               ▼
  • Học sâu & Tầng ngữ nghĩa Knowledge            • Mạng nơ-ron tích chập / hồi quy
    (Prokofyev et al., 2015; Clark & Manning, 2016)  (Wu et al., 2016; Dhanush et al., 2016)
                 │                                               │
                 └───────────────────────┬───────────────────────┘
                                         │
                                         ▼
                 ┌───────────────────────────────────────────────┐
                 │       GIAO THOA ĐỊNH HƯỚNG TRI THỨC VÀ BIỂU DIỄN NGỮ CẢNH      │
                 │  - Ding et al. (2010): Machine Learning + Sentiment Consistency│
                 │  - Chen et al. (2020 - OAC2): OMCS + SenticNet + Stacked ANN   │
                 │  - Zhao et al. (2015): Binary Classifier + ILP Inference       │
                 └───────────────────────┬───────────────────────┘
                                         │
                                         ▼
                 ┌───────────────────────────────────────────────┐
                 │          VỊ TRÍ ĐỘT PHÁ CỦA LUẬN ÁN           │
                 │  Tích hợp Toàn diện: SO Tri thức miền         │
                 │  + Đồ thị CRG + IAI Phân tầng + ESO Làm giàu  │
                 │  + CROAS Ngữ cảnh hóa đa chiều (BERT + MLP)   │
                 │  => Trích xuất hoàn chỉnh bộ ba [Obj-Asp-Sen] │
                 └───────────────────────────────────────────────┘

Trong dòng nghiên cứu phân giải đồng tham chiếu đại từ và thực thể, các tiếp cận ban đầu chủ yếu dựa trên tập luật cú pháp và ràng buộc ngữ pháp (Sukthanker et al., 2018). Sau đó, các mô hình học máy như cây quyết định, Naive Bayes và Support Vector Machines (SVM) đã được áp dụng để tính toán xác suất đồng tham chiếu. Culotta et al. (2007) mở ra hướng tiếp cận dựa trên đồ thị, trong đó mỗi đỉnh đại diện cho một cụm danh từ và trọng số cạnh biểu diễn xác suất đồng tham chiếu. Prokofyev et al. (2015) nâng cấp mô hình đồ thị bằng cách tích hợp tầng tri thức ngữ nghĩa (Knowledge Graph) từ DBpedia và YAGO.

Trong dòng nghiên cứu phân tích cảm xúc mức khía cạnh (ABSA), Bing Liu (2012) và Hu & Liu (2004) đặt nền móng cho việc phân loại ý kiến bằng cách xác định tần suất xuất hiện của khía cạnh và định hướng ngữ nghĩa qua WordNet. C. Manning et al. (2014) tạo bước nhảy vọt khi giới thiệu Stanford Sentiment Treebank kết hợp mạng Tensor nơ-ron đệ quy (Recursive Neural Tensor Network - RNTN), phân lớp sắc thái câu thành 5 mức độ từ rất tiêu cực ($--$) đến rất tích cực ($++$). Sau đó, Wu et al. (2016) và Dhanush et al. (2016) phát triển các kiến trúc tích chập (CNN) và mạng nơ-ron hồi quy (RNN/LSTM) để trích xuất khía cạnh và gán nhãn cảm xúc tự động. Về mặt bản thể luận, Nguyen et al. (2014) đề xuất cấu trúc Ontology cảm xúc công nghiệp tích hợp các quan hệ phân loại (taxonomic) và phi phân loại (non-taxonomic), trong khi Cambria et al. (2014) phát triển mạng ngữ nghĩa OntoSenticNet với hơn 100.000 khái niệm.

Khi đối sánh các công trình quốc tế giao thoa giữa hai bài toán, tồn tại những tranh luận học thuật sâu sắc:

1. Trường phái Học máy có giám sát đặc trưng thủ công vs. Trường phái Hướng tri thức sâu: Ding et al. (2010) tiên phong đề xuất bài toán đồng tham chiếu đối tượng và khía cạnh bằng việc bổ sung đặc trưng đồng nhất quan điểm (sentiment consistency) và độ tương quan thông tin tương hỗ từng điểm (Pointwise Mutual Information - PMI). Tuy nhiên, phương pháp của Ding et al. đòi hỏi gán nhãn thủ công toàn bộ và chỉ xử lý được các câu so sánh riêng lẻ, không tạo ra được bộ ba hoàn chỉnh. Đến năm 2020, J. Chen et al. đề xuất mô hình OAC2 (Knowledge-driven Object and Aspect Coreference Resolution) khắc phục tính cục bộ bằng cách kết hợp cơ sở tri thức mở OMCS (62.730 bộ ba) và SenticNet (50.000 khái niệm) với mạng 8 tầng nơ-ron xếp chồng. Dù vậy, OAC2 vẫn bộc lộ hạn chế: BERT được dùng dưới dạng tổng quát không tương thích hoàn toàn với miền chuyên biệt, độ chính xác F1-score chỉ đạt từ 71% đến 73%, và hoàn toàn bỏ quên khía cạnh ẩn.
2. Xác định khía cạnh ẩn: Phân cụm/Khoảng cách thống kê vs. Mô hình Tri thức phân tầng: Su et al. (2008) và Bagheri et al. (2013) sử dụng giải thuật phân cụm đồng xuất hiện và đồ thị liên kết ngữ nghĩa; Rana et al. (2020) áp dụng khoảng cách Normalized Google Distance (NGD) đa tầng. Tuy nhiên, Rana et al. gặp lỗi nghiêm trọng khi thay thế trực tiếp đại từ "it" bằng danh từ chung mà không giải quyết chuỗi anaphora, dẫn đến sai lệch ngữ nghĩa khi phân tích các câu như: "I like the size. It is small and light."

Luận án định vị vững chắc tại điểm giao thoa: không chỉ giải quyết liên kết đối tượng - khía cạnh đơn thuần như Zhao et al. (2015) hay Chen et al. (2020), mà xây dựng một hệ thống hoàn chỉnh trích xuất cấu trúc ngữ nghĩa 3 chiều [Đối tượng - Khía cạnh - Cảm xúc] (Object - Aspect - Sentiment), xử lý từ văn bản đơn đối tượng đến đa đối tượng phức tạp thông qua mô hình lai (Hybrid Symbolic-Connectionist Paradigm).

Đóng góp lý thuyết và khung phân tích

                        KIẾN TRÚC ONTOLOGY CẢM XÚC (SO)
                        
                                 Thing (Gốc)
                                      │
        ┌─────────────────────────────┼─────────────────────────────┐
        ▼                             ▼                             ▼
┌──────────────┐              ┌──────────────┐              ┌──────────────┐
│    Object    │              │    Aspect    │              │  Sentiment   │
│  (Đối tượng) │              │  (Khía cạnh) │              │  (Cảm xúc)   │
└───────┬──────┘              └───────┬──────┘              └───────┬──────┘
        │                             │                             │
  ┌─────┴─────┐                 ┌─────┼─────┐                 ┌─────┼─────┐
  ▼           ▼                 ▼     ▼     ▼                 ▼     ▼     ▼
Samsung    iPhone            Device Attrib. App.           Positive Neg. Neutral
(Note7...) (iPhone7...)     (Pin...) (Giá..) (OS...)       (good..) (bad) (norm.)

Đóng góp cho lý thuyết

Luận án đã mở rộng đáng kể lý thuyết Khai phá quan điểm (Opinion Mining Theory) của Bing Liu bằng việc chính thức chuẩn hóa bài toán trích xuất bộ ba có cấu trúc đa thực thể. Những đóng góp lý thuyết cốt lõi gồm:

• Tái cấu trúc Bản thể luận Cảm xúc (Sentiment Ontology - SO): Khắc phục nhược điểm trong mô hình của Nguyen et al. (2014) – vốn gộp chung đối tượng và nhà sản xuất vào lớp khía cạnh (Aspect) – luận án đề xuất một cấu trúc bản thể luận mới với 3 lớp khái niệm ngang hàng độc lập: Object, Aspect và Sentiment. Lớp Aspect được phân rã khoa học thành 3 nhánh con rõ ràng: Thiết bị/Thành phần (Device), Thuộc tính/Tính chất (Attribute), và Ứng dụng/Phần mềm (Application).
• Hình thức hóa Đồ thị đồng tham chiếu (CoReference Graph - CRG): Xây dựng cấu trúc toán học biểu diễn đồ thị có hướng và có trọng số $G = (V, E, W)$, trong đó tập đỉnh $V$ là các thực thể, đại từ và từ cảm xúc; tập cạnh $E$ thể hiện các mối quan hệ văn phạm phụ thuộc và quan hệ bản thể; hàm trọng số $W: E \rightarrow \mathbb{R}^+$ phản ánh khoảng cách ngữ nghĩa giữa các lớp trong SO.
• Mô hình hóa lý thuyết ánh xạ Vector ngữ cảnh đa chiều: Đưa ra mệnh đề lý thuyết chứng minh rằng không gian vector ngữ cảnh hai chiều sinh ra từ các mô hình ngôn ngữ lớn (như BERT) chứa đựng đầy đủ tín hiệu phân tách thực thể khi được tinh chỉnh (fine-tuned) trên các cặp quan hệ cú pháp cục bộ, cho phép giải quyết triệt để sự tranh chấp đối tượng trong các câu so sánh.

Khung phân tích độc đáo

Khung phân tích của luận án kết hợp hài hòa giữa tiếp cận dựa trên tri thức (Knowledge-based approach) và tiếp cận học sâu hướng dữ liệu (Data-driven Deep Learning):

1. Cơ chế nhận diện thành phần RECOAS & OBASCore: Tích hợp phân tích cú pháp phụ thuộc (Dependency Parsing) với phân giải anaphora để lọc các ứng viên thực thể, sau đó ánh xạ vào SO để thiết lập các nút và cạnh ban đầu của đồ thị CRG.
2. Kỹ thuật phân tầng trọng số IAI (Implicit Aspect Identification): Thiết lập không gian phân lớp khía cạnh ẩn thông qua mạng nơ-ron 2 tầng ẩn, sử dụng quy trình tinh chỉnh trọng số 3 giai đoạn: trọng số tổng quát $W_1$ từ toàn bộ kho ngữ liệu Corpus12, trọng số trung gian $W_{2s}$ theo từng từ cảm xúc cụ thể, và trọng số tối ưu $W_{3s}$ tương ứng với các thuộc tính thuộc lớp Attribute của SO.
3. Mô hình làm giàu bản thể ESO (Enriched Sentiment Ontology): Vận dụng độ tương tự ngữ nghĩa giữa các từ ($SSW$) qua khoảng cách đường đi ngắn nhất trên đồ thị phân cấp WordNet kết hợp luật gán nhãn phân cực từ Opinion Lexicon (OL) để tự động bổ sung cá thể ($A\text{-Box}$) mà vẫn bảo toàn cấu trúc phân loại ($T\text{-Box}$).
4. Boundary Conditions (Điều kiện biên): Khung phân tích được xác lập chặt chẽ trên miền ngôn ngữ tiếng Anh, dựa trên tiền giả định về tính khả dụng của cây phân tích cú pháp Stanford Parser và tính đầy đủ tương đối của từ điển cảm xúc nền tảng.

Phương pháp nghiên cứu tiên tiến

             QUY TRÌNH HUẤN LUYỆN VÀ PHÂN LỚP ĐA ĐỐI TƯỢNG (CROAS)
             
 ┌────────────────────────────────────────────────────────────────────────┐
 │ 1. Giai đoạn Tiền huấn luyện (Pre-training Contextual Embeddings)     │
 │    Kho ngữ liệu Corpus12 (389.103 texts) ──► BERT Masked LM & NSP      │
 │    ──► Thiết lập Vector ngữ cảnh hóa 2 chiều (ECW)                     │
 └───────────────────────────────────┬────────────────────────────────────┘
                                     │
                                     ▼
 ┌────────────────────────────────────────────────────────────────────────┐
 │ 2. Giai đoạn Huấn luyện Phân lớp Cặp quan hệ (Training Module)        │
 │    Kho ngữ liệu đơn đối tượng Corpus1 ──► Lọc mẫu [Obj-Asp] & [Obj-Sen]│
 │    ──► Mạng nơ-ron ANN (Hàm kích hoạt Tanh & Thuật toán lan truyền     │
 │        ngược Backpropagation) ──► Xác định ma trận trọng số W          │
 └───────────────────────────────────┬────────────────────────────────────┘
                                     │
                                     ▼
 ┌────────────────────────────────────────────────────────────────────────┐
 │ 3. Giai đoạn Phân giải Đa đối tượng (Testing Module on Corpus2)        │
 │    Văn bản chứa ≥ 2 đối tượng ──► Trích xuất thực thể qua SO & Parse   │
 │    ──► Tính toán khoảng cách vector ngữ cảnh & Phân lớp liên kết       │
 │    ──► Dựng đồ thị CRG ──► Duyệt cây đồ thị ──► Bộ ba [Obj-Asp-Sen]    │
 └────────────────────────────────────────────────────────────────────────┘

Thiết kế nghiên cứu

Luận án tuân thủ thế giới quan thực chứng (Positivism Paradigm) với thiết kế thực nghiệm định lượng chuẩn mực cao trong ngành Khoa học Máy tính. Nghiên cứu triển khai mô hình đa cấp (Multi-level Design) xử lý hai kịch bản văn bản riêng biệt:

• Kịch bản 1 (OCR1Obj): Áp dụng cho văn bản đơn đối tượng ($Obj = 1$), trong đó mọi khía cạnh và từ cảm xúc quy ước thuộc về thực thể duy nhất được định danh. Trọng tâm thiết kế là phát hiện khía cạnh ẩn (IAI) và xây dựng đồ thị đồng tham chiếu cục bộ OBASCore.
• Kịch bản 2 (OCR2Obj / CROAS): Áp dụng cho văn bản đa đối tượng ($Obj \ge 2$), nơi xảy ra sự cạnh tranh gay gắt giữa các thực thể đối với các thuộc tính và nhận xét. Thiết kế sử dụng mạng nơ-ron sâu học biểu diễn ngữ cảnh từ dữ liệu đơn đối tượng để suy luận sang dữ liệu đa đối tượng.

Quy trình nghiên cứu rigorous

Quy trình thực nghiệm được chuẩn hóa qua 4 pha liên hoàn:

1. Thu thập và Tiền xử lý dữ liệu:
   • Kho dữ liệu Corpus12 gồm 389.103 văn bản bình luận smartphone tiếng Anh trích xuất từ Amazon và YouNetMedia. Dữ liệu được làm sạch, tách câu, gán nhãn từ loại (POS Tagging), và phân tích cú pháp phụ thuộc (Dependency Parsing) thông qua bộ công cụ Stanford CoreNLP.
   • Trích xuất dữ liệu cho mô hình xác định khía cạnh ẩn IAI gồm 69.905 mẫu, phân chia ngặt nghèo thành tập huấn luyện (Training Set) gồm 64.374 mẫu và tập thử nghiệm (Test Set) gồm 5.598 mẫu.
2. Quy trình Huấn luyện Mô hình IAI:
   • Huấn luyện mạng Perceptron đa tầng (MLP) gồm 2 tầng ẩn. Khởi tạo véc-tơ trọng số $w$ ngẫu nhiên gần 0.
   • Lan truyền tiến tính toán giá trị kích hoạt qua hàm $\text{Tanh}(x) = \frac{e^x - e^{-x}}{e^x + e^{-x}}$ hoặc $\text{Sigmoid}$.
   • Tối ưu hóa hàm lỗi bằng phương pháp suy giảm độ dốc (Gradient Descent) kết hợp thuật toán lan truyền ngược (Backpropagation).
3. Quy trình Làm giàu Ontology ESO:
   • Thử nghiệm trên 614 câu văn bản cảm xúc chứa các thực thể và tính từ chưa có trong SO ban đầu.
   • Tính toán độ đo tương tự ngữ nghĩa $SSW(w_1, w_2)$ trên cây phân cấp WordNet: $$SSW(w_1, w_2) = \frac{2 \cdot \text{depth}(\text{LCS}(w_1, w_2))}{\text{depth}(w_1) + \text{depth}(w_2)}$$ (trong đó $\text{LCS}$ là nút tổ tiên chung thấp nhất - Lowest Common Subsumer).
   • Xác định cực trị cảm xúc thông qua bộ từ vựng Opinion Lexicon (OL) và quan hệ văn phạm compound, amod, nsubj.
4. Quy trình Huấn luyện và Kiểm thử Mô hình CROAS:
   • Tiền huấn luyện mô hình ngôn ngữ BERT trên 300.000 bước (steps) và 500.000 bước nhằm tối ưu hóa biểu diễn ngữ cảnh hai chiều Masked Language Model (MLM) và Next Sentence Prediction (NSP).
   • Tách kho ngữ liệu thành Corpus1 (chỉ chứa 1 đối tượng) để huấn luyện bộ trọng số liên kết cặp $[Obj - Asp]$ và $[Obj - Sen]$, sau đó đưa vào kiểm thử trên tập Corpus2 (chứa $\ge 2$ đối tượng) với mẫu kiểm định độc lập gồm 1.000 văn bản bình luận chuyên sâu.

Phát hiện đột phá và implications

                   SO SÁNH ĐỘ CHÍNH XÁC CÁC MÔ HÌNH
  100% ┌────────────────────────────────────────────────────────┐
       │                                                        │
   80% │                    82.0%                        81.4%  │
       │                   ┌─────┐                      ┌─────┐ │
   60% │     58.3%         │     │        68.5%         │     │ │
       │    ┌─────┐        │     │       ┌─────┐        │     │ │
   40% │    │     │        │     │       │     │        │     │ │
       │    │     │        │     │       │     │        │     │ │
   20% │    │     │        │     │       │     │        │     │ │
       │    │     │        │     │       │     │        │     │ │
    0% └────┴─────┴────────┴─────┴───────┴─────┴────────┴─────┴─┘
             ML-KB*          IAI          OAC2          CROAS
           (Baseline)    (Luận án)     (Baseline)     (Luận án)
           [Ẩn Aspect]   [Ẩn Aspect]   [Đa đối tượng] [Đa đối tượng]

Những phát hiện then chốt

1. Đột phá trong trích xuất khía cạnh ẩn (Finding 1): Mô hình IAI với kỹ thuật tinh chỉnh trọng số đa tầng ($W_1 \rightarrow W_{2s} \rightarrow W_{3s}$) đạt độ chính xác 0,82 (82,0%) trên tập thử nghiệm 5.598 mẫu. Khi so sánh trực tiếp trên tập 110 văn bản kiểm thử độc lập (Documents), IAI đạt độ chính xác vượt trội so với phương pháp baseline ML-KB* (vốn chỉ đạt mức 58,3%), minh chứng khả năng nắm bắt ngữ nghĩa tinh vi của các tính từ cảm xúc như "expensive" $\rightarrow$ [Price], "beautiful" $\rightarrow$ [Design], "durable" $\rightarrow$ [Battery].
2. Hiệu năng vượt bậc của cơ chế làm giàu tự động ESO (Finding 2): Trên tập thực nghiệm 614 câu, mô hình ESO đã làm giàu chính xác hàng trăm cá thể mới cho các lớp Device, Attribute và Sentiment mà không làm suy giảm độ chính xác của bản thể luận. Tỷ lệ khớp ngữ nghĩa của các quan hệ trích xuất đạt trên 85%, giúp đồ thị CRG giảm thiểu tới 42% số lượng nút cô lập (isolated nodes).
3. Giải quyết triệt để tranh chấp thực thể trong phân giải đa đối tượng (Finding 3): Mô hình CROAS thiết lập kỷ lục hiệu năng mới khi thực nghiệm trên 1.000 văn bản bình luận smartphone chứa từ hai đối tượng trở lên. Tại mốc 500.000 bước tiền huấn luyện vector ngữ cảnh BERT, khoảng cách Euclid trung bình giữa các vector quan hệ hội tụ tối ưu, đưa độ chính xác phân lớp cặp $[Obj - Asp]$ và $[Obj - Sen]$ đạt trên 81,4%, vượt xa mô hình baseline OAC2 của J. Chen et al. (2020) (đạt 71% - 73% F1-score) và mô hình học máy của Ding et al. (2010) (đạt ~70%).
4. Bằng chứng thực nghiệm về việc loại bỏ phụ thuộc vào gán nhãn thủ công (Finding 4): Luận án chứng minh rằng việc tận dụng cấu trúc bộ ba hoàn chỉnh từ kho ngữ liệu đơn đối tượng ($Corpus1$) kết hợp không gian nhúng ngữ cảnh hóa hai chiều hoàn toàn đủ năng lực giám sát gián tiếp (distant/implicit supervision) để giải bài toán đa đối tượng ($Corpus2$), tiết kiệm hàng ngàn giờ gán nhãn chuyên gia.

Implications đa chiều

• Ý nghĩa Lý luận: Định hình một mô thức nghiên cứu mới (Research Paradigm) kết hợp giữa Trí tuệ nhân tạo Tượng trưng (Symbolic AI - Bản thể luận, Ngữ pháp cú pháp, Đồ thị) và Trí tuệ nhân tạo Phi tượng trưng (Sub-symbolic AI - Học sâu, Transformers). Mô thức này khắc phục nhược điểm "hộp đen" của deep learning thuần túy nhờ khả năng giải thích tường minh trên đồ thị CRG.
• Ý nghĩa Phương pháp luận: Quy trình phân tầng trọng số (IAI) và kỹ thuật học chuyển dịch từ ngữ liệu đơn đối tượng sang đa đối tượng mở ra phương pháp luận thực nghiệm chuẩn tắc có thể tái lập trên nhiều ngôn ngữ và nhiều tác vụ NLP phức tạp khác.
• Ý nghĩa Thực tiễn: Cung cấp giải pháp công nghệ lõi cho các tập đoàn thương mại điện tử và các công ty phân tích dữ liệu mạng xã hội (như YouNetMedia). Hệ thống có thể tự động quét hàng triệu bình luận, bóc tách chính xác ma trận so sánh sản phẩm theo thời gian thực (ví dụ: so sánh chi tiết pin, màn hình, giá, camera giữa iPhone 7 và Samsung Note 7 từ phản hồi thực tế của người dùng).
• Ý nghĩa Chính sách & Quản trị: Hỗ trợ các cơ quan bảo vệ quyền lợi người tiêu dùng và các nhà hoạch định chính sách thị trường tự động giám sát chất lượng sản phẩm, phát hiện sớm các sự cố kỹ thuật hoặc gian lận thương mại thông qua phân tích luồng dư luận có cấu trúc.

Limitations và Future Research

Mặc dù đạt được những kết quả đột phá, luận án duy trì thái độ học thuật khách quan khi thẳng thắn chỉ ra các giới hạn nghiên cứu:

1. Rào cản ngôn ngữ và Miền tri thức: Nghiên cứu mới chỉ thực nghiệm trên văn bản cảm xúc tiếng Anh thuộc miền chuyên biệt điện thoại thông minh (smartphone). Khả năng tổng quát hóa sang các ngôn ngữ đơn lập, giàu ngữ cảnh và thiếu tài nguyên như tiếng Việt vẫn cần được kiểm chứng.
2. Sự phụ thuộc vào chất lượng Cú pháp phụ thuộc: Độ chính xác của việc xây dựng các nút ban đầu trên đồ thị CRG phụ thuộc đáng kể vào kết quả phân tích cú pháp của Stanford CoreNLP. Khi gặp các câu văn chứa lỗi chính tả, ngữ pháp bất quy tắc hoặc tiếng lóng trên mạng xã hội, hiệu năng mô hình có dấu hiệu suy giảm.
3. Hiện tượng Ngôn ngữ phi tường nghĩa (Sarcasm & Irony): Hệ thống chưa tích hợp mô-đun phát hiện châm biếm/mỉa mai. Trong các trường hợp người dùng sử dụng từ ngữ tích cực mang hàm ý chê bai sâu cay, cực trị cảm xúc gán cho khía cạnh có thể bị phân loại sai lệch.
4. Độ phức tạp tính toán trên Đồ thị quy mô lớn: Khi văn bản có dung lượng quá dài với hàng chục đối tượng đan xen, không gian trạng thái của đồ thị CRG tăng nhanh, đòi hỏi thuật toán cắt tỉa đồ thị (Graph Pruning) tối ưu hơn để duy trì thời gian đáp ứng thời gian thực.

Chương trình nghiên cứu tương lai (Future Research Agenda):

• Mở rộng mô hình sang xử lý đa ngữ (Cross-lingual Transfer Learning), đặc biệt là tiếng Việt, kết hợp xây dựng Ontology tiếng Việt chuyên sâu cho thương mại điện tử.
• Ứng dụng các kiến trúc Mô hình Ngôn ngữ Lớn thế hệ mới (LLMs) trong việc tự động khởi tạo và tiến hóa Ontology zero-shot.
• Tích hợp mô-đun nhận diện sắc thái châm biếm, mỉa mai và phân tích cảm xúc đa phương thức (Multimodal Aspect-Based Sentiment Analysis kết hợp văn bản và hình ảnh đánh giá).
• Phát triển giải thuật tối ưu hóa đồ thị thời gian thực ứng dụng trong các hệ thống Streaming Big Data.

Tác động và ảnh hưởng

                                  MA TRẬN TÁC ĐỘNG
                                  
  HỌC THUẬT (ACADEMIC)                   CÔNG NGHIỆP (INDUSTRY)
  • Thiết lập chuẩn mực nghiên cứu mới   • Tích hợp vào hệ thống Social Listening
    cho bài toán Triplet Extraction        (YouNetMedia, Brand24)
  • Cung cấp cơ sở lý thuyết kết hợp    • Nâng cấp công cụ phân tích đối thủ cạnh
    Symbolic & Connectionist AI            tranh trên E-commerce (Amazon, Shopee)
                 │                                      │
                 └──────────────────┬───────────────────┘
                                    │
                                    ▼
  CHÍNH SÁCH (POLICY)                    XÃ HỘI (SOCIETAL)
  • Công cụ giám sát chất lượng sản      • Minh bạch hóa thông tin đánh giá
    phẩm bảo vệ người tiêu dùng            tránh bẫy "đánh giá ảo" (fake reviews)
  • Cung cấp chỉ số niềm tin thị trường  • Hỗ trợ người dùng ra quyết định mua sắm
    dựa trên dữ liệu lớn khách quan        tối ưu và tiết kiệm thời gian

• Tác động Học thuật: Công trình đóng góp 4 bài báo khoa học chất lượng cao được công bố trên các kỷ yếu hội nghị quốc tế và tạp chí chuyên ngành uy tín. Tạo tiền đề cho các nhóm nghiên cứu NLP phát triển sâu hơn về đồ thị tri thức cảm xúc (Sentiment Knowledge Graph).
• Chuyển dịch Công nghiệp: Ứng dụng trực tiếp vào các nền tảng phân tích thị trường. Các doanh nghiệp Social Listening có thể chuyển đổi báo cáo từ dạng định tính đơn giản sang dạng dashboard phân tích tương quan đa chiều giữa các thuộc tính sản phẩm của các thương hiệu đối thủ.
• Lợi ích Xã hội: Nâng cao trải nghiệm mua sắm của hàng triệu người tiêu dùng trực tuyến thông qua các công cụ tóm tắt đánh giá thông minh, giúp người mua nhìn thấu các ưu/nhược điểm thực sự của sản phẩm thay vì bị bão hòa bởi hàng ngàn bình luận rải rác.

Đối tượng hưởng lợi

• Nghiên cứu sinh & Nhà khoa học NLP: Tiếp cận một khung phương pháp luận kết hợp tri thức bản thể và học sâu hoàn chỉnh, cùng bộ tài nguyên tham khảo chi tiết về phân giải đồng tham chiếu đối tượng.
• Kỹ sư AI & Chuyên gia R&D Công nghệ: Nhận được bản thiết kế kiến trúc hệ thống rõ ràng (System Architecture) gồm các mô-đun khả thi cao (PARSE, RECOAS, IAI, ESO, CROAS, CRG) có thể lập trình triển khai ngay vào sản phẩm thương mại.
• Doanh nghiệp Thương mại điện tử & Phân tích thị trường: Sở hữu công nghệ tự động hóa khâu khai phá dữ liệu phản hồi khách hàng, tối ưu hóa chiến lược định giá, cải tiến tính năng sản phẩm và quản trị thương hiệu.
• Cơ quan Quản lý Thị trường & Người tiêu dùng: Được hỗ trợ bởi công cụ giám sát dư luận thị trường minh bạch, bảo vệ quyền lợi tiêu dùng trên không gian số.

Câu hỏi chuyên sâu

1. Đóng góp lý thuyết độc đáo nhất của luận án là gì và đã mở rộng lý thuyết nền tảng nào?

Trả lời: Đóng góp lý thuyết độc đáo nhất là việc mở rộng Lý thuyết Khai phá quan điểm (Opinion Mining Theory) của Bing Liu (2012) và tái cấu trúc Lý thuyết Bản thể luận Cảm xúc của Nguyen et al. (2014). Luận án đã hình thức hóa toán học cấu trúc bộ ba quan hệ [Đối tượng - Khía cạnh - Cảm xúc] thông qua Đồ thị đồng tham chiếu có hướng và có trọng số ($CRG$), tách biệt triệt để 3 lớp bản thể Object, Aspect, Sentiment, giải quyết được bài toán gán nhãn sai lệch cảm xúc trong các văn bản đa thực thể mà các lý thuyết trước đây chưa mô hình hóa được.

2. Tính đổi mới trong phương pháp luận nghiên cứu khi so sánh với ít nhất 2 công trình quốc tế tiền nhiệm?

Trả lời:

• So với Ding et al. (2010): Công trình của Ding sử dụng học máy có giám sát với các đặc trưng thủ công (PMI, khoảng cách câu) chỉ giải quyết được các câu so sánh riêng lẻ và đòi hỏi gán nhãn thủ công toàn bộ. Luận án đổi mới bằng cách tự động hóa hoàn toàn việc học biểu diễn ngữ cảnh thông qua BERT và chuyển giao tri thức từ kho ngữ liệu đơn đối tượng sang đa đối tượng.
• So với J. Chen et al. (2020 - OAC2): Mô hình OAC2 sử dụng tri thức mở tổng quát (OMCS, SenticNet) và mạng nơ-ron xếp chồng phức tạp nhưng BERT không được tối ưu theo miền, dẫn đến F1-score chỉ đạt 71% - 73% và bỏ sót khía cạnh ẩn. Luận án khắc phục triệt để bằng cách thiết kế Ontology miền chuyên biệt (SO), tích hợp mô-đun khía cạnh ẩn IAI (đạt độ chính xác 82,0%) và thuật toán duyệt đồ thị CRG, nâng cao độ chính xác phân giải cặp lên 81,4%.

3. Phát hiện thực nghiệm nào gây bất ngờ nhất và bằng chứng dữ liệu hỗ trợ?

Trả lời: Phát hiện bất ngờ nhất là: Mô hình được huấn luyện hoàn toàn trên kho ngữ liệu chỉ chứa một đối tượng ($Corpus1$) lại có khả năng phân lớp chính xác quan hệ đồng tham chiếu trên kho ngữ liệu đa đối tượng phức tạp ($Corpus2$) với độ chính xác đạt trên 81,4%. Bằng chứng dữ liệu thực nghiệm tại Chương 5 chỉ ra rằng, sau 500.000 bước tiền huấn luyện vector ngữ cảnh BERT, khoảng cách Euclid giữa các cặp liên kết thực thể - thuộc tính hội tụ rõ rệt, cho phép phân tách rành mạch các liên kết chéo mà không cần bất kỳ mẫu gán nhãn thủ công đa đối tượng nào trong giai đoạn huấn luyện.

4. Luận án có cung cấp quy trình tái lập thực nghiệm (Replication Protocol) hoàn chỉnh không?

Trả lời: Luận án cung cấp quy trình tái lập thực nghiệm vô cùng chi tiết và minh bạch, bao gồm:

• Định dạng dữ liệu và nguồn gốc kho ngữ liệu: 389.103 văn bản smartphone từ Amazon và YouNetMedia.
• Các siêu tham số mạng nơ-ron: Cấu hình 2 tầng ẩn, hàm kích hoạt Tanh, tỷ lệ phân chia tập huấn luyện/kiểm thử (64.374 / 5.598 mẫu cho IAI).
• Các mốc bước lặp tiền huấn luyện: 300.000 steps và 500.000 steps với BERT, các ngưỡng đo tương tự ngữ nghĩa $SSW$ trên WordNet và luật kết hợp Opinion Lexicon. Toàn bộ kiến trúc và giải thuật từng mô-đun đều được sơ đồ hóa chi tiết trong luận án.

5. Chương trình nghị sự nghiên cứu 10 năm (10-year Research Agenda) được định hình như thế nào?

Trả lời: Luận án vạch ra lộ trình nghiên cứu dài hạn gồm 4 trụ cột:

1. Giai đoạn 1-3 năm: Mở rộng hệ thống sang mô hình đa ngữ (Multilingual/Cross-lingual), trọng tâm là tiếng Việt với việc chuẩn hóa Bản thể luận Cảm xúc cho thị trường nội địa.
2. Giai đoạn 3-5 năm: Tích hợp Mô hình Ngôn ngữ Lớn (LLMs) để tự động hóa tiến hóa Ontology thích ứng động (Dynamic Ontology Evolution) theo thời gian thực mà không cần can thiệp thủ công.
3. Giai đoạn 5-7 năm: Phát triển mô hình phân tích cảm xúc khía cạnh đa phương thức (Multimodal ABSA), kết hợp phân giải đồng tham chiếu trên văn bản, giọng nói và hình ảnh sản phẩm.
4. Giai đoạn 7-10 năm: Xây dựng hệ sinh thái Trí tuệ Nhân tạo Phân tích Thị trường Tự trị (Autonomous Market Intelligence AI), tự động tổng hợp báo cáo chiến lược kinh doanh và dự báo xu hướng tiêu dùng từ Big Data xã hội.

Kết luận

Luận án tiến sĩ của tác giả Lê Thị Thủy đã hoàn thành xuất sắc mục tiêu đề ra, tạo nên dấu ấn học thuật mạnh mẽ trong lĩnh vực Xử lý Ngôn ngữ Tự nhiên và Khai phá Ý kiến. Tóm lược 5 đóng góp mang tính nền tảng của công trình:

                      5 ĐÓNG GÓP BẢN LỀ CỦA CÔNG TRÌNH
                      
  ┌────────────────────────────────────────────────────────────────────────┐
  │ 1. Xây dựng Bản thể luận Cảm xúc (SO) 3 lớp & Đồ thị CRG có trọng số   │
  ├────────────────────────────────────────────────────────────────────────┤
  │ 2. Phát triển Mô hình phân giải đồng tham chiếu đơn đối tượng (OCR1Obj)│
  ├────────────────────────────────────────────────────────────────────────┤
  │ 3. Đề xuất Cơ chế làm giàu Bản thể luận tự động hướng cá thể (ESO)     │
  ├────────────────────────────────────────────────────────────────────────┤
  │ 4. Thiết kế Kiến trúc mạng nơ-ron phân tầng giải khía cạnh ẩn (IAI)    │
  ├────────────────────────────────────────────────────────────────────────┤
  │ 5. Sáng tạo Mô hình phân giải đa đối tượng ngữ cảnh hóa sâu (CROAS)    │
  └────────────────────────────────────────────────────────────────────────┘

1. Xây dựng thành công hệ tri thức tích hợp: Đề xuất kiến trúc Bản thể luận Cảm xúc (SO) 3 lớp (Object, Aspect, Sentiment) và Đồ thị đồng tham chiếu có hướng, có trọng số ($CRG$), tạo nền tảng biểu diễn tri thức tường minh cho toàn bộ hệ thống.
2. Mô hình hóa hoàn chỉnh bài toán đơn đối tượng: Xây dựng mô-đun OBASCore kết nối anaphora và phân tích cảm xúc mức khía cạnh trên đồ thị CRG, trích xuất chính xác các bộ ba $[Obj - Asp - Sen]$ cho văn bản $Obj = 1$.
3. Đột phá trong tự động làm giàu tri thức: Phát triển mô hình ESO kết hợp WordNet, Opinion Lexicon và độ đo $SSW$, mở rộng hiệu quả cơ sở tri thức A-Box mà không phá vỡ cấu trúc phân tầng T-Box.
4. Giải quyết triệt để bài toán khía cạnh ẩn: Đề xuất mô hình IAI với kỹ thuật tinh chỉnh trọng số 3 giai đoạn ($W_1 \rightarrow W_{2s} \rightarrow W_{3s}$), đạt độ chính xác ấn tượng 82,0% trên 69.905 mẫu dữ liệu thực tế.
5. Tiên phong giải quyết bài toán đa đối tượng phức tạp: Xây dựng mô hình CROAS ứng dụng nhúng ngữ cảnh hai chiều BERT và mạng nơ-ron sâu, đạt độ chính xác phân giải trên 81,4% trên 1.000 văn bản kiểm thử đa thực thể mà không cần gán nhãn thủ công tốn kém.

Công trình không chỉ xác lập một chuẩn mực học thuật mới trong việc kết hợp giữa AI Tượng trưng (Symbolic) và AI Học sâu (Connectionist), mà còn mở ra những hướng nghiên cứu ứng dụng vô cùng rộng lớn, đóng góp thiết thực vào sự phát triển của ngành Khoa học Máy tính Việt Nam và quốc tế.