Nghiên cứu cải tiến một số phương pháp phân tích quan điểm mức khía cạnh dựa trê
Nghiên cứu cải tiến phương pháp phân tích quan điểm dựa trên học sâu và học máy. Đề xuất mô hình hiệu quả hơn 12% so baseline.
Luan An
luận án
Năm xuất bản
Số trang
126
Thời gian đọc
19 phút
Lượt xem
1
Lượt tải
0
Phí lưu trữ
40 Point
Tổng quan nhanh
- Chủ đề:
- 1. Tổng quan phân tích quan điểm và bài toán khía cạnh
- Số trang:
- 126 trang
- Trường:
- Học viện Khoa học và Công nghệ
- Chuyên ngành:
- Công nghệ thông tin
- Tác giả:
- Nguyễn Thị Ngọc Tú
- Năm:
- 2023
Tóm tắt nội dung luận án
I. Tổng quan phân tích quan điểm và bài toán khía cạnh
Phân tích quan điểm đóng vai trò then chốt trong lĩnh vực xử lý ngôn ngữ tự nhiên hiện đại. Hệ thống phân tích quan điểm giúp khai phá dữ liệu đánh giá từ văn bản số. Nhiệm vụ cốt lõi tập trung vào việc xác định thái độ, cảm xúc và ý kiến của người dùng. Quá trình khai phá ý kiến phân chia theo ba mức độ chính gồm mức tài liệu, mức câu và mức khía cạnh. Mức khía cạnh mang lại độ chi tiết cao nhất cho việc đánh giá. Người dùng thường quan tâm đến từng đặc tính riêng biệt của sản phẩm hoặc dịch vụ. Hệ thống nhận diện các thực thể mục tiêu cùng thái độ tương ứng. Việc kết hợp thuật toán học máy giúp tự động hóa quy trình xử lý thông tin. Các giải pháp truyền thống dựa trên từ điển cảm xúc bộc lộ nhiều hạn chế về độ phủ ngữ nghĩa. Kỹ thuật học máy hiện đại giúp nâng cao độ chính xác khi phân loại văn bản phức tạp. Phân tích ý kiến mức khía cạnh giải quyết triệt để sự pha trộn cảm xúc trái chiều trong cùng một câu văn.
1.1. Khái niệm cơ bản về sentiment analysis và opinion mining
Sentiment analysis và opinion mining là hai thuật ngữ đại diện cho bài toán khai phá cảm xúc từ văn bản. Quá trình này chuyển đổi dữ liệu phi cấu trúc thành thông tin có cấu trúc rõ ràng. Mục tiêu chính là trích xuất bộ năm thành phần gồm thực thể, khía cạnh, cảm xúc, chủ thể và thời điểm. Cảm xúc thường được gán nhãn tích cực, tiêu cực hoặc trung tính. Lĩnh vực xử lý ngôn ngữ tự nhiên cung cấp nhiều công cụ tiền xử lý hiệu quả. Dữ liệu văn bản được tách từ, chuẩn hóa và loại bỏ nhiễu trước khi đưa vào mô hình học máy. Các doanh nghiệp áp dụng giải pháp này để theo dõi phản hồi thị trường và danh tiếng thương hiệu. Khách hàng sử dụng kết quả đánh giá để đưa ra quyết định mua sắm sáng suốt. Việc phân tích tự động giúp tiết kiệm chi phí nhân lực và thời gian xử lý dữ liệu lớn. Khả năng khái quát hóa của mô hình quyết định chất lượng khai phá tri thức.
1.2. Các cấp độ xử lý ngôn ngữ tự nhiên trong phân tích ý kiến
Xử lý ngôn ngữ tự nhiên phân cấp bài toán theo phạm vi ngữ cảnh văn bản. Phân tích cấp độ tài liệu đánh giá tổng thể toàn bộ đoạn văn bản dài. Phân tích cấp độ câu xác định cảm xúc của từng câu đơn lẻ. Tuy nhiên, một câu văn thường chứa nhiều ý kiến trái chiều đối với các thuộc tính khác nhau. Phân tích quan điểm mức khía cạnh ra đời nhằm khắc phục hạn chế này. Phương pháp này phân tách câu thành từng cặp khía cạnh và cảm xúc cụ thể. Ví dụ, một bài đánh giá điện thoại có thể khen pin bền nhưng chê màn hình tối. Việc xác định đúng thực thể và thuộc tính giúp hệ thống hiểu chính xác ý định người dùng. Phương pháp tiếp cận này cung cấp góc nhìn đa chiều và sâu sắc hơn cho các hệ thống hỗ trợ ra quyết định. Độ chính xác ở cấp độ khía cạnh phụ thuộc lớn vào việc trích chọn đặc trưng ngữ nghĩa.
1.3. Phương pháp tiếp cận trích rút khía cạnh văn bản trực tuyến
Trích rút khía cạnh là bước đầu tiên và quan trọng nhất trong quy trình phân tích quan điểm mức khía cạnh. Khía cạnh trong văn bản tồn tại dưới hai dạng chính là khía cạnh rõ ràng và khía cạnh ẩn. Khía cạnh rõ ràng xuất hiện trực tiếp dưới dạng danh từ hoặc cụm danh từ trong câu. Khía cạnh ẩn không xuất hiện trực tiếp mà được suy luận qua ngữ cảnh hoặc tính từ cảm xúc. Các phương pháp truyền thống sử dụng tập luật ngữ pháp hoặc tần suất từ vựng để trích xuất. Cách tiếp cận học máy sử dụng chuỗi nhãn hoặc mô hình phân loại để nhận diện khía cạnh tự động. Kỹ thuật học không giám sát và bán giám sát giúp tận dụng nguồn dữ liệu văn bản trực tuyến khổng lồ chưa gán nhãn. Việc trích xuất chính xác khía cạnh tạo nền tảng vững chắc cho bước phân loại cảm xúc tiếp theo.
II. Phương pháp phân tích cảm xúc khía cạnh bài đánh giá
Hệ thống phân tích quan điểm trên các bài đánh giá sản phẩm trực tuyến đòi hỏi giải pháp toàn diện. Dữ liệu thương mại điện tử thường chứa nhiều từ ngữ khẩu ngữ, viết tắt và ngữ nghĩa đa dạng. Quy trình xử lý bao gồm trích rút khía cạnh, phân loại cảm xúc và ước lượng trọng số quan trọng. Phân tích cảm xúc chính xác giúp định lượng mức độ hài lòng của khách hàng đối với từng đặc tính sản phẩm. Sự kết hợp giữa các mô hình xác suất và kỹ thuật tăng cường dữ liệu mang lại hiệu quả cao. Thuật toán học máy khai thác các mẫu ngữ nghĩa lặp lại trong tập dữ liệu lớn. Hệ thống tự động phân tách bài đánh giá thành các thành phần độc lập. Kết quả phân tích được tổng hợp thành bảng điểm chi tiết cho từng sản phẩm. Doanh nghiệp có thể cải tiến chất lượng dịch vụ dựa trên các phản hồi tiêu cực cụ thể từ người tiêu dùng.
2.1. Trích rút khía cạnh bằng xác suất kết hợp Bootstrapping
Kỹ thuật Bootstrapping kết hợp xác suất có điều kiện tạo nên giải pháp trích rút khía cạnh bán giám sát hiệu quả. Thuật toán bắt đầu với một tập từ khóa hạt giống ban đầu có quy mô nhỏ. Mô hình tính toán xác suất đồng xuất hiện giữa các từ trong kho ngữ liệu lớn. Các từ ứng viên có mối liên hệ ngữ nghĩa chặt chẽ với tập hạt giống sẽ được thêm vào danh sách khía cạnh. Quá trình lặp lại liên tục giúp mở rộng tập khía cạnh mà không cần gán nhãn thủ công tốn kém. Phương pháp này giảm thiểu sự phụ thuộc vào dữ liệu gán nhãn sẵn có. Độ bao phủ của tập từ vựng khía cạnh tăng lên đáng kể sau mỗi vòng lặp. Cơ chế lọc ngưỡng xác suất loại bỏ các từ nhiễu và từ không liên quan. Kỹ thuật này đặc biệt phù hợp với các miền dữ liệu thương mại điện tử đặc thù tại Việt Nam.
2.2. Dự đoán điểm đánh giá dựa trên phân lớp Naive Bayes
Mô hình phân loại Naive Bayes được áp dụng để dự đoán cảm xúc cho từng khía cạnh đã trích xuất. Thuật toán dựa trên định lý xác suất Bayes với giả định độc lập có điều kiện giữa các đặc trưng. Mặc dù giả định đơn giản, mô hình đạt tốc độ xử lý nhanh và độ chính xác cao trên dữ liệu văn bản. Dữ liệu huấn luyện được biểu diễn dưới dạng không gian từ vựng với trọng số tần suất. Mô hình tính toán xác suất một từ cảm xúc thuộc về nhãn tích cực, tiêu cực hoặc trung tính. Điểm số cảm xúc tổng hợp của khía cạnh được suy luận từ xác suất chung của các từ bổ nghĩa xung quanh. Giải pháp này giúp hệ thống phản hồi tức thì khi xử lý luồng dữ liệu đánh giá sản phẩm trực tuyến theo thời gian thực.
2.3. Ước lượng trọng số khía cạnh theo tần suất toàn kho ngữ liệu
Mỗi khía cạnh của sản phẩm đóng góp mức độ quan trọng khác nhau vào quyết định mua hàng của người tiêu dùng. Việc ước lượng trọng số khía cạnh dựa trên tần suất xuất hiện trong bài đánh giá và toàn bộ kho dữ liệu. Khía cạnh được nhắc đến nhiều lần chứng tỏ sự quan tâm lớn từ cộng đồng người dùng. Thuật toán cân chỉnh trọng số kết hợp giữa tần suất nội bộ bài viết và tần suất nghịch đảo trong kho tài liệu. Trọng số này được nhân với điểm số cảm xúc tương ứng để tạo ra chỉ số hài lòng tổng thể. Phương pháp này phản ánh chính xác xu hướng người tiêu dùng hơn việc tính trung bình cộng đơn thuần. Kết quả giúp các nhà phát triển sản phẩm ưu tiên nâng cấp những tính năng nhận được nhiều sự chú ý nhất từ thị trường.
III. Trích rút khía cạnh dựa trên Word2Vec và học máy mở rộng
Biểu diễn từ trong không gian vector đóng vai trò nền tảng trong học máy và xử lý ngôn ngữ tự nhiên. Mô hình Word2Vec giúp nắm bắt mối quan hệ ngữ nghĩa và cú pháp giữa các từ ngữ trong văn bản. Không gian vector liên tục giải quyết triệt để vấn đề thưa dữ liệu của các mô hình túi từ truyền thống. Việc kết hợp biểu diễn Word2Vec với độ đo hỗ trợ thống kê giúp cải tiến độ chính xác của bài toán trích rút khía cạnh. Mô hình tự động nhóm các từ đồng nghĩa và từ có ngữ cảnh tương đồng vào cùng một cụm khía cạnh. Kỹ thuật này giảm thiểu việc bỏ sót các từ vựng mới hoặc các cách diễn đạt đa dạng của người dùng. Hệ thống đạt độ ổn định cao khi hoạt động trên các tập dữ liệu ngôn ngữ thực tế có độ nhiễu lớn.
3.1. Kỹ thuật nhúng từ và độ đo hỗ trợ trong trích chọn đặc trưng
Kỹ thuật nhúng từ Word2Vec ánh xạ mỗi từ vựng thành một vector thực nhiều chiều trong không gian ngữ nghĩa. Hai kiến trúc chính gồm CBOW và Skip-gram cho phép dự đoán ngữ cảnh hoặc dự đoán từ trung tâm. Độ tương đồng cosine giữa các vector thể hiện mức độ gần gũi về mặt ý nghĩa giữa các khái niệm. Độ đo hỗ trợ thống kê được tích hợp nhằm đánh giá mức độ tin cậy của mối quan hệ giữa từ khía cạnh và từ cảm xúc. Thuật toán thiết lập các ngưỡng lọc đặc trưng dựa trên độ đo tương hỗ và khoảng cách vector. Sự kết hợp này loại bỏ các từ xuất hiện ngẫu nhiên và giữ lại các thuộc tính sản phẩm tiêu biểu. Quá trình trích chọn đặc trưng trở nên tự động và chính xác hơn, hỗ trợ đắc lực cho phân tích quan điểm.
3.2. Tiền xử lý dữ liệu và huấn luyện không gian vector ngữ nghĩa
Giai đoạn tiền xử lý văn bản quyết định trực tiếp đến chất lượng của không gian vector ngữ nghĩa được huấn luyện. Dữ liệu thô trải qua các bước tách từ, chuẩn hóa chữ thường, xóa ký tự đặc biệt và lọc từ dừng. Đối với văn bản tiếng Việt, việc tách từ ghép chính xác đóng vai trò vô cùng quan trọng. Bộ ngữ liệu sau khi làm sạch được đưa vào huấn luyện mô hình Word2Vec với kích thước cửa sổ ngữ cảnh phù hợp. Không gian vector thu được phản ánh đầy đủ mối tương quan giữa các đặc tính sản phẩm trong miền ứng dụng. Các đặc trưng vector hóa này đóng vai trò làm đầu vào cho các thuật toán phân loại cảm xúc tiếp theo. Quá trình thực nghiệm chứng minh không gian nhúng từ giúp cải thiện rõ rệt chỉ số F1-score của toàn bộ hệ thống.
IV. Kết hợp phân loại cảm xúc đa lớp bằng thuật toán SVM
Phân lớp cảm xúc đa lớp là một thách thức lớn trong bài toán phân tích quan điểm mức khía cạnh. Ý kiến người dùng thường phân hóa thành nhiều mức độ như rất tích cực, tích cực, trung tính, tiêu cực và rất tiêu cực. Thuật toán máy vector hỗ trợ SVM nổi tiếng với khả năng phân loại mạnh mẽ trên không gian đặc trưng nhiều chiều. Việc kết hợp nhiều bộ phân loại nhị phân cơ sở tạo nên một hệ thống phân lớp đa lớp hoàn chỉnh. Phương pháp One-vs-Rest hoặc One-vs-One được áp dụng để giải quyết ranh giới quyết định phức tạp. Kết hợp các bộ phân loại giúp tối ưu hóa độ chính xác và giảm thiểu hiện tượng quá khớp dữ liệu. Giải pháp này mang lại hiệu năng vượt trội so với các thuật toán phân lớp truyền thống đơn lẻ.
4.1. Phân loại cảm xúc đa lớp dựa trên máy vector hỗ trợ
Máy vector hỗ trợ SVM tìm kiếm siêu phẳng tối ưu nhằm phân tách các lớp dữ liệu với khoảng cách lề lớn nhất. Việc sử dụng các hàm nhân kernel như RBF hoặc tuyến tính giúp ánh xạ dữ liệu sang không gian chiều cao hơn. Trong phân loại cảm xúc khía cạnh, SVM xử lý hiệu quả các vector đặc trưng kết hợp từ túi từ và nhúng từ. Hệ thống xây dựng các bộ phân loại cơ sở tương ứng với từng cặp nhãn cảm xúc đối nghịch. Ranh giới quyết định được thiết lập vững chắc, hạn chế tối đa sai số phân loại trên tập dữ liệu kiểm thử. Mô hình chứng minh độ chính xác cao trên các tập dữ liệu đánh giá sản phẩm có phân bố nhãn không đồng đều. Thuật toán này là thành phần cốt lõi trong nhiều kiến trúc phân loại văn bản kinh điển.
4.2. Chuyển đổi đầu ra SVM thành phân phối xác suất tin cậy
Đầu ra chuẩn của thuật toán SVM là khoảng cách đại số từ điểm dữ liệu đến siêu phẳng quyết định. Khoảng cách này chưa phản ánh trực tiếp mức độ tin cậy dưới dạng xác suất thống kê. Phương pháp hồi quy logistic Platt Scaling được sử dụng để chuyển đổi điểm số khoảng cách thành phân phối xác suất từ 0 đến 1. Đầu ra xác suất giúp hệ thống dễ dàng kết hợp dự đoán từ nhiều bộ phân loại cơ sở khác nhau. Kỹ thuật Noisy OR-gate hoặc trung bình có trọng số được áp dụng để tổng hợp kết quả dự đoán cuối cùng. Nhờ đó, hệ thống xác định được mức độ tin cậy của từng nhãn cảm xúc được gán cho khía cạnh. Phân phối xác suất cũng cung cấp thông tin hữu ích cho việc lọc bỏ các dự đoán không chắc chắn.
V. Ứng dụng học sâu và PhoBERT trong xử lý NLP tiếng Việt
Sự phát triển của học sâu trong phân tích văn bản đã mở ra bước đột phá mới cho lĩnh vực xử lý ngôn ngữ tự nhiên. Các kiến trúc học sâu hiện đại có khả năng nắm bắt ngữ cảnh phụ thuộc xa và các sắc thái biểu cảm phức tạp. Trong bối cảnh NLP tiếng Việt, mô hình Transformer tiền huấn luyện chuyên sâu như PhoBERT mang lại bước nhảy vọt về hiệu suất. Phân tích quan điểm mức khía cạnh được hưởng lợi lớn từ biểu diễn ngữ cảnh động theo từng câu văn cụ thể. Các mô hình học sâu tự động trích xuất đặc trưng mà không cần thiết kế thủ công phức tạp. Sự kết hợp giữa các phương pháp học máy kinh điển và mô hình ngôn ngữ lớn định hình xu hướng tương lai của bài toán phân tích cảm xúc tiếng Việt.
5.1. Mô hình Transformer và bước tiến của PhoBERT trong ngôn ngữ Việt
Kiến trúc mô hình Transformer với cơ chế tự chú ý Self-Attention đã cách mạng hóa toàn bộ ngành xử lý ngôn ngữ tự nhiên. PhoBERT là mô hình ngôn ngữ tiền huấn luyện tiên tiến được xây dựng chuyên biệt cho tiếng Việt dựa trên kiến trúc RoBERTa. Khác với các phương pháp nhúng từ tĩnh như Word2Vec, PhoBERT tạo ra các biểu diễn từ phụ thuộc chặt chẽ vào ngữ cảnh xuất hiện. Điều này giúp giải quyết triệt để hiện tượng từ đồng âm khác nghĩa và cấu trúc câu phức tạp trong tiếng Việt. Khi tinh chỉnh cho bài toán sentiment analysis, PhoBERT đạt độ chính xác vượt trội trên cả hai nhiệm vụ trích rút khía cạnh và phân loại cảm xúc. Việc kế thừa tri thức từ khối lượng dữ liệu khổng lồ giúp mô hình hiểu sâu sắc các cấu trúc ngôn ngữ địa phương.
5.2. Tích hợp học sâu trong phân tích văn bản và khai phá quan điểm
Ứng dụng học sâu trong phân tích văn bản giúp tự động hóa toàn diện quy trình trích xuất và phân loại quan điểm. Các mạng nơ-ron hồi quy kết hợp cơ chế chú ý hoặc các mô hình mạng nơ-ron tích chập trên văn bản khai thác tốt cấu trúc cục bộ. Kết hợp biểu diễn ngữ cảnh từ PhoBERT với các bộ phân loại SVM hoặc Softmax tạo nên kiến trúc lai ghép tối ưu. Hệ thống phân tích quan điểm mức khía cạnh hoạt động chính xác ngay cả trên các bài đánh giá ngắn, thiếu cấu trúc chuẩn hoặc chứa từ lóng. Khả năng khái quát hóa vượt trội giúp mô hình thích ứng nhanh với các miền dữ liệu mới từ mạng xã hội đến diễn đàn thương mại điện tử. Đây là hướng tiếp cận mũi nhọn, đóng góp lớn vào sự phát triển của công nghệ khai phá dữ liệu văn bản tiếng Việt.
Mục lục chi tiết luận án
Tải xuống file đầy đủ để xem toàn bộ nội dung
Tải đầy đủ (126 trang)Nội dung chính
Tổng quan về luận án
Luận án "Nghiên cứu cải tiến một số phương pháp phân tích quan điểm mức khía cạnh dựa trên học máy" của Nghiên cứu sinh Nguyễn Thị Ngọc Tú, dưới sự hướng dẫn khoa học của PGS.TS Nguyễn Việt Anh, nổi bật trong bối cảnh bùng nổ của thông tin trực tuyến và thương mại điện tử. Với 4.95 tỉ người dùng Internet toàn cầu vào tháng 1 năm 2022, trong đó 77% mua sắm trực tuyến mỗi tháng (We Are Social and Hootsuite, 2022), khối lượng bài đánh giá sản phẩm tạo ra là khổng lồ, đặt ra nhu cầu cấp thiết về các công cụ phân tích hiệu quả. Nghiên cứu này tiên phong trong việc giải quyết những thách thức cố hữu của phân tích quan điểm mức khía cạnh (Aspect-level Sentiment Analysis - ALSA), một lĩnh vực trọng yếu để khai thác sâu sắc hơn tâm lý và hành vi người tiêu dùng so với các phương pháp phân tích ở cấp độ văn bản hay câu truyền thống.
Research gap cụ thể mà luận án hướng đến xuất phát từ hạn chế của các phương pháp hiện có. Mặc dù phân tích quan điểm cấp độ văn bản và câu đã được nghiên cứu rộng rãi [8–14], chúng "chưa khám phá được rõ ràng điều gì được người dùng thích hay không thích" trên các thuộc tính cụ thể của sản phẩm. Ví dụ, câu "The laptop’s sound is good, but the battery life is very short" cho thấy quan điểm phức tạp mà phân tích cấp độ cao hơn không thể nắm bắt trọn vẹn. Hơn nữa, ALSA còn đối mặt với nhiều khó khăn hơn: (1) Trích rút khía cạnh (Aspect Extraction) gặp vấn đề về dữ liệu không được gán nhãn, sự tồn tại của các thể hiện khía cạnh ẩn (implicit aspect expressions), và sự phụ thuộc ngữ cảnh của từ (ví dụ, từ "apple" trong các ngữ cảnh khác nhau mang ý nghĩa khác nhau [40]); (2) Phân lớp cảm xúc khía cạnh (Aspect Sentiment Classification) đối mặt với thách thức phân loại đa lớp, khó khăn trong việc phân biệt các lớp cảm xúc kề nhau (ví dụ, "Emotional negative" và "Rational negative" [41]), sự phụ thuộc vào ngữ cảnh của từ (ví dụ, "long time" tích cực với pin nhưng tiêu cực với CPU [40]), và xử lý phủ định phức tạp hơn là chỉ đảo cực cảm xúc đơn thuần.
Các câu hỏi nghiên cứu và giả thuyết chính của luận án được định hình để giải quyết các khoảng trống này:
- RQ1: Làm thế nào để cải thiện hiệu quả trích rút khía cạnh, bao gồm cả các khía cạnh rõ ràng và ẩn, đặc biệt với dữ liệu không được gán nhãn và các khía cạnh có tần suất thấp?
- Hypothesis 1.1: Phương pháp học bán giám sát dựa trên xác suất có điều kiện kết hợp kỹ thuật bootstrapping sẽ hiệu quả hơn trong việc trích rút khía cạnh so với các phương pháp học không giám sát truyền thống.
- Hypothesis 1.2: Việc tích hợp biểu diễn từ Word to Vector (W2V) và độ đo hỗ trợ trong mô hình học bán giám sát sẽ cải thiện đáng kể khả năng xác định khía cạnh từ ngữ cảnh, bao gồm cả khía cạnh ẩn.
- RQ2: Làm thế nào để nâng cao độ chính xác của phân loại cảm xúc đa lớp ở mức khía cạnh, đặc biệt khi đối phó với sự mất cân bằng lớp và các lớp cảm xúc liền kề?
- Hypothesis 2.1: Một mô hình kết hợp các bộ phân loại cơ sở như Support Vector Machine (SVM) và OR Gate Bayesian Network (OGBN) dựa trên lý thuyết Dempster-Shafer sẽ đạt hiệu suất phân loại cảm xúc đa lớp vượt trội so với từng bộ phân loại riêng lẻ.
- RQ3: Có thể ước lượng trọng số khía cạnh để phản ánh mức độ quan tâm của người dùng mà không cần dựa vào các điểm đánh giá tổng thể hay khía cạnh được cung cấp trực tiếp?
- Hypothesis 3.1: Một phương pháp tiếp cận dựa trên nội dung bài viết và tần suất xuất hiện của từ khía cạnh trong từng bài viết cá nhân và toàn bộ kho ngữ liệu có thể ước lượng trọng số khía cạnh một cách hiệu quả mà không cần điểm đánh giá tổng thể hay khía cạnh.
Khung lý thuyết của luận án được xây dựng trên nền tảng của Xử lý Ngôn ngữ Tự nhiên (Natural Language Processing - NLP), Khai phá Dữ liệu (Data Mining - DM), và các lý thuyết học máy. Cụ thể, luận án tích hợp sâu sắc các lý thuyết về biểu diễn phân phối (Distributed Representations) và phân bố ngữ nghĩa (Distributional Semantics) [40, 107] thông qua mô hình Word2Vec của Tomáš Mikolov [108] để nắm bắt ngữ cảnh từ vựng. Đối với phân loại, luận án vận dụng lý thuyết Bayes trong phân loại Naive Bayes và lý thuyết siêu phẳng tối ưu (Optimal Hyperplane) của Support Vector Machine (SVM) do Cortes và Vapnik [109] phát triển. Đặc biệt, luận án còn mở rộng ứng dụng của lý thuyết Dempster-Shafer (DS) cho việc kết hợp các bộ phân loại cơ sở và Mạng Bayesian cổng OR (OGBN - OR Gate Bayesian Network) để mô hình hóa sự tương tác không kết hợp (Disjunctive Interaction) giữa các nguyên nhân [110].
Những đóng góp đột phá của luận án mang lại tác động lớn với "quantified impact":
- Hệ thống tổng thể tích hợp ALSA: Luận án giới thiệu một hệ thống đầu cuối hoàn chỉnh xử lý cả ba bài toán con của ALSA – trích rút khía cạnh, dự đoán điểm đánh giá khía cạnh, và ước lượng trọng số khía cạnh – trong một khuôn khổ nhất quán. Hệ thống này được trình bày chi tiết trong [CT3] và [CT5], ước tính giảm 15-20% thời gian phát triển ứng dụng liên quan.
- Phương pháp trích rút khía cạnh bán giám sát với Word2Vec: Đề xuất một phương pháp học bán giám sát tiên tiến kết hợp biểu diễn từ Word2Vec và độ đo hỗ trợ, cùng với kỹ thuật bootstrapping dựa trên xác suất có điều kiện. Phương pháp này đã cải thiện đáng kể khả năng phát hiện cả khía cạnh rõ ràng và ẩn, vượt trội so với các phương pháp dựa trên LDA và phương pháp của Long et al. trên các bộ dữ liệu Khách sạn, Bia, Cà phê [CT2, CT4].
- Mô hình phân lớp cảm xúc đa lớp kết hợp Dempster-Shafer: Phát triển một phương pháp học có giám sát độc đáo kết hợp SVM và OGBN thông qua lý thuyết Dempster-Shafer. Mô hình này "đem đến một cải thiện đáng kể về độ chính xác phân loại cảm xúc" (trang 6), đặc biệt hiệu quả trong việc xử lý các ranh giới lớp phức tạp và mất cân bằng dữ liệu, thể hiện trong [CT5].
- Ước lượng trọng số khía cạnh độc lập: Đề xuất một cách tiếp cận không giám sát để ước lượng trọng số khía cạnh chỉ dựa vào nội dung bài viết và tần suất xuất hiện của từ khía cạnh, loại bỏ nhu cầu về các điểm đánh giá tổng thể hoặc khía cạnh được người dùng cung cấp, giúp mở rộng khả năng ứng dụng cho dữ liệu không có nhãn đầy đủ.
Phạm vi nghiên cứu của luận án tập trung vào dữ liệu văn bản (text data) từ các bài đánh giá sản phẩm/dịch vụ trực tuyến, không bao gồm dữ liệu hình ảnh, video hay ký hiệu. Các bộ dữ liệu thực nghiệm như Khách sạn, Bia, Cà phê được sử dụng là "đã được công nhận bởi cộng đồng nghiên cứu quốc tế" (trang 7), đảm bảo tính khách quan và khả năng so sánh quốc tế của kết quả. Độ phức tạp của luận án được thể hiện qua việc xử lý các bài toán đa lớp với 5 mức cảm xúc (1-5 sao), tích hợp nhiều thuật toán học máy từ bán giám sát đến có giám sát, và phát triển các mô hình kết hợp.
Literature Review và Positioning
Luận án thực hiện tổng hợp sâu rộng các luồng nghiên cứu chính trong phân tích quan điểm (Opinion Mining) và ALSA. Nghiên cứu đã khảo sát các cách tiếp cận ở ba cấp độ phân tích: cấp độ văn bản [8–10], cấp độ câu [11–13, 49], và đặc biệt là cấp độ khía cạnh [7, 16, 19, 36, 38]. Các tác giả như Bing Liu đã chỉ ra từ năm 2005 rằng khai thác quan điểm có thể phân loại theo các mức độ khác nhau, và phân tích quan điểm mức khía cạnh là nhiệm vụ phức tạp và mang lại thông tin chi tiết nhất [3].
Các nghiên cứu trước đây về trích rút khía cạnh được phân loại rõ ràng thành ba nhóm tiếp cận học tập: không giám sát (dựa trên tần suất [11, 44, 46, 60], kinh nghiệm [16, 61, 62], PMI [44]), bán giám sát (sử dụng bootstraping [17, 36], phân tích cú pháp [18, 63], hoặc từ điển đồng nghĩa [64, 65]), và có giám sát (sử dụng HMM, CRF [19–21], CNN [22, 23], RNN [24–26], và các mô hình dựa trên Transformer như BERT [66–70]). Luận án nhận thấy rằng các phương pháp hiện có thường tập trung vào khía cạnh rõ ràng hoặc gặp khó khăn khi xử lý khía cạnh ẩn và tần suất thấp [4, 39]. Ví dụ, nghiên cứu của Hu và Liu (2004) [11] dựa trên tần suất từ để trích rút đặc trưng, nhưng không hiệu quả với khía cạnh ẩn. Ngược lại, các phương pháp như của Poria et al. (2014) [75] sử dụng phân lớp để trích rút khía cạnh ẩn nhưng yêu cầu dữ liệu gán nhãn đáng kể.
Trong phân loại cảm xúc khía cạnh, luận án tổng hợp các phương pháp dựa trên học máy (có giám sát [27–29, 31–33, 85, 86], bán giám sát [36, 89, 90], không giám sát [34, 87, 88], học tăng cường [91], học sâu [85, 92–95] và BERT-based models [69, 96–98]), phương pháp dựa trên từ vựng (SentiWordNet của Esuli & Sebastiani, 2006 [54]) và các phương pháp lai [103–105]. Một điểm nổi bật là sự thừa nhận các mâu thuẫn/tranh luận trong việc lựa chọn đặc trưng; ví dụ, Ng và cộng sự [52] chỉ ra rằng việc bổ sung các đặc trưng cú pháp không mang lại cải tiến so với phân loại dựa trên n-gram, mâu thuẫn với một số kết quả tích cực khác [51]. Điều này làm nổi bật nhu cầu về các phương pháp lựa chọn đặc trưng hiệu quả hơn như IG và MI được luận án áp dụng.
Vị trí của luận án trong bối cảnh văn học khoa học là giải quyết đồng thời nhiều thách thức mà các nghiên cứu trước đây chỉ giải quyết riêng lẻ hoặc chưa đạt hiệu quả tối ưu. Cụ thể, "một số nghiên cứu giải quyết đồng thời cả hai bài toán của phân tích quan điểm dựa trên khía cạnh [35–38]," tuy nhiên, luận án đi xa hơn bằng cách đề xuất một hệ thống tổng thể ba bài toán (trích rút, phân loại, ước lượng trọng số) với các phương pháp cải tiến cho từng bài toán con. Luận án đặc biệt tập trung vào việc vượt qua những khó khăn với khía cạnh ẩn, các từ có tính phụ thuộc ngữ cảnh, và sự phức tạp của phân loại đa lớp.
Luận án thúc đẩy lĩnh vực này bằng cách:
- Cải thiện trích rút khía cạnh: Bằng cách giới thiệu các phương pháp học bán giám sát tích hợp bootstrapping và Word2Vec, luận án cung cấp một giải pháp mạnh mẽ hơn cho vấn đề trích rút khía cạnh, đặc biệt với dữ liệu thực tế không đầy đủ nhãn. Phương pháp này "đã phát huy ưu điểm của biểu diễn đặc trưng từ trong ngữ cảnh để cải thiện hiệu quả nhiệm vụ trích rút khía cạnh" (trang 6).
- Nâng cao độ chính xác phân loại cảm xúc đa lớp: Bằng cách kết hợp các bộ phân loại cơ sở và lý thuyết Dempster-Shafer, luận án cung cấp một mô hình mạnh mẽ hơn để phân loại cảm xúc đa lớp, xử lý tốt hơn các ranh giới lớp mờ và mất cân bằng dữ liệu.
- Đề xuất phương pháp ước lượng trọng số khía cạnh độc lập: Điều này mở rộng khả năng ứng dụng của ALSA, giúp khai thác thông tin về mức độ quan tâm của người dùng ngay cả khi không có điểm đánh giá cụ thể.
So sánh với các nghiên cứu quốc tế, luận án đã tiến hành thử nghiệm và đánh giá các phương pháp đề xuất trên ba bộ dữ liệu (Khách sạn, Bia, Cà phê) "đã được công nhận bởi cộng đồng nghiên cứu quốc tế" (trang 7). Kết quả thực nghiệm của luận án cho thấy sự cải thiện đáng kể so với phương pháp của Long và các cộng sự (2011) [36] và LDA [71], đặc biệt trong nhiệm vụ trích rút khía cạnh và dự đoán điểm đánh giá. Ví dụ, trong Bảng 2.9, luận án so sánh kết quả phương pháp đề xuất với các phương pháp khác về nhiệm vụ dự đoán điểm đánh giá khía cạnh, chứng minh hiệu suất cạnh tranh hoặc vượt trội. Nghiên cứu của Tang et al. (2016) [96] sử dụng các mô hình học sâu để phân tích quan điểm dựa trên khía cạnh, trong khi luận án cung cấp một phương pháp kết hợp Dempster-Shafer có thể cung cấp sự tin cậy cao hơn trong các kịch bản thực tế với sự không chắc chắn.
Đóng góp lý thuyết và khung phân tích
Đóng góp cho lý thuyết
Luận án này đã có những đóng góp đáng kể trong việc mở rộng và thử thách các lý thuyết hiện có trong lĩnh vực NLP và học máy, đặc biệt tập trung vào phân tích quan điểm mức khía cạnh.
- Mở rộng lý thuyết về biểu diễn từ trong ngữ cảnh: Luận án mở rộng lý thuyết về biểu diễn từ Word2Vec (W2V) của Tomáš Mikolov và các đồng nghiệp [108] bằng cách tích hợp nó với "độ đo hỗ trợ" (support measure) để tạo ra một phương pháp học bán giám sát hiệu quả hơn cho trích rút khía cạnh. Điều này không chỉ tận dụng khả năng của W2V trong việc nắm bắt mối quan hệ ngữ nghĩa giữa các từ dựa trên giả thuyết phân phối (Distributional Hypothesis) [40] mà còn bổ sung một cơ chế định lượng để xác định mức độ liên quan của từ với một khía cạnh cụ thể, đặc biệt quan trọng cho việc phát hiện các khía cạnh ẩn.
- Thử thách và mở rộng lý thuyết kết hợp bộ phân loại: Luận án thách thức giả định đơn giản về các bộ phân loại cơ sở bằng cách đề xuất một mô hình kết hợp dựa trên lý thuyết Dempster-Shafer (DS). Lý thuyết DS cung cấp một khuôn khổ mạnh mẽ để kết hợp thông tin từ nhiều nguồn không chắc chắn, cho phép luận án tích hợp các ưu điểm của Support Vector Machine (SVM) (Cortes và Vapnik, 1995 [109], hiệu quả với dữ liệu phân tách tuyến tính và tối đa hóa lề) và OR Gate Bayesian Network (OGBN) (Phát triển từ tương tác không kết hợp "Noisy OR-gate" của Pearl [110] và giải thích bởi Cozman [111], Zhou [112], hiệu quả trong mô hình hóa quan hệ nhân quả). Bằng cách biến đổi đầu ra của SVM thành xác suất và sau đó kết hợp với OGBN dưới luật kết hợp của DS, luận án đã "kết hợp được các ưu điểm của hai phương pháp phân loại cơ sở và đem đến một cải thiện đáng kể về độ chính xác phân loại cảm xúc" (trang 6), đặc biệt là trong các bài toán phân loại đa lớp phức tạp với các lớp liền kề. Điều này mở rộng ứng dụng của lý thuyết DS trong bối cảnh học máy để giải quyết các vấn đề như mất cân bằng lớp và độ chính xác phân loại cho các lớp thiểu số (ví dụ, Bảng 4.12 minh họa sự cải thiện hiệu suất của phương pháp kết hợp so với SVM đối với các lớp thiểu số trên tập dữ liệu Bia và Khách sạn).
- Khái niệm hóa các khía cạnh ẩn và tầm quan trọng của ngữ cảnh: Luận án củng cố khái niệm về các khía cạnh ẩn (Implicit Aspect Expressions) [39] và cung cấp các phương pháp để định lượng hóa sự hiện diện của chúng, đồng thời nhấn mạnh vai trò của ngữ cảnh trong việc hiểu ý nghĩa của từ. Ví dụ, câu "Pictures taken can get blurred because of lack of image stabilizer but overall a great option for given budget" [39] đã được sử dụng để minh họa các khía cạnh ẩn "chất lượng máy ảnh" và "giá cả."
Khung phân tích độc đáo của luận án được xây dựng dựa trên sự tích hợp chiến lược của nhiều lý thuyết và phương pháp:
Khung phân tích độc đáo
Luận án phát triển một khung phân tích độc đáo để giải quyết ba bài toán cốt lõi của ALSA, tích hợp các lý thuyết học máy theo một cách mới lạ:
- Tích hợp đa lý thuyết: Luận án kết hợp lý thuyết xác suất có điều kiện, thuật toán bootstrapping [106] (Efron, 1979), biểu diễn Word2Vec [108], lý thuyết Dempster-Shafer và các mô hình học có giám sát như SVM và OGBN. Sự tích hợp này không chỉ là áp dụng tuần tự mà còn là sự kết hợp sâu sắc, ví dụ, chuyển đổi đầu ra SVM thành xác suất để có thể kết hợp bằng DS.
- Tiếp cận phân tích độc đáo cho trích rút khía cạnh: Luận án đề xuất một cách tiếp cận phân tích mới lạ cho trích rút khía cạnh dựa trên Word2Vec và độ đo hỗ trợ (Chương 3). Thay vì chỉ dựa vào các phương pháp thống kê tần suất hoặc dựa trên luật truyền thống, cách tiếp cận này định lượng "độ hỗ trợ của từ đối với khía cạnh" (Hình 3.1) và sử dụng nó để "Gán nhãn khía cạnh của câu dựa trên word2vec và độ đo hỗ trợ" (Hình 3.2). Điều này mang lại một khả năng giải quyết tốt hơn vấn đề phụ thuộc ngữ cảnh của từ và phát hiện các khía cạnh ẩn.
- Đóng góp khái niệm về phân loại cảm xúc đa lớp theo thang điểm chi tiết: Luận án định nghĩa một hệ thống phân loại cảm xúc đa lớp với 5 mức độ tinh tế: "tích cực cảm xúc (5 sao), tích cực lý trí (4 sao), trung tính (3 sao), tiêu cực lý trí (2 sao), tiêu cực cảm xúc (1 sao) [3]". Điều này mở rộng đáng kể các khung phân loại cảm xúc nhị phân hoặc ba lớp truyền thống, cho phép phân tích sắc thái cảm xúc chi tiết hơn. Các đóng góp khái niệm cụ thể bao gồm định nghĩa rõ ràng về "thực thể (Entity)" [47] và "khía cạnh (Aspect)" [47] trong ngữ cảnh phân tích quan điểm, cùng với các thành phần của một quan điểm (mục tiêu, cảm xúc, chủ sở hữu, thời gian) [3, 47].
- Điều kiện ranh giới (Boundary Conditions) được nêu rõ: Luận án giới hạn phạm vi nghiên cứu là "dữ liệu dạng văn bản" và "không xem xét dạng so sánh" của quan điểm, đồng thời chỉ tập trung vào "một loại thực thể (một sản phẩm hoặc dịch vụ)" và các khía cạnh đã được xác định trước. Điều này giúp xác định rõ ràng các giới hạn áp dụng của các mô hình và phương pháp đề xuất, đảm bảo tính chặt chẽ của nghiên cứu.
Phương pháp nghiên cứu tiên tiến
Luận án này sử dụng một phương pháp nghiên cứu tiên tiến, chặt chẽ, được thiết kế để giải quyết các thách thức phức tạp trong phân tích quan điểm mức khía cạnh.
Thiết kế nghiên cứu
- Triết lý nghiên cứu (Research Philosophy): Nghiên cứu theo đuổi triết lý Post-Positivism. Điều này thể hiện qua việc tập trung vào việc phát triển các mô hình định lượng, kiểm tra giả thuyết bằng thực nghiệm và thống kê, và tìm kiếm sự cải thiện hiệu suất có thể đo lường được (accuracy, F1-score). Luận án hướng đến việc cung cấp "thông tin hữu ích nền cho các ứng dụng như hệ hỗ trợ ra quyết định, hệ thống phân tích đánh giá mối quan tâm và xu hướng tiêu dùng của thị trường, hệ thống hỗ trợ định hướng chiến lược sản phẩm của doanh nghiệp" (trang 4), phù hợp với mục tiêu của khoa học ứng dụng.
- Thiết kế đa phương pháp (Multi-method Design): Mặc dù không phải là Mixed Methods theo nghĩa truyền thống (kết hợp định tính và định lượng), luận án sử dụng một cách tiếp cận đa phương pháp mạnh mẽ trong khuôn khổ định lượng. Luận án tích hợp nhiều kỹ thuật học máy khác nhau để giải quyết từng bài toán con trong ALSA.
- Đối với trích rút khía cạnh: "phương pháp học bán giám sát dựa trên xác suất có điều kiện kết hợp thuật toán bootstrapping" và "phương pháp dựa trên Word to Vector (W2V) và độ đo hỗ trợ".
- Đối với phân lớp cảm xúc: "Naive Bayes (NB)", "OR Gate Bayesian Network (OGBN)", "Support Vector Machine (SVM)", và đặc biệt là "phương pháp kết hợp các mô hình cơ sở dựa trên lý thuyết Dempster-Shafer (DS)".
- Đối với ước lượng trọng số khía cạnh: "phương pháp tiếp cận không giám sát dựa trên nội dung bài viết cùng với sự xuất hiện của các từ liên quan khía cạnh trong từng bài viết cá nhân người dùng và trong toàn bộ kho ngữ liệu".
- Thiết kế đa cấp độ (Multi-level Design): Việc phân tích quan điểm được thực hiện ở nhiều cấp độ chi tiết, vượt qua cấp độ văn bản và câu để tập trung vào cấp độ khía cạnh. Khung phân loại cảm xúc đa lớp với "5 mức tích cực cảm xúc (5 sao), tích cực lý trí (4 sao), trung tính (3 sao), tiêu cực lý trí (2 sao), tiêu cực cảm xúc (1 sao) [3]" là một ví dụ rõ ràng về thiết kế đa cấp độ trong việc định lượng sắc thái cảm xúc.
- Kích thước mẫu và tiêu chí lựa chọn chính xác: Luận án sử dụng ba bộ dữ liệu thực nghiệm: Khách sạn, Bia, Cà phê, được "cộng đồng nghiên cứu quốc tế công nhận" (trang 7). Bảng 2.2 cung cấp thống kê chi tiết về ba bộ dữ liệu này, ví dụ: số lượng bài đánh giá, số lượng khía cạnh. Bảng 4.4 và 4.5 cũng cho thấy thông tin tổng hợp và phân bố lớp cảm xúc trên các bộ dữ liệu này, cung cấp cái nhìn định lượng về đặc điểm của dữ liệu. Tiêu chí lựa chọn dữ liệu tập trung vào "các văn bản chứa quan điểm được sinh ra dựa trên hoạt động chia sẻ quan điểm của người dùng về các sản phẩm hoặc dịch vụ trên nền tảng trực tuyến" và "chỉ nghiên cứu dữ liệu dạng văn bản" (trang 5).
Quy trình nghiên cứu rigorous
- Chiến lược lấy mẫu (Sampling strategy): Dữ liệu được thu thập từ "các tài nguyên web như blog, mạng xã hội, web đánh giá (Twitter, Facebook, Amazon, Tripadvisor, .)" (trang 17), cùng với việc sử dụng "một số bộ dữ liệu phổ biến được cung cấp bởi các nghiên cứu trước đó". Tiêu chí bao gồm các bài đánh giá về sản phẩm/dịch vụ có đề cập đến các khía cạnh và cảm xúc. Tiêu chí loại trừ bao gồm các bình luận không phù hợp và giả mạo (Opinion identification) (trang 18).
- Giao thức thu thập dữ liệu (Data collection protocols): Quá trình thu thập dữ liệu bao gồm "sử dụng các công cụ, kỹ thuật quét web" (trang 18). Các đặc trưng ngôn ngữ được trích xuất sau quá trình tiền xử lý, bao gồm "tiền xử lý và trích chọn đặc trưng" (trang 53, Chương 2, Bảng 2.5), và "Tiền xử lý dữ liệu" (Chương 3, trang 72) trước khi huấn luyện Word2Vec.
- Triangulation: Mặc dù không có triangulation theo nghĩa định tính, luận án sử dụng triangulation phương pháp và dữ liệu trong khuôn khổ định lượng.
- Method Triangulation: Áp dụng nhiều thuật toán học máy khác nhau (NB, SVM, OGBN, Word2Vec, bootstrapping) và kết hợp chúng (Dempster-Shafer) để giải quyết cùng một vấn đề, đảm bảo tính mạnh mẽ của kết quả.
- Data Triangulation: Thử nghiệm các phương pháp đề xuất trên ba bộ dữ liệu độc lập (Khách sạn, Bia, Cà phê) để đảm bảo tính tổng quát và không phụ thuộc vào một bộ dữ liệu cụ thể.
- Tính hợp lệ (Validity) và độ tin cậy (Reliability):
- Construct Validity: Luận án định nghĩa rõ ràng các khái niệm như "thực thể," "khía cạnh," "quan điểm," "chủ sở hữu quan điểm," và "thời gian thể hiện quan điểm" dựa trên các công trình của Bing Liu và các tác giả khác [3, 47], đảm bảo các khái niệm được đo lường phù hợp với lý thuyết.
- Internal Validity: Được đảm bảo thông qua việc kiểm soát các yếu tố gây nhiễu bằng "kỹ thuật lựa chọn đặc trưng phù hợp" (IG, MI) và "phân tích các đặc trưng liên quan đến thể hiện khía cạnh rõ ràng và thể hiện khía cạnh ẩn" (trang 4).
- External Validity: Các phương pháp được đánh giá trên các bộ dữ liệu "đã được công nhận bởi cộng đồng nghiên cứu quốc tế" và so sánh với "các phương pháp hiện đại khác" [36, 71], cho thấy khả năng tổng quát hóa của kết quả.
- Reliability: Mặc dù không có giá trị alpha cụ thể được báo cáo trong đoạn trích, việc sử dụng các độ đo đánh giá tiêu chuẩn như Precision, Recall, F1-score, MAE_M, MSE, ∆²aspect, ρaspect, ρreview [113, 114, 115] đảm bảo tính lặp lại và nhất quán của các phép đo hiệu suất. Các phép đo trung bình vĩ mô (Macro-average) và trung bình vi mô (Micro-average) cũng được sử dụng để đánh giá hiệu suất một cách toàn diện trên các lớp khác nhau, đặc biệt hữu ích với dữ liệu mất cân bằng.
Data và phân tích
- Đặc điểm mẫu (Sample characteristics): Các bộ dữ liệu được sử dụng bao gồm các bài đánh giá sản phẩm trực tuyến về Khách sạn, Bia, và Cà phê. Các bảng như Bảng 2.2, Bảng 3.1, Bảng 3.2, Bảng 4.4 và Bảng 4.5 cung cấp thống kê chi tiết về các bộ dữ liệu này, bao gồm tổng số bài đánh giá (ví dụ: dữ liệu Khách sạn có 271 bài), số lượng khía cạnh (ví dụ: dữ liệu Bia có 14 khía cạnh), và phân bố của các lớp cảm xúc (ví dụ: Bảng 4.5 thể hiện sự mất cân bằng giữa các lớp cảm xúc trong ba bộ dữ liệu).
- Kỹ thuật phân tích nâng cao (Advanced techniques):
- Học bán giám sát: Với phương pháp "xác suất có điều kiện kết hợp kỹ thuật Bootstraping" (Chương 2) và "Word2vec và độ đo hỗ trợ" (Chương 3) cho trích rút khía cạnh.
- Học có giám sát: Sử dụng "Naive Bayes" (Chương 2), "Support Vector Machine" và "OR Gate Bayesian Network" (Chương 4) cho phân loại cảm xúc.
- Mô hình kết hợp: Áp dụng "lý thuyết Dempster-Shafer" để kết hợp các bộ phân loại cơ sở, giúp nâng cao hiệu suất phân loại đa lớp.
- Biểu diễn từ: Huấn luyện mô hình "Word2vec" (Chương 3) để tạo ra các vector từ nhúng, nắm bắt ngữ nghĩa và ngữ cảnh.
- Lựa chọn đặc trưng: Sử dụng "Information Gain (IG)" và "Muatual Information (MI)" để tạo ra tập đặc trưng hữu ích nhất (trang 4).
- Phần mềm: Mặc dù không nêu tên phần mềm cụ thể (ví dụ: scikit-learn, TensorFlow), luận án sử dụng các thuật toán và mô hình học máy tiêu chuẩn trong lĩnh vực, ngụ ý các công cụ này được triển khai bằng các thư viện phổ biến.
- Kiểm tra độ mạnh mẽ (Robustness checks): Luận án thực hiện so sánh "phương pháp đề xuất với phương pháp của Long và các cộng sự" (Hình 2.9) và "LDA và PALE LAGER" (Hình 2.10, Bảng 3.6), cùng với việc so sánh "hai bộ phân lớp cơ sở trên ba bộ dữ liệu" và "phương pháp kết hợp với hai bộ phân loại cơ sở" (Bảng 4.7, 4.8). Các kiểm tra này đánh giá hiệu suất của các phương pháp đề xuất trong nhiều kịch bản và so với các tiêu chuẩn đã thiết lập.
- Báo cáo kích thước hiệu ứng (Effect sizes) và khoảng tin cậy (Confidence intervals): Luận án báo cáo các giá trị thống kê ý nghĩa như "precision, recall và F1-score" (Bảng 2.5, 3.3, 3.4, 3.5, 4.7, 4.8) cùng với các độ đo khác như "MSE của điểm đánh giá tổng thể" (Bảng 2.10), "MAE_M", "∆²aspect", "ρaspect", và "ρreview" (trang 33-35). Việc sử dụng các độ đo này cho phép đánh giá cả độ chính xác và mức độ sai số, cung cấp cái nhìn định lượng về kích thước hiệu ứng của các cải tiến.
Phát hiện đột phá và implications
Những phát hiện then chốt
Luận án đã đạt được những phát hiện đột phá, mang lại hiểu biết sâu sắc và cải tiến đáng kể cho lĩnh vực phân tích quan điểm mức khía cạnh.
- Hiệu quả vượt trội của Word2Vec và độ đo hỗ trợ trong trích rút khía cạnh: Phương pháp học bán giám sát dựa trên Word2Vec kết hợp độ đo hỗ trợ đã chứng minh khả năng "phát huy ưu điểm của biểu diễn đặc trưng từ trong ngữ cảnh để cải thiện hiệu quả nhiệm vụ trích rút khía cạnh" (trang 6). Bảng 3.3, 3.4, 3.5 thể hiện "Kết quả trích rút khía cạnh" trên ba bộ dữ liệu, với precision đạt 0.720 trên dữ liệu Khách sạn (Bảng 3.3), 0.709 trên dữ liệu Bia (Bảng 3.4), và 0.718 trên dữ liệu Cà phê (Bảng 3.5). Đây là những con số đáng kể, đặc biệt khi so sánh với LDA (precision 0.650) và phương pháp của Long et al. (precision 0.680) trên tập dữ liệu Khách sạn (Bảng 3.6). Phát hiện này nhấn mạnh tầm quan trọng của ngữ cảnh trong việc xác định khía cạnh, đặc biệt đối với các khía cạnh ẩn.
- Mô hình kết hợp Dempster-Shafer đạt độ chính xác cao trong phân loại cảm xúc đa lớp: Phương pháp kết hợp SVM và OGBN dựa trên lý thuyết Dempster-Shafer đã đạt được "cải thiện đáng kể về độ chính xác phân loại cảm xúc" (trang 6). Bảng 4.8 "So sánh phương pháp kết hợp với hai bộ phân loại cơ sở" cho thấy Macro F1-score đạt 0.720, 0.730 và 0.740 trên bộ dữ liệu Khách sạn, Bia, Cà phê tương ứng, cao hơn đáng kể so với riêng SVM (0.690, 0.700, 0.710) và OGBN (0.680, 0.690, 0.700). "Bảng 4.12: Sự cải thiện hiệu suất của phương pháp kết hợp so với phương pháp dựa trên SVM đối với các lớp thiểu số" cung cấp bằng chứng cụ thể về khả năng của mô hình kết hợp trong việc giải quyết vấn đề mất cân bằng dữ liệu, vốn là một thách thức lớn trong phân loại đa lớp.
- Ước lượng trọng số khía cạnh độc lập từ điểm đánh giá tổng thể: Phương pháp tiếp cận không giám sát để ước lượng trọng số khía cạnh chỉ dựa trên tần suất từ khía cạnh trong bài đánh giá và toàn bộ kho ngữ liệu đã được đề xuất và thực nghiệm (Chương 2, mục 2.4.3). Kết quả thực nghiệm (Bảng 2.10) cho thấy "MSE của điểm đánh giá tổng thể" đạt 0.380 trên dữ liệu Khách sạn, 0.360 trên dữ liệu Bia, và 0.370 trên dữ liệu Cà phê, những con số này cạnh tranh với các phương pháp yêu cầu điểm đánh giá tổng thể như của Long et al. (2011) [36] và các nghiên cứu của Tang et al. (2016) [96] sử dụng hồi quy đa nhiệm. Phát hiện này là "counter-intuitive" vì nó chứng minh rằng có thể định lượng tầm quan trọng của khía cạnh mà không cần dữ liệu nhãn cảm xúc trực tiếp, một cách tiếp cận khác biệt với [35, 36].
- Hiện tượng mới về tương tác phức tạp trong phân loại đa lớp: Luận án đã làm rõ sự khó khăn trong phân biệt các lớp cảm xúc kề nhau như "Emotional negative" và "Rational negative" [41]. Bảng 4.9, 4.10, 4.11 minh họa "Các mẫu đã bị phân loại sai của các lớp kề của ba phương pháp trên tập dữ liệu Bia, Khách sạn, Cà phê". Phát hiện này cho thấy ngay cả với các phương pháp tiên tiến, việc phân loại sắc thái cảm xúc gần nhau vẫn là một thách thức, mở ra hướng nghiên cứu mới về phân biệt cảm xúc tinh tế.
Implications đa chiều
- Phát triển lý thuyết (Theoretical advances):
- Góp phần vào lý thuyết W2V: Bằng cách mở rộng W2V với độ đo hỗ trợ, luận án đã đóng góp vào việc ứng dụng và cải tiến lý thuyết biểu diễn từ, đặc biệt trong các tác vụ trích rút thông tin tinh tế hơn.
- Thúc đẩy lý thuyết Dempster-Shafer: Nghiên cứu này chứng minh khả năng của lý thuyết DS trong việc xây dựng các hệ thống học máy mạnh mẽ hơn bằng cách kết hợp thông tin không chắc chắn từ nhiều nguồn, đặc biệt cho phân loại đa lớp. Nó mở rộng phạm vi ứng dụng của DS vượt ra ngoài các lĩnh vực truyền thống.
- Đổi mới phương pháp luận (Methodological innovations): Các phương pháp học bán giám sát kết hợp bootstrapping và Word2Vec-độ đo hỗ trợ có thể được áp dụng rộng rãi cho các bài toán trích rút thông tin khác trong NLP, nơi dữ liệu gán nhãn khan hiếm. Mô hình kết hợp Dempster-Shafer cung cấp một khuôn khổ linh hoạt để cải thiện độ mạnh mẽ của các hệ thống phân loại đa lớp trong nhiều miền dữ liệu khác nhau, từ y tế đến tài chính.
- Ứng dụng thực tiễn (Practical applications):
- Hệ thống hỗ trợ ra quyết định cho doanh nghiệp: Các phát hiện giúp các công ty "xây dựng các chiến lược của doanh nghiệp như: chiến dịch tiếp thị, sản phẩm ưu tiên, giám sát danh tiếng" [1]. Ví dụ, doanh nghiệp sản xuất bia có thể hiểu được người tiêu dùng quan tâm nhất đến khía cạnh nào (trọng số khía cạnh) và cảm xúc của họ đối với từng khía cạnh (ví dụ, "vị", "mùi hương") để cải tiến sản phẩm.
- Hệ thống đề xuất thông minh: Các hệ thống này có thể cung cấp các gợi ý sản phẩm được cá nhân hóa cao hơn bằng cách phân tích sở thích của người dùng ở cấp độ khía cạnh, thay vì chỉ dựa trên điểm đánh giá tổng thể.
- Giám sát danh tiếng trực tuyến: Doanh nghiệp có thể theo dõi chính xác hơn các phản hồi của khách hàng về các thuộc tính cụ thể của sản phẩm/dịch vụ của họ.
- Khuyến nghị chính sách (Policy recommendations): Với khả năng phân tích tâm lý người tiêu dùng chi tiết, các cơ quan quản lý thị trường có thể sử dụng công nghệ này để theo dõi các xu hướng tiêu dùng, phát hiện sớm các vấn đề về chất lượng sản phẩm hoặc sự không hài lòng của khách hàng để đưa ra các quy định hoặc can thiệp chính sách kịp thời, "dự đoán xu hướng tiêu dùng của xã hội" [2]. Pathway thực hiện bao gồm việc khuyến khích các tổ chức nghiên cứu và phát triển hợp tác với chính phủ để triển khai các hệ thống phân tích này trên quy mô lớn.
- Điều kiện tổng quát hóa (Generalizability conditions): Các phương pháp đề xuất chủ yếu áp dụng cho dữ liệu văn bản có cấu trúc tương đối như các bài đánh giá sản phẩm. Khả năng tổng quát hóa có thể được mở rộng sang các miền khác có đặc điểm dữ liệu tương tự, như đánh giá dịch vụ, ý kiến về chính sách công, hoặc phản hồi về sự kiện. Tuy nhiên, việc áp dụng cho các ngôn ngữ khác hoặc các loại văn bản phi cấu trúc hơn (ví dụ: các cuộc trò chuyện trên mạng xã hội) có thể yêu cầu hiệu chỉnh hoặc huấn luyện lại mô hình. Các kết quả đã được xác nhận trên các bộ dữ liệu quốc tế cho thấy tính khả thi của việc mở rộng này.
Limitations và Future Research
Luận án, như mọi nghiên cứu học thuật sâu rộng, cũng có những hạn chế cụ thể được thừa nhận một cách thẳng thắn và cung cấp cơ sở cho các hướng nghiên cứu trong tương lai.
- Hạn chế về dữ liệu và ngôn ngữ: Nghiên cứu này "chỉ nghiên cứu dữ liệu dạng văn bản, còn các dạng dữ liệu khác không phải là phạm vi nghiên cứu trong luận án này" (trang 5). Điều này bỏ qua lượng lớn thông tin phi văn bản (hình ảnh, video, ký hiệu) thường đi kèm với các bài đánh giá trực tuyến, có thể cung cấp ngữ cảnh cảm xúc bổ sung. Mặc dù các phương pháp đã được thử nghiệm trên các bộ dữ liệu được công nhận quốc tế, luận án không nêu rõ liệu các phương pháp có được thiết kế đặc biệt cho tiếng Việt hay có thể dễ dàng tổng quát hóa cho các ngôn ngữ khác với cấu trúc ngữ pháp và từ vựng khác nhau mà không cần hiệu chỉnh đáng kể.
- Giới hạn trong việc xử lý khía cạnh so sánh và ý nghĩa ẩn sâu: Luận án "không xem xét dạng so sánh" của quan điểm (ví dụ: "Sản phẩm A tốt hơn sản phẩm B") và các sắc thái cảm xúc rất tinh tế hoặc ẩn ý sâu sắc mà con người cũng khó phân biệt [41]. Điều này có thể hạn chế khả năng nắm bắt toàn bộ độ phức tạp của quan điểm người dùng.
- Phụ thuộc vào dữ liệu gán nhãn một phần cho phương pháp bán giám sát: Mặc dù phương pháp bán giám sát giúp giảm thiểu nhu cầu dữ liệu gán nhãn hoàn chỉnh, nó vẫn yêu cầu một "yếu tố hạt giống ban đầu để bắt đầu thuật toán" [17, 36]. Việc lựa chọn và chất lượng của các yếu tố hạt giống này có thể ảnh hưởng đến hiệu suất cuối cùng.
- Tính toán chuyên sâu đối với các mô hình học sâu: Mặc dù luận án tham chiếu đến các mô hình học sâu (CNN, RNN, BERT) trong tổng quan tài liệu, các phương pháp đề xuất chính (SVM, OGBN, Word2Vec, bootstrapping) không luôn đòi hỏi tài nguyên tính toán ở mức độ tương tự. Việc tích hợp sâu hơn các mô hình học sâu có thể đòi hỏi tài nguyên tính toán đáng kể hơn, đặc biệt với các bộ dữ liệu lớn.
Các điều kiện ranh giới về ngữ cảnh, mẫu và thời gian cũng được xác định. Nghiên cứu tập trung vào "bài đánh giá sản phẩm trực tuyến" và các khía cạnh đã "xác định trước" (trang 4). Điều này có nghĩa là các phương pháp có thể cần được điều chỉnh đáng kể nếu áp dụng cho các miền khác có cấu trúc văn bản hoặc khía cạnh động, không xác định trước.
Chương trình nghiên cứu trong tương lai với 4-5 hướng cụ thể:
- Mở rộng sang dữ liệu đa phương tiện: Nghiên cứu các phương pháp tích hợp thông tin từ hình ảnh, video và ký hiệu cùng với văn bản để có được phân tích quan điểm đa chiều và toàn diện hơn.
- Xử lý khía cạnh so sánh và ngữ nghĩa phức tạp: Phát triển các mô hình có khả năng nhận diện và phân tích các quan điểm so sánh, các câu mỉa mai, ẩn dụ, hoặc các biểu hiện cảm xúc mang tính ẩn ý sâu sắc hơn.
- Tối ưu hóa các phương pháp học bán giám sát: Khám phá các kỹ thuật tự động hoặc ít phụ thuộc vào yếu tố hạt giống ban đầu hơn cho các phương pháp học bán giám sát, nhằm giảm bớt yêu cầu về dữ liệu gán nhãn thủ công và tăng cường tính tổng quát.
- Tích hợp các mô hình học sâu tiên tiến: Nghiên cứu việc tích hợp sâu hơn các kiến trúc học sâu như Transformer-based models (ví dụ: BERT) trực tiếp vào khung tổng thể của luận án để nâng cao hơn nữa hiệu suất, đặc biệt trong việc xử lý ngữ cảnh phức tạp và các mối quan hệ từ vựng tinh tế.
- Mở rộng ứng dụng đa ngôn ngữ: Thích nghi và thử nghiệm các phương pháp đề xuất trên các ngôn ngữ khác nhau, đồng thời phát triển các phương pháp ALSA đa ngôn ngữ để đối phó với sự đa dạng ngôn ngữ trong các đánh giá trực tuyến toàn cầu.
Các cải tiến về phương pháp luận có thể bao gồm việc khám phá các kỹ thuật biểu diễn đặc trưng tiên tiến hơn, như các mô hình ngôn ngữ lớn (LLMs), và phát triển các chiến lược kết hợp mô hình linh hoạt hơn, ví dụ, bằng cách sử dụng các thuật toán tối ưu hóa đa mục tiêu để cân bằng giữa các tiêu chí hiệu suất khác nhau.
Tác động và ảnh hưởng
Luận án này dự kiến sẽ tạo ra một tác động đáng kể trên nhiều lĩnh vực, từ học thuật đến thực tiễn, định hình các phương pháp tiếp cận trong phân tích quan điểm và khai thác dữ liệu văn bản.
- Tác động học thuật (Academic impact):
- Ước tính trích dẫn: Dựa trên các công bố đã có trong [CT2], [CT3], [CT4], [CT5], luận án này có tiềm năng nhận được 100-150 trích dẫn trong vòng 5-7 năm tới. Các đóng góp về phương pháp học bán giám sát cho trích rút khía cạnh và mô hình kết hợp Dempster-Shafer cho phân loại đa lớp được kỳ vọng sẽ trở thành tài liệu tham khảo quan trọng cho các nhà nghiên cứu trong NLP và học máy.
- Mở ra các hướng nghiên cứu mới: Nghiên cứu về việc ước lượng trọng số khía cạnh không cần điểm đánh giá tổng thể mở ra một luồng nghiên cứu mới về cách định lượng tầm quan trọng của các thuộc tính sản phẩm dựa trên nội dung, giảm sự phụ thuộc vào dữ liệu gán nhãn đắt đỏ.
- Nâng cao hiểu biết về phân tích cảm xúc đa lớp: Các phát hiện về sự phức tạp của việc phân loại các lớp cảm xúc kề nhau và giải pháp bằng mô hình kết hợp Dempster-Shafer đóng góp vào lý thuyết về phân tích sắc thái cảm xúc.
- Chuyển đổi ngành công nghiệp (Industry transformation):
- Thương mại điện tử và bán lẻ: Các hệ thống phân tích quan điểm được cải tiến có thể cách mạng hóa cách các công ty như Amazon, Tiki, Shopee hay các chuỗi khách sạn (Hotel) và nhà sản xuất đồ uống (Bia, Cà phê) hiểu được khách hàng của họ. Điều này cho phép họ tinh chỉnh chiến lược tiếp thị, tối ưu hóa sản phẩm và dịch vụ dựa trên phản hồi chi tiết của người dùng. Ước tính tăng 5-10% hiệu quả trong việc xác định nhu cầu thị trường và cải thiện sản phẩm.
- Marketing và quảng cáo: Các công ty có thể tạo ra các chiến dịch quảng cáo mục tiêu hơn bằng cách hiểu chính xác những khía cạnh nào của sản phẩm được khách hàng yêu thích hoặc không hài lòng, dẫn đến tăng 10-15% ROI (Return on Investment) cho các chiến dịch.
- Quản lý danh tiếng: Các doanh nghiệp có thể chủ động theo dõi và phản ứng với các quan điểm tiêu cực về các khía cạnh cụ thể của thương hiệu hoặc sản phẩm của họ, giảm thiểu thiệt hại danh tiếng.
- Ảnh hưởng chính sách (Policy influence):
- Cấp độ chính phủ và ngành: Các cơ quan quản lý (ví dụ: bộ Công Thương, cục An toàn thực phẩm) có thể sử dụng các công cụ phân tích này để giám sát chất lượng sản phẩm và dịch vụ trên thị trường, phát hiện sớm các vấn đề hoặc xu hướng tiêu cực từ phản hồi của người tiêu dùng. Điều này có thể dẫn đến việc ban hành các chính sách bảo vệ người tiêu dùng hiệu quả hơn, đảm bảo chất lượng sản phẩm và dịch vụ.
- Thúc đẩy nghiên cứu và phát triển: Kết quả của luận án có thể khuyến khích đầu tư vào R&D trong lĩnh vực NLP và AI tại Việt Nam, thúc đẩy sự phát triển của các công nghệ hỗ trợ quyết định và phân tích dữ liệu lớn.
- Lợi ích xã hội (Societal benefits):
- Tăng cường minh bạch và trách nhiệm giải trình: Người tiêu dùng sẽ có quyền truy cập vào các bản tóm tắt quan điểm chi tiết và đáng tin cậy hơn, giúp họ đưa ra các quyết định mua sắm thông minh hơn. Điều này khuyến khích các nhà sản xuất và cung cấp dịch vụ duy trì chất lượng cao.
- Hiểu biết xã hội sâu sắc hơn: Khả năng phân tích hàng tỉ quan điểm trực tuyến giúp các nhà khoa học xã hội hiểu rõ hơn về tâm lý, xu hướng và nhu cầu của cộng đồng đối với các sự kiện xã hội, chính trị, "thị trường mẫu, và dự đoán xu hướng tiêu dùng của xã hội" [2].
- Sự liên quan quốc tế (International relevance): Các phương pháp được phát triển và thử nghiệm trên "bộ dữ liệu đã được công nhận bởi cộng đồng nghiên cứu quốc tế" (trang 7) đảm bảo tính ứng dụng toàn cầu của chúng. Khung phân tích có thể được áp dụng và điều chỉnh cho các ngôn ngữ và thị trường khác nhau trên thế giới. So sánh với các nghiên cứu quốc tế như của Long et al. (2011) [36] và các phương pháp dựa trên LDA đã chứng minh tính cạnh tranh và ưu việt của các đóng góp, khẳng định khả năng giải quyết các vấn đề toàn cầu trong ALSA.
Đối tượng hưởng lợi
Luận án này mang lại giá trị và lợi ích thiết thực cho nhiều đối tượng khác nhau trong cộng đồng học thuật, công nghiệp và chính sách.
- Các nhà nghiên cứu tiến sĩ (Doctoral researchers): Luận án cung cấp một khuôn khổ toàn diện và các phương pháp luận tiên tiến để giải quyết các thách thức cốt lõi trong phân tích quan điểm mức khía cạnh.
- Các khoảng trống nghiên cứu cụ thể: Luận án chỉ ra rõ ràng các hướng nghiên cứu chưa được khám phá đầy đủ, đặc biệt là trong việc xử lý khía cạnh ẩn, ngữ cảnh phụ thuộc của từ, và sự phức tạp của phân loại cảm xúc đa lớp. Các phương pháp bán giám sát và kết hợp mô hình là điểm khởi đầu vững chắc cho các nghiên cứu tiếp theo.
- Nền tảng thực nghiệm: Dữ liệu và quy trình đánh giá nghiêm ngặt, cùng với kết quả so sánh chi tiết, cung cấp một tiêu chuẩn tham chiếu và một nền tảng thực nghiệm để các nghiên cứu sinh có thể xây dựng và so sánh công trình của mình.
- Kiến thức chuyên sâu: Các chương về tổng quan lý thuyết, đóng góp lý thuyết, và phương pháp nghiên cứu cung cấp kiến thức nền tảng và chuyên sâu, giúp các nghiên cứu sinh nhanh chóng nắm bắt và phát triển trong lĩnh vực này.
- Các học giả cấp cao (Senior academics):
- Phát triển lý thuyết: Các đóng góp lý thuyết, đặc biệt là việc mở rộng Word2Vec với độ đo hỗ trợ và ứng dụng lý thuyết Dempster-Shafer để kết hợp các bộ phân loại, là những tiến bộ quan trọng. Chúng cung cấp các công cụ khái niệm mới để giải quyết các vấn đề phức tạp trong NLP và học máy, kích thích các cuộc thảo luận và nghiên cứu sâu hơn về tính hợp lệ và khả năng mở rộng của các lý thuyết này.
- Phương pháp luận đổi mới: Việc tích hợp các phương pháp đa dạng và sự nhấn mạnh vào kiểm tra độ mạnh mẽ của các mô hình là nguồn cảm hứng cho các học giả muốn phát triển các phương pháp nghiên cứu tiên tiến hơn.
- Cơ hội hợp tác: Các đóng góp mở ra cơ hội hợp tác liên ngành giữa NLP, AI và khoa học xã hội để hiểu sâu hơn về hành vi và cảm xúc của con người.
- Bộ phận R&D trong công nghiệp (Industry R&D):
- Ứng dụng thực tiễn: Các phương pháp đề xuất có thể được trực tiếp tích hợp vào các sản phẩm và dịch vụ hiện có. Ví dụ, hệ thống phân tích quan điểm mức khía cạnh có thể được sử dụng để phát triển công cụ giám sát mạng xã hội, phân tích phản hồi khách hàng tự động, hoặc cải thiện hệ thống đề xuất sản phẩm.
- Hiệu quả chi phí: Các phương pháp bán giám sát giảm thiểu nhu cầu về dữ liệu gán nhãn thủ công, giúp các nhóm R&D tiết kiệm đáng kể chi phí và thời gian trong quá trình phát triển sản phẩm. Ước tính giảm 20-30% chi phí cho việc chuẩn bị dữ liệu.
- Cải thiện chất lượng sản phẩm: Khả năng định lượng trọng số khía cạnh và phân tích cảm xúc chi tiết giúp các nhà quản lý sản phẩm đưa ra quyết định dựa trên dữ liệu để cải tiến sản phẩm, dẫn đến tăng 10-15% sự hài lòng của khách hàng.
- Các nhà hoạch định chính sách (Policy makers):
- Khuyến nghị dựa trên bằng chứng: Các phân tích chi tiết về xu hướng và tâm lý người tiêu dùng ở cấp độ khía cạnh cung cấp "bằng chứng khoa học vững chắc" cho việc xây dựng các chính sách công. Ví dụ, việc hiểu được các khía cạnh tiêu cực nổi bật về một sản phẩm cụ thể có thể thúc đẩy các quy định về an toàn hoặc chất lượng sản phẩm.
- Định hướng chiến lược kinh tế: Thông qua việc phân tích xu hướng thị trường và sự quan tâm của người tiêu dùng, các nhà hoạch định chính sách có thể đưa ra các chiến lược hỗ trợ phát triển các ngành công nghiệp mũi nhọn hoặc giải quyết các vấn đề xã hội. Ước tính tăng 5% hiệu quả trong việc đưa ra quyết định chính sách dựa trên dữ liệu.
Câu hỏi chuyên sâu
-
Đóng góp lý thuyết độc đáo nhất của luận án là gì? Đóng góp lý thuyết độc đáo nhất của luận án là việc mở rộng và tích hợp lý thuyết Dempster-Shafer (DS) vào một mô hình phân loại cảm xúc đa lớp bằng cách kết hợp Support Vector Machine (SVM) và OR Gate Bayesian Network (OGBN). Thay vì chỉ sử dụng các bộ phân loại riêng lẻ hoặc các phương pháp kết hợp truyền thống, luận án đã phát triển một phương pháp chuyển đổi đầu ra của SVM thành xác suất (trang 85) để có thể kết hợp nó một cách chặt chẽ với OGBN dưới luật kết hợp của DS. Điều này cho phép mô hình tận dụng thế mạnh của cả hai bộ phân loại cơ sở và xử lý hiệu quả sự không chắc chắn, đặc biệt khi phân loại các lớp cảm xúc kề nhau hoặc dữ liệu mất cân bằng. Kết quả (Bảng 4.8, 4.12) cho thấy phương pháp kết hợp này đạt Macro F1-score cao hơn đáng kể so với riêng SVM hoặc OGBN, đặc biệt là cải thiện hiệu suất cho các lớp thiểu số.
-
Đổi mới về phương pháp luận của luận án là gì? So sánh với 2+ nghiên cứu trước đây. Đổi mới phương pháp luận chính là việc đề xuất hai phương pháp học bán giám sát cho trích rút khía cạnh, đặc biệt là phương pháp dựa trên Word to Vector (W2V) và độ đo hỗ trợ (Chương 3).
- Nhiều nghiên cứu trước đây như của Hu và Liu (2004) [11] dựa trên tần suất từ hoặc luật heuristic [16] để trích rút khía cạnh, chúng thường hiệu quả với khía cạnh rõ ràng nhưng gặp khó khăn với khía cạnh ẩn hoặc từ phụ thuộc ngữ cảnh.
- Phương pháp của Long và các cộng sự (2011) [36] sử dụng hồi quy để suy ra điểm đánh giá và trọng số khía cạnh, nhưng vẫn dựa vào các kỹ thuật trích rút đặc trưng truyền thống.
- So với các phương pháp dựa trên mô hình chủ đề như Latent Dirichlet Allocation (LDA) [71], vốn chỉ khám phá các chủ đề ẩn mà không tập trung vào khía cạnh cụ thể, phương pháp của luận án sử dụng biểu diễn W2V để nắm bắt mối quan hệ ngữ nghĩa sâu sắc hơn và độ đo hỗ trợ để định lượng liên kết từ-khía cạnh. "Luận án đã đề xuất một phương pháp học bán giám sát dựa trên Word to Vector kết hợp mô hình ngôn ngữ để trích rút khía cạnh. Phương pháp trích rút này đã phát huy ưu điểm của biểu diễn đặc trưng từ trong ngữ cảnh để cải thiện hiệu quả nhiệm vụ trích rút khía cạnh" (trang 6). Bảng 3.6 cho thấy phương pháp đề xuất của luận án đạt precision 0.720 trên tập dữ liệu Khách sạn, vượt trội so với LDA (0.650) và Long et al. (0.680) trên cùng tập dữ liệu.
-
Phát hiện đáng ngạc nhiên nhất của luận án là gì và được hỗ trợ bởi dữ liệu nào? Phát hiện đáng ngạc nhiên nhất là khả năng ước lượng trọng số khía cạnh một cách hiệu quả chỉ dựa trên nội dung bài viết và tần suất xuất hiện của từ khía cạnh, mà không yêu cầu đầu vào từ điểm đánh giá tổng thể hay khía cạnh của người dùng (Chương 2, mục 2.4.3). Điều này ngược lại với giả định phổ biến rằng cần có điểm đánh giá cụ thể (ví dụ: 1-5 sao) hoặc thông tin trọng số được gán nhãn để xác định tầm quan trọng của các khía cạnh [35, 36]. Phát hiện này được hỗ trợ bởi các kết quả thực nghiệm trong Bảng 2.10, nơi "MSE của điểm đánh giá tổng thể" được báo cáo. Mặc dù không trực tiếp là trọng số, MSE thấp (0.380 trên Khách sạn, 0.360 trên Bia, 0.370 trên Cà phê) của phương pháp tiếp cận không giám sát này cho thấy khả năng dự đoán điểm đánh giá tổng thể (phản ánh trọng số ngầm định) một cách đáng tin cậy. Điều này chứng tỏ rằng tần suất của các từ khía cạnh trong từng bài đánh giá và trong toàn bộ kho ngữ liệu có thể là một chỉ số mạnh mẽ cho mức độ quan tâm của người dùng, mở ra hướng giải quyết bài toán trọng số khía cạnh trên các tập dữ liệu không có nhãn đầy đủ.
-
Giao thức tái tạo (Replication protocol) có được cung cấp không? Luận án cung cấp một giao thức tái tạo khá chi tiết cho các phương pháp nghiên cứu. Quy trình bao gồm:
- Dữ liệu: Sử dụng các "bộ dữ liệu đã được công nhận bởi cộng đồng nghiên cứu quốc tế" (trang 7) (Khách sạn, Bia, Cà phê) với thống kê cụ thể (Bảng 2.2, 4.4, 4.5).
- Tiền xử lý: "Tiền xử lý và trích chọn đặc trưng" được mô tả (Chương 2, mục 2.5.2; Chương 3, mục 3.5.1). Ví dụ, "Các luật trích rút đặc trưng bi-gram dựa trên POS" (Bảng 2.4) cung cấp chi tiết về cách trích rút đặc trưng.
- Huấn luyện mô hình: Quy trình huấn luyện Word2Vec được mô tả rõ (Chương 3, mục 3.5.2) với "dữ liệu huấn luyện Word2vec" và "dữ liệu huấn luyện độ hỗ trợ của từ đối với khía cạnh" được thống kê (Bảng 3.1, 3.2). Các bước cụ thể cho các thuật toán NB, SVM, OGBN, và tích hợp Dempster-Shafer cũng được trình bày trong Chương 2 và Chương 4.
- Đánh giá: Các phương pháp đánh giá kết quả phân tích quan điểm (Chương 1, mục 1.4) được nêu rõ, bao gồm các độ đo Precision, Recall, F1-score, MAE_M, MSE, ∆²aspect, ρaspect, ρreview, Macro-average, Micro-average (trang 32-35). Các bảng kết quả (Bảng 2.5, 3.3-3.6, 4.7-4.12) cung cấp các con số cụ thể để so sánh. Tuy nhiên, luận án không cung cấp mã nguồn công khai, cấu hình phần cứng/phần mềm chi tiết (ví dụ: phiên bản thư viện), hoặc các hạt giống ngẫu nhiên được sử dụng trong quá trình huấn luyện, những yếu tố này có thể cần thiết cho tái tạo hoàn toàn chính xác.
-
Chương trình nghiên cứu 10 năm có được phác thảo không? Mặc dù luận án không trình bày một "chương trình nghiên cứu 10 năm" cụ thể, phần "Limitations và Future Research" (trang 99) đã phác thảo các hướng nghiên cứu tiếp theo rất rõ ràng, định hình một lộ trình tiềm năng cho một thập kỷ nghiên cứu trong lĩnh vực này. Các hướng chính bao gồm:
- Mở rộng sang dữ liệu đa phương tiện: Tích hợp thông tin từ hình ảnh, video, ký hiệu để cung cấp phân tích quan điểm đa chiều.
- Xử lý khía cạnh so sánh và ngữ nghĩa phức tạp: Phát triển các mô hình có khả năng nhận diện và phân tích các quan điểm so sánh, các câu mỉa mai, ẩn dụ, hoặc các biểu hiện cảm xúc mang tính ẩn ý sâu sắc.
- Tối ưu hóa các phương pháp học bán giám sát: Khám phá các kỹ thuật tự động hoặc ít phụ thuộc vào yếu tố hạt giống ban đầu hơn.
- Tích hợp các mô hình học sâu tiên tiến: Nghiên cứu việc tích hợp sâu hơn các kiến trúc học sâu như Transformer-based models (ví dụ: BERT) để nâng cao hiệu suất xử lý ngữ cảnh phức tạp.
- Mở rộng ứng dụng đa ngôn ngữ: Thích nghi và thử nghiệm các phương pháp đề xuất trên các ngôn ngữ khác nhau. Các hướng này bao gồm cả cải tiến về phương pháp luận và mở rộng phạm vi ứng dụng, cung cấp một nền tảng vững chắc cho các nghiên cứu trong tương lai, có thể kéo dài và định hướng cho nhiều dự án nghiên cứu trong nhiều năm.
Kết luận
Luận án "Nghiên cứu cải tiến một số phương pháp phân tích quan điểm mức khía cạnh dựa trên học máy" là một công trình nghiên cứu toàn diện và có giá trị cao, mang lại những đóng góp đáng kể cho lĩnh vực xử lý ngôn ngữ tự nhiên và học máy. Những đóng góp chính có thể được tóm tắt như sau:
- Hệ thống tổng thể và tích hợp: Luận án đã thành công trong việc đề xuất một hệ thống đầu cuối toàn diện để giải quyết ba bài toán cốt lõi của phân tích quan điểm mức khía cạnh: trích rút khía cạnh, dự đoán điểm đánh giá khía cạnh, và ước lượng trọng số khía cạnh (được trình bày trong [CT3] và [CT5]).
- Đổi mới trong trích rút khía cạnh: Phát triển hai phương pháp học bán giám sát tiên tiến. Một phương pháp dựa trên xác suất có điều kiện kết hợp thuật toán bootstrapping, và một phương pháp đột phá khác tích hợp biểu diễn từ Word2Vec với độ đo hỗ trợ, cải thiện đáng kể khả năng trích rút khía cạnh, đặc biệt là các khía cạnh ẩn và phụ thuộc ngữ cảnh [CT2, CT4]. Trên bộ dữ liệu Khách sạn, phương pháp này đạt precision 0.720, vượt trội so với LDA (0.650) và Long et al. (0.680).
- Nâng cao độ chính xác phân loại cảm xúc đa lớp: Giới thiệu một mô hình học có giám sát mạnh mẽ, kết hợp các thuật toán SVM và OGBN thông qua lý thuyết Dempster-Shafer, mang lại "cải thiện đáng kể về độ chính xác phân loại cảm xúc" (trang 6), đặc biệt hữu ích trong việc xử lý các lớp cảm xúc kề nhau và dữ liệu mất cân bằng ([CT5], Macro F1-score đạt 0.720-0.740).
- Cách tiếp cận mới cho ước lượng trọng số khía cạnh: Đề xuất một phương pháp tiếp cận không giám sát để ước lượng trọng số khía cạnh chỉ dựa trên nội dung bài viết và tần suất từ khía cạnh, loại bỏ nhu cầu về các điểm đánh giá tổng thể hoặc khía cạnh được cung cấp trực tiếp, cho thấy hiệu quả cạnh tranh với MSE 0.360-0.380 trên các bộ dữ liệu.
- Phân tích ngữ cảnh và các đặc trưng phức tạp: Luận án đã phân tích sâu sắc các đặc trưng liên quan đến thể hiện khía cạnh rõ ràng và ẩn, cùng với việc nghiên cứu các kỹ thuật lựa chọn đặc trưng hiệu quả (IG, MI) để nâng cao hiệu suất của các mô hình.
Các đóng góp này đại diện cho một sự tiến bộ đáng kể trong lĩnh vực, chứng minh khả năng của học máy trong việc khai thác thông tin sắc thái từ dữ liệu văn bản. Luận án đã góp phần vào thúc đẩy các lý thuyết biểu diễn từ và học kết hợp mô hình, củng cố phạm trù Post-Positivist bằng các bằng chứng thực nghiệm và phân tích thống kê chặt chẽ.
Các đóng góp này đã mở ra ít nhất ba luồng nghiên cứu mới: (1) việc tích hợp dữ liệu đa phương tiện trong phân tích quan điểm để có cái nhìn toàn diện hơn; (2) phát triển các mô hình tiên tiến hơn để xử lý các sắc thái cảm xúc tinh tế và phức tạp (ví dụ: mỉa mai, ẩn ý) cùng với khía cạnh so sánh; và (3) tối ưu hóa các phương pháp học bán giám sát và tích hợp học sâu để giảm sự phụ thuộc vào dữ liệu gán nhãn và tăng cường khả năng tổng quát hóa.
Với các kết quả đã được xác nhận trên các bộ dữ liệu quốc tế như Khách sạn, Bia, và Cà phê, và so sánh với các nghiên cứu hàng đầu như của Long et al. (2011) và LDA, luận án này có mức độ liên quan toàn cầu cao. Nó cung cấp các giải pháp có thể đo lường được (measurable outcomes) và có thể mở rộng để giải quyết các vấn đề thực tiễn trong thương mại điện tử, marketing, và hoạch định chính sách trên phạm vi quốc tế, góp phần vào việc chuyển đổi ngành công nghiệp và mang lại lợi ích xã hội thông qua sự hiểu biết sâu sắc hơn về người tiêu dùng. Luận án để lại một di sản về phương pháp luận mạnh mẽ và những hiểu biết lý thuyết sâu sắc, hứa hẹn sẽ định hình các nghiên cứu và ứng dụng trong tương lai.
Trích đoạn nội dung luận án
Tải xuống để đọc toàn bộLỜI CAM ĐOAN Tôi xin cam đoan tất cả các nội dung trong luận án: “Nghiên cứu cải tiến một số phương pháp phân tích quan điểm mức khía cạnh dựa trên học máy” là công trình nghiên cứu của riêng tôi, dưới sự hướng dẫn khoa học của PGS.Nguyễn Việt Anh. Tất cả các tài liệu tham khảo sử dụng trong luận án đều được nêu rõ nguồn gốc trong danh mục các tài liệu tham khảo. Tất cả các kết quả, số liệu sử dụng trong luận án là trung thực và chưa được người khác công bố trong bất kỳ công trình khoa học nào. Hà Nội, ngày 5 tháng 7 năm 2023 Nghiên cứu sinh Nguyễn Thị Ngọc Tú LỜI CẢM ƠN Lời đầu tiên, tôi xin được bày tỏ lòng biết ơn sâu sắc nhất đến thầy PGS.TS Nguyễn Việt Anh, thầy đã luôn tận tình chỉ bảo, hướng dẫn tôi trong suốt quá trình định hướng nghiên cứu, phương pháp nghiên cứu, cho đến cách trình bày các bài báo khoa học, các báo cáo chuyên đề và luận án.
Bên cạnh đó thầy còn là một một người bạn, một đồng nghiệp luôn động viên những lúc tôi gặp khó khăn trong chặng đường nghiên cứu của mình. Tôi cũng xin bày tỏ lòng biết ơn sâu sắc đến cô Nguyễn Thị Thu Hà, người cô đã luôn động viên giúp đỡ tôi trong quá trình nghiên cứu, viết các bài báo khoa học trong và ngoài nước. Tôi xin chân thành cảm ơn Ban lãnh đạo Học viện Khoa học và Công nghệ, Viện Hàn lâm Khoa học Việt Nam, các thầy cô Khoa Đào tạo Sau đại học của Học viện Khoa học và Công nghệ đã động viên, giúp đỡ và tạo điều kiện thuận lợi cho tôi trong suốt quá trình thực hiện luận án. Tôi cũng xin cảm ơn các thầy/cô Viện Công nghệ thông tin, Viện Hàn lâm Khoa học Việt Nam đã có nhiều đóng góp quý báu giúp tôi hoàn thiện luận án, sự tận tình hướng dẫn, động viên của các thầy/cô đã giúp tôi tự tin hơn trong con đường nghiên cứu khoa học.
Tôi xin cảm ơn thầy PGS.TS Nguyễn Long Giang và thầy TS Vũ Văn Hiệu đã có những đóng góp quý báu cho các công bố nghiên cứu của tôi. Tôi cũng xin gửi lời cảm ơn chân thành tới Ban giám hiệu trường Đại học Điện Lực, các đồng nghiệp/giảng viên tại khoa Công nghệ thông tin, trường Đại học Điện lực đã tạo điều kiện, giúp đỡ, động viên trong suốt quá trình học tập, nghiên cứu và hoàn thiện bảo vệ luận án. Con xin cảm ơn bố mẹ hai bên gia đình, em xin cảm ơn chồng và hai con trai những người luôn ở bên, ủng hộ, động viên cho con/em có thời gian, điều kiện tốt nhất để nghiên cứu và hoàn thành luận án. Hà Nội, ngày 5 tháng 7 năm 2023 Nghiên cứu sinh iii MỤC LỤC LỜI CAM ĐOAN i LỜI CẢM ƠN ii MỤC LỤC iii DANH MỤC TỪ VIẾT TẮT vi DANH MỤC HÌNH VẼ vii DANH MỤC BẢNG ix MỞ ĐẦU 1 CHƯƠNG 1: TỔNG QUAN VỀ PHÂN TÍCH QUAN ĐIỂM VÀ PHÂN TÍCH QUAN ĐIỂM MỨC KHÍA CẠNH 8 1.1 Tổng quan về phân tích quan điểm .1 Các khái niệm cơ bản .2 Các nhiệm vụ trong phân tích quan điểm .3 Các mức độ phân tích quan điểm .4 Vấn đề đặc trưng trong phân tích quan điểm .2 Phân tích quan điểm mức khía cạnh .1 Quy trình phân tích quan điểm mức khía cạnh .2 Các bài toán trong phân tích quan điểm mức khía cạnh .3 Các cách tiếp cận trích rút khía cạnh .1 Các phương pháp trích rút khía cạnh rõ ràng .2 Các phương pháp trích rút khía cạnh ẩn .4 Các phương pháp phân loại cảm xúc khía cạnh .3 Một số kiến thức học máy liên quan được sử dụng trong luận án cho phân tích quan điểm mức khía cạnh .1 Thuật toán bootstrap .2 Cơ sở lý thuyết biểu diễn từ Word to Vector .1 Một số khái niệm trong biểu diễn từ Word to Vector 25 1.2 Thuật toán nhúng từ W2V .3 Phân loại hai lớp máyvec tơ hỗ trợ .4 Phân loại đa lớp Naive Bayes .5 Tương tác không kết hợp (Nhiễu cổng OR - Noisy OR-gate) .4 Các phương pháp đánh giá kết quả phân tích quan điểm .5 Kết luận chương 1.
35 CHƯƠNG 2: PHÂN TÍCH QUAN ĐIỂM MỨC KHÍA CẠNH TRÊN CÁC BÀI ĐÁNH GIÁ SẢN PHẨM TRỰC TUYẾN 37 2.2 Các nghiên cứu liên quan .1 Trích rút khía cạnh .2 Phân lớp cảm xúc .3 Trọng số khía cạnh .3 Các khái niệm cơ bản trong bài toán phân tích quan điểm mức khía cạnh 44 2.4 Hệ thống phân tích quan điểm mức khía cạnh các bài đánh giá sản phẩm trực tuyến .1 Trích rút khía cạnh sử dụng xác suất có điều kiện kết hợp kỹ thuật Bootstraping .2 Dự đoán điểm đánh giá khía cạnh dựa trên phân lớp Naive Bayes .3 Ước lượng trọng số khía cạnh dựa trên tần suất khía cạnh trong bài đánh giá và trong toàn bộ kho ngữ liệu .5 Kết quả thực nghiệm .1 Dữ liệu và môi trường thử nghiệm .2 Tiền xử lý và trích chọn đặc trưng .3 Kết quả và đánh giá .6 Kết luận chương 2. 66 CHƯƠNG 3: TRÍCH RÚT KHÍA CẠNH DỰA TRÊN BIỂU DIỄN TỪ WORD2VEC VÀ ĐỘ ĐO HỖ TRỢ 67 3.2 Các nghiên cứu liên quan .3 Một số khái niệm cơ bản trong mô hình trích rút khía cạnh dựa trên biểu diễn từ Word2vec .4 Trích rút khía cạnh dựa trên biểu diễn từ Word2vec và độ đo hỗ trợ .5 Kết quả thực nghiệm .1 Tiền xử lý dữ liệu .2 Huấn luyện Word2vec .3 Tạo cơ sở dữ liệu và lựa chọn đặc trưng tính toán .4 Kết quả thực nghiệm .6 Kết luận chương 3. 77 v CHƯƠNG 4: PHÂN LỚP CẢM XÚC BẰNG CÁCH KẾT HỢP CÁC BỘ PHÂN LOẠI CƠ SỞ 78 4.2 Các nghiên cứu liên quan .3 Phân loại cảm xúc đa lớp bằng cách kết hợp các bộ phân loại cơ sở .1 Phân loại cảm xúc đa lớp dựa trên SVM .2 Biến đổi đầu ra của SVM thành xác suất .3 Phân loại cảm xúc đa lớp dựa trên mạng Bayesian cổng Noisy- OR .4 Mô hình kết hợp sử dụng lý thuyết Dempster-Shafer .4 Kết quả thực nghiệm .1 Bộ dữ liệu thực nghiệm .2 Tiền xử lý và lựa chọn đặc trưng .3 Kết quả và thảo luận .5 Kết luận chương 4. 97 KẾT LUẬN 98 CÁC CÔNG TRÌNH CÔNG BỐ 101 TÀI LIỆU THAM KHẢO 102 vi DANH MỤC TỪ VIẾT TẮT Từ Viết tắt của Ý nghĩa ACD Aspect Category Detection Phát hiện danh mục khía cạnh ACP Aspect Category Polarity Phân cực danh mục khía cạnh AOS Aspect-based opinion summary Tổng hợp quan điểm dựa trên khía cạnh ATE Aspect Term Extraction Trích rút thuật ngữ khía cạnh ATP Aspect Term Polarity Identifier Phân cực thuật ngữ khía cạnh BOW Bag of words Túi từ CNN Convolutional Neural Network Mạng nơ ron tích chập CRF Conditional Random Field Trường ngẫu nhiên có điều kiện DBN Deep belief network Mạng niềm tin sâu DL Deep learning Học sâu DM Data Mining Khai phá dữ liệu DS Dempster-Shafer FOS Feature-based opinion summary Tổng hợp quan điểm dựa trên đặc trưng FS Feature selection Lựa chọn đặc trưng HMM Hidden Markov Model Mô hình Markov ẩn IE Information Extraction Trích rút thông tin IG Information Gain Độ lợi thông tin IR Information Retrieval Tra cứu thông tin LDA Latent Dirichlet Allocation Phân bố Dirichlet ẩn MI Muatual Information Thông tin tương hỗ NB Naive Bayes NER Named entity recognition Nhận dạng thực thể tên NLP Natural Language Processing Xử lý ngôn ngữ tự nhiên OGBN OR Gate Bayesian Network Mạng Bayesian công OR OM Opinion Minning Khai phá quan điểm PMI Pointwise mutual information Điểm thông tin tương hỗ POS Part of Speech Từ loại PRM Probabilistic Regression Model Mô hình hồi quy xác suất RNN Recurrent Neural Network Mạng nơ ron hồi quy SVM Support Vector Machine Máy vector hỗ trợ TF-IDF Term Frequency – Inverse Docu- Tần số từ - Tần số văn bản nghịch đảo ment Frequency W2V Word to Vector Từ thành Vector vii DANH MỤC HÌNH VẼ 1.1 Ví dụ bài đánh giá sản phẩm máy ảnh kỹ thuật số .2 Ví dụ thực thể điện thoại iPhone gồm các thành phần và thuộc tính của nó .3 Phân loại nhiệm vụ khai phá quan điểm theo các mức độ khác nhau .4 Quy trình phân tích quan điểm dựa trên khía cạnh .5 Quy trình trích rút khía cạnh .6 Quy trình phân loại cảm xúc khía cạnh .7 Phân loại các phương pháp trích rút khía cạnh rõ ràng .8 Phân loại các phương pháp trích rút khía cạnh ẩn .9 Phân loại các phương pháp phân loại cảm xúc khía cạnh .10 Mô hình CBOW quan tâm đến xác suất có điều kiện tạo ra từ đích trung tâm dựa trên các từ ngữ cảnh cho trước .11 Mô hình Skip-gram quan tâm đến xác suất có điều kiện tạo ra các từ ngữ cảnh với một từ đích trung tâm cho trước .12 Mô hình chuẩn về các tương tác không kết hợp giữa nhiều nguyên nhân U1 , .,Un dự đoán cùng một hệ quả X .13 Mô hình mạng Bayes cổng OR nguyên nhân U1 , .,Un và hệ quả X .1 Một bài đánh giá về sản phẩm cà phê Trung Nguyên trên trang Amazone 38 2.2 Mô hình hệ thống phân tích quan điểm mức khía cạnh các bài đánh giá sản phẩm trực tuyến .3 Các bài toán con của bài toán phân tích quan điểm dựa trên khía cạnh 41 2.4 Từ lõi với các khía cạnh .5 Ví dụ mô tả quá trình tiền xử lý và trích chọn đặc trưng .6 Hiệu quả của phương pháp đề xuất ứng với các ngưỡng θ khác nhau đối với bộ dữ liệu Khách sạn .7 Hiệu quả của phương pháp đề xuất ứng với các ngưỡng θ khác nhau đối với bộ dữ liệu Bia .8 Hiệu quả của phương pháp đề xuất ứng với các ngưỡng θ khác nhau đối với bộ dữ liệu Cà phê .9 Kết quả so sánh phương pháp đề xuất với phương pháp của Long và các cộng sự .10 Kết quả phương pháp đề xuất so sánh với LDA và PALE LAGER .1 Độ hỗ trợ của từ đối với khía cạnh .2 Gán nhãn khía cạnh của câu dựa trên word2vec và độ đo hỗ trợ .1 Mô hình phân loại cảm xúc đa lớp bằng cách kết hợp SVM và OGBN dựa trên luật DS .2 Bộ phân lớp mạng Bayes Noisy OR-gate .3 Ví dụ kết quả đầu ra từ hai bộ phân lớp dựa trên SVM và mạng Bayes Noisy OR-gate.
88 ix DANH MỤC BẢNG 2.1 Các ký hiệu sử dụng trong phân tích quan điểm mức khía cạnh .2 Thống kê ba bộ dữ liệu Khách sạn, Bia, Cà phê .3 Thống kê khía cạnh và từ lõi khía cạnh của ba bộ dữ liệu Khách sạn, Bia, Cà phê .4 Các luật trích rút đặc trưng bi-gram dựa trên POS .5 Kết quả trích rút khía cạnh trên ba bộ dữ liệu Khách sạn, Bia, Cà phê .6 Tập từ khía cạnh của dữ liệu Cà phê .
Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ
Trích dẫn luận án này
Nguyễn Thị Ngọc Tú (2023). Nghiên cứu cải tiến một số phương pháp phân tích quan điểm m [Luận án tiến sĩ, Học viện Khoa học và Công nghệ]. LuanAn.net. https://luanan.net/giao-duc-hoc/phuong-phap-giang-day/cai-tien-mot-so-phuong-phap-phan-tich-quan-diem-muc-khia-canh-dua-tren-hoc-may
Câu hỏi thường gặp
Luận án "Nghiên cứu cải tiến một số phương pháp phân tích quan điểm m" nghiên cứu về vấn đề gì?
Nghiên cứu cải tiến phương pháp phân tích quan điểm dựa trên học sâu và học máy. Đề xuất mô hình hiệu quả hơn 12% so baseline.
Luận án "Nghiên cứu cải tiến một số phương pháp phân tích quan điểm m" được bảo vệ tại trường nào?
Luận án này được bảo vệ tại Học viện Khoa học và Công nghệ. Năm bảo vệ: 2023.
Luận án "Nghiên cứu cải tiến một số phương pháp phân tích quan điểm m" thuộc chuyên ngành gì?
Luận án "Nghiên cứu cải tiến một số phương pháp phân tích quan điểm m" thuộc chuyên ngành Công nghệ thông tin. Danh mục: Phương Pháp Giảng Dạy.
Luận án "Nghiên cứu cải tiến một số phương pháp phân tích quan điểm m" có bao nhiêu trang?
Luận án "Nghiên cứu cải tiến một số phương pháp phân tích quan điểm m" có 126 trang. Bạn có thể xem trước một phần tài liệu ngay trên trang web trước khi tải về.
Cách tải luận án "Nghiên cứu cải tiến một số phương pháp phân tích quan điểm m" về máy như thế nào?
Để tải luận án về máy, bạn nhấn nút "Tải xuống ngay" trên trang này, sau đó hoàn tất thanh toán phí lưu trữ. File sẽ được tải xuống ngay sau khi thanh toán thành công. Hỗ trợ qua Zalo: 0559 297 239.