Luận án tiến sĩ khoa học máy tính phân tích cảm xúc trên cơ sở trị cảm xúc chuyể
Luận án tiến sĩ khoa học máy tính phân tích cảm xúc trên cơ sở dữ liệu đa ngôn ngữ. Đề xuất mô hình học sâu cải tiến hiệu suất vượt trội.
Năm xuất bản
Số trang
193
Thời gian đọc
29 phút
Lượt xem
1
Lượt tải
0
Phí lưu trữ
50 Point
Tổng quan nhanh
- Chủ đề:
- Giới thiệu Phân tích Cảm xúc Tiếng Việt và NLP
- Số trang:
- 193 trang
- Trường:
- Đại học Bách khoa
- Chuyên ngành:
- Khoa học máy tính
- Tác giả:
- Trần Khải Thiện
- Năm:
- 2021
Tóm tắt nội dung luận án
I.Giới thiệu Phân tích Cảm xúc Tiếng Việt và NLP
Phân tích cảm xúc là một lĩnh vực trọng tâm của xử lý ngôn ngữ tự nhiên (NLP). Nó tập trung vào việc xác định và trích xuất ý kiến, thái độ, và cảm xúc từ văn bản. Công nghệ này đặc biệt hữu ích cho việc khai thác các ý kiến trong nội dung do người dùng tạo ra trên các nền tảng mạng xã hội, diễn đàn trực tuyến hoặc đánh giá sản phẩm. Tuy nhiên, các hệ thống phân tích cảm xúc hiện tại vẫn còn nhiều hạn chế, đặc biệt khi áp dụng cho tiếng Việt. Ngôn ngữ tiếng Việt sở hữu cấu trúc ngữ pháp phức tạp, nhiều sắc thái biểu cảm đặc trưng, và thường xuyên xuất hiện các hiện tượng ngôn ngữ gây nhầm lẫn. Điều này làm cho bài toán nhận diện cảm xúc trở nên khó khăn hơn. Các công cụ hiện tại thường gặp phải vấn đề về hiệu năng thấp, xuất phát từ bản chất phức tạp của bài toán NLP này. Chúng chưa thể xử lý hiệu quả một số hiện tượng ngôn ngữ như dịch chuyển cảm xúc theo ngữ cảnh và văn bản mang ý kiến hỗn hợp. Luận án này đặt mục tiêu giải quyết những thách thức cố hữu đó. Nó nhằm nâng cao đáng kể độ chính xác của quá trình phân tích cảm xúc cho tiếng Việt. Việc này dựa trên nền tảng vững chắc của khoa học dữ liệu và sử dụng các công cụ mạnh mẽ từ trí tuệ nhân tạo (AI). Nghiên cứu này đóng góp vào sự phát triển của các thuật toán phân loại cảm xúc.
1.1. Thách thức trong Nhận diện Cảm xúc hiệu quả
Nhận diện cảm xúc là một bài toán phức tạp trong lĩnh vực xử lý ngôn ngữ tự nhiên. Tiếng Việt sở hữu nhiều đặc điểm ngôn ngữ độc đáo, tạo ra không ít khó khăn cho việc phân tích. Một trong những thách thức lớn nhất là hiện tượng dịch chuyển cảm xúc theo ngữ cảnh. Đây là khi sắc thái cảm xúc của một từ hoặc cụm từ thay đổi hoàn toàn tùy thuộc vào các từ xung quanh. Ví dụ, từ "khủng" có thể mang nghĩa "khủng khiếp" (tiêu cực) trong một câu, nhưng lại có nghĩa "tuyệt vời" (tích cực) trong câu khác. Ngoài ra, văn bản mang ý kiến hỗn hợp, tức là chứa cả cảm xúc tích cực và tiêu cực trong cùng một đoạn, cũng là một trở ngại đáng kể. Việc xác định chính xác sắc thái cảm xúc trong những trường hợp này trở nên cực kỳ phức tạp đối với các mô hình hiện tại. Hầu hết các phương pháp truyền thống thường bỏ qua hoặc xử lý chưa hiệu quả các yếu tố ngữ cảnh tinh tế này. Điều đó dẫn đến kết quả phân loại cảm xúc không chính xác, làm giảm độ tin cậy của hệ thống. Do đó, cần thiết phải phát triển các phương pháp tiếp cận mới, toàn diện hơn, có khả năng nắm bắt được sự tinh tế của ngôn ngữ. Các kỹ thuật học máy và học sâu được xem xét như giải pháp tiềm năng để giải quyết những vấn đề này trong khoa học dữ liệu.
1.2. Vai trò của Xử lý Ngôn ngữ Tự nhiên NLP
Xử lý ngôn ngữ tự nhiên (NLP) là nền tảng không thể thiếu của phân tích cảm xúc. NLP cung cấp các công cụ và kỹ thuật cho phép máy tính hiểu, diễn giải và xử lý ngôn ngữ con người. Trong bối cảnh phân tích cảm xúc tiếng Việt, các kỹ thuật NLP giúp thực hiện nhiều tác vụ quan trọng như tách từ, gán nhãn từ loại, phân tích cú pháp, và trích xuất thông tin. Nó cũng hỗ trợ biểu diễn văn bản thành các định dạng mà mô hình học máy và học sâu có thể xử lý hiệu quả. Tuy nhiên, việc áp dụng NLP cho tiếng Việt đối mặt với nhiều thách thức đặc thù. Các công cụ và tài nguyên cần được tùy chỉnh và cải tiến để phù hợp với ngữ cảnh ngôn ngữ. Luận án này phát triển các phương pháp NLP tiên tiến, đặc biệt chú trọng vào việc giải quyết vấn đề dịch chuyển cảm xúc. Việc áp dụng các kỹ thuật từ học máy (Machine Learning) và học sâu (Deep Learning), bao gồm cả mạng nơ-ron, là cần thiết để xây dựng một hệ thống nhận diện cảm xúc mạnh mẽ và chính xác. Trí tuệ nhân tạo đóng vai trò quan trọng trong việc thúc đẩy khả năng hiểu ngôn ngữ của máy tính.
II.Nâng cao Phân tích Cảm xúc với Dịch chuyển Ngữ cảnh
Luận án này đặc biệt chú trọng hiện tượng dịch chuyển cảm xúc theo ngữ cảnh. Đây là yếu tố then chốt để cải thiện hiệu năng của các hệ thống phân tích cảm xúc. Việc hiểu và xử lý hiệu quả dịch chuyển cảm xúc giúp hệ thống đạt được độ chính xác cao hơn. Một phương pháp tiếp cận mới được đề xuất, tập trung vào sự thay đổi trị cảm xúc của từ và cụm từ. Cách tiếp cận này áp dụng đặc biệt cho các nhận xét tiếng Việt. Các thử nghiệm thực nghiệm đã chứng minh rằng việc quan tâm đúng mức đến ngữ cảnh là chìa khóa để giải quyết vấn đề. Điều này giúp nâng cao đáng kể độ tin cậy của phân tích cảm xúc. Khoa học máy tính cung cấp khung lý thuyết và công cụ cần thiết để phát triển mô hình này. Việc tích hợp sâu sắc ngữ nghĩa vào quá trình phân tích là trọng tâm của nghiên cứu. Điều này đảm bảo rằng các sắc thái cảm xúc được nắm bắt một cách toàn diện, vượt qua những hạn chế của các phương pháp chỉ dựa vào từ điển tĩnh. Công trình này đóng góp đáng kể vào lĩnh vực trí tuệ nhân tạo và xử lý ngôn ngữ tự nhiên, đặc biệt là nhận diện cảm xúc cho tiếng Việt.
2.1. Xây dựng Kho Từ vựng Cảm xúc Tiếng Việt đặc thù
Một mục tiêu quan trọng của luận án là xây dựng một kho từ vựng cảm xúc toàn diện. Kho từ vựng này được thiết kế riêng cho tiếng Việt. Nó phục vụ cho việc phân tích cảm xúc ở cả mức từ, cụm từ và mức khía cạnh. Kho từ vựng được xây dựng để phản ánh chính xác các sắc thái cảm xúc, bao gồm cả những từ ngữ có khả năng dịch chuyển nghĩa tùy theo ngữ cảnh. Mỗi từ hoặc cụm từ trong kho từ vựng đều được gán một trị cảm xúc cơ bản, đóng vai trò làm điểm khởi đầu cho việc phân tích ngữ cảnh. Đây là một nguồn dữ liệu quan trọng, cung cấp nền tảng vững chắc cho các hệ thống phân loại cảm xúc tiếp theo. Việc có một kho từ vựng chất lượng cao giúp giảm thiểu sự phụ thuộc vào dữ liệu gán nhãn thủ công tốn kém và mất thời gian. Nó cung cấp một nền tảng mạnh mẽ cho các kỹ thuật xử lý ngôn ngữ tự nhiên, hỗ trợ việc biểu diễn văn bản một cách hiệu quả hơn. Kho từ vựng này là một đóng góp thiết yếu vào khoa học dữ liệu tiếng Việt, đặc biệt trong lĩnh vực phân tích cảm xúc.
2.2. Hiểu rõ Dịch chuyển Trị cảm xúc theo ngữ cảnh
Dịch chuyển trị cảm xúc là một hiện tượng phức tạp và là thách thức lớn đối với nhận diện cảm xúc. Hiện tượng này xảy ra khi sắc thái cảm xúc của một từ hoặc cụm từ thay đổi hoàn toàn tùy thuộc vào ngữ cảnh xung quanh nó. Ví dụ điển hình là câu "phim dở nhưng diễn viên đẹp". Trong câu này, "dở" mang nghĩa tiêu cực, nhưng "đẹp" lại mang nghĩa tích cực, tạo nên một ý kiến hỗn hợp. Hệ thống phân tích cảm xúc cần có khả năng nhận diện và xử lý linh hoạt sự thay đổi này. Luận án đã nghiên cứu sâu các trường hợp cụ thể gây ra dịch chuyển cảm xúc trong văn bản tiếng Việt. Nó phát triển một mô hình tính toán trị cảm xúc động. Mô hình này không chỉ dựa vào giá trị cảm xúc tĩnh của từ mà còn xem xét toàn bộ ngữ cảnh xung quanh từ đó. Việc này giúp hệ thống nhận diện cảm xúc chuẩn xác hơn trong những tình huống phức tạp. Đây là một đóng góp lớn vào lĩnh vực trí tuệ nhân tạo và khoa học máy tính, đặc biệt là trong việc phát triển các thuật toán phân loại có khả năng hiểu sâu sắc hơn về ngôn ngữ con người.
III.Ứng dụng Học máy Học sâu trong Phân loại Cảm xúc
Luận án áp dụng các kỹ thuật tiên tiến nhất từ học máy (Machine Learning) và học sâu (Deep Learning) để giải quyết bài toán phân loại cảm xúc. Một phương pháp định hướng ngữ nghĩa được kết hợp một cách chiến lược với các mô hình này. Sự kết hợp này tạo ra một phương pháp học tổ hợp mạnh mẽ và linh hoạt. Nó đặc biệt hiệu quả trong việc xử lý các văn bản tiếng Việt phức tạp, nơi có nhiều sắc thái và hiện tượng dịch chuyển cảm xúc. Việc sử dụng mạng nơ-ron (Neural Networks), một nhánh của học sâu, giúp mô hình tự động học được các biểu diễn văn bản sâu sắc và trừu tượng. Các biểu diễn này phản ánh tốt hơn ngữ nghĩa và cảm xúc thực sự của văn bản. Điều này mang lại hiệu suất phân loại cao hơn đáng kể so với các phương pháp truyền thống. Trí tuệ nhân tạo (AI) đóng vai trò trung tâm trong quá trình phát triển các mô hình này, cung cấp khả năng học hỏi và thích nghi vượt trội. Công trình này minh chứng sức mạnh của khoa học dữ liệu khi kết hợp các phương pháp đa dạng để giải quyết những thách thức phức tạp.
3.1. Kết hợp Phương pháp Định hướng Ngữ nghĩa sâu sắc
Phương pháp định hướng ngữ nghĩa là trọng tâm trong cách tiếp cận của luận án. Nó giúp hệ thống không chỉ phân tích cảm xúc dựa trên từ khóa đơn lẻ. Thay vào đó, nó hiểu sâu sắc hơn về ý nghĩa tổng thể của văn bản và mối quan hệ giữa các thành phần ngôn ngữ. Việc này đặc biệt quan trọng khi xử lý hiện tượng dịch chuyển cảm xúc. Phương pháp định hướng ngữ nghĩa cung cấp một cái nhìn toàn diện hơn về ngữ cảnh, cho phép mô hình điều chỉnh trị cảm xúc của từ dựa trên môi trường xung quanh. Bằng cách tích hợp sâu sắc ngữ nghĩa vào các kỹ thuật học máy, hệ thống nhận diện cảm xúc có khả năng nắm bắt được những sắc thái tinh tế nhất. Điều này giúp cải thiện đáng kể độ chính xác tổng thể của hệ thống, giảm thiểu sai sót do hiểu lầm ngữ cảnh. Việc này là một bước tiến quan trọng trong khoa học dữ liệu, mở ra khả năng cho các hệ thống trí tuệ nhân tạo có thể hiểu ngôn ngữ con người một cách chân thực hơn.
3.2. Phát triển Thuật toán Phân loại Cảm xúc hiệu quả
Luận án tập trung vào việc phát triển và ứng dụng các thuật toán phân loại tiên tiến. Các kỹ thuật học máy truyền thống như máy vector hỗ trợ (SVM) hoặc Naive Bayes được xem xét và so sánh. Tuy nhiên, trọng tâm chính là các mô hình học sâu, đặc biệt là mạng nơ-ron. Mạng nơ-ron có khả năng vượt trội trong việc tự động trích xuất các đặc trưng phức tạp từ dữ liệu thô. Điều này giúp xử lý biểu diễn văn bản một cách hiệu quả hơn, không cần đến quá trình trích xuất đặc trưng thủ công tốn thời gian. Các kiến trúc mạng nơ-ron như CNN (Mạng nơ-ron tích chập) hoặc RNN (Mạng nơ-ron hồi quy) được tùy chỉnh và tối ưu hóa cho bài toán phân loại cảm xúc tiếng Việt. Mục tiêu là đạt được hiệu suất cao nhất trong việc phân loại cảm xúc ở cấp độ văn bản. Sự kết hợp giữa các thuật toán học máy và học sâu, cùng với phương pháp định hướng ngữ nghĩa, cho thấy hiệu quả vượt trội. Các thuật toán này góp phần quan trọng vào việc xây dựng một hệ thống trí tuệ nhân tạo mạnh mẽ cho nhận diện cảm xúc.
IV.Khoa học Dữ liệu cải thiện Hệ thống Nhận diện Cảm xúc AI
Khoa học dữ liệu đóng vai trò thiết yếu, cung cấp nền tảng thực nghiệm vững chắc để đánh giá và cải thiện hệ thống. Các thử nghiệm được thực hiện một cách kỹ lưỡng trên các tập dữ liệu tiếng Việt thực tế, đa dạng. Kết quả của những thực nghiệm này đã chứng minh rõ ràng hiệu quả vượt trội của phương pháp đề xuất. Cụ thể, việc quan tâm đúng mức đến hiện tượng dịch chuyển cảm xúc theo ngữ cảnh đã mang lại độ chính xác cao hơn đáng kể cho hệ thống. Đồng thời, sự kết hợp linh hoạt và hiệu quả của nhiều kỹ thuật khác nhau cũng là yếu tố then chốt. Nghiên cứu này không chỉ đóng góp vào lĩnh vực học máy và học sâu mà còn mở ra những hướng mới cho nhận diện cảm xúc trong trí tuệ nhân tạo. Nó cung cấp bằng chứng thực nghiệm về việc tích hợp sâu sắc ngữ nghĩa và ngữ cảnh có thể dẫn đến những cải tiến đáng kể. Các phát hiện này có ý nghĩa quan trọng đối với các ứng dụng thực tế, từ phân tích ý kiến khách hàng đến giám sát mạng xã hội.
4.1. Đánh giá Hiệu năng Hệ thống AI chính xác
Hiệu năng của hệ thống được đánh giá một cách cẩn thận và toàn diện. Các chỉ số đo lường hiệu suất tiêu chuẩn như độ chính xác (Accuracy), độ phủ (Recall), và F1-score được sử dụng để định lượng kết quả. Các thực nghiệm được tiến hành trên nhiều tập dữ liệu tiếng Việt khác nhau, đảm bảo tính khách quan và khả năng tổng quát hóa của mô hình. Kết quả thực nghiệm đã cho thấy sự cải thiện rõ rệt về hiệu suất so với các phương pháp phân tích cảm xúc truyền thống. Hệ thống mới, tích hợp việc xử lý dịch chuyển cảm xúc, đã vượt trội trong việc phân loại cảm xúc. Sự chú trọng vào ngữ cảnh và sự kết hợp của các phương pháp học máy và học sâu đóng góp lớn vào sự cải thiện này. Điều này khẳng định tính đúng đắn và hiệu quả của hướng nghiên cứu. Khoa học máy tính đã cung cấp các công cụ và phương pháp luận cần thiết để đạt được những kết quả ấn tượng này, đẩy mạnh khả năng của trí tuệ nhân tạo trong việc hiểu ngôn ngữ.
4.2. Tiềm năng Ứng dụng Trí tuệ Nhân tạo rộng lớn
Nghiên cứu này có tiềm năng ứng dụng rộng lớn trong nhiều lĩnh vực của trí tuệ nhân tạo. Nó có thể cải thiện đáng kể các công cụ phân tích ý kiến khách hàng, giúp doanh nghiệp hiểu sâu hơn về phản hồi của người dùng. Các hệ thống khuyến nghị sản phẩm và dịch vụ cũng sẽ được hưởng lợi, trở nên thông minh và cá nhân hóa hơn. Ứng dụng trong giám sát mạng xã hội để theo dõi xu hướng dư luận hoặc phát hiện các vấn đề xã hội là hoàn toàn khả thi. Việc nhận diện cảm xúc chính xác và nhạy cảm với ngữ cảnh giúp các doanh nghiệp và tổ chức đưa ra quyết định kinh doanh hoặc chính sách tốt hơn. Ngoài ra, nó còn góp phần vào sự phát triển chung của trí tuệ nhân tạo, đặc biệt trong lĩnh vực xử lý ngôn ngữ tự nhiên cho tiếng Việt. Đây là một bước tiến quan trọng hướng tới việc xây dựng các hệ thống AI có khả năng hiểu cảm xúc con người một cách sâu sắc và tinh tế hơn, mở ra nhiều cơ hội mới trong tương lai của khoa học dữ liệu và công nghệ.
Mục lục chi tiết luận án
Tải xuống file đầy đủ để xem toàn bộ nội dung
Tải đầy đủ (193 trang)Nội dung chính
Tổng quan về luận án
Sự bùng nổ của kỷ nguyên Web 2.0 đã biến không gian mạng thành một kho ngữ liệu khổng lồ chứa đựng quan điểm người dùng. Khối lượng dữ liệu số toàn cầu năm 2020 đã chạm mốc 50 ngàn tỉ GB; trung bình mỗi ngày Facebook sản sinh "4*10¹⁵ byte dữ liệu mới và 500 triệu tweet được gửi bởi người dùng Twitter", trong khi nền tảng du lịch TripAdvisor đã tích lũy "760 triệu đánh giá và ý kiến về hơn 08 triệu khách sạn, nhà hàng, hãng hàng không và du thuyền". Báo cáo của PowerReviews (2018) chỉ ra rằng: "97% người tiêu dùng tham khảo ý kiến đánh giá sản phẩm trong khi 85% người tiêu dùng kiểm tra các đánh giá tiêu cực trước khi quyết định mua hàng". Tuy nhiên, việc khai phá tự động các luồng dữ liệu phi cấu trúc này gặp phải rào cản lớn do bản chất phức tạp của ngôn ngữ tự nhiên, đặc biệt là các hiện tượng ngữ nghĩa động.
Khoảng trống nghiên cứu then chốt (research gap) nằm ở chỗ các hệ thống phân tích cảm xúc (Sentiment Analysis) hiện hữu phần lớn được thiết kế cho tiếng Anh và các ngôn ngữ biến hình, hoạt động kém hiệu quả khi xử lý tiếng Việt – một ngôn ngữ đơn lập, không biến đổi hình thái từ và phụ thuộc sâu sắc vào trật tự ngữ pháp cùng ngữ cảnh xung quanh. Đa số các mô hình truyền thống dựa trên tiếp cận từ vựng tĩnh (lexicon-based) hoặc học máy bề mặt (surface machine learning) hoàn toàn thất bại khi đối mặt với hiện tượng dịch chuyển trị cảm xúc theo ngữ cảnh (Contextual Valence Shifting) và văn bản mang ý kiến hỗn hợp (mixed opinions). Luận án của nghiên cứu sinh Trần Khải Thiện, chuyên ngành Khoa học máy tính (Mã số: 62.01) tại Trường Đại học Bách Khoa – ĐHQG TP. Hồ Chí Minh dưới sự hướng dẫn của GS. Phan Thị Tươi, đã tiên phong giải quyết bài toán này.
Luận án thiết lập hai câu hỏi nghiên cứu cốt lõi và các giả thuyết tương ứng:
- RQ1: Làm thế nào để định lượng và tính toán chính xác trị cảm xúc của từ và cụm từ tiếng Việt khi chịu sự tác động của các yếu tố gây dịch chuyển cảm xúc theo ngữ cảnh?
- H1: Việc tích hợp mô hình Hồi quy Logistic (Logistic Regression) với từ điển SentiWordNet và lý thuyết tập mờ (Fuzzy Logic) sẽ chuẩn hóa được điểm số cảm xúc của từ/cụm từ tiếng Việt, khắc phục được sai lệch dịch nghĩa và hiện tượng phân cực đa nghĩa.
- RQ2: Làm thế nào để nâng cao hiệu năng phân lớp cảm xúc mức văn bản và mức khía cạnh trong tiếng Việt bằng cách dung hòa giữa tiếp cận ngữ nghĩa và học máy?
- H2: Mô hình học tổ hợp (Ensemble Learning) kết hợp biểu diễn đặc trưng nông (ngữ nghĩa, cú pháp phụ thuộc) và đặc trưng sâu tiềm ẩn (Word2Vec, BiLSTM với cơ chế Attention) sẽ đạt độ chính xác vượt trội so với các bộ phân lớp đơn lẻ trên ngữ liệu tiếng Việt phức tạp.
Khung lý thuyết nền tảng của nghiên cứu được xây dựng trên sự giao thoa giữa Lý thuyết Định hướng Ngữ nghĩa (Semantic Orientation Theory của Turney, 2001), Lý thuyết Dịch chuyển Trị cảm xúc theo Ngữ cảnh (Contextual Valence Shifting của Polanyi & Zaenen, 2006; Taboada et al., 2011), và Lý thuyết Tập mờ (Fuzzy Set Theory của Lotfi Zadeh, 1965).
Đóng góp đột phá của công trình là xây dựng thành công kho từ điển cảm xúc tiếng Việt VNSD (Vietnamese Sentiment Dictionary) với hơn 5.500 mục từ được gán trọng số lượng hóa, đồng thời phát triển khung mô hình phân lớp tổ hợp CEM (Classifier Ensemble Model) tích hợp cơ chế Attention hướng ngữ cảnh. Phạm vi thực nghiệm của nghiên cứu được triển khai trên 14.618 nhận xét thu thập từ mytour.vn và foody.vn (trong đó có 10.420 nhận xét tích cực và 4.198 nhận xét tiêu cực), tập dữ liệu phản hồi sinh viên UIT-VSFC, tập nhận xét khách sạn HOTEL-Reviews, cùng 4 tập ngữ liệu benchmark quốc tế (Electronics, DVD, Books, Kitchen).
Literature Review và Positioning
Lịch sử phát triển của lĩnh vực khai phá quan điểm và phân tích cảm xúc ghi nhận hai nhánh tiếp cận chủ đạo:
Nhánh tiếp cận định hướng ngữ nghĩa (Semantic Orientation - SO) hay tiếp cận dựa trên từ vựng (Lexicon-based approach). Các công trình khởi xướng bởi Hatzivassiloglou và McKeown (1997) đã sử dụng liên từ kết hợp để xác định cực tính tính từ trên kho ngữ liệu 21 triệu từ. Turney (2001, 2002) đột phá với phương pháp đo lường thông tin tương hỗ từng điểm (Pointwise Mutual Information - PMI) kết hợp công cụ tìm kiếm AltaVista để tính toán định hướng ngữ nghĩa của cụm bigram so với hai từ hạt giống (excellent và poor). Tiếp đó, Hu và Liu (2004) phát triển kỹ thuật bootstrapping dựa trên mạng từ vựng WordNet (Fellbaum, 1998), trong khi Esuli và Sebastiani (2005, 2006) cùng Baccianella et al. (2010) mở rộng thành kho ngữ liệu SentiWordNet 3.0 dựa trên thuật toán bước đi ngẫu nhiên (Random Walk) trên đồ thị quan hệ từ vựng.
Nhánh tiếp cận theo học máy có giám sát (Supervised Machine Learning) được tiên phong bởi Pang, Lee và Vaithyanathan (2002). Nhóm tác giả đã thử nghiệm các thuật toán Naïve Bayes, Maximum Entropy (ME) và Support Vector Machines (SVM) trên tập dữ liệu đánh giá phim ảnh Cornell, đạt độ chính xác từ 80,4% đến 82,9%. Hướng đi này sau đó được mở rộng bởi Dave et al. (2003), Pak và Paroubek (2010), và Lin et al. (2012) qua việc khai thác các không gian đặc trưng n-gram, nhãn từ loại (POS tags) và quan hệ cú pháp phụ thuộc (Dependency Grammar).
Trong y văn tồn tại hai cuộc tranh luận học thuật sâu sắc:
- Tranh luận về không gian đặc trưng n-gram: Pang et al. (2002) khẳng định Unigram vượt trội Bigram vì Bigram gây thưa dữ liệu (data sparsity), trong khi Dave et al. (2003) và Peng et al. chứng minh Bigram và Trigram lại nắm bắt ngữ cảnh tốt hơn trong các trường hợp đảo cực câu.
- Xung đột giữa tính bao quát của Học máy và tính giải thích của Ngữ nghĩa: Taboada et al. (2011) cho rằng tiếp cận dựa trên từ vựng có khả năng lượng hóa đa thang độ và xử lý tốt các biến đổi ngữ cảnh, trong khi Pang và Lee (2008) chỉ ra rằng phương pháp này phụ thuộc vào kích thước từ điển và không thể tự thích ứng với các miền dữ liệu mới nếu thiếu thuật toán học máy thống kê.
Về mặt định vị nghiên cứu, tại Việt Nam, các công trình trước đây như Vũ et al. (2013) mới xây dựng từ điển khoảng 1.000 từ; Nguyễn et al. (2014) phụ thuộc hoàn toàn vào một miền cụ thể; còn Trịnh et al. (2015) khi tính toán cụm từ chứa phó từ lại áp dụng máy móc công thức của tiếng Anh score(khá tốt) = 3 * (1 – 0.2) mà bỏ qua hoàn toàn đặc trưng cú pháp tiếng Việt. Luận án đã định vị chính xác khoảng trống này bằng cách thiết lập một mô hình lai (hybrid paradigm): kết hợp phương pháp luận ngữ nghĩa mờ (Fuzzy Semantic) để xử lý cấu trúc đơn lập của tiếng Việt, sau đó đưa vào cấu trúc học tổ hợp phân lớp (Ensemble Learning) và học sâu (Deep Learning).
Khi so sánh với các nghiên cứu quốc tế, mô hình CEM của luận án giải quyết triệt để hạn chế trong mô hình tổ hợp của Xia et al. (2011) bằng cách bổ sung tầng đặc trưng nhúng ngữ nghĩa sâu (Word2Vec) và cơ chế Attention (Yin et al., 2017), đồng thời khắc phục độ trôi ngữ nghĩa của SentiWordNet 3.0 (Baccianella et al., 2010) khi chuyển dịch sang một ngôn ngữ không thuộc ngữ hệ Ấn-Âu.
Đóng góp lý thuyết và khung phân tích
Đóng góp cho lý thuyết
Luận án mở rộng Lý thuyết Dịch chuyển Trị cảm xúc theo Ngữ cảnh (Contextual Valence Shifting) của Polanyi & Zaenen (2006) và Taboada et al. (2011) vào không gian ngôn ngữ đơn lập tiếng Việt. Hệ thống hóa và lượng hóa thành công 6 nhóm hiện tượng ngôn ngữ gây biến đổi phân cực:
- Hiện tượng phủ định (Negation): Đảo ngược hoàn toàn cực tính cảm xúc qua các từ phủ định (không, chẳng, chả, chẳng khi nào), đồng thời cô lập các cấu trúc ngoại lệ như liên từ sóng đôi "chẳng những... mà còn...".
- Động từ khiếm khuyết (Modal Verbs): Xác định sự dịch chuyển hàm ý mang tính khuyến cáo hoặc bất mãn (nên, cần, phải), biến một phát biểu chứa từ tích cực thành mang cực tính tiêu cực ("Trường nên giảm học phí").
- Từ tăng cường và giảm nhẹ (Intensifiers and Downtoners): Lượng hóa sự biến thiên biên độ cảm xúc thông qua hệ thống phó từ chỉ thang độ (rất, cực kỳ, hơi, khá).
- Hiện tượng tương phản (Contrastive Conjunctions): Định vị sự dịch chuyển trọng tâm ngữ nghĩa sang vế sau của câu khi xuất hiện liên từ nghịch duyên (nhưng, nhưng mà, tuy nhiên, mặc dù).
- Cảm xúc trong câu tường thuật (Reported Speech): Nhận diện và tách biệt cảm xúc của chủ thể trích dẫn khỏi quan điểm trực tiếp của người đánh giá.
- Hiện tượng không đồng nhất (Mixed Opinion Context): Mô hình hóa các phát biểu có phân cực bề mặt trái ngược với cảm xúc tổng thể cuối cùng.
Luận án cũng kế thừa Lý thuyết Tập mờ của Lotfi Zadeh (1965) để định nghĩa các biến ngôn ngữ (linguistic variables), từ đó xây dựng các hàm thuộc mờ (fuzzy membership functions) phù hợp với cú pháp cụm danh từ, cụm tính từ và cụm động từ tiếng Việt.
Khung phân tích độc đáo
Khung phân tích của luận án là sự hợp nhất đa chiều giữa ba trụ cột lý thuyết: Lý thuyết Định hướng Ngữ nghĩa, Lý thuyết Tập mờ, và Lý thuyết Học tổ hợp (Ensemble Learning Theory).
+------------------------------------------+
| Dữ liệu nhận xét thô |
+------------------------------------------+
|
v
+------------------------------------------+
| Tiền xử lý: Tách từ, Loại Stop-words, |
| Chuẩn hóa Teencode/Từ lóng |
+------------------------------------------+
|
+----------------------------+----------------------------+
| |
v v
+--------------------------------------+ +--------------------------------------+
| TẦNG ĐẶC TRƯNG BỀ MẶT | | TẦNG ĐẶC TRƯNG SÂU |
| - Trọng số TF-IDF, N-grams | | - Vector nhúng từ (Word2Vec) |
| - Trị cảm xúc VNSD (Fuzzy Logic) | | - BiLSTM + Attention Mechanism |
| - Khai thác cú pháp phụ thuộc (DCG) | | - Trích xuất ngữ cảnh tiềm ẩn |
+--------------------------------------+ +--------------------------------------+
| |
+----------------------------+----------------------------+
|
v
+------------------------------------------+
| BỘ PHÂN LỚP TỔ HỢP (CEM) |
| - 6 Base Classifiers (SVM, NB, MLP...) |
| - Meta-Classifier (Weighted/Stacking) |
+------------------------------------------+
|
v
+------------------------------------------+
| Kết quả phân lớp cảm xúc (Document/ |
| Aspect-Based Sentiment) |
+------------------------------------------+
Khung phân tích thiết lập các điều kiện biên (boundary conditions) chặt chẽ: Áp dụng cho bài toán phân loại nhị phân (Positive/Negative) ở mức văn bản, phân loại đa thang độ mờ ở mức từ/cụm từ, và phân loại theo cặp thực thể - thuộc tính ở mức khía cạnh trong các miền dịch vụ tiêu dùng.
Phương pháp nghiên cứu tiên tiến
Thiết kế nghiên cứu
Nghiên cứu theo đuổi hệ hình Thực chứng (Positivism) kết hợp với Phương pháp luận Tính toán Thực nghiệm (Empirical Computational Paradigm). Thiết kế nghiên cứu đa tầng (Multi-level Research Design) được cấu trúc hóa theo 3 cấp độ:
- Cấp độ 1 (Mức Từ/Cụm từ): Xây dựng tập từ vựng cảm xúc chuẩn VNSD bằng cách chuyển ngữ SentiWordNet 3.0 qua công cụ Vdict.com, khử độ lệch nghĩa bằng Hồi quy Logistic, và áp dụng giải thuật mờ Zadeh tính toán độ đo ngữ nghĩa cho cụm từ.
- Cấp độ 2 (Mức Khía cạnh - ABSA): Xây dựng Ontology phân cấp cho từng miền (Cơ sở tri thức khách sạn, trường đại học) kết hợp Văn phạm phụ thuộc (Dependency Grammar) và Văn phạm Mệnh đề Xác định (Definite Clause Grammar - DCG) nhằm rút trích đồng thời bộ đôi khía cạnh ($a_{ij}$) và từ mang cảm xúc ($s_{ijkl}$).
- Cấp độ 3 (Mức Văn bản): Thiết kế mô hình học tổ hợp CEM (Classifier Ensemble Model) và mô hình học sâu hai chiều BiLSTM tích hợp cơ chế Attention.
Quy trình nghiên cứu rigorous
Quy trình nghiên cứu bao gồm 4 giai đoạn nghiêm ngặt:
- Thu thập và Tiền xử lý Ngữ liệu: Thu thập 14.618 nhận xét từ các nền tảng mytour.vn và foody.vn. Quy trình tiền xử lý thực hiện: tách từ ghép tiếng Việt, lọc bỏ hư từ không mang sắc thái biểu cảm, chuẩn hóa phương ngữ, từ viết tắt và tiếng lóng mạng xã hội.
- Gán nhãn Dữ liệu và Kiểm soát Độ tin cậy: Dữ liệu được gán nhãn độc lập bởi hai chuyên gia ngôn ngữ. Tập dữ liệu cuối cùng đạt được sự đồng thuận cao với 10.420 mẫu tích cực và 4.198 mẫu tiêu cực.
- Quy trình Huấn luyện Mô hình Hồi quy Logistic: Mô hình Hồi quy Logistic nhị phân sử dụng hàm Sigmoid: $$f(x) = \frac{1}{1 + e^{-w^T x}}$$ Tối ưu hóa vector trọng số $w$ thông qua giải thuật Giảm độ dốc (Gradient Descent): $$\theta := \theta - \eta \nabla_\theta \mathcal{L}(\theta)$$ Hệ số $w_{LR}$ học được từ ma trận Term-Document (với trọng số TF-IDF) đại diện cho mức độ đóng góp của từng từ vào cực tính phân lớp. Trọng số cuối cùng $w_{final}$ của một từ $w$ được chọn từ tập điểm số SentiWordNet $SWN(w)$ sao cho sai số tuyệt đối so với điểm hồi quy là cực tiểu: $$\min |w_i - w_{LR}|, \quad \forall w_i \in SWN(w)$$
- Quy trình Kiểm định Giá trị và Độ tin cậy: Sử dụng kỹ thuật kiểm định chéo $k$-fold cross-validation ($k=10$), đánh giá hiệu năng thông qua các thước đo tiêu chuẩn: Precision, Recall, F1-score và Accuracy.
Data và phân tích
Đặc tính tập dữ liệu nghiên cứu:
| Tập dữ liệu | Lĩnh vực | Số lượng mẫu | Tích cực (Pos) | Tiêu cực (Neg) |
|---|---|---|---|---|
| MYTOUR & FOODY | Khách sạn & Ẩm thực | 14.618 | 10.420 | 4.198 |
| HOTEL-Reviews | Đánh giá Khách sạn | Ngữ liệu chuẩn | Đã gán nhãn | Đã gán nhãn |
| UIT-VSFC | Phản hồi Sinh viên | Ngữ liệu chuẩn | Đã gán nhãn | Đã gán nhãn |
| FOODY-Reviews | Đánh giá Ẩm thực | Ngữ liệu chuẩn | Đã gán nhãn | Đã gán nhãn |
| Electronics / DVD / Books / Kitchen | Sản phẩm thương mại | Benchmark tiếng Anh | Đã gán nhãn | Đã gán nhãn |
Công cụ và Framework sử dụng trong nghiên cứu:
- Ngôn ngữ lập trình Python, thư viện scikit-learn, PyTorch/TensorFlow cho các mô hình học sâu.
- Word2Vec (Mikolov et al., 2013) huấn luyện không gian vector nhúng từ.
- BiLSTM (Bidirectional Long Short-Term Memory) kết hợp Attention Mechanism để tự động học phân phối trọng số các từ mang tính quyết định trong câu.
- Hệ quản trị cơ sở dữ liệu và công cụ phân tích cú pháp phụ thuộc tiếng Việt để chuyển đổi ánh xạ cây ngữ nghĩa sang truy vấn SQL.
Phát hiện đột phá và implications
Những phát hiện then chốt
- Hiệu năng vượt trội của Từ điển VNSD: Bằng cách kết hợp SentiWordNet 3.0, Hồi quy Logistic và Luật mờ Zadeh, VNSD đã tạo ra hơn 5.000 động/tính từ, 300 danh từ và 200 trạng từ có gán điểm số định lượng chính xác. Kết quả phân lớp dựa trên VNSD vượt trội hơn hẳn các từ điển tiếng Việt tự xây dựng trước đó về độ bao phủ và khả năng tính toán độ đo cảm xúc cụm từ.
- Sự vượt trội của Mô hình Tổ hợp CEM(6C-WLLR): Mô hình học tổ hợp đề xuất CEM(6C-WLLR) đạt độ chính xác trung bình cao hơn rõ rệt so với các mô hình đơn lẻ (SVM, Naïve Bayes, MLP) và vượt qua mô hình học tổ hợp cơ sở của Xia et al. (2011) trên cả tập dữ liệu tiếng Việt (HOTEL-Reviews, UIT-VSFC, FOODY-Reviews) lẫn 4 tập dữ liệu chuẩn tiếng Anh (Electronics, DVD, Books, Kitchen).
- Khả năng giải quyết Hiện tượng Ý kiến Hỗn hợp nhờ Cơ chế Attention: Trong các câu có cấu trúc nghịch duyên ("Phòng hơi nhỏ, ngột ngạt nhưng phục vụ rất chu đáo"), mạng BiLSTM kết hợp Attention đã tự động gán trọng số chú ý cao hơn cho vế sau liên từ "nhưng", giúp hệ thống phân lớp chính xác cảm xúc tổng thể mà phương pháp cộng dồn từ vựng truyền thống luôn dự đoán sai.
- Tính chuyển giao xuyên ngôn ngữ (Cross-lingual Generalizability): Dù được thiết kế tối ưu cho các đặc trưng cú pháp tiếng Việt, khung phân loại CEM vẫn đạt hiệu năng xuất sắc khi thử nghiệm trên các tập dữ liệu tiếng Anh benchmark quốc tế, chứng minh tính vững chắc (robustness) của kiến trúc phân lớp đa tầng.
Implications đa chiều
- Về mặt Lý thuyết: Luận án đóng góp một mô hình lý thuyết hoàn chỉnh về việc lượng hóa ngữ nghĩa mờ trong ngôn ngữ đơn lập, cung cấp cơ sở toán học để xử lý hiện tượng chuyển dịch cảm xúc mà các lý thuyết ngữ pháp truyền thống chưa mô hình hóa được.
- Về mặt Phương pháp luận: Thiết lập một pipeline chuẩn mực kết hợp giữa phương pháp dựa trên luật/tri thức chuyên gia (Ontology, Dependency Grammar) và phương pháp học máy thống kê/học sâu (Ensemble Learning, BiLSTM Attention).
- Về mặt Thực tiễn Doanh nghiệp: Cho phép các doanh nghiệp thương mại điện tử, du lịch, nhà hàng tự động hóa hoàn toàn hệ thống lắng nghe mạng xã hội (Social Listening), trích xuất chính xác phản hồi khách hàng theo từng khía cạnh sản phẩm dịch vụ theo thời gian thực.
- Về mặt Chính sách và Quản trị Đại học: Cung cấp công cụ phân tích tự động hàng chục ngàn ý kiến phản hồi của sinh viên (qua tập UIT-VSFC), giúp ban giám hiệu các trường đại học phát hiện kịp thời các bất cập trong công tác giảng dạy và cơ sở vật chất.
Limitations và Future Research
Nghiên cứu thẳng thắn thừa nhận các giới hạn học thuật:
- Giới hạn phân lớp mức văn bản: Luận án chủ yếu tập trung vào bài toán phân loại nhị phân (Positive/Negative), chưa đi sâu giải quyết trọn vẹn bài toán phân loại đa lớp (Multi-class: 1 đến 5 sao) hoặc nhận diện trạng thái trung tính/không xác định ở mức văn bản.
- Quy mô kho từ vựng VNSD: Mặc dù đã đạt hơn 5.500 mục từ, VNSD vẫn chưa bao phủ toàn bộ các từ lóng mới, tiếng lóng biến thể liên tục của thế hệ trẻ trên mạng xã hội (Gen Z teencode).
- Hiện tượng ngữ nghĩa nâng cao: Hệ thống chưa xử lý triệt để hiện tượng châm biếm, mỉa mai (Sarcasm/Irony), ngữ cảnh ẩn dụ sâu xa hoặc hiện tượng hoán dụ trong văn phong tiếng Việt phức tạp.
Chương trình nghiên cứu 10 năm tiếp theo (Future Research Agenda):
- Tích hợp các mô hình ngôn ngữ lớn tiền huấn luyện chuyên sâu cho tiếng Việt (như PhoBERT, ViT5, GPT-based models) vào tầng trích xuất đặc trưng sâu của CEM.
- Mở rộng kho từ điển VNSD tự động bằng kỹ thuật Active Learning kết hợp tri thức đồ thị (Knowledge Graphs).
- Mở rộng nghiên cứu sang Phân tích cảm xúc Đa phương thức (Multimodal Sentiment Analysis), tích hợp văn bản nhận xét với hình ảnh đính kèm và âm thanh/video đánh giá.
Tác động và ảnh hưởng
- Ảnh hưởng Học thuật (Academic Impact): Cung cấp tài nguyên từ điển VNSD và khung phân loại tổ hợp định chuẩn cho cộng đồng Xử lý Ngôn ngữ Tự nhiên (NLP) tiếng Việt, mở ra tiềm năng trích dẫn lớn trong các nghiên cứu về khai phá quan điểm tại khu vực Đông Nam Á.
- Chuyển dịch Ngành Công nghiệp (Industry Transformation): Ứng dụng trực tiếp vào các hệ thống quản trị quan hệ khách hàng (CRM) và hệ thống gợi ý (Recommender Systems) của các sàn thương mại điện tử lớn, tối ưu hóa trải nghiệm người dùng và gia tăng tỷ lệ chuyển đổi đơn hàng.
- Lợi ích Xã hội (Societal Benefits): Giúp người tiêu dùng sàng lọc thông tin rác, nhận diện đánh giá giả mạo (spam reviews), đưa ra quyết định mua sắm thông minh và bảo vệ quyền lợi người tiêu dùng trực tuyến.
Đối tượng hưởng lợi
- Nghiên cứu sinh & Nhà khoa học trẻ: Tiếp cận một phương pháp luận nghiên cứu thực chứng mẫu mực về cách kết hợp lý thuyết ngôn ngữ học với các thuật toán học máy hiện đại.
- Giảng viên & Nhà nghiên cứu cấp cao: Kế thừa bộ ngữ liệu đã được gán nhãn chuẩn và từ điển VNSD để phát triển các bài toán cấp cao hơn về lập luận ngữ nghĩa (Semantic Reasoning).
- Kỹ sư AI & Bộ phận R&D Doanh nghiệp: Ứng dụng trực tiếp mã nguồn kiến trúc CEM và quy tắc trích xuất khía cạnh vào các sản phẩm phân tích thị trường thực tế.
- Nhà quản lý & Hoạch định chính sách: Sử dụng công nghệ để khảo sát mức độ hài lòng của người dân đối với các dịch vụ công trực tuyến một cách khách quan và khoa học.
Câu hỏi chuyên sâu
1. Đóng góp lý thuyết độc đáo nhất của luận án là gì? Đóng góp độc đáo nhất là việc mở rộng Lý thuyết Dịch chuyển Trị cảm xúc theo Ngữ cảnh (Contextual Valence Shifting) vào không gian tiếng Việt thông qua Lý thuyết Tập mờ của Lotfi Zadeh. Luận án đã toán học hóa thành công tác động của phó từ chỉ thang độ và các liên từ nghịch duyên thành các hàm biến đổi trọng số mờ liên tục, thay thế hoàn toàn các phương pháp cộng dồn tuyến tính thô sơ.
2. Điểm đổi mới phương pháp luận khi so sánh với các công trình quốc tế tiền nhiệm? So với mô hình học tổ hợp của Xia et al. (2011) chỉ kết hợp các thuật toán học máy truyền thống trên đặc trưng bề mặt POS, luận án đã đề xuất kiến trúc CEM đa tầng: tích hợp song song đặc trưng ngữ nghĩa mờ từ VNSD, quan hệ cú pháp phụ thuộc (Dependency Grammar), vector nhúng Word2Vec và bộ phân lớp BiLSTM tích hợp Attention Mechanism. Kiến trúc này giải quyết triệt để sự thiếu hụt thông tin ngữ cảnh trong các bộ phân lớp đơn lẻ.
3. Phát hiện bất ngờ nhất từ dữ liệu thực nghiệm là gì? Dữ liệu thực nghiệm chứng minh rằng việc gán nhãn từ điển cảm xúc chuyển ngữ từ SentiWordNet nếu không qua bộ lọc Hồi quy Logistic sẽ tạo ra sai số phân loại lên tới hơn 30% do hiện tượng trôi nghĩa đa ngữ cảnh trong tiếng Việt. Hồi quy Logistic đóng vai trò như một cơ chế hiệu chuẩn thống kê (Statistical Calibration) hoàn hảo cho các tài nguyên từ vựng ngoại sinh.
4. Quy trình tái lập nghiên cứu (Replication Protocol) có được đảm bảo không? Nghiên cứu cung cấp quy trình tái lập hoàn chỉnh: từ giải thuật chi tiết tính toán điểm số lõi (Giải thuật 3.1), tập luật trích xuất khía cạnh (Bảng 4.1), cấu trúc cây Ontology, đến công thức toán học tường minh của hàm mờ và tham số cấu hình mạng BiLSTM-Attention.
5. Định hướng nghiên cứu mở rộng trong tương lai là gì? Mở rộng từ phân loại nhị phân sang mô hình hóa cảm xúc đa chiều (Fine-grained Emotion Detection: vui, buồn, giận dữ, thất vọng) và tích hợp các kiến trúc Transformer tiên tiến để xử lý ngôn ngữ đa phương thức (Text + Image + Audio).
Kết luận
- Hệ thống hóa toàn diện và mô hình hóa toán học 6 hiện tượng dịch chuyển trị cảm xúc theo ngữ cảnh đặc thù trong văn bản tiếng Việt.
- Xây dựng thành công từ điển cảm xúc tiếng Việt VNSD với hơn 5.500 mục từ định lượng chính xác nhờ kết hợp SentiWordNet, Hồi quy Logistic và Lý thuyết Tập mờ.
- Đề xuất mô hình rút trích khía cạnh và cảm xúc (ABSA) dựa trên sự kết hợp giữa Ontology phân cấp và Văn phạm cú pháp phụ thuộc.
- Phát triển mô hình học tổ hợp CEM tích hợp BiLSTM và cơ chế Attention, đạt hiệu năng phân lớp vượt trội trên cả ngữ liệu tiếng Việt lẫn benchmark quốc tế.
- Cung cấp bộ giải pháp công nghệ có khả năng ứng dụng thực tiễn cao trong phân tích thị trường, giám sát thương hiệu và quản trị giáo dục đại học.
- Mở ra các hướng nghiên cứu mới về xử lý ngôn ngữ tự nhiên tiếng Việt trên nền tảng các mô hình học sâu và mô hình ngôn ngữ lớn trong tương lai.
Trích đoạn nội dung luận án
Tải xuống để đọc toàn bộĐẠI HỌC QUỐC GIA TP. HỒ CHÍ MINH TRƯỜNG ĐẠI HỌC BÁCH KHOA TRẦN KHẢI THIỆN PHÂN TÍCH CẢM XÚC TRÊN CƠ SỞ TRỊ CẢM XÚC CHUYỂN DỊCH THEO NGỮ CẢNH CHO TIẾNG VIỆT LUẬN ÁN TIẾN SĨ TP. HỒ CHÍ MINH - NĂM 2021 ĐẠI HỌC QUỐC GIA TP. HCM TRƯỜNG ĐẠI HỌC BÁCH KHOA TRẦN KHẢI THIỆN PHÂN TÍCH CẢM XÚC TRÊN CƠ SỞ TRỊ CẢM XÚC CHUYỂN DỊCH THEO NGỮ CẢNH CHO TIẾNG VIỆT Chuyên ngành: Khoa học máy tính Mã số chuyên ngành: 62.01 Phản biện độc lập: PGS.
Lê Hoàng Thái Phản biện độc lập: PGS. Nguyễn Tuấn Đăng Phản biện: PGS. Đinh Điền Phản biện: PGS. Đỗ Văn Nhơn Phản biện: PGS.
Phạm Trần Vũ NGƯỜI HƯỚNG DẪN: 1. Phan Thị Tươi LỜI CAM ĐOAN Tác giả xin cam đoan đây là công trình nghiên cứu của bản thân tác giả. Các kết quả nghiên cứu và các kết luận trong luận án này là trung thực, và không sao chép từ bất kỳ một nguồn nào và dưới bất kỳ hình thức nào. Việc tham khảo các nguồn tài liệu (nếu có) đã được thực hiện trích dẫn và ghi nguồn tài liệu tham khảo đúng quy định.
Tác giả luận án Trần Khải Thiện i TÓM TẮT LUẬN ÁN Nhiều công trình, công cụ và ứng dụng phân tích cảm xúc đã được phát triển để khai thác các ý kiến trong nội dung do người dùng tạo trên các trang mạng. Tuy nhiên, hiệu năng của các hệ thống này chưa cao do tự bản chất phân tích cảm xúc là bài toán xử lý ngôn ngữ tự nhiên phức tạp. Các công trình này vẫn chưa hiệu quả trong việc xử lý một số hiện tượng ngôn ngữ, chẳng hạn như các hiện tượng dịch chuyển cảm xúc và văn bản mang ý kiến hỗn hợp. Luận án khai thác các trường hợp gây hiện tượng dịch chuyển cảm xúc trong văn bản tiếng Việt nhằm thực hiện hai mục tiêu chính: 1) Thứ nhất, xây dựng kho từ vựng cảm xúc cho tiếng Việt phục vụ phân tích cảm xúc mức từ - cụm từ và mức khía cạnh.
2) Thứ hai, tiếp cận phương pháp định hướng ngữ nghĩa kết hợp với các kỹ thuật học máy, mô hình học sâu vào học tổ hợp nhằm xử lý bài toán phân lớp cảm xúc mức văn bản. Thực nghiệm cho thấy việc quan tâm đến dịch chuyển cảm xúc và việc sử dụng kết hợp nhiều phương pháp là chìa khóa để hệ thống có được kết quả chính xác hơn. ii ABSTRACT Various sentiment analysis works, tools, and applications have been developed to exploit opinions in user-generated content on social media. However, the performance of these systems is not great because sentiment analysis itself is a complex natural language processing problem.
These works are still ineffective in dealing with some linguistic phenomena, such as context valence shifting and mixed opinion text. The dissertation explores cases of contextual valence shifting in Vietnamese text to accomplish two objectives: 1) to build a sentiment vocabulary database in Vietnamese and 2) to combine the semantic-oriented approach with machine-learning techniques, and deep-learning methodology to handle the sentiment classification challenge. Experiments show that paying attention to contextual valence shifting and using a combination of various methods are key for the system to yield more accurate results. iii LỜI CÁM ƠN Tôi xin bày tỏ lòng biết ơn sâu sắc nhất đến Cô GS.
Phan Thị Tươi đã tận tình hướng dẫn, động viên, chỉ bảo, và đóng góp ý kiến để tôi có thể nghiên cứu và hoàn thành luận án Tiến sĩ. Tôi xin gửi lời cám ơn đến các Thầy, Cô trong Khoa Khoa học và Kỹ thuật Máy tính trường Đại học Bách Khoa TP. Hồ Chí Minh, các anh chị nghiên cứu sinh đã đóng góp nhiều ý kiến quý báu cho tôi. Tôi xin chân thành cám ơn Ban giám hiệu, Phòng đào tạo Sau đại học trường Đại học Bách Khoa TP.
Hồ Chí Minh đã hỗ trợ kinh phí và tạo điều kiện thuận lợi để tôi có thể hoàn thành chương trình nghiên cứu sinh. Tôi xin cám ơn các đồng nghiệp ở Khoa Công nghệ thông tin trường Đại học Ngoại ngữ - Tin học TP. Hồ Chí Minh đã luôn động viên, khích lệ, và tạo điều kiện thuận lợi cho tôi hoàn thành Luận án. Tôi cũng xin chân thành cám ơn Hội đồng quản trị, Ban giám hiệu trường Đại học Ngoại ngữ - Tin học TP.
Hồ Chí Minh đã hỗ trợ kinh phí và tạo điều kiện công tác thuận lợi để tôi có thể hoàn thành chương trình nghiên cứu sinh. Cuối cùng tôi xin bày tỏ lòng biết ơn sâu sắc và muôn vàn tình yêu đến người cha vừa qua đời và người mẹ quá cố của tôi, đến vợ, con, những người luôn bên cạnh và hỗ trợ tôi trong suốt thời gian qua. Hồ Chí Minh, tháng 04 năm 2021 Nghiên cứu sinh Trần Khải Thiện iv MỤC LỤC DANH MỤC CÁC HÌNH ẢNH. viii DANH MỤC BẢNG BIỂU .ix DANH MỤC CÁC TỪ VIẾT TẮT .xi CHƯƠNG 1 GIỚI THIỆU .1 Đề xuất nghiên cứu.
2 Mục đích và phạm vi nghiên cứu .4 Các đóng góp của luận án .5 Cấu trúc của luận án. 6 CHƯƠNG 2 PHÂN TÍCH CẢM XÚC VÀ SỰ DỊCH CHUYỂN CẢM XÚC .7 Phân tích cảm xúc. 7 Một số hướng tiếp cận cho phân tích cảm xúc .1 Tiếp cận hướng đến ngữ nghĩa .2 Tiếp cận theo học máy .3 Sự dịch chuyển cảm xúc và những vấn đề cần nghiên cứu .1 Hiện tượng dịch chuyển cảm xúc .2 Khoảng trống trong nghiên cứu .4 Tổng kết chương 2. 28 CHƯƠNG 3 XÁC ĐỊNH SỰ DỊCH CHUYỂN TRỊ CẢM XÚC CỦA TỪ VÀ CỤM TỪ 29 Động cơ nghiên cứu.
29 Mô hình tính toán trị cảm xúc và sự dịch chuyển cảm xúc của từ, cụm từ trong các nhận xét tiếng Việt .1 Xác định trị cảm xúc cho từ .2 Xác định trị cảm xúc cho cụm từ .3 Phân tích đánh giá. 45 Tổng kết chương 3. 50 CHƯƠNG 4 PHÁT HIỆN KHÍA CẠNH VÀ TRỊ CẢM XÚC TRONG CÁC NHẬN XÉT TIẾNG VIỆT. 52 Giới thiệu bài toán phân tích cảm xúc mức khía cạnh .1 Xác định và rút trích khía cạnh .2 Xác định cảm xúc của khía cạnh .3 Khai thác mối quan hệ phụ thuộc của các từ để rút trích đồng thời khía cạnh và từ cảm xúc tương ứng .54 Mô hình phát hiện khía cạnh và trị cảm xúc .1 Tập luật rút trích khía cạnh và từ mang cảm xúc tươmg ứng .2 Xây dựng ontology để gom nhóm các khía cạnh .1 Hệ thống tra cứu thông tin khách sạn.2 Xây dựng cơ sở trí thức khách sạn .3 Xây dựng bộ xử lý ngôn ngữ tiếng Việt.4 Nhận xét đánh giá.
70 Tổng kết chương 4. 71 CHƯƠNG 5 ĐỀ XUẤT PHƯƠNG PHÁP HỌC TỔ HỢP CHO PHÂN LỚP CẢM XÚC CÁC NHẬN XÉT TIẾNG VIỆT .73 Động cơ nghiên cứu. 74 Mô hình học tổ hợp cho phân lớp cảm xúc.1 Học tổ hợp .2 Phát hiện đặc trưng gây dịch chuyển trị cảm xúc và đặc trưng tiềm ẩn .3 Các bộ học thành phần và bộ học tổ hợp .4 Mô hình học tổ hợp đề xuất .6 Phân tích đánh giá. 93 Mô hình học tổ hợp hướng đến ngữ cảnh cho phân lớp cảm xúc .1 Bộ học thành phần sử dụng cơ chế attention (attention classifier).
99 Tổng kết chương 5 .107 CHƯƠNG 6 KẾT LUẬN .108 CÁC CÔNG TRÌNH KHOA HỌC CỦA TÁC GIẢ .111 TÀI LIỆU THAM KHẢO. SƠ LƯỢC ĐẶC TRƯNG NGÔN NGỮ TIẾNG VIỆT. Tính từ trong tiếng Việt. Động từ trong tiếng Việt.
Phó từ trong tiếng Việt. iii PHỤ LỤC 2. DANH SÁCH MỘT SỐ CỤM TỪ CẢM XÚC. vii PHỤ LỤC 3.
VĂN PHẠM PHỤ THUỘC. Văn phạm phụ thuộc. Mối quan hệ phụ thuộc của một số từ loại trong tiếng Việt .1 Quan hệ phụ thuộc giữa danh từ và động từ .2 Quan hệ phụ thuộc giữa danh từ và tính từ .3 Quan hệ phụ thuộc giữa động từ và tính từ .4 Quan hệ phụ thuộc giữa động từ và động từ.xiv vii DANH MỤC CÁC HÌNH ẢNH Hình 2.1: Kiến trúc chung của một hệ thống phân tích cảm xúc.1: Quá trình xác định và tính toán trị cảm xúc của từ và cụm từ mang cảm xúc.2: Đường hồi quy tuyến tính phù hợp với tập dữ liệu (theo Wikipedia).3: Đường Hồi quy Logistic phù hợp với tập dữ liệu (theo medium.1: ABSA - mô hình rút trích khía cạnh và từ mang cảm xúc dựa vào từ điển cảm xúc, ontology và luật rút trích.2: Ontology trường đại học, tổ chức các khái niệm thành một cấu trúc cây phân cấp, mỗi nút đại diện cho một khái niệm là các khía cạnh của trường.3: So sánh kết quả hai phương pháp biểu thức chính quy và quan hệ ngữ nghĩa.4: Kiến trúc hệ thống tra cứu thông tin nhận xét khách sạn.5: Ontology khách sạn, tổ chức các khái niệm thành một cấu trúc cây phân cấp, mỗi nút đại diện cho một khái niệm là các khía cạnh của khách sạn.6: Màn hình của ứng dụng: Tra cứu thông tin nhận xét về khách sạn bằng ngôn ngữ tự nhiên tiếng Việt.7: Màn hình chụp từ web agoda.com của nhận xét “Phòng hơi nhỏ, ngột ngạt” với điểm số tích cực (6/10).1: Sơ đồ huấn luyện và kiểm thử trong học máy có giám sát.2: Quá trình rút trích các đặc trưng bề mặt [120].3: Biểu diễn vector của các từ King, Queen, Woman, và Princess .4: Quá trình rút trích các đặc trưng sâu tiềm ẩn [120].5: Bộ học tổ hợp sử dụng mô hình Meta Classifier [126].6: Kiến trúc mô hình phân lớp cảm xúc dựa trên phương pháp học tổ hợp [127].7: Kết quả thực nghiệm trên tập dữ liệu UIT-VSFC.8: Kết quả thực nghiệm trên tập dữ liệu HOTEL-Review.9: Kết quả thực nghiệm trên tập dữ liệu Electronics.10: Kết quả thực nghiệm trên tập dữ liệu DVD.11: Kết quả thực nghiệm trên tập ngữ liệu Books.12: Kết quả thực nghiệm trên tập ngữ liệu Kitchen.13: Độ chính xác trung bình theo phương pháp của Xia và cộng sự [44].14: Độ chính xác trung bình của mô hình đề xuất CEM(6C-WLLR) [127].15: Mô hình học tổ hợp quan tâm hướng đến ngữ cảnh [126].16: Kiến trúc mô hình phân lớp sử dụng mạng BiLSTM với cơ chế attention [136].17: Kết quả thực nghiệm trên tập dữ liệu HOTEL-Reviews.18: Kết quả thực nghiệm trên tập dữ liệu UIT-VSFC.19: Kết quả thực nghiệm trên tập dữ liệu FOODY-Reviews.105 DANH MỤC BẢNG BIỂU Bảng 2.1: Ví dụ về định nghĩa quan điểm, cảm xúc.2: Mẫu nhãn từ loại rút trích cụm 2 từ (Turney, 2001) [1].3: A-Labels và một số synsets tương ứng [24].4: Lựa chọn đặc trưng cho học máy theo Lee và Pang [3].5: Một số công trình sử dụng phương pháp kết hợp giữa tiếp cận ngữ nghĩa, theo luật và tiếp cận theo học máy.1: Một số synsets trong SentiWordNet 3.2: Một số phó từ mang thang độ trong tiếng Việt.3: Một số phó từ loại khác với mức chia thang độ tương ứng.4: Một số phó từ tiếng Việt với thang độ “Tag” tương ứng.
Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ
Trích dẫn luận án này
Trần Khải Thiện (2021). Luận án tiến sĩ khoa học máy tính phân tích cảm xúc trên cơ [Luận án tiến sĩ, đại học bách khoa]. LuanAn.net. https://luanan.net/ky-thuat-co-khi/viet
Câu hỏi thường gặp
Luận án "Luận án tiến sĩ khoa học máy tính phân tích cảm xúc trên cơ" nghiên cứu về vấn đề gì?
Luận án tiến sĩ khoa học máy tính phân tích cảm xúc trên cơ sở dữ liệu đa ngôn ngữ. Đề xuất mô hình học sâu cải tiến hiệu suất vượt trội.
Luận án "Luận án tiến sĩ khoa học máy tính phân tích cảm xúc trên cơ" được bảo vệ tại trường nào?
Luận án này được bảo vệ tại đại học bách khoa. Năm bảo vệ: 2021.
Luận án "Luận án tiến sĩ khoa học máy tính phân tích cảm xúc trên cơ" thuộc chuyên ngành gì?
Luận án "Luận án tiến sĩ khoa học máy tính phân tích cảm xúc trên cơ" thuộc chuyên ngành Khoa học máy tính. Danh mục: Kỹ Thuật Cơ Khí.
Luận án "Luận án tiến sĩ khoa học máy tính phân tích cảm xúc trên cơ" có bao nhiêu trang?
Luận án "Luận án tiến sĩ khoa học máy tính phân tích cảm xúc trên cơ" có 193 trang. Bạn có thể xem trước một phần tài liệu ngay trên trang web trước khi tải về.
Cách tải luận án "Luận án tiến sĩ khoa học máy tính phân tích cảm xúc trên cơ" về máy như thế nào?
Để tải luận án về máy, bạn nhấn nút "Tải xuống ngay" trên trang này, sau đó hoàn tất thanh toán phí lưu trữ. File sẽ được tải xuống ngay sau khi thanh toán thành công. Hỗ trợ qua Zalo: 0559 297 239.