Nghiên cứu phát triển kỹ thuật gợi ý mua hàng theo phiên bằng mô hình học sâu | Nguyễn Tuấn Khang
"Nghiên cứu kỹ thuật gợi ý mua hàng theo phiên dựa trên học sâu, tối ưu trải nghiệm khách hàng và tăng doanh thu bán lẻ."
Luan An
Luận án tiến sĩ
Năm xuất bản
Số trang
133
Thời gian đọc
20 phút
Lượt xem
0
Lượt tải
0
Phí lưu trữ
40 Point
Tổng quan nhanh
- Chủ đề:
- Tối ưu Gợi ý theo Phiên: Vai trò Học sâu trong Thương mại điện tử
- Số trang:
- 133 trang
- Trường:
- Học viện Khoa học và Công nghệ
- Chuyên ngành:
- Khoa học máy tính
- Tác giả:
- Nguyễn Tuấn Khang
- Năm:
- 2023
Tóm tắt nội dung luận án
I.Tối ưu Gợi ý theo Phiên Vai trò Học sâu trong Thương mại điện tử
Tối ưu hóa trải nghiệm mua sắm trực tuyến là một mục tiêu chiến lược. Các hệ thống gợi ý theo phiên đóng vai trò thiết yếu trong việc đạt được mục tiêu này. Chúng phân tích hành vi người dùng trong một phiên cụ thể, bao gồm các tương tác, tìm kiếm và xem sản phẩm. Gợi ý theo phiên giúp cá nhân hóa trải nghiệm mua sắm, dẫn đến tăng doanh số và sự hài lòng của khách hàng. Các kỹ thuật học sâu đang cách mạng hóa lĩnh vực này, cung cấp khả năng hiểu ngữ cảnh phức tạp của hành vi người dùng. Hệ thống gợi ý giải quyết nhiều bài toán cốt lõi. Hai bài toán chính là dự báo hành vi mua hàng và gợi ý top-k. Dự báo hành vi tập trung vào item kế tiếp, giúp dự đoán sản phẩm người dùng có thể mua tiếp theo. Bài toán gợi ý top-k cung cấp danh sách các item phù hợp nhất cho người dùng. Cả hai đều đòi hỏi khả năng xử lý dữ liệu tuần tự và hiểu rõ ngữ cảnh của phiên làm việc. Mô hình gợi ý dựa trên học sâu giải quyết tốt các thách thức này, khai thác hiệu quả thông tin từ chuỗi hành động của người dùng để nâng cao chất lượng cá nhân hóa theo phiên. Học máy trong thương mại điện tử đã trở thành yếu tố then chốt để cung cấp các đề xuất chính xác, cá nhân hóa cho từng khách hàng, từ đó tối ưu hóa hành vi người dùng trong phiên.
1.1. Mục tiêu và tầm quan trọng của gợi ý theo phiên
Tối ưu trải nghiệm mua sắm trực tuyến là mục tiêu hàng đầu. Các hệ thống gợi ý theo phiên đóng vai trò thiết yếu. Chúng phân tích hành vi người dùng trong một phiên cụ thể. Dữ liệu này bao gồm các tương tác, tìm kiếm và xem sản phẩm. Gợi ý theo phiên giúp cá nhân hóa trải nghiệm. Điều này dẫn đến tăng doanh số và sự hài lòng của khách hàng. Các kỹ thuật học sâu đang cách mạng hóa lĩnh vực này. Chúng cung cấp khả năng hiểu ngữ cảnh phức tạp.
1.2. Các bài toán cơ sở trong hệ thống gợi ý
Hệ thống gợi ý giải quyết nhiều bài toán. Hai bài toán chính là dự báo hành vi mua hàng và gợi ý top-k. Dự báo hành vi tập trung vào item kế tiếp. Nó giúp dự đoán sản phẩm người dùng có thể mua. Bài toán gợi ý top-k cung cấp danh sách các item phù hợp nhất. Cả hai đều đòi hỏi khả năng xử lý dữ liệu tuần tự. Mô hình học sâu giải quyết tốt các thách thức này. Chúng khai thác thông tin từ chuỗi hành động của người dùng.
II.Nâng cao Hệ thống Gợi ý Học sâu với Kiến trúc Mạng Nơ ron
Các mô hình mạng nơ-ron truyền thẳng (FNN) cung cấp nền tảng cơ bản, học các mối quan hệ tuyến tính và phi tuyến từ dữ liệu. Tuy nhiên, chúng thường bỏ lỡ các tương tác phức tạp. Để khắc phục, mô hình mạng nơ-ron rộng và sâu (Wide & Deep) được phát triển. Nó kết hợp thành phần "rộng" để xử lý các đặc trưng thưa và ghi nhớ các quy tắc đơn giản, cùng với thành phần "sâu" để học các tương tác phức tạp giữa các đặc trưng. Sự kết hợp này mang lại hiệu suất cao, phù hợp cho các tác vụ gợi ý đòi hỏi cả sự ghi nhớ và tổng quát hóa. Trong xử lý dữ liệu tuần tự, mạng nơ-ron hồi quy (RNN) tỏ ra rất hiệu quả. Chúng duy trì trạng thái ẩn để ghi nhớ thông tin quá khứ của phiên làm việc. Các biến thể như GRU và LSTM cải thiện đáng kể khả năng ghi nhớ dài hạn. Một kiến trúc đột phá khác là Transformer. Nó sử dụng cơ chế chú ý, cho phép mô hình nắm bắt mối quan hệ giữa các item ở khoảng cách xa trong một chuỗi. Transformer cho gợi ý đã chứng minh hiệu quả vượt trội, đặc biệt mạnh mẽ trong việc dự đoán item kế tiếp. Những mô hình gợi ý dựa trên học sâu này xử lý tốt sự phức tạp của chuỗi hành động người dùng, là trụ cột của hệ thống gợi ý học sâu hiện đại.
2.1. Mô hình mạng nơ ron truyền thẳng và rộng sâu
Các mô hình mạng nơ-ron truyền thẳng (FNN) là nền tảng. Chúng học các mối quan hệ tuyến tính và phi tuyến. Tuy nhiên, FNN có thể bỏ lỡ các tương tác phức tạp. Mô hình mạng nơ-ron rộng và sâu (Wide & Deep) kết hợp hai thành phần. Thành phần "rộng" xử lý các đặc trưng thưa, ghi nhớ các quy tắc đơn giản. Thành phần "sâu" học các tương tác phức tạp giữa các đặc trưng. Sự kết hợp này mang lại hiệu suất cao hơn. Mô hình này phù hợp cho các tác vụ gợi ý đòi hỏi cả sự ghi nhớ và tổng quát hóa.
2.2. Ứng dụng Transformer và Mạng nơ ron hồi quy RNN
Mạng nơ-ron hồi quy (RNN) xử lý dữ liệu tuần tự hiệu quả. Chúng duy trì trạng thái ẩn để ghi nhớ thông tin quá khứ. Các biến thể như GRU và LSTM cải thiện khả năng ghi nhớ dài hạn. Transformer là một kiến trúc đột phá. Nó sử dụng cơ chế chú ý (attention mechanism). Điều này cho phép mô hình nắm bắt mối quan hệ giữa các item ở khoảng cách xa. Transformer cho gợi ý đã chứng minh hiệu quả vượt trội. Chúng đặc biệt mạnh mẽ trong việc dự đoán item kế tiếp trong một phiên. Mô hình gợi ý dựa trên học sâu này xử lý tốt sự phức tạp của chuỗi hành động.
III.Phát triển Mô hình Gợi ý Sản phẩm theo Ngữ cảnh Phiên
Dự báo hành vi mua hàng là một khía cạnh trọng tâm của gợi ý theo phiên. Các mô hình học sâu được thiết kế đặc biệt để xử lý dữ liệu từ các phiên làm việc của người dùng. Dữ liệu này bao gồm lịch sử tương tác, loại sản phẩm và thời gian. Mục tiêu chính là dự đoán sản phẩm tiếp theo mà người dùng có thể quan tâm. Kiến trúc mô hình thường bao gồm các lớp nhúng, các lớp tuần tự như GRU, và lớp đầu ra để đưa ra dự đoán item kế tiếp. Việc trích chọn và xử lý đặc trưng cẩn thận là cần thiết, đảm bảo mô hình học được các mẫu ẩn phức tạp trong dữ liệu. Hiệu suất của các mô hình gợi ý sản phẩm theo ngữ cảnh được đánh giá nghiêm ngặt. Các bộ dữ liệu thực nghiệm lớn từ các nền tảng thương mại điện tử thực tế được sử dụng. Các độ đo đánh giá quan trọng như Recall, MRR (Mean Reciprocal Rank) và NDCG (Normalized Discounted Cumulative Gain) được áp dụng. Những độ đo này phản ánh khả năng của mô hình trong việc gợi ý chính xác. Việc so sánh với các nghiên cứu liên quan là bắt buộc để xác nhận sự đóng góp và tính ưu việt của mô hình. Kết quả thực nghiệm chứng minh hiệu quả của các mô hình gợi ý dựa trên học sâu này trong việc phân tích hành vi người dùng trong phiên.
3.1. Thiết kế mô hình học sâu cho dự báo mua hàng
Việc dự báo hành vi mua hàng là trọng tâm. Các mô hình học sâu được thiết kế đặc biệt. Chúng xử lý dữ liệu từ các phiên làm việc của người dùng. Dữ liệu này bao gồm lịch sử tương tác, loại sản phẩm và thời gian. Mục tiêu là dự đoán sản phẩm tiếp theo người dùng có thể quan tâm. Kiến trúc mô hình bao gồm các lớp nhúng, lớp tuần tự (ví dụ: GRU) và lớp đầu ra. Việc trích chọn và xử lý đặc trưng cẩn thận là cần thiết. Điều này đảm bảo mô hình học được các mẫu ẩn trong dữ liệu.
3.2. Đánh giá hiệu quả mô hình gợi ý theo phiên
Hiệu suất của mô hình được đánh giá nghiêm ngặt. Các bộ dữ liệu thực nghiệm lớn được sử dụng. Chúng bao gồm dữ liệu từ các nền tảng thương mại điện tử thực tế. Các độ đo đánh giá như Recall, MRR (Mean Reciprocal Rank) và NDCG (Normalized Discounted Cumulative Gain) được áp dụng. Các độ đo này phản ánh khả năng của mô hình trong việc gợi ý chính xác. Việc so sánh với các nghiên cứu liên quan là bắt buộc. Điều này xác nhận sự đóng góp và tính ưu việt của mô hình. Kết quả thực nghiệm chứng minh hiệu quả của các mô hình gợi ý dựa trên học sâu.
IV.Khai thác Mạng Nơ ron Đồ thị GNN cho Gợi ý Top K
Hành vi người dùng trong một phiên thường phức tạp hơn một chuỗi tuyến tính đơn thuần. Việc biểu diễn phiên làm việc dưới dạng đồ thị mở ra khả năng mới. Trong biểu diễn này, mỗi item được xem là một đỉnh, và các tương tác giữa các item được thể hiện bằng các cạnh. Các cạnh có thể có trọng số hoặc hướng, giúp nắm bắt các mối quan hệ phức tạp mà các mô hình chuỗi tuần tự có thể bỏ qua. Thiết kế đồ thị hợp lý là yếu tố then chốt để GNN xử lý các phụ thuộc phi tuyến tính và đa chiều. Mạng nơ-ron đồ thị (GNN) là một công cụ mạnh mẽ để xử lý dữ liệu được cấu trúc dưới dạng đồ thị. GNN học cách truyền thông tin giữa các đỉnh, tạo ra biểu diễn giàu ngữ cảnh cho từng item và phiên. Các mô hình GNN được đề xuất đặc biệt cho bài toán gợi ý top-k. Chúng tận dụng cấu trúc đồ thị của phiên làm việc để nâng cao khả năng gợi ý. Quá trình tiền xử lý và chuẩn hóa dữ liệu là cực kỳ quan trọng để đảm bảo chất lượng đầu vào. Các hàm mất mát được tối ưu hóa cẩn thận để đảm bảo mô hình học được các mẫu dữ liệu hiệu quả. Hệ thống gợi ý học sâu với GNN mang lại khả năng gợi ý chính xác cao, đặc biệt trong việc dự đoán item kế tiếp và cung cấp cá nhân hóa theo phiên.
4.1. Biểu diễn hành vi người dùng bằng đồ thị
Hành vi người dùng trong một phiên có thể phức tạp. Nó không chỉ là một chuỗi tuyến tính. Việc biểu diễn phiên làm việc dưới dạng đồ thị mở ra khả năng mới. Mỗi item có thể là một đỉnh. Các tương tác giữa item là các cạnh. Các cạnh có thể có trọng số hoặc hướng. Thiết kế đồ thị hợp lý giúp nắm bắt các mối quan hệ phức tạp. Mô hình này vượt qua giới hạn của chuỗi tuần tự. Nó cho phép GNN xử lý các phụ thuộc phi tuyến tính.
4.2. Xây dựng mô hình gợi ý dựa trên học sâu GNN
Mạng nơ-ron đồ thị (GNN) là công cụ mạnh mẽ. Chúng xử lý dữ liệu được cấu trúc dưới dạng đồ thị. GNN học cách truyền thông tin giữa các đỉnh. Điều này giúp tạo ra biểu diễn giàu ngữ cảnh cho từng item và phiên. Các mô hình GNN được đề xuất cho bài toán gợi ý top-k. Chúng tận dụng cấu trúc đồ thị của phiên. Quá trình tiền xử lý và chuẩn hóa dữ liệu là quan trọng. Các hàm mất mát được tối ưu hóa. Điều này đảm bảo mô hình học được các mẫu dữ liệu hiệu quả. Hệ thống gợi ý học sâu với GNN mang lại khả năng gợi ý chính xác cao.
V.Cải tiến Gợi ý Học sâu Nhúng Đồ thị và Phân loại Đa Nhãn
Bài toán gợi ý thường đối mặt với thách thức phân loại đa nhãn. Một phiên làm việc của người dùng có thể dẫn đến sự quan tâm đến nhiều item cùng lúc, mỗi item này đại diện cho một nhãn tiềm năng. Điều này đặt ra một vấn đề phức tạp, đặc biệt khi các nhãn có sự phụ thuộc lẫn nhau và mô hình cần dự đoán một tập hợp các item thay vì chỉ một item duy nhất. Các phương pháp truyền thống có thể không hiệu quả trong việc xử lý sự phức tạp này, yêu cầu các kỹ thuật đặc biệt để đạt được hiệu suất tối ưu. Để vượt qua thách thức phân loại đa nhãn và tối ưu hóa hệ thống gợi ý học sâu, phương pháp nhúng đồ thị được áp dụng. Phương pháp này biến đổi thông tin cấu trúc của đồ thị thành các vector mật độ thấp, giữ lại cả cấu trúc và ngữ nghĩa của đồ thị ban đầu. Cả phép nhúng đỉnh và phép nhúng đồ thị tổng thể đều được sử dụng để cung cấp biểu diễn toàn diện cho từng thành phần của phiên. Mô hình GNN được cải tiến để tận dụng tối đa các phép nhúng này. Bài toán đa nhãn có thể được chuyển đổi thành bài toán nhị phân, đơn giản hóa đáng kể quá trình học. Các mô hình mạng nơ-ron truyền thẳng nhị phân và mô hình nhúng đồ thị K nhị phân được phát triển. Những kỹ thuật này nâng cao đáng kể hiệu quả của hệ thống gợi ý học sâu và góp phần vào sự phát triển của học máy trong thương mại điện tử.
5.1. Thách thức phân loại đa nhãn trong gợi ý
Bài toán gợi ý thường được xem là phân loại đa nhãn. Một phiên có thể dẫn đến nhiều item được quan tâm. Mỗi item này đại diện cho một nhãn. Điều này đặt ra thách thức lớn cho mô hình. Các nhãn có thể có sự phụ thuộc lẫn nhau. Việc dự đoán một tập hợp các item thay vì một item duy nhất là phức tạp. Các phương pháp truyền thống có thể không hiệu quả. Cần có kỹ thuật đặc biệt để xử lý hiệu quả.
5.2. Tối ưu hóa GNN bằng phương pháp nhúng đồ thị
Để vượt qua thách thức đa nhãn, phép nhúng đồ thị được áp dụng. Phương pháp này biến đổi thông tin đồ thị thành các vector mật độ thấp. Các vector này giữ lại cấu trúc và ngữ nghĩa của đồ thị. Phép nhúng đỉnh và phép nhúng đồ thị tổng thể được sử dụng. Chúng cung cấp biểu diễn toàn diện cho từng thành phần của phiên. Mô hình GNN được cải tiến để sử dụng các phép nhúng này. Bài toán đa nhãn có thể được chuyển đổi thành bài toán nhị phân. Điều này đơn giản hóa quá trình học. Các mô hình mạng nơ-ron truyền thẳng nhị phân và mô hình nhúng đồ thị K nhị phân được phát triển. Các kỹ thuật này nâng cao hiệu quả của hệ thống gợi ý học sâu.
VI.Tương lai Hệ thống Gợi ý Học sâu và Cá nhân hóa Vượt trội
Nghiên cứu này đã đóng góp vào việc phát triển các kỹ thuật gợi ý mua hàng mới, dựa trên mô hình học sâu tiên tiến. Việc áp dụng các kiến trúc như Wide & Deep, Transformer và Mạng nơ-ron đồ thị (GNN) đã cải thiện đáng kể hiệu suất của hệ thống gợi ý. Các mô hình này giải quyết hiệu quả cả bài toán dự đoán item kế tiếp và gợi ý top-k trong môi trường thương mại điện tử. Kết quả thực nghiệm chứng minh sự vượt trội của các phương pháp đề xuất so với các nghiên cứu hiện có. Đóng góp này thúc đẩy sự phát triển của hệ thống gợi ý học sâu, mang lại giá trị thực tiễn to lớn cho ngành thương mại điện tử thông qua cá nhân hóa theo phiên. Lĩnh vực gợi ý theo phiên còn nhiều tiềm năng để khám phá. Các hướng nghiên cứu trong tương lai có thể tập trung vào tích hợp thêm dữ liệu ngữ cảnh phong phú hơn, như thông tin chi tiết về người dùng, thuộc tính item bổ sung, hoặc các tương tác xã hội. Việc phát triển các mô hình học sâu giải thích được (explainable AI) là một yếu tố quan trọng để tăng cường sự tin cậy của người dùng và các nhà quản lý. Hơn nữa, tiềm năng ứng dụng của công nghệ này không chỉ giới hạn trong thương mại điện tử mà còn mở rộng sang các ngành khác, tiếp tục tối ưu hóa trải nghiệm người dùng.
6.1. Đóng góp và tác động của nghiên cứu
Nghiên cứu này phát triển các kỹ thuật gợi ý mua hàng mới. Chúng dựa trên mô hình học sâu tiên tiến. Việc áp dụng Wide & Deep, Transformer và GNN cải thiện đáng kể hiệu suất. Các mô hình này giải quyết hiệu quả bài toán dự đoán item kế tiếp và gợi ý top-k. Kết quả thực nghiệm chứng minh sự vượt trội so với các phương pháp hiện có. Đóng góp này thúc đẩy sự phát triển của hệ thống gợi ý. Nó mang lại giá trị thực tiễn cho thương mại điện tử.
6.2. Hướng nghiên cứu tiếp theo và tiềm năng ứng dụng
Lĩnh vực gợi ý theo phiên vẫn còn nhiều tiềm năng. Các hướng nghiên cứu trong tương lai bao gồm tích hợp thêm dữ liệu ngữ cảnh. Ví dụ: thông tin người dùng, thuộc tính item, tương tác xã hội. Việc phát triển các mô hình học sâu giải thích được (explainable AI) là quan trọng. Điều này giúp tăng cường sự tin cậy của người dùng. Ứng dụng công nghệ này vào các ngành khác cũng có triển vọng. Học máy trong thương mại điện tử sẽ tiếp tục được tối ưu hóa.
Mục lục chi tiết luận án
Tải xuống file đầy đủ để xem toàn bộ nội dung
Tải đầy đủ (133 trang)Nội dung chính
Tổng quan về luận án
Luận án "Nghiên cứu phát triển một số kỹ thuật gợi ý mua hàng theo phiên dựa trên mô hình học sâu" của Nguyễn Tuấn Khang tiên phong giải quyết một thách thức cấp bách trong thương mại điện tử: sự thiếu hụt các hệ thống gợi ý có khả năng thích ứng linh hoạt với hành vi động và sở thích tức thời của người dùng trong một phiên làm việc duy nhất. Trong bối cảnh ngành thương mại điện tử tăng trưởng đột phá, với hàng tỷ tương tác trực tuyến qua các nền tảng số [1], người dùng thường xuyên đối mặt với sự quá tải thông tin và khó khăn trong việc tìm kiếm sản phẩm phù hợp. Các mô hình gợi ý truyền thống như phương pháp đề xuất dựa trên nội dung [5] và lọc cộng tác [6] chủ yếu tập trung vào sở thích dài hạn và thông tin hồ sơ người dùng, bỏ qua các tương tác ngắn hạn và không hiệu quả cho người dùng ẩn danh [7]. Điều này tạo ra một research gap cụ thể: các mô hình hiện có thường "không thể nắm bắt được bản chất động của hành vi khách hàng khi tương tác với hệ thống, đặc biệt là trong các ngữ cảnh mà sở thích của họ thay đổi theo từng phiên làm việc hoặc với ngữ cảnh hẹp hơn hệ thống chỉ có thông tin của khách hàng trong phiên làm việc hiện tại để gợi ý" [3].
Nghiên cứu này đặt ra mục tiêu khắc phục hạn chế trên bằng cách đề xuất các kỹ thuật mới để biểu diễn dữ liệu phiên làm việc và xây dựng các mô hình học sâu tiên tiến. Các câu hỏi nghiên cứu và giả thuyết chính của luận án bao gồm:
- RQ1: Làm thế nào để biểu diễn dữ liệu phiên làm việc của khách hàng một cách hiệu quả để nắm bắt được cả tương tác intra-session và inter-session?
- H1: Việc biểu diễn phiên làm việc dưới dạng đồ thị, đặc biệt là đồ thị đa quan hệ, sẽ nắm bắt được các mối quan hệ phức tạp và năng động giữa các sản phẩm trong một phiên, tốt hơn so với các phương pháp biểu diễn dạng bảng truyền thống.
- RQ2: Có thể phát triển các mô hình học sâu (Deep Learning và Graph Neural Networks) để dự đoán hành vi mua hàng nhị phân (có mua hay không) và gợi ý sản phẩm top-k tiếp theo dựa trên dữ liệu phiên làm việc hiện tại mà không cần thông tin lịch sử người dùng?
- H2: Các mô hình mạng nơ-ron rộng và sâu (W&DNN) và mô hình biến đổi (Transformer) với lớp nhúng thuộc tính sẽ vượt trội trong bài toán dự báo mua hàng nhị phân trên dữ liệu phiên dạng bảng.
- H3: Mô hình mạng nơ-ron đồ thị (GNN) kết hợp với các thiết kế đồ thị tối ưu sẽ đạt hiệu suất cao hơn đáng kể trong bài toán gợi ý top-k so với các mô hình nền tảng.
- RQ3: Các kỹ thuật nhúng đồ thị và nhúng phiên có thể cải thiện đáng kể hiệu quả của mô hình GNN trong bài toán gợi ý top-k không?
- H4: Việc đề xuất một lớp nhúng đồ thị đặc biệt, tích hợp nhúng đỉnh, nhúng đồ thị và nhúng nhãn, sẽ tối ưu hóa khả năng học của GNN trên đồ thị đa quan hệ, dẫn đến kết quả vượt trội.
Khung lý thuyết của luận án được xây dựng dựa trên các nền tảng của học sâu (Deep Learning), bao gồm Mạng Nơ-ron Truyền thẳng (FNN) [29], Mạng Nơ-ron Rộng và Sâu (W&DNN) của Cheng et al. [45], kiến trúc Transformer của Google Brain [46], và đặc biệt là Lý thuyết Mạng Nơ-ron Đồ thị (GNN) [51], [58].
Luận án này đưa ra những đóng góp đột phá với tác động định lượng đáng kể. Nó đề xuất một cách thức biểu diễn đồ thị đa quan hệ (đồ thị K) cho phép mô hình hóa "các khoảng cách khác nhau của các mối quan hệ giữa các sản phẩm trong phiên làm việc của khách hàng" [Chương 3, Mục 3.2.4], mang lại sự linh hoạt chưa từng có trong việc nắm bắt tương tác. Quan trọng hơn, luận án giới thiệu một lớp nhúng phiên đặc biệt cho GNN, tích hợp nhúng đỉnh, nhúng đồ thị và nhúng nhãn, giúp nâng cao hiệu quả mô hình dự báo top-k lên X% (ước tính) so với các phương pháp trước đó khi được thực nghiệm trên bộ dữ liệu Yoochoose quy mô lớn (gần 10 triệu phiên làm việc và hơn 50 nghìn sản phẩm). Phạm vi nghiên cứu tập trung vào hai bài toán cụ thể: dự báo mua hàng nhị phân và gợi ý top-k, chỉ dựa trên thông tin phiên giao dịch hiện tại [12], điều này mở rộng tính ứng dụng cho người dùng ẩn danh và các ngữ cảnh động. Các mô hình đề xuất thể hiện tính tiên phong trong việc giải quyết bài toán gợi ý dựa trên phiên (SR) bằng cách tận dụng sức mạnh của học sâu và học đồ thị, cung cấp "các giải pháp công nghệ mới nhất vào các bài toán kinh doanh" [Mở đầu, Mục 1].
Literature Review và Positioning
Nghiên cứu hệ gợi ý đã có một lịch sử phong phú, khởi đầu từ những năm 2000 với công trình của JB Schafer và đồng nghiệp [15], những người đã đặt nền móng cho việc nâng cao khả năng bán kèm và bán chéo sản phẩm. Ban đầu, các phương pháp tập trung vào thông tin lịch sử và sở thích cá nhân của khách hàng. Sarwar et al. (2000) [87] nhận ra thách thức về khối lượng dữ liệu khổng lồ và đề xuất các thuật toán phân tích ma trận như SVD để giảm chiều thông tin, đồng thời giới thiệu khái niệm danh sách "top k" sản phẩm gợi ý. Tiếp nối, Sarwar và đồng nghiệp (2002) [88] đã phát triển thuật toán người láng giềng để phân nhóm khách hàng, làm cơ sở cho bộ lọc cộng tác. Zan Huang et al. (2004) [89] là một trong những người đầu tiên đưa khái niệm đồ thị vào bài toán gợi ý thương mại điện tử, sử dụng đồ thị đa quan hệ có hướng để mô hình hóa thông tin mua sắm trong quá khứ. Thành công của cuộc thi Netflix Prize năm 2006, với đội thắng cuộc của Yehuda Koren, Robert Bell và Chris Volinsky (2009) [16] sử dụng mô hình phân tích ma trận thành nhân tử, đã củng cố vai trò của các kỹ thuật này trong việc dự đoán sở thích người dùng.
Tuy nhiên, một điểm yếu cố hữu của nhiều phương pháp này là việc phụ thuộc vào dữ liệu lịch sử và thông tin người dùng dài hạn, bỏ qua bản chất động của hành vi mua sắm trong các phiên tương tác ngắn hạn. Điều này tạo ra một cuộc tranh luận trong cộng đồng nghiên cứu: Liệu sở thích người dùng có nên được coi là tĩnh và dài hạn (như quan điểm của các mô hình lọc cộng tác truyền thống) hay là động và thay đổi theo ngữ cảnh phiên (như được đề xuất bởi các phương pháp dựa trên phiên)? Balázs Hidasi và đồng nghiệp (2015) [90] đã đánh dấu một bước chuyển mình quan trọng bằng việc giới thiệu mô hình Mạng Nơ-ron Hồi quy (RNN) cho hệ gợi ý dựa trên phiên làm việc, tập trung vào các phiên ngắn và hiện tại. Nghiên cứu của Hidasi cho thấy RNN, đặc biệt là biến thể HRNN, vượt trội hơn các mô hình truyền thống trong ngữ cảnh này. Yong Kiam Tan và đồng nghiệp (2016) [91] tiếp tục cải tiến mô hình RNN bằng thuật toán xử lý dữ liệu phiên phù hợp hơn, đạt được kết quả tốt hơn trên cùng bộ dữ liệu của Hidasi.
Luận án này định vị mình trong lĩnh vực gợi ý dựa trên phiên (Session-based Recommendation - SR), một lĩnh vực nghiên cứu "triển vọng, nhằm cung cấp các gợi ý chính xác và kịp thời dựa trên tương tác cấp phiên của người dùng" [8], [9]. Nghiên cứu này mở rộng các công trình trước đây bằng cách không chỉ áp dụng mà còn cải tiến đáng kể các mô hình học sâu và học đồ thị. Trong khi Shu Wu et al. (2019) [94] đề xuất SR-GNN biểu diễn phiên người dùng dưới dạng đồ thị và sử dụng GNN để học biểu diễn ý nghĩa, luận án này tiến xa hơn bằng cách đề xuất ba phương án thiết kế đồ thị khác nhau, đặc biệt là đồ thị đa quan hệ K, để nắm bắt "nhiều mối quan hệ tương tác giữa các sản phẩm trong quá trình nhấp chuột" [Chương 3, Mục 4, trang 6].
So sánh với các nghiên cứu quốc tế, luận án này thể hiện sự tiến bộ rõ rệt. Thứ nhất, so với GCSAN của Liu et al. (2020) [96], vốn cũng sử dụng mạng tự chú ý theo ngữ cảnh đồ thị, luận án của Khang không chỉ tập trung vào cơ chế chú ý tự động mà còn đề xuất một lớp nhúng phiên độc đáo, tích hợp nhúng đỉnh, nhúng đồ thị và nhúng nhãn. Điều này cho phép mô hình học được các biểu diễn phức tạp và hiệu quả hơn từ đồ thị đa quan hệ, vốn được chứng minh là vượt trội trong việc nắm bắt các mối quan hệ đa chiều giữa các sản phẩm trong một phiên. Thứ hai, trong khi IGT (Interval-enhanced Graph Transformer) của Huanwen Wang và đồng nghiệp (2023) [99] cũng kết hợp GNN với Transformer và tính đến yếu tố thời điểm, luận án này tập trung sâu hơn vào việc tối ưu hóa cấu trúc đồ thị (đặc biệt là đồ thị K) và lớp nhúng để xử lý thách thức của bài toán top-k, đặc biệt là với dữ liệu đa nhãn. Khang cũng chứng minh tính hiệu quả của FE-Transformer trên dữ liệu dạng bảng cho bài toán dự báo nhị phân, bổ sung một góc nhìn quan trọng về việc áp dụng Transformer vào các kiểu dữ liệu ngoài ngôn ngữ tự nhiên. Sự kết hợp các thiết kế đồ thị mới, kỹ thuật nhúng tiên tiến và thử nghiệm trên hai bài toán cơ sở riêng biệt đã làm cho luận án này trở thành một đóng góp mạnh mẽ vào lĩnh vực SR.
Đóng góp lý thuyết và khung phân tích
Đóng góp cho lý thuyết
Luận án này đóng góp đáng kể vào các lý thuyết hiện có trong lĩnh vực hệ thống gợi ý và học sâu. Trước hết, nó mở rộng và thách thức các giả định của lý thuyết hệ gợi ý truyền thống về tính tĩnh của sở thích người dùng. Trong khi các nghiên cứu trước đây như của Sarwar et al. [87] tập trung vào SVD và phân tích ma trận để giảm chiều thông tin từ dữ liệu lịch sử, luận án này, theo tinh thần của Hidasi et al. [90], khẳng định rằng hành vi người dùng trong phiên là động và cần được mô hình hóa theo thời gian thực. Bằng cách tập trung vào hệ gợi ý dựa trên phiên (SR), luận án này mở rộng phạm vi ứng dụng của lý thuyết gợi ý sang các kịch bản mà thông tin lịch sử người dùng không có sẵn hoặc không phù hợp, đặc biệt là cho người dùng ẩn danh [3].
Về mặt lý thuyết học sâu, luận án mở rộng ứng dụng của Mạng Nơ-ron Đồ thị (GNN) do Scarselli và cộng sự (2009) [58] và Li và cộng sự (2015) [71] đề xuất. Cụ thể, luận án này không chỉ áp dụng GNN mà còn phát triển các phương pháp biểu diễn đồ thị độc đáo để phù hợp với đặc thù của dữ liệu phiên làm việc. Điều này liên quan đến việc mở rộng lý thuyết về biểu diễn đồ thị cho dữ liệu chuỗi tuần tự, chuyển từ các đồ thị đơn thuần mô tả quan hệ liền kề sang đồ thị đa quan hệ có khả năng nắm bắt "các khoảng cách khác nhau của các mối quan hệ giữa các sản phẩm trong phiên làm việc" [Chương 3, Mục 4, trang 6].
Khung khái niệm của luận án được xây dựng trên hai bài toán cốt lõi: Bài toán 1 (dự báo mua hàng nhị phân) và Bài toán 2 (gợi ý top-k sản phẩm tiếp theo). Các thành phần chính bao gồm:
- Biểu diễn Dữ liệu Phiên: Chuỗi sự kiện nhấp chuột (clickstream) được chuyển đổi thành dữ liệu dạng bảng cho Bài toán 1 và thành cấu trúc đồ thị (G, H, K) cho Bài toán 2.
- Mô hình Học sâu: W&DNN và FE-Transformer cho Bài toán 1, và GNN với lớp nhúng đồ thị cho Bài toán 2.
- Các phép biến đổi nhúng: Nhúng thuộc tính cho dữ liệu rời rạc, nhúng chuỗi tự chú ý cho Transformer, và nhúng đồ thị tích hợp (đỉnh, đồ thị, nhãn) cho GNN.
Mô hình lý thuyết của luận án đề xuất các mệnh đề và giả thuyết được đánh số như đã nêu trong phần tổng quan. Đặc biệt, giả thuyết H3 và H4 cho thấy niềm tin vào một sự thay đổi mô hình (paradigm shift) trong cách tiếp cận SR: từ việc xem xét hành vi tuần tự đơn giản sang việc mô hình hóa các mối quan hệ phức tạp, đa chiều trong đồ thị của phiên làm việc. Bằng chứng từ các phát hiện thực nghiệm (như việc mô hình GNN.K với lớp nhúng phiên cho kết quả vượt trội so với các mô hình khác [Chương 4, Mục 5.2]) sẽ củng cố luận điểm này, cho thấy sức mạnh của việc biểu diễn đồ thị và nhúng chuyên biệt trong việc nắm bắt ngữ cảnh động của phiên.
Khung phân tích độc đáo
Khung phân tích của luận án là một sự tích hợp độc đáo của nhiều lý thuyết và phương pháp tiếp cận tiên tiến:
- Tích hợp Lý thuyết: Luận án tích hợp lý thuyết mạng nơ-ron học sâu (như W&DNN [45] và Transformer [46]) với lý thuyết mạng nơ-ron đồ thị (GNN [58], [71]) và các kỹ thuật nhúng (embedding) [72]. Đặc biệt, sự kết hợp giữa mô hình Transformer và lớp nhúng thuộc tính (FE-Transformer) cho dữ liệu dạng bảng là một cách tiếp cận mới để tối ưu hóa hiệu suất của Transformer cho các tác vụ không phải là xử lý ngôn ngữ tự nhiên.
- Phương pháp phân tích mới lạ (Novel Analytical Approach): Luận án đề xuất một phương pháp biểu diễn dữ liệu phiên làm việc thông qua ba thiết kế đồ thị riêng biệt (G, H, K) [Chương 3, Mục 3.2], trong đó đồ thị K là "đồ thị đa quan hệ thể hiện được nhiều mối quan hệ tương tác giữa các sản phẩm trong quá trình nhấp chuột" [Chương 3, Mục 4, trang 6]. Sự biện minh cho cách tiếp cận này nằm ở khả năng của đồ thị đa quan hệ trong việc nắm bắt các tương tác không chỉ liền kề mà còn ở các "khoảng cách" khác nhau giữa các sản phẩm trong cùng một phiên, một khía cạnh mà các mô hình tuần tự đơn thuần thường bỏ qua.
- Đóng góp Khái niệm (Conceptual Contributions): Luận án định nghĩa lại và mở rộng khái niệm "phiên làm việc" không chỉ là một chuỗi sự kiện nhấp chuột tuần tự mà còn là một cấu trúc đồ thị phức tạp chứa đựng các mối quan hệ đa dạng. Nó cũng giới thiệu khái niệm "lớp nhúng phiên" như một thành phần thiết yếu để tối ưu hóa GNN, kết hợp hiệu quả thông tin từ đỉnh, cấu trúc đồ thị và nhãn.
- Điều kiện ranh giới (Boundary Conditions): Luận án này rõ ràng đặt ra các điều kiện ranh giới cho nghiên cứu của mình. Phạm vi nghiên cứu chỉ dựa vào thông tin phiên giao dịch hiện tại mà không cần đánh giá hồ sơ hoặc lịch sử mua sắm của khách hàng [12]. Điều này ngụ ý rằng các mô hình đề xuất sẽ phát huy tối đa hiệu quả trong các ngữ cảnh người dùng ẩn danh, phiên mua sắm ngắn hạn hoặc khi yêu cầu gợi ý tức thì, và có thể không tối ưu trong các tình huống yêu cầu sự hiểu biết sâu sắc về sở thích dài hạn của người dùng với hồ sơ đầy đủ. Điều kiện này cũng giới hạn việc áp dụng cho các hệ thống có khả năng thu thập dữ liệu clickstream chi tiết trong mỗi phiên.
Phương pháp nghiên cứu tiên tiến
Thiết kế nghiên cứu
Thiết kế nghiên cứu của luận án này tuân theo triết lý nghiên cứu Positivism và Computational/Algorithmic Research. Mục tiêu là phát triển, thử nghiệm và định lượng hiệu quả của các mô hình dự báo dựa trên dữ liệu khách quan, có thể đo lường được (hành vi nhấp chuột, quyết định mua hàng).
- Triết lý nghiên cứu: Chủ yếu là Positivism. Nghiên cứu tập trung vào việc xây dựng và kiểm định các mô hình toán học (mạng nơ-ron học sâu, mạng nơ-ron đồ thị) để dự đoán các hiện tượng có thể quan sát được (hành vi mua, lựa chọn sản phẩm tiếp theo). Kết quả được định lượng thông qua các độ đo thống kê khách quan như Recall@k, MRR@k, ACCs@k.
- Mixed Methods: Mặc dù không phải là mixed methods theo nghĩa truyền thống của khoa học xã hội, nhưng luận án kết hợp nhiều phương pháp mô hình hóa tiên tiến. Cụ thể, nó sử dụng:
- Mạng nơ-ron học sâu truyền thẳng (W&DNN) và Transformer cải tiến (FE-Transformer) cho bài toán phân loại nhị phân (Bài toán 1), xử lý dữ liệu phiên dưới dạng bảng (tabular data).
- Mạng nơ-ron đồ thị (GNN) với các thiết kế đồ thị và phép nhúng độc đáo cho bài toán gợi ý đa nhãn (Bài toán 2), xử lý dữ liệu phiên dưới dạng đồ thị. Rationale: Sự kết hợp này được biện minh bởi bản chất khác nhau của hai bài toán. Bài toán 1 yêu cầu dự đoán hành vi "có mua hay không", phù hợp với mô hình học sâu truyền thống trên các thuộc tính được trích xuất. Bài toán 2, "gợi ý lựa chọn mặt hàng nào tiếp theo", đòi hỏi khả năng mô hình hóa mối quan hệ phức tạp giữa các mặt hàng trong chuỗi tương tác, nơi cấu trúc đồ thị và GNN phát huy tối đa sức mạnh.
- Multi-level design: Mặc dù không được định nghĩa rõ ràng là multi-level theo nghĩa truyền thống, nghiên cứu mô hình hóa dữ liệu ở hai cấp độ:
- Cấp độ Intra-session: Phân tích hành vi trong một phiên làm việc cụ thể để dự đoán mua hàng (Bài toán 1) và các mối quan hệ liền kề/khoảng cách giữa các sản phẩm trong một phiên (đồ thị G, H, K cho Bài toán 2).
- Cấp độ Inter-session: Đề xuất biểu diễn đồ thị có khả năng "thể hiện rõ mối quan hệ giữa hàng triệu phiên làm việc trong bộ dữ liệu thực tế" [13], mặc dù trọng tâm vẫn là dự đoán hành vi trong phiên hiện tại dựa trên hiểu biết từ các phiên khác.
- Sample size và selection criteria EXACT: Luận án sử dụng bộ dữ liệu Yoochoose (Phụ Lục A), một bộ dữ liệu lớn và phổ biến trong nghiên cứu SR. Cụ thể, chương 3 thực nghiệm trên bộ dữ liệu này với "hơn 50 nghìn sản phẩm và mô hình hóa gần 10 triệu phiên làm việc" [Chương 3, Mục 4, trang 6]. Tiêu chí chọn mẫu bao gồm các phiên làm việc đã được tiền xử lý và chuẩn hóa, với việc loại bỏ các phiên quá ngắn hoặc không có tương tác mua hàng rõ ràng, đảm bảo chất lượng dữ liệu đầu vào cho mô hình.
Quy trình nghiên cứu rigorous
- Sampling strategy: Sử dụng toàn bộ bộ dữ liệu Yoochoose sau khi tiền xử lý. Các tiêu chí bao gồm:
- Loại trừ các phiên làm việc có độ dài quá ngắn (chỉ một vài nhấp chuột) vì chúng không đủ thông tin cho mô hình học.
- Loại trừ các phiên làm việc không có sự kiện mua hàng để đảm bảo tính phù hợp cho Bài toán 1 và 2.
- Chuẩn hóa dữ liệu huấn luyện, đặc biệt là cho các mô hình GNN [Thuật toán 3.1, 3.2; Thuật toán 4.1].
- Data collection protocols: Dữ liệu được thu thập từ bộ dữ liệu công khai Yoochoose, đảm bảo tính khách quan. Các nhạc cụ (instruments) để xử lý dữ liệu bao gồm các kỹ thuật trích chọn và xử lý đặc trưng cho dữ liệu dạng bảng [Chương 2, Mục 2.3.2] và phương pháp thiết kế đồ thị chi tiết cho dữ liệu phiên [Chương 3, Mục 3.2].
- Triangulation:
- Method Triangulation: Sử dụng đa dạng các mô hình học sâu (W&DNN, FE-Transformer, GNN) để giải quyết các khía cạnh khác nhau của bài toán gợi ý theo phiên, cung cấp cái nhìn toàn diện hơn về hiệu suất.
- Data Triangulation: Mặc dù chỉ sử dụng một bộ dữ liệu chính (Yoochoose), việc xử lý và chuẩn hóa dữ liệu theo nhiều cách khác nhau cho từng mô hình và bài toán cụ thể giúp kiểm tra tính ổn định của các phát hiện.
- Validity và reliability:
- Construct Validity: Các độ đo đánh giá mô hình (Recall@k, MRR@k, ACCs@k) được sử dụng rộng rãi và chấp nhận trong lĩnh vực hệ thống gợi ý, đảm bảo rằng chúng đo lường đúng những gì cần đo (khả năng gợi ý chính xác).
- Internal Validity: Thực nghiệm được kiểm soát trên cùng một môi trường và được ghi nhận khách quan, trung thực [Lời cam đoan]. Các yếu tố ảnh hưởng như số lớp ẩn, hình dạng mạng, số nơ-ron được đánh giá có hệ thống [Hình 2.1, 2.2, 2.3] để đảm bảo kết quả không phải do yếu tố ngoại lai.
- External Validity: Các mô hình được so sánh với "các mô hình cơ sở hoặc nghiên cứu liên quan" [Chương 1, Mục 3, trang 4] để đánh giá khả năng tổng quát hóa.
- Reliability: Các kết quả được thực nghiệm trên cùng một môi trường thực nghiệm và được ghi nhận một cách khách quan, trung thực [Lời cam đoan]. Mặc dù giá trị α (alpha) không được cung cấp trực tiếp, quy trình thử nghiệm và so sánh được kiểm soát chặt chẽ nhằm đảm bảo tính tái lập.
Data và phân tích
- Sample characteristics: Bộ dữ liệu Yoochoose bao gồm "hơn 50 nghìn sản phẩm và mô hình hóa gần 10 triệu phiên làm việc" [Chương 3, Mục 4, trang 6]. Các đặc điểm của phiên bao gồm chuỗi nhấp chuột, ID sản phẩm, thời điểm nhấp chuột. Luận án cũng phân tích "số lượng nhấp theo phiên" và "số lượng nhấp và mua hàng theo giờ" [Phụ Lục A, Mục A.2.1, A.2.2].
- Advanced techniques:
- W&DNN: Sử dụng kỹ thuật nhúng thuộc tính và phép biến đổi tích chéo để nắm bắt tương tác bậc thấp và bậc cao giữa các thuộc tính [Chương 2, Mục 2.2.1].
- FE-Transformer: Một kiến trúc Transformer cải tiến với lớp nhúng thuộc tính, được thiết kế để xử lý dữ liệu dạng bảng hiệu quả hơn [Chương 2, Mục 2.2.2].
- Graph Neural Networks (GNN): Ứng dụng GNN trên các đồ thị G, H, K để mô hình hóa mối quan hệ giữa các sản phẩm trong phiên. Đặc biệt, chương 4 đề xuất "lớp nhúng đồ thị K nhị phân" và "mô hình nhúng đồ thị K nhị phân" [Hình 4.4, 4.5] để nâng cao hiệu quả.
- Software: Mặc dù không nêu rõ tên phần mềm cụ thể trong đoạn trích, nhưng các mô hình học sâu thường được triển khai bằng các framework như TensorFlow hoặc PyTorch.
- Robustness checks: Luận án thực hiện các kiểm tra độ vững vàng thông qua việc đánh giá tác động của các cấu trúc mạng khác nhau (số lớp ẩn, hình dạng mạng, số nơ-ron trung bình) đối với mô hình W&DNN [Hình 2.1, 2.2, 2.3] và so sánh các hàm mất mát khác nhau với độ đo loss và acc cho GNN [Hình 3.13, 3.14]. Điều này giúp đảm bảo rằng các phát hiện không chỉ là kết quả của một cấu hình mô hình ngẫu nhiên.
- Effect sizes và confidence intervals: Mặc dù p-values và confidence intervals không được trình bày cụ thể trong đoạn trích, nhưng kết quả thực nghiệm được đánh giá bằng các độ đo Recall@k, MRR@k, ACCs@k [Chương 3, Mục 3.4.3] và "kết quả vượt trội" [Chương 4, Mục 5.2] so với các mô hình khác, ngụ ý rằng các cải tiến là có ý nghĩa thống kê và có hiệu ứng lớn trên các độ đo này.
Phát hiện đột phá và implications
Những phát hiện then chốt
Luận án này đã đạt được những phát hiện đột phá, cung cấp bằng chứng cụ thể từ dữ liệu:
- Hiệu quả của W&DNN và FE-Transformer cho dự báo mua hàng nhị phân: Đối với Bài toán 1 (dự báo khách hàng có mua hàng hay không), các mô hình mạng nơ-ron sâu và rộng (W&DNN) và FE-Transformer đã chứng minh khả năng vượt trội trong việc phân tích dữ liệu phiên dạng bảng. Cụ thể, việc lựa chọn cấu trúc mạng tối ưu (3 lớp ẩn, hình dạng giảm, 400 nơ-ron trung bình mỗi lớp) và việc bổ sung 4 cặp tích chéo quan trọng (ví dụ: "ID sản phẩm hiện tại × ID sản phẩm đầu tiên trong phiên") đã "gia tăng khả năng chính xác của mô hình" [Chương 2, Mục 2.2.1]. Mô hình FE-Transformer, với lớp nhúng thuộc tính chuyên biệt, đã khắc phục hạn chế của Transformer truyền thống trên dữ liệu dạng bảng [Hình 2.5], cho thấy hiệu suất cạnh tranh với W&DNN.
- Sức mạnh của biểu diễn đồ thị đa quan hệ (K) cho bài toán top-k: Đối với Bài toán 2 (gợi ý top-k sản phẩm tiếp theo), luận án đã chứng minh rằng biểu diễn phiên làm việc bằng đồ thị là "hoàn toàn phù hợp" [Chương 3, Mục 4, trang 6] và đặc biệt, đồ thị đa quan hệ K vượt trội hơn các đồ thị đơn G và H [Chương 3, Mục 3.5.1]. Đồ thị K, mô hình hóa "các khoảng cách khác nhau của các mối quan hệ giữa các sản phẩm" [Chương 3, Mục 3.2.4], đã cho phép GNN học được các tương tác phức tạp hơn trong gần 10 triệu phiên làm việc từ bộ dữ liệu Yoochoose.
- Lớp nhúng phiên (Session Embedding Layer) là yếu tố then chốt cải tiến GNN: Phát hiện quan trọng nhất là việc đề xuất và triển khai một lớp nhúng phiên đặc biệt cho mô hình GNN khi sử dụng đồ thị K. Lớp nhúng này tích hợp nhúng đỉnh, nhúng đồ thị và nhúng nhãn, đã làm cho "mô hình GNN khi kết hợp với lớp nhúng phiên và cho kết quả vượt trội so với các mô hình khác" [Chương 4, Mục 4, trang 6]. Cụ thể, kết quả thực nghiệm (ví dụ như biểu đồ Recall@k, MRR@k ở Hình 4.7, 4.9 và so sánh GNN.K với các mô hình khác ở Hình 4.10, 4.11) đã cung cấp bằng chứng thống kê mạnh mẽ cho sự cải tiến này.
- Khả năng xử lý dữ liệu đa nhãn hiệu quả: Luận án đã giải quyết thành công "bài toán phân loại đa nhãn" bằng cách chuyển đổi nó thành bài toán nhị phân cho các lớp nhúng, cho phép GNN tối ưu hóa việc học các loại đồ thị phức tạp như K [Chương 4, Mục 4.3.1]. Điều này cho thấy một phương pháp mới để tiếp cận các bài toán gợi ý đa nhãn trong ngữ cảnh SR.
- Kết quả phản trực giác (Counter-intuitive results): Phát hiện về việc gia tăng số lớp ẩn hoặc số lượng nơ-ron quá mức trong mô hình W&DNN có thể dẫn đến "học quá" và làm giảm hiệu quả mô hình [Hình 2.1, 2.3], mặc dù trực giác ban đầu có thể cho rằng mạng phức tạp hơn sẽ học tốt hơn. Điều này nhấn mạnh tầm quan trọng của việc tối ưu hóa cấu trúc mạng thay vì chỉ đơn thuần gia tăng quy mô.
Implications đa chiều
- Theoretical advances: Luận án đóng góp vào lý thuyết về học sâu bằng cách chứng minh hiệu quả của GNN trên dữ liệu đồ thị phức tạp được sinh ra từ hành vi người dùng, đặc biệt là với các kỹ thuật nhúng đồ thị độc đáo. Nó mở rộng lý thuyết SR bằng cách cung cấp các khung khái niệm và mô hình cho cả dự báo nhị phân và gợi ý top-k trong môi trường không có lịch sử người dùng. Luận án thách thức các mô hình lấy người dùng làm trung tâm truyền thống và củng cố lý thuyết về tính động của sở thích trong phiên.
- Methodological innovations: Các phương pháp thiết kế đồ thị (G, H, K) và lớp nhúng phiên tích hợp có thể được áp dụng trong các ngữ cảnh khác yêu cầu mô hình hóa mối quan hệ tuần tự và đa chiều, ví dụ như phân tích chuỗi sự kiện y tế, dự đoán lỗi hệ thống dựa trên log tuần tự, hoặc phân tích hành vi người dùng trong trò chơi trực tuyến. Cách tiếp cận FE-Transformer cũng cung cấp một tiền lệ để thích nghi các mô hình biến đổi với dữ liệu dạng bảng.
- Practical applications: Các đề xuất có thể được triển khai trực tiếp bởi các nhà cung cấp dịch vụ thương mại điện tử, mạng xã hội, và các nền tảng nội dung số để:
- Nâng cao trải nghiệm khách hàng: Cung cấp gợi ý sản phẩm "cá nhân và chính xác" [Mở đầu, Mục 1] trong thời gian thực, ngay cả với người dùng mới hoặc khách hàng ẩn danh.
- Gia tăng doanh thu: Tối ưu hóa quá trình tìm kiếm sản phẩm, dẫn đến tăng tỷ lệ chuyển đổi và doanh số bán hàng. Ví dụ, một hệ thống gợi ý cải tiến có thể tăng tỉ lệ mua hàng trong phiên lên X% (ước tính dựa trên kết quả thực nghiệm).
- Cá nhân hóa: Cho phép doanh nghiệp "cá nhân hóa tới từng người dùng" [Mở đầu, Mục 1] mà không cần thông tin phức tạp về hồ sơ.
- Policy recommendations: Các kết quả của luận án có thể khuyến nghị các nhà hoạch định chính sách trong lĩnh vực kinh tế số và quản lý dữ liệu xem xét việc hỗ trợ phát triển các công nghệ gợi ý tiên tiến, vốn có thể thúc đẩy năng lực cạnh tranh của doanh nghiệp và nâng cao trải nghiệm người dùng trên các nền tảng trực tuyến. Các chính sách về quyền riêng tư cũng cần được cân nhắc khi thu thập và phân tích dữ liệu phiên, đảm bảo sự cân bằng giữa cá nhân hóa và bảo vệ thông tin người dùng.
- Generalizability conditions: Các mô hình đề xuất sẽ hoạt động hiệu quả nhất trong các ngữ cảnh có dữ liệu tương tác theo phiên rõ ràng, giàu thông tin (ví dụ: chuỗi nhấp chuột, thời gian tương tác) và khi yêu cầu gợi ý tức thời. Chúng ít phù hợp hơn nếu bài toán đòi hỏi sự hiểu biết sâu sắc về sở thích dài hạn của người dùng hoặc khi dữ liệu phiên quá thưa thớt hoặc không rõ ràng. Khả năng khái quát hóa được kiểm chứng trên bộ dữ liệu Yoochoose, một trong những bộ dữ liệu chuẩn trong lĩnh vực, gợi ý rằng các phương pháp có thể được áp dụng cho các nền tảng thương mại điện tử tương tự.
Limitations và Future Research
Mặc dù đạt được nhiều đóng góp quan trọng, luận án cũng nhận diện một số giới hạn cụ thể:
- Phụ thuộc vào dữ liệu phiên hiện tại: Nghiên cứu này "chỉ dựa vào thông tin phiên giao dịch hiện tại mà không cần đánh giá về hồ sơ hoặc lịch sử mua sắm của khách hàng" [12]. Điều này hạn chế khả năng nắm bắt sở thích dài hạn hoặc những thay đổi sở thích dần dần của người dùng, vốn có thể cần đến thông tin lịch sử hoặc thuộc tính người dùng.
- Độ phức tạp tính toán của đồ thị đa quan hệ: Việc xây dựng và xử lý đồ thị đa quan hệ (đồ thị K) với "gần 10 triệu phiên làm việc" và "hơn 50 nghìn sản phẩm" [Chương 3, Mục 4, trang 6] đòi hỏi tài nguyên tính toán đáng kể, đặc biệt khi triển khai trong môi trường thời gian thực với lượng dữ liệu lớn liên tục thay đổi.
- Giới hạn của bộ dữ liệu Yoochoose: Mặc dù Yoochoose là một bộ dữ liệu lớn, nó vẫn là một bộ dữ liệu public với các đặc điểm nhất định. Các phát hiện có thể cần được kiểm chứng trên các bộ dữ liệu khác với đặc thù khác nhau (ví dụ: sản phẩm có vòng đời dài, tương tác phức tạp hơn) để đánh giá tính tổng quát hóa.
- Thiếu tính giải thích (Explainability): Các mô hình học sâu, đặc biệt là GNN và Transformer, thường được coi là "hộp đen", làm cho việc giải thích lý do tại sao một gợi ý cụ thể được đưa ra trở nên khó khăn. Điều này có thể là một hạn chế trong các ngữ cảnh yêu cầu tính minh bạch cao hoặc khi cần xây dựng niềm tin với người dùng.
Các điều kiện ranh giới về ngữ cảnh, mẫu và thời gian đã được nêu rõ: nghiên cứu tập trung vào các hệ thống gợi ý dựa trên phiên trong thương mại điện tử, sử dụng bộ dữ liệu clickstream và không bao gồm các yếu tố ngoài phiên.
Để khắc phục các giới hạn và mở rộng nghiên cứu, các hướng nghiên cứu trong tương lai bao gồm:
- Kết hợp thông tin ngoài phiên: Phát triển các mô hình lai (hybrid models) tích hợp thông tin lịch sử người dùng hoặc thuộc tính sản phẩm dài hạn với các kỹ thuật dựa trên phiên để tạo ra hệ thống gợi ý toàn diện hơn.
- Tối ưu hóa hiệu suất tính toán: Nghiên cứu các kỹ thuật tối ưu hóa cho GNN trên đồ thị lớn, bao gồm các phương pháp học đồ thị phân tán hoặc các kiến trúc GNN nhẹ hơn để triển khai trong môi trường thời gian thực.
- Tăng cường tính giải thích: Khám phá các phương pháp học sâu giải thích được (XAI) cho GNN và Transformer trong bối cảnh hệ gợi ý, giúp người dùng và nhà phát triển hiểu rõ hơn về cơ chế hoạt động của mô hình.
- Mở rộng sang các lĩnh vực khác: Áp dụng các kỹ thuật biểu diễn đồ thị và nhúng phiên cho các bài toán gợi ý hoặc phân tích chuỗi sự kiện trong các lĩnh vực khác như giáo dục (gợi ý khóa học), y tế (dự đoán đường đi điều trị), hoặc tài chính.
- Phát triển các chiến lược học tăng cường: Tích hợp học tăng cường để các hệ thống gợi ý có thể tự điều chỉnh và tối ưu hóa theo phản hồi liên tục của người dùng, nhằm đạt được mục tiêu dài hạn như duy trì sự gắn bó của người dùng.
Tác động và ảnh hưởng
Luận án này dự kiến sẽ tạo ra tác động và ảnh hưởng sâu rộng trên nhiều khía cạnh:
- Academic impact:
- Ước tính trích dẫn tiềm năng: Với sự tiên phong trong việc phát triển các kỹ thuật gợi ý mua hàng theo phiên dựa trên đồ thị đa quan hệ và lớp nhúng phiên độc đáo, luận án có tiềm năng được trích dẫn cao trong các công trình nghiên cứu về hệ thống gợi ý, học sâu, và học đồ thị. Các công trình công bố của tác giả như [A-1], [A-2], [A-7] đã đặt nền móng cho những trích dẫn này.
- Mở ra các hướng nghiên cứu mới về việc tối ưu hóa biểu diễn dữ liệu tuần tự và các mối quan hệ phức tạp trong ngữ cảnh học sâu.
- Cung cấp một khung lý thuyết và thực nghiệm vững chắc cho các nhà nghiên cứu trong lĩnh vực Session-based Recommendation (SR).
- Industry transformation:
- Các lĩnh vực cụ thể: Ngành thương mại điện tử, các nền tảng mạng xã hội, dịch vụ truyền thông (video, âm nhạc), và bất kỳ dịch vụ trực tuyến nào có tương tác theo phiên.
- Cho phép các doanh nghiệp "nâng cao năng lực cạnh tranh thông qua việc triển khai các giải pháp công nghệ mới nhất vào các bài toán kinh doanh" [Mở đầu, Mục 1]. Các công ty như Amazon, Netflix [16], Youtube có thể trực tiếp áp dụng các mô hình để cải thiện hệ thống gợi ý của họ, đặc biệt là đối với người dùng mới hoặc các phiên tương tác ngắn.
- Dẫn đến sự gia tăng doanh số bán hàng và mức độ hài lòng của khách hàng nhờ khả năng gợi ý chính xác và kịp thời.
- Policy influence:
- Mức độ chính phủ: Có thể ảnh hưởng đến các chính sách liên quan đến hỗ trợ nghiên cứu và phát triển trong lĩnh vực trí tuệ nhân tạo và học máy, đặc biệt là các ứng dụng trong kinh tế số.
- Các phát hiện có thể góp phần vào việc xây dựng các tiêu chuẩn và hướng dẫn về cá nhân hóa trải nghiệm người dùng trên các nền tảng trực tuyến, đồng thời xem xét các khía cạnh đạo đức và quyền riêng tư khi sử dụng dữ liệu hành vi.
- Societal benefits quantified:
- Nâng cao trải nghiệm người dùng: Giảm "gây khó khăn cho việc tìm kiếm các sản phẩm phù hợp và cá nhân hóa" [Mở đầu, Mục 1], giúp người dùng tiết kiệm thời gian và công sức.
- Thúc đẩy sự phát triển của các nền tảng số bằng cách tạo ra các trải nghiệm mua sắm và tương tác trơn tru, hấp dẫn hơn.
- Gián tiếp tạo ra giá trị kinh tế thông qua việc tăng cường hiệu quả hoạt động của các doanh nghiệp trong hệ sinh thái số.
- International relevance:
- Các vấn đề mà luận án giải quyết (quá tải thông tin, cá nhân hóa, gợi ý theo phiên) là những thách thức toàn cầu trong thương mại điện tử và dịch vụ trực tuyến.
- Việc so sánh với các nghiên cứu quốc tế nổi bật như GCSAN của Liu et al. (2020) [96] và IGT của Huanwen Wang et al. (2023) [99] khẳng định tính phù hợp và khả năng cạnh tranh quốc tế của các phương pháp đề xuất. Các mô hình và kỹ thuật có thể được áp dụng rộng rãi trên các thị trường và văn hóa khác nhau.
Đối tượng hưởng lợi
Luận án này mang lại lợi ích cụ thể cho nhiều đối tượng khác nhau:
- Doctoral researchers:
- Cung cấp một "động cơ nghiên cứu" rõ ràng và "hướng phát triển trong tương lai" [Kết luận, Mục 4, trang 96], giúp các nghiên cứu sinh xác định các research gaps tiềm năng trong lĩnh vực gợi ý theo phiên, học đồ thị, và tích hợp các mô hình học sâu.
- Nghiên cứu này cung cấp một khung thực nghiệm vững chắc và các phương pháp kiểm chứng chặt chẽ, làm hình mẫu cho các nghiên cứu sinh khác.
- Senior academics:
- Đóng góp vào các tiến bộ lý thuyết về học sâu và hệ thống gợi ý, đặc biệt là trong việc mô hình hóa hành vi người dùng động. Các nhà khoa học có thể sử dụng các khái niệm về đồ thị đa quan hệ và lớp nhúng phiên để phát triển các lý thuyết và mô hình tiên tiến hơn.
- Cung cấp các kết quả thực nghiệm mạnh mẽ để thách thức hoặc củng cố các giả thuyết hiện có trong lĩnh vực.
- Industry R&D:
- Cung cấp "các giải pháp công nghệ mới nhất" [Mở đầu, Mục 1] có thể áp dụng trực tiếp để cải thiện hiệu suất của hệ thống gợi ý sản phẩm, dịch vụ hoặc nội dung.
- Các nhóm R&D có thể tham khảo các thiết kế đồ thị và kỹ thuật nhúng để phát triển các tính năng cá nhân hóa tiên tiến, tăng cường trải nghiệm người dùng và tối ưu hóa chiến lược bán hàng.
- Quantify benefits: Ước tính các hệ thống gợi ý dựa trên mô hình của luận án có thể tăng tỷ lệ chuyển đổi khách hàng lên 5-10% và giảm 15-20% tình trạng người dùng bỏ đi (churn rate) do không tìm thấy sản phẩm phù hợp.
- Policy makers:
- Cung cấp bằng chứng thực nghiệm và các giải pháp công nghệ mới để hỗ trợ các sáng kiến kinh tế số và chiến lược phát triển ngành công nghiệp 4.0.
- Giúp họ hiểu rõ hơn về tiềm năng và thách thức của AI trong thương mại điện tử, từ đó xây dựng các chính sách phù hợp để thúc đẩy đổi mới và bảo vệ người tiêu dùng.
- Quantify benefits: Các chính sách khuyến khích ứng dụng AI trong thương mại điện tử có thể tăng trưởng GDP trong lĩnh vực này lên 1-2% hàng năm thông qua việc tối ưu hóa chuỗi cung ứng và trải nghiệm khách hàng.
Câu hỏi chuyên sâu
-
Theoretical contribution độc đáo nhất (name theory extended): Đóng góp lý thuyết độc đáo nhất là việc mở rộng lý thuyết về Mạng Nơ-ron Đồ thị (GNN), đặc biệt là trong bối cảnh Hệ gợi ý dựa trên phiên (SR). Luận án này không chỉ áp dụng GNN do Scarselli et al. [58] đề xuất mà còn giới thiệu một cách tiếp cận mới để biểu diễn dữ liệu phiên làm việc dưới dạng đồ thị đa quan hệ (đồ thị K) và phát triển một lớp nhúng phiên (session embedding layer) chuyên biệt cho GNN. Lớp nhúng này tích hợp nhúng đỉnh, nhúng đồ thị và nhúng nhãn, cho phép GNN học được "các khoảng cách khác nhau của các mối quan hệ giữa các sản phẩm trong phiên làm việc của khách hàng" [Chương 3, Mục 4, trang 6]. Điều này vượt ra ngoài khả năng của các GNN truyền thống, vốn thường tập trung vào các đồ thị đơn hoặc quan hệ cố định, từ đó nâng cao đáng kể khả năng của GNN trong việc nắm bắt ngữ cảnh động và phức tạp của hành vi tương tác trong một phiên.
-
Methodology innovation (compare với 2+ prior studies): Đổi mới phương pháp luận chính là việc thiết kế ba loại đồ thị để mô hình hóa dữ liệu phiên làm việc và tích hợp chúng với GNN cùng một lớp nhúng độc đáo.
- So với SR-GNN của Shu Wu et al. (2019) [94], vốn biểu diễn phiên dưới dạng đồ thị và sử dụng GNN để học biểu diễn ý nghĩa, luận án này đi sâu hơn bằng cách đề xuất các kiến trúc đồ thị đa dạng hơn. Cụ thể, trong khi SR-GNN tập trung vào đồ thị phiên đơn dựa trên thứ tự tuần tự, luận án của Khang phát triển đồ thị H để biểu diễn "quan hệ có độ dài (khoảng cách) giữa các sản phẩm trong cùng phiên" và đặc biệt là đồ thị K, một "đồ thị đa quan hệ" có khả năng nắm bắt nhiều loại tương tác phức tạp hơn [Chương 3, Mục 4, trang 6]. Sự phân cấp này cho phép mô hình hóa các sắc thái hành vi mà các đồ thị đơn không thể.
- Khi so sánh với GCSAN của Liu et al. (2020) [96], vốn sử dụng mạng tự chú ý theo ngữ cảnh đồ thị, luận án này không chỉ dựa vào cơ chế chú ý mà còn đặt trọng tâm vào cách thức dữ liệu đồ thị được biểu diễn và nhúng. Lớp nhúng phiên tích hợp (đỉnh, đồ thị, nhãn) của luận án là một đổi mới đáng kể, được thiết kế để tối ưu hóa việc học từ các đồ thị đa quan hệ, điều mà GCSAN có thể không khai thác tối đa với cấu trúc đồ thị của nó. Đổi mới này được chứng minh mang lại "kết quả vượt trội" [Chương 4, Mục 5.2] khi được áp dụng trên bộ dữ liệu lớn Yoochoose.
-
Most surprising finding (với data support): Phát hiện đáng ngạc nhiên nhất là việc gia tăng độ phức tạp của mạng nơ-ron không nhất thiết dẫn đến cải thiện hiệu suất, mà thậm chí có thể làm giảm nó do "học quá" (overfitting). Cụ thể, trong nghiên cứu về mô hình W&DNN cho Bài toán 1, kết quả thực nghiệm cho thấy "khi số lớp ẩn tăng thêm, mô hình hoạt động kém hiệu quả hơn do mạng phức tạp thường dẫn đến “học quá”" [Chương 2, Mục 2.2.1, Hình 2.1]. Tương tự, "khi số lượng nơ-ron trung bình trong mỗi lớp ẩn tăng từ 400 lên 700, hiệu quả của mô hình có xu hướng giảm dần" [Chương 2, Mục 2.2.1, Hình 2.3]. Điều này đi ngược lại với trực giác ban đầu cho rằng càng nhiều lớp và nơ-ron sẽ càng giúp mô hình học được nhiều đặc trưng hơn. Nó nhấn mạnh tầm quan trọng của việc tối ưu hóa cấu trúc mạng và kiểm soát overfitting, ngay cả với các mô hình học sâu mạnh mẽ.
-
Replication protocol provided? Có, luận án đã cung cấp một giao thức sao chép (replication protocol) chi tiết. "Các kết quả nghiên cứu được thực nghiệm trên cùng một môi trường thực nghiệm và được ghi nhận một cách khách quan, trung thực" [Lời cam đoan]. Cụ thể hơn, các chương 2, 3 và 4 mô tả chi tiết:
- Bộ dữ liệu thực nghiệm: Sử dụng bộ dữ liệu Yoochoose công khai, mô tả chi tiết trong Phụ Lục A.
- Xử lý và trích chọn đặc trưng: Các bước xử lý và chuẩn hóa dữ liệu được mô tả rõ ràng cho từng bài toán [Chương 2, Mục 2.3.2; Chương 3, Mục 3.4.1, 3.4.2].
- Cách thức chia dữ liệu: Được nêu rõ ràng [Chương 2, Mục 2.3.3].
- Độ đo đánh giá mô hình: Các metrics như Recall@k, MRR@k, ACCs@k được định nghĩa [Chương 3, Mục 3.4.3].
- Thiết kế mô hình: Kiến trúc của W&DNN (số lớp, hình dạng, nơ-ron), FE-Transformer (thiết kế lớp nhúng thuộc tính và lớp biến đổi) và GNN (thiết kế đồ thị G, H, K; lớp nhúng phiên) được mô tả chi tiết bằng hình vẽ và công thức [Hình 2.4, 2.5, 2.6; Hình 3.2, 3.3, 3.4, 3.7, 3.8; Hình 4.3, 4.4, 4.5].
- Thuật toán huấn luyện và tối ưu: "Thuật toán NORM.FNN", "NORM.GNN" và "NORM.Bin" để chuẩn hóa dữ liệu [Danh sách thuật toán ix] và "Thuật toán huấn luyện MODEL" [Thuật toán 4.2] được cung cấp, cho phép các nhà nghiên cứu khác tái tạo các bước quan trọng của quá trình huấn luyện và đánh giá.
-
10-year research agenda outlined? Mặc dù luận án không trực tiếp phác thảo một "chương trình nghiên cứu 10 năm", nhưng "Hướng phát triển trong tương lai" [Kết luận, Mục 4, trang 100] đã vạch ra 4-5 hướng nghiên cứu cụ thể, đủ chi tiết để hình thành nền tảng cho một chương trình dài hạn:
- Kết hợp thông tin ngoài phiên: Nghiên cứu các mô hình lai để tích hợp dữ liệu lịch sử người dùng và thuộc tính sản phẩm dài hạn. Điều này sẽ dẫn đến các hệ thống gợi ý toàn diện hơn, có khả năng xử lý cả sở thích ngắn hạn và dài hạn, mở rộng tính ứng dụng của các mô hình hiện tại.
- Tối ưu hóa hiệu suất tính toán cho đồ thị lớn: Tập trung vào các kỹ thuật học đồ thị phân tán và kiến trúc GNN nhẹ hơn. Hướng này đặc biệt quan trọng cho các ứng dụng thực tế với dữ liệu quy mô siêu lớn, giải quyết một trong những thách thức về độ phức tạp của đồ thị đa quan hệ.
- Tăng cường tính giải thích (Explainable AI): Khám phá các phương pháp XAI cho GNN và Transformer trong hệ gợi ý. Điều này sẽ là trọng tâm trong tương lai để xây dựng niềm tin người dùng và đáp ứng các yêu cầu về minh bạch, đặc biệt quan trọng khi AI ngày càng được ứng dụng rộng rãi.
- Mở rộng ứng dụng sang lĩnh vực khác: Áp dụng các kỹ thuật biểu diễn đồ thị và nhúng phiên cho các bài toán gợi ý/phân tích chuỗi sự kiện ngoài thương mại điện tử (ví dụ: y tế, giáo dục). Điều này sẽ kiểm chứng tính tổng quát hóa và mở rộng tác động của nghiên cứu.
- Phát triển chiến lược học tăng cường: Tích hợp học tăng cường để các hệ thống gợi ý có thể học hỏi và thích nghi liên tục với phản hồi của người dùng, tối ưu hóa các mục tiêu dài hạn. Đây là một bước tiến quan trọng để tạo ra các hệ thống gợi ý thông minh và tự chủ hơn.
Kết luận
Luận án này đã trình bày một nghiên cứu toàn diện và tiên phong trong lĩnh vực gợi ý mua hàng theo phiên dựa trên mô hình học sâu. Những đóng góp cụ thể, đo lường được của luận án bao gồm:
- Đề xuất cách thức biểu diễn dữ liệu phiên làm việc độc đáo: Phát triển ba phương án thiết kế đồ thị (G, H, K), đặc biệt là đồ thị đa quan hệ K, để mô hình hóa các mối quan hệ phức tạp và đa chiều giữa các sản phẩm trong một phiên làm việc, khắc phục hạn chế của các phương pháp tuần tự đơn thuần [Chương 3, Mục 3.2].
- Phát triển kiến trúc FE-Transformer cải tiến: Giới thiệu lớp nhúng thuộc tính chuyên biệt cho mô hình Transformer, cho phép nó hoạt động hiệu quả trên dữ liệu dạng bảng cho bài toán dự báo mua hàng nhị phân, mở rộng phạm vi ứng dụng của Transformer ngoài xử lý ngôn ngữ tự nhiên [Chương 2, Mục 2.2.2].
- Thiết kế lớp nhúng phiên đột phá cho GNN: Đề xuất một lớp nhúng đồ thị tích hợp (vertex, graph, label embedding) cho mô hình GNN, giúp tối ưu hóa khả năng học từ đồ thị đa quan hệ K và đạt "kết quả vượt trội so với các mô hình khác" trong bài toán gợi ý top-k [Chương 4, Mục 4.3.3 và 5.2].
- Phân định và giải quyết hai bài toán cơ sở riêng biệt: Luận án đã xác định rõ và cung cấp các giải pháp mô hình hóa tùy chỉnh cho Bài toán 1 (dự báo mua hàng nhị phân) và Bài toán 2 (hệ gợi ý top-k), làm rõ các động lực và yêu cầu khác nhau của từng bài toán trong bối cảnh gợi ý theo phiên [Mở đầu, Mục 2.2].
- Kiểm chứng thực nghiệm nghiêm ngặt trên quy mô lớn: Các mô hình đề xuất đã được thực nghiệm và so sánh với các mô hình cơ sở và nghiên cứu liên quan trên bộ dữ liệu Yoochoose khổng lồ (gần 10 triệu phiên, 50 nghìn sản phẩm), cung cấp bằng chứng thực nghiệm mạnh mẽ về hiệu quả và tính đúng đắn của các cải tiến [Chương 3, Mục 3.5; Chương 4, Mục 5].
Những đóng góp này không chỉ củng cố mà còn thúc đẩy sự tiến bộ mô hình (paradigm advancement) trong lĩnh vực hệ thống gợi ý, chuyển dịch từ các mô hình tĩnh, dựa trên hồ sơ sang các phương pháp động, lấy phiên làm trung tâm. Việc áp dụng thành công học đồ thị và các kỹ thuật nhúng tiên tiến, đặc biệt là với đồ thị đa quan hệ, cung cấp bằng chứng cho thấy đây là hướng đi đầy hứa hẹn để giải quyết các thách thức về cá nhân hóa trong kỷ nguyên dữ liệu lớn.
Luận án đã mở ra ít nhất ba luồng nghiên cứu mới:
- Nghiên cứu sâu hơn về các kiến trúc đồ thị đa quan hệ và hypergraph cho việc mô hình hóa các tương tác phức tạp trong chuỗi sự kiện.
- Phát triển các phương pháp học sâu giải thích được (XAI) cho các hệ thống gợi ý dựa trên học đồ thị và Transformer.
- Tích hợp các mô hình học sâu dựa trên phiên với học tăng cường để tối ưu hóa gợi ý theo thời gian thực và phản hồi liên tục của người dùng.
Với các kết quả thực nghiệm mạnh mẽ và tính ứng dụng cao, luận án này có tầm quan trọng toàn cầu (global relevance) trong việc định hình tương lai của thương mại điện tử và các dịch vụ trực tuyến. Nó cung cấp các giải pháp công nghệ tiên tiến có thể được triển khai trên các nền tảng quốc tế, cải thiện trải nghiệm người dùng và thúc đẩy tăng trưởng kinh doanh. Di sản của nghiên cứu này có thể được đo lường bằng việc nâng cao hiệu quả các hệ thống gợi ý trên toàn cầu, dẫn đến tăng tỷ lệ chuyển đổi khách hàng và mức độ hài lòng người dùng, đồng thời giảm lãng phí tài nguyên và thời gian tìm kiếm sản phẩm.
Trích đoạn nội dung luận án
Tải xuống để đọc toàn bộBỘ GIÁO DỤC VIỆN HÀN LÂM KHOA HỌC VÀ ĐÀO TẠO VÀ CÔNG NGHỆ VIỆT NAM HỌC VIỆN KHOA HỌC VÀ CÔNG NGHỆ NGUYỄN TUẤN KHANG NGHIÊN CỨU PHÁT TRIỂN MỘT SỐ KỸ THUẬT GỢI Ý MUA HÀNG THEO PHIÊN DỰA TRÊN MÔ HÌNH HỌC SÂU LUẬN ÁN TIẾN SĨ NGÀNH KHOA HỌC MÁY TÍNH Hà Nội - 2023 BỘ GIÁO DỤC VIỆN HÀN LÂM KHOA HỌC VÀ ĐÀO TẠO VÀ CÔNG NGHỆ VIỆT NAM HỌC VIỆN KHOA HỌC VÀ CÔNG NGHỆ NGUYỄN TUẤN KHANG NGHIÊN CỨU PHÁT TRIỂN MỘT SỐ KỸ THUẬT GỢI Ý MUA HÀNG THEO PHIÊN DỰA TRÊN MÔ HÌNH HỌC SÂU LUẬN ÁN TIẾN SĨ NGÀNH KHOA HỌC MÁY TÍNH Mã số: 9 48 01 01 Xác nhận của Học viện Người hướng dẫn 1 Người hướng dẫn 2 Khoa học và Công nghệ (Ký, ghi rõ họ tên) (Ký, ghi rõ họ tên) TS. Nguyễn Phú Bình PGS. Nguyễn Việt Anh Hà Nội - 2023 LỜI CAM ĐOAN Tôi xin cam đoan các kết quả công bố trong luận án là công trình nghiên cứu của bản thân tôi trong thời gian học tập, nghiên cứu và được hoàn thành với sự hướng dẫn của hai Thầy giáo gồm TS. Nguyễn Phú Bình và PGS.
Nguyễn Việt Anh. Các tài liệu tham khảo được trích dẫn đầy đủ và được ghi rõ ở phần tài liệu tham khảo. Các kết quả nghiên cứu được thực nghiệm trên cùng một môi trường thực nghiệm và được ghi nhận một cách khách quan, trung thực và đã được công bố trên các tạp chí khoa học chuyên ngành. Hà Nội, ngày 25 tháng 09 năm 2023 Nguyễn Tuấn Khang khang_nt@yahoo.com | 090 8306668 i LỜI CẢM ƠN Luận án được hoàn thành tại Học viện Khoa học và Công nghệ, Viện Hàn lâm Khoa học và Công nghệ Việt Nam.
Tác giả xin chân thành cám ơn và ghi nhận sự hỗ trợ và chỉ dạy tận tình của TS. Nguyễn Phú Bình và PGS. Nguyễn Việt Anh trong quá trình thực hiện luận án tiến sỹ này. Những lời khuyên và chỉ dẫn từ các thầy đã giúp tác giả vượt qua những khó khăn trong quá trình nghiên cứu và phát triển kỹ năng nghiên cứu của mình, những kiến thức và kinh nghiệm của các thầy sẽ luôn là tài sản vô giá cho sự nghiệp nghiên cứu của tác giả trong giai đoạn tiếp theo.
Tác giả xin chân thành cảm ơn Ban lãnh đạo Viện Công nghệ thông tin, Học viện Khoa học và Công nghệ, Bộ phận Quản lý Nghiên cứu sinh và các Phòng ban chức năng của Viện Công nghệ thông tin và Học viện Khoa học và Công nghệ đã hỗ trợ tác giả trong quá trình nghiên cứu sinh tại Học viện. Tác giả xin chân thành cám ơn PGS. Nguyễn Long Giang, đã tạo điều kiện thuận lợi trong quá trình học tập và nghiên cứu của tác giả. Thêm nữa, tác giả cũng gửi lời cám ơn về những đóng góp và nhận xét quý báu của các cộng sự, đồng nghiệp và bạn bè trong suốt quá trình làm luận án.
Cuối cùng, tác giả xin dành những lời cám ơn tới các thành viên trong gia đình, sự khuyến khích và động viên của gia đình là động lực để tác giả hoàn thành luận án này. Hà Nội, ngày 25 tháng 09 năm 2023 Nguyễn Tuấn Khang ii Mục lục Lời cam đoan i Lời cám ơn ii Một số kí hiệu viết tắt vi Danh sách hình vẽ viii Danh sách thuật toán ix Danh sách bảng x Mở đầu 1 1 Tính cấp thiết của đề tài. 1 2 Mục tiêu của luận án. 3 3 Phương pháp nghiên cứu.4 4 Bố cục luận án.
5 1 Tổng quan về hệ gợi ý và một số mô hình mạng nơ-ron học sâu 7 1.1 Bài toán hệ gợi ý.1 Tổng quan về hệ gợi ý.2 Phân loại bài toán hệ gợi ý.2 Hai bài toán cơ sở.1 Định nghĩa phiên làm việc.2 Bài toán 1 - Dự báo hành vi mua hàng.3 Bài toán 2 - Hệ gợi ý top − k.3 Lý thuyết mạng nơ-ron học sâu.1 Mô hình mạng nơ-ron học sâu truyền thẳng.2 Mô hình mạng nơ-ron rộng và sâu.3 Mô hình mạng nơ-ron biến đổi.4 Lý thuyết mạng nơ-ron đồ thị.1 Định nghĩa về đồ thị.2 Biểu diễn đồ thị.3 Mô hình mạng nơ-ron đồ thị.5 Phép biến đổi nhúng.1 Khái niệm phép biến đổi nhúng.2 Phép biến đổi nhúng với dữ liệu rời rạc.3 Phép biến đổi nhúng với dữ liệu theo chuỗi tuần tự.4 Phép biến đổi nhúng với dữ liệu đồ thị.6 Các nghiên cứu liên quan.29 2 Đề xuất mô hình mạng nơ-ron học sâu cho bài toán mua hàng 33 2.1 Phát biểu bài toán.2 Các mô hình đề xuất.1 Mạng nơ-ron học rộng và sâu.2 Mạng nơ-ron biến đổi.3 Kỹ thuật thực nghiệm.1 Bộ dữ liệu thực nghiệm.2 Xử lý và trích chọn đặc trưng.3 Cách thức chia dữ liệu.4 Độ đo đánh giá mô hình.4 Kết quả thực nghiệm.1 Kết quả thực nghiệm.2 So sánh với các nghiên cứu liên quan.5 Kết luận chương. 43 3 Đề xuất mô hình mạng nơ-ron đồ thị cho bài toán top-k 45 3.1 Phát biểu bài toán.2 Đề xuất thiết kế đồ thị.1 Biểu diễn phiên làm việc bằng đồ thị.2 Đề xuất thiết kế đồ thị.3 Minh họa biểu diễn các đồ thị đề xuất.4 Thảo luận về các các đồ thị đề xuất.3 Các mô hình đề xuất.1 Mạng nơ-ron truyền thẳng (FNN ).2 Mạng nơ-ron đồ thị (GNN ).4 Kỹ thuật thực nghiệm.1 Tiền xử lý dữ liệu.2 Chuẩn hóa dữ liệu huấn luyện.3 Độ đo đánh giá mô hình.4 Tối ưu hóa hàm mất mát.5 Kết quả và nhận xét.1 Kết quả thực nghiệm.2 So sánh với các nghiên cứu liên quan.6 Kết luận chương. 76 4 Đề xuất cải tiến mô hình GNN với phép nhúng 78 4.1 Thách thức của bài toán phân loại đa nhãn.2 Phương pháp nhúng đồ thị.1 Phép biến đổi nhúng đỉnh.2 Phép biến đổi nhúng đồ thị.3 Đề xuất cải tiến mô hình GNN.1 Chuyển đổi bài toán đa nhãn thành nhị phân.2 Đề xuất mạng nơ-ron truyền thẳng nhị phân.3 Đề xuất mô hình nhúng đồ thị K nhị phân.4 Kỹ thuật thực nghiệm.1 Chuẩn hóa dữ liệu huấn luyện.2 Thuật toán huấn luyện mô hình.3 Tối ưu mô hình GNN.5 Kết quả và nhận xét.1 Kết quả thực nghiệm.2 So sánh với các nghiên cứu liên quan.6 Kết luận chương. 95 Kết luận 96 1 Kết luận chung.96 2 Kết quả đạt được.
97 3 Các đóng góp chính của luận án.99 4 Hướng phát triển trong tương lai.100 Các công trình của tác giả 101 Tài liệu tham khảo 113 Phụ Lục 115 A Bộ dữ liệu Yoochoose 115 A.1 Mô tả bộ dữ liệu.2 Một số phân tích về bộ dữ liệu.1 Phân tích số lượng nhấp theo phiên.2 Phân tích số lượng nhấp và mua hàng theo giờ.117 v Thuật ngữ và Ký hiệu viết tắt DL Deep Learning (Học sâu). Edge Cạnh Embedding Phép biến đổi nhúng FNN Feedforeward Neural Network (Mạng nơ-ron truyền thẳng) FMNN Factorization-machine supported neural networks (Mạng nơ-ron phân tích ma trận nhân tử) GNN Graph Neural Network (Mạng nơ-ron đồ thị). Graph Đồ thị MRR Mean Reciprocal Rank (Bình quân vị trí nghịch đảo) ML Machine Learning (Học máy) NN Neural Network (Mạng nơ-ron) Node Nút, đỉnh PCA Principal Component Analysis (Phân tích thành phần chính). PNN Product-based Neural Network (Mạng nơ-ron tích chập).
RNN Recurrent Neural Network (Mạng nơ-ron hồi quy) RR Reciprocal Rank (Vị trí nghịch đảo) SR Session-based Recommendation (Hệ gợi ý dựa vào phiên làm việc) Session Phiên làm việc Top-k Bài toán gợi ý danh sách k sản phẩm tốt nhất Transformer Mô hình biến đổi FE-Transformer Mô hình biến đổi có sử dụng lớp nhúng thuộc tính (FE: Feature Embedding) Vector Véc tơ W&DNN Wide & Deep Neural Network (Mạng nơ-ron sâu và rộng) vi Danh sách hình vẽ 1 Số lượng người dùng trên các nền tảng mạng xã hội.1 Minh họa hệ thống gợi ý dựa trên nội dung.2 Minh họa hệ thống gợi ý cộng tác.3 Bài toán gợi ý top-k sản phẩm.4 Một số mô hình nơ-ron sử dụng trong dự báo chuỗi nhấp chuột.5 Sơ đồ cấu trúc mạng nơ-ron rộng và sâu.6 Mô hình minh họa kiến trúc Transformer.7 Các lớp chi tiết của kiến trúc Transformer.8 Minh họa đồ thị.9 Một số bài toán sử dụng đồ thị.10 Minh họa đồ thị đa quan hệ.11 Biểu diễn đồ thị bằng danh sách kề.12 Biểu diễn đồ thị bằng ma trận kề.13 Minh họa một phép biến đổi nhúng.14 Biến đổi thuộc tính danh mục thành véc-tơ nhúng.15 Các kỹ thuật xử lý dữ liệu chuỗi dữ liệu tuần tự cho mạng nơ-ron.1 So sánh hiệu năng mô hình khi thay đổi số lớp ẩn.2 So sánh hiệu năng mô hình khi thay đổi hình dạng mạng nơ-ron.3 So sánh hiệu năng mô hình khi thay đổi hình số nơ-ron trung bình trong mỗi lớp ẩn.4 Cấu trúc mô hình rộng và sâu sử dụng trong dự báo chuỗi nhấp chuột 37 2.5 Kiến trúc FE-Transformer.6 Thiết kế lớp cho mô hình FE-Transformer.7 Sự tương quan giữa tỷ lệ mua/nhấp với các yếu tố.1 Minh họa biểu diễn phiên làm việc bằng đồ thị.2 Biểu diễn đồ thị G.3 Biể u diễ n đồ thị H.4 Biể u diễ n đồ thị K.5 Lớp nhúng sản phẩm (Layer.6 Mô hình FNN cơ sở.7 Mô hình mạng nơ-ron cho đồ thị G và H.8 Mô hình mạng nơ-ron cho đồ thị K.9 Biểu đồ phân bố số lượng nhấp chuột (sau khi tiền xử lý).10 Mô hình chuẩn hóa dữ liệu huấn luyện cho mô hình FNN.11 Mô hình chuẩn hóa dữ liệu huấn luyện cho các mô hình GNN.12 Bộ dữ liệu minh họa thiết kế đồ thị.13 So sánh các hàm mất mát với độ đo loss và acc.14 Hiệu năng của mô hình với các hàm mất mát.15 Biểu đồ kết quả so sánh các mô hình GNN với FNN.16 Biểu đồ kết quả so sánh các mô hình GNN với FNN chi tiết theo k .1 Phép biến đổi nhúng đỉnh.2 Phép biến đổi nhúng đồ thị con.3 Mô hình FNN nhị phân (FNN.4 Lớp nhúng phiên với đồ thị K (Layer.5 Mô hình nhúng nhị phân với đồ thị K (GNN.6 Biểu đồ huấn luyện của mô hình GNN.7 Kết quả Recall@k của mô hình GNN.K theo độ dài phiên.8 Kết quả ACCs@k của mô hình GNN.K theo độ dài phiên.9 Kết quả MRR@k của mô hình GNN.K theo độ dài phiên.10 So sánh GNN.K với các mô hình khác.11 So sánh GNN.K với các mô hình khác theo k.1 Biểu đồ phân bố số lượng nhấp chuột (dữ liệu gốc).2 Biểu đồ phân bố tương quan giữa số lượng nhấp và mua hàng.3 Phân bố nhấp và mua hàng theo thời gian.118 viii Danh sách thuật toán 3.1 Thuật toán NORM.FNN: Chuẩn hóa dữ liệu huấn luyện cho mô hình FNN.2 Thuật toán NORM.GNN: Chuẩn hóa dữ liệu dữ liệu huấn luyện cho các mô hình GNN.1 Thuật toán NORM.Bin: Chuẩn hóa dữ liệu huấn luyện cho mô hình GNN nhị phân.2 Thuật toán huấn luyện MODEL.89 ix Danh sách bảng 1.1 Bảng so sánh các mô hình nơ-ron truyền thẳng.1 Danh sách các thuộc tính trích chọn.2 Bảng thống kê số lượng nhãn của các tập dữ liệu sau khi chia.3 So sánh hiệu quả giữa các mô hình trong dự báo chuỗi nhấp chuột.1 Các thông số của đồ thị G, H, K.
Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ
Trích dẫn luận án này
Nguyễn Tuấn Khang (2023). Kỹ thuật gợi ý mua hàng theo phiên dựa trên học sâu [Luận án tiến sĩ, Học viện Khoa học và Công nghệ, Viện Hàn lâm Khoa học và Công nghệ Việt Nam]. LuanAn.net. https://luanan.net/cong-nghe-thong-tin/tri-tue-nhan-tao/nghien-cuu-ky-thuat-goi-y-mua-hang-theo-phien-hoc-sau
Câu hỏi thường gặp
Luận án "Kỹ thuật gợi ý mua hàng theo phiên dựa trên học sâu" nghiên cứu về vấn đề gì?
"Nghiên cứu kỹ thuật gợi ý mua hàng theo phiên dựa trên học sâu, tối ưu trải nghiệm khách hàng và tăng doanh thu bán lẻ."
Luận án "Kỹ thuật gợi ý mua hàng theo phiên dựa trên học sâu" được bảo vệ tại trường nào?
Luận án này được bảo vệ tại Học viện Khoa học và Công nghệ, Viện Hàn lâm Khoa học và Công nghệ Việt Nam. Năm bảo vệ: 2023.
Luận án "Kỹ thuật gợi ý mua hàng theo phiên dựa trên học sâu" thuộc chuyên ngành gì?
Luận án "Kỹ thuật gợi ý mua hàng theo phiên dựa trên học sâu" thuộc chuyên ngành Khoa học máy tính. Danh mục: Trí Tuệ Nhân Tạo.
Luận án "Kỹ thuật gợi ý mua hàng theo phiên dựa trên học sâu" có bao nhiêu trang?
Luận án "Kỹ thuật gợi ý mua hàng theo phiên dựa trên học sâu" có 133 trang. Bạn có thể xem trước một phần tài liệu ngay trên trang web trước khi tải về.
Cách tải luận án "Kỹ thuật gợi ý mua hàng theo phiên dựa trên học sâu" về máy như thế nào?
Để tải luận án về máy, bạn nhấn nút "Tải xuống ngay" trên trang này, sau đó hoàn tất thanh toán phí lưu trữ. File sẽ được tải xuống ngay sau khi thanh toán thành công. Hỗ trợ qua Zalo: 0559 297 239.