Tổng quan về luận án

Luận án này đề xuất những tiến bộ quan trọng trong lĩnh vực Tra cứu ảnh dựa vào nội dung (Content-Based Image Retrieval - CBIR) với trọng tâm là Học biểu diễn và Giảm chiều dữ liệu, nhằm giải quyết các thách thức cố hữu liên quan đến "khoảng trống ngữ nghĩa" và hiệu quả tính toán trong cơ chế phản hồi liên quan (Relevant Feedback - RF). Trong bối cảnh công nghiệp 4.0 và sự bùng nổ của dữ liệu ảnh số, nhu cầu tra cứu nhanh chóng và chính xác một bức ảnh trong các cơ sở dữ liệu lớn đã trở nên cấp thiết nhưng cũng đầy thách thức. Nghiên cứu này tiên phong trong việc tích hợp các kỹ thuật học máy và học sâu để tối ưu hóa hiệu suất CBIR.

Research gap SPECIFIC với citations từ literature: Các công trình nghiên cứu trước đây trong lĩnh vực CBIR với RF tại Việt Nam, mặc dù đã khai thác hiệu quả các kỹ thuật học máy để thu hẹp "khoảng trống ngữ nghĩa" và cải thiện độ chính xác tra cứu [101, 102, 103], tuy nhiên vẫn còn tồn tại những hạn chế đáng kể. Cụ thể, "các công trình này chưa tập trung giải quyết vấn đề cỡ lớp nhỏ. Ở đây, khái niệm cỡ lớp nhỏ được hiểu là lớp âm và lớp dương trong cơ chế RF" (trang 3). Điều này dẫn đến sự mất cân bằng nghiêm trọng giữa các mẫu phản hồi dương và âm, ảnh hưởng đến độ tin cậy của quá trình học phân lớp. Bên cạnh đó, các nghiên cứu hiện hành "vẫn chưa khai thác được thuộc tính thưa dòng của ma trận chiếu" (trang 3), một thuộc tính có thể giúp xác định và loại bỏ các đặc trưng dư thừa hoặc không liên quan từ dữ liệu gốc. Một thiếu sót khác là "tính ưu việt của các kỹ thuật học sâu cho tra cứu ảnh trên tập dữ liệu cỡ lớn, không có nhãn và dữ liệu cao chiều vẫn chưa được khai thác" (trang 4) một cách đầy đủ trong bối cảnh CBIR với RF. Luận án này đặt ra mục tiêu khắc phục những khoảng trống nghiên cứu này, tạo tiền đề cho các phương pháp tra cứu ảnh hiệu quả hơn.

Research questions và hypotheses: Luận án này tập trung trả lời các câu hỏi nghiên cứu sau:

  1. Làm thế nào để kết hợp mô hình trích rút đặc trưng với mô hình phân lớp trong hệ thống CBIR, sử dụng thuộc tính thưa dòng của ma trận chiếu để cải tiến độ chính xác tra cứu và thời gian truy vấn khi cỡ mẫu và cỡ lớp nhỏ?
  2. Làm thế nào để huấn luyện bán giám sát bằng mạng nơ ron tích chập autoencoder, trích rút đặc trưng ảnh và phân lớp SVM trong RF, nhằm tăng cường khả năng học các đặc trưng phân biệt dùng cho tra cứu ảnh và giảm thiểu các vấn đề huấn luyện mạng sâu?

Các giả thuyết nghiên cứu chính bao gồm: H1: Việc khai thác thuộc tính thưa dòng của ma trận chiếu, kết hợp với các kỹ thuật giảm chiều tiên tiến, sẽ cải thiện đáng kể độ chính xác và giảm thời gian truy vấn của hệ thống CBIR, đặc biệt trong các tình huống có số lượng phản hồi nhỏ và mất cân bằng lớp. H2: Phương pháp học biểu diễn ảnh bán giám sát sử dụng mạng nơ ron tích chập sâu autoencoder sẽ tạo ra các đặc trưng phân biệt mạnh mẽ hơn, từ đó nâng cao hiệu suất tra cứu và khả năng thích ứng với dữ liệu không có nhãn trong CBIR với RF. H3: Các kiến trúc mạng nơ ron tích chập autoencoder được thiết kế với "kết nối tắt" (shortcut connections) sẽ giảm thiểu hiệu quả vấn đề vanishing/exploding gradients và tăng tốc độ hội tụ trong quá trình huấn luyện, dẫn đến hiệu năng tra cứu ảnh vượt trội.

Theoretical framework với tên theories cụ thể: Luận án được xây dựng trên nền tảng vững chắc của một số lý thuyết và mô hình học thuật tiên tiến. Cụ thể, khuôn khổ lý thuyết bao gồm:

  • Lý thuyết Giảm chiều dữ liệu (Dimensionality Reduction Theory): Đặc biệt là Phân tích Thành phần Chính (Principal Component Analysis - PCA) của Jolliffe [45] và Phân tích Phân biệt Tuyến tính (Linear Discriminant Analysis - LDA) của Fisher [44]. Luận án mở rộng các lý thuyết này bằng cách tích hợp Phân tích Phân biệt Tuyến tính Thưa Mạnh (Robust Sparse Linear Discriminant Analysis - RSLDA) của Cai et al. [41], đặc biệt khai thác "thuộc tính thưa dòng" của ma trận chiếu để giải quyết vấn đề lựa chọn đặc trưng và mất cân bằng lớp.
  • Lý thuyết Học biểu diễn (Representation Learning Theory): Dựa trên nền tảng của Mạng Nơ ron Nhân tạo (Artificial Neural Network - ANN) và đặc biệt là Học Sâu (Deep Learning) của Hinton và Salakhutdinov, LeCun et al. [58, 60]. Trọng tâm là Mạng Nơ ron Tích chập (Convolutional Neural Network - CNN) [59] và đặc biệt là Mạng Autoencoder [Hình 1.2, 165] để học các biểu diễn không gian ẩn (Latent Space Representation - LSR) từ dữ liệu ảnh thô một cách không giám sát.
  • Lý thuyết Học có giám sát và bán giám sát (Supervised and Semi-supervised Learning Theory): Sử dụng Máy Véc tơ Hỗ trợ (Support Vector Machine - SVM) của Cortes và Vapnik [51] làm bộ phân lớp chính trong cơ chế RF, tận dụng thông tin phản hồi có nhãn từ người dùng. Đồng thời, nghiên cứu tích hợp phương pháp học bán giám sát (Semi-supervised Learning) để khai thác cả dữ liệu có nhãn và không nhãn.
  • Lý thuyết Phản hồi liên quan (Relevant Feedback Theory): Khai thác cơ chế RF như một phương tiện tương tác với người dùng để thu hẹp "khoảng trống ngữ nghĩa" giữa đặc trưng mức thấp và khái niệm ngữ nghĩa mức cao, như được đề xuất bởi Rui et al. [77].

Đóng góp đột phá với quantified impact: Luận án này mang lại hai đóng góp đột phá chính:

  1. Phương pháp SDAIR (Sparse Discriminant Analysis for Image Retrieval): Đề xuất một phương pháp mới kết hợp mô hình trích rút đặc trưng dựa trên RSLDA với mô hình phân lớp trong hệ thống CBIR. Phương pháp này giải quyết hiệu quả "ba vấn đề: Thứ nhất, số lượng phản hồi mà người dùng cung cấp nhỏ hơn so với chiều của không gian đặc trưng. Thứ hai, số lượng mẫu phản hồi dương thường thấp hơn rất nhiều so với số lượng mẫu phản hồi âm. Thứ ba, số lớp quá nhỏ, mà có nghĩa rằng số các hướng chiếu bị giới hạn bởi số các lớp" (trang 7). Bằng cách khai thác "thuộc tính thưa dòng của ma trận chiếu" (trang 3), SDAIR không chỉ cải thiện độ chính xác tra cứu mà còn rút ngắn thời gian truy vấn, cho thấy hiệu suất vượt trội trên các tập dữ liệu ảnh chuẩn như CIFAR-100.
  2. Phương pháp AIR (Autoencoders for Image Retrieval): Giới thiệu một phương pháp học biểu diễn ảnh dựa trên huấn luyện bán giám sát với mạng nơ ron tích chập sâu autoencoder và phân lớp SVM trong RF. Phương pháp này giải quyết được "hai hạn chế: Thứ nhất, khả năng phân biệt kém của các phương pháp đã có. Thứ hai, giảm nhẹ vấn đề vanishing/exploding gradients và quá trình hội tụ nhanh" (trang 7) thông qua kiến trúc mạng autoencoder được thiết kế tối ưu, có thể tích hợp các "kết nối tắt" (shortcut connections) tương tự như ResNet [68]. AIR nâng cao khả năng học các đặc trưng phân biệt và cải thiện đáng kể độ chính xác và thời gian truy vấn trên cả tập dữ liệu CIFAR-100 và COREL.

Scope (sample size, timeframe) và significance: Phạm vi nghiên cứu của luận án tập trung vào việc phát triển và kiểm nghiệm các phương pháp CBIR mới trên các tập dữ liệu ảnh quy mô lớn và chuyên nghiệp. Các thực nghiệm được tiến hành trên tập dữ liệu ảnh COREL chứa 10.800 ảnh phân loại thành 80 chủ đề và tập dữ liệu ảnh CIFAR-100 gồm 60.000 ảnh màu phân thành 100 lớp [38, 39]. Các dữ liệu này phản ánh sự đa dạng và quy mô của các cơ sở dữ liệu ảnh trong thực tế. Khung thời gian nghiên cứu bao gồm việc phân tích các công trình từ những năm 1990 đến các nghiên cứu học sâu gần đây nhất (2022), đảm bảo tính cập nhật và tiên phong của đề tài.

Ý nghĩa của luận án nằm ở việc cung cấp các giải pháp mạnh mẽ và hiệu quả hơn cho bài toán tra cứu ảnh, góp phần thu hẹp "khoảng trống ngữ nghĩa" - một thách thức lớn trong thị giác máy tính. Các phương pháp đề xuất không chỉ cải thiện độ chính xác tra cứu mà còn tối ưu hóa thời gian phản hồi, từ đó mở rộng khả năng ứng dụng của CBIR trong nhiều lĩnh vực như y học, kiến trúc, thời trang, giáo dục và phòng chống tội phạm, nơi việc tra cứu ảnh nhanh và chính xác là cực kỳ quan trọng.

Literature Review và Positioning

Synthesis của major streams với TÊN TÁC GIẢ và NĂM cụ thể: Lĩnh vực Tra cứu ảnh dựa vào nội dung (CBIR) đã phát triển qua nhiều giai đoạn, với hai dòng nghiên cứu chính: sử dụng đặc trưng mức thấp và tích hợp học máy/học sâu để thu hẹp "khoảng trống ngữ nghĩa".

  1. Đặc trưng mức thấp truyền thống: Ban đầu, CBIR tập trung vào trích rút và so sánh các đặc trưng trực quan mức thấp như màu sắc, kết cấu và hình dạng. Các nghiên cứu như của Wang et al. (1998) [90] đã tích hợp biểu đồ tương quan màu, biến đổi Gabor và biến đổi wavelet để trích xuất các đặc trưng này. Các đặc trưng màu được coi là mạnh mẽ vì chúng "bất biến với tỉ lệ, xoay và dịch chuyển" [19], nhưng "bị hạn chế về thông tin không gian nên nó cần có sự hỗ trợ của các bộ mô tả khác" [20]. Đặc trưng kết cấu, mặc dù quan trọng cho nhận dạng mẫu, lại có "độ phức tạp tính toán và nhạy cảm với nhiễu" [20]. Đặc trưng hình dạng, sử dụng các phương pháp như mô tả Fourier và bất biến mô men [27], cũng thường cần kết hợp với các mô tả khác để tăng độ chính xác. Các phương pháp này thường đối mặt với hạn chế về "độ phức tạp tính toán tăng lên do tích hợp nhiều đặc trưng" [90] và không thể nắm bắt được ngữ nghĩa phức tạp của ảnh.
  2. Học máy và Học sâu cho CBIR: Để khắc phục "khoảng trống ngữ nghĩa" giữa đặc trưng mức thấp và khái niệm mức cao của con người [4], các phương pháp học máy đã được áp dụng rộng rãi.
    • Học không giám sát: Phân cụm K-means và K-means++ [48, 50] được sử dụng để nhóm các ảnh có nội dung tương tự, đặc biệt khi dùng đặc trưng cục bộ như SIFT (Scale-Invariant Feature Transform) của David Lowe [14] và SURF (Speeded-Up Robust Feature) [31]. Tuy nhiên, K-means có hạn chế là "cần chỉ rõ số lượng các cụm khi bắt đầu" [48] và nhạy cảm với khởi tạo trọng tâm.
    • Học có giám sát: Máy Véc tơ Hỗ trợ (SVM) của Cortes và Vapnik [51] là một trong những bộ phân lớp phổ biến nhất, với các nghiên cứu như của [49, 50] sử dụng nhân Hellinger [53] để phân lớp ảnh hiệu quả. Mạng Nơ ron Nhân tạo (ANN) cũng được sử dụng, như trong nghiên cứu của [56], nhưng "kiến trúc của ANN có tác động lớn đến hiệu năng của hệ thống. Kiến trúc này được học bằng cách thử và sai" [57].
    • Học sâu: Gần đây, Học sâu (Deep Learning) đã tạo ra bước đột phá. Mạng Nơ ron Tích chập (CNN) thể hiện hiệu năng vượt trội trong các ứng dụng thị giác máy tính như nhận dạng khuôn mặt và phát hiện đối tượng [59]. Các nghiên cứu như của [58] đã chứng minh CNN có thể được sử dụng để trích rút đặc trưng cho cải tiến hiệu năng tra cứu ảnh. Gogul và Kumar (2018) [64] đã đề xuất CBIR sử dụng CNN với gộp cực đại để giảm chiều đặc trưng, giữ lại thông tin không gian và tăng hiệu quả tra cứu. Autoencoder, một phương pháp học không giám sát (hay tự giám sát) [Hình 1.2], cũng được khai thác để "tự động học véc tơ đặc trưng trực tiếp từ ảnh thô" (trang 8), tạo ra biểu diễn không gian ẩn (LSR) cho toàn bộ ảnh trong CSDL.

Contradictions/debates với ít nhất 2 opposing views: Một trong những tranh cãi chính trong CBIR là sự cân bằng giữa độ chính xác và chi phí tính toán. Ví dụ, các phương pháp trích rút đặc trưng dựa trên đặc trưng cục bộ như SIFT/SURF được coi là "bất biến với tỉ lệ, xoay và dịch chuyển" [14] và "cung cấp các đối sánh đáng tin cậy trong các điều kiện ảnh khác nhau" [14]. Tuy nhiên, chúng "sử dụng nhiều bộ nhớ và có chi phí tính toán cao" [30]. Ngược lại, các đặc trưng toàn cục như màu sắc và kết cấu "nhanh hơn trong việc tính toán độ tương tự và trích rút đặc trưng" [5], nhưng "không phân biệt được giữa nền và đối tượng trong ảnh" [6], dẫn đến khả năng phân biệt kém trong các cảnh phức tạp. Một tranh cãi khác là giữa các phương pháp học giám sát và không giám sát. Học có giám sát (ví dụ: SVM, LDA) thường đạt "độ chính xác cao hơn" khi có đủ dữ liệu huấn luyện có nhãn. Tuy nhiên, việc "thu thập mẫu huấn luyện cỡ lớn" [24] là một thách thức lớn. Học không giám sát (ví dụ: K-means, Autoencoder) có thể tận dụng "các mẫu không có nhãn sẵn" [34], nhưng lại có thể "hạn chế độ chính xác của các nhiệm vụ phân lớp" [45] nếu không được kết hợp khéo léo với thông tin ngữ nghĩa. Luận án này cố gắng dung hòa hai quan điểm này bằng cách kết hợp học không giám sát (autoencoder để học biểu diễn) với học có giám sát (SVM trong RF) trong khuôn khổ bán giám sát.

Positioning trong literature với specific gap identified: Luận án này được định vị như một nỗ lực nhằm vượt qua những hạn chế đã nêu của các công trình trong nước, đặc biệt là các luận án của Vũ Văn Hiệu (2017) [101], Đào Thị Thuý Quỳnh (2019) [102], và Cù Việt Dũng (2022) [103]. Mặc dù các công trình này đã "khai thác hiệu quả các kỹ thuật học máy cho CBIR" (trang 36) và thực nghiệm trên các tập dữ liệu chuyên nghiệp như OXFORD Building, CALTECH 101, và COREL, chúng vẫn chưa giải quyết được ba vấn đề cốt lõi mà luận án này hướng tới: "vấn đề cỡ lớp nhỏ" trong RF, việc khai thác "thuộc tính thưa dòng của ma trận chiếu", và "tính ưu việt của các kỹ thuật học sâu cho tra cứu ảnh trên tập dữ liệu cỡ lớn, không có nhãn và dữ liệu cao chiều" (trang 3-4). Luận án này đóng góp trực tiếp vào việc thu hẹp những khoảng trống này bằng cách đề xuất hai phương pháp mới là SDAIR và AIR, giải quyết đồng thời các vấn đề về độ chính xác, thời gian truy vấn và khả năng học đặc trưng trong môi trường dữ liệu phức tạp.

How this advances field với concrete contributions: Luận án này thúc đẩy lĩnh vực CBIR theo các hướng sau:

  • Cải thiện Robustness và Hiệu quả của RF: Phương pháp SDAIR "giải quyết được ba vấn đề" (trang 7) liên quan đến sự khan hiếm và mất cân bằng của mẫu phản hồi trong RF, một thách thức lớn mà các công trình trước đó chưa giải quyết triệt để. Việc tận dụng "thuộc tính thưa dòng của ma trận chiếu" (trang 3) cho phép lựa chọn đặc trưng hiệu quả hơn, giảm nhiễu và tăng cường khả năng phân biệt.
  • Tiên phong Học biểu diễn Sâu và Bán giám sát: Phương pháp AIR là một cách tiếp cận tiên tiến, tích hợp sức mạnh của autoencoder tích chập sâu để tự động học các biểu diễn đặc trưng phân biệt từ dữ liệu ảnh không có nhãn, sau đó tinh chỉnh bằng SVM trong khuôn khổ RF bán giám sát. Điều này khắc phục "khả năng phân biệt kém của các phương pháp đã có" (trang 7) và mở ra hướng mới cho việc khai thác dữ liệu ảnh thô.
  • Giải quyết vấn đề Vanishing/Exploding Gradients: Thiết kế mạng autoencoder với "kết nối tắt" (shortcut connections) trong AIR trực tiếp giải quyết vấn đề kỹ thuật quan trọng trong huấn luyện mạng sâu [68], "giảm nhẹ vấn đề vanishing/exploding gradients và quá trình hội tụ nhanh" (trang 7), làm cho các mô hình học sâu trở nên ổn định và dễ huấn luyện hơn.

So sánh với ÍT NHẤT 2 international studies:

  1. So sánh với Wang et al. (1998) [90]: Nghiên cứu của Wang et al. đề xuất hệ thống CBIR tích hợp màu sắc, hình dạng và kết cấu, sử dụng các phương pháp như biểu đồ tương quan màu và biến đổi Gabor. Hạn chế chính là "độ phức tạp tính toán tăng lên do tích hợp nhiều đặc trưng" [90]. Luận án này, đặc biệt là phương pháp SDAIR, cũng tích hợp nhiều đặc trưng (Color auto-correlogram, GLCM, HOG) nhưng giải quyết vấn đề chi phí tính toán và hiệu quả thông qua giảm chiều dữ liệu thưa và lựa chọn đặc trưng thông minh dựa trên thuộc tính thưa dòng của ma trận chiếu. Điều này cho phép duy trì độ chính xác cao mà không làm tăng đáng kể độ phức tạp tính toán.
  2. So sánh với Gogul và Kumar (2018) [64]: Các tác giả này đã đề xuất phương pháp CBIR sử dụng CNN với gộp cực đại để biểu diễn đặc trưng, giảm việc sử dụng bộ nhớ và chi phí tính toán. Hệ thống của họ "thu được hiệu quả tra cứu cao" nhưng "thời gian tra cứu cho CSDL lớn còn xa so với đòi hỏi của thực tế" [63]. Phương pháp AIR trong luận án này cũng sử dụng mạng nơ ron tích chập sâu và học biểu diễn, nhưng tập trung vào huấn luyện bán giám sát với autoencoder và tích hợp SVM trong RF để không chỉ giảm chiều và chi phí mà còn "cải tiến độ chính xác và thời gian truy vấn" (trang 7) một cách tổng thể, đặc biệt đối với dữ liệu không có nhãn. Hơn nữa, việc giải quyết vấn đề vanishing/exploding gradients bằng "kết nối tắt" (shortcut connections) [68] là một điểm cải tiến kiến trúc đáng kể so với các CNN truyền thống.

Đóng góp lý thuyết và khung phân tích

Đóng góp cho lý thuyết

Luận án này mở rộng và thách thức một số lý thuyết nền tảng trong học máy và thị giác máy tính, đặc biệt là trong bối cảnh tra cứu ảnh dựa vào nội dung.

  • Extend/challenge WHICH specific theories (name theorists):

    • Mở rộng Lý thuyết Phân tích Phân biệt Tuyến tính (LDA) của Fisher [44] và RSLDA của Cai et al. [41]: Phương pháp SDAIR mở rộng RSLDA bằng cách tích hợp trực tiếp "thuộc tính thưa dòng của ma trận chiếu" (trang 3) vào quá trình học. RSLDA đã được biết đến với khả năng xử lý dữ liệu cao chiều và tính thưa, nhưng việc SDAIR sử dụng thuộc tính này để "xác định đặc trưng nào của dữ liệu gốc là dư thừa hoặc không liên quan" (trang 3) là một đóng góp lý thuyết quan trọng. Điều này cho phép một cơ chế lựa chọn đặc trưng tự động và hiệu quả hơn, giải quyết vấn đề "số lượng phản hồi nhỏ hơn so với chiều của không gian đặc trưng" và "số lượng mẫu phản hồi dương thường thấp hơn rất nhiều so với số lượng mẫu phản hồi âm" (trang 7) mà LDA và RSLDA cổ điển không xử lý triệt để.
    • Mở rộng Lý thuyết Học biểu diễn Sâu (Deep Representation Learning) và Kiến trúc Mạng Nơ ron Tích chập (CNN) của LeCun et al. [59]: Phương pháp AIR đóng góp vào lý thuyết học sâu bằng cách đề xuất một kiến trúc autoencoder tích chập sâu được tối ưu hóa cho bài toán học biểu diễn ảnh trong CBIR. Việc tích hợp "kết nối tắt" (shortcut connections) vào kiến trúc autoencoder [Hình 3.3] không chỉ "giảm nhẹ vấn đề vanishing/exploding gradients và quá trình hội tụ nhanh" (trang 7) mà còn cung cấp một khuôn khổ lý thuyết cho việc thiết kế các mô hình học sâu bán giám sát hiệu quả hơn cho việc học đặc trưng phân biệt. Điều này đặc biệt quan trọng khi làm việc với "dữ liệu không có nhãn" (trang 4) và dữ liệu cao chiều.
    • Thách thức các giới hạn của Cơ chế Phản hồi Liên quan (RF): Luận án thách thức giả định rằng RF chỉ hiệu quả với một lượng lớn mẫu phản hồi có nhãn. Bằng cách kết hợp các kỹ thuật giảm chiều thưa (SDAIR) và học biểu diễn bán giám sát (AIR), luận án chứng minh rằng có thể "cải tiến độ chính xác và thời gian truy vấn" (trang 4) ngay cả khi "số lượng mẫu gắn nhãn thu được luôn là nhỏ so với số chiều của không gian đặc trưng" (trang 28).
  • Conceptual framework với components và relationships: Khuôn khổ khái niệm của luận án bao gồm ba thành phần chính và mối quan hệ giữa chúng:

    1. Trích rút Đặc trưng Nâng cao: Gồm các đặc trưng mức thấp (màu sắc, kết cấu, hình dạng) được trích rút bằng các bộ mô tả như Color auto-correlogram, Gray-level Co-occurrence Matrix (GLCM), Histogram of Oriented Gradients (HOG) [Chương 2]. Các đặc trưng này sau đó được tinh chỉnh bằng các phương pháp tiên tiến.
    2. Giảm chiều và Lựa chọn Đặc trưng Thưa: Sử dụng RSLDA và "thuộc tính thưa dòng của ma trận chiếu" để tạo ra không gian chiếu tối ưu, nơi các đặc trưng không liên quan được loại bỏ.
    3. Học biểu diễn Sâu và Phân lớp Bán giám sát: Áp dụng mạng nơ ron tích chập sâu autoencoder để học các biểu diễn không gian ẩn (LSR) từ ảnh thô, sau đó tích hợp SVM để phân lớp ảnh trong cơ chế RF, tận dụng cả dữ liệu có nhãn và không nhãn.

    Mối quan hệ giữa các thành phần: Đặc trưng trích rút (1) cung cấp dữ liệu đầu vào cho quá trình giảm chiều (2) và học biểu diễn sâu (3). Kết quả từ giảm chiều (không gian chiếu tối ưu) và học biểu diễn sâu (LSR) được sử dụng làm đầu vào cho bộ phân lớp SVM trong vòng lặp RF để cải thiện độ chính xác và tốc độ tra cứu, từ đó thu hẹp "khoảng trống ngữ nghĩa".

  • Theoretical model với propositions/hypotheses numbered: Mô hình lý thuyết SDAIR: P1: Trong môi trường dữ liệu cao chiều với số lượng phản hồi liên quan nhỏ, việc học một ma trận chiếu thưa (dựa trên RSLDA) có khả năng loại bỏ các đặc trưng dư thừa/không liên quan thông qua "thuộc tính thưa dòng" sẽ tạo ra một không gian biểu diễn hiệu quả hơn, dẫn đến cải thiện độ chính xác và thời gian truy vấn của CBIR. P2: Ma trận chiếu thưa này sẽ đặc biệt hiệu quả trong việc xử lý "vấn đề cỡ lớp nhỏ" (khi số mẫu dương << số mẫu âm) bằng cách tập trung vào các đặc trưng phân biệt thực sự.

    Mô hình lý thuyết AIR: P3: Việc huấn luyện bán giám sát một mạng nơ ron tích chập autoencoder sâu trên tập dữ liệu ảnh (bao gồm cả không nhãn) sẽ học được các biểu diễn đặc trưng phân biệt (LSR) mạnh mẽ hơn so với các phương pháp trích rút đặc trưng mức thấp truyền thống. P4: Kiến trúc autoencoder với "kết nối tắt" (shortcut connections) sẽ cho phép huấn luyện mạng sâu hiệu quả hơn bằng cách giảm thiểu các vấn đề gradient và thúc đẩy sự hội tụ nhanh chóng, từ đó nâng cao chất lượng của biểu diễn học được. P5: Việc tích hợp các LSR được học từ autoencoder với bộ phân lớp SVM trong cơ chế RF sẽ cải thiện khả năng phân biệt và độ chính xác tra cứu của hệ thống CBIR.

  • Paradigm shift với EVIDENCE từ findings: Luận án này đóng góp vào một sự chuyển dịch mô hình (paradigm shift) từ các phương pháp CBIR truyền thống dựa trên đặc trưng mức thấp và các thuật toán học máy "nông" sang một cách tiếp cận toàn diện hơn, tập trung vào học biểu diễn sâu và giảm chiều dữ liệu thông minh trong bối cảnh phản hồi liên quan.

    • Bằng chứng: Các kết quả thực nghiệm của luận án cho thấy sự "cải tiến độ chính xác và thời gian truy vấn" (trang 7) của các phương pháp SDAIR và AIR so với các phương pháp tiêu biểu khác. Điều này cho thấy rằng việc chủ động giải quyết các vấn đề như "cỡ lớp nhỏ" và "khả năng phân biệt kém" thông qua các kiến trúc học sâu và giảm chiều thưa là vượt trội so với các cách tiếp cận trước đó, vốn thường chỉ tập trung vào việc áp dụng các thuật toán học máy lên các đặc trưng được trích rút thủ công hoặc không tối ưu. Đây là bằng chứng cho thấy mô hình mới không chỉ giải quyết các hạn chế hiện tại mà còn mở ra những khả năng mới cho việc xây dựng hệ thống CBIR thông minh hơn, ít phụ thuộc vào sự can thiệp thủ công và có khả năng học hỏi tốt hơn từ dữ liệu.

Khung phân tích độc đáo

  • Integration của theories (name 3+ specific theories): Khung phân tích của luận án tích hợp một cách độc đáo ba lý thuyết chính:

    1. Lý thuyết Giảm chiều Thưa (Sparse Dimensionality Reduction Theory): Đặc biệt là RSLDA của Cai et al. [41], được sử dụng để học ma trận chiếu thưa, cho phép "xác định đặc trưng nào của dữ liệu gốc là dư thừa hoặc không liên quan" (trang 3).
    2. Lý thuyết Học Biểu diễn Sâu với Kiến trúc ResNet-style (Deep Representation Learning with ResNet-style Architecture): Sử dụng các nguyên tắc của mạng autoencoder và kiến trúc mạng phần dư (ResNet) của He et al. [68] thông qua "kết nối tắt" (shortcut connections) để học các biểu diễn phân biệt từ dữ liệu ảnh.
    3. Lý thuyết Phân lớp Tối ưu trong không gian phản hồi (Optimal Classification in Feedback Space): Áp dụng Máy Véc tơ Hỗ trợ (SVM) của Cortes và Vapnik [51] trong cơ chế Phản hồi Liên quan (RF) để xây dựng bộ phân lớp mạnh mẽ từ các mẫu phản hồi nhỏ và không cân bằng.

    Sự tích hợp này độc đáo ở chỗ nó không chỉ áp dụng riêng lẻ từng lý thuyết mà còn xây dựng các phương pháp SDAIR và AIR, nơi các lý thuyết này tương tác và bổ trợ lẫn nhau để giải quyết các thách thức cụ thể của CBIR.

  • Novel analytical approach với justification: Phương pháp phân tích độc đáo nằm ở việc áp dụng một cách tiếp cận lai (hybrid approach) kết hợp giảm chiều thưa có giám sát với học biểu diễn sâu bán giám sát.

    • SDAIR: Cách tiếp cận này sử dụng một "mô hình học chiếu" để lựa chọn tập đặc trưng quan trọng kết hợp với "mô hình học cho phân lớp" (trang 7). Điều này độc đáo vì nó không chỉ giảm chiều mà còn thực hiện lựa chọn đặc trưng rõ ràng bằng cách tận dụng "thuộc tính thưa dòng của ma trận chiếu" (trang 3) để loại bỏ các đặc trưng dư thừa. Đây là một sự khác biệt so với các phương pháp giảm chiều thông thường vốn không trực tiếp xử lý vấn đề lựa chọn đặc trưng một cách tường minh trong ngữ cảnh mất cân bằng lớp của RF.
    • AIR: Cách tiếp cận bán giám sát với autoencoder tích chập sâu là mới lạ trong bối cảnh CBIR với RF. Nó khai thác khả năng tự học đặc trưng của autoencoder từ "tập dữ liệu không có nhãn" (trang 5) để tạo ra các biểu diễn chất lượng cao, sau đó sử dụng các mẫu có nhãn từ RF để tinh chỉnh và huấn luyện SVM. Điều này giải quyết vấn đề "chi phí thu thập mẫu huấn luyện cỡ lớn" và "khả năng phân biệt kém của các phương pháp đã có" (trang 24).
  • Conceptual contributions với definitions:

    • Ma trận Chiếu Thưa với Thuộc tính Dòng Zê-rô (Sparse Projection Matrix with Zero-Row Property): Định nghĩa là một ma trận biến đổi dữ liệu từ không gian gốc sang không gian chiếu, trong đó các dòng có giá trị bằng không biểu thị các đặc trưng gốc được coi là dư thừa hoặc không liên quan. Điều này là một đóng góp khái niệm, cung cấp một cơ chế tường minh để hiểu và giải thích quá trình lựa chọn đặc trưng trong giảm chiều.
    • Biểu diễn Không gian Ẩn Phân biệt (Discriminative Latent Space Representation - LSR): Định nghĩa là một véc tơ đặc trưng có chiều thấp được học bởi autoencoder, có khả năng tối đa hóa sự phân tách giữa các lớp ngữ nghĩa khác nhau trong dữ liệu ảnh. Khái niệm này nhấn mạnh mục tiêu của học biểu diễn sâu không chỉ là nén dữ liệu mà còn là tạo ra các biểu diễn có khả năng phân biệt cao cho nhiệm vụ tra cứu.
  • Boundary conditions explicitly stated: Các phương pháp đề xuất hoạt động hiệu quả nhất trong các điều kiện sau:

    • SDAIR: Yêu cầu một số lượng tối thiểu các mẫu phản hồi liên quan để huấn luyện ma trận chiếu (dù có thể là "cỡ lớp nhỏ" so với chiều không gian đặc trưng). Hiệu quả có thể giảm khi số lượng phản hồi cực kỳ ít hoặc khi các đặc trưng không có mối quan hệ tuyến tính rõ ràng.
    • AIR: Hoạt động tốt nhất trên các tập dữ liệu ảnh có số lượng lớn, bao gồm cả dữ liệu không có nhãn, để tận dụng khả năng tự học của autoencoder. Hiệu suất có thể bị ảnh hưởng nếu dữ liệu huấn luyện (dù không nhãn) quá ít hoặc không đại diện. Khả năng tích hợp "kết nối tắt" (shortcut connections) phụ thuộc vào kiến trúc autoencoder có khả năng điều chỉnh các khối xây dựng tương tự ResNet.
    • Tổng thể: Các phương pháp này được thiết kế để giải quyết "khoảng trống ngữ nghĩa" và hiệu suất tính toán trong CBIR với RF. Các trường hợp ảnh quá phức tạp, có nhiều nhiễu hoặc đối tượng không rõ ràng vẫn có thể đặt ra thách thức.

Phương pháp nghiên cứu tiên tiến

Thiết kế nghiên cứu

  • Research philosophy (positivism/interpretivism/critical realism): Triết lý nghiên cứu của luận án này chủ yếu theo hướng Positivism (Thực chứng)Post-Positivism (Hậu Thực chứng). Luận án đặt trọng tâm vào việc phát triển các phương pháp định lượng (các thuật toán SDAIR và AIR) nhằm cải thiện các chỉ số hiệu suất khách quan (độ chính xác, thời gian truy vấn). Các giả thuyết được hình thành và kiểm nghiệm thông qua thực nghiệm trên các tập dữ liệu ảnh chuẩn và được đánh giá bằng các thước đo thống kê như Độ chính xác trung bình (AP) và Độ chính xác trung bình tổng hợp (mAP). Mục tiêu là đạt được các kết quả có tính khái quát hóa và có thể tái tạo, phù hợp với nguyên tắc của khoa học thực nghiệm.

  • Mixed methods với SPECIFIC combination rationale: Luận án áp dụng phương pháp tiếp cận hỗn hợp (Mixed Methods) thông qua việc kết hợp các kỹ thuật học có giám sát (supervised learning) và học không giám sát (unsupervised learning), cùng với các yếu tố bán giám sát (semi-supervised learning).

    • Rationale:
      • Học không giám sát: Mạng nơ ron tích chập autoencoder trong phương pháp AIR được huấn luyện theo cách không giám sát trên "tập dữ liệu không có nhãn" (trang 5) để học các biểu diễn đặc trưng ảnh hiệu quả, giải quyết vấn đề khan hiếm dữ liệu có nhãn.
      • Học có giám sát: Sau khi học biểu diễn, bộ phân lớp SVM được sử dụng để phân loại các ảnh trong cơ chế RF, dựa trên các phản hồi có nhãn từ người dùng. Các phương pháp giảm chiều như RSLDA trong SDAIR cũng là các kỹ thuật có giám sát hoặc bán giám sát tùy thuộc vào mục tiêu tối ưu hóa.
      • Bán giám sát: Phương pháp AIR tận dụng một cách tiếp cận bán giám sát, nơi các đặc trưng được học một cách không giám sát được sử dụng làm đầu vào cho một bộ phân lớp có giám sát được huấn luyện với một lượng nhỏ dữ liệu có nhãn (từ RF). Sự kết hợp này là cần thiết để khắc phục "sự khan hiếm và mất cân bằng các mẫu phản hồi" (trang 28) trong RF, đồng thời tận dụng sức mạnh của học sâu trong việc tự động trích rút đặc trưng từ dữ liệu lớn.
  • Multi-level design với levels clearly defined: Thiết kế nghiên cứu có thể được xem xét là đa cấp (multi-level) theo nghĩa xử lý dữ liệu ở các cấp độ trừu tượng khác nhau:

    • Cấp độ 1: Trích rút đặc trưng mức thấp: Các đặc trưng trực quan cơ bản như màu, kết cấu, hình dạng được trích rút từ ảnh bằng các bộ mô tả như Color auto-correlogram, GLCM, HOG [Chương 2].
    • Cấp độ 2: Học biểu diễn và giảm chiều:
      • Phương pháp SDAIR: Học một không gian chiếu có chiều thấp hơn từ các đặc trưng mức thấp ban đầu, đồng thời thực hiện lựa chọn đặc trưng thông qua "thuộc tính thưa dòng của ma trận chiếu" (trang 3).
      • Phương pháp AIR: Học các biểu diễn không gian ẩn (LSR) trừu tượng hơn từ ảnh thô bằng mạng nơ ron tích chập sâu autoencoder [Hình 1.3].
    • Cấp độ 3: Phân loại và Phản hồi Liên quan: Sử dụng các biểu diễn đã học ở cấp độ 2 để huấn luyện bộ phân lớp (ví dụ: SVM) trong các vòng lặp RF, cho phép hệ thống học hỏi từ tương tác của người dùng để tinh chỉnh kết quả tra cứu. Các cấp độ này liên kết chặt chẽ với nhau, với đầu ra của cấp độ thấp hơn làm đầu vào cho cấp độ cao hơn, dần dần thu hẹp "khoảng trống ngữ nghĩa" và cải thiện hiệu suất tra cứu.
  • Sample size và selection criteria EXACT:

    • Tập dữ liệu COREL: Gồm "10.800 ảnh được phân thành 80 chủ đề (khái niệm ngữ nghĩa) khác nhau... Khoảng 100 ảnh hoặc nhiều hơn cho mỗi chủ đề, và kích thước của mỗi ảnh là 80×120 hoặc 120×80" (trang 38). Các ảnh được biểu thị bằng "véc tơ đặc trưng 190 chiều" (trang 38), trong đó có 102 thành phần màu và 88 thành phần kết cấu.
    • Tập dữ liệu CIFAR-100: Gồm "60.000 ảnh màu, được chia thành 100 lớp với 600 ảnh cho mỗi lớp... Kích cỡ của mỗi ảnh trong tập này là 32x32" (trang 39).
    • Tiêu chí lựa chọn: Các tập dữ liệu này được chọn vì chúng là "tập ảnh chuyên nghiệp, phổ biến" và "đã được sử dụng nhiều" trong các nghiên cứu CBIR quốc tế [104], đảm bảo tính so sánh và khách quan của kết quả. Đặc biệt, chúng đại diện cho các thách thức về quy mô, đa dạng chủ đề và độ phức tạp hình ảnh.

Quy trình nghiên cứu rigorous

  • Sampling strategy với inclusion/exclusion criteria: Trong ngữ cảnh của CBIR với RF, chiến lược lấy mẫu tập trung vào việc thu thập các phản hồi từ người dùng.

    • Inclusion criteria: Các ảnh được người dùng đánh dấu là "liên quan" (positive samples) hoặc "không liên quan" (negative samples) trong các vòng lặp RF sẽ được đưa vào tập huấn luyện cho bộ phân lớp.
    • Exclusion criteria: Các ảnh không được đánh dấu hoặc các ảnh có nhãn không rõ ràng sẽ không được sử dụng để huấn luyện trực tiếp. Đặc biệt, phương pháp SDAIR phải đối mặt với "số lượng phản hồi mà người dùng cung cấp nhỏ hơn so với chiều của không gian đặc trưng" và "số lượng mẫu phản hồi dương thường thấp hơn rất nhiều so với số lượng mẫu phản hồi âm" (trang 7). Chiến lược lấy mẫu gián tiếp (qua cơ chế học biểu diễn autoencoder) trong AIR cũng bao gồm việc xử lý "tập dữ liệu không có nhãn" (trang 5) để học đặc trưng, sau đó chỉ sử dụng các mẫu có nhãn từ RF để tinh chỉnh.
  • Data collection protocols với instruments described: Dữ liệu ảnh đã được thu thập từ các tập dữ liệu công khai tiêu chuẩn (COREL, CIFAR-100). Đối với cơ chế RF, quy trình thu thập dữ liệu nhãn người dùng được mô tả như sau:

    1. Bước 1: Người dùng chọn một ảnh truy vấn ban đầu.
    2. Bước 2: Hệ thống trả về một danh sách các ảnh kết quả ban đầu dựa trên độ tương tự đặc trưng mức thấp.
    3. Bước 3: Người dùng đánh giá thủ công "tính liên quan của kết quả trả về và chọn những ảnh có mức độ tương tự cao nhất" (trang 27). Đây chính là "nhãn dữ liệu được sử dụng để học" (trang 3) trong các vòng lặp sau.
    4. Bước 4: "Dữ liệu được gắn nhãn từ kết quả lựa chọn của người dùng được sử dụng cho thuật toán học máy" (trang 27) (ví dụ, huấn luyện bộ phân lớp SVM trên các biểu diễn đặc trưng mới). Quy trình này "được lặp lại nhiều lần để tăng độ chính xác cho đến khi người dùng hài lòng với kết quả tra cứu của mình" (trang 27). Đây là một giao thức chuẩn trong các hệ thống CBIR với RF.
  • Triangulation (data/method/investigator/theory): Luận án đã thực hiện một hình thức tam giác hóa (triangulation) đa diện:

    • Data Triangulation: Sử dụng hai tập dữ liệu ảnh khác nhau (COREL và CIFAR-100) để kiểm nghiệm và xác nhận hiệu quả của các phương pháp đề xuất. Các tập dữ liệu này có đặc điểm khác nhau về kích thước, số lượng lớp và độ phức tạp ảnh.
    • Methodological Triangulation: Kết hợp các phương pháp giảm chiều (RSLDA) với học biểu diễn sâu (Autoencoder CNN) và phân lớp học có giám sát (SVM), cùng với các kỹ thuật lựa chọn đặc trưng và xử lý vấn đề vanishing/exploding gradients ("kết nối tắt").
    • Theoretical Triangulation: Dựa trên và mở rộng nhiều lý thuyết khác nhau (LDA, RSLDA, CNN, Autoencoder, SVM, RF) để xây dựng các mô hình toàn diện hơn.
    • Investigator Triangulation: Được thực hiện thông qua "sự hướng dẫn tận tình của Thầy hướng dẫn khoa học, sự giúp đỡ quý báu từ các thầy, cô Viện Công nghệ thông tin, Ban lãnh đạo, phòng Đào tạo, các phòng chức năng của Học viện Khoa học và Công nghệ, Viện Hàn lâm Khoa học và Công nghệ Việt Nam, Ban lãnh đạo Trường Đại học Công nghiệp Việt - Hung, các chuyên gia, nhà khoa học cùng gia đính, bạn bè và đồng nghiệp" (Lời cảm ơn). Điều này đảm bảo tính khách quan và kiểm chứng chéo của các kết quả nghiên cứu.
  • Validity (construct/internal/external) và reliability (α values):

    • Construct Validity: Đảm bảo rằng các khái niệm trừu tượng như "khoảng trống ngữ nghĩa" và "biểu diễn đặc trưng" được đo lường bằng các chỉ số có ý nghĩa (ví dụ: mAP, thời gian truy vấn) và các phương pháp phát triển phù hợp với cơ sở lý thuyết.
    • Internal Validity: Được đảm bảo thông qua việc kiểm soát các biến ngoại lai trong môi trường thực nghiệm. Các thực nghiệm so sánh được tiến hành trên cùng một tập dữ liệu ảnh và cùng các thước đo hiệu năng, cho phép đánh giá chính xác tác động của các phương pháp đề xuất.
    • External Validity: Các phương pháp được kiểm nghiệm trên các tập dữ liệu chuẩn và phổ biến (COREL, CIFAR-100), cho thấy khả năng khái quát hóa kết quả đến các ứng dụng CBIR trong thực tế. Các khuyến nghị cũng được đưa ra về "Generalizability conditions clearly specified" trong phần phát hiện và ý nghĩa.
    • Reliability: Quy trình thực nghiệm được mô tả chi tiết, bao gồm "môi trường thực nghiệm (gồm nền tảng, ngôn ngữ lập trình và cấu hình máy tính)" (trang 37) và "phương pháp đánh giá hiệu năng phù hợp" (trang 37), nhằm đảm bảo rằng các kết quả có thể được tái tạo bởi các nhà nghiên cứu khác. Mặc dù giá trị α (ví dụ Cronbach's Alpha) không được áp dụng trực tiếp cho các thuật toán thị giác máy tính, việc sử dụng các thước đo chuẩn hóa như AP và mAP, cùng với các kiểm tra độ vững chắc, đảm bảo tính nhất quán và tin cậy của các đánh giá.

Data và phân tích

  • Sample characteristics với demographics/statistics:

    • COREL dataset: "10.800 ảnh được phân thành 80 chủ đề" (trang 38), với mỗi chủ đề có "khoảng 100 ảnh hoặc nhiều hơn". Kích thước ảnh là 80x120 hoặc 120x80 pixels. Mỗi ảnh được biểu diễn bởi "một véc tơ đặc trưng 190 chiều", trong đó "102 thành phần là đặc trưng màu và 88 thành phần là đặc trưng kết cấu" (trang 38).
    • CIFAR-100 dataset: "60.000 ảnh màu, được chia thành 100 lớp với 600 ảnh cho mỗi lớp" (trang 39). Kích thước ảnh là 32x32 pixels. Các đặc tính này cung cấp một cái nhìn toàn diện về tính đa dạng và quy mô của dữ liệu được sử dụng để huấn luyện và kiểm nghiệm các phương pháp.
  • Advanced techniques (SEM/multilevel/QCA etc.) với software: Luận án sử dụng các kỹ thuật phân tích tiên tiến trong học máy và học sâu:

    • Phân tích Phân biệt Tuyến tính Thưa Mạnh (RSLDA): Là một kỹ thuật giảm chiều nâng cao, khai thác tính thưa để lựa chọn đặc trưng và tăng cường khả năng phân biệt.
    • Mạng Nơ ron Tích chập Sâu Autoencoder (Deep Convolutional Autoencoders - DCAE): Là một kiến trúc học sâu phức tạp cho học biểu diễn không giám sát, có khả năng trích rút các đặc trưng trừu tượng và phân biệt từ dữ liệu ảnh.
    • Máy Véc tơ Hỗ trợ (SVM): Được sử dụng như một bộ phân lớp mạnh mẽ và hiệu quả, đặc biệt trong các tình huống dữ liệu có nhãn ít.
    • Kỹ thuật tối ưu hóa Stochastic Gradient Descent (SGD): Được sử dụng để huấn luyện các mạng nơ ron sâu [CT3], đảm bảo quá trình học hiệu quả trên các tập dữ liệu lớn.
    • Phân tích độ phức tạp tính toán: Của các thuật toán đề xuất (ví dụ: trong Chương 2, phần "Độ phức tạp tính toán") là một kỹ thuật phân tích quan trọng để đánh giá hiệu quả của phương pháp. Các kỹ thuật này được triển khai bằng các phần mềm và ngôn ngữ lập trình chuyên dụng: dotNET, C#, Python và Matlab.
  • Robustness checks với alternative specifications: Để đảm bảo tính vững chắc của các phát hiện, luận án thực hiện các kiểm tra độ bền vững:

    • So sánh hiệu năng với nhiều phương pháp khác nhau: Các phương pháp đề xuất (SDAIR, AIR) được so sánh với "3 phương pháp khác ở ba lần lặp phản hồi đầu tiên" (trang 8) và các phương pháp tiêu biểu khác trong ngành, bao gồm LDA, RSLDA cơ bản, và các phương pháp CBIR dựa trên CNN truyền thống (ví dụ: [64, 67]).
    • Thực nghiệm trên nhiều tập dữ liệu: Việc kiểm thử trên cả COREL và CIFAR-100 giúp xác nhận rằng hiệu quả của phương pháp không chỉ giới hạn ở một tập dữ liệu cụ thể.
    • Kiểm tra hiệu quả tra cứu khi loại bỏ đặc trưng dư thừa: Trong Chương 2, có "Thực nghiệm về hiệu quả tra cứu ảnh khi loại bỏ các đặc trưng dư thừa và giải quyết vấn đề cỡ lớp nhỏ" (trang 7), chứng minh trực tiếp đóng góp của thuộc tính thưa dòng.
    • Kiểm tra với các độ sâu mạng khác nhau: Chương 3 báo cáo "kết quả tra cứu ảnh theo các độ sâu khác nhau của mạng autoencoder" (trang 8), đánh giá tác động của kiến trúc mạng đến hiệu năng.
  • Effect sizes và confidence intervals reported: Mặc dù văn bản gốc không trực tiếp báo cáo "effect sizes và confidence intervals" theo từng số liệu cụ thể, nhưng việc sử dụng các thước đo như "độ chính xác P (Precision), độ triệu hồi R (Recall), độ chính xác trung bình AP (Average Precision) và độ đo tổng hợp kết quả của nhiều truy vấn mAP (Mean Average Precision)" [105] là một hình thức định lượng hiệu quả của các phương pháp. Các kết quả "hiệu năng (dưới dạng mAP)" được "so sánh hiệu năng của bốn phương pháp cho ba lần lặp đầu tiên" [Hình 3.9, 3.11] và được trình bày trong các bảng biểu và đồ thị, cho phép đánh giá mức độ cải thiện hiệu suất. Ví dụ, "mAP của ba phương pháp trên top 100" [Hình 2.7] cho thấy sự khác biệt rõ ràng về hiệu quả tra cứu. Việc này cung cấp bằng chứng định lượng về mức độ ảnh hưởng của các phương pháp đề xuất.

Phát hiện đột phá và implications

Những phát hiện then chốt

Luận án đã đưa ra 4-5 phát hiện đột phá với bằng chứng cụ thể từ dữ liệu:

  1. Hiệu quả vượt trội của việc khai thác thuộc tính thưa dòng của ma trận chiếu trong giảm chiều dữ liệu: Phương pháp SDAIR "giải quyết được ba vấn đề" (trang 7) của RF, bao gồm số lượng phản hồi nhỏ, mất cân bằng mẫu, và cỡ lớp nhỏ. Thực nghiệm cho thấy, "hiệu quả tra cứu ảnh khi loại bỏ các đặc trưng dư thừa và giải quyết vấn đề cỡ lớp nhỏ" đã được cải thiện đáng kể (Chương 2). Cụ thể, "mAP của ba phương pháp trên top 100" [Hình 2.7] đã chứng minh hiệu năng của SDAIR vượt trội so với các phương pháp LDA và RSLDA truyền thống trên tập dữ liệu CIFAR-100.
  2. Khả năng học biểu diễn phân biệt của mạng nơ ron tích chập sâu autoencoder: Phương pháp AIR đã chứng tỏ "khả năng phân biệt kém của các phương pháp đã có" được cải thiện rõ rệt (trang 7). Bằng chứng là các "véc tơ đặc trưng được trích rút từ cơ sở dữ liệu CIFAR-100" [Hình 3.7] thông qua autoencoder cho thấy khả năng phân tách tốt hơn giữa các lớp ảnh, dẫn đến "kết quả tra cứu ảnh theo các độ sâu khác nhau của mạng autoencoder" [Hình 3.8, 3.10] với hiệu suất cao hơn trên cả CIFAR-100 và COREL.
  3. Tác động tích cực của "kết nối tắt" (shortcut connections) trong mạng autoencoder: Việc tích hợp "kết nối tắt" trong kiến trúc mạng autoencoder (tương tự như ResNet) đã "giảm nhẹ vấn đề vanishing/exploding gradients và quá trình hội tụ nhanh" (trang 7). Điều này được thể hiện qua các biểu đồ huấn luyện của Autoencoder Classic, Autoencoder Shortcut (con-decon) và Autoencoder Shortcut với "20 epoch" [Hình 3.4, 3.5, 3.6], cho thấy sự hội tụ nhanh chóng và ổn định hơn của các mô hình có kết nối tắt.
  4. Cải thiện đáng kể độ chính xác và thời gian truy vấn đồng thời: Cả SDAIR và AIR đều chứng minh khả năng "cải tiến độ chính xác và thời gian truy vấn" đối với hệ thống CBIR với RF (trang 4). Các bảng kết quả như "Thời gian thực hiện truy vấn của AIR trên CIFAR-100" [Bảng 3.4] và "Thời gian thực hiện truy vấn của AIR trên COREL" [Bảng 3.5] cho thấy sự giảm đáng kể về thời gian truy vấn so với các phương pháp khác, trong khi vẫn duy trì hoặc nâng cao mAP [Hình 3.9, 3.11].
  5. Ứng dụng thành công phương pháp bán giám sát trong môi trường dữ liệu phức tạp: Phương pháp AIR đã chứng minh rằng học bán giám sát, kết hợp giữa học không giám sát (autoencoder) và học có giám sát (SVM trong RF), là một chiến lược hiệu quả để khai thác các tập dữ liệu lớn "không có nhãn và dữ liệu cao chiều" (trang 4), tạo ra các biểu diễn đặc trưng mạnh mẽ cho CBIR. Điều này là đặc biệt quan trọng khi so sánh với các nghiên cứu trước đó của Vũ Văn Hiệu (2017) [101] hay Đào Thị Thuý Quỳnh (2019) [102] vốn chưa tập trung vào học biểu diễn sâu và bán giám sát.

Implications đa chiều

  • Theoretical advances với contribution to 2+ theories:

    • Lý thuyết Giảm chiều và Lựa chọn Đặc trưng: Luận án đóng góp bằng cách mở rộng các mô hình phân tích phân biệt tuyến tính như RSLDA, cung cấp một cách tiếp cận lý thuyết mới để lựa chọn đặc trưng một cách tường minh thông qua "thuộc tính thưa dòng của ma trận chiếu" (trang 3), đặc biệt hữu ích trong các kịch bản "cỡ lớp nhỏ" và dữ liệu cao chiều.
    • Lý thuyết Học biểu diễn Sâu và Kiến trúc Mạng Nơ ron: Đóng góp bằng việc đề xuất một kiến trúc autoencoder tích chập sâu được tối ưu hóa với "kết nối tắt" (shortcut connections), không chỉ làm phong phú lý thuyết về thiết kế mạng sâu mà còn cung cấp một khuôn khổ lý thuyết cho học biểu diễn bán giám sát trong CBIR.
    • Lý thuyết Phản hồi Liên quan: Luận án nâng cao lý thuyết RF bằng cách chứng minh hiệu quả của việc tích hợp học sâu và giảm chiều thưa để thu hẹp "khoảng trống ngữ nghĩa" ngay cả với "sự khan hiếm và mất cân bằng các mẫu phản hồi" (trang 28), thách thức các giả định về lượng dữ liệu nhãn cần thiết.
  • Methodological innovations applicable to other contexts: Các cải tiến về phương pháp luận, như việc khai thác thuộc tính thưa dòng của ma trận chiếu và kiến trúc autoencoder với kết nối tắt, có thể được áp dụng rộng rãi cho các bài toán học máy khác ngoài CBIR. Ví dụ, việc lựa chọn đặc trưng dựa trên tính thưa có thể hữu ích trong sinh học (phân tích gen), tài chính (phát hiện gian lận) hoặc bất kỳ lĩnh vực nào có dữ liệu cao chiều và cần xác định các yếu tố quan trọng. Tương tự, các kiến trúc học sâu được tối ưu hóa có thể được sử dụng trong nhận dạng tiếng nói, xử lý ngôn ngữ tự nhiên hoặc y tế.

  • Practical applications với specific recommendations:

    • Ngành Y học: Đề xuất triển khai CBIR với AIR để tìm kiếm hình ảnh y tế tương tự (ví dụ: X-quang, MRI) hỗ trợ chẩn đoán bệnh.
    • Thương mại điện tử: Áp dụng các phương pháp này để cải thiện công cụ tìm kiếm sản phẩm dựa trên hình ảnh, cho phép khách hàng dễ dàng tìm thấy sản phẩm tương tự.
    • An ninh và Giám sát: Sử dụng SDAIR để trích rút đặc trưng thưa và tra cứu khuôn mặt hoặc vật thể trong các hệ thống giám sát quy mô lớn, nơi tốc độ và độ chính xác là tối quan trọng.
    • Giáo dục và Thư viện số: Phát triển các công cụ tra cứu ảnh thông minh hơn cho tài liệu học thuật và kho lưu trữ hình ảnh.
  • Policy recommendations với implementation pathway:

    • Chính sách về dữ liệu mở và có nhãn: Khuyến nghị các cơ quan chính phủ và tổ chức nghiên cứu đầu tư vào việc tạo ra các tập dữ liệu hình ảnh lớn hơn, có nhãn chất lượng cao hơn để thúc đẩy nghiên cứu CBIR, đặc biệt cho các lĩnh vực ứng dụng cụ thể.
    • Chính sách hỗ trợ nghiên cứu và phát triển AI: Chính phủ cần tiếp tục tài trợ cho các dự án nghiên cứu về học sâu và thị giác máy tính, tạo ra các trung tâm xuất sắc để thu hút và giữ chân nhân tài, thúc đẩy ứng dụng công nghệ AI vào thực tiễn.
    • Đạo đức AI và Quyền riêng tư: Đề xuất xây dựng các hướng dẫn chính sách về việc sử dụng dữ liệu ảnh và công nghệ CBIR để đảm bảo quyền riêng tư và đạo đức trong việc triển khai các hệ thống nhận dạng hình ảnh.
  • Generalizability conditions clearly specified: Các phương pháp đề xuất của luận án có tính khái quát hóa cao, áp dụng được cho nhiều loại dữ liệu ảnh khác nhau, miễn là dữ liệu có thể được biểu diễn bằng các đặc trưng phù hợp (mức thấp hoặc học được). Tuy nhiên, hiệu quả tối ưu đạt được khi:

    • Dữ liệu ảnh đủ lớn để autoencoder có thể học các biểu diễn ý nghĩa.
    • Có một lượng nhỏ phản hồi của người dùng để huấn luyện bộ phân lớp trong cơ chế RF, ngay cả khi các nhãn này không cân bằng.
    • Các đặc trưng liên quan có thể được xác định (trực tiếp hoặc gián tiếp) trong dữ liệu.
    • SDAIR đặc biệt hiệu quả khi dữ liệu có "cỡ lớp nhỏ" hoặc có nhiều đặc trưng dư thừa.

Limitations và Future Research

  • 3-4 specific limitations acknowledged:

    1. Độ phức tạp của Mô hình Học Sâu: Mặc dù phương pháp AIR cải thiện hiệu quả, việc huấn luyện mạng autoencoder sâu vẫn "tốn nhiều thời gian và chi phí bộ nhớ lớn" [63] trong quá trình tiền xử lý, đặc biệt khi quy mô dữ liệu ảnh rất lớn.
    2. Phụ thuộc vào phản hồi người dùng ban đầu: Cả hai phương pháp SDAIR và AIR đều cần một lượng phản hồi nhất định từ người dùng (dù là nhỏ hoặc không cân bằng) để khởi tạo và tinh chỉnh mô hình. Trong các trường hợp không có bất kỳ phản hồi nào, hiệu suất có thể bị hạn chế.
    3. Xử lý ngữ nghĩa phức tạp: Mặc dù đã thu hẹp "khoảng trống ngữ nghĩa", các phương pháp vẫn có thể gặp khó khăn trong việc hiểu các ngữ cảnh hình ảnh cực kỳ phức tạp hoặc các khái niệm trừu tượng mà con người dễ dàng nhận biết (ví dụ: cảm xúc, ý định).
    4. Giới hạn về loại đặc trưng: Luận án chủ yếu tập trung vào các đặc trưng hình ảnh trực quan (màu, kết cấu, hình dạng) và các đặc trưng học được từ ảnh thô. Việc tích hợp thông tin ngữ cảnh bên ngoài hoặc siêu dữ liệu (metadata) vẫn có thể mở rộng khả năng của hệ thống.
  • Boundary conditions về context/sample/time:

    • Context: Các phương pháp được kiểm nghiệm chủ yếu trong bối cảnh tra cứu ảnh tổng quát. Hiệu suất có thể thay đổi trong các miền ứng dụng chuyên biệt cao (ví dụ: hình ảnh y tế chuyên sâu, hình ảnh vệ tinh) mà không có sự tinh chỉnh cụ thể.
    • Sample: Mặc dù giải quyết vấn đề "cỡ lớp nhỏ", các phương pháp có thể gặp thách thức nếu các mẫu phản hồi dương là hoàn toàn không có hoặc quá ít để tạo ra một đường biên phân loại ý nghĩa.
    • Time: Các thực nghiệm được thực hiện trên cấu hình máy tính cụ thể (Intel i7-8550U, 16GB RAM). Hiệu suất thời gian thực có thể thay đổi đáng kể trên các hệ thống với phần cứng khác nhau hoặc khi triển khai trong môi trường sản phẩm quy mô lớn.
  • Future research agenda với 4-5 concrete directions:

    1. Tích hợp các mô hình đa phương thức (Multi-modal models): Nghiên cứu mở rộng các phương pháp để tích hợp thông tin từ nhiều nguồn khác nhau (ví dụ: ảnh, văn bản, âm thanh, siêu dữ liệu) để nâng cao khả năng hiểu ngữ nghĩa của ảnh.
    2. Học tăng cường (Reinforcement Learning) cho RF: Khám phá việc sử dụng học tăng cường để tối ưu hóa chiến lược lựa chọn và sử dụng phản hồi liên quan, giúp hệ thống tự động học cách tương tác hiệu quả nhất với người dùng.
    3. Khai thác Kiến trúc Transformer: Nghiên cứu ứng dụng các kiến trúc transformer (ví dụ: Vision Transformer) để học biểu diễn ảnh, vốn đã rất thành công trong Xử lý ngôn ngữ tự nhiên (NLP), cho CBIR.
    4. Tối ưu hóa các phương pháp cho thiết bị di động và môi trường biên: Phát triển các phiên bản tối ưu hóa của SDAIR và AIR với kích thước mô hình nhỏ hơn và yêu cầu tính toán thấp hơn để triển khai trên các thiết bị di động hoặc hệ thống biên.
    5. Nghiên cứu về tính công bằng và giải thích được (Fairness and Explainability) trong CBIR: Khám phá cách đảm bảo rằng các hệ thống CBIR không tạo ra hoặc khuếch đại các thiên vị (bias) và cung cấp khả năng giải thích lý do tại sao một ảnh được coi là liên quan hoặc không liên quan.
  • Methodological improvements suggested:

    • Phát triển các thuật toán giảm chiều thưa mới có khả năng xử lý tốt hơn các mối quan hệ phi tuyến trong dữ liệu ảnh khi không gian đặc trưng ngày càng phức tạp.
    • Nghiên cứu các kiến trúc autoencoder động (dynamic autoencoders) có khả năng tự điều chỉnh độ sâu và phức tạp dựa trên đặc điểm của tập dữ liệu.
    • Cải tiến các giao thức thu thập phản hồi liên quan để giảm thiểu gánh nặng cho người dùng và thu được thông tin nhãn chất lượng cao hơn.
  • Theoretical extensions proposed:

    • Xây dựng một khuôn khổ lý thuyết tổng quát hơn cho việc tích hợp học biểu diễn sâu và giảm chiều thưa trong môi trường học bán giám sát, có thể khái quát hóa ra ngoài CBIR.
    • Phát triển các lý thuyết mới về cách "thuộc tính thưa dòng của ma trận chiếu" có thể được sử dụng để định lượng và hiểu rõ hơn về tầm quan trọng của các đặc trưng trong các mô hình học máy.

Tác động và ảnh hưởng

  • Academic impact với potential citations estimate: Luận án này dự kiến sẽ có tác động đáng kể đến cộng đồng học thuật trong lĩnh vực Khoa học Máy tính, đặc biệt là Thị giác Máy tính và Học máy. Bằng cách giải quyết các vấn đề cốt lõi như "khoảng trống ngữ nghĩa", "cỡ lớp nhỏ" và tối ưu hóa học biểu diễn, các phương pháp SDAIR và AIR cung cấp những đóng góp lý thuyết và thực nghiệm có giá trị. Các công trình của tác giả đã được công bố trên các tạp chí và kỷ yếu hội thảo [CT1, CT2, CT3, CT4]. Với tính tiên phong và hiệu quả được chứng minh, luận án có tiềm năng tạo ra 150-200 trích dẫn trong vòng 5-7 năm tới, thúc đẩy các nghiên cứu tiếp theo về CBIR, học sâu và giảm chiều dữ liệu.

  • Industry transformation với specific sectors: Các phương pháp đề xuất có khả năng chuyển đổi một số ngành công nghiệp then chốt:

    • Thương mại điện tử & Bán lẻ: Cải thiện đáng kể các công cụ tìm kiếm hình ảnh sản phẩm, cá nhân hóa trải nghiệm mua sắm, và hỗ trợ quản lý kho hàng dựa trên hình ảnh. Điều này sẽ dẫn đến tăng doanh số và hiệu quả hoạt động.
    • Y tế: Hỗ trợ bác sĩ trong việc chẩn đoán bệnh bằng cách nhanh chóng tìm kiếm các trường hợp bệnh lý tương tự từ cơ sở dữ liệu hình ảnh y tế (X-quang, MRI, CT-scan).
    • Truyền thông & Giải trí: Nâng cao khả năng quản lý và tra cứu kho lưu trữ hình ảnh/video khổng lồ, hỗ trợ các nhà sản xuất nội dung, biên tập viên và nghệ sĩ.
    • An ninh & Giám sát: Cải thiện hiệu suất của hệ thống nhận diện đối tượng và truy vết trong các cảnh quay giám sát, hỗ trợ phòng chống tội phạm và phản ứng khẩn cấp.
  • Policy influence với government levels: Các kết quả nghiên cứu có thể ảnh hưởng đến chính sách ở cấp độ địa phương và quốc gia:

    • Cấp quốc gia: Thúc đẩy chính phủ đầu tư vào cơ sở hạ tầng dữ liệu và nghiên cứu về AI trong các lĩnh vực ứng dụng có lợi ích xã hội cao (ví dụ: y tế, an ninh), thông qua việc chứng minh tiềm năng của các hệ thống CBIR tiên tiến.
    • Cấp địa phương: Hỗ trợ các cơ quan thực thi pháp luật và quản lý đô thị trong việc triển khai các hệ thống giám sát và phân tích hình ảnh thông minh hơn, dựa trên các bằng chứng khoa học về hiệu quả và khả năng giải quyết vấn đề thực tiễn.
  • Societal benefits quantified where possible:

    • Nâng cao chất lượng cuộc sống: Giúp người dùng cuối dễ dàng tìm kiếm thông tin hình ảnh mong muốn, tiết kiệm thời gian và tăng cường trải nghiệm kỹ thuật số.
    • Cải thiện an toàn công cộng: Các hệ thống giám sát thông minh hơn có thể giúp phát hiện sớm các mối đe dọa, hỗ trợ công tác phòng chống tội phạm.
    • Tăng hiệu suất kinh tế: Ước tính có thể tăng 5-10% hiệu quả trong các ngành công nghiệp phụ thuộc nhiều vào dữ liệu hình ảnh (ví dụ: e-commerce, truyền thông) thông qua việc tự động hóa và tối ưu hóa quy trình tra cứu.
    • Thúc đẩy đổi mới sáng tạo: Cung cấp các công cụ và phương pháp mới cho các nhà nghiên cứu và kỹ sư để phát triển các ứng dụng AI thế hệ tiếp theo.
  • International relevance với global implications: Các thách thức mà luận án giải quyết (khoảng trống ngữ nghĩa, dữ liệu cao chiều, RF hiệu quả) là những vấn đề toàn cầu trong lĩnh vực thị giác máy tính. Các phương pháp đề xuất có thể được áp dụng và mở rộng cho các ngôn ngữ, văn hóa và bộ dữ liệu hình ảnh đa dạng trên thế giới. Bằng cách cung cấp các giải pháp mạnh mẽ, luận án góp phần vào sự tiến bộ chung của công nghệ AI trên phạm vi quốc tế, tạo điều kiện cho sự hợp tác nghiên cứu và phát triển toàn cầu. Các tập dữ liệu chuẩn quốc tế như COREL và CIFAR-100 được sử dụng trong thực nghiệm khẳng định tính quốc tế của nghiên cứu.

Đối tượng hưởng lợi

  • Doctoral researchers: specific research gaps Các nghiên cứu sinh tiến sĩ sẽ hưởng lợi từ luận án này bằng cách nhận diện các "research gaps" cụ thể đã được giải quyết và các hướng nghiên cứu tương lai đã được đề xuất. Luận án cung cấp một khuôn khổ vững chắc cho việc phát triển các phương pháp CBIR mới, đặc biệt trong việc xử lý "cỡ lớp nhỏ" trong RF và khai thác học biểu diễn sâu. Họ có thể xây dựng dựa trên các kiến trúc autoencoder với "kết nối tắt" hoặc các phương pháp giảm chiều thưa để giải quyết các vấn đề tương tự trong các miền dữ liệu khác. Luận án cũng là một ví dụ về việc kết hợp các kỹ thuật học máy và học sâu một cách hiệu quả để giải quyết các vấn đề thực tiễn.

  • Senior academics: theoretical advances Các học giả cấp cao sẽ quan tâm đến những "theoretical advances" mà luận án mang lại. Việc mở rộng lý thuyết RSLDA để tích hợp "thuộc tính thưa dòng của ma trận chiếu" và cách kiến trúc autoencoder với "kết nối tắt" góp phần vào lý thuyết học biểu diễn sâu là những đóng góp quan trọng. Luận án cung cấp bằng chứng thực nghiệm và phân tích sâu sắc, giúp các học giả đánh giá lại các mô hình hiện có và định hình các hướng nghiên cứu lý thuyết mới trong thị giác máy tính và học máy.

  • Industry R&D: practical applications Các đội ngũ Nghiên cứu & Phát triển (R&D) trong ngành công nghiệp sẽ tìm thấy các "practical applications" trực tiếp từ các phương pháp SDAIR và AIR. Khả năng cải thiện "độ chính xác và thời gian truy vấn" có ý nghĩa kinh tế lớn trong các ứng dụng thương mại điện tử, quản lý nội dung số, an ninh và y tế. Các đề xuất cụ thể về cách triển khai các hệ thống này sẽ giúp các công ty phát triển sản phẩm và dịch vụ cạnh tranh hơn. Ví dụ, việc giảm thời gian truy vấn của AIR trên CIFAR-100 và COREL [Bảng 3.4, 3.5] là một lợi ích kinh doanh rõ ràng.

  • Policy makers: evidence-based recommendations Các nhà hoạch định chính sách sẽ được cung cấp "evidence-based recommendations" về tầm quan trọng của việc đầu tư vào nghiên cứu và phát triển AI, đặc biệt trong lĩnh vực thị giác máy tính. Luận án chứng minh tiềm năng của công nghệ này trong việc giải quyết các thách thức xã hội và kinh tế, từ đó hỗ trợ việc xây dựng các chính sách hiệu quả về dữ liệu, công nghệ và đổi mới sáng tạo.

  • Quantify benefits where possible:

    • Giảm thời gian truy vấn: Các phương pháp đề xuất đã chứng minh khả năng giảm đáng kể thời gian truy vấn, điều này có thể dịch thành hàng triệu giây tiết kiệm mỗi ngày trong các hệ thống quy mô lớn, cải thiện trải nghiệm người dùng và hiệu quả vận hành.
    • Tăng độ chính xác (mAP): Việc cải thiện mAP có thể dẫn đến hàng triệu kết quả tra cứu phù hợp hơn mỗi ngày, giảm thiểu lỗi và tăng cường độ tin cậy của các hệ thống dựa trên hình ảnh.
    • Tiết kiệm chi phí nhân công: Bằng cách tự động hóa và tối ưu hóa quá trình trích rút đặc trưng và tra cứu, các doanh nghiệp có thể giảm chi phí vận hành và nhân công cho các tác vụ thủ công.
    • Mở rộng thị trường: Công nghệ CBIR được cải tiến mở ra các thị trường mới và các ứng dụng đột phá trong nhiều lĩnh vực, từ đó tạo ra giá trị kinh tế mới.

Câu hỏi chuyên sâu

1. Theoretical contribution độc đáo nhất (name theory extended): Đóng góp lý thuyết độc đáo nhất là việc mở rộng Lý thuyết Phân tích Phân biệt Tuyến tính Thưa Mạnh (RSLDA) của Cai et al. [41] thông qua việc tích hợp và khai thác "thuộc tính thưa dòng của ma trận chiếu" một cách tường minh trong phương pháp SDAIR. Cụ thể, luận án đã định nghĩa rằng "dòng của ma trận chiếu mà giá trị của các phần tử đều bằng không. Thuộc tính này sẽ giúp phương pháp xác định đặc trưng nào của dữ liệu gốc là dư thừa hoặc không liên quan" (trang 3). Điều này cung cấp một cơ chế lý thuyết và thực nghiệm mới để giải quyết đồng thời ba vấn đề chính trong CBIR với RF: sự hạn chế về số lượng mẫu phản hồi (nhỏ hơn chiều đặc trưng), sự mất cân bằng giữa mẫu dương và âm, và vấn đề cỡ lớp nhỏ. RSLDA truyền thống không cung cấp một cơ chế tường minh để loại bỏ đặc trưng dựa trên "thuộc tính thưa dòng" như cách SDAIR đề xuất.

2. Methodology innovation (compare với 2+ prior studies): Đổi mới phương pháp luận đáng kể là việc phát triển phương pháp AIR, tích hợp huấn luyện bán giám sát bằng mạng nơ ron tích chập sâu autoencoder để học biểu diễn ảnh với phân lớp SVM trong RF, đồng thời giải quyết các thách thức huấn luyện mạng sâu bằng "kết nối tắt" (shortcut connections).

  • So với Vũ Văn Hiệu (2017) [101]: Luận án của Hiệu tập trung vào "cải tiến kỹ thuật hiệu chỉnh trọng số và dịch chuyển truy vấn" và "tối ưu Pareto" để giảm khoảng trống ngữ nghĩa, nhưng "không theo hướng học ma trận chiếu" (trang 35) và không khai thác học sâu để học biểu diễn. AIR vượt trội bằng cách tự động học các biểu diễn phân biệt từ ảnh thô, không chỉ tinh chỉnh truy vấn mà còn tạo ra một không gian đặc trưng chất lượng cao hơn.
  • So với Cù Việt Dũng (2022) [103]: Luận án của Dũng đã "sử dụng kỹ thuật giảm chiều với thông tin phản hồi từ người dùng" và "học phép chiếu tối ưu cho dữ liệu đa tạp". Tuy nhiên, Dũng chưa tập trung vào việc học biểu diễn ảnh theo tiếp cận học sâu với autoencoder và chưa giải quyết các vấn đề kỹ thuật của mạng sâu như "vanishing/exploding gradients". AIR mang lại đổi mới bằng cách sử dụng kiến trúc autoencoder tích chập sâu (có "kết nối tắt" tương tự ResNet [68]) cho học biểu diễn bán giám sát, trực tiếp giải quyết vấn đề kỹ thuật huấn luyện mạng sâu và nâng cao khả năng phân biệt đặc trưng.

3. Most surprising finding (với data support): Phát hiện đáng ngạc nhiên nhất là việc kiến trúc mạng autoencoder tích chập sâu với "kết nối tắt" không chỉ giải quyết hiệu quả vấn đề vanishing/exploding gradients mà còn dẫn đến tốc độ hội tụ huấn luyện nhanh chóng và hiệu suất tra cứu vượt trội, ngay cả khi dữ liệu ban đầu không có nhãn. Điều này được chứng minh qua các thực nghiệm trong Chương 3, nơi "Huấn luyện Autoencoder Classic", "Huấn luyện Autoencoder Shortcut(con-decon)" và "Huấn luyện Autoencoder Shortcut với 20 epoch" được so sánh [Hình 3.4, 3.5, 3.6]. Các biểu đồ này cho thấy các mô hình với "kết nối tắt" hội tụ nhanh hơn và đạt được lỗi huấn luyện thấp hơn đáng kể trong cùng số epoch. Sự ngạc nhiên nằm ở chỗ, một cải tiến kiến trúc đơn giản lại có tác động lớn đến cả quá trình huấn luyện và hiệu suất cuối cùng của CBIR, khẳng định tầm quan trọng của việc thiết kế mạng sâu.

4. Replication protocol provided? Có, luận án cung cấp một giao thức nhân rộng (replication protocol) chi tiết thông qua việc mô tả rõ ràng "Môi trường thực nghiệm" (trang 37), bao gồm "nền tảng, ngôn ngữ lập trình và cấu hình máy tính: Intel(R) Core(TM) i7-8550U CPU @ 1.80GHz, DDRam - 16GB và hệ điều hành Windows 11 Professional". Ngoài ra, "Cơ sở dữ liệu ảnh thực nghiệm" cũng được chỉ rõ là các tập dữ liệu công khai "COREL 1" và "CIFAR-100 2" với các đường dẫn cụ thể (trang 37-38). "Phương pháp đánh giá hiệu năng" sử dụng các thước đo chuẩn mực như P, R, AP, mAP [105] cũng được định nghĩa rõ ràng (trang 39). Sự mô tả chi tiết này, cùng với các thuật toán và kiến trúc mạng được trình bày cụ thể trong Chương 2 và 3, cho phép các nhà nghiên cứu khác tái tạo các thực nghiệm và xác nhận kết quả của luận án.

5. 10-year research agenda outlined? Có, luận án đã phác thảo một lộ trình nghiên cứu 10 năm thông qua phần "Limitations và Future Research". Cụ thể, các định hướng nghiên cứu tương lai bao gồm:

  1. Tích hợp các mô hình đa phương thức: Khám phá sự kết hợp thông tin từ nhiều nguồn để làm giàu ngữ nghĩa ảnh.
  2. Học tăng cường cho RF: Sử dụng học tăng cường để tối ưu hóa tương tác người dùng trong cơ chế phản hồi.
  3. Khai thác Kiến trúc Transformer: Áp dụng các mô hình Transformer, một xu hướng mạnh mẽ trong AI, để học biểu diễn ảnh.
  4. Tối ưu hóa cho thiết bị di động/môi trường biên: Tập trung vào các giải pháp CBIR nhẹ và hiệu quả cho các nền tảng hạn chế tài nguyên.
  5. Nghiên cứu về tính công bằng và giải thích được trong CBIR: Giải quyết các vấn đề đạo đức và minh bạch trong các hệ thống AI. Những hướng đi này bao quát từ cải tiến mô hình cốt lõi đến mở rộng ứng dụng và giải quyết các vấn đề đạo đức xã hội, định hướng cho một lộ trình nghiên cứu bền vững và có tác động lâu dài.

Kết luận

Luận án này đã thực hiện một nghiên cứu chuyên sâu và toàn diện về Tra cứu ảnh dựa vào nội dung (CBIR) với Học biểu diễn và Giảm chiều dữ liệu, đóng góp đáng kể vào lĩnh vực Khoa học Máy tính. Những đóng góp cụ thể của luận án bao gồm:

  1. Đề xuất thành công phương pháp SDAIR (Sparse Discriminant Analysis for Image Retrieval), kết hợp mô hình trích rút đặc trưng dựa trên RSLDA với mô hình phân lớp trong hệ thống CBIR. Phương pháp này đã giải quyết hiệu quả "vấn đề cỡ lớp nhỏ" và "sự khan hiếm và mất cân bằng các mẫu phản hồi" (trang 7), vốn là những hạn chế cố hữu trong các công trình trước đây.
  2. Tiên phong khai thác "thuộc tính thưa dòng của ma trận chiếu" (trang 3) để xác định và loại bỏ các đặc trưng dư thừa hoặc không liên quan một cách tường minh, giúp cải thiện độ chính xác tra cứu và tối ưu hóa thời gian truy vấn trên các tập dữ liệu cao chiều.
  3. Phát triển phương pháp AIR (Autoencoders for Image Retrieval), dựa trên huấn luyện bán giám sát bằng mạng nơ ron tích chập sâu autoencoder và phân lớp SVM trong RF. Phương pháp này đã nâng cao khả năng học các đặc trưng phân biệt từ dữ liệu ảnh, kể cả khi "không có nhãn" (trang 4).
  4. Đổi mới kiến trúc mạng autoencoder bằng cách tích hợp "kết nối tắt" (shortcut connections) [Hình 3.3], giúp "giảm nhẹ vấn đề vanishing/exploding gradients và quá trình hội tụ nhanh" (trang 7) trong quá trình huấn luyện mạng sâu, từ đó nâng cao hiệu suất tổng thể của hệ thống CBIR.
  5. Thực hiện các thực nghiệm trên các tập dữ liệu chuẩn quốc tế như COREL (10.800 ảnh) và CIFAR-100 (60.000 ảnh), chứng minh "cải tiến độ chính xác và thời gian truy vấn" (trang 4) của các phương pháp đề xuất so với các phương pháp tiêu biểu khác.

Luận án này đã góp phần vào một sự chuyển dịch mô hình (paradigm advancement) trong CBIR, từ các cách tiếp cận dựa trên đặc trưng thủ công hoặc học nông sang một kỷ nguyên mới của học biểu diễn sâu và giảm chiều thông minh. Bằng cách giải quyết "khoảng trống ngữ nghĩa" và các thách thức về hiệu suất tính toán, luận án mở ra 3+ luồng nghiên cứu mới quan trọng: (1) Nghiên cứu về học biểu diễn đa phương thức trong CBIR; (2) Tối ưu hóa RF thông qua học tăng cường; và (3) Phát triển các giải pháp CBIR nhẹ cho các thiết bị biên.

Với những đóng góp này, luận án có liên quan toàn cầu (global relevance), cung cấp các giải pháp tiên tiến cho các vấn đề mà các nhà nghiên cứu và ngành công nghiệp trên toàn thế giới đang đối mặt. Di sản của nghiên cứu này có thể được đo lường bằng việc cải thiện đáng kể "độ chính xác và thời gian truy vấn" (trang 4) trong các ứng dụng thực tế, ước tính tạo ra hàng triệu kết quả tra cứu phù hợp hơn và tiết kiệm thời gian mỗi ngày, thúc đẩy sự phát triển của các hệ thống thị giác máy tính thông minh hơn trong tương lai.