Luận án: Cải tiến thuật toán xếp hạng đa tạp trong tra cứu ảnh dựa trên nội dung
Kết quả nghiên cứu trong luận án trung thực, khách quan, đóng góp giá trị thực tiễn và khoa học, mở ra hướng đi mới.
Luan An
Luận án tiến sĩ
Năm xuất bản
Số trang
155
Thời gian đọc
24 phút
Lượt xem
0
Lượt tải
0
Phí lưu trữ
50 Point
Tổng quan nhanh
- Chủ đề:
- Tối ưu hóa tra cứu ảnh dựa trên nội dung CBIR
- Số trang:
- 155 trang
- Trường:
- Trường Đại học Điện lực
- Chuyên ngành:
- Công nghệ thông tin
- Tác giả:
- Hoàng Văn Quý
- Năm:
- 2023
Tóm tắt nội dung luận án
I.Tối ưu hóa tra cứu ảnh dựa trên nội dung CBIR
Tra cứu ảnh dựa trên nội dung (CBIR) đối mặt nhiều thách thức. Mục tiêu chính là cải thiện độ chính xác và hiệu suất tìm kiếm. Ảnh được biểu diễn bằng các đặc trưng. Các phương pháp truyền thống thường bỏ qua cấu trúc tiềm ẩn của dữ liệu. Khai thác học đa tạp giúp giải quyết vấn đề này. Dữ liệu ảnh thực tế thường nằm trên các đa tạp chiều thấp. Xếp hạng đa tạp nổi lên như một kỹ thuật mạnh mẽ. Nó tận dụng cấu trúc cục bộ và toàn cục của dữ liệu. Cải tiến thuật toán xếp hạng đa tạp là cần thiết. Nghiên cứu này tập trung vào nâng cao CBIR. Đặc biệt, cải tiến nằm ở khả năng khai phá cấu trúc đa tạp tốt hơn. Điều này dẫn đến độ chính xác tìm kiếm ảnh cao hơn. Đồng thời, tối ưu hóa thuật toán tìm kiếm cũng được chú trọng. Mục đích là để đạt được hiệu suất tra cứu ảnh vượt trội. Việc kết hợp các loại đặc trưng ảnh cũng đóng vai trò quan trọng. Phương pháp này giải quyết khoảng cách ngữ nghĩa giữa đặc trưng và nội dung.
1.1. Tổng quan tra cứu ảnh và đặc trưng ảnh
Tra cứu ảnh dựa trên nội dung (CBIR) là một lĩnh vực quan trọng. Nó tìm kiếm ảnh dựa vào đặc trưng thị giác. Các đặc trưng này bao gồm màu sắc, hình dạng và kết cấu. Đây là các đặc trưng ảnh mức thấp. Trích xuất đặc trưng là bước đầu tiên. Độ chính xác của CBIR phụ thuộc vào chất lượng đặc trưng. Đặc trưng ảnh mức cao liên quan đến ngữ nghĩa. Thuật toán cần thu hẹp khoảng cách giữa đặc trưng và ngữ nghĩa. Mục tiêu là để cung cấp kết quả tra cứu ảnh dựa trên nội dung phù hợp nhất.
1.2. Khái niệm và ứng dụng của học đa tạp
Dữ liệu đa tạp mô tả một không gian chiều cao. Tuy nhiên, nó có cấu trúc nội tại chiều thấp hơn. Học đa tạp giúp khám phá cấu trúc này. Nó giảm thiểu nhiễu và bảo toàn thông tin quan trọng. Trong CBIR, học đa tạp biểu diễn ảnh hiệu quả. Các điểm dữ liệu gần nhau trên đa tạp có nhiều khả năng liên quan. Kỹ thuật này nâng cao ma trận tương đồng ảnh. Nó là nền tảng cho xếp hạng đồ thị và cải thiện tìm kiếm.
1.3. Các phương pháp xếp hạng đa tạp hiệu quả
Xếp hạng đa tạp là một kỹ thuật mạnh mẽ. Nó sắp xếp các ảnh theo mức độ liên quan. Thuật toán này xây dựng một đồ thị tương tự. Các nút là ảnh, các cạnh là độ tương đồng. Quá trình lan truyền nhãn được thực hiện trên đồ thị. Các thuật toán xếp hạng đa tạp cơ bản có thể chậm. Các cải tiến tập trung vào tăng hiệu suất tra cứu ảnh. EMR (Efficient Manifold Ranking) là một ví dụ. EMR sử dụng các điểm neo để giảm độ phức tạp tính toán. Xếp hạng đồ thị hiệu quả là chìa khóa để xử lý lượng dữ liệu lớn.
II.Cải tiến thuật toán xếp hạng đa tạp tăng độ chính xác
Nghiên cứu đề xuất một cải tiến cho thuật toán xếp hạng đa tạp. Mục tiêu là tăng độ chính xác tìm kiếm ảnh trong CBIR. Kiến trúc CBIR mới được thiết kế đặc biệt. Nó tích hợp thuật toán tìm điểm neo tiên tiến. Phương pháp này gọi là lvdc-FCM. lvdc-FCM xác định các điểm neo đại diện. Các điểm neo này khai phá cấu trúc đa tạp một cách hiệu quả. Ma trận tương đồng ảnh được xây dựng cẩn thận. Nó phản ánh mối quan hệ thực sự giữa các ảnh. Trọng số hồi quy giữa điểm dữ liệu và điểm neo được tính toán. Điều này tạo ra một ma trận tương đồng ảnh mạnh mẽ. Thuật toán EMR (Efficient Manifold Ranking) sau đó được áp dụng. EMR tận dụng các cải tiến này. Nó thực hiện xếp hạng đồ thị nhanh chóng và chính xác hơn. Các thực nghiệm đã chứng minh hiệu quả vượt trội. Độ chính xác tìm kiếm ảnh được nâng cao đáng kể. Đây là một bước tiến quan trọng trong tra cứu ảnh dựa trên nội dung.
2.1. Kiến trúc CBIR mới và tìm điểm neo tiên tiến
Một kiến trúc CBIR mới được giới thiệu. Nó tích hợp thuật toán lvdc-FCM. Thuật toán lvdc-FCM xác định các điểm neo. Các điểm neo này là đại diện cho cấu trúc dữ liệu. Quá trình tìm kiếm điểm neo hiệu quả. Nó giúp khai phá cấu trúc đa tạp tiềm ẩn. Điều này cải thiện đáng kể khả năng biểu diễn. Nền tảng này tạo ra ma trận tương đồng ảnh chất lượng cao. Nó là yếu tố cần thiết cho xếp hạng đồ thị.
2.2. Xây dựng ma trận tương đồng ảnh và hồi quy
Ma trận hồi quy được xây dựng. Nó dựa trên mối quan hệ giữa điểm dữ liệu và điểm neo. Trọng số hồi quy được tính toán cẩn thận. Chúng phản ánh mức độ liên quan giữa các điểm. Ma trận tương đồng ảnh thu được rất chính xác. Nó là cơ sở cho thuật toán xếp hạng đa tạp. Ma trận này giúp tối ưu hóa thuật toán tìm kiếm. Nó tăng cường độ chính xác tìm kiếm ảnh cho hệ thống CBIR.
2.3. Thuật toán EMR cải tiến nâng cao độ chính xác
Thuật toán EMR cải tiến được đề xuất. Nó tích hợp kết quả từ lvdc-FCM. Quá trình xếp hạng đồ thị được thực hiện hiệu quả. Nó tận dụng ma trận tương đồng ảnh đã cải thiện. EMR tăng cường khả năng lan truyền nhãn. Điều này dẫn đến độ chính xác tìm kiếm ảnh cao hơn. Thuật toán này xử lý tốt các tập dữ liệu lớn. Nó mang lại hiệu suất tra cứu ảnh đáng kể trong thực tế.
III.Kết hợp đặc trưng ảnh nâng cao hiệu suất tra cứu
Nghiên cứu này tiếp tục đề xuất một hệ thống CBIR. Hệ thống kết hợp cả đặc trưng ảnh mức thấp và mức cao. Đặc trưng ảnh mức thấp bao gồm màu sắc, kết cấu. Chúng được trích xuất bằng các phương pháp truyền thống. Đặc trưng ảnh mức cao được lấy từ các mạng nơ-ron tích chập (CNN). Đặc biệt, EfficientNetB7+ được sử dụng. Việc kết hợp này giúp khắc phục hạn chế của từng loại đặc trưng. Nó tạo ra một biểu diễn ảnh phong phú hơn. Biểu diễn ảnh đa chiều này chứa nhiều thông tin. Nó hỗ trợ tra cứu ảnh dựa trên nội dung chính xác hơn. Kỹ thuật tinh chỉnh mạng EfficientNetB7 được áp dụng. Điều này đảm bảo mô hình phù hợp với dữ liệu ảnh cụ thể. Phương pháp này cũng xem xét việc giảm chiều dữ liệu cho các đặc trưng kết hợp. Điều này nhằm duy trì hiệu suất tra cứu ảnh cao. Đồng thời, nó vẫn giữ được độ chính xác tìm kiếm ảnh mong muốn. Hệ thống được thiết kế để xử lý hiệu quả các tập dữ liệu ảnh lớn và phức tạp.
3.1. Phối hợp đặc trưng mức thấp và cao cho ảnh
Kết hợp đặc trưng ảnh là một chiến lược hiệu quả. Nó tận dụng ưu điểm của cả hai loại. Đặc trưng mức thấp nắm bắt chi tiết cơ bản. Đặc trưng mức cao hiểu ngữ nghĩa. Việc phối hợp này tạo ra biểu diễn ảnh toàn diện. Nó giúp tra cứu ảnh dựa trên nội dung vượt trội. Phương pháp này đặc biệt hữu ích khi xử lý sự phức tạp của hình ảnh thực tế.
3.2. Kỹ thuật trích rút đặc trưng sâu từ CNN
Mạng CNN là công cụ mạnh mẽ để trích rút đặc trưng ảnh mức cao. EfficientNetB7+ được tinh chỉnh cho nhiệm vụ này. Quá trình tinh chỉnh tối ưu hóa mạng. Nó giúp mạng hiểu rõ hơn về nội dung ảnh. Các đặc trưng sâu này phản ánh các khái niệm trừu tượng. Chúng đóng vai trò quan trọng trong việc thu hẹp khoảng cách ngữ nghĩa. Điều này cải thiện độ chính xác tìm kiếm ảnh đáng kể.
3.3. Xây dựng mô hình biểu diễn ảnh đa chiều
Các đặc trưng ảnh được kết hợp để tạo ra vector biểu diễn đa chiều. Kỹ thuật này tổng hợp thông tin từ nhiều nguồn. Nó tạo ra một biểu diễn ảnh mạnh mẽ hơn. Quá trình này có thể liên quan đến giảm chiều dữ liệu. Mục đích là để giảm độ phức tạp. Đồng thời, nó vẫn bảo toàn thông tin quan trọng. Mô hình này là cơ sở cho xếp hạng đồ thị hiệu quả hơn.
IV.Tối ưu thuật toán tìm kiếm với GPU platform
Để đối phó với dữ liệu ảnh lớn và đặc trưng ảnh chiều cao, cần tối ưu hóa thuật toán tìm kiếm. Nghiên cứu đề xuất triển khai các thuật toán trên nền tảng GPU. GPU (Graphics Processing Unit) tăng tốc đáng kể các phép tính song song. Điều này bao gồm quá trình tìm điểm neo. Thuật toán LDM-FCM, một phiên bản của lvdc-FCM, được tối ưu hóa cho GPU. Việc này giúp cải thiện đáng kể hiệu suất tra cứu ảnh. Sau đó, đồ thị HD-EMR được xây dựng. HD-EMR xử lý hiệu quả các đặc trưng có chiều rất cao. Xếp hạng đồ thị trở nên nhanh hơn. Toàn bộ thuật toán HD-EMR trong CBIR được hưởng lợi. Các thử nghiệm chứng minh hiệu suất tra cứu ảnh vượt trội. Đặc biệt là trên các bộ dữ liệu lớn. Độ chính xác tìm kiếm ảnh cũng được duy trì. Công nghệ này là chìa khóa để triển khai CBIR trong môi trường thực tế. Nó cho phép xử lý lượng lớn dữ liệu một cách nhanh chóng. Việc học đa tạp trên GPU cũng trở nên khả thi hơn.
4.1. Tối ưu hóa điểm neo trên nền tảng GPU
Quá trình tìm điểm neo là bước tính toán nặng. Nó cần được tối ưu hóa thuật toán tìm kiếm. Nền tảng GPU cung cấp khả năng xử lý song song. Thuật toán LDM-FCM được chuyển đổi để chạy trên GPU. Việc này giảm đáng kể thời gian tính toán. Hiệu suất tra cứu ảnh được cải thiện. Nó cho phép xử lý các tập dữ liệu lớn hiệu quả hơn. Khả năng khai phá cấu trúc đa tạp được duy trì với tốc độ cao.
4.2. Xây dựng đồ thị HD EMR cho dữ liệu lớn
Dữ liệu có đặc trưng ảnh chiều rất cao đặt ra thách thức. Xếp hạng đồ thị trên dữ liệu này cần một phương pháp mới. HD-EMR được thiết kế để xử lý các đặc trưng này. Nó xây dựng đồ thị một cách hiệu quả. Kiến trúc đồ thị tối ưu hóa việc xếp hạng đa tạp. Điều này đảm bảo hiệu suất tra cứu ảnh cao. Đặc biệt khi làm việc với học đa tạp trên các tập dữ liệu khổng lồ.
4.3. Hiệu năng của thuật toán HD EMR trong CBIR
Thuật toán HD-EMR mang lại hiệu suất tra cứu ảnh vượt trội. Nó kết hợp học đa tạp với tối ưu hóa GPU. Khả năng tối ưu hóa thuật toán tìm kiếm là điểm nhấn. HD-EMR duy trì độ chính xác tìm kiếm ảnh cao. Đồng thời nó giảm thời gian tra cứu đáng kể. Đây là giải pháp mạnh mẽ cho tra cứu ảnh dựa trên nội dung quy mô lớn.
V.Đánh giá hiệu quả và đóng góp chính của luận án
Các thực nghiệm rộng rãi đã được tiến hành. Mục đích là để đánh giá hiệu suất tra cứu ảnh và độ chính xác tìm kiếm ảnh của các thuật toán đề xuất. Các bộ dữ liệu thực tế được sử dụng. Chúng bao gồm cả CSDL ảnh thông thường và CSDL ảnh y tế. Các chỉ số đánh giá tiêu chuẩn như độ chính xác trung bình (mAP) được sử dụng. Kết quả cho thấy sự vượt trội của phương pháp cải tiến. EMR-lvdc-FCM và HD-EMR thể hiện hiệu suất tốt hơn. Chúng vượt trội so với các thuật toán xếp hạng đồ thị và học đa tạp hiện có. Các đóng góp chính bao gồm việc phát triển thuật toán lvdc-FCM. Thuật toán này xác định điểm neo hiệu quả. Nó cải thiện độ chính xác tìm kiếm ảnh. Việc kết hợp đặc trưng ảnh mức thấp và cao cũng rất quan trọng. Nó nâng cao khả năng biểu diễn ảnh. Tối ưu hóa thuật toán trên GPU tăng hiệu suất tra cứu ảnh. Điều này mở ra hướng phát triển mới cho tra cứu ảnh dựa trên nội dung (CBIR). Luận án cung cấp các giải pháp thiết thực. Chúng giải quyết các thách thức về tối ưu hóa thuật toán tìm kiếm trong hệ thống CBIR.
5.1. Thực nghiệm và kết quả đánh giá hệ thống
Môi trường thực nghiệm được thiết lập kỹ lưỡng. Các bộ dữ liệu chuẩn được sử dụng. Đánh giá độ chính xác tìm kiếm ảnh được thực hiện. Các chỉ số như mAP chứng minh hiệu quả. Kết quả cho thấy các phương pháp đề xuất vượt trội. Chúng cải thiện đáng kể hiệu suất tra cứu ảnh trong các tình huống thực tế.
5.2. So sánh hiệu năng với các phương pháp hiện có
Các thuật toán đề xuất được so sánh. Chúng được đối chiếu với các phương pháp xếp hạng đồ thị và học đa tạp tiên tiến. EMR-lvdc-FCM và HD-EMR thể hiện độ chính xác tìm kiếm ảnh cao hơn. Đồng thời, chúng cũng đạt được hiệu suất tra cứu ảnh tốt hơn. Điều này khẳng định giá trị của các cải tiến. Các cải tiến này về tối ưu hóa thuật toán tìm kiếm là có ý nghĩa.
5.3. Kết luận và hướng phát triển nghiên cứu
Luận án đã đóng góp các phương pháp cải tiến. Chúng nâng cao tra cứu ảnh dựa trên nội dung (CBIR). Độ chính xác tìm kiếm ảnh và hiệu suất tra cứu ảnh được cải thiện. Hướng nghiên cứu tương lai bao gồm khám phá các kỹ thuật học đa tạp mới. Việc áp dụng các đặc trưng ảnh khác cũng tiềm năng. Tiếp tục tối ưu hóa thuật toán tìm kiếm trên các nền tảng phân tán là một hướng quan trọng.
Tải xuống file đầy đủ để xem toàn bộ nội dung
Tải đầy đủ (155 trang)Nội dung chính
Tổng quan về luận án
Luận án "Nghiên cứu cải tiến thuật toán xếp hạng đa tạp trong tra cứu ảnh" của Hoàng Văn Quý đánh dấu một bước tiến quan trọng trong lĩnh vực Tra cứu ảnh dựa vào nội dung (Content-Based Image Retrieval - CBIR), một bài toán cốt lõi trong thị giác máy tính với ứng dụng rộng rãi từ tìm kiếm khuôn mặt, hình ảnh y tế đến thương mại điện tử. Nghiên cứu này xuất hiện trong bối cảnh bùng nổ của dữ liệu hình ảnh kỹ thuật số, nơi các phương pháp CBIR truyền thống gặp phải những thách thức đáng kể về độ chính xác và hiệu quả.
Bối cảnh khoa học và tính tiên phong của nghiên cứu Sự phát triển của công nghệ Internet và các thiết bị kỹ thuật số đã tạo ra một lượng lớn dữ liệu hình ảnh mỗi ngày. Các hệ thống CBIR hiện tại, như mô tả trong Hình 1.1, dựa trên hai yếu tố chính: đặc trưng biểu diễn nội dung ảnh và các phương pháp tra cứu, xếp hạng kết quả. Trong khi mạng học sâu (Deep Learning - DL), đặc biệt là Mạng Nơ-ron Tích chập (Convolutional Neural Networks - CNN) như EfficientNetB7+, đã nâng cao đáng kể khả năng trích xuất đặc trưng ảnh có ý nghĩa ngữ nghĩa (Liang Zheng và cộng sự [129] chỉ ra đặc trưng tốt có thể cải thiện độ chính xác tìm kiếm 2-51,3%), thì các phương pháp xếp hạng truyền thống sử dụng độ đo khoảng cách Euclidean hay Cosine vẫn còn hạn chế. Chúng không thể nắm bắt được cấu trúc phi tuyến tính của dữ liệu đa tạp, nơi các hình ảnh liên quan thường nằm trên các không gian con (sub-manifold) trong không gian đặc trưng tổng thể (Hình 1.8). Tính tiên phong của nghiên cứu nằm ở việc giải quyết một cách toàn diện những hạn chế này bằng cách cải tiến sâu rộng thuật toán xếp hạng đa tạp, kết hợp với các đặc trưng ảnh đa cấp và tối ưu hóa hiệu năng tính toán.
Research gap SPECIFIC với citations từ literature Luận án xác định rõ ràng hai research gap chính trong lĩnh vực CBIR liên quan đến Xếp hạng đa tạp (Manifold Ranking - MR) và Xếp hạng đa tạp hiệu quả (Efficient Manifold Ranking - EMR):
- Hạn chế trong biểu diễn đặc trưng và độ chính xác của MR/EMR: "Các phương pháp xếp hạng đa tạp kể trên tuy khám phá được cấu trúc phi tuyến tuyến của dữ liệu nhưng độ chính xác trong tra cứu chưa cao do thiếu sự đa dạng trong các phương pháp biểu diễn ảnh bằng đặc trưng được trích rút từ mạng học sâu của dữ liệu ảnh (chủ yếu các đề xuất đều dùng đặc trưng mức thấp)." (p. 4). Các nghiên cứu trước đây như [40, 78, 79] thường chỉ sử dụng đặc trưng mức thấp hoặc độ đo khoảng cách "truyền thống", bỏ qua khả năng khai thác các đặc trưng mức cao từ CNN để thu hẹp khoảng cách ngữ nghĩa.
- Thách thức về khả năng mở rộng và chất lượng điểm neo trong EMR: "Hạn chế của các phương pháp xếp hạng đa tạp hiện tại khi áp dụng cho bài toán tra cứu ảnh dựa trên nội dung: i. Việc xây dựng đồ thị của các điểm dữ liệu dựa vào đồ thị K-NN là không khả thi với dữ liệu quy mô lớn [115]. ... Lựa chọn các điểm neo chất lượng bằng các thuật toán phân cụm dựa trên tâm... trên các tập dữ liệu lớn có số chiều vector cao rất khó khăn... Không kết hợp được với thuật toán lân cận xấp xỉ (ANN) để giảm việc tính toán trực tiếp tất cả các khoảng cách..." (p. 5). Điều này chỉ ra rằng EMR, dù hiệu quả hơn MR cơ bản, vẫn đối mặt với các vấn đề về khả năng mở rộng (ví dụ, chi phí O(n^2 log k) cho đồ thị K-NN), chất lượng của điểm neo (thường chọn ngẫu nhiên hoặc K-means), và thiếu tích hợp với ANN để tối ưu hóa việc tìm kiếm điểm neo. Các hệ thống CBIR với SGR [122] cũng bị hạn chế về độ chính xác do sử dụng đặc trưng mức thấp và phương pháp tìm điểm neo chưa tối ưu.
Research questions và hypotheses (đánh số cụ thể) Luận án tập trung giải quyết các câu hỏi nghiên cứu sau:
- Làm thế nào để cải thiện độ chính xác của tra cứu ảnh bằng cách nâng cao chất lượng lựa chọn điểm neo trong thuật toán xếp hạng đa tạp hiệu quả (EMR) cho dữ liệu đa tạp?
- Việc kết hợp đặc trưng mức thấp (Low-level Features) và đặc trưng mức cao (High-level Features/CNN Features) có thể nâng cao đáng kể độ chính xác tra cứu ảnh trong khung xếp hạng đa tạp như thế nào, đặc biệt với các vector đặc trưng chiều rất cao?
- Có thể phát triển một khung phân tích (HD-EMR) cho phép tra cứu ảnh hiệu quả trên các tập dữ liệu lớn, chiều rất cao mà không cần giảm chiều dữ liệu không?
- Làm thế nào để tối ưu hóa hiệu năng tính toán của các thuật toán phân cụm và xếp hạng đa tạp trên các nền tảng phần cứng hiện đại như GPU để xử lý dữ liệu quy mô lớn?
Các giả thuyết chính của luận án bao gồm: H1: Việc thay thế thuật toán phân cụm K-Means truyền thống bằng thuật toán lvdc-FCM cải tiến để tìm điểm neo sẽ nâng cao đáng kể độ chính xác của thuật toán EMR trong CBIR. H2: Kết hợp hiệu quả các đặc trưng mức thấp và đặc trưng mức cao (từ mạng CNN được tinh chỉnh) sẽ tạo ra biểu diễn ảnh giàu ngữ nghĩa hơn, dẫn đến cải thiện vượt trội độ chính xác tra cứu ảnh so với việc chỉ sử dụng một loại đặc trưng. H3: Thuật toán HD-EMR, tích hợp FCM cải tiến và ANN, có khả năng xử lý các vector đặc trưng chiều rất cao mà không cần giảm chiều, vẫn duy trì hiệu quả và độ chính xác cao trong CBIR. H4: Việc triển khai các thuật toán phân cụm và xếp hạng đa tạp trên kiến trúc GPU sẽ mang lại cải thiện đáng kể về thời gian thực thi, cho phép xử lý dữ liệu lớn theo thời gian thực.
Theoretical framework với tên theories cụ thể Luận án được xây dựng trên nền tảng của một số lý thuyết quan trọng:
- Lý thuyết Đa tạp (Manifold Theory): Đây là nền tảng cốt lõi, giả định rằng dữ liệu thực tế, đặc biệt là hình ảnh, thường nằm trên các không gian con có số chiều thấp hơn (đa tạp) được nhúng trong không gian Euclidean chiều cao hơn. "Các vector đặc trưng ảnh thường tạo thành các đa tạp con trên các đa trong toàn bộ không gian đặc trưng ảnh [106]". Luận án đặc biệt nhấn mạnh "Bổ đề 1" mới, chứng minh mọi tập hữu hạn n vector m chiều, với điều kiện nhất định, đều nằm trên một đa tạp d chiều. Bổ đề này củng cố cơ sở toán học cho việc áp dụng học đa tạp.
- Lý thuyết Học bán giám sát (Semi-supervised Learning): Xếp hạng đa tạp (MR) thuộc mô hình học bán giám sát [125, 126], tận dụng thông tin từ một số điểm được gán nhãn (ảnh truy vấn) để lan truyền và xếp hạng các điểm chưa được gán nhãn trong CSDL thông qua cấu trúc đồ thị.
- Lý thuyết Mạng Nơ-ron Tích chập (Convolutional Neural Networks - CNN): Các mô hình CNN như VGG, ResNet, Inception, và đặc biệt là EfficientNet, được sử dụng để trích rút "các thành phần vector đặc trưng quan trọng hơn trong ảnh [26, 36, 124]", cung cấp các đặc trưng mức cao giàu ngữ nghĩa.
Đóng góp đột phá với quantified impact Luận án mang lại những đóng góp đột phá, được định lượng hóa hoặc có tiềm năng định lượng hóa cao:
- Cải tiến EMR bằng lvdc-FCM: Đề xuất thuật toán EMR-(lvdc-FCM) thay thế K-means bằng lvdc-FCM để chọn điểm neo, giải quyết vấn đề lựa chọn điểm neo chất lượng trên các tập dữ liệu lớn có số chiều cao. Các thực nghiệm trên các tập dữ liệu Corel30K, VGGFACE2-S, Logo-2K+ cho thấy độ chính xác trung bình (MAP) của EMR-(lvdc-FCM) cải thiện đáng kể so với EMR gốc, ví dụ, tăng 5-10% ARP tùy thuộc vào tập dữ liệu và số ảnh trả về (dựa trên các bảng kết quả trong chương 2 và 3).
- Kết hợp đặc trưng đa cấp và tinh chỉnh CNN (EfficientNetB7+): Đề xuất phương pháp tinh chỉnh mạng EfficientNetB7+ để trích rút đặc trưng mức cao, sau đó kết hợp với đặc trưng mức thấp (GCM, LBP, GWT, EDH, GIST với tổng 809 chiều). Sự kết hợp này tạo ra vector đặc trưng có chiều rất cao (ví dụ, 2560D từ CNN + 809D từ mức thấp = 3369D), giải quyết hạn chế của việc chỉ dùng đặc trưng mức thấp. Độ chính xác tra cứu trên 3 tập dữ liệu với số ảnh trả về 20 đã được cải thiện đáng kể (Bảng 1.15, p. 109).
- Thuật toán HD-EMR không cần giảm chiều: Đề xuất HD-EMR (kết hợp FCM cải tiến và ANN - LDM-FCM) cho phép xử lý dữ liệu chiều rất cao mà không cần giảm chiều, giảm thiểu mất mát thông tin và độ phức tạp của các phép học đa tạp. Điều này giúp hệ thống hoạt động hiệu quả hơn trên các cơ sở dữ liệu ảnh lớn và phức tạp.
- Bổ đề mới về tính tổng quát của dữ liệu đa tạp: Cung cấp cơ sở lý luận vững chắc, khẳng định rằng mọi tập hữu hạn vector dữ liệu đều nằm trên một đa tạp với số chiều mong muốn, mở rộng hiểu biết về cấu trúc nội tại của dữ liệu ảnh.
Scope (sample size, timeframe) và significance
Phạm vi nghiên cứu của luận án tập trung vào thuật toán xếp hạng đa tạp hiệu quả trong tra cứu ảnh, cải tiến phương pháp tìm điểm neo bằng thuật toán phân cụm mờ FCM và kết hợp đặc trưng đa cấp từ mạng CNN. Các thực nghiệm được tiến hành trên các tập dữ liệu ảnh lớn và đa dạng như Corel30K (30.000 ảnh), Logo-2K+ (2.000+ ảnh) và VGGFACE2-S (tập con của VGGFACE2, chứa các khuôn mặt), cùng với tập dữ liệu nhân tạo 20D. Thời gian thực nghiệm được thực hiện trong khoảng thời gian luận án hoàn thành (năm 2023). Significance của nghiên cứu nằm ở việc cung cấp các giải pháp tiên tiến, có khả năng mở rộng để nâng cao độ chính xác và hiệu quả của CBIR, giải quyết khoảng cách ngữ nghĩa và khả năng xử lý dữ liệu quy mô lớn, chiều rất cao, đóng góp thiết thực cho cả nghiên cứu và ứng dụng thực tiễn trong nhiều ngành.
Literature Review và Positioning
Synthesis của major streams với TÊN TÁC GIẢ và NĂM cụ thể Luận án tổng hợp các luồng nghiên cứu chính trong CBIR, đặc biệt nhấn mạnh vai trò của đặc trưng ảnh và phương pháp xếp hạng.
- Đặc trưng ảnh: Ban đầu, các hệ thống CBIR truyền thống chủ yếu dựa vào đặc trưng mức thấp (Low-level Features) như màu sắc (biểu đồ màu, mô men màu), kết cấu (GLCM, HOG, LBP) và hình dạng (phân tích đường biên, vùng) [16, 72, 74]. Các tác giả như Sharif và cộng sự [86] (sử dụng SIFT, BRISK) hay Yousuf và cộng sự [120] (SFIT, LIOP) đã khám phá các đặc trưng cục bộ. Gần đây, với sự phát triển của Học sâu, đặc trưng từ mạng CNN (ví dụ: VGG, ResNet, Inception, EfficientNet) đã trở thành xu hướng chủ đạo, mang lại hiệu quả vượt trội trong việc thu hẹp khoảng cách ngữ nghĩa [18, 50, 103]. Desai và cộng sự [24] đã đề xuất CBIR dựa trên VGG16 kết hợp SVM, cho thấy độ chính xác tốt trên Corel10K.
- Xếp hạng và tìm kiếm: Các hệ thống CBIR sử dụng độ đo tương tự để so khớp đặc trưng. Tuy nhiên, các độ đo khoảng cách "truyền thống" như Euclidean hay Cosine [3, 35] được chỉ ra là không đủ để nắm bắt cấu trúc phi tuyến tính của dữ liệu đa tạp. Điều này đã thúc đẩy sự ra đời của các phương pháp Xếp hạng đa tạp (Manifold Ranking - MR) [39, 114, 115], một phương pháp xếp hạng dựa trên đồ thị, không chỉ dựa vào thông tin cục bộ mà còn cấu trúc tổng thể của dữ liệu [125, 126]. Các biến thể của MR bao gồm FMR [41], SMR [33], HMR [114], EMR [115, 116], và SGR [122] đã được đề xuất để cải thiện hiệu năng. Bên cạnh đó, các phương pháp tìm kiếm Xấp xỉ láng giềng gần nhất (ANN) [4, 75, 123] cũng được nghiên cứu để tăng hiệu quả tra cứu trên dữ liệu lớn.
Contradictions/debates với ít nhất 2 opposing views
- Hiệu quả của đặc trưng:
- View 1 (Đặc trưng thủ công): Một số nghiên cứu ban đầu tin rằng các đặc trưng mức thấp được thiết kế thủ công (hand-crafted features) như màu sắc, kết cấu, hình dạng là đủ để mô tả nội dung ảnh trong CBIR, đặc biệt với các ứng dụng cụ thể [81, 88]. Các bộ mô tả như SIFT, SURF, LBP từng được coi là mạnh mẽ.
- View 2 (Đặc trưng học sâu): Quan điểm đối lập, được củng cố bởi sự thành công của Học sâu, cho rằng đặc trưng thủ công "khó có thể mô tả ngữ nghĩa của ảnh, không thể tận dụng hiệu quả các vùng nổi trội và thường bỏ qua cấu trúc không gian của hình ảnh [119]". Thay vào đó, đặc trưng từ CNN có khả năng tự động học các biểu diễn phức tạp và giàu ngữ nghĩa hơn, dẫn đến hiệu suất vượt trội trong nhiều tác vụ thị giác máy tính, bao gồm CBIR [50, 103]. Luận án rõ ràng đứng về phía quan điểm này và tìm cách kết hợp cả hai để tận dụng ưu điểm.
- Khả năng mở rộng của phương pháp xếp hạng đa tạp:
- View 1 (MR truyền thống): Các phương pháp MR ban đầu như [125, 126] đã chứng minh hiệu quả trong việc khám phá cấu trúc đa tạp nội tại của dữ liệu. Tuy nhiên, chúng gặp phải vấn đề về khả năng mở rộng với dữ liệu lớn do chi phí xây dựng đồ thị K-NN là O(n^2 log k) và chi phí tính toán ma trận nghịch đảo [115].
- View 2 (EMR và tối ưu hóa): Để khắc phục, các phương pháp như EMR [115, 116] và SGR [122] đề xuất sử dụng đồ thị neo (anchor graph) thay cho đồ thị K-NN để giảm độ phức tạp xuống O(nC) (với C là số điểm neo, C << n) và cải thiện khả năng mở rộng. Tuy nhiên, luận án chỉ ra rằng ngay cả các phương pháp này "có độ chính xác trong tra cứu chưa cao do mới chỉ biểu diễn ảnh bằng các vector đặc trưng mức thấp hoặc các phương pháp tìm điểm neo cho đồ thị điểm neo chưa được quan tâm" (p. 34), mở ra hướng cải tiến mới.
Positioning trong literature với specific gap identified Luận án được định vị một cách chiến lược tại giao điểm của nghiên cứu đặc trưng học sâu và tối ưu hóa thuật toán xếp hạng đa tạp. Trong khi các nghiên cứu trước đây như [115, 116, 122] đã cố gắng giải quyết vấn đề khả năng mở rộng của MR bằng cách giới thiệu EMR và SGR, thì chúng vẫn bị giới hạn bởi việc chủ yếu sử dụng đặc trưng mức thấp và phương pháp chọn điểm neo đơn giản (ví dụ, K-means hoặc ngẫu nhiên). Luận án này lấp đầy khoảng trống đó bằng cách:
- Cải tiến thuật toán tìm điểm neo: Thay thế K-means bằng thuật toán lvdc-FCM cải tiến, được thiết kế để chọn điểm neo chất lượng hơn trên dữ liệu chiều cao, khắc phục hạn chế mà "phân cụm K-means thì không biểu diễn được trường hợp một vector đặc trưng có nhiều hơn một điểm neo đại diện nó" (p. 5).
- Kết hợp đặc trưng đa cấp tiên tiến: Tích hợp đặc trưng mức thấp và đặc trưng mức cao từ CNN được tinh chỉnh (EfficientNetB7+), tạo ra một biểu diễn ảnh toàn diện và giàu ngữ nghĩa hơn, trực tiếp giải quyết vấn đề "thiếu sự đa dạng trong các phương pháp biểu diễn ảnh bằng đặc trưng được trích rút từ mạng học sâu" mà các phương pháp MR/EMR trước đây gặp phải.
- Xử lý dữ liệu chiều rất cao mà không giảm chiều: Đề xuất HD-EMR với LDM-FCM kết hợp ANN, cho phép xử lý hiệu quả các vector đặc trưng có chiều rất cao (ví dụ, 3369D) mà không cần giảm chiều dữ liệu, giải quyết vấn đề "khó khăn trong tính toán khoảng cách và xác định điểm neo" khi chiều vector cao (p. 5).
How this advances field với concrete contributions Luận án đóng góp vào lĩnh vực CBIR và học máy theo nhiều cách:
- Nâng cao độ chính xác: Cải thiện đáng kể độ chính xác tra cứu ảnh bằng EMR-(lvdc-FCM) và HD-EMR, vượt qua hiệu suất của các phương pháp EMR gốc và các biến thể khác.
- Khả năng mở rộng: Cung cấp các giải pháp xếp hạng đa tạp có khả năng mở rộng tốt hơn cho CSDL ảnh lớn, nhờ việc tối ưu hóa chọn điểm neo và tích hợp ANN.
- Giảm khoảng cách ngữ nghĩa: Khai thác hiệu quả đặc trưng từ CNN được tinh chỉnh, giúp cầu nối giữa các đặc trưng thị giác cấp thấp và cảm nhận ngữ nghĩa của con người.
- Cơ sở lý luận mới: Đưa ra bổ đề về tính tổng quát của dữ liệu đa tạp, củng cố nền tảng toán học cho các nghiên cứu học đa tạp trong tương lai.
So sánh với ÍT NHẤT 2 international studies
- So sánh với EMR của Bin Xu và cộng sự [115, 116]: Nghiên cứu của Bin Xu và cộng sự là cơ sở cho thuật toán EMR hiệu quả, giải quyết vấn đề mở rộng của MR bằng cách sử dụng đồ thị neo và phân cụm K-means để chọn điểm neo. Tuy nhiên, luận án này vượt trội hơn bằng cách:
- Thay thế K-means bằng lvdc-FCM, cho phép lựa chọn điểm neo chất lượng hơn, đặc biệt khi "phân cụm K-means thì không biểu diễn được trường hợp một vector đặc trưng có nhiều hơn một điểm neo đại diện nó" (p. 5).
- Tích hợp đặc trưng mức cao từ CNN tinh chỉnh (EfficientNetB7+) mà EMR gốc chưa khai thác sâu, dẫn đến biểu diễn ảnh giàu ngữ nghĩa hơn và độ chính xác cao hơn.
- Kết hợp ANN trong LDM-FCM, giúp tìm điểm neo gần nhất hiệu quả hơn, điều mà EMR gốc chưa tập trung.
- So sánh với SGR (Scalable Sub-Graph Regularization) của Xionghui Wang và cộng sự [122]: SGR cũng là một phương pháp xếp hạng đa tạp mở rộng nhằm cải thiện CBIR với phản hồi liên quan dài hạn. Tuy nhiên, luận án chỉ ra rằng SGR và các hệ thống tương tự "có độ chính xác trong tra cứu chưa cao do mới chỉ biểu diễn ảnh bằng các vector đặc trưng mức thấp" (p. 34). Nghiên cứu hiện tại vượt qua hạn chế này bằng cách:
- Sử dụng đặc trưng kết hợp từ EfficientNetB7+ và đặc trưng mức thấp, tạo ra biểu diễn ảnh đa dạng và mạnh mẽ hơn.
- Đề xuất HD-EMR để xử lý hiệu quả các đặc trưng chiều rất cao mà không cần giảm chiều, điều mà các phương pháp như SGR thường gặp khó khăn. Các bảng kết quả thực nghiệm trong Chương 3 (Bảng 1.15, p. 109) sẽ chứng minh sự cải thiện rõ rệt về độ chính xác so với các phương pháp chỉ sử dụng đặc trưng mức thấp.
Đóng góp lý thuyết và khung phân tích
Đóng góp cho lý thuyết
Luận án thực hiện các đóng góp đáng kể cho lý thuyết, đặc biệt trong lĩnh vực học đa tạp và học máy cho thị giác máy tính.
- Extend/challenge WHICH specific theories (name theorists):
- Mở rộng Lý thuyết Đa tạp: Luận án mở rộng hiểu biết về phân bố dữ liệu trên đa tạp thông qua Bổ đề 1: "Mọi tập hữu hạn n vector m chiều, mọi số nguyên dương d : 1 <= d <= ceil(m/2) và M = {xi = (xi, j)j=1} ⊂ R^m (m > 1) thỏa mãn xi,k ≠ xj,k ∀i ≠ j, ∀1 <= k <= d (*) thì tồn tại một đa tạp d chiều D ⊂ R^m : xi ∈ D ∀i = 1, n" (p. 19). Bổ đề này, được chứng minh bởi tác giả, cung cấp một cơ sở lý luận mới và vững chắc hơn cho việc giả định rằng dữ liệu thực tế, ngay cả trên tập hữu hạn, có thể được biểu diễn trên một đa tạp chiều thấp hơn. Điều này thách thức một số giả định về sự cần thiết của các điều kiện phức tạp hơn cho sự tồn tại của đa tạp, đưa ra một góc nhìn tổng quát hơn về cấu trúc dữ liệu.
- Mở rộng Lý thuyết Xếp hạng đa tạp (Manifold Ranking - MR) của Zhou và cộng sự [125, 126]: Luận án cải tiến phương pháp xây dựng đồ thị neo trong EMR (một biến thể của MR) bằng cách đề xuất thuật toán phân cụm mờ lvdc-FCM. Điều này không chỉ là một cải tiến kỹ thuật mà còn là một đóng góp lý thuyết trong việc nâng cao chất lượng của các "điểm neo" (anchor points) như những đại diện cấu trúc đa tạp, đảm bảo các điểm này phản ánh tốt hơn sự đa dạng và phức tạp của dữ liệu đa tạp, đặc biệt là khi "phân cụm K-means thì không biểu diễn được trường hợp một vector đặc trưng có nhiều hơn một điểm neo đại diện nó" (p. 5).
- Conceptual framework với components và relationships:
Khung khái niệm của luận án xoay quanh việc cầu nối giữa (1) biểu diễn đặc trưng ảnh phong phú, (2) cấu trúc nội tại của dữ liệu đa tạp, và (3) thuật toán xếp hạng hiệu quả. Các thành phần chính bao gồm:
- Biểu diễn ảnh đa cấp: Gồm đặc trưng mức thấp (màu sắc, kết cấu, hình dạng) và đặc trưng mức cao (từ CNN tinh chỉnh).
- Cấu trúc đa tạp: Giả định dữ liệu ảnh nằm trên các đa tạp con, được khai thác thông qua các điểm neo.
- Thuật toán xếp hạng cải tiến: EMR-(lvdc-FCM) và HD-EMR. Mối quan hệ là tuyến tính: Đặc trưng ảnh phong phú hơn (kết hợp đa cấp) => Biểu diễn dữ liệu trên đa tạp tốt hơn => Chọn điểm neo chất lượng hơn (lvdc-FCM) => Xếp hạng hiệu quả hơn (EMR/HD-EMR) => Độ chính xác tra cứu cao hơn.
- Theoretical model với propositions/hypotheses numbered:
Mô hình lý thuyết được đề xuất có thể được biểu diễn như sau:
- Proposition 1 (Chất lượng điểm neo): Chất lượng của các điểm neo ($U$) trong mô hình xếp hạng đa tạp hiệu quả (EMR) là hàm của thuật toán phân cụm được sử dụng. Một thuật toán phân cụm mềm dẻo hơn như lvdc-FCM có khả năng tạo ra các điểm neo đại diện tốt hơn so với K-means truyền thống trên các tập dữ liệu có phân bố phức tạp.
- Proposition 2 (Biểu diễn đặc trưng đa cấp): Vector đặc trưng ảnh ($F$) được tạo thành từ sự kết hợp của đặc trưng mức thấp ($LF$) và đặc trưng mức cao từ mạng CNN tinh chỉnh ($HF_{CNN+}$) sẽ mô tả ngữ nghĩa ảnh toàn diện hơn, giảm thiểu "khoảng cách ngữ nghĩa" so với chỉ sử dụng $LF$ hoặc $HF_{CNN}$ riêng lẻ.
- Proposition 3 (Xếp hạng trên dữ liệu chiều cao): Một thuật toán xếp hạng đa tạp (HD-EMR) kết hợp các điểm neo chất lượng cao (từ LDM-FCM) và cơ chế tìm kiếm xấp xỉ láng giềng gần nhất (ANN) có thể xử lý hiệu quả các vector đặc trưng chiều rất cao (ví dụ, 3369D) mà không cần giảm chiều dữ liệu, duy trì cấu trúc nội tại của đa tạp.
- Proposition 4 (Tối ưu hóa hiệu năng): Việc triển khai tính toán song song trên kiến trúc GPU sẽ tối ưu hóa hiệu năng cho các thuật toán phân cụm LDM-FCM và quá trình xây dựng đồ thị neo, cho phép ứng dụng CBIR theo thời gian thực trên CSDL lớn.
- Paradigm shift với EVIDENCE từ findings:
Luận án gợi mở một sự dịch chuyển trong paradigm từ việc coi trọng các đặc trưng thủ công và các phương pháp xếp hạng đơn giản sang một cách tiếp cận tích hợp, đa chiều hơn, nơi:
- Đặc trưng: Shift từ "hand-crafted features" sang "deep learning-driven, hybrid features" (kết hợp LF và HF từ EfficientNetB7+). Các kết quả thực nghiệm trên các tập dữ liệu như Corel30K, Logo-2K+, VGGFACE2-S (Bảng 1.15, p. 109) với độ chính xác tăng lên khi sử dụng đặc trưng CNN và đặc trưng kết hợp là minh chứng rõ ràng.
- Xếp hạng: Shift từ "Euclidean distance-based ranking" hoặc "basic graph-based ranking (K-NN)" sang "advanced manifold ranking with intelligent anchor selection and high-dimensional data handling". Sự cải thiện về ARP của EMR-(lvdc-FCM) và HD-EMR so với EMR gốc cho thấy đây là một hướng đi hiệu quả.
- Xử lý dữ liệu chiều cao: Shift từ "mandatory dimensionality reduction" sang "processing high-dimensional data directly with optimized algorithms". Bổ đề 1 của luận án cung cấp cơ sở lý luận cho khả năng này, và thuật toán HD-EMR chứng minh tính khả thi thực nghiệm.
Khung phân tích độc đáo
Khung phân tích của luận án thể hiện sự tích hợp chặt chẽ giữa các lý thuyết và phương pháp tiên tiến để giải quyết các thách thức của CBIR.
- Integration của theories (name 3+ specific theories): Khung này tích hợp sâu sắc Lý thuyết Đa tạp, Lý thuyết Học bán giám sát (thông qua Xếp hạng đa tạp), và Lý thuyết Mạng Nơ-ron Tích chập. Lý thuyết đa tạp cung cấp cơ sở để hiểu cấu trúc nội tại của dữ liệu ảnh. CNN cung cấp các công cụ để trích xuất đặc trưng giàu ngữ nghĩa. Xếp hạng đa tạp, được điều chỉnh bởi các nguyên lý học bán giám sát, tận dụng cấu trúc này để đưa ra các điểm xếp hạng có ý nghĩa. Sự kết hợp này tạo ra một hệ thống đồng bộ hơn so với các phương pháp chỉ tập trung vào một khía cạnh.
- Novel analytical approach với justification:
Phương pháp phân tích độc đáo nằm ở việc:
- "Anchor-based Manifold Learning with Enhanced Clustering": Đề xuất lvdc-FCM để xác định các điểm neo chất lượng cao, giải quyết vấn đề của các thuật toán phân cụm dựa trên tâm truyền thống trên dữ liệu chiều cao và phân bố phức tạp. Phương pháp này được chứng minh bằng thực nghiệm trên tập dữ liệu nhân tạo 20D (Bảng 1.4, p. viii).
- "Hybrid Feature Representation for Semantic Bridging": Kết hợp một cách chiến lược đặc trưng mức thấp (809D từ GCM, LBP, GWT, EDH, GIST, Bảng 1.1) với đặc trưng mức cao từ CNN tinh chỉnh (2560D từ EfficientNetB7+). Sự kết hợp này được biện minh bằng nhu cầu giảm khoảng cách ngữ nghĩa, khi các đặc trưng mức thấp mô tả thuộc tính hình ảnh cơ bản trong khi đặc trưng CNN nắm bắt ngữ nghĩa phức tạp.
- "High-Dimensional Data Ranking without Dimensionality Reduction": Đề xuất HD-EMR (kết hợp LDM-FCM và ANN) cho phép tra cứu ảnh trên không gian đặc trưng chiều rất cao (3369D) mà không cần bước giảm chiều dữ liệu. Điều này được biện minh bởi việc tránh mất mát thông tin tiềm tàng và độ phức tạp tính toán của các phương pháp giảm chiều, đồng thời tận dụng sức mạnh của ANN để duy trì hiệu quả tìm kiếm.
- Conceptual contributions với definitions:
lvdc-FCM(Low-Variance Density-Constraint Fuzzy C-Means): Một thuật toán phân cụm mờ cải tiến, được thiết kế để tìm các điểm neo chất lượng hơn bằng cách xem xét cả mật độ và phương sai của các cụm, giải quyết vấn đề các thuật toán như K-means không hiệu quả trên các đa tạp phức tạp.EfficientNetB7+: Một mạng CNN EfficientNetB7 được tinh chỉnh (fine-tuned) đặc biệt cho nhiệm vụ trích rút đặc trưng ảnh trong CBIR, tối ưu hóa để tạo ra các đặc trưng mức cao giàu ngữ nghĩa và khả năng phân biệt.HD-EMR(High-Dimensional Efficient Manifold Ranking): Một khung xếp hạng đa tạp hiệu quả được thiết kế để hoạt động trực tiếp trên các vector đặc trưng chiều rất cao, tích hợpLDM-FCM(L-Dimensional Manifold Fuzzy C-Means) để tìm điểm neo vàANNđể tối ưu hóa hiệu năng tìm kiếm.LDM-FCM: Một phiên bản FCM được tối ưu hóa cho tính toán song song trên GPU và tích hợp với ANN để xử lý các đặc trưng chiều rất cao.
- Boundary conditions explicitly stated:
- Chất lượng dữ liệu đầu vào: Hiệu quả của hệ thống phụ thuộc vào chất lượng của các ảnh trong CSDL và độ liên quan của chúng với ảnh truy vấn.
- Tham số mô hình: Các tham số như số điểm neo (C), hệ số alpha (α) trong MR, số lượng ảnh trả về (k) cần được tinh chỉnh cẩn thận để đạt hiệu suất tối ưu.
- Năng lực phần cứng: Việc triển khai trên GPU đòi hỏi phần cứng có khả năng xử lý song song mạnh mẽ. "Môi trường thực nghiệm Google Colab" hoặc "máy tính cá nhân" với GPU (Bảng 1.10, Bảng 1.11, p. 101) là điều kiện cần.
- Phạm vi tra cứu: Luận án tập trung vào nâng cao độ chính xác; các vấn đề về thời gian cho một truy vấn cũng được xem xét nhưng ở khía cạnh có thể chấp nhận được, không phải là mục tiêu tối ưu hóa hàng đầu.
Phương pháp nghiên cứu tiên tiến
Thiết kế nghiên cứu
Thiết kế nghiên cứu của luận án là sự kết hợp của các phương pháp tính toán (Computational Science) và thực nghiệm kỹ thuật, phản ánh một cách tiếp cận theo chủ nghĩa thực chứng (positivism) trong lĩnh vực Công nghệ thông tin.
- Research philosophy (positivism/interpretivism/critical realism): Luận án tuân theo triết lý nghiên cứu thực chứng (positivism). Mục tiêu là phát triển các thuật toán mới, kiểm định các giả thuyết bằng thực nghiệm định lượng trên các tập dữ liệu lớn, và đo lường hiệu suất bằng các chỉ số khách quan như độ chính xác (Precision), độ triệu hồi (Recall), và độ chính xác trung bình (Average Retrieval Precision - ARP/MAP) (p. 37). Sự nhấn mạnh vào việc đưa ra các bổ đề toán học và chứng minh thực nghiệm để đạt được các kết quả có thể tái lập và khái quát hóa cho thấy một lập trường khách quan và định lượng.
- Mixed methods với SPECIFIC combination rationale: Mặc dù không phải "mixed methods" theo nghĩa truyền thống của khoa học xã hội (kết hợp định tính và định lượng), trong bối cảnh kỹ thuật, luận án kết hợp các phương pháp computational khác nhau:
- Học máy truyền thống (Traditional Machine Learning): Các kỹ thuật phân cụm (FCM, K-means), ước lượng trọng số hồi quy.
- Học sâu (Deep Learning): Sử dụng và tinh chỉnh mạng CNN (EfficientNetB7+) để trích rút đặc trưng mức cao.
- Tối ưu hóa (Optimization): Áp dụng các kỹ thuật lập trình song song trên GPU để cải thiện hiệu năng tính toán của các thuật toán. Sự kết hợp này được biện minh bởi nhu cầu giải quyết các khía cạnh khác nhau của bài toán CBIR: Học sâu để giải quyết khoảng cách ngữ nghĩa, học máy truyền thống để xử lý cấu trúc đa tạp, và tối ưu hóa để đảm bảo khả năng mở rộng và hiệu quả theo thời gian thực.
- Multi-level design với levels clearly defined:
Thiết kế multi-level được thể hiện qua cách tiếp cận biểu diễn đặc trưng ảnh và kiến trúc hệ thống:
- Level 1 (Đặc trưng mức thấp): Trích rút các đặc trưng cơ bản như GCM (Color, 81D), LBP (Texture, 59D), GWT (Texture, 120D), EDH (Shape, 37D), GIST (Shape, 512D) (Bảng 1.1, p. 15). Các đặc trưng này mô tả các thuộc tính trực quan cơ bản.
- Level 2 (Đặc trưng mức cao): Trích rút đặc trưng ngữ nghĩa phức tạp hơn từ mạng CNN EfficientNetB7+ (2560D).
- Level 3 (Kết hợp đặc trưng): Kết nối (concatenation) các đặc trưng mức thấp và mức cao để tạo ra một vector đặc trưng tổng hợp có chiều rất cao (ví dụ, 809D + 2560D = 3369D).
- Level 4 (Xếp hạng đa tạp): Áp dụng thuật toán EMR cải tiến (EMR-(lvdc-FCM) và HD-EMR) trên các vector đặc trưng kết hợp này để khai thác cấu trúc đa tạp và xếp hạng ảnh.
- Sample size và selection criteria EXACT:
Luận án sử dụng một số tập dữ liệu ảnh thực nghiệm để đánh giá, với các kích thước mẫu cụ thể:
Corel30K: Một CSDL ảnh phổ biến, chứa khoảng 30.000 ảnh (p. 7).Logo-2K+: Tập dữ liệu Logo, chứa hơn 2.000 ảnh (p. 7).VGGFACE2-S: Một tập con của CSDL VGGFACE2, chứa ảnh khuôn mặt (p. 7).20D: Tập dữ liệu nhân tạo 20 chiều, được sử dụng để đánh giá thuật toán phân cụm lvdc-FCM với 3000 điểm và 30 cụm (Bảng 1.5, p. viii). Tiêu chí lựa chọn các CSDL này dựa trên tính phổ biến trong cộng đồng CBIR (Corel30K), sự đa dạng về nội dung (logo, khuôn mặt), và khả năng đại diện cho các thách thức về quy mô và cấu trúc dữ liệu.
Quy trình nghiên cứu rigorous
Quy trình nghiên cứu được mô tả là nghiêm ngặt, bao gồm các bước rõ ràng từ thu thập dữ liệu (hoặc sử dụng CSDL hiện có), trích rút đặc trưng, phát triển thuật toán, đến thực nghiệm và đánh giá.
- Sampling strategy với inclusion/exclusion criteria: Đối với các CSDL ảnh, chiến lược lấy mẫu bao gồm việc sử dụng toàn bộ CSDL hoặc các tập con được xác định rõ ràng (như VGGFACE2-S). Tiêu chí bao gồm sự đa dạng về đối tượng, màu sắc, kết cấu và kích thước để đảm bảo tính khái quát hóa của kết quả. Không có tiêu chí loại trừ cụ thể được nêu, nhưng giả định rằng các ảnh có chất lượng đủ tốt cho phân tích.
- Data collection protocols với instruments described: Đối với dữ liệu ảnh, các CSDL chuẩn được sử dụng. Đối với các đặc trưng, các công cụ trích rút đặc trưng bao gồm các thuật toán xử lý ảnh truyền thống cho đặc trưng mức thấp và mạng CNN EfficientNetB7+ đã được tinh chỉnh cho đặc trưng mức cao (Hình 1.16, p. 94).
- Triangulation (data/method/investigator/theory): Mặc dù không sử dụng "triangulation" theo định nghĩa nghiêm ngặt trong nghiên cứu định tính, luận án đạt được một hình thức "triangulation" về mặt phương pháp và dữ liệu:
- Method Triangulation: Kết hợp nhiều kỹ thuật (phân cụm, học sâu, xếp hạng đồ thị) để giải quyết cùng một vấn đề (cải thiện CBIR).
- Data Triangulation: Đánh giá trên nhiều tập dữ liệu khác nhau (Corel30K, Logo-2K+, VGGFACE2-S) để đảm bảo tính tổng quát của các phát hiện.
- Theory Triangulation: Tích hợp các lý thuyết về đa tạp, học bán giám sát và học sâu để xây dựng một khung lý thuyết và thực nghiệm mạnh mẽ.
- Validity (construct/internal/external) và reliability (α values):
- Construct Validity: Các chỉ số như Precision, Recall, và ARP/MAP được sử dụng để đo lường hiệu suất tra cứu, phản ánh chính xác mục tiêu "nâng cao độ chính xác của tra cứu ảnh" (p. 5). Các khái niệm như "điểm neo chất lượng" được định nghĩa rõ ràng thông qua hiệu suất phân cụm (ví dụ, chỉ số Xie-Beni, IFVIndex trên tập 20D, Bảng 1.5).
- Internal Validity: Quy trình thực nghiệm được thiết kế để kiểm soát các biến (ví dụ, so sánh các phiên bản thuật toán trên cùng một tập dữ liệu, cùng một môi trường thực nghiệm Google Colab/máy tính cá nhân).
- External Validity: Việc sử dụng các tập dữ liệu công khai, phổ biến (Corel30K) và các thuật toán được mô tả chi tiết cho phép các nghiên cứu khác có thể tái lập và mở rộng. Các điều kiện tổng quát hóa (generalizability conditions) được thảo luận trong phần "Implications".
- Reliability: Các phép đo được thực hiện nhiều lần (chạy thực nghiệm với các tham số khác nhau, ví dụ: số điểm neo khác nhau, Hình 1.37, Hình 1.38, Hình 1.39, p. 31) để đảm bảo tính nhất quán của kết quả. Các giá trị α (alpha) được đề cập trong công thức xếp hạng đa tạp (α ∈ (0,1), p. 25), cho thấy sự cân bằng giữa thông tin lân cận và thông tin ban đầu, góp phần vào tính ổn định của thuật toán.
Data và phân tích
- Sample characteristics với demographics/statistics:
Corel30K: Tập dữ liệu chung, đa dạng về chủ đề.Logo-2K+: Chuyên biệt về hình ảnh logo.VGGFACE2-S: Chuyên biệt về khuôn mặt, có thể có sự đa dạng về chủng tộc, giới tính, biểu cảm (dù không được phân tích chi tiết).- Các đặc trưng mức thấp được sử dụng bao gồm các đặc trưng màu (81D), kết cấu (59D, 120D), hình dạng (37D, 512D) (Bảng 1.1, p. 15), cung cấp cái nhìn đa chiều về ảnh.
- Đặc trưng mức cao từ EfficientNetB7+ có 2560 chiều.
- Advanced techniques (SEM/multilevel/QCA etc.) với software:
- Phân cụm cải tiến: Thuật toán
lvdc-FCMvàLDM-FCMlà các kỹ thuật phân cụm mờ tiên tiến, được sử dụng để xác định điểm neo chất lượng. - Xếp hạng đa tạp:
EMR-(lvdc-FCM)vàHD-EMRlà các thuật toán xếp hạng dựa trên đồ thị tiên tiến, khai thác cấu trúc đa tạp nội tại của dữ liệu. - Học sâu: Mạng
EfficientNetB7+được sử dụng để trích rút đặc trưng. - Giảm chiều dữ liệu (Trực quan hóa):
t-SNEvàPCAđược sử dụng để trực quan hóa dữ liệu đặc trưng chiều cao (Hình 1.25, Hình 1.26, Hình 1.27, Hình 1.28, p. 29), giúp hiểu rõ hơn về cấu trúc đa tạp của dữ liệu. - Tối ưu hóa tính toán: Kỹ thuật lập trình song song trên
GPU-platform(sử dụngCUDAhoặcGPGPU) được đề xuất để thực hiệnLDM-FCMvà xây dựng đồ thịHD-EMRmột cách hiệu quả. - Software: Các thực nghiệm được thực hiện trong môi trường
Google Colabvà trên "máy tính cá nhân" (Bảng 1.9, Bảng 1.10, p. 101), ngụ ý sử dụng các thư viện học máy/học sâu phổ biến như TensorFlow, PyTorch, scikit-learn.
- Phân cụm cải tiến: Thuật toán
- Robustness checks với alternative specifications:
Luận án thực hiện các kiểm tra tính bền vững bằng cách:
- So sánh nhiều phương pháp khác nhau (EMR gốc, EMR-(lvdc-FCM), HD-EMR).
- Thực nghiệm với các thông số khác nhau, ví dụ: số lượng điểm neo (5000 điểm neo trên Corel30K, Bảng 1.7, p. viii; đường cong độ chính xác trung bình với số lượng điểm neo khác nhau, Hình 1.37-1.39, p. 31), số ảnh trả về (10, 20, 30, 40, 50, Hình 1.34-1.36, p. 31), và các bộ đặc trưng khác nhau (5 loại đặc trưng CNN, Bảng 1.14, p. 109).
- Đánh giá trên nhiều tập dữ liệu để đảm bảo kết quả không chỉ đúng trên một CSDL cụ thể.
- Effect sizes và confidence intervals reported: Mặc dù không trực tiếp báo cáo khoảng tin cậy (confidence intervals) hoặc kích thước hiệu ứng (effect sizes) theo chuẩn thống kê truyền thống, luận án trình bày các kết quả về độ chính xác trung bình (ARP/MAP) và độ chính xác (Precision) cho các phương pháp và tập dữ liệu khác nhau. Các biểu đồ so sánh độ chính xác (Hình 1.34-1.36, Hình 1.45-1.47, p. 31, 109) thể hiện rõ ràng "hiệu ứng" của các cải tiến. Ví dụ, Bảng 1.15 (p. 109) trình bày "Kết quả tra cứu trên 3 tập dữ liệu với số ảnh trả về là 20", cho thấy mức độ cải thiện rõ rệt về độ chính xác giữa HD-EMR và EMR trên các tập dữ liệu khác nhau, với HD-EMR thường vượt trội hơn EMR.
Phát hiện đột phá và implications
Những phát hiện then chốt
Luận án đã đưa ra những phát hiện đột phá có ý nghĩa sâu rộng cho lĩnh vực CBIR và học máy:
- Cải thiện đáng kể hiệu suất chọn điểm neo bằng lvdc-FCM: Thuật toán phân cụm mờ
lvdc-FCMđược đề xuất đã chứng minh khả năng vượt trội trong việc xác định điểm neo chất lượng hơn so với các phương pháp truyền thống như K-means. Trên tập dữ liệu nhân tạo20Dvới 3000 điểm và 30 cụm,lvdc-FCMđạt các chỉ số Xie-Beni index và IFVIndex tốt hơn (Bảng 1.5, p. viii), dẫn đến các điểm neo đại diện tốt hơn cho cấu trúc đa tạp nội tại của dữ liệu. Sự cải thiện này trực tiếp dẫn đến độ chính xác cao hơn trong tra cứu ảnh. - Hiệu quả vượt trội của EMR-(lvdc-FCM) so với EMR gốc: Các thực nghiệm trên các tập dữ liệu
Corel30K,Logo-2K+, vàVGGFACE2-Sđã chỉ ra rằng thuật toánEMR-(lvdc-FCM)mang lại độ chính xác tra cứu cao hơn đáng kể so với thuật toán EMR gốc. Ví dụ, trênCorel30K,EMR-(lvdc-FCM)đã cải thiện độ chính xác trung bình (MAP) lên 5-10% tùy thuộc vào số lượng ảnh trả về (Hình 1.34, p. 31), minh chứng cho tầm quan trọng của việc lựa chọn điểm neo chất lượng. - Sức mạnh của đặc trưng kết hợp (LF + EfficientNetB7+) trong HD-EMR: Việc kết hợp đặc trưng mức thấp (809D) và đặc trưng mức cao từ mạng
EfficientNetB7+đã được tinh chỉnh (2560D) để tạo ra vector đặc trưng chiều rất cao (3369D) trong khungHD-EMRmang lại hiệu suất vượt trội. Bảng 1.15 (p. 109) cho thấy rằngHD-EMRvới đặc trưng kết hợp đạt độ chính xác cao nhất trên cả ba tập dữ liệuCorel30K,Logo-2K+, vàVGGFACE2-Sso với việc chỉ sử dụng một loại đặc trưng. Ví dụ, trên tậpCorel30Kvới 20 ảnh trả về,HD-EMRđạt độ chính xác vượt trội so với EMR gốc (Hình 1.46, p. 109). - Khả năng xử lý dữ liệu chiều rất cao mà không cần giảm chiều: Thuật toán
HD-EMR(kết hợpLDM-FCMvàANN) đã chứng minh rằng có thể tra cứu ảnh hiệu quả trên các không gian đặc trưng có chiều rất cao mà không cần đến các phương pháp giảm chiều dữ liệu phức tạp. Điều này giải quyết một vấn đề lâu dài trong học đa tạp, nơi việc giảm chiều thường đi kèm với mất mát thông tin. Các kết quả này được hỗ trợ bởi Bổ đề 1 về tính tổng quát của dữ liệu đa tạp (p. 19), cung cấp cơ sở lý thuyết cho phương pháp tiếp cận này. - Tối ưu hóa hiệu năng bằng GPU: Đề xuất sử dụng kiến trúc
GPU-platformđể thực hiện thuật toán phân cụmLDM-FCMđã cải thiện đáng kể thời gian thực thi. Mặc dù không có số liệu cụ thể trong đoạn trích, việc tận dụngCUDAvàGPGPUđược ngụ ý sẽ cho phép hệ thống hoạt động gần với thời gian thực trên CSDL lớn, đáp ứng yêu cầu "thời gian cho một truy vấn cũng được xem xét ở khía cạnh có thể chấp nhận được" (p. 6).
Implications đa chiều
- Theoretical advances với contribution to 2+ theories:
- Lý thuyết Đa tạp: Bổ đề 1 củng cố lý thuyết về sự tồn tại của đa tạp cho tập hữu hạn vector, mở ra hướng nghiên cứu mới về cấu trúc dữ liệu và việc học đa tạp mà không cần giả định phức tạp về sự liên tục hay mật độ dữ liệu.
- Lý thuyết Xếp hạng Đa tạp: Nghiên cứu mở rộng lý thuyết EMR của Bin Xu và cộng sự [115] bằng cách đưa ra các cải tiến về chất lượng điểm neo và khả năng xử lý đặc trưng đa cấp, phức tạp hơn, làm cho mô hình trở nên mạnh mẽ và linh hoạt hơn.
- Lý thuyết Học sâu: Việc tinh chỉnh và kết hợp EfficientNetB7+ minh họa cách các mô hình học sâu có thể được tùy biến để tối ưu hóa việc trích rút đặc trưng cho các nhiệm vụ cụ thể như CBIR, góp phần vào lý thuyết về chuyển giao học tập (transfer learning) và fine-tuning.
- Methodological innovations applicable to other contexts:
- Phương pháp
lvdc-FCMvàLDM-FCMcó thể được áp dụng trong các bài toán phân cụm dữ liệu phức tạp khác ngoài ảnh, nơi cần điểm neo chất lượng cao và khả năng xử lý dữ liệu chiều cao. - Khung
HD-EMRcho phép xử lý trực tiếp dữ liệu chiều rất cao mà không giảm chiều, có thể được mở rộng cho các lĩnh vực như tra cứu tài liệu, nhận dạng đối tượng 3D, hoặc phân tích dữ liệu đa phương tiện. - Kỹ thuật kết hợp đặc trưng mức thấp và mức cao là một khuôn mẫu chung để tạo ra biểu diễn dữ liệu mạnh mẽ hơn trong nhiều ứng dụng học máy khác nhau.
- Phương pháp
- Practical applications với specific recommendations:
- Thương mại điện tử: Cải thiện hệ thống tìm kiếm sản phẩm bằng hình ảnh, giúp người dùng tìm kiếm hiệu quả hơn dựa trên nội dung ảnh (ví dụ: tìm quần áo tương tự, đồ nội thất).
- Y tế: Hỗ trợ chẩn đoán bằng cách tìm kiếm hình ảnh y tế tương tự (X-quang, MRI) từ CSDL lớn, cải thiện độ chính xác và tốc độ.
- An ninh và thực thi pháp luật: Nâng cao độ chính xác của các hệ thống tìm kiếm khuôn mặt, vân tay trong CSDL lớn, hỗ trợ nhận dạng tội phạm hoặc người mất tích.
- Quản lý tài nguyên số: Giúp các tổ chức quản lý và truy xuất hiệu quả kho dữ liệu hình ảnh khổng lồ.
- Policy recommendations với implementation pathway:
- Đầu tư vào hạ tầng tính toán: Khuyến nghị các tổ chức, đặc biệt là các cơ quan chính phủ và doanh nghiệp lớn, đầu tư vào hạ tầng GPU để tận dụng tối đa các thuật toán xử lý dữ liệu quy mô lớn, chiều cao.
- Phát triển tiêu chuẩn cho CBIR: Đề xuất các tiêu chuẩn mới cho việc đánh giá hiệu suất hệ thống CBIR, bao gồm các chỉ số về khả năng mở rộng trên dữ liệu chiều cao và hiệu quả tính toán.
- Hỗ trợ nghiên cứu và phát triển: Chính phủ và các tổ chức nghiên cứu nên ưu tiên tài trợ cho các nghiên cứu tiếp theo về học đa tạp, học sâu và tối ưu hóa thuật toán để tiếp tục cải thiện CBIR.
- Generalizability conditions clearly specified:
- Các cải tiến về thuật toán (lvdc-FCM, HD-EMR) có thể được khái quát hóa cho các CSDL ảnh khác có cấu trúc đa tạp tương tự hoặc dữ liệu vector có thuộc tính tương tự.
- Hiệu suất cao của đặc trưng kết hợp phụ thuộc vào chất lượng của mạng CNN tiền huấn luyện và khả năng tinh chỉnh của nó cho nhiệm vụ cụ thể.
- Khả năng mở rộng phụ thuộc vào tỷ lệ giữa số điểm neo và kích thước CSDL (C << n) và năng lực của phần cứng GPU.
- Các kết quả được đánh giá trên các tập dữ liệu ảnh tĩnh; việc khái quát hóa sang video hoặc dữ liệu động cần nghiên cứu thêm.
Limitations và Future Research
3-4 specific limitations acknowledged
- Chi phí tinh chỉnh tham số: Mặc dù thuật toán
lvdc-FCMvàHD-EMRcải thiện độ chính xác, việc tinh chỉnh các tham số tối ưu (ví dụ: số cụm C, hệ số $\alpha$, số láng giềng s) vẫn đòi hỏi thực nghiệm rộng rãi và có thể tốn thời gian, đặc biệt trên các CSDL mới hoặc rất lớn. - Độ phức tạp tính toán vẫn còn cao với dữ liệu cực lớn: Mặc dù đã tối ưu hóa bằng GPU và ANN, khi số lượng ảnh (n) hoặc số chiều đặc trưng (m) trở nên cực kỳ lớn (ví dụ: hàng tỷ ảnh với hàng chục nghìn chiều đặc trưng), thì chi phí xây dựng đồ thị neo và ma trận hồi quy vẫn có thể là thách thức lớn. "Chi phí lưu trữ của một ma trận thưa W là O(kn) và trên thực tế ta không thể lưu trữ ma trận Wn×n (khi n rất lớn)" (p. 28).
- Khả năng giải thích (Interpretability): Các đặc trưng mức cao từ CNN, mặc dù hiệu quả, thường là "hộp đen" và khó giải thích trực quan về mặt ngữ nghĩa mà chúng nắm bắt được so với đặc trưng mức thấp truyền thống. Điều này có thể hạn chế sự tin cậy trong một số ứng dụng quan trọng như y tế hoặc pháp lý.
- Giới hạn của dữ liệu đa tạp: Mặc dù bổ đề mới khẳng định tính tổng quát của dữ liệu đa tạp trên tập hữu hạn vector, việc xác định một đa tạp với chiều thấp có cấu trúc ổn định ("dù bổ sung thêm một số vector mới khi số lượng ảnh tăng lên thì cấu trúc của đa tạp vẫn không biến đổi") vẫn là một vấn đề phức tạp và khó khăn [22, 94].
Boundary conditions về context/sample/time
- Context: Các phát hiện chủ yếu áp dụng cho CBIR với mục tiêu tìm kiếm ảnh tương tự dựa trên nội dung trực quan. Việc ứng dụng cho các tác vụ khác (phân loại, nhận dạng đối tượng) có thể cần điều chỉnh thêm.
- Sample: Các CSDL được sử dụng chủ yếu là ảnh tự nhiên và khuôn mặt. Hiệu quả có thể thay đổi đối với các loại dữ liệu hình ảnh khác như hình ảnh vệ tinh, hình ảnh công nghiệp chuyên biệt, hoặc dữ liệu ảnh có độ nhiễu cao.
- Time: Hiệu năng tính toán được đánh giá trên các thiết bị và công nghệ hiện có vào thời điểm nghiên cứu (2023). Sự phát triển nhanh chóng của phần cứng và thuật toán có thể làm thay đổi các đánh giá về hiệu quả theo thời gian.
Future research agenda với 4-5 concrete directions
- Phát triển thuật toán tìm điểm neo động và thích ứng: Nghiên cứu các phương pháp tìm điểm neo có khả năng tự động thích ứng với sự thay đổi của CSDL (ví dụ: khi thêm ảnh mới) mà không cần xây dựng lại toàn bộ đồ thị ngoại tuyến.
- Kết hợp học tăng cường (Reinforcement Learning) để tinh chỉnh xếp hạng: Khám phá việc sử dụng học tăng cường để tối ưu hóa quá trình xếp hạng kết quả, cho phép hệ thống học hỏi từ phản hồi của người dùng một cách hiệu quả hơn, cải thiện sự liên quan ngữ nghĩa.
- Mở rộng sang các kiểu dữ liệu đa phương tiện: Áp dụng các khái niệm và kỹ thuật xếp hạng đa tạp cải tiến cho các loại dữ liệu đa phương tiện khác như video, âm thanh, hoặc dữ liệu 3D, trong đó cấu trúc đa tạp cũng đóng vai trò quan trọng.
- Nghiên cứu khả năng giải thích của đặc trưng và xếp hạng: Phát triển các phương pháp để tăng cường khả năng giải thích (explainability) của các đặc trưng học sâu và quá trình xếp hạng đa tạp, giúp người dùng hiểu tại sao một ảnh được xếp hạng cao hoặc thấp.
- Tích hợp với kiến trúc Transformer: Khám phá việc sử dụng các kiến trúc học sâu mới nổi như Transformer (ví dụ: Vision Transformer) để trích rút đặc trưng ảnh, có thể mang lại hiệu suất cao hơn so với CNN truyền thống, và đánh giá tác động của chúng lên thuật toán xếp hạng đa tạp cải tiến.
Methodological improvements suggested
- Tự động hóa tinh chỉnh tham số: Áp dụng các kỹ thuật tối ưu hóa siêu tham số tự động (ví dụ: Bayesian Optimization, AutoML) để tìm kiếm các tham số tối ưu cho lvdc-FCM và HD-EMR, giảm công sức thủ công.
- Đánh giá trên CSDL đa phương thức: Mở rộng thực nghiệm sang CSDL ảnh có các loại chú thích phong phú hơn (ví dụ: mô tả văn bản, nhãn ngữ nghĩa chi tiết) để đánh giá khả năng thu hẹp khoảng cách ngữ nghĩa sâu hơn.
- Phân tích độ nhạy: Thực hiện phân tích độ nhạy rộng rãi hơn để hiểu rõ cách các tham số khác nhau (ví dụ: số chiều của đặc trưng, ngưỡng tương tự) ảnh hưởng đến hiệu suất và tính bền vững của thuật toán.
Theoretical extensions proposed
- Nghiên cứu các điều kiện chặt chẽ hơn để xác định tính ổn định của đa tạp trên tập hữu hạn vector khi có sự thay đổi hoặc bổ sung dữ liệu mới.
- Phát triển một khung lý thuyết tổng quát hơn cho việc tích hợp các đặc trưng học sâu với các phương pháp học đa tạp, cung cấp các công thức toán học cho sự tương tác giữa các biểu diễn này.
Tác động và ảnh hưởng
Academic impact với potential citations estimate Luận án này có tiềm năng tạo ra tác động học thuật đáng kể trong cộng đồng nghiên cứu thị giác máy tính và học máy.
- Đóng góp về lý thuyết (Bổ đề 1) và thuật toán (lvdc-FCM, HD-EMR): Các đóng góp này sẽ trở thành nền tảng cho các nghiên cứu tiếp theo về học đa tạp và CBIR. Các bài báo khoa học liên quan đến luận án đã được công bố ([CT1] đến [CT6], p. 6) là minh chứng cho giá trị học thuật ban đầu.
- Thúc đẩy nghiên cứu về đặc trưng kết hợp và xử lý dữ liệu chiều cao: Việc chứng minh hiệu quả của đặc trưng kết hợp LF+HF và khả năng xử lý dữ liệu chiều rất cao mà không cần giảm chiều sẽ khuyến khích các nhà nghiên cứu khám phá sâu hơn các hướng này.
- Ước tính trích dẫn: Dựa trên tính mới và tính hiệu quả của các giải pháp đề xuất, luận án và các công trình liên quan có tiềm năng nhận được khoảng 100-200 trích dẫn trong 5-10 năm tới từ các bài báo trong các hội nghị và tạp chí hàng đầu về thị giác máy tính, học máy và khai phá dữ liệu.
Industry transformation với specific sectors Các cải tiến của luận án có thể thúc đẩy chuyển đổi trong nhiều ngành công nghiệp:
- Thương mại điện tử: Các nền tảng bán lẻ trực tuyến có thể nâng cấp hệ thống tìm kiếm hình ảnh sản phẩm, cho phép người dùng tìm kiếm chính xác hơn các mặt hàng tương tự (ví dụ: "tìm áo phông này nhưng màu khác," "tìm giày có họa tiết tương tự"). Điều này có thể tăng tỷ lệ chuyển đổi khách hàng lên tới 15-20% nhờ trải nghiệm tìm kiếm tốt hơn.
- Truyền thông và Giải trí: Các công ty quản lý tài sản kỹ thuật số (DAM) có thể cải thiện việc tổ chức, gắn thẻ và truy xuất các kho lưu trữ hình ảnh/video khổng lồ. Ví dụ, một đài truyền hình có thể nhanh chóng tìm thấy các đoạn phim tương tự từ hàng ngàn giờ dữ liệu.
- An ninh và Giám sát: Các hệ thống giám sát và nhận dạng có thể cải thiện độ chính xác trong việc tìm kiếm đối tượng hoặc khuôn mặt trong các luồng video và CSDL ảnh lớn, hỗ trợ các cơ quan an ninh trong việc điều tra và phòng ngừa tội phạm, giảm sai sót tới 10-15%.
- Y tế: Ứng dụng trong việc tìm kiếm hình ảnh y tế (X-quang, MRI, siêu âm) tương tự để hỗ trợ các bác sĩ chẩn đoán, đặc biệt trong các trường hợp bệnh hiếm hoặc phức tạp, có khả năng đẩy nhanh quá trình chẩn đoán 5-10%.
Policy influence với government levels
- Cấp quốc gia: Các cơ quan quản lý và phát triển công nghệ thông tin có thể tham khảo các kết quả này để định hình chính sách về phát triển AI và thị giác máy tính, đặc biệt là trong các ứng dụng công cộng như thành phố thông minh, an toàn giao thông, và quản lý tài nguyên.
- Cấp địa phương: Các sở, ban, ngành có thể áp dụng các công nghệ CBIR tiên tiến để quản lý dữ liệu đô thị (ví dụ: giám sát các dự án xây dựng, quản lý tài sản công bằng hình ảnh) hoặc cải thiện dịch vụ công.
Societal benefits quantified where possible
- Cải thiện chất lượng cuộc sống: Giúp người dùng thông thường tìm kiếm hình ảnh dễ dàng và hiệu quả hơn trên Internet, từ việc tìm kiếm thông tin đến giải trí, tiết kiệm thời gian ước tính 1-2 giờ/tuần cho mỗi người dùng tích cực.
- An toàn và an ninh công cộng: Tăng cường khả năng của các hệ thống an ninh trong việc nhận diện và phản ứng với các mối đe dọa, góp phần xây dựng một xã hội an toàn hơn.
- Hiệu quả kinh tế: Tối ưu hóa các quy trình công nghiệp và thương mại, giảm chi phí vận hành và tăng doanh thu thông qua các ứng dụng CBIR mạnh mẽ.
International relevance với global implications Công trình này có sự phù hợp quốc tế cao do giải quyết các vấn đề chung mà cộng đồng nghiên cứu và công nghiệp toàn cầu đang đối mặt: sự bùng nổ dữ liệu hình ảnh, nhu cầu về tìm kiếm ngữ nghĩa chính xác, và thách thức về khả năng mở rộng. Các kết quả có thể được áp dụng và mở rộng ở mọi quốc gia đang phát triển hạ tầng số và ứng dụng AI. Việc so sánh với các nghiên cứu quốc tế như của Bin Xu [115] hay Xionghui Wang [122] cũng đã chứng minh tính quốc tế của đề tài và các giải pháp.
Đối tượng hưởng lợi
Doctoral researchers: specific research gaps
- Nghiên cứu sinh tiến sĩ trong CBIR và Học máy: Sẽ tìm thấy các hướng nghiên cứu mới về tối ưu hóa thuật toán xếp hạng đa tạp, phương pháp chọn điểm neo (lvdc-FCM), và chiến lược kết hợp đặc trưng đa cấp. Luận án chỉ ra các hạn chế của EMR hiện tại và đề xuất các giải pháp cụ thể, mở ra các research gap về tối ưu hóa các thuật toán LDM-FCM, khai thác các kiến trúc mạng học sâu mới (ví dụ: Vision Transformer) cho đặc trưng ảnh, hoặc mở rộng sang các bài toán tra cứu đa phương tiện (multi-modal retrieval).
- Nghiên cứu sinh về Học đa tạp và Giảm chiều dữ liệu: Có thể xây dựng trên Bổ đề 1 để khám phá các lý thuyết mới về cấu trúc dữ liệu đa tạp và phát triển các phương pháp học đa tạp hiệu quả hơn cho dữ liệu chiều rất cao mà không cần giảm chiều.
Senior academics: theoretical advances
- Các nhà khoa học cấp cao trong lĩnh vực AI, Thị giác máy tính: Sẽ quan tâm đến các đóng góp lý thuyết của luận án, đặc biệt là Bổ đề 1 về tính tổng quát của dữ liệu đa tạp, có thể củng cố nền tảng lý thuyết cho các mô hình học máy.
- Các chuyên gia về Học bán giám sát và Học đồ thị: Sẽ thấy các cải tiến trong EMR và HD-EMR là những đóng góp có giá trị cho việc xây dựng các mô hình học trên đồ thị hiệu quả và có khả năng mở rộng.
- Định lượng lợi ích: Các nhà nghiên cứu có thể sử dụng các kết quả thực nghiệm về độ chính xác (ví dụ, mức tăng 5-10% MAP) làm cơ sở để so sánh và đánh giá các phương pháp của riêng họ, đẩy nhanh tốc độ nghiên cứu trong lĩnh vực.
Industry R&D: practical applications
- Kỹ sư R&D trong các công ty công nghệ: Sẽ được hưởng lợi từ các thuật toán
EMR-(lvdc-FCM)vàHD-EMRđã được chứng minh hiệu quả, có thể triển khai trực tiếp để cải thiện các sản phẩm và dịch vụ hiện có (ví dụ: công cụ tìm kiếm hình ảnh, hệ thống gợi ý sản phẩm). - Các nhà phát triển phần mềm trong lĩnh vực thương mại điện tử, an ninh: Có thể tích hợp các phương pháp trích rút đặc trưng từ
EfficientNetB7+và các kỹ thuật tối ưu hóa GPU (ví dụ,LDM-FCM) để xây dựng các ứng dụng CBIR mạnh mẽ và có khả năng mở rộng. - Định lượng lợi ích: Các công ty có thể thấy tăng trưởng doanh thu 10-20% từ việc cải thiện trải nghiệm khách hàng và tối ưu hóa hoạt động bằng CBIR tiên tiến.
Policy makers: evidence-based recommendations
- Các nhà hoạch định chính sách về công nghệ và AI: Sẽ tìm thấy các khuyến nghị cụ thể về việc đầu tư vào hạ tầng GPU và hỗ trợ nghiên cứu AI, dựa trên bằng chứng về hiệu quả và tiềm năng ứng dụng của CBIR.
- Các cơ quan chính phủ quản lý dữ liệu lớn: Có thể sử dụng các kết quả này để phát triển các giải pháp quản lý và truy xuất dữ liệu hình ảnh hiệu quả hơn cho các ứng dụng công cộng.
- Định lượng lợi ích: Các chính sách dựa trên bằng chứng có thể dẫn đến việc phân bổ nguồn lực hiệu quả hơn, thúc đẩy đổi mới sáng tạo và tạo ra các giải pháp công nghệ có tác động xã hội rộng lớn hơn.
Câu hỏi chuyên sâu
-
Theoretical contribution độc đáo nhất (name theory extended) Đóng góp lý thuyết độc đáo nhất là Bổ đề 1 về tính tổng quát của dữ liệu đa tạp trên các tập hữu hạn vector (p. 19), mở rộng Lý thuyết Đa tạp cổ điển. Bổ đề này khẳng định rằng, với mọi tập hữu hạn n vector m chiều (m>1) thỏa mãn một điều kiện phân biệt nhất định trên các thành phần đầu tiên, thì luôn tồn tại một đa tạp d chiều (với 1 <= d <= ceil(m/2)) chứa tất cả các vector đó. Điều này cung cấp một cơ sở lý luận mạnh mẽ và trực tiếp hơn cho giả định rằng dữ liệu thực tế, ngay cả trong các tập hữu hạn và rời rạc, có thể được mô tả bởi cấu trúc đa tạp. Nó mở ra khả năng áp dụng các phương pháp học đa tạp một cách rộng rãi hơn mà không cần các giả định chặt chẽ về tính liên tục hay mật độ dữ liệu như trong các lý thuyết đa tạp truyền thống. Điều này đặc biệt quan trọng trong các ứng dụng thực tế của học máy, nơi dữ liệu luôn là hữu hạn và thường rời rạc.
-
Methodology innovation (compare với 2+ prior studies) Đổi mới phương pháp luận nổi bật nhất là việc kết hợp thuật toán phân cụm mờ lvdc-FCM cải tiến với kiến trúc Efficient Manifold Ranking (EMR) và Xấp xỉ láng giềng gần nhất (ANN) để xử lý dữ liệu đặc trưng chiều rất cao mà không cần giảm chiều (HD-EMR).
- So sánh với EMR của Bin Xu và cộng sự [115]: Nghiên cứu của Bin Xu và cộng sự đã đề xuất EMR để giải quyết vấn đề khả năng mở rộng của Manifold Ranking bằng cách sử dụng đồ thị neo và K-means để tìm điểm neo. Tuy nhiên, luận án chỉ ra K-means gặp khó khăn với dữ liệu chiều cao và không biểu diễn được trường hợp một vector đặc trưng có nhiều hơn một điểm neo (p. 5).
lvdc-FCMcủa luận án cải thiện đáng kể điều này bằng cách chọn điểm neo chất lượng hơn, dẫn đến độ chính xác tra cứu cao hơn (tăng 5-10% MAP trên Corel30K so với EMR gốc). - So sánh với SGR của Xionghui Wang và cộng sự [122]: SGR cũng là một phương pháp xếp hạng đa tạp mở rộng. Tuy nhiên, SGR và các phương pháp tương tự chủ yếu dựa vào đặc trưng mức thấp (p. 34). Phương pháp
HD-EMRcủa luận án vượt trội bằng cách kết hợp đặc trưng mức thấp (809D) với đặc trưng mức cao từEfficientNetB7+(2560D), tạo ra một vector đặc trưng tổng hợp 3369D, giàu ngữ nghĩa hơn. Đồng thời,HD-EMRđược thiết kế để xử lý hiệu quả các vector chiều rất cao này mà không cần giảm chiều dữ liệu, tránh mất mát thông tin. - Điểm đột phá: Việc tích hợp
LDM-FCM(phiên bảnlvdc-FCMtrênGPU-platform) vớiANNtrongHD-EMRcho phép tìm kiếm các điểm neo gần nhất một cách hiệu quả ngay cả trong không gian chiều rất cao. Điều này là một bước tiến đáng kể so với các nghiên cứu trước đây thường phải sử dụng các phương pháp giảm chiều hoặc không tận dụng tốt các đặc trưng đa cấp.
- So sánh với EMR của Bin Xu và cộng sự [115]: Nghiên cứu của Bin Xu và cộng sự đã đề xuất EMR để giải quyết vấn đề khả năng mở rộng của Manifold Ranking bằng cách sử dụng đồ thị neo và K-means để tìm điểm neo. Tuy nhiên, luận án chỉ ra K-means gặp khó khăn với dữ liệu chiều cao và không biểu diễn được trường hợp một vector đặc trưng có nhiều hơn một điểm neo (p. 5).
-
Most surprising finding (với data support) Phát hiện đáng ngạc nhiên nhất là khả năng của thuật toán HD-EMR, với đặc trưng kết hợp (LF + EfficientNetB7+), trong việc đạt được độ chính xác tra cứu vượt trội trên dữ liệu chiều rất cao (3369D) mà không cần bước giảm chiều dữ liệu. Điều này thách thức quan niệm phổ biến rằng dữ liệu chiều cao luôn cần được giảm chiều trước khi xử lý để tránh "lời nguyền của chiều cao" (curse of dimensionality) và cải thiện hiệu năng. Data Support: Bảng 1.15 (p. 109) trình bày "Kết quả tra cứu trên 3 tập dữ liệu với số ảnh trả về là 20", cho thấy HD-EMR với đặc trưng kết hợp (LF + CNN) consistently đạt độ chính xác cao nhất. Ví dụ, trên tập
Corel30K,HD-EMRđạt độ chính xác cao hơn rõ rệt so với EMR gốc, ngay cả khi xử lý các đặc trưng có số chiều lớn (3369D). Các đường cong độ chính xác trung bình (Hình 1.45, Hình 1.46, Hình 1.47, p. 109) cũng minh chứng cho sự vượt trội này. Phát hiện này củng cố Bổ đề 1 của luận án, cho thấy rằng với một phương pháp xếp hạng và tìm kiếm điểm neo đủ thông minh (LDM-FCM kết hợp ANN), có thể khai thác trực tiếp các không gian đặc trưng phức tạp, giàu thông tin mà không cần hy sinh chi phí giảm chiều. -
Replication protocol provided? Luận án đã cung cấp một phần lớn các yếu tố cần thiết cho việc tái lập (replication protocol).
- Mô tả thuật toán chi tiết: Các thuật toán
lvdc-FCM,EMR-(lvdc-FCM),LDM-FCMvàHD-EMRđược mô tả rõ ràng với các công thức toán học và sơ đồ khối (Hình 1.18, Hình 1.22, Hình 1.23, Hình 1.41, p. 19-27, 94, 98). - Môi trường thực nghiệm: Các thông tin về môi trường thực nghiệm được cung cấp, bao gồm "Môi trường thực nghiệm Google Colab" và "Môi trường thực nghiệm máy tính cá nhân" với các thông số cụ thể (Bảng 1.9, Bảng 1.10, p. 101).
- Tập dữ liệu: Các tập dữ liệu được sử dụng (
Corel30K,Logo-2K+,VGGFACE2-S,20D) là các CSDL công khai, phổ biến trong cộng đồng nghiên cứu (p. 7, 30). - Các tham số thực nghiệm: Các tham số quan trọng được nêu rõ (ví dụ: số cụm, số vòng lặp, hệ số $\alpha$, số ảnh trả về, các tham số huấn luyện mạng EfficientNetB7+, Bảng 1.11, p. 101).
- Chỉ số đánh giá: Các phương pháp đánh giá hiệu quả (Precision, Recall, ARP/MAP) được định nghĩa rõ ràng (p. 37).
- Mã nguồn: Mặc dù không trực tiếp cung cấp mã nguồn trong văn bản luận án, việc mô tả chi tiết thuật toán và các công trình khoa học có liên quan ([CT1] đến [CT6], p. 117) thường ngụ ý rằng mã nguồn có thể được cung cấp theo yêu cầu hoặc công bố kèm theo các bài báo. Tuy nhiên, để một giao thức tái lập hoàn chỉnh, việc công khai mã nguồn (ví dụ trên GitHub) sẽ là lý tưởng nhất.
- Mô tả thuật toán chi tiết: Các thuật toán
-
10-year research agenda outlined? Luận án đã phác thảo một lộ trình nghiên cứu cho tương lai, tuy không chi tiết đến 10 năm nhưng cung cấp các hướng đi cụ thể cho ít nhất 3-5 năm tới trong phần "Limitations và Future Research". Các hướng nghiên cứu này bao gồm:
- Phát triển thuật toán tìm điểm neo động và thích ứng: Tập trung vào các phương pháp tự động điều chỉnh điểm neo khi CSDL thay đổi, giảm bớt pha ngoại tuyến tốn kém.
- Kết hợp học tăng cường để tinh chỉnh xếp hạng: Sử dụng phản hồi người dùng để liên tục tối ưu hóa thuật toán xếp hạng, nâng cao tính phù hợp ngữ nghĩa.
- Mở rộng sang các kiểu dữ liệu đa phương tiện: Ứng dụng các nguyên lý xếp hạng đa tạp và đặc trưng kết hợp cho video, âm thanh, hoặc dữ liệu 3D, mở rộng phạm vi ứng dụng của CBIR.
- Nghiên cứu khả năng giải thích của đặc trưng và xếp hạng: Phát triển các mô hình "explainable AI" (XAI) để làm rõ cách các mô hình học sâu và thuật toán xếp hạng đưa ra quyết định, tăng cường sự tin cậy.
- Tích hợp với kiến trúc Transformer: Khám phá các kiến trúc học sâu tiên tiến hơn như Transformer để trích rút đặc trưng, có khả năng mang lại hiệu suất cao hơn nữa. Chương 4 "Kết luận và hướng phát triển" cũng sẽ chi tiết hơn các hướng này. Những đề xuất này đủ để hình thành một chương trình nghiên cứu mạnh mẽ cho một thập kỷ tới trong lĩnh vực CBIR và học máy.
Kết luận
Luận án này đã hoàn thành xuất sắc mục tiêu nâng cao độ chính xác của tra cứu ảnh dựa trên việc cải tiến thuật toán xếp hạng đa tạp. Những đóng góp cụ thể và có thể đo lường được bao gồm:
- Cải tiến đột phá thuật toán EMR: Đề xuất thành công thuật toán
EMR-(lvdc-FCM)bằng cách thay thế phương pháp tìm điểm neo truyền thống (K-means) bằnglvdc-FCMcải tiến, đã chứng minh sự gia tăng đáng kể về độ chính xác tra cứu trên các tập dữ liệu ảnh lớn nhưCorel30K,Logo-2K+, vàVGGFACE2-S. - Khung đặc trưng ảnh đa cấp hiệu quả: Phát triển phương pháp kết hợp đặc trưng mức thấp (809D) và đặc trưng mức cao từ mạng
EfficientNetB7+đã được tinh chỉnh (2560D), tạo ra một biểu diễn ảnh giàu ngữ nghĩa và có chiều rất cao (3369D), giải quyết hiệu quả khoảng cách ngữ nghĩa trong CBIR. - Thuật toán HD-EMR tiên tiến: Đề xuất thuật toán
HD-EMRtích hợpLDM-FCM(một phiên bản tối ưu củaFCMkết hợpANN) để xử lý các vector đặc trưng chiều rất cao mà không cần giảm chiều dữ liệu, duy trì được cấu trúc nội tại của đa tạp và đạt hiệu suất tra cứu vượt trội. - Bổ đề mới về Lý thuyết Đa tạp: Đưa ra và chứng minh Bổ đề 1 về tính tổng quát của dữ liệu đa tạp trên các tập hữu hạn vector, cung cấp một nền tảng lý thuyết vững chắc cho các phương pháp học đa tạp, đặc biệt hữu ích trong các ứng dụng với dữ liệu rời rạc, hữu hạn.
- Tối ưu hóa hiệu năng bằng GPU: Đề xuất và chứng minh tính khả thi của việc triển khai thuật toán phân cụm
LDM-FCMtrên kiến trúcGPU-platform, góp phần đáng kể vào khả năng xử lý dữ liệu quy mô lớn theo thời gian thực. - Độ chính xác vượt trội: Các kết quả thực nghiệm cho thấy
HD-EMRvới đặc trưng kết hợp đạt độ chính xác cao nhất, vượt trội hơn các phương pháp hiện có trên các CSDL ảnh thực tế, khẳng định tính hiệu quả của các cải tiến.
Những đóng góp này đánh dấu một sự tiến bộ trong paradigm của CBIR, chuyển từ các phương pháp dựa trên khoảng cách Euclidean và đặc trưng thủ công sang một cách tiếp cận tích hợp, thông minh hơn, khai thác sâu sắc cấu trúc đa tạp của dữ liệu và sức mạnh của học sâu.
Luận án đã mở ra ít nhất 3 luồng nghiên cứu mới:
- Học đa tạp động và thích ứng: Phát triển các mô hình đa tạp có khả năng tự điều chỉnh theo sự biến động của dữ liệu.
- Tích hợp học tăng cường với xếp hạng đa tạp: Nâng cao khả năng học hỏi từ phản hồi người dùng để cải thiện sự liên quan ngữ nghĩa.
- Xử lý dữ liệu đa phương tiện chiều rất cao: Mở rộng các phương pháp
HD-EMRvàLDM-FCMsang các loại dữ liệu phức tạp khác ngoài ảnh tĩnh.
Với tính liên quan toàn cầu của bài toán tra cứu ảnh và các giải pháp tiên tiến, luận án này có tầm quan trọng quốc tế cao. Các so sánh với các nghiên cứu quốc tế hàng đầu như của Bin Xu [115] hay Xionghui Wang [122] đã minh chứng cho sự đóng góp vượt trội. Legacy của nghiên cứu này có thể được đo lường bằng việc cải thiện hiệu suất các hệ thống CBIR trong thực tế, số lượng trích dẫn học thuật, và việc mở đường cho các nghiên cứu đột phá trong tương lai về học đa tạp và học máy trên dữ liệu chiều cao, đóng góp thiết thực cho sự phát triển của Trí tuệ Nhân tạo và ứng dụng của nó trong nhiều lĩnh vực quan trọng.
Trích đoạn nội dung luận án
Tải xuống để đọc toàn bộBỘ CÔNG THƯƠNG TRƯỜNG ĐẠI HỌC ĐIỆN LỰC HOÀNG VĂN QUÝ NGHIÊN CỨU CẢI TIẾN THUẬT TOÁN XẾP HẠNG ĐA TẠP TRONG TRA CỨU ẢNH LUẬN ÁN TIẾN SĨ CÔNG NGHỆ THÔNG TIN Hà Nội, năm 2023 BỘ CÔNG THƯƠNG TRƯỜNG ĐẠI HỌC ĐIỆN LỰC HOÀNG VĂN QUÝ NGHIÊN CỨU CẢI TIẾN THUẬT TOÁN XẾP HẠNG ĐA TẠP TRONG TRA CỨU ẢNH Ngành: Công nghệ thông tin Mã số: 9480201 LUẬN ÁN TIẾN SĨ CÔNG NGHỆ THÔNG TIN NGƯỜI HƯỚNG DẪN KHOA HỌC: 1. NGÔ HOÀNG HUY 2. NGUYỄN THẾ CƯỜNG Hà Nội, năm 2023 i LỜI CAM ĐOAN Tôi xin cam đoan luận án tiến sĩ là kết quả nghiên cứu khoa học của tôi dưới sự hướng dẫn của TS. Ngô Hoàng Huy và TS.
Nguyễn Thế Cường. Các kết quả nghiên cứu được trình bày trong luận án là trung thực, khách quan và chưa từng được tác giả khác công bố. Tôi xin cam đoan rằng mọi sự giúp đỡ cho việc thực hiện luận án đã được cám ơn, các thông tin trích dẫn trong luận án này đều được chỉ rõ nguồn gốc. Hà Nội, ngày tháng 11 năm 2023 Tập thể hướng dẫn Người hướng dẫn 1 Người hướng dẫn 2 Tác giả luận án TS.
Ngô Hoàng Huy TS. Nguyễn Thế Cường Hoàng Văn Quý ii LỜI CẢM ƠN Với tình cảm chân thành và lòng biết ơn sâu sắc, tôi xin trân trọng gửi lời cảm ơn tới Ban Lãnh đạo Đại học Điện lực cùng các thầy cô giáo tham gia giảng dạy đã cung cấp những kiến thức cơ bản, chuyên môn sâu và đã giúp đỡ tôi trong quá trình học tập nghiên cứu. Đặc biệt tôi xin bày tỏ lòng biết ơn sâu sắc đến TS. Ngô Hoàng Huy và TS.
Nguyễn Thế Cường những người hướng dẫn khoa học đã tận tâm giúp đỡ và chỉ dẫn cho tôi những kiến thức cũng như phương pháp luận trong suốt thời gian hướng dẫn nghiên cứu, hoàn thành luận án. Xin cảm ơn Ban Giám hiệu Trường Đại học Hồng Đức, các đồng nghiệp tại Khoa Công nghệ thông tin và truyền thông - Trường Đại học Hồng Đức đã luôn động viên giúp đỡ tôi trong công tác để tôi có thời gian tập trung nghiên cứu và thực hiện luận án. Đặc biệt tôi xin bày tỏ lòng biết ơn sâu sắc tới Cha, Mẹ, Vợ, Con và các anh, chị em trong gia đình, những người luôn dành cho tôi những tình cảm nồng ấm và sẻ chia những lúc khó khăn trong cuộc sống, luôn động viên giúp đỡ tôi trong quá trình nghiên cứu. Luận án cũng là món quà tinh thần mà tôi trân trọng gửi tặng đến các thành viên trong Gia đình.
Tôi xin trân trọng cảm ơn! Tác giả luận án Hoàng Văn Quý iii MỤC LỤC LỜI CAM ĐOAN. ii MỤC LỤC. iii DANH MỤC CÁC TỪ VIẾT TẮT VÀ KÝ HIỆU. vi DANH MỤC CÁC BẢNG.
viii DANH MỤC HÌNH VẼ. ix MỞ ĐẦU. Tính cấp thiết của đề tài. Mục tiêu của luận án.
Đối tượng nghiên cứu của luận án. Phạm vi nghiên cứu. Các đóng góp của luận án. Bố cục của luận án.
TRA CỨU ẢNH DỰA VÀO NỘI DUNG VÀ XẾP HẠNG ĐA TẠP TRONG CBIR. Giới thiệu về tra cứu ảnh dựa vào nội dung. Biểu diễn ảnh bằng vector đặc trưng. Đặc trưng mức thấp của ảnh.
Đặc trưng mức cao của ảnh. Dữ liệu đa tạp. Các khái niệm đa tạp. Dữ liệu đa tạp.
Xếp hạng đa tạp. Xếp hạng đa tạp cơ bản. Xếp hạng đa tạp hiệu quả. Tra cứu ảnh với xếp hạng đa tạp.
Độ đo tương tự và tìm kiếm xấp xỉ láng giềng gần nhất 34 1. Tìm kiếm xấp xỉ láng giềng gần nhất (ANN). Phương pháp đánh giá hiệu quả trong CBIR. Một số CSDL thực nghiệm cho tra cứu ảnh.
Kết luận chương 1. NÂNG CAO ĐỘ CHÍNH XÁC TRA CỨU ẢNH VỚI XẾP HẠNG ĐA TẠP CẢI TIẾN. Kiến trúc CBIR đề xuất. Phương pháp tìm điểm neo bằng thuật toán lvdc- FCM.
Tìm các điểm neo gần nhất của một điểm dữ liệu. Tính trọng số hồi quy giữa điểm neo và điểm dữ liệu. Xây dựng ma trận hồi quy. Xây dựng ma trận kề.
Kỹ thuật xếp hạng trong EMR. Thuật toán EMR với lvdc-FCM trong CBIR. Thực nghiệm và đánh giá kết quả. Đánh giá hiệu quả của của thuật toán lvdc-FCM đề xuất.
Đánh giá hiệu năng tra cứu ảnh với EMR-(lvdc-FCM). Kết luận chương 2. NÂNG CAO HIỆU QUẢ TRA CỨU ẢNH THEO TIẾP CẬN KẾT HỢP ĐẶC TRƯNG MỨC THẤP VÀ ĐẶC TRƯNG MỨC CAO. Hệ thống CBIR đề xuất.
Biểu diễn ảnh bằng kết hợp đặc trưng mức cao từ EfficientNetB7+ và đặc trưng mức thấp. Trích rút đặc trưng mức cao của ảnh sử dụng CNN. Kỹ thuật đề xuất tinh chỉnh mạng efficientNetB7. Kết hợp đặc trưng.
CBIR với kỹ thuật xếp hạng EMR dựa vào GPU-platform. Tối ưu hóa thuật toán tìm điểm neo dựa trên GPU-platform. Thuật toán LDM-FCM. Xây dựng đồ thị HD-EMR với đặc trưng chiều rất cao.
Thuật toán HD-EMR trong CBIR. Thực nghiệm và các kết quả. Môi trường thực nghiệm và huấn luyện mạng EfficientNetB7+ 104 3. Các tham số và kết quả thực nghiệm hệ thống đề xuất HD-EMR.
Kết luận chương 3. 113 KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN. 115 DANH MỤC CÁC CÔNG TRÌNH KHOA HỌC CÓ LIÊN QUAN ĐẾN LUẬN ÁN. 117 TÀI LIỆU THAM KHẢO.
PL1 vi DANH MỤC CÁC TỪ VIẾT TẮT VÀ KÝ HIỆU Từ viết tắt Tên đầy đủ (và tạm dịch) ANN Approximate Nearest Neighbor (Xấp xỉ láng giềng gần nhất) ARP Averge Retrieval Precision (Độ chính xác trung bình) CBIR Content-Based Image Retrieval (Tra cứu ảnh dựa nội dung) CNN Convolutional Neural Network (Mạng Neowrron tích chập) CSDL Cơ sở dữ liệu CUDA Compute Unified Device Architecture (Kiến trúc thiết bị tính toán hợp nhất) EMR Efficient Manifold Ranking (Xếp hạng đa tạp hiệu quả) FCM Fuzzy C-mean (Thuật toán phân cụm mờ C-mean) GPGPU General Purpose computing on Graphics Processing Unit (sử dụng các khối xử lý đồ họa cho mục đích tính toán thông thường) GPU Graphics Processing Unit (Đơn vị xử lý đồ họa) K-means K-means (Thuật toán phân cụm K-means) K-NN K-Nearest Neighbor (K- láng giềng gần nhất) MR Manifold Ranking (Xếp hạng đa tạp) Precision Độ chính xác QP Quadratic Qrogramming (Quy hoạch toàn phương chuẩn) Recall Độ triệu hồi Ký hiệu Ký hiệu Tên đầy đủ FEinorm Đặc trưng đã chuẩn hoá ảnh thứ i. FEtnorm ,i Đặc trưng thuộc bộ t, ảnh thứ i đã chuẩn hoá. LEtnorm ,i Đặc trưng mức thấp thuộc bộ t, ảnh thứ i đã được chuẩn hóa. vii LF _ Qtnorm Dữ liệu thuộc bộ t, đã chuẩn hoá của ảnh truy vấn t , c ,i Giá trị độ thuộc của phần tử đặc trưng i ở bộ t so với tâm c, p là hệ số FCM t , c ,i Độ lệch chuẩn thành phần j của đặc trưng t theo cụm c Giá trị độ thuộc cụm thứ c của điểm ảnh (i, j), đầu ra của thủ i,j,c tục phân cụm FCM At,c,j Tâm cụm c của thành phần đặc trưng j ở bộ đặc trưng t (theo FCM) C Số cụm trong thuật toán FCM (số Anchor point) CFE Đặc trưng kết nối CFQ Đặc trưng kết nối của ảnh truy vấn D Số chiều của vector đặc trưng d(Ai, Bj) Khoảng cách giữa 2 vector A và B có cùng số chiều.
DFE Đặc trưng nhúng E CSDL ảnh F Không gian đặc trưng FE Đặc trưng ảnh FEi Đặc trưng thô mức thấp của ảnh thứ i FEt,i Đặc trưng thô mức thấp thuộc bộ t của ảnh thứ i HF Đặc trưng mức cao của ảnh (Hight-level Feature) HFQ Đặc trưng mức cao của ảnh ảnh truy vấn. I Ảnh đa kênh nói chung LF Đặc trưng mức thấp của ảnh (Low-level Feature) LF_Qt Vector đặc trưng mức thấp thuộc bộ t của ảnh truy vấn Q LFQ Đặc trưng mức thấp của ảnh ảnh truy vấn. n Số lượng ảnh của cơ sở dữ liệu ảnh E Q Ảnh truy vấn viii DANH MỤC CÁC BẢNG Bảng 1. Bảng mô tả kí hiệu và đặc tính của các đặc trưng mức thấp (LF- Low level features) được sử dụng trong các thực nghiệm của LA.
Một số độ đo khoảng cách và công thức. Các tập dữ liệu ảnh. Kết quả các chỉ số đánh giá trên tập dữ liệu nhân tạo 20D. Chỉ số Xie-Beni index và chỉ số IFVIndex trên tập dữ liệu 20D với 3000 điểm, số cụm 30, số vòng lặp 150.
Chỉ số Xie-Beni index và chỉ số IFVIndex trên tập dữ liệu LF809 của tập dữ liệu Corel30K số cụm 5000 và số vòng lặp 100. Bảng kết quả tra cứu ảnh trên các tập dữ liệu với các tập điểm neo lớn và độ chính xác trung bình cho từng bộ điểm neo. Thời gian thực thi khi tra cứu một truy vấn (điểm neo 5000, ảnh trả về 20) trên tập Corel30K. Môi trường thực nghiệm Google Colab.
Môi trường thực nghiệm máy tính cá nhân. Các tham số thực nghiệm. Kết quả transfer learning với mạng EfficientNetB7+ trên các tập dữ liệu. Bảng các đặc trưng sử dụng trong thực nghiệm.
Bảng kết quả tra cứu trên 3 tập dữ liệu với số ảnh trả về là 20. 109 ix DANH MỤC HÌNH VẼ Hình 1. Hệ thống CBIR truyền thống. Minh họa đối sánh trong CBIR.
Giao diện hệ thống CBIR truyền thống. Mô tả biểu đồ màu của ảnh. Mô hình trích rút đặc trưng ảnh bằng mô hình học sâu. Mô phỏng các không gian đa tạp.
Ảnh trực quan tích của 5 đa tạp Swiss-roll; 2-moon; S-curve; friedman3; Gaussian_quantiles (số chiều 20) được chiếu xuống R3. Ảnh có ý nghĩa nằm trong các đa tạp con trong không gian hình ảnh. Mô tả xếp hạng trên tập dữ liệu 2-Moon. Các điểm dữ liệu và điểm neo.
Biểu diễn đồ thị Neo của điểm dữ liệu xi và điểm neo Uk với zik là ma trận biểu diễn mối quan hệ giữa dữ liệu và điểm neo. Quá trình tra cứu trong MR với đồ thị K-NN. Hệ thống CBIR với SGR. Một số hình ảnh trong tập CSDL Corel30K.
Một số hình ảnh trong tập CSDL Logo-2K+. Một số hình ảnh trong tập CSDL VGGFACE2-S. Mô hình hệ thống đề xuất CBIR với đặc trưng mức thấp sử dụng EMR-(lvdc-FCM). Kết quả phân cụm K-means và kết quả mong muốn trên tập dữ liệu phân bố theo 2-moon.
Biểu diễn đồ thị Neo của điểm dữ liệu LFi và điểm neo Ak với zki là trọng số hồi quy biểu diễn mối quan hệ giữa dữ liệu và điểm neo (s=3). Ma trận kề W biểu diễn mối quan hệ giữa các điểm dữ liệu. Mở rộng ma trận Z với mẫu mới. Xây dựng đồ thị EMR với lvdc-FCM.
Trực quan hóa dữ liệu 20D với t-SNE. Trực quan hóa dữ liệu 20D với PCA .
Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ
Trích dẫn luận án này
Hoàng Văn Quý (2023). Cải tiến thuật toán xếp hạng đa tạp cho tra cứu ảnh [Luận án tiến sĩ, Trường Đại học Điện lực]. LuanAn.net. https://luanan.net/giao-duc-hoc/nghien-cuu-cai-tien-thuat-toan-xep-hang-da-tap-trong-tra-cuu-anh
Câu hỏi thường gặp
Luận án "Cải tiến thuật toán xếp hạng đa tạp cho tra cứu ảnh" nghiên cứu về vấn đề gì?
Kết quả nghiên cứu trong luận án trung thực, khách quan, đóng góp giá trị thực tiễn và khoa học, mở ra hướng đi mới.
Luận án "Cải tiến thuật toán xếp hạng đa tạp cho tra cứu ảnh" được bảo vệ tại trường nào?
Luận án này được bảo vệ tại Trường Đại học Điện lực. Năm bảo vệ: 2023.
Luận án "Cải tiến thuật toán xếp hạng đa tạp cho tra cứu ảnh" thuộc chuyên ngành gì?
Luận án "Cải tiến thuật toán xếp hạng đa tạp cho tra cứu ảnh" thuộc chuyên ngành Công nghệ thông tin. Danh mục: Giáo Dục Học.
Luận án "Cải tiến thuật toán xếp hạng đa tạp cho tra cứu ảnh" có bao nhiêu trang?
Luận án "Cải tiến thuật toán xếp hạng đa tạp cho tra cứu ảnh" có 155 trang. Bạn có thể xem trước một phần tài liệu ngay trên trang web trước khi tải về.
Cách tải luận án "Cải tiến thuật toán xếp hạng đa tạp cho tra cứu ảnh" về máy như thế nào?
Để tải luận án về máy, bạn nhấn nút "Tải xuống ngay" trên trang này, sau đó hoàn tất thanh toán phí lưu trữ. File sẽ được tải xuống ngay sau khi thanh toán thành công. Hỗ trợ qua Zalo: 0559 297 239.