Luận án tiến sĩ kỹ thuật: Nhận dạng đối tượng chuyển động sử dụng đại số hình học bảo giác và học máy - Đại học Đà Nẵng

BỘ GIÁO DỤC VÀ ĐÀO TẠO ĐẠI HỌC ĐÀ NẴNG NGUYỄN NĂNG HÙNG VÂN NGHIÊN CỨU BIỂU DIỄN VÀ NHẬN DẠNG ĐỐI TƯỢNG CHUYỂN ĐỘNG DỰA TRÊN ĐẠI SỐ HÌNH HỌC BẢO GIÁC VÀ HỌC MÁY LUẬN ÁN TIẾN SĨ KỸ THUẬT Đà Nẵng – 2021 BỘ GIÁO DỤC VÀ ĐÀO TẠO ĐẠI HỌC ĐÀ NẴNG NGUYỄN NĂNG HÙNG VÂN NGHIÊN CỨU BIỂU DIỄN VÀ NHẬN DẠNG ĐỐI TƯỢNG CHUYỂN ĐỘNG DỰA TRÊN ĐẠI SỐ HÌNH HỌC BẢO GIÁC VÀ HỌC MÁY Chuyên ngành : KHOA HỌC MÁY TÍNH Mã số 62 48 01 01 LUẬN ÁN TIẾN SĨ KỸ THUẬT Người hướng dẫn khoa học: 1. Phạm Minh Tuấn Đà Nẵng - 2021 LỜI CAM ĐOAN Tôi cam đoan các kết quả nghiên cứu được trình bày trong lu ận án là trung thực và không sao chép từ bất kỳ luận án nào khác. Một s ố k ết qu ả nghiên c ứu là thành quả của tập thể và đã được các đồng tác giả đồng ý cho sử dụng. M ọi trích dẫn đều có ghi nguồn gốc xuất xứ rõ ràng và đầy đủ.

Tác giả Nguyễn Năng Hùng Vân i MỤC LỤC LỜI CAM ĐOAN.ii DANH MỤC CÁC TỪ VIẾT TẮT.v DANH MỤC KÝ HIỆU TOÁN HỌC.vi DANH MỤC HÌNH VẼ.vii DANH MỤC BẢNG BIỂU. Mục tiêu nghiên cứu. Đối tượng và phạm vi nghiên cứu. Phương pháp nghiên cứu.

Bố cục của luận án. Đóng góp chính của luận án. PHƯƠNG PHÁP BIỂU DIỄN ĐỐI TƯỢNG CHUYỂN ĐỘNG TRONG HỌC MÁY .1 Phương pháp biểu diễn dữ liệu trong không gian.1 Phương pháp biểu diễn dữ liệu bằng không gian vectơ.2 Phương pháp biểu diễn dữ liệu bằng ma trận.3 Phương pháp biểu diễn dữ liệu bằng Ten-xơ.2 Phương pháp biểu diễn đối tượng chuyển động trong học máy.1 Biểu diễn dữ liệu dựa trên mô hình xác suất.2 Phương pháp giảm chiều dữ liệu.3 Phương pháp tăng chiều dữ liệu.3 Phương pháp biểu diễn đối tượng chuyển động sử dụng CGA.1 Đại số hình học.2 Đại số hình học bảo giác.4 Kết luận chương. ĐỀ XUẤT PHƯƠNG PHÁP BIỂU DIỄN ĐỐI TƯỢNG CHUYỂN ĐỘNG DỰA TRÊN ĐẠI SỐ HÌNH HỌC BẢO GIÁC .1 Đại số hình học hình học bảo giác.1 Đại số hình học.2 Đại số hình học Bảo giác.2 Đề xuất phương pháp phân cụm dữ liệu sử dụng CGA.1 Phân cụm dữ liệu sử dụng CGA dựa trên GMM.2 Lượng tử hóa vectơ dựa trên phân cụm dữ liệu sử dụng CGA.3 Phương pháp kết hợp HMM với phân cụm sử dụng CGA.3 Đề xuất phương pháp trích chọn đặc trưng sử dụng CGA.1 Phương pháp trích chọn đặc trưng sử dụng PCA.2 Phương pháp trích chọn đặc trưng sử dụng CGA.3 Phương pháp PCR kết hợp với CGA.4 Phương pháp trích chọn đặc trưng sử dụng CGA kết hợp RNN.4 Kết luận chương.

TRIỂN KHAI THỰC NGHIỆM VÀ ĐÁNH GIÁ KẾT QUẢ.1 Dữ liệu thực nghiệm.1 Đối tượng chuyển động trong không gian.2 Bộ dữ liệu chuyển động CMU.3 Dữ liệu thực nghiệm.2 Nhận dạng hành động dựa trên phân cụm CGA kết hợp với HMM71 3.1 Kết quả thực nghiệm.2 Đánh giá kết quả.3 Nhận dạng hành động dựa vào phương pháp PCR kết hợp với CGA 75 3.1 Các phương pháp thực nghiệm .2 Kết quả thực nghiệm.3 Đánh giá kết quả.4 Nhận dạng hành động dựa vào phương pháp CGA kết hợp với RNN79 3.1 Kết quả thực nghiệm .2 Đánh giá kết quả.5 Kết luận chương.82 KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN. Kết quả của luận án. Đánh giá kết quả. Hướng nghiên cứu tiếp theo.87 DANH MỤC CÁC CÔNG TRÌNH KHOA HỌC ĐÃ CÔNG BỐ.88 TÀI LIỆU THAM KHẢO.89 iv DANH MỤC CÁC TỪ VIẾT TẮT Thuật ngữ Tiếng Anh Tiếng Việt 2D Two Dimension Hai chiều 3D Three Dimension Ba chiều AI Artificial Intelligence Trí tuệ nhân tạo ANN Artificial Neural Network Mạng nơron nhân tạo CGA Conformal Ageometric Algebra Đại số hình học bảo giác CMU Carnegie Mellon University Đại học Carnegie Mellon CNN Convolutional Neural Network Mạng nơron tích chập DL Deep Learning Học sâu DTW Dynamic Time Warping So khớp thời gian động EM Expectation Maximization Thuật toán cực đại hóa kỳ vọng GA Geometric Algebra Đại số hình học GMM Gaussian Mixture Model Mô hình hỗn hợp Gauss HAR Human Activity Recognition Nhận dạnh hành động người HMM Hidden Markov Model Mô hình Markov ẩn KNN k-Nearest Neighbor 𝑘 láng giềng gần nhất LDA Linear Discriminant Analysis Phân tích biệt thức tuyến tính LSTM Long Short Term Memory Mạng nơron nhớ ngắn-dài hạn m-D m-Dimension m chiều PCA Principal Components Analysis Phân tích thành phần chính PCR Principal Component Regression Hồi quy thành phần chính RGB Red Green Blue Hệ màu Đỏ-Lục-Lam RNN Recurrent Neural Network Mạng nơron hồi quy SVM Support Vector Machine Máy vectơ hỗ trợ VQ Vector Quantization Lượng tử hóa vectơ v DANH MỤC KÝ HIỆU TOÁN HỌC Ký hiệu, từ viết Diễn giải tắt 𝐿 Hàm số Lagrange 𝐴 Ma trận phương sai trong CGA 𝐶 Ma trận phương sai trong PCA 𝐷 Ma trận khoảng cách 𝑁 Hàm mật độ xác suất Gauss X Tập dữ liệu huấn luyện ✔ Số phân cụm 𝘗 Xác suất chuyển từ trạng thái trong HMM $ Mật độ xác suất đầu ra trong HMM 𝑃i Tập các điểm trong không gian CGA 𝑆 Vectơ bảo giác trong không gín CGA 𝗌 Các trạng thái trong HMM w Vectơ trọng số của phép biến đổi tuyến tính trong PCA 𝜇 Vectơ trung bình trong tập dữ liệu ƒ𝖶 Hàm kích hoạt trong mô hình RNN vi DANH MỤC HÌNH VẼ Hình 1.1: Mô hình huấn luyện dữ liệu trong học máy.2: Mô hình hỗn hợp Gauss của M phân phối thành phần.3: Mô hình Markov ẩn 3 trạng thái.4: Biểu diễn dữ liệu trong không gian mới của PCA.5: Phương pháp phân tích biệt thức tuyến tính hai lớp.6: Xác định siêu phẳng với lề cực đại của SVM trong 2D.7: Minh họa quá trình biểu diễn tăng số chiều dữ liệu bằng phương pháp kernel SVM.8: Mạng nơron với các nút kết nối với nhau để mô phỏng mạng nơron trong não người .9: Kiến trúc của mạng nơron tích chập gồm hai thành phần.10: Phép tích chập trong mạng nơron tích chập.11: Tầng hợp nhất (max pool) với bộ lộc và bước nhảy (stride) bằng 2 trong mạng nơron tích chập.12: Mô hình khớp xương và mật độ phân bố dữ liệu khớp lhumerus 26 Hình 2.1: Biểu diễn 2 vectơ trong không gian Clifford 2D .2: Biểu diễn 3 vectơ trong không gian Clifford 3D.3: Phép ngoại tích trong đại số hình học.4: Phản xạ một vectơ qua một mặt phẳng trong không gian GA.5: Phép quay trong không gian GA.6: Mô hình nhận dạng hành động dựa trên phương pháp phân cụm vii sử dụng CGA kết hợp với HMM.7: Dữ liệu của đối tượng phân bố dạng hình cung.8: Phân cụm dữ liệu bằng cách sử dụng đại số hình học bảo giác.9: Mô hình nhận dạng hành động bằng phương pháp lượng tử hóa vectơ dựa trên phân cụm dữ liệu sử dụng CGA và thuật toán k-means.10: Mô hình nhận dạng hành động bằng hương pháp kết hợp HMM với phân cụm sử dụng CGA.11: Mô hình nhận dạng hành động sử dụng phương pháp trích chọn đặc trưng sử dụng CGA_PCA.12: So sánh phương pháp biểu diễn dữ liệu trong PCA và CGA.13: Minh họa phương pháp biểu diễn dữ liệu sử dụng PCR trong một lớp.14: Dữ liệu phân bố hai lớp dạng hỗn hợp của đối tượng chuyển động trong không gian.15: Mô hình đề xuất nhận dạng hành động dựa vào PCR kết hợp với CGA.16: Ma trận khoảng cách của đối tượng.17: Phương pháp trích chọn đặc trưng sử dụng CGA kết hợp với RNN để nhận dạng hành động con người.18: Mô hình mạng nơron hồi quy ‘many to one’.1: Mô hình khởi tạo đối tượng (marker) chuyển động trên cơ thể, nguồn từ [21].2: Mô hình hóa các khớp xương (marker) trên cơ thể.3: Kết quả nhận dạng sử dụng HMM dựa trên thuật toán phân cụm k- mean và phương pháp đề xuất CGA clustering.4: Mô hình khớp xương và mật độ phân bố dữ liệu khớp lhumerus .5: Kết quả của phương pháp đề xuất sử dụng PCR kết hợp với CGA để nhận dạng hành đồng con người.6: So sánh kết quả của các phương pháp đề xuất thực nghiệm.7: Kết quả nhận dạng hành động người khi kết hợp PCA và RNN.8: Kết quả nhận dạng hành động người khi kết hợp CGA và RNN.

81 x DANH MỤC BẢNG BIỂU Bảng 3.1: Bộ dữ liệu thực nghiệm.2: Bảng so sánh kết quả nhận dạng hành động khi sử dụng CGA clustering và thuật toán k-means trong VQ .3: Bảng so sánh kết quả khi sử dụng phương pháp tiền xử lý trên mô hình huấn luyện RNN.4: Bảng so sánh kết quả của hai phướng pháp đề xuất.5: Bảng tổng hợp kết quả của các phương pháp đề xuất.85 xi MỞ ĐẦU Học máy là một lĩnh vực của Trí tuệ nhân tạo liên quan đến việc phát triển các kỹ thuật cho phép máy tính có thể thực hiện được các bài toán phức tạp. Cốt lõi của học máy là phân tích các tập dữ liệu để tìm ra những quy luật và mô hình thích hợp nhất để vận dụng vào thực tiễn. Những nghiên cứu trong lĩnh v ực h ọc máy đang hướng đến tất cả lĩnh vực khác nhau trong cuộc sống như tin sinh học, y học, thị giác máy tính [14], xử lý ngôn ngữ tự nhiên [19] và Trí tuệ nhân tạo [54] để cung cấp cho người dùng các công cụ xử lý thông tin và hỗ trợ ra quyết định [62]. Ngày nay, khoa học và công nghệ phát triển đã tạo ra m ột kh ối l ượng d ữ liệu lớn từ các hệ thống giao dịch điện tử, hệ thống lưu trữ dữ liệu đa phương tiện và các ứng dụng của cảm biến trong internet vạn vật (internet of things).

Sự phát triển công nghệ đã thúc đẩy các nhà nghiên cứu chuyển từ thu, nhận dữ liệu ở mức thấp sang nghiên cứu tích hợp mức cao có khả năng phân tích, nhận dạng và dự báo các vấn đề có thể xảy ra trong tương lai [20]. Do đó, ngày càng nhiều bài toán thực tế cần được giải quyết, đặc biệt là nhận dạng đối tượng chuyển động trong không gian để hỗ trợ cho các hệ thống an ninh, ngôi nhà thông mình, bệnh vi ện thông minh, v. và cung cấp cho người dùng những công cụ ngày càng hoàn thiện hơn. Trong mô hình huấn luyện nhận dạng đối tượng chuyển động [45], d ữ li ệu đ ầu vào được biểu diễn dưới dạng không gian vectơ đặc trưng và s ử dụng các ph ương pháp biểu diễn dữ liệu để trích chọn đặc trưng cho các mô hình học máy [14] phân loại đối tượng.

Hiện nay, có rất nhiều nghiên cứu liên quan đến bi ểu di ễn đ ối tượng trong học máy được các nhà khoa học đề xuất và thử nghiệm.