Nghiên cứu nâng cao hiệu năng phân loại điều chế tự động ứng dụng mạng nơ-ron - Luận án Tiến sĩ

Bài toán phân loại điều chế tự động (AMC) đối mặt với vô số thách thức trong môi trường truyền sóng phức tạp. Tín hiệu thu được thường bị méo dạng nghiêm trọng do hiện tượng đa đường và dịch tần số sóng mang. Tỷ số tín hiệu trên nhiễu (SNR) biến động liên tục làm mờ nhạt các đặc trưng phân biệt giữa các dạng điều chế. Sự tương đồng giữa các lược đồ điều chế bậc cao cũng làm tăng tỷ lệ nhận diện sai. Trong tác chiến điện tử và quản lý phổ tần vô tuyến, yêu cầu xử lý thời gian thực đặt ra áp lực lớn về mặt tính toán. Thuật toán phân loại phải duy trì độ chính xác cao ngay cả khi tỷ số SNR xuống rất thấp. Việc thích ứng linh hoạt với điều kiện kênh truyền thay đổi nhanh là tiêu chuẩn hàng đầu của mọi hệ thống AMC tiên tiến.

Tín hiệu I/Q (In-phase and Quadrature) là dạng biểu diễn cơ bản nhất của tín hiệu vô tuyến tại băng tần cơ sở. Dữ liệu I/Q phản ánh đầy đủ thông tin về biên độ và pha tức thời của sóng mang. Từ chuỗi mẫu dữ liệu I/Q, hệ thống có thể tái tạo Biểu đồ chòm sao (Constellation diagram). Biểu đồ này trực quan hóa sự phân bố hình học của các điểm tín hiệu trên mặt phẳng phức. Nhiễu kênh và fading làm các điểm chòm sao bị xoay, tán xạ hoặc co cụm lệch vị trí chuẩn. Mạng nơ-ron có thể khai thác trực tiếp dạng sóng thô hoặc xử lý ảnh biểu đồ chòm sao như một bài toán thị giác máy tính. Sự kết hợp này mang lại khả năng phân biệt mạnh mẽ giữa các loại điều chế số như QAM, PSK và FSK.

Tín hiệu vô tuyến phi dừng đòi hỏi các phương pháp biểu diễn kết hợp cả hai miền thời gian và tần số. Biến đổi phổ thời gian (STFT / Wavelet) chuyển đổi chuỗi I/Q thành biểu đồ phổ động học Spectrogram. Phương pháp Biến đổi Fourier thời gian ngắn (STFT) chia tín hiệu thành nhiều khung nhỏ có cửa sổ trượt để phân tích tần số cục bộ. Phổ STFT làm nổi bật các biến đổi tần số tức thời và đặc tính nhảy tần của tín hiệu. Đây là nguồn đặc trưng đầu vào trực quan và giàu thông tin cho các mạng nơ-ron học sâu. Ngoài STFT, biến đổi Wavelet giúp bảo toàn độ phân giải tối ưu ở các dải tần khác nhau. Việc tận dụng miền thời gian - tần số nâng cao khả năng phân loại trong điều kiện kênh truyền fading chọn lọc tần số khắc nghiệt.

Các kỹ thuật AMC cổ điển chủ yếu dựa trên cây quyết định hoặc phương pháp kiểm định tỷ số hợp lý cực đại. Cách tiếp cận dựa trên đặc trưng thường khai thác Đặc trưng Cumulant bậc cao (Higher-Order Cumulants) và mô-men phổ thống kê. Phương pháp này đòi hỏi sự can thiệp sâu của chuyên gia để thiết kế tập đặc trưng phù hợp. Khi môi trường vô tuyến xuất hiện fading đa đường hoặc dịch tần ngẫu nhiên, các đặc trưng thống kê dễ bị suy giảm độ tin cậy. Độ phức tạp tính toán tăng nhanh khi số lượng bậc điều chế mở rộng. Hơn nữa, việc chọn ngưỡng phân loại tĩnh khiến hệ thống kém linh hoạt trước các biến động động của kênh truyền. Những hạn chế cố hữu này thúc đẩy nhu cầu ứng dụng các mạng nơ-ron nhân tạo tự học.

Mạng nơ-ron tích chập (CNN) chứng minh hiệu quả vượt trội trong việc trích xuất các đặc trưng không gian và mẫu hình cục bộ từ tín hiệu I/Q. Các bộ lọc tích chập 1D và 2D phát hiện chính xác cấu trúc biên độ và pha. Song song đó, Mạng nơ-ron hồi quy (RNN/LSTM/GRU) thể hiện ưu thế vượt bậc trong việc học các phụ thuộc chuỗi thời gian dài. Cơ chế cổng của LSTM và GRU loại bỏ hiệu quả hiện tượng suy giảm gradient trên các chuỗi mẫu tín hiệu dài. Sự kết hợp giữa CNN và RNN mang lại khả năng nắm bắt toàn diện cả đặc trưng không gian lẫn tương quan thời gian. Mô hình học sâu xử lý dữ liệu liên tục với tốc độ cao, đáp ứng tốt yêu cầu nghiêm ngặt của các thiết bị vô tuyến định nghĩa bằng phần mềm (SDR).

Mô hình Transformer cho xử lý tín hiệu đang nổi lên như một hướng nghiên cứu đột phá trong lĩnh vực viễn thông. Cơ chế tự chú ý (Self-Attention) cho phép mô hình tính toán tương quan giữa mọi vị trí trong chuỗi tín hiệu I/Q mà không bị giới hạn bởi bước thời gian tuần tự. Khả năng xử lý song song giúp Transformer rút ngắn thời gian huấn luyện trên các tập dữ liệu lớn. Mô hình nắm bắt chính xác các mối quan hệ ngữ cảnh toàn cục và đặc tính biến điệu phức tạp của sóng mang. Khả năng khái quát hóa cao giúp Transformer vượt trội trong việc phân loại các dạng điều chế số bậc cao. Việc kết hợp cơ chế chú ý vào kiến trúc nơ-ron truyền thống tạo ra các hệ thống AMC có độ chính xác và độ bền vững vượt trội.

Khối DFE (Diverse Feature Extraction Block) trong kiến trúc DFENet được xây dựng để khai thác đồng thời nhiều thang đo thời gian của dữ liệu đầu vào. Các bộ lọc tích chập với kích thước kernel khác nhau hoạt động song song trên chuỗi mẫu I/Q. Nhánh kernel nhỏ tập trung vào các biến đổi nhanh của pha tức thời. Nhánh kernel lớn bao quát xu hướng biên độ trên toàn bộ khung thời gian. Kết quả từ các nhánh được kết hợp và chuẩn hóa thông qua khối FEN (Feature Extraction and Normalization). Thiết kế này giúp hạn chế tối đa sự mất mát thông tin quan trọng. Mô hình DFENet nâng cao rõ rệt năng lực phân biệt các lớp điều chế có cấu trúc tương tự nhau như 16QAM và 64QAM trong môi trường nhiễu.

Kênh truyền vô tuyến luôn chứa đựng các tác nhân ngẫu nhiên như nhiễu AWGN và suy hao đường truyền. Khối FEN đóng vai trò then chốt trong việc chuẩn hóa dữ liệu đặc trưng giữa các tầng tích chập. Việc áp dụng Batch Normalization và Layer Normalization giúp duy trì phân phối dữ liệu ổn định suốt quá trình học. Tốc độ hội tụ của mô hình tăng lên đáng kể đồng thời triệt tiêu nguy cơ bùng nổ gradient. Kỹ thuật Dropout được lồng ghép hợp lý nhằm ngăn chặn hiện tượng quá khớp (overfitting) trên tập dữ liệu huấn luyện. Sự phối hợp đồng bộ giữa trích xuất và chuẩn hóa giúp mạng duy trì độ nhạy phân loại cao ngay cả khi tỷ số SNR giảm sâu xuống mức âm.

Tăng cường không gian đặc trưng bằng phép biến đổi toán học là hướng tiếp cận mang lại đột phá lớn. Sự kết hợp giữa biến đổi thời gian - tần số STFT và Biến đổi Radon giúp làm nổi bật các đường thẳng và hướng năng lượng trong ảnh phổ. Biến đổi Radon chiếu tích phân năng lượng của phổ STFT theo các góc định trước. Kết quả tạo ra một ma trận đặc trưng có khả năng chống chịu cao với hiện tượng dịch tần Doppler và nhiễu pha. Mạng nơ-ron tích chập học được các mẫu hình hình học rõ nét từ ảnh Radon thay vì phải vật lộn với các ảnh phổ nhiễu hạt. Độ chính xác nhận dạng trên các tín hiệu điều chế đa tần số được cải thiện rõ rệt so với xử lý chuỗi I/Q đơn thuần.

Mô hình AMC-CNN-BiLSTM là sự phối hợp chặt chẽ giữa mạng tích chập và mạng hồi quy hai chiều BiLSTM. Dữ liệu Tín hiệu I/Q (In-phase and Quadrature) thô trước tiên đi qua các tầng CNN để trích xuất các đặc trưng không gian cục bộ. Vector đặc trưng sau đó được chuyển giao trực tiếp cho tầng BiLSTM. Mạng BiLSTM quét chuỗi tín hiệu theo cả hai chiều quá khứ và tương lai. Quá trình này giúp mô hình nắm bắt trọn vẹn ngữ cảnh thời gian và sự chuyển tiếp trạng thái giữa các ký hiệu điều chế. Đầu ra của BiLSTM được đưa vào tầng phân loại Dense với hàm kích hoạt Softmax. Mô hình lai đạt độ chính xác cao hơn hẳn so với việc chỉ sử dụng CNN hoặc LSTM độc lập trên cùng một tập dữ liệu.

Kiến trúc CLDNN kết hợp ba thành phần: Mạng tích chập (CNN), Mạng hồi quy (LSTM) và Mạng nơ-ron truyền thẳng (DNN). Trong mô hình này, CNN đóng vai trò giảm phương sai phổ và trích xuất đặc trưng bậc thấp. LSTM tiếp nối để mô hình hóa mối tương quan động học theo thời gian của tín hiệu. Cuối cùng, các tầng DNN ánh xạ vector đặc trưng vào không gian phân loại tuyến tính có khả năng phân tách cao. Kiến trúc CLDNN mang lại sự cân bằng hoàn hảo giữa độ phức tạp tính toán và độ chính xác phân loại. Mô hình hoạt động ổn định trên nhiều chuẩn điều chế khác nhau từ đơn giản như BPSK, QPSK đến phức tạp như 256QAM. Đây là một trong những chuẩn mực thiết kế hàng đầu cho hệ thống nhận dạng tín hiệu hiện đại.

Phương pháp học kết hợp (Ensemble Learning) khai thác sức mạnh của nhiều mô hình nơ-ron thành phần nhằm đưa ra quyết định tối ưu. Hệ thống huấn luyện song song nhiều mạng CNN với các cấu hình khởi tạo và biểu diễn dữ liệu khác nhau như I/Q, phổ STFT và ảnh chòm sao. Cơ chế kết hợp quyết định (Decision Fusion) sử dụng kỹ thuật bỏ phiếu mềm (Soft Voting) hoặc trung bình có trọng số xác suất. Sự đa dạng của các mô hình thành phần giúp triệt tiêu các lỗi ngẫu nhiên và nâng cao độ ổn định tổng thể. Ngay cả khi một nhánh mô hình bị nhầm lẫn do fading cục bộ, các nhánh còn lại vẫn duy trì kết quả chính xác. Học kết hợp nâng trần hiệu năng phân loại lên mức vượt trội so với các mô hình đơn lẻ.

Nghiên cứu sử dụng hai tập dữ liệu chuẩn hóa phổ biến nhất hiện nay là RadioML 2018 và HisarMod2019. Tập dữ liệu RadioML chứa hàng triệu khung tín hiệu I/Q với 24 loại điều chế khác nhau trong dải SNR từ -20 dB đến +30 dB. Tập HisarMod cung cấp các kịch bản kênh truyền vô tuyến đa dạng bao gồm cả truyền dẫn tĩnh và di động tốc độ cao. Dữ liệu bao gồm các chuẩn điều chế tương tự như AM, FM và điều chế số như ASK, PSK, QAM, FSK. Việc thử nghiệm trên các tập dữ liệu quy mô lớn này giúp đánh giá chính xác năng lực tổng quát hóa của mô hình. Kết quả cho thấy các kiến trúc cải tiến đều đạt độ chính xác vượt trội trên toàn bộ các lớp điều chế được kiểm thử.

Hiệu năng nhận dạng tại vùng SNR thấp là thước đo quan trọng nhất phản ánh độ bền vững của thuật toán AMC. Khi SNR nằm trong khoảng từ -10 dB đến 0 dB, mức năng lượng nhiễu vượt trội so với tín hiệu hữu ích. Các mô hình truyền thống hoàn toàn mất khả năng phân loại trong điều kiện này. Ngược lại, mô hình lai ghép AMC-CNN-BiLSTM và kiến trúc DFENet vẫn duy trì được độ chính xác khả quan nhờ khả năng lọc nhiễu tự thân. Khi SNR đạt từ 4 dB trở lên, độ chính xác nhận dạng nhanh chóng tiệm cận mức tuyệt đối (trên 95%). Kết quả phân tích qua ma trận nhầm lẫn cho thấy các dạng điều chế bậc cao như 64QAM và 128QAM đã được phân biệt rõ ràng, giảm thiểu tối đa hiện tượng phân loại nhầm.

Kết quả nghiên cứu mở ra nhiều triển vọng ứng dụng thực tiễn trong các hệ thống thông tin vô tuyến tương lai (6G). Việc triển khai các mô hình nơ-ron lên phần cứng nhúng và chip FPGA đòi hỏi tiếp tục tối ưu hóa trọng số thông qua kỹ thuật lượng tử hóa (Quantization) và cắt tỉa (Pruning). Hệ thống có thể tích hợp trực tiếp vào các trạm vô tuyến nhận thức SDR để tự động thích ứng với giao thức truyền thông của máy phát. Mở rộng tập dữ liệu sang các dạng điều chế phi trực giao NOMA và đa sóng mang OFDM là hướng đi tiếp theo. Trí tuệ nhân tạo sẽ là chìa khóa định hình các mạng thông tin thông minh, tự chủ và an toàn trong kỷ nguyên số.