Phát hiện polyp bán giám sát từ đầu đến cuối - Luận án Thạc sĩ Khoa học Dữ liệu

Polyp đại tràng là tiền thân của ung thư đại trực tràng. Phát hiện và loại bỏ polyp kịp thời ngăn ngừa ung thư phát triển. Nội soi tiêu hóa là phương pháp chính để phát hiện polyp. Tuy nhiên, tỷ lệ bỏ sót polyp trong nội soi vẫn còn cao. Nguyên nhân do polyp nhỏ, màu sắc tương tự niêm mạc, và sự mệt mỏi của bác sĩ. Hệ thống hỗ trợ tự động giúp giảm tỷ lệ bỏ sót. Deep learning y khoa mang lại độ chính xác cao trong phân đoạn hình ảnh y tế.

Gán nhãn dữ liệu y tế đòi hỏi chuyên môn cao. Chỉ bác sĩ có kinh nghiệm mới thực hiện được. Quá trình này tốn thời gian và chi phí lớn. Mỗi hình ảnh nội soi cần được đánh dấu vị trí polyp chính xác. Việc thu thập hàng nghìn hình ảnh có nhãn gần như bất khả thi. Học bán giám sát giải quyết vấn đề này. Phương pháp chỉ cần một lượng nhỏ dữ liệu có nhãn. Phần còn lại sử dụng dữ liệu không nhãn để cải thiện mô hình.

Học bán giám sát kết hợp ưu điểm của học có giám sát và không giám sát. Phương pháp tận dụng lượng lớn dữ liệu không nhãn sẵn có. Chi phí thu thập dữ liệu giảm đáng kể. Hiệu suất mô hình cải thiện so với chỉ dùng dữ liệu có nhãn. Pseudo labeling là kỹ thuật phổ biến trong học bán giám sát. Mô hình giáo viên tạo nhãn tự động cho dữ liệu chưa gán nhãn. Mô hình học sinh học từ cả nhãn thực và nhãn giả. Transfer learning giúp tận dụng kiến thức từ mô hình đã huấn luyện.

CenterNet phát hiện đối tượng qua điểm trung tâm thay vì bounding box. Mô hình dự đoán heatmap xác suất cho mỗi vị trí. Giá trị cao trên heatmap chỉ ra vị trí có khả năng chứa polyp. Kích thước và offset được dự đoán cho mỗi điểm trung tâm. Phương pháp loại bỏ nhu cầu thiết kế anchor boxes phức tạp. Quá trình hậu xử lý đơn giản hơn nhiều so với phương pháp anchor-based. Tốc độ suy luận nhanh phù hợp với ứng dụng thời gian thực trong nội soi tiêu hóa.

Backbone network là thành phần quan trọng trong mạng nơ-ron tích chập. ResNet18 sử dụng residual blocks để huấn luyện mạng sâu. Deep Layer Aggregation (DLA) tổng hợp thông tin từ nhiều tầng. Hourglass network áp dụng trong bài toán phân đoạn hình ảnh y tế. Các kiến trúc này trích xuất đặc trưng đa cấp độ. Transfer learning từ ImageNet tăng tốc quá trình huấn luyện. Fine-tuning trên dữ liệu polyp cải thiện độ chính xác chuyên biệt.

Adaptive Spatial Fusion (ASF) module kết hợp đặc trưng thông minh. Module này tổng hợp thông tin từ các tầng khác nhau của mạng. Cơ chế attention giúp tập trung vào vùng quan trọng. Feature Pyramid Network tạo kim tự tháp đặc trưng đa tỷ lệ. Phương pháp phát hiện polyp ở nhiều kích thước khác nhau. Polyp nhỏ và lớn đều được nhận diện chính xác. ASF cải thiện đáng kể hiệu suất trên tập PolypsSet dataset.

Pseudo-box labels có nhiều vấn đề trong phát hiện polyp đại tràng. Phương pháp anchor-based gán tất cả pixel trong box là foreground. Điều này không chính xác vì polyp thường có hình dạng bất quy tắc. Nhiều pixel nền bị gán nhãn sai thành foreground. Gán nhãn yếu này gây nhiễu cho quá trình học của mô hình. Heatmap-based methods chỉ tập trung vào điểm trung tâm. Tuy nhiên, pseudo-boxes vẫn tạo nhiều positive samples không chính xác. DTP giải quyết vấn đề này bằng cách tạo heatmap liên tục.

DTP tạo heatmap dày đặc trực tiếp từ mô hình giáo viên. Mỗi pixel trên heatmap có giá trị từ 0 đến 1. Giá trị cao chỉ ra xác suất cao có polyp tại vị trí đó. Không cần chuyển đổi từ bounding boxes sang heatmap. Quá trình này loại bỏ bước hậu xử lý phức tạp. Mô hình học sinh sử dụng DTP để tính unsupervised loss. Loss function kết hợp supervised loss từ dữ liệu có nhãn. Gradient từ cả hai nguồn cập nhật trọng số mô hình. Phương pháp tận dụng tối đa thông tin từ dữ liệu không nhãn.

TEA điều chỉnh ngưỡng lọc pseudo labels theo epoch. Ngưỡng cố định không phù hợp với mọi giai đoạn huấn luyện. Đầu quá trình, mô hình yếu nên cần ngưỡng cao. Chỉ pseudo labels có độ tin cậy cao được chấp nhận. Cuối quá trình, mô hình mạnh hơn nên hạ ngưỡng. Nhiều pseudo labels hơn được sử dụng để học. TEA tự động điều chỉnh dựa trên hiệu suất validation. Phương pháp cải thiện đáng kể kết quả trên PolypsSet dataset với 1% dữ liệu có nhãn.

PolypsSet dataset bao gồm hình ảnh nội soi đại tràng chất lượng cao. Mỗi hình ảnh được chuyên gia nội soi gán nhãn vị trí polyp. Tập dữ liệu chia thành training, validation và test sets. Cấu hình single-class đơn giản hóa bài toán phát hiện. Cấu hình two-class phức tạp hơn với phân loại chi tiết. Dữ liệu phản ánh đa dạng về kích thước, hình dạng và vị trí polyp. Một số polyp nhỏ, khó phát hiện thách thức mô hình. Dataset phù hợp để đánh giá phương pháp học bán giám sát.

Mean Average Precision (mAP) là metric tiêu chuẩn trong object detection. mAP tính trung bình AP qua các class và ngưỡng IOU. Intersection Over Union đo độ chồng lấp giữa hai bounding boxes. IOU lớn hơn 0.5 thường được coi là detection đúng. Precision đo tỷ lệ detections đúng trong tổng số detections. Recall đo tỷ lệ polyp được phát hiện trong tổng số polyp thực tế. Precision-Recall curve trực quan hóa trade-off giữa hai metrics này. Area under curve (AUC) của PR curve chính là Average Precision.

Augmentation dữ liệu tăng tính đa dạng và giảm overfitting. Mosaic augmentation kết hợp bốn hình ảnh thành một. Kỹ thuật này tạo ngữ cảnh phong phú cho mô hình học. Các phép biến đổi khác bao gồm flip, rotate, scale. Color jittering thay đổi độ sáng, độ tương phản, màu sắc. Augmentation đặc biệt quan trọng khi dữ liệu có nhãn hạn chế. Phương pháp giúp mô hình tổng quát hóa tốt hơn trên dữ liệu mới. Kết hợp với học bán giám sát, augmentation nâng cao hiệu suất đáng kể.

Thí nghiệm fully supervised sử dụng 100% dữ liệu có nhãn. CenterNet++ đạt hiệu suất cạnh tranh với các detector hiện đại. Trên single-class PolypsSet, mô hình đạt mAP cao. Two-class dataset phức tạp hơn nhưng kết quả vẫn ấn tượng. So sánh với YOLO, FCOS, và các kiến trúc anchor-based khác. CenterNet++ đơn giản hơn nhờ không cần NMS. Tốc độ suy luận đạt real-time phù hợp nội soi tiêu hóa. Kết quả này thiết lập baseline mạnh cho thí nghiệm semi-supervised.

Thí nghiệm semi-supervised với 1%, 5%, 10% dữ liệu có nhãn. DTP cải thiện đáng kể so với supervised baseline. Với 10% labeled data, mô hình đạt gần hiệu suất fully supervised. Khoảng cách performance gap thu hẹp nhờ tận dụng unlabeled data. DTP vượt trội pseudo-box methods truyền thống. Không cần NMS trong tạo pseudo labels giảm nhiễu. Unsupervised loss từ DTP cung cấp gradient chất lượng. Mô hình học được representation tốt hơn từ dữ liệu không nhãn.

Ablation studies đánh giá đóng góp của từng component. ASF module cải thiện mAP đáng kể trên cả hai datasets. Mosaic augmentation tăng tính robust của mô hình. Kết hợp ASF và Mosaic mang lại hiệu quả tốt nhất. TEA vượt trội fixed threshold trong mọi tỷ lệ labeled data. Backbone DLA tốt hơn ResNet18 cho bài toán phát hiện polyp. Visualizations cho thấy mô hình tập trung đúng vùng polyp. Heatmap predictions rõ ràng và tập trung tại điểm trung tâm. Phương pháp ổn định qua nhiều lần chạy với seeds khác nhau.

Tích hợp mô hình vào thiết bị nội soi hiện đại. Video stream từ camera được xử lý frame-by-frame. Mỗi frame qua mô hình CenterNet++ để phát hiện polyp. Heatmap predictions được overlay lên hình ảnh gốc. Bác sĩ nhìn thấy cảnh báo trực quan khi có polyp. Hệ thống không thay thế mà hỗ trợ quyết định của bác sĩ. Giảm mệt mỏi và tăng độ tập trung trong ca nội soi dài. Đặc biệt hữu ích với bác sĩ ít kinh nghiệm hoặc đang đào tạo.

Bệnh viện thường có nhiều video nội soi chưa được gán nhãn. Phương pháp học bán giám sát tận dụng nguồn tài nguyên này. Chỉ cần chuyên gia gán nhãn một phần nhỏ dữ liệu. Phần còn lại tự động học qua pseudo labeling với DTP. Giảm đáng kể thời gian và chi phí chuẩn bị dữ liệu. Mô hình có thể cập nhật liên tục khi có thêm dữ liệu. Active learning chọn samples khó để chuyên gia gán nhãn. Chu trình cải thiện liên tục nâng cao hiệu suất theo thời gian.

Nghiên cứu tương lai có thể mở rộng sang phân loại chi tiết polyp. Phân biệt polyp lành tính và ác tính từ hình ảnh nội soi. Tích hợp thêm thông tin từ nhiều nguồn như lâm sàng, tiền sử. Cải thiện kiến trúc backbone với models mới như Vision Transformers. Áp dụng techniques như self-supervised learning và contrastive learning. Mở rộng sang các bệnh lý khác trong đường tiêu hóa. Phát triển models đa nhiệm phát hiện nhiều loại bất thường cùng lúc. Tối ưu hóa để chạy trên edge devices cho độ trễ thấp nhất.