Nghiên cứu phương pháp nhận dạng chữ viết tay hạn chế bằng mô hình svm support v
Nghiên cứu các phương pháp nhận dạng chữ viết tay hạn chế. Đề xuất mô hình mới, tối ưu thuật toán để nâng cao độ chính xác hệ thống.
Năm xuất bản
Số trang
77
Thời gian đọc
12 phút
Lượt xem
0
Lượt tải
0
Phí lưu trữ
40 Point
Tổng quan nhanh
- Chủ đề:
- 1. Nhu cầu nhận dạng chữ viết tay và thách thức dữ liệu
- Số trang:
- 77 trang
- Trường:
- Trường Đại học Công nghệ Thông tin và Truyền thông - Đại học Thái Nguyên
- Chuyên ngành:
- Khoa học máy tính
- Tác giả:
- Nguyễn Quang Huy
- Năm:
- 2014
Tóm tắt nội dung luận án
I. Nhu cầu nhận dạng chữ viết tay và thách thức dữ liệu
Nhận dạng chữ viết tay đóng vai trò then chốt. Nó là công cụ hiệu quả trong xử lý ảnh và phân tích tài liệu. Nhu cầu nhận dạng nội dung văn bản từ các ảnh rất lớn. Ứng dụng trải rộng từ số hóa tài liệu cũ đến xử lý biểu mẫu điền tay. Hệ thống nhận dạng giúp tự động hóa nhiều quy trình. Giảm thiểu sai sót do con người. Tăng tốc độ xử lý thông tin đáng kể. Công nghệ này có ảnh hưởng lớn đến nhiều ngành. Từ hành chính công, ngân hàng đến y tế. Nâng cao độ tin cậy của các phương pháp phân tích nhận dạng là mục tiêu chính.
1.1. Tầm quan trọng của nhận dạng chữ viết tay
Nhận dạng chữ viết tay đóng vai trò then chốt. Nó là công cụ hiệu quả trong xử lý ảnh và phân tích tài liệu. Nhu cầu nhận dạng nội dung văn bản từ các ảnh rất lớn. Ứng dụng trải rộng từ số hóa tài liệu cũ đến xử lý biểu mẫu điền tay. Hệ thống nhận dạng giúp tự động hóa nhiều quy trình. Giảm thiểu sai sót do con người. Tăng tốc độ xử lý thông tin đáng kể. Công nghệ này có ảnh hưởng lớn đến nhiều ngành. Từ hành chính công, ngân hàng đến y tế. Nâng cao độ tin cậy của các phương pháp phân tích nhận dạng là mục tiêu chính.
1.2. Thách thức từ dữ liệu chữ viết tay hạn chế
Quá trình nhận dạng chữ viết tay đối mặt nhiều thách thức. Đặc biệt là với tập dữ liệu chữ viết tay hạn chế. Chữ viết tay mỗi người khác nhau. Biến thể về kích thước, hình dáng, độ nghiêng rất lớn. Chất lượng ảnh thấp cũng là vấn đề. Hình ảnh có thể bị nhiễu, mờ, hoặc không rõ ràng. Việc thu thập tập dữ liệu lớn và đa dạng tốn kém. Dẫn đến tình trạng hạn chế dữ liệu. Các mô hình nhận dạng truyền thống gặp khó khăn. Chúng cần lượng lớn dữ liệu để học hỏi hiệu quả. Điều này ảnh hưởng trực tiếp đến đánh giá hiệu suất của hệ thống. Nghiên cứu tìm cách giải quyết những hạn chế này.
1.3. Mục tiêu nghiên cứu và ứng dụng thực tiễn
Nghiên cứu này tập trung phát triển phương pháp. Mục tiêu nhận dạng chữ viết tay hiệu quả. Giải quyết bài toán hạn chế dữ liệu. Sử dụng mô hình SVM (Support Vector Machines). Mục tiêu là đạt độ chính xác cao ngay cả với điều kiện khó khăn. Kết quả nghiên cứu có tiềm năng ứng dụng rộng rãi. Giúp số hóa các văn bản viết tay. Tăng cường khả năng tìm kiếm và xử lý thông tin. Mô hình nhận dạng này có thể tích hợp vào các hệ thống lớn. Hỗ trợ nhiều lĩnh vực trong thực tiễn. Nghiên cứu cũng mở ra hướng phát triển mới. Cải thiện công nghệ nhận dạng trong tương lai.
II. Ứng dụng mô hình SVM trong nhận dạng chữ viết tay
Support Vector Machines (SVM) là một thuật toán học có giám sát. Nó được dùng cho phân loại và hồi quy. Nguyên lý cốt lõi của SVM là tìm siêu phẳng. Siêu phẳng này có biên độ lớn nhất. Nó phân chia các lớp dữ liệu. Các điểm dữ liệu gần siêu phẳng nhất gọi là vector hỗ trợ. Chúng định nghĩa biên độ phân tách. SVM xử lý tốt dữ liệu không tuyến tính. Nó sử dụng các hàm nhân (kernel function) để ánh xạ dữ liệu. Dữ liệu được ánh xạ lên không gian chiều cao hơn. Tại đó, chúng có thể phân tách tuyến tính. Phương pháp này đặc biệt mạnh mẽ. Nó hữu ích khi đối phó với tập dữ liệu chữ viết tay hạn chế. Giúp tạo ra mô hình nhận dạng ổn định.
2.1. Nguyên lý hoạt động của Support Vector Machines
Support Vector Machines (SVM) là một thuật toán học có giám sát. Nó được dùng cho phân loại và hồi quy. Nguyên lý cốt lõi của SVM là tìm siêu phẳng. Siêu phẳng này có biên độ lớn nhất. Nó phân chia các lớp dữ liệu. Các điểm dữ liệu gần siêu phẳng nhất gọi là vector hỗ trợ. Chúng định nghĩa biên độ phân tách. SVM xử lý tốt dữ liệu không tuyến tính. Nó sử dụng các hàm nhân (kernel function) để ánh xạ dữ liệu. Dữ liệu được ánh xạ lên không gian chiều cao hơn. Tại đó, chúng có thể phân tách tuyến tính. Phương pháp này đặc biệt mạnh mẽ. Nó hữu ích khi đối phó với tập dữ liệu chữ viết tay hạn chế. Giúp tạo ra mô hình nhận dạng ổn định.
2.2. Lợi ích của SVM khi dữ liệu hạn chế
SVM thể hiện nhiều ưu điểm với dữ liệu hạn chế. Nó hiệu quả trong không gian chiều cao. Ngay cả khi số lượng mẫu huấn luyện nhỏ. Khả năng khái quát hóa tốt là một lợi thế. SVM tránh được hiện tượng quá khớp (overfitting). Điều này xảy ra khi mô hình học quá kỹ dữ liệu huấn luyện. Hiệu quả của SVM được chứng minh. Nó hoạt động tốt trên các tập dữ liệu nhỏ. Do đó, nó phù hợp cho nhận dạng chữ viết tay. Đặc biệt là khi không có đủ dữ liệu lớn. Khả năng xử lý chất lượng ảnh thấp cũng là điểm cộng. SVM cần ít tham số điều chỉnh hơn một số mô hình khác. Điều này đơn giản hóa quá trình huấn luyện.
2.3. Cấu trúc mô hình nhận dạng dựa trên SVM
Mô hình nhận dạng chữ viết tay dựa trên SVM gồm nhiều bước. Đầu tiên là tiền xử lý ảnh chữ viết tay. Các bước này bao gồm nhị phân hóa, làm mảnh, chuẩn hóa kích thước. Mục đích là loại bỏ nhiễu và chuẩn hóa dữ liệu. Tiếp theo, trích chọn đặc trưng từ ảnh đã xử lý. Các đặc trưng này biểu diễn thông tin quan trọng của chữ viết tay. SVM sau đó sử dụng các đặc trưng này để học. Nó xây dựng một mô hình phân loại. Mô hình này nhận diện từng ký tự hoặc từ. Cuối cùng, đánh giá hiệu suất mô hình. Kiểm tra khả năng nhận dạng trên dữ liệu mới. Cấu trúc này tối ưu hóa việc sử dụng SVM. Nó đảm bảo hiệu quả với hạn chế dữ liệu.
III. Tiền xử lý ảnh và trích chọn đặc trưng hiệu quả
Tiền xử lý ảnh là bước đầu tiên và quan trọng. Mục tiêu là làm sạch và chuẩn hóa ảnh chữ viết tay. Các bước bao gồm nhị phân hóa ảnh. Chuyển đổi ảnh màu hoặc ảnh xám thành ảnh đen trắng. Điều này giúp tách biệt rõ ràng chữ và nền. Sau đó là loại bỏ nhiễu. Nhiễu đốm, nhiễu vệt thường xuất hiện trong ảnh quét. Kỹ thuật làm trơn biên cũng được áp dụng. Giúp làm mịn các đường nét chữ. Bước làm mảnh chữ giảm độ dày của nét. Biến chúng thành các đường đơn pixel. Chuẩn hóa kích thước ảnh cũng rất cần thiết. Đảm bảo tất cả các ký tự có cùng kích thước. Hiệu chỉnh độ nghiêng của văn bản nếu cần. Các bước này cải thiện chất lượng ảnh thấp. Chuẩn bị dữ liệu tốt nhất cho giai đoạn tiếp theo.
3.1. Các bước tiền xử lý ảnh chữ viết tay
Tiền xử lý ảnh là bước đầu tiên và quan trọng. Mục tiêu là làm sạch và chuẩn hóa ảnh chữ viết tay. Các bước bao gồm nhị phân hóa ảnh. Chuyển đổi ảnh màu hoặc ảnh xám thành ảnh đen trắng. Điều này giúp tách biệt rõ ràng chữ và nền. Sau đó là loại bỏ nhiễu. Nhiễu đốm, nhiễu vệt thường xuất hiện trong ảnh quét. Kỹ thuật làm trơn biên cũng được áp dụng. Giúp làm mịn các đường nét chữ. Bước làm mảnh chữ giảm độ dày của nét. Biến chúng thành các đường đơn pixel. Chuẩn hóa kích thước ảnh cũng rất cần thiết. Đảm bảo tất cả các ký tự có cùng kích thước. Hiệu chỉnh độ nghiêng của văn bản nếu cần. Các bước này cải thiện chất lượng ảnh thấp. Chuẩn bị dữ liệu tốt nhất cho giai đoạn tiếp theo.
3.2. Phương pháp trích chọn đặc trưng cho SVM
Trích chọn đặc trưng là giai đoạn then chốt. Nó chuyển đổi dữ liệu ảnh thành dạng số. Dạng này phù hợp cho mô hình SVM. Các phương pháp phổ biến bao gồm trích chọn đặc trưng trọng số vùng. Chia ảnh thành nhiều vùng nhỏ. Tính toán các đặc trưng như mật độ điểm ảnh, số đường giao nhau. Đặc trưng hình thái học cũng được sử dụng. Mô tả hình dạng, cấu trúc của ký tự. Ví dụ, phân bố gradient hoặc đường viền. Các đặc trưng này phải đủ mạnh. Chúng phải phân biệt được các ký tự khác nhau. Đồng thời, chúng cần bất biến với biến đổi nhỏ. Giúp mô hình nhận dạng chữ viết tay hoạt động ổn định. Chất lượng của đặc trưng ảnh hưởng trực tiếp đến đánh giá hiệu suất.
3.3. Tối ưu hóa đặc trưng để cải thiện độ chính xác
Việc tối ưu hóa đặc trưng rất quan trọng. Nó giúp cải thiện đáng kể độ chính xác của mô hình nhận dạng. Chọn lựa bộ đặc trưng phù hợp là cần thiết. Loại bỏ các đặc trưng dư thừa hoặc nhiễu. Có thể sử dụng các kỹ thuật giảm chiều dữ liệu. Ví dụ như Phân tích Thành phần Chính (PCA). Hoặc Lựa chọn Đặc trưng (Feature Selection). Điều này giảm chi phí tính toán. Đồng thời tăng cường khả năng khái quát hóa. Tập dữ liệu chữ viết tay hạn chế càng cần tối ưu. Tránh hiện tượng quá khớp. Đặc trưng được tối ưu hóa. Giúp SVM xây dựng siêu phẳng phân loại tốt hơn. Đảm bảo mô hình nhận dạng đạt hiệu suất cao nhất.
IV. Vượt qua hạn chế dữ liệu và chất lượng ảnh thấp
Đối phó với tập dữ liệu chữ viết tay hạn chế là thử thách lớn. Một giải pháp là sử dụng kỹ thuật tăng cường dữ liệu. Tức là tạo ra các biến thể mới từ dữ liệu hiện có. Ví dụ, xoay, dịch chuyển, phóng to, thu nhỏ ảnh. Hoặc thêm nhiễu nhân tạo. Điều này giúp mô hình nhận dạng SVM học được nhiều mẫu hơn. Đồng thời, giữ cho dữ liệu thực tế không bị thay đổi. Một hướng khác là học chuyển giao (transfer learning). Tức là sử dụng mô hình đã huấn luyện trên tập dữ liệu lớn. Sau đó tinh chỉnh nó với dữ liệu hạn chế. Điều này tận dụng kiến thức từ miền dữ liệu khác. Giúp mô hình SVM hoạt động hiệu quả hơn.
4.1. Giải pháp cho tập dữ liệu chữ viết tay hạn chế
Đối phó với tập dữ liệu chữ viết tay hạn chế là thử thách lớn. Một giải pháp là sử dụng kỹ thuật tăng cường dữ liệu. Tức là tạo ra các biến thể mới từ dữ liệu hiện có. Ví dụ, xoay, dịch chuyển, phóng to, thu nhỏ ảnh. Hoặc thêm nhiễu nhân tạo. Điều này giúp mô hình nhận dạng SVM học được nhiều mẫu hơn. Đồng thời, giữ cho dữ liệu thực tế không bị thay đổi. Một hướng khác là học chuyển giao (transfer learning). Tức là sử dụng mô hình đã huấn luyện trên tập dữ liệu lớn. Sau đó tinh chỉnh nó với dữ liệu hạn chế. Điều này tận dụng kiến thức từ miền dữ liệu khác. Giúp mô hình SVM hoạt động hiệu quả hơn.
4.2. Xử lý ảnh chữ viết tay chất lượng thấp
Ảnh chữ viết tay chất lượng thấp gây nhiều khó khăn. Chúng bao gồm ảnh mờ, nhiễu, độ phân giải thấp. Các kỹ thuật tiền xử lý ảnh trở nên cực kỳ quan trọng. Khử nhiễu mạnh mẽ là cần thiết. Áp dụng các bộ lọc như Gaussian, Median. Nâng cao độ tương phản hình ảnh. Giúp làm nổi bật các nét chữ. Phục hồi hình ảnh cũng là một lựa chọn. Cố gắng khôi phục thông tin bị mất. Các thuật toán này giúp cải thiện đáng kể. Giúp các đặc trưng được trích chọn chính xác hơn. Ảnh hưởng tích cực đến khả năng của mô hình nhận dạng. Đảm bảo SVM có thể xử lý tốt dữ liệu đầu vào.
4.3. Nâng cao khả năng thích ứng của mô hình nhận dạng
Mô hình nhận dạng chữ viết tay cần có khả năng thích ứng cao. Đặc biệt là với các biến thể chữ viết tay. Huấn luyện mô hình SVM trên tập dữ liệu đa dạng là cần thiết. Ngay cả khi dữ liệu hạn chế. Các phương pháp học bán giám sát hoặc không giám sát. Chúng có thể giúp tận dụng dữ liệu chưa được gán nhãn. Từ đó mở rộng khả năng học của mô hình. Điều chỉnh các tham số của SVM (như C, gamma trong kernel). Việc này tối ưu hóa hiệu suất trên tập dữ liệu cụ thể. Khả năng thích ứng cao đảm bảo mô hình hoạt động hiệu quả. Giúp mô hình xử lý tốt các trường hợp chữ viết tay khác nhau. Mặc dù gặp phải hạn chế dữ liệu ban đầu.
V. Đánh giá hiệu suất và cải tiến mô hình nhận dạng
Đánh giá hiệu suất là bước quan trọng. Nó xác định độ chính xác của mô hình nhận dạng chữ viết tay. Các tiêu chí phổ biến bao gồm độ chính xác (accuracy). Tức là tỷ lệ các mẫu được phân loại đúng. Độ chính xác cũng có thể được đo bằng F1-score. F1-score cân bằng giữa độ đúng (precision) và độ thu hồi (recall). Ma trận nhầm lẫn (confusion matrix) cung cấp cái nhìn chi tiết. Nó cho biết lỗi loại nào đang xảy ra. Tỷ lệ lỗi nhận dạng (error rate) cũng là chỉ số quan trọng. Để đánh giá mô hình nhận dạng SVM. Các tiêu chí này giúp so sánh hiệu quả. So sánh giữa các phương pháp khác nhau. Hoặc giữa các cấu hình mô hình khác nhau.
5.1. Tiêu chí đánh giá hiệu suất mô hình nhận dạng
Đánh giá hiệu suất là bước quan trọng. Nó xác định độ chính xác của mô hình nhận dạng chữ viết tay. Các tiêu chí phổ biến bao gồm độ chính xác (accuracy). Tức là tỷ lệ các mẫu được phân loại đúng. Độ chính xác cũng có thể được đo bằng F1-score. F1-score cân bằng giữa độ đúng (precision) và độ thu hồi (recall). Ma trận nhầm lẫn (confusion matrix) cung cấp cái nhìn chi tiết. Nó cho biết lỗi loại nào đang xảy ra. Tỷ lệ lỗi nhận dạng (error rate) cũng là chỉ số quan trọng. Để đánh giá mô hình nhận dạng SVM. Các tiêu chí này giúp so sánh hiệu quả. So sánh giữa các phương pháp khác nhau. Hoặc giữa các cấu hình mô hình khác nhau.
5.2. Kết quả thực nghiệm và phân tích hiệu suất
Phần này trình bày các kết quả thử nghiệm. Sử dụng các tập dữ liệu chữ viết tay tiêu chuẩn. Ví dụ như USPS hoặc MNIST. Các thử nghiệm đánh giá hiệu suất của mô hình SVM. Nó xem xét các yếu tố như số lượng dữ liệu huấn luyện. Ảnh hưởng của các phương pháp tiền xử lý ảnh. Hoặc các loại đặc trưng được trích chọn. Phân tích kết quả giúp hiểu rõ ưu nhược điểm của SVM. Đặc biệt là khi đối mặt với hạn chế dữ liệu. So sánh với các phương pháp khác (nếu có). Kết quả này chứng minh hiệu quả của phương pháp. Nó cũng chỉ ra các khu vực cần cải thiện.
5.3. Hướng cải tiến mô hình nhận dạng chữ viết tay
Mặc dù mô hình SVM đạt hiệu suất tốt. Vẫn có những hướng để cải thiện mô hình nhận dạng. Cải tiến các kỹ thuật tiền xử lý ảnh. Đặc biệt là cho ảnh chất lượng thấp. Phát triển các phương pháp trích chọn đặc trưng mới. Các đặc trưng này có thể mạnh mẽ và bất biến hơn. Kết hợp SVM với các thuật toán khác. Ví dụ, sử dụng SVM như một phân loại cuối cùng. Sau khi các mạng nơ-ron tích chập (CNN) trích xuất đặc trưng. Mở rộng khả năng xử lý của mô hình. Cho các ngôn ngữ phức tạp hơn. Hoặc chữ viết tay không bị hạn chế. Những cải tiến này giúp nâng cao độ chính xác. Đảm bảo mô hình luôn đạt hiệu suất tối ưu.
VI. So sánh với học sâu và mạng nơ ron tích chập
SVM và học sâu là hai phương pháp machine learning mạnh mẽ. Chúng có những khác biệt cơ bản. SVM tìm một siêu phẳng tối ưu để phân tách dữ liệu. Học sâu, đặc biệt là mạng nơ-ron tích chập (CNN), xây dựng các lớp trừu tượng hóa. Chúng học các đặc trưng tự động từ dữ liệu thô. SVM thường hoạt động tốt với tập dữ liệu nhỏ. Đặc biệt khi dữ liệu có thể phân tách tuyến tính trong không gian chiều cao. Học sâu cần lượng dữ liệu lớn để huấn luyện hiệu quả. Cả hai đều có khả năng nhận dạng chữ viết tay. Tuy nhiên, kiến trúc và cách học khác nhau.
6.1. Sự khác biệt giữa SVM và học sâu
SVM và học sâu là hai phương pháp machine learning mạnh mẽ. Chúng có những khác biệt cơ bản. SVM tìm một siêu phẳng tối ưu để phân tách dữ liệu. Học sâu, đặc biệt là mạng nơ-ron tích chập (CNN), xây dựng các lớp trừu tượng hóa. Chúng học các đặc trưng tự động từ dữ liệu thô. SVM thường hoạt động tốt với tập dữ liệu nhỏ. Đặc biệt khi dữ liệu có thể phân tách tuyến tính trong không gian chiều cao. Học sâu cần lượng dữ liệu lớn để huấn luyện hiệu quả. Cả hai đều có khả năng nhận dạng chữ viết tay. Tuy nhiên, kiến trúc và cách học khác nhau.
6.2. Tiềm năng của mạng nơ ron tích chập CNN
Mạng nơ-ron tích chập (CNN) đã cách mạng hóa lĩnh vực nhận dạng hình ảnh. Chúng có khả năng tự động học trích chọn đặc trưng. Điều này loại bỏ nhu cầu trích chọn đặc trưng thủ công. CNN rất hiệu quả trong việc xử lý dữ liệu hình ảnh. Chúng nhận biết các mẫu và cấu trúc phức tạp. Đối với bài toán nhận dạng chữ viết tay, CNN mang lại tiềm năng lớn. Đặc biệt là khi có sẵn tập dữ liệu chữ viết tay khổng lồ. Chúng có thể đạt độ chính xác rất cao. CNN cũng có khả năng xử lý tốt các biến thể chữ viết tay.
6.3. Kết hợp các phương pháp để tối ưu nhận dạng
Việc kết hợp SVM với các phương pháp học sâu mang lại lợi ích. Có thể sử dụng CNN để trích chọn đặc trưng tự động. Sau đó, SVM được dùng làm phân loại cuối cùng. Tận dụng khả năng phân loại hiệu quả của SVM. Đặc biệt khi đối mặt với hạn chế dữ liệu. Phương pháp này kết hợp ưu điểm của cả hai. CNN giúp trích xuất các đặc trưng mạnh mẽ. SVM giúp phân loại chính xác với lượng dữ liệu nhỏ hơn. Sự kết hợp này có thể dẫn đến một mô hình nhận dạng mạnh mẽ hơn. Nó tối ưu hóa hiệu suất tổng thể. Đặc biệt trong các tình huống thực tế phức tạp.
Tải xuống file đầy đủ để xem toàn bộ nội dung
Tải đầy đủ (77 trang)Trích đoạn nội dung luận án
Tải xuống để đọc toàn bộ§¹i häc Th¸i Nguyªn tr-êng ®¹i häc c«ng nghÖ th«ng tin vµ truyÒn th«ng nguyÔn quang huy nghiªn cøu ph-¬ng ph¸p nhËn d¹ng ch÷ viÕt tay h¹n chÕ b»ng m« h×nh svm (support vector machines) LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH Thái Nguyên - 2014 Số hóa bởi Trung tâm Học liệu http://www.vn/ §¹i häc Th¸i Nguyªn tr-êng ®¹i häc c«ng nghÖ th«ng tin vµ truyÒn th«ng nguyÔn quang huy nghiªn cøu ph-¬ng ph¸p nhËn d¹ng ch÷ viÕt tay h¹n chÕ b»ng m« h×nh svm (support vector machines) Chuyªn ngµnh: KHOA HỌC MÁY TÍNH M· sè: 60 48 01 LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH Ng-êi h-íng dÉn khoa häc: PGS-TS. NGÔ QUỐC TẠO Thái Nguyên - 2014 Số hóa bởi Trung tâm Học liệu http://www.vn/ i LỜI CÁM ƠN Để đạt đƣợc những kết quả trong quá trình nghiên cứu luận văn, học viên xin chân thành cảm ơn thầy PGS. TS Ngô Quốc Tạo luôn tận tình chỉ bảo, hƣớng dẫn và giúp đỡ em trong suốt quá trình làm luận văn. Học viên xin cảm ơn các thầy cô giáo trƣờng Đại học Công nghệ thông tin và Truyền thông đã hƣớng dẫn và tạo điều kiện cho em trong suốt thời gian học tập tại trƣờng.
Học viên xin chân thành cảm ơn các thầy giáo trong Hội đồng xét duyệt luận văn tốt nghiệp lớp cao học CK11A năm 2014 - Đợt 1 đã nhận xét và góp ý để bài luận văn của em đƣợc hoàn thiện hơn. Số hóa bởi Trung tâm Học liệu http://www.vn/ ii LỜI CAM ĐOAN Tôi xin cam đoan luận văn “Nghiên cứu phương pháp nhận dạng chữ viết tay hạn chế bằng mô hình SVM (Support Vector Machines)” là do tôi tự nghiên cứu và hoàn thành dƣới sự hƣớng dẫn của PGS-TS. Ngô Quốc Tạo. Các kết quả đạt đƣợc trong quá trình nghiên cứu là hoàn toàn trung thực và khách quan.
Tôi xin chịu trách nhiệm về những lời cam đoan trên. Thái Nguyên, ngày 05 tháng 05 năm 2014 Ngƣời cam đoan Học viên Nguyễn Quang Huy Số hóa bởi Trung tâm Học liệu http://www.vn/ iii DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ VIẾT TẮT Thuật ngữ, Giải thích chữ viết tắt SVM Support Vector Machine (Máy véc tơ hỗ trợ) MMH Maximum Marginal Hyperplane (Siêu phẳng có biên độ lớn nhất) HMM Markov Model (Mô hình Markov ẩn) Kernel Hàm nhân Bộ mẫu chữ số viết tay NIST - Viện Công nghệ và Tiêu chuẩn Quốc MNIST gia Hoa Kỳ (National Institute of Standard and Technology of the United States) NN Neuron Network (Mạng nơ ron) OCR Optical Character Recognition (nhận dạng chữ quang học) QP Quadratic Programing (quy hoạch toàn phƣơng) USPS United States Postal service VC Vapnik – Chervonenkis Số hóa bởi Trung tâm Học liệu http://www.vn/ iv DANH MỤC CÁC HÌNH Hình 1. Các giai đoạn trong quá trình xử lý và nhận dạng ảnh. Nhị phân hóa ảnh.
Nhiễu đốm và nhiễu vệt. Chuẩn hóa kích thƣớc ảnh các ký tự “A” và “P”. (a) Ảnh gốc, (b) Ảnh sau khi đƣợc làm trơn biên. Làm mảnh chữ.
Hiệu chỉnh độ nghiêng của văn bản. Tách dòng chữ dựa trên histogram theo chiều ngang của khối chữ. Xác định khoảng cách giữa hai kí tự và giữa hai từ dựa trên histogram theo chiều thẳng đứng của dòng chữ. Mô hình mạng nơron nhân tạo.
Mô hình mạng MLP 3 lớp. Phân lớp bằng mạng nơron. a) Các lớp phân tách tuyến tính b)Siêu phẳng tối ƣu và biên lề tƣơng ứng, các vectơ hỗ trợ. Ánh xạ các điểm dữ liệu không thể phân tách tuyến tính vào không gian số chiều lớn hơn có thể phân tách đƣợc tuyến tính.
a) One-vs-One b) One-vs-All. Với 3 điểm không thẳng hàng trong R2 thì luôn tách đƣợc bởi đƣờng thẳng. Phân lớp bằng siêu phẳng. Đƣờng phân chia đối với tập dữ liệu gồm hai thuộc tính.
Một bộ dữ liệu hai chiều đƣợc phân chia tuyến tính. Hai siêu phẳng phân chia tuyến tính cùng với biên độ của nó. Đƣờng biểu diễn H1 và H2. Đƣờng màu đỏ là khoảng cách Euclidean của hai điểm 1 và 2, đƣờng màu xanh là khoảng cách Euclidean nhỏ nhất.
Các support vector trong SVM. Trƣờng hợp trên không gian 2 chiều không thể vẽ một đƣờng thẳng phân chia 2 lớp. Bƣớc 1- Học để xây dựng mô hình phân lớp. 37 Số hóa bởi Trung tâm Học liệu http://www.
Bƣớc 2 - Kiểm tra và đánh giá. Mô hình nhận dạng chữ viết tay rời rạc. Trích chọn đặc trƣng trọng số vùng. Kiến trúc của hệ nhận dạng chữ viết tay tiếng Việt.
Chuẩn hóa ảnh: (a) Ảnh gốc, (b) Xác định các vùng liên thông và đánh thứ tự các vùng liên thông. Chuẩn hóa các vùng liên thông. Quá trình trích chọn đặc trƣng. Các bƣớc cơ bản của quá trình nhận dạng văn bản bằng mô hình SVM.
Các mẫu chữ số viết tay trích từ tập các tập dữ liệu USPS và MNIST. Giao diện chƣơng trình. Hộp thoại tiền xử lý. Hộp thoại trích chọn đặc trƣng.
Hộp thoại lƣu file mô hình huấn luyện. Hộp thoại chọn file ảnh cần nhận dạng. Hộp thoại thông báo kết quả nhận dạng. 63 Số hóa bởi Trung tâm Học liệu http://www.vn/ 1 MỞ ĐẦU Biết sử dụng các phƣơng pháp nhận dạng đóng vai trò hết sức quan trọng trong xử lý ảnh, phân tích tài liệu văn bản, đặc biệt là đối với các dạng văn bản viết tay.
Hiện nay, nhu cầu cần nhận dạng nội dung văn bản từ các ảnh là rất lớn và thiết thực. Để nâng cao độ tin cậy của các phƣơng pháp phân tích nhận dạng đã có những công trình nghiên cứu theo hƣớng ứng dụng lớp bài toán đánh giá lựa chọn thông tin để lựa chọn những tổ hợp thông tin chất lƣợng cao trƣớc khi tiến hành phân tích nhận dạng. Cũng từ đó đề xuất những cách tiếp cận mới giải quyết bài toán nhận dạng trong xử lý số liệu văn bản và thu đƣợc kết quả tốt. Nhận dạng chữ viết và đặc biệt nhận dạng chữ viết tay là bài toán có nhiều ứng dụng thực tế.
Máy tính xử lý, nhận dạng các biểu mẫu, phiếu điều tra tự động, bằng cách này ta có thể tiết kiệm đƣợc nhiều chi phí về thời gian, công sức cũng nhƣ các chi phí khác cho việc nhập dữ liệu. Ngày nay cùng với sự phát triển về mặt lý thuyết, công nghệ, có rất nhiều hƣớng đi cho việc giải quyết bài toán nhận dạng chữ viết dựa trên cấu trúc hay cách tiếp cận khác nhƣ dùng: logic mờ, giải thuật di truyền, mô hình xác suất thống kê, mô hình Markov ẩn HMM (Hidden Markov Models), mô hình mạng nơron NN (Neural Network Model), mô hình SVM (Support Vector Machine). Thuật toán phân lớp là yếu tố có vai trò quyết định đến chất lƣợng của một hệ thống nhận dạng. Các phƣơng pháp nhận dạng truyền thống nhƣ đối sánh mẫu, nhận dạng cấu trúc đã đƣợc ứng dụng khá phổ biến trong các hệ thống nhận dạng và cũng đã thu đƣợc những thành công nhất định.
Tuy vậy, với những trƣờng hợp văn bản đầu vào có chất lƣợng không tốt (nhiễu, đứt nét, dính nét.) thì các thuật toán này tỏ ra không hiệu quả. Để khắc phục điều này, trong những năm gần đây nhiều nhóm nghiên cứu đã sử dụng các thuật toán phân lớp dựa trên mô hình SVM cho các bài toán nhận dạng nói chung và nhận dạng chữ viết Số hóa bởi Trung tâm Học liệu http://www.vn/ 2 tay nói riêng. Trong luận văn này, học viên xin trình bày thuật toán SVM đối với việc nhận dạng chữ viết tay hạn chế. MỤC LỤC LỜI CÁM ƠN.
i LỜI CAM ĐOAN .ii DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ VIẾT TẮT. iii DANH MỤC CÁC HÌNH. iv MỞ ĐẦU. GIỚI THIỆU VỀ CHỮ VIẾT VÀ NHẬN DẠNG CHỮ VIẾT.
Trình bày về lịch sử của nhận dạng chữ viết tay. Giới thiệu các hƣớng tiếp cận trong việc nhận dạng chữ viết tay. Nhận dạng chữ in. Nhận dạng chữ viết tay.
Nhị phân hóa ảnh. Chuẩn hóa kích thƣớc ảnh. Làm trơn biên chữ. Làm đầy chữ.
Làm mảnh chữ. Điều chỉnh độ nghiêng của văn bản. Khối tách chữ. Tách chữ theo chiều nằm ngang và thẳng đứng.
Tách chữ dùng lƣợc đồ sáng. Trích chọn đặc trƣng. Biến đổi toàn cục và khai triển chuỗi. Đặc trƣng thống kê.
Đặc trƣng hình học và hình thái. 14 Số hóa bởi Trung tâm Học liệu http://www. Huấn luyện và nhận dạng. Một số thuật toán phân lớp nhận dạng chữ viết tay.
Các mô hình nhận dạng chữ viết tay. Đánh giá, so sánh các phƣơng pháp nhận dạng chữ. MÔ HÌNH SVM VÀ ỨNG DỤNG TRONG NHẬN DẠNG CHỮ. Giới thiệu chung.
Lý thuyết chiều VC (Vapnik Chervonenkis dimension). Hàm phân lớp. Siêu phẳng phân cách. SVM với dữ liệu không nhiễu.
SVM với dữ liệu có nhiễu. Phân lớp dữ liệu tuyến tính và không tuyến tính. Sự cần thiết của SVM nhận dạng chữ viết tay hạn chế. Phân lớp dữ liệu.
Bài toán cho mô hình SVM. Xây dựng mô hình học cho SVM. Trích chọn đặc trƣng. Lựa chọn thuật toán huấn luyện phân lớp.
Thuật toán nhận dạng chữ viết tay rời rạc. Áp dụng SVM vào nhận dạng chữ Việt viết tay rời rạc. 49 Số hóa bởi Trung tâm Học liệu http://www. Phân nhóm sơ bộ.
Trích chọn đặc trƣng. Xây dựng các máy phân lớp SVM. 55 Chƣơng 3 – CHƢƠNG TRÌNH THỬ NGHIỆM. Giới thiệu về hệ nhận dạng dùng LIBSVM.
Các chức năng chính của hệ nhận dạng. Sử dụng libsvm-3. Kết quả chạy thử nghiệm trên tập dữ liệu libsvm. Kết quả thực nghiệm đƣợc tiến hành trên tập dữ liệu mnist.
Kết quả thực nghiệm đƣợc tiến hành trên tập dữ liệu usps. Chƣơng trình nhận dạng. Chức năng chƣơng trình. 64 - Tiền xử lý (Convert Color Image to Black & white): Chuyển đổi ảnh từ ảnh màu sang ảnh nhị phân và chuẩn hóa kích thƣớc ảnh với kích cỡ 16x16.
Chức năng Tiền xử lý:. Chức năng trích chọn đặc trƣng. 66 KẾT LUẬN VÀ ĐỀ NGHỊ. 68 TÀI LIỆU THAM KHẢO.
69 Số hóa bởi Trung tâm Học liệu http://www.vn/ 5 Chƣơng 1. GIỚI THIỆU VỀ CHỮ VIẾT VÀ NHẬN DẠNG CHỮ VIẾT 1. Trình bày về lịch sử của nhận dạng chữ viết tay Ngày nay khoa học công nghệ phát triển mạnh cũng không ngoài mục đích khác là để đáp ứng nhu cầu ngày càng cao của con ngƣời. Mỗi quốc gia đều phải có ít nhất một ngôn ngữ, chữ viết để giao tiếp, từ năm 1922 khái niệm nhận dạng chữ đã đƣợc hình thành cho đến năm 1950, khi máy tính lần đầu tiên đƣợc giới thiệu tính năng mới về nhập và lƣu trữ dữ liệu hai chiều bằng cây bút viết trên một tấm bảng cảm ứng [4].
Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ
Trích dẫn luận án này
Nguyễn Quang Huy (2014). Nghiên cứu phương pháp nhận dạng chữ viết tay hạn chế bằng m [Luận án tiến sĩ, Trường Đại học Công nghệ Thông tin và Truyền thông - Đại học Thái Nguyên]. LuanAn.net. https://luanan.net/tai-lieu-khac/phuong-phap-nhan-dang-chu-viet-tay-han-che-bang-mo-hinh-svm-support-vector
Câu hỏi thường gặp
Luận án "Nghiên cứu phương pháp nhận dạng chữ viết tay hạn chế bằng m" nghiên cứu về vấn đề gì?
Nghiên cứu các phương pháp nhận dạng chữ viết tay hạn chế. Đề xuất mô hình mới, tối ưu thuật toán để nâng cao độ chính xác hệ thống.
Luận án "Nghiên cứu phương pháp nhận dạng chữ viết tay hạn chế bằng m" được bảo vệ tại trường nào?
Luận án này được bảo vệ tại Trường Đại học Công nghệ Thông tin và Truyền thông - Đại học Thái Nguyên. Năm bảo vệ: 2014.
Luận án "Nghiên cứu phương pháp nhận dạng chữ viết tay hạn chế bằng m" thuộc chuyên ngành gì?
Luận án "Nghiên cứu phương pháp nhận dạng chữ viết tay hạn chế bằng m" thuộc chuyên ngành Khoa học máy tính. Danh mục: Tài liệu khác.
Luận án "Nghiên cứu phương pháp nhận dạng chữ viết tay hạn chế bằng m" có bao nhiêu trang?
Luận án "Nghiên cứu phương pháp nhận dạng chữ viết tay hạn chế bằng m" có 77 trang. Bạn có thể xem trước một phần tài liệu ngay trên trang web trước khi tải về.
Cách tải luận án "Nghiên cứu phương pháp nhận dạng chữ viết tay hạn chế bằng m" về máy như thế nào?
Để tải luận án về máy, bạn nhấn nút "Tải xuống ngay" trên trang này, sau đó hoàn tất thanh toán phí lưu trữ. File sẽ được tải xuống ngay sau khi thanh toán thành công. Hỗ trợ qua Zalo: 0559 297 239.