Ứng dụng mô hình xích Markov và chuỗi thời gian mở trong dự báo luận án tiến sĩ - Đào Xuân Kỳ

BỘ GIÁO DỤC VÀ ĐÀO TẠO VIỆN HÀN LÂM KHOA HỌC VÀ CÔNG NGHỆ VIỆT NAM HỌC VIỆN KHOA HỌC VÀ CÔNG NGHỆ ------------------------------- ĐÀO XUÂN KỲ ỨNG DỤNG MÔ HÌNH XÍCH MARKOV VÀ CHUỖI THỜI GIAN MỜ TRONG DỰ BÁO LUẬN ÁN TIẾN SĨ TOÁN HỌC Hà Nội, 2017 BỘ GIÁO DỤC VÀ ĐÀO TẠO VIỆN HÀN LÂM KHOA HỌC VÀ CÔNG NGHỆ VIỆT NAM HỌC VIỆN KHOA HỌC VÀ CÔNG NGHỆ ------------------------------- ĐÀO XUÂN KỲ ỨNG DỤNG MÔ HÌNH XÍCH MARKOV VÀ CHUỖI THỜI GIAN MỜ TRONG DỰ BÁO LUẬN ÁN TIẾN SĨ TOÁN HỌC Chuyên ngành: Cơ sở Toán học cho Tin học Mã số: 62.10 Người hướng dẫn khoa học: 1. Nguyễn Văn Hùng Hà Nội, 2017 LỜI CAM ĐOAN Tôi xin cam đoan đây là công trình nghiên cứu của riêng tôi. Các kết quả được công bố với các tác giả khác đều được sự đồng ý của các đồng tác giả trước khi đưa vào luận án. Các kết quả nêu trong luận án là trung thực và chưa từng được công bố trong bất kỳ công trình nào khác.

Hà nội, ngày 01 tháng 12 năm 2017 NGHIÊN CỨU SINH Đào Xuân Kỳ LỜI CẢM ƠN Luận án được thực hiện tại Học viện Khoa học và Công nghệ - Viện Hàn lâm Khoa học và Công nghệ Việt Nam, dưới sự hướng dẫn của PGS. Đoàn Văn Ban và TS. Tôi xin bày tỏ lòng biết ơn sâu sắc đến hai Thầy về định hướng khoa học, người đã động viên, trao đổi nhiều kiến thức và chỉ bảo tôi vượt qua những khó khăn để hoàn thành luận án này. Tôi cũng xin gửi lời cảm ơn chân thành đến các nhà khoa học, tác giả của các công trình công bố đã được trích dẫn trong luận án, đây là những tư liệu quý, kiến thức liên quan quan trọng giúp Nghiên cứu sinh hoàn thành luận án; Xin cảm ơn đến các nhà khoa học đã phản biện các công trình nghiên cứu của Nghiên cứu sinh.

Tôi trân trọng cảm ơn Phòng Thống kê -tính toán và Ứng dụng, Viện Công nghệ Thông tin - Viện Hàn lâm Khoa học và Công nghệ Việt Nam đã tạo điều kiện thuận lợi cho tôi trong suốt quá trình nghiên cứu thực hiện luận án. Cuối cùng, tôi xin gửi lời cảm ơn sâu sắc tới gia đình, bạn bè, những người đã luôn ủng hộ, giúp đỡ và hỗ trợ tôi về mọi mặt để tôi yên tâm học tập đạt kết quả tốt. Hà nội, ngày 01 tháng 12 năm 2017 NGHIÊN CỨU SINH Đào Xuân Kỳ i MỤC LỤC MỤC LỤC.i Danh mục từ viết tắt. iv Các ký hiệu toán học.

vi Danh sách bảng .vii Danh sách hình vẽ.viii MỞ ĐẦU. BÀI TOÁN ĐỀ XUẤT VÀ KIẾN THỨC TỔNG QUAN. Các nghiên cứu liên quan và hướng phát triển của luận án. Phân loại trạng thái xích Markov.

Ước lượng ma trận Markov. Phân phối dừng của xích Markov. Mô hình Markov ẩn. Định nghĩa và ký hiệu.

Likelihood và ước lượng cực đại likelihood. Phân phối dự báo. Thuật toán Viterbi. Dự báo trạng thái.

Chuỗi thời gian mờ. Một số khái niệm. Mô hình một số thuật toán dự báo trong chuỗi thời gian mờ. MÔ HÌNH MARKOV ẨN TRONG DỰ BÁO CHUỖI THỜI GIAN.

Mô hình Markov ẩn trong dự báo chuỗi thời gian. Mô hình HMM với phân phối Poisson. Mô hình HMM với phân phối chuẫn. Kết quả thực nghiệm cho HMM với phân phối Poisson.

Ước lượng tham số. Lựa chọn mô hình. Phân phối dự báo. Trạng thái dự báo.

Kết quả thực nghiệm mô hình HMM với phân phối chuẩn. Ước lượng tham số. Lựa chọn mô hình. Phân phối dự báo.

Trạng thái dự báo. Một số kết quả so sánh. Hạn chế của mô hình dự báo với phân phối tất định. Phân phối chuẩn.

Các tham số tương ứng từ dữ liệu thực. MỞ RỘNG MÔ HÌNH XÍCH MARKOV BẬC CAO VÀ CHUỖI THỜI GIAN MỜ TRONG DỰ BÁO. Xích Markov bậc cao. Mô hình Markov bậc cao mới (IMC).

Ước lượng tham số. Lựa chọn chuỗi thời gian mờ trong mô hình kết hợp. Định nghĩa và phân vùng tập nền. Quy luật mờ của chuỗi thời gian.

Mô hình kết hợp xích Markov và chuỗi thời gian mờ. Mô hình kết hợp với xích Markov bậc nhất. Mở rộng với xích Markov bậc cao. Kết quả thực nghiệm .91 iii Các công trình khoa học của nghiên cứu sinh.93 Tài liệu tiếng việt .94 Tài liệu tiếng anh .95 iv Danh mục từ viết tắt ACF Autocorrelation Function ANN Artificial Neural Network AIC Akaike Information Criterion ARIMA Autoregressive Integrated Moving Average BIC Bayessian Information Criterion BPNN Back Propagation Neural Network BWP Backward Probabilities CMC Comerical Higher Order Markov Chain DJIA Dow Jones Industrial Average Index EM Expectation-Maximization FTS Fuzzy Time Series FWP Forward Probabilities GA Genetic Algorithm GARCH Generalized Autoregressive Conditional Heteroskedasticity GDP Gross Domestic Product GPS Global Positioning System HMM Hidden Markov Model HMMs Hidden Markov Models IMC Improved Higher Order Markov Chain MAE Mean Absolute Error MAPE Mean Absolute Percentage Error MC Markov Chain MLE Maximum Likelihood Estimation PCA Principle Component Analysis RMSE Root Mean Square Error SSE Shanghai Stock Exchange STNN Stochastic Time Neural Network v SVM Support Vector Machine TAIEX Taiwan Exchange Index VN-Index Chỉ số chứng khoán Việt Nam vi Các ký hiệu toán học Ký hiệu, từ viết tắt Diễn giải  Ma trận xác suất chuyển xích Markov (Ct ) Xích Markov  ij Xác suất chuyển Markov  Vector phân phối dừng của xích Markov pi ( x) Phân phối trạng thái i trong HMM  Tham số của phân phối Poisson i Trung bình của các phân phối chuẩn  i2 Phương sai của các phân phối chuẩn A Được gọi là hàm thuộc U Không gian nền Y(t ) Là chuỗi thời gian " o" Là toán tử thành phần Max–Min (Xt ) Chuỗi dữ liệu quan sát ( xt ) Chuỗi dữ liệu quan sát vii Danh sách bảng Bảng 2.

Ước lượng tham số của các mô hình trộn độc lập cho time. Ước lượng tham số của mô hình Poisson-HMM cho time.t với các trạng thái m=2,3,4,5. Trung bình và phương sai mô hình so với mẫu. Tiêu chuẩn AIC và BIC.

Thông tin phân phối dự báo và khoảng dự báo. Dự báo trạng thái 6 lần tiếp theo cho time. Dữ liệu VN-Index: chọn số trạng thái. Dự báo khả năng (xác suất) cao nhất đối với mỗi trạng thái cho 30 ngày tiếp theo kể từ ngày cuối cùng là 13/05/2011.

MAPE nhiều lần chạy HMM cho dữ liệu Apple. So sánh độ chính xác của mô hình HMM với một số mô hình khác. Trung bình, độ lệch chuẩn, độ lệch đối xứng, độ nhọn của một số chỉ số có VN-index. Mờ hóa chuỗi tăng trưởng.

Các tập dữ liệu so sánh. So sánh MAPEs cho các mô hình khác nhau. So sánh các mô hình khác nhau cho dữ liệu SSE, DJIA và S\&P500. So sánh RMSEs của TAIEX cho các năm từ 2001 đến 2009 nStates = 6.

88 viii Danh sách hình vẽ Hình 1. Ví dụ ma trận Markov chính quy. Ví dụ ma trận Markov không chính quy. Chỉ số đóng cửa của VN-Index từ 03/01/2006 đến 19/06/2013.

Số phiên giao dịch mỗi lần chứng khoán từ đáy lên đỉnh. Phân phối mẫu (histogram) của time.t được ướm bởi phân phối Poisson 38 Hình 2. Histogram được ướm với 4 mô hình trộn các phân phối Poisson độc lập với m=2,3,4,5. Hệ số tự tương quan của mẫu dữ liệu với 15 Lag.

Định nghĩa chuỗi thời gian cần dự báo. Quá trình ước lượng tham số của mô hình HMM sử dụng MLE. Quá trình ước lượng tham số của mô hình HMM sử dụng EM. Minh họa AIC và BIC.

Mô hình Poisson-HMM với 4 trạng thái. Diễn biến chỉ số Vn-Index từ 14/06/2013 đến 22/08/2013 và thời gian chờ từ đáy lên đỉnh. Phân phối dự báo time.t cho 6 lần cổ phiếu từ đáy lên đỉnh tiếp theo. Hình ảnh của VN-Index với 376 giá đóng cửa từ 11/4/2009 đến 13/5/2011.

Dữ liệu VN-Index: dãy trạng thái tốt nhất. Dữ liệu VN-Index data: phân phối dự báo của 10 ngày tiếp theo. Dữ liệu VNIndex: So sánh trạng thái dự báo với trạng thái thực tế. Dự báo HMM cho giá cổ phiếu apple:actual-giá thật; predict-giá dự báo.

(a) Hạt nhân ước lượng mật độ Gauss và phân phối chuẩn và (b) loga các mật độ của loga lợi suất hàng ngày của VN-Index. Cấu trúc của mô hình Markov- chuỗi thời gian mờ. Chuỗi tăng trưởng của Ryanair Airlines data. Chuỗi giá cổ phiếu lịch sử của Apple và chỉ số thiêu thụ điện của Ba Lan.

MAPEs của dữ liệu tiêu thụ điện của Australia với các bậc khác nhau của mô hình đề xuất. So sánh mô hình CMC-Fuz (7states, 4 bậc) và một số mô hình gần đây. RMSEs dự báo tỷ lệ thất nghiệp với các nStates khác nhau, nOrder = 2. Tính cấp thiết của luận án Bài toán dự báo chuỗi thời gian với đối tượng dự báo là biến ngẫu nhiên X thay đổi theo thời gian nhằm đạt được độ chính xác dự báo cao luôn là thách thức đối với các nhà khoa học không chỉ trong nước mà còn đối với các nhà khoa học trên thế giới.

Bởi lẽ, giá trị của biến ngẫu nhiên này tại thời điểm t sinh ra một cách ngẫu nhiên và việc tìm một phân phối xác suất phù hợp cho nó không phải lúc nào cũng dễ dàng. Muốn làm được điều này dữ liệu lịch sử cần được thu thập và phân tích, từ đó tìm ra phân phối ướm khít với nó. Tuy nhiên, một phân phối tìm được có thể phù hợp với dữ liệu ở một giai đoạn này, nhưng có thể sai lệch lớn so với giai đoạn khác. Do đó, việc sử dụng một phân phối ổn định cho đối tượng dự đoán là không phù hợp với bài toán dự báo chuỗi thời gian.

Chính vì lý do trên, để xây dựng mô hình dự báo chuỗi thời gian cần thiết phải có sự liên hệ, cập nhật dữ liệu tương lai với dữ liệu lịch sử, xây dựng mô hình phụ thuộc giữa giá trị dữ liệu có được tại thời điểm t với giá trị tại các thời điểm trước đó t  1, t  2. Nếu xây dựng quan hệ X t  1 X t 1  2 X t 2  p X t  p   t  1 t 1  q t q cho ta mô hình hồi quy tuyến tính ARIMA[11]. Trong đó  i ,i là các hệ số hồi quy,  t i là các biến ngẫu nhiên độc lập cùng phân phối chuẩn có kỳ vọng bằng 0. Mô hình này đã được áp dụng rộng rãi bởi cơ sở lý thuyết dễ hiểu và dễ thực hành, hơn nữa mô hình này đã được tích hợp vào hầu hết các phần mềm thống kê hiện nay như Eviews, SPSS, Matlab, R,….