Tiếp cận machine learning trong quản trị danh mục trên thị trường chứng khoán vi

Tổng quan về luận án

Quản trị danh mục đầu tư trên thị trường chứng khoán là bài toán trọng tâm của tài chính định lượng nhằm dung hòa mục tiêu tối đa hóa khả năng sinh lời và kiểm soát rủi ro. Luận án tiến sĩ chuyên ngành Toán kinh tế (mã số 9310101) của nghiên cứu sinh Bùi Quốc Hoàn, dưới sự hướng dẫn của TS. Nguyễn Mạnh Thế và TS. Vương Mai Phương tại Trường Đại học Kinh tế Quốc dân (Hà Nội, 2024), mang tiêu đề "Tiếp cận Machine Learning trong quản trị danh mục trên thị trường chứng khoán Việt Nam". Công trình thể hiện tính tiên phong học thuật khi giải quyết triệt để các rào cản tính toán kinh điển của Lý thuyết Danh mục Đầu tư Hiện đại (Modern Portfolio Theory - MPT) bằng việc ứng dụng các thuật toán học máy tiên tiến trong bối cảnh một thị trường cận biên (frontier market).

                      +----------------------------------------------------+
                      |    THỊ TRƯỜNG CHỨNG KHOÁN VIỆT NAM (HOSE)          |
                      |    - Quy mô lớn (515 mã niêm yết)                  |
                      |    - Dữ liệu chuỗi thời gian 2008 - 2022           |
                      +-------------------------+--------------------------+
                                                |
                                                v
              +---------------------------------+---------------------------------+
              |                                 |                                 |
              v                                 v                                 v
+-----------------------------+   +-----------------------------+   +-----------------------------+
|    GIẢM CHIỀU DỮ LIỆU       |   |      DỰ BÁO PHI TUYẾN       |   |       CHÍNH QUY HÓA         |
|   Phân cụm chuỗi thời gian  |   |   Mạng nơ-ron sâu (LSTM)    |   |    Hàm phạt chuẩn L1        |
|          (MTS-MV)           |   |          (LSTM-MV)          |   |          (Lasso)            |
+--------------+--------------+   +--------------+--------------+   +--------------+--------------+
               |                                 |                                 |
               +---------------------------------+---------------------------------+
                                                |
                                                v
                      +----------------------------------------------------+
                      |       MÔ HÌNH TỐI ƯU TRUNG BÌNH - PHƯƠNG SAI       |
                      |          (Mean-Variance Optimization - MV)         |
                      |    - Cửa sổ cuộn (496 ngày mẫu / 21 ngày test)     |
                      |    - Thư viện Riskfolio-Lib & Solver MOSEK         |
                      +-------------------------+--------------------------+
                                                |
                                                v
                      +----------------------------------------------------+
                      |    ĐÁNH GIÁ ĐA CHIỀU NGOÀI MẪU (OUT-OF-SAMPLE)     |
                      |  Lợi suất (r_cum, m), Rủi ro (s, VaR 5%, CVaR 5%)  |
                      |    Hiệu quả điều chỉnh rủi ro (Sharpe, IR, TO)     |
                      +----------------------------------------------------+

Về mặt bối cảnh khoa học, mô hình phân tích Trung bình - phương sai (Mean - Variance: MV) do Harry Markowitz (1952) khởi xướng đòi hỏi ước lượng đồng thời vectơ lợi suất kỳ vọng $\boldsymbol{\mu}$ và ma trận hiệp phương sai $\boldsymbol{\Sigma}$ gồm $2N + N(N-1)/2$ tham số. Trên thị trường có quy mô lớn (tháng 5/2023, HOSE có 515 công ty và HNX có 359 công ty niêm yết), mô hình MV tiêu chuẩn bộc lộ hai điểm nghẽn nghiêm trọng:

1. Sai số ước lượng nhạy cảm với nhiễu: Theo Jobson & Korkie (1980) và Best & Grauer (1991), một cú sốc nhỏ trong dữ liệu lịch sử có thể khuếch đại sai lệch trong ma trận hiệp phương sai nghịch đảo $\boldsymbol{\Sigma}^{-1}$, làm méo mó nghiêm trọng các trọng số danh mục tối ưu.
2. Hiện tượng quá khớp (overfitting): Kinn (2018) đã chứng minh cấu trúc tối ưu của MV tiêu chuẩn tương đương với phép hồi quy tuyến tính bằng phương pháp bình phương tối thiểu (OLS), vốn không cho phép đánh đổi giữa độ chệch và phương sai (bias-variance tradeoff), dẫn đến hiệu suất ngoài mẫu suy giảm rõ rệt.

Khoảng trống nghiên cứu (research gap) cốt lõi được luận án định vị bao gồm:

• Phần lớn các nghiên cứu kết hợp Học máy và MV (ML-MV) chỉ tập trung tại các thị trường phát triển hoặc thị trường mới nổi (Brodie et al., 2009; DeMiguel et al., 2009; Zhang et al., 2022), hầu như bỏ ngỏ thị trường cận biên như Việt Nam – nơi có hạ tầng pháp lý đang hoàn thiện, biến động phi tuyến tính mạnh và cấu trúc kém ổn định (Satolli, 2024; Truong et al., 2023).
• Các công trình quốc tế chủ yếu kiểm định thuật toán trên một giai đoạn duy nhất, chưa phân tích so sánh hiệu quả của từng phương pháp Học máy dưới các chế độ thị trường (market regimes) có đặc tính thống kê bất đối xứng.

Luận án giải quyết 3 câu hỏi nghiên cứu (Research Questions - RQ):

• RQ1: Danh mục đề xuất bởi các phương pháp Học máy có hiệu quả hơn so với danh mục MV tiêu chuẩn trong điều kiện thị trường bình thường hay không?
• RQ2: Danh mục đề xuất bởi các phương pháp Học máy có vượt trội so với danh mục MV tiêu chuẩn khi thị trường xảy ra các cú sốc và biến động lớn hay không?
• RQ3: Mức độ ưu việt tương đối giữa các phương pháp Học máy khác nhau biến chuyển ra sao giữa trạng thái thị trường bình thường và thị trường biến động?

Hệ thống giả thuyết nghiên cứu được kiểm định bao gồm:

• H1: Sự kết hợp giữa các phương pháp Học máy và mô hình MV giúp cải thiện đáng kể hiệu quả đầu tư so với mô hình MV thuần túy.
• H2: Tính ưu việt của danh mục ML-MV so với MV phụ thuộc chặt chẽ vào trạng thái thị trường (bình thường so với biến động).
• H3: Mô hình mạng nơ-ron hồi quy phi tuyến Bộ nhớ ngắn - dài hạn (LSTM-MV) mang lại hiệu quả vượt trội hơn so với phương pháp phân cụm chuỗi thời gian (MTS-MV) và chính quy hóa Lasso nhờ khả năng tự học sâu các phụ thuộc thời gian phức tạp.

Khung lý thuyết tổng quát tích hợp Lý thuyết Danh mục Đầu tư Hiện đại (Markowitz, 1952), Lý thuyết Chính quy hóa Thống kê (Tibshirani, 1996) và Lý thuyết Mạng nơ-ron Nhân tạo (Hochreiter & Schmidhuber, 1997). Về quy mô, nghiên cứu khảo sát toàn bộ dữ liệu giá đóng cửa hàng ngày của các cổ phiếu niêm yết trên Sở Giao dịch Chứng khoán TP. Hồ Chí Minh (HOSE) do Vietstock cung cấp trong suốt 15 năm (2008 - 2022), chia thành 3 giai đoạn: Khủng hoảng tài chính (2008 - 2012), Bình ổn (2013 - 2019), và Cú sốc đại dịch Covid-19 (2020 - 2022).

Literature Review và Positioning

Tổng quan y văn quốc tế ghi nhận sự phát triển của ba dòng nghiên cứu chính nhằm khắc phục nhược điểm của mô hình MV cổ điển:

                            TIẾN TRÌNH Y VĂN QUẢN TRỊ DANH MỤC
========================================================================================
[1952] Markowitz: Khởi xướng MPT & Mô hình Mean-Variance (MV).
[1964] Sharpe / Lintner / Treynor: Phát triển mô hình định giá CAPM.
[1980-1993] Jobson & Korkie (1980), Merton (1980), Best & Grauer (1991), Chopra & Ziemba (1993):
            Chỉ ra sai số ước lượng nghiêm trọng của ma trận hiệp phương sai mẫu.
[2007] DeMiguel, Garlappi & Uppal: Chứng minh danh mục ngây thơ 1/N đánh bại các mô hình tối ưu.
========================================+===============================================
                                        | (Phát triển nhánh Học máy - Machine Learning)
                                        v
+-------------------------------+-------------------------------+-------------------------------+
|  GIẢM CHIỀU & PHÂN CỤM DỮ LIỆU|     DỰ BÁO LỢI SUẤT HỌC SÂU   |    CHÍNH QUY HÓA THƯA HÓA     |
+-------------------------------+-------------------------------+-------------------------------+
| Nanda et al. (2010)           | Ta et al. (2020)              | Tibshirani (1996)             |
| Marvin & Bhatt (2015)         | Wang et al. (2020)            | Brodie et al. (2009)          |
| Iorio et al. (2018)           | Chaweewanchon & Chaysiri(2022)| DeMiguel et al. (2009)        |
| Ren (2005)                    | Zhang et al. (2022)           | Gotoh & Takeda (2011)         |
+-------------------------------+-------------------------------+-------------------------------+

1. Dòng nghiên cứu giảm chiều dữ liệu qua phân cụm chuỗi thời gian: Nhóm tác giả Nanda et al. (2010), Marvin & Bhatt (2015) và Iorio et al. (2018) đã sử dụng kỹ thuật phân cụm chuỗi thời gian (time series clustering) để gom nhóm các tài sản có hành vi tương đồng, từ đó chắt lọc đại diện nhằm giảm số chiều của ma trận $\boldsymbol{\Sigma}$, hạn chế bậc tự do và triệt tiêu nhiễu ước lượng.
2. Dòng nghiên cứu tích hợp mô hình dự báo học sâu (Deep Learning): Ta et al. (2020), Fjellström (2022) và Zhang et al. (2022) ứng dụng mạng Long Short-Term Memory (LSTM) để dự báo lợi suất kỳ vọng ngoài mẫu $\hat{\boldsymbol{\mu}}_{t+1}$. Bằng cách thay thế lợi suất lịch sử tĩnh bằng giá trị dự báo động, mô hình phản ánh kịp thời các biến chuyển phi tuyến tính của thị trường tài chính.
3. Dòng nghiên cứu chính quy hóa (Regularization) và danh mục thưa: Khởi xướng bởi Tibshirani (1996) với kỹ thuật Lasso, các công trình của Brodie et al. (2009), DeMiguel et al. (2009), Gotoh & Takeda (2011) và Fan et al. (2012) áp dụng hàm phạt chuẩn $L_1$ vào hàm mục tiêu tối ưu. Phương pháp này ép các trọng số không hiệu quả về chính xác bằng 0, tạo ra danh mục đầu tư thưa (sparse portfolio), giảm chi phí giám sát và ngăn chặn hiện tượng quá khớp dữ liệu mẫu.

Trong y văn tồn tại hai cuộc tranh luận lý thuyết lớn:

• Tranh luận 1: Tối ưu hóa phức tạp vs Đa dạng hóa ngây thơ: DeMiguel et al. (2007) lập luận rằng do sai số ước lượng ngoài mẫu quá lớn, không mô hình tối ưu phức tạp nào có thể vượt qua danh mục phân bổ đều "ngây thơ" $1/N$ về tỷ số Sharpe. Ngược lại, Brodie et al. (2009) và Fan et al. (2012) chứng minh rằng việc áp dụng ràng buộc hàm phạt chuẩn $L_1$ sẽ kiểm soát được rủi ro tích lũy, giúp danh mục tối ưu thưa vượt trội hoàn toàn so với chiến lược $1/N$.
• Tranh luận 2: Tính minh bạch tuyến tính vs Năng lực phi tuyến hộp đen: Các mô hình tuyến tính có chính quy hóa (Lasso) cho phép diễn giải toán học rõ ràng nhưng bỏ qua cấu trúc phụ thuộc phi tuyến, trong khi mạng nơ-ron sâu (LSTM) khai thác triệt để các mẫu hình vi mô phức tạp nhưng tiềm ẩn rủi ro bất định trong đuôi phân phối (tail risk).

Tại Việt Nam, các nghiên cứu trước đây chủ yếu dừng lại ở việc kết hợp MV với CAPM (Võ Thị Quý & Nguyễn Cao Minh Hoàng, 2011), mô hình Black-Litterman kết hợp ARIMA (Bao & Vuong, 2020), tối ưu hóa khả năng dự báo (Tạ Quốc Bảo et al., 2022) hoặc mô phỏng đa thị trường ASEAN (Nguyễn Phú Sang & Huỳnh Lưu Đức Toàn, 2019). Luận án của Bùi Quốc Hoàn đã định vị vị trí học thuật bằng việc thiết lập một khung so sánh thực nghiệm đa phương pháp (MTS, LSTM, Lasso) đối sánh trực tiếp với MV tiêu chuẩn trên chuỗi dữ liệu dài 15 năm tại Việt Nam.

Khi so sánh với các nghiên cứu quốc tế:

• So với nghiên cứu của Chaweewanchon & Chaysiri (2022) trên rổ SET50 Thái Lan (thị trường mới nổi) và Chen et al. (2021) trên CSI300 Trung Quốc: Luận án không chỉ kiểm định khả năng xếp hạng cổ phiếu của LSTM mà tích hợp trực tiếp giá trị dự báo vào ma trận tham số tối ưu hóa MV có ràng buộc thực tế.
• So với công trình của Zhang et al. (2022) trên thị trường chứng khoán Mỹ (thị trường phát triển): Luận án chứng minh rằng mức độ vượt trội về lợi suất tích lũy của các mô hình ML-MV trên thị trường cận biên Việt Nam đạt tỷ suất biên cao hơn đáng kể, do thị trường Việt Nam tồn tại mức độ phi hiệu quả thông tin lớn hơn, tạo dư địa cho các thuật toán học máy khai thác phần bù rủi ro.

Đóng góp lý thuyết và khung phân tích

Đóng góp cho lý thuyết

Luận án mở rộng Lý thuyết Danh mục Đầu tư Hiện đại của Harry Markowitz (1952) sang miền cấu trúc dữ liệu chuỗi thời gian tài chính phi tuyến tính và bất đối xứng tại các nền kinh tế đang chuyển đổi. Cụ thể:

Luận án thách thức giả định nền tảng của mô hình MV truyền thống về tính chuẩn tắc đối xứng của chuỗi lợi suất và tính ổn định tĩnh của ma trận hiệp phương sai. Bằng chứng thực nghiệm khẳng định rằng việc ước lượng tham số thuần túy dựa trên trung bình mẫu lịch sử khiến bài toán tối ưu rơi vào bẫy quá khớp (Kinn, 2018).

                      CƠ CHẾ ĐÁNH ĐỔI ĐỘ CHỆCH - PHƯƠNG SAI TRONG QUẢN TRỊ DANH MỤC
+---------------------------------------------------------------------------------------------------+
|  Mô hình MV Cổ điển (Markowitz, 1952)      --->  Ước lượng OLS: Độ chệch = 0, Phương sai MẪU LỚN  |
|  ==> Dễ bị quá khớp (overfitting), hiệu suất ngoài mẫu (out-of-sample) suy giảm nghiêm trọng.     |
+---------------------------------------------------------------------------------------------------+
                                                  |
                                                  v  (Áp dụng Toán tử Phạt Chuẩn L1 / LSTM)
+---------------------------------------------------------------------------------------------------+
|  Mô hình ML-MV (Bùi Quốc Hoàn, 2024)       --->  Chấp nhận Độ chệch > 0 để Giảm mạnh Phương sai  |
|  ==> Tối ưu hóa tổng sai số ngoài mẫu: E[(w - w*)^2] = Bias^2 + Variance (Đạt tính vững bền)     |
+---------------------------------------------------------------------------------------------------+

Công trình chứng minh cơ chế đánh đổi giữa độ chệch và phương sai (Bias-Variance Tradeoff) của Tibshirani (1996) trong không gian tài chính: việc chấp nhận một lượng chệch nhỏ có kiểm soát thông qua hàm phạt chuẩn $L_1$ hoặc không gian biểu diễn ẩn của mạng LSTM sẽ triệt tiêu đáng kể phương sai ước lượng của các trọng số danh mục ngoài mẫu, qua đó tối ưu hóa tổng sai số dự báo:

$$\mathbb{E}\left[(\hat{\mathbf{w}} - \mathbf{w}^*)^2\right] = \text{Bias}(\hat{\mathbf{w}})^2 + \text{Var}(\hat{\mathbf{w}})$$

Luận án tạo ra bước chuyển dịch mô thức (paradigm shift) từ phương pháp tiếp cận tham số tĩnh (static parametric estimation) sang phương pháp tiếp cận thích ứng dữ liệu động (dynamic data-adaptive estimation), tích hợp năng lực tự học của mạng nơ-ron sâu vào quy hoạch toán học lồi.

Khung phân tích độc đáo

Khung phân tích của luận án tích hợp 3 trụ cột lý thuyết: MPT (Markowitz, 1952), Lý thuyết Học máy Thống kê (Statistical Machine Learning) và Lý thuyết Mạng nơ-ron Học sâu (Deep Learning). Ba hướng tiếp cận được thiết kế tương ứng nhằm giải quyết các khiếm khuyết nội tại của mô hình MV:

                            KHUNG PHÂN TÍCH BA TRỤ CỘT CỦA LUẬN ÁN
+---------------------------------------------------------------------------------------------------+
|                                 KHÔNG GIAN TÀI SẢN BAN ĐẦU (HOSE)                                 |
+---------------------------------------------------------------------------------------------------+
          |                                        |                                      |
          v (Hướng 1)                              v (Hướng 2)                            v (Hướng 3)
+------------------------+             +------------------------+             +---------------------+
| PHÂN CỤM CHUỖI THỜI    |             | DỰ BÁO LỢI SUẤT HỌC SÂU|             | CHÍNH QUY HÓA LASSO |
| GIAN PHÂN CẤP (MTS)    |             | BỘ NHỚ NGẮN-DÀI (LSTM) |             | PHẠT CHUẨN L1       |
+------------------------+             +------------------------+             +---------------------+
| Đại diện bởi 2 chuỗi:  |             | Kiến trúc LSTM 3 cổng: |             | Thêm số hạng phạt:  |
| Lợi suất & Độ biến động|             | Input, Forget, Output  |             | lambda * ||w||_1    |
| Khoảng cách Pearson:   |             | Dự báo ngoài mẫu r_t+1 |             | Triệt tiêu trọng số |
| d = sqrt(2*(1 - rho))  |             | Tích hợp vào vector mu |             | nhỏ, tạo độ thưa    |
+------------------------+             +------------------------+             +---------------------+
          |                                        |                                      |
          +----------------------------------------+--------------------------------------+
                                                   |
                                                   v
                         +--------------------------------------------------+
                         |      MÔ HÌNH TỐI ƯU HÓA TRUNG BÌNH - PHƯƠNG SAI  |
                         |  min (1/2) w^T Sigma w  s.t.  mu^T w >= r_P,     |
                         |  w^T 1_N = 1,  w_i >= 0 (Phi bán khống)          |
                         +--------------------------------------------------+
                                                   |
                                                   v
                         +--------------------------------------------------+
                         |      HỆ THỐNG CHỈ SỐ ĐÁNH GIÁ HIỆU SUẤT          |
                         |  Lợi suất: r_cum, m   | Rủi ro: s, VaR 5%, CVaR 5%|
                         |  Điều chỉnh rủi ro: Sharpe Ratio, IR, Turnover   |
                         +--------------------------------------------------+

1. Hướng 1 - Giảm chiều qua phân cụm chuỗi thời gian (MTS-MV): Sử dụng phương pháp phân cụm phân cấp (Hierarchical Clustering) dựa trên ma trận khoảng cách tương quan Pearson: $$d_{ij} = \sqrt{2(1 - \rho_{ij})}$$ Mỗi cổ phiếu được mô tả đồng thời bởi hai thuộc tính chuỗi thời gian: chuỗi lợi suất và chuỗi độ biến động lịch sử, từ đó trích chọn các đại diện tối ưu trong từng cụm để đưa vào bài toán MV.
2. Hướng 2 - Tích hợp thông tin dự báo phi tuyến (LSTM-MV): Sử dụng kiến trúc mạng LSTM gồm 3 cổng (cổng quên $f_t$, cổng vào $i_t$, cổng ra $o_t$) và trạng thái ô $C_t$ để trích xuất tín hiệu phụ thuộc dài hạn: $$f_t = \sigma(W_f [h_{t-1}, x_t] + b_f)$$ $$i_t = \sigma(W_i [h_{t-1}, x_t] + b_i)$$ $$\tilde{C}t = \tanh(W_c [h{t-1}, x_t] + b_c)$$ $$C_t = f_t * C_{t-1} + i_t * \tilde{C}t$$ $$o_t = \sigma(W_o [h{t-1}, x_t] + b_o)$$ $$h_t = o_t * \tanh(C_t)$$ Giá trị lợi suất dự báo $\hat{r}_{t+1}$ được kết hợp cùng dữ liệu lịch sử để tái cấu trúc vectơ $\boldsymbol{\mu}$, trực tiếp bù đắp lượng thiếu hụt thông tin ngoài mẫu.
3. Hướng 3 - Kiểm soát quá khớp bằng chính quy hóa Lasso (Lasso-MV): Bổ sung số hạng phạt chuẩn $L_1$ vào bài toán tối thiểu hóa phương sai danh mục: $$\min_{\mathbf{w}} \left{ \frac{1}{2} \mathbf{w}^T \boldsymbol{\Sigma} \mathbf{w} + \lambda |\mathbf{w}|_1 \right} \quad \text{s.t.} \quad \boldsymbol{\mu}^T \mathbf{w} \geq r_P, \quad \mathbf{w}^T \mathbf{1}_N = 1, \quad w_i \geq 0$$ Tham số điều hòa $\lambda$ được tinh chỉnh tối ưu thông qua kỹ thuật xác thực chéo chuỗi thời gian (Time-series Cross-Validation).

Điều kiện biên (boundary conditions) của mô hình được xác định rõ: áp dụng cho danh mục đơn kỳ có tái cân bằng định kỳ, không cho phép bán khống ($w_i \geq 0$) và ràng buộc toàn bộ ngân sách ($\sum w_i = 1$).

Phương pháp nghiên cứu tiên tiến

Thiết kế nghiên cứu

Luận án tuân thủ triết lý thực chứng luận định lượng (Quantitative Positivism), vận dụng phương pháp nghiên cứu tại bàn (Secondary Desk Research) kết hợp mô hình hóa toán học và tính toán khoa học dữ liệu.

Thiết kế nghiên cứu thực nghiệm đa tầng được phân đoạn thành 3 chế độ thị trường riêng biệt nhằm cô lập tác động của các cú sốc vĩ mô:

• Giai đoạn 1 (2008 - 2012): Khủng hoảng tài chính toàn cầu, thị trường suy thoái sâu và biến động cực đoan.
• Giai đoạn 2 (2013 - 2019): Giai đoạn tái cấu trúc, thị trường phục hồi và tăng trưởng bình ổn.
• Giai đoạn 3 (2020 - 2022): Giai đoạn xuất hiện các cú sốc phi tuyến từ đại dịch Covid-19 và biến động thanh khoản.

Quy trình nghiên cứu rigorous

Quy trình kiểm định ngoài mẫu (out-of-sample testing) được thiết kế nghiêm ngặt theo kỹ thuật cửa sổ cuộn (rolling window) nhằm loại bỏ hoàn toàn thiên kiến nhìn thấy trước tương lai (look-ahead bias):

                        QUY TRÌNH CỬA SỔ CUỘN (ROLLING WINDOW PIPELINE)
===================================================================================================
Cửa sổ 1: [--- Huấn luyện & Tối ưu: 496 ngày (~2 năm) ---] [ Test: 21 ngày (~1 tháng) ]
                                                            |
                                      +---------------------+ (Dịch chuyển tịnh tiến 21 ngày)
                                      v
Cửa sổ 2:        [--- Huấn luyện & Tối ưu: 496 ngày (~2 năm) ---] [ Test: 21 ngày (~1 tháng) ]
                                                                  |
                                            +---------------------+ (Dịch chuyển tịnh tiến 21 ngày)
                                            v
Cửa sổ k:              [--- Huấn luyện & Tối ưu: 496 ngày (~2 năm) ---] [ Test: 21 ngày (~1 tháng) ]
===================================================================================================

• Quy mô cửa sổ mẫu: Mỗi cửa sổ huấn luyện gồm 496 ngày giao dịch lịch sử (tương đương 2 năm giao dịch chuẩn) để ước lượng tham số và tối ưu hóa trọng số.
• Giai đoạn kiểm tra ngoài mẫu: Danh mục tối ưu thu được được nắm giữ cố định trong 21 ngày giao dịch tiếp theo (tương đương 1 tháng đầu tư thực tế) và ghi nhận chuỗi lợi suất thực tế.
• Cơ chế dịch chuyển: Sau mỗi chu kỳ 21 ngày, cửa sổ trượt tịnh tiến 21 ngày về phía trước, loại bỏ 21 ngày cũ nhất và tích hợp 21 ngày mới nhất vào tập huấn luyện. Chuỗi lợi suất tổng thể là sự ghép nối liên tục của các giai đoạn kiểm tra ngoài mẫu.
• Quy trình xác thực chéo (Cross-Validation): Việc xác định siêu tham số $\lambda$ trong Lasso tuân thủ nghiêm ngặt tính đơn điệu thời gian, không xáo trộn ngẫu nhiên dữ liệu để bảo toàn tính nhân quả của chuỗi tài chính.

Data và phân tích

Dữ liệu đầu vào là giá đóng cửa điều chỉnh hàng ngày của các cổ phiếu giao dịch trên sàn HOSE, được xử lý thành chuỗi lợi suất logarit có tính chất cộng tính:

$$r_{i,t} = \ln\left(\frac{p_{i,t}}{p_{i,t-1}}\right)$$

Hạ tầng tính toán sử dụng ngôn ngữ Python với hai nền tảng chuyên dụng:

• Thư viện Riskfolio-Lib dùng để xây dựng cấu trúc danh mục và đường biên hiệu quả.
• Bộ giải MOSEK Solver xử lý các bài toán quy hoạch toán học lồi toàn phương và quy hoạch nón bậc hai (SOCP) có ràng buộc chuẩn $L_1$.

Hệ thống chỉ số đo lường hiệu suất toàn diện bao gồm:

Phát hiện đột phá và implications

Những phát hiện then chốt

Kết quả thực nghiệm trên chuỗi số liệu 15 năm tại sàn HOSE ghi nhận 4 phát hiện mang tính bước ngoặt:

                  SO SÁNH ĐẶC TÍNH HIỆU SUẤT GIỮA CÁC PHƯƠNG PHÁP QUẢN TRỊ DANH MỤC
+---------------------+-----------------------+-----------------------+-------------------------+
| Phương Pháp         | Lợi Suất Tích Lũy     | Độ Lệch Chuẩn (s)     | Rủi Ro Đuôi (VaR, CVaR) |
+---------------------+-----------------------+-----------------------+-------------------------+
| MV Tiêu Chuẩn       | Thấp / Cơ sở          | Thấp nhất             | Thấp nhất               |
| MTS-MV (Phân Cụm)   | Cao (giai đoạn ổn định)| Trung bình            | Trung bình              |
| Lasso (Chính Quy)   | Trung bình            | Thấp - Trung bình     | Thấp - Trung bình       |
| LSTM-MV (Học Sâu)   | CAO NHẤT TOÀN DIỆN    | Cao nhất              | Cao nhất                |
+---------------------+-----------------------+-----------------------+-------------------------+

1. Sự vượt trội có ý nghĩa thống kê của Học máy: Trong cả 3 giai đoạn nghiên cứu (2008 - 2012, 2013 - 2019, 2020 - 2022), danh mục có lợi suất tích lũy cao nhất thuộc về nhóm Học máy (đặc biệt là LSTM-MV) và đều vượt trội hơn danh mục MV tiêu chuẩn. Kiểm định thống kê t-test và Welch test khẳng định sự khác biệt về lợi suất trung bình và lợi suất tích lũy giữa mô hình ML-MV và MV có ý nghĩa thống kê ở mức $p < 0.05$.
2. Quy mô vượt trội vượt bậc tại thị trường cận biên: Biên độ vượt trội về lợi suất tích lũy của mô hình ML-MV so với MV tiêu chuẩn tại Việt Nam lớn hơn đáng kể so với kết quả thu được trong các nghiên cứu tại thị trường phát triển (như Brodie et al., 2009 trên thị trường Mỹ). Điều này phản ánh mức độ phi hiệu quả dạng yếu của TTCK Việt Nam, tạo cơ hội cho thuật toán máy học khai thác thặng dư lợi suất.
3. Phát hiện nghịch lý về rủi ro đuôi (Counter-intuitive Finding): Mặc dù mang lại lợi suất trung bình và tỷ số Sharpe cao hơn trong dài hạn, toàn bộ các danh mục Học máy đều ghi nhận giá trị độ lệch chuẩn ($s$), giá trị chịu rủi ro ($VaR_{5%}$) và tổn thất kỳ vọng ($CVaR_{5%}$) lớn hơn so với danh mục MV tiêu chuẩn. Điều này chỉ ra rằng mô hình Học máy tối ưu hóa lợi suất dài hạn bằng cách chấp nhận mở rộng biên độ biến động ngắn hạn.
4. Sự phân hóa hiệu năng theo chế độ thị trường:
   • Trong thị trường bình thường (2013 - 2019): Cả MTS-MV và LSTM-MV đều thể hiện sức mạnh vượt bậc so với MV.
   • Trong thị trường biến động mạnh và có cú sốc (2008 - 2012, 2020 - 2022): Chỉ duy nhất mô hình LSTM-MV duy trì được tính ưu việt ổn định nhờ năng lực học sâu phi tuyến. Ngược lại, mô hình phân cụm MTS-MV và chính quy hóa Lasso bộc lộ sự suy giảm hiệu quả, cho kết quả tương đương hoặc kém hơn danh mục MV tiêu chuẩn.

Implications đa chiều

• Hàm ý lý thuyết: Bác bỏ tính phổ quát của mô hình Markowitz đơn thuần tại thị trường cận biên; đặt nền móng lý thuyết cho việc kết hợp bắt buộc giữa mô hình học sâu phi tuyến và tối ưu hóa lồi có ràng buộc trong điều kiện dữ liệu có phân phối đuôi dày (fat-tailed distribution).
• Hàm ý phương pháp luận: Thiết lập quy chuẩn thực nghiệm mẫu chuẩn mực với quy trình Rolling Window (496 ngày mẫu / 21 ngày kiểm tra) cho phép kiểm định độ bền vững (robustness) của các thuật toán giao dịch định lượng tại các thị trường mới nổi.
• Hàm ý thực tiễn đầu tư:
  • Các nhà quản lý quỹ và nhà đầu tư tổ chức nên triển khai mô hình đa chiến lược linh hoạt (regime-switching strategy): sử dụng mô hình phân cụm MTS-MV trong các chu kỳ kinh tế vĩ mô ổn định để tiết giảm chi phí tính toán và luân chuyển danh mục ($TO$ thấp); chuyển dịch sang mô hình mạng nơ-ron LSTM-MV khi thị trường bước vào giai đoạn biến động mạnh để tối ưu hóa việc phân bổ tài sản.
  • Cần áp dụng bắt buộc các công cụ phòng ngừa rủi ro phái sinh (hedging) đi kèm danh mục ML-MV nhằm triệt tiêu phần bù rủi ro đuôi ($VaR, CVaR$ cao).
• Hàm ý chính sách: Ủy ban Chứng khoán Nhà nước (UBCKNN) và các Sở GDCK cần đẩy nhanh tiến trình nâng hạng thị trường từ cận biên lên mới nổi, hoàn thiện khung pháp lý cho giao dịch thuật toán (algorithmic trading), phát triển thị trường phái sinh đa dạng và cung cấp cơ chế bán khống có kiểm soát nhằm tăng cường tính thanh khoản và hiệu quả định giá của toàn hệ thống.

Limitations và Future Research

Luận án thừa nhận một số hạn chế khách quan:

1. Giả định thị trường không ma sát: Luận án chưa đưa vào hàm mục tiêu các biến số thực tế như thuế thu nhập, chi phí hoa hồng giao dịch thực tế và độ trượt giá (slippage) phát sinh từ các lệnh khớp quy mô lớn.
2. Giới hạn tính toán của mô hình LSTM: Do chi phí điện toán của mạng nơ-ron sâu rất lớn, mô hình LSTM trong luận án chưa được thực thi theo kỹ thuật cửa sổ cuộn cập nhật hàng tháng như MTS và Lasso, mà được phân tách thành tập huấn luyện và kiểm tra tĩnh theo giai đoạn.
3. Phạm vi dữ liệu: Nghiên cứu chỉ tập trung vào dữ liệu giá đóng cửa trên sàn HOSE, chưa tích hợp dữ liệu vĩ mô tần suất cao, dữ liệu tâm lý thị trường (market sentiment) từ tin tức báo chí mạng xã hội, hoặc dữ liệu sổ lệnh chi tiết (Limit Order Book).

Chương trình nghiên cứu tiếp nối (Future Research Agenda):

• Mở rộng kiến trúc mạng: Ứng dụng mô hình Transformer và cơ chế Attention (như Temporal Fusion Transformer) nhằm nâng cao độ chính xác dự báo chuỗi thời gian tài chính.
• Hàm mục tiêu đa tiêu chí phi cân xứng: Tích hợp trực tiếp các thước đo rủi ro đuôi phi đối xứng ($CVaR$, Downside Semi-variance, Conditional Drawdown at Risk - CDaR) vào hàm mục tiêu của mô hình học máy thay cho phương sai truyền thống.
• Tích hợp chi phí giao dịch: Thiết lập bài toán tối ưu hóa có hàm phạt luân chuyển danh mục (Turnover-penalized ML-MV optimization) nhằm đảm bảo tính khả thi thương mại tuyệt đối.
• Kiểm định liên thị trường: Mở rộng tập thực nghiệm sang các thị trường cận biên và mới nổi khác trong khu vực ASEAN (Thái Lan, Indonesia, Malaysia, Philippines).

Tác động và ảnh hưởng

• Tác động học thuật (Academic Impact): Đóng góp hệ thống bằng chứng thực nghiệm quy mô lớn đầu tiên về hiệu quả của ML-MV tại TTCK Việt Nam; tạo tài liệu tham khảo chuẩn mực cho các công trình nghiên cứu sau đại học về toán tài chính và kinh tế học tính toán.
• Chuyển đổi ngành quản lý quỹ (Industry Transformation): Mở đường cho các công ty quản lý quỹ nội địa (Dragon Capital, VinaCapital, SSIAM) xây dựng các quỹ đầu tư định lượng (Quantitative Funds), quỹ ETF thông minh (Smart Beta ETF) và phát triển hệ sinh thái cố vấn tài chính tự động (Robo-Advisors).
• Tác động chính sách (Policy Influence): Cung cấp cơ sở khoa học định lượng giúp các nhà hoạch định chính sách tại Bộ Tài chính và UBCKNN đánh giá mức độ rủi ro hệ thống tiềm ẩn khi dòng vốn thuật toán gia tăng tỷ trọng trên thị trường.
• Lợi ích xã hội (Societal Benefits): Nâng cao năng lực phân bổ vốn hiệu quả của nền kinh tế, gia tăng tỷ suất sinh lời điều chỉnh theo rủi ro cho các quỹ hưu trí và tài sản tài chính của công chúng đầu tư.

Đối tượng hưởng lợi

• Nghiên cứu sinh & Nhà nghiên cứu trẻ: Tiếp cận khung phương pháp luận kết hợp khoa học dữ liệu và tài chính định lượng, các khoảng trống nghiên cứu cụ thể về mô hình học máy tại thị trường cận biên.
• Giảng viên & Nhà khoa học cao cấp: Nguồn học liệu thực nghiệm phong phú phục vụ công tác giảng dạy cao học các môn Toán kinh tế, Kinh tế lượng tài chính và Quản trị danh mục nâng cao.
• Chuyên gia phân tích R&D tại các định chế tài chính: Hệ thống mã nguồn và quy trình toán học ứng dụng trực tiếp vào việc thiết kế sản phẩm đầu tư định lượng, chiến lược giao dịch tự động.
• Cơ quan quản lý thị trường: Luận cứ khoa học để xây dựng chính sách quản lý giao dịch máy tính và giám sát biến động bất thường của thị trường vốn.

Câu hỏi chuyên sâu

1. Đóng góp lý thuyết độc đáo nhất của luận án là gì và đã mở rộng lý thuyết nào?

Đóng góp lý thuyết độc đáo nhất là việc mở rộng Lý thuyết Danh mục Hiện đại (MPT) của Markowitz (1952) bằng việc chứng minh cơ chế Bias-Variance Tradeoff trong quản trị danh mục tại thị trường cận biên. Luận án chỉ ra rằng sự kết hợp giữa mô hình MV và các thuật toán học máy (đặc biệt là LSTM) khắc phục căn bản lỗi ước lượng tham số ma trận hiệp phương sai mẫu và hiện tượng quá khớp (overfitting) của phương pháp OLS truyền thống (Kinn, 2018).

2. Điểm cải tiến phương pháp luận so với các nghiên cứu quốc tế trước đây?

So với Brodie et al. (2009) và Zhang et al. (2022) chỉ nghiên cứu đơn lẻ một kỹ thuật trên thị trường phát triển, luận án thiết lập một ma trận đối sánh toàn diện 3 phương pháp đại diện cho 3 hướng tiếp cận học máy (MTS - Giảm chiều; LSTM - Học sâu dự báo; Lasso - Chính quy hóa) xuyên suốt 3 chế độ thị trường với quy trình Rolling Window nghiêm ngặt (496 ngày mẫu / 21 ngày kiểm tra) trên nền tảng Riskfolio-Lib và MOSEK.

3. Phát hiện thực nghiệm nào bất ngờ nhất và bằng chứng dữ liệu hỗ trợ?

Phát hiện bất ngờ nhất là danh mục ML-MV tuy vượt trội bền vững về lợi suất tích lũy dài hạn nhưng lại luôn chịu mức rủi ro phân tán ($s$) và rủi ro đuôi ($VaR_{5%}, CVaR_{5%}$) cao hơn danh mục MV tiêu chuẩn trong mọi giai đoạn. Ví dụ, trong giai đoạn 2013 - 2019, dù lợi suất tích lũy của LSTM-MV vượt trội rõ rệt nhưng mức độ biến động ngắn hạn và tổn thất kỳ vọng cũng gia tăng tương ứng, đòi hỏi sự đánh đổi rủi ro có ý thức của nhà đầu tư.

4. Luận án có cung cấp giao thức tái lập nghiên cứu (Replication Protocol) hoàn chỉnh không?

Hoàn toàn có. Luận án mô tả chi tiết nguồn dữ liệu HOSE chuẩn hóa từ Vietstock, lãi suất trái phiếu chính phủ chuẩn, công thức toán học từng hàm mục tiêu, mã nguồn thuật toán Python, thư viện Riskfolio-Lib, bộ giải tối ưu MOSEK và quy tắc tịnh tiến cửa sổ mẫu đảm bảo khả năng tái lập độc lập 100%.

5. Khung chương trình nghiên cứu 10 năm được định hình từ luận án?

Lộ trình phát triển 10 năm tập trung vào: (1) Tích hợp mô hình Học tăng cường sâu (Deep Reinforcement Learning) trong phân bổ tài sản liên tục; (2) Ứng dụng Graph Neural Networks (GNN) mô hình hóa mạng lưới liên kết chéo giữa các tập đoàn niêm yết; (3) Tích hợp mô hình ngôn ngữ lớn tài chính (Financial LLMs) xử lý dữ liệu phi cấu trúc theo thời gian thực kết hợp tối ưu hóa danh mục đa mục tiêu.

Kết luận

Luận án tiến sĩ của NCS. Bùi Quốc Hoàn đã khẳng định 6 đóng góp then chốt:

1. Xác lập hệ thống cơ sở lý luận và bằng chứng thực nghiệm vững chắc về tính ưu việt của phương pháp tiếp cận Học máy kết hợp mô hình Markowitz (ML-MV) trên thị trường chứng khoán Việt Nam.
2. Giải quyết thành công hai bài toán nghẽn kinh điển của MPT: giảm thiểu sai số ước lượng tham số đầu vào và triệt tiêu hiện tượng quá khớp (overfitting) ngoài mẫu.
3. Cung cấp bằng chứng thực nghiệm đầu tiên về sự phân hóa hiệu năng của các thuật toán học máy dưới các chế độ thị trường bất đối xứng (khủng hoảng, bình ổn, đại dịch).
4. Khẳng định tính ưu việt ổn định của mạng nơ-ron hồi quy phi tuyến LSTM-MV trong việc xử lý các cú sốc cấu trúc tài chính phức tạp.
5. Chỉ ra phát hiện mang tính quy luật về sự đánh đổi giữa gia tăng lợi suất tích lũy dài hạn và sự mở rộng của rủi ro đuôi ngắn hạn ($VaR, CVaR$).
6. Xây dựng bộ giải pháp định lượng hoàn chỉnh, khả thi cao, đóng góp trực tiếp vào sự phát triển của ngành quản lý tài sản định lượng tại Việt Nam.

Công trình tạo lập bước tiến học thuật quan trọng, mở ra các hướng nghiên cứu liên ngành đột phá giữa Toán học ứng dụng, Khoa học dữ liệu và Kinh tế học tài chính trong kỷ nguyên số hóa thị trường vốn.