Nghiên cứu của Trần Đức Nhuận: Xây dựng mô hình dự đoán và tự động điều chỉnh tài nguyên ĐTĐM
Mô hình dự đoán tiêu thụ và tự động co dãn tài nguyên trong môi trường phân tán, tối ưu hiệu quả và chi phí vận hành.
Luan An
Luận văn thạc sĩ
Năm xuất bản
Số trang
61
Thời gian đọc
10 phút
Lượt xem
0
Lượt tải
0
Phí lưu trữ
40 Point
Tổng quan nhanh
- Chủ đề:
- 1. Dự đoán tiêu thụ tài nguyên trong điện toán đám mây
- Số trang:
- 61 trang
- Trường:
- Đại học Bách khoa Hà Nội
- Chuyên ngành:
- Hệ thống thông tin
- Tác giả:
- Trần Đức Nhuận
- Năm:
- 2018
Tóm tắt nội dung luận án
I. Dự đoán tiêu thụ tài nguyên trong điện toán đám mây
Điện toán đám mây cung cấp hạ tầng tính toán linh hoạt theo mô hình trả phí theo nhu cầu sử dụng (pay-as-you-go). Doanh nghiệp có thể điều chỉnh dung lượng máy chủ theo lưu lượng thực tế. Tuy nhiên, lưu lượng truy cập luôn biến động bất thường và khó lường trước. Tình trạng cấp phát thừa tài nguyên gây lãng phí ngân sách vận hành và điện năng. Ngược lại, việc cấp phát thiếu dẫn đến tắc nghẽn hệ thống và làm giảm trải nghiệm người dùng. Do đó, việc xây dựng mô hình dự đoán tiêu thụ tài nguyên đóng vai trò then chốt. Giải pháp này giúp xác định chính xác nhu cầu tính toán trong các khoảng thời gian tiếp theo. Hệ thống đám mây sẽ chủ động phân bổ tài nguyên mà không cần can thiệp thủ công.
1.1. Thách thức phân bổ tài nguyên theo mô hình Pay As You Go
Mô hình thanh toán pay-as-you-go mang lại lợi thế tài chính lớn cho doanh nghiệp. Khách hàng chỉ trả tiền cho lượng tài nguyên thực tế đã tiêu thụ. Tuy nhiên, việc ước tính chính xác nhu cầu máy ảo là một bài toán phức tạp. Khối lượng công việc đám mây thường có tính chu kỳ, tính xu hướng và những đợt đột biến bất ngờ. Nếu hệ thống phản ứng chậm, hiệu năng ứng dụng sẽ suy giảm nghiêm trọng. Việc thiếu hụt tài nguyên tính toán khiến các tiến trình bị đình trệ. Ngược lại, duy trì quá nhiều máy ảo dự phòng làm tăng chi phí hạ tầng không cần thiết. Nhà cung cấp dịch vụ và người thuê hạ tầng đều cần giải pháp phân bổ tối ưu. Cân bằng giữa hiệu năng và chi phí là thách thức lớn nhất trong môi trường phân tán hiện nay.
1.2. Vai trò của dự báo tải điện toán đám mây đối với QoS
Dự báo tải điện toán đám mây (Cloud workload forecasting) là tiền đề để duy trì chất lượng dịch vụ (QoS). Các chỉ số QoS quan trọng bao gồm thời gian phản hồi, độ trễ và thông lượng xử lý. Khi dự báo chính xác khối lượng công việc, quản trị viên có thể lên kế hoạch điều phối trước. Hệ thống loại bỏ hoàn toàn độ trễ khởi động của máy ảo mới. Các nút tính toán được chuẩn bị sẵn sàng trước khi lưu lượng truy cập đạt đỉnh. Quá trình xử lý yêu cầu diễn ra liên tục, mượt mà và không bị gián đoạn. Dự báo tải chính xác giúp doanh nghiệp bảo vệ uy tín thương hiệu và nâng cao sự hài lòng của khách hàng. Đây là nền tảng cốt lõi cho mọi chiến lược tự động hóa hạ tầng đám mây.
II. Mô hình chuỗi thời gian tối ưu hóa dự báo tải đám mây
Dữ liệu giám sát tài nguyên máy ảo bản chất là dữ liệu chuỗi thời gian liên tục. Các thông số như tỷ lệ CPU, bộ nhớ RAM, lưu lượng mạng thay đổi theo từng giây. Do đó, áp dụng các mô hình chuỗi thời gian (Time-series forecasting models) là hướng tiếp cận tự nhiên và khoa học. Phương pháp này phân tích các mẫu hình lịch sử để ngoại suy hành vi tương lai. Các kỹ thuật thống kê truyền thống kết hợp cùng thuật toán trí tuệ nhân tạo hiện đại giúp nâng cao độ chính xác. Hệ thống có thể phát hiện quy luật lặp lại hàng ngày, hàng tuần hoặc các đột biến cục bộ. Việc lựa chọn mô hình phù hợp quyết định trực tiếp đến hiệu quả quản trị toàn bộ cụm máy chủ phân tán.
2.1. Phân loại các mô hình chuỗi thời gian trong dự đoán tải
Các phương pháp dự báo chuỗi thời gian truyền thống gồm mô hình tự quy hồi ARIMA, làm mịn hàm mũ Holt-Winters và hồi quy tuyến tính. Những mô hình này tính toán nhanh và phù hợp với dữ liệu tuyến tính đơn giản. Tuy nhiên, dữ liệu tải đám mây chứa nhiều yếu tố phi tuyến và nhiễu ngẫu nhiên. Các mô hình thống kê cổ điển thường bộc lộ sai số lớn khi đối mặt với các đợt tăng tải đột ngột. Sự xuất hiện của máy học như Support Vector Regression (SVR) và Random Forest đã cải thiện đáng kể khả năng học mẫu phi tuyến. Dẫu vậy, việc trích xuất đặc trưng thủ công vẫn là rào cản lớn đối với các tập dữ liệu đa chiều quy mô lớn.
2.2. Sự phát triển của mô hình Transformer cho dự báo tải
Mô hình Transformer cho dự báo tải (Cloud workload Transformer) đang trở thành xu hướng nghiên cứu đột phá. Kiến trúc cơ chế tự chú ý (Self-Attention) cho phép mô hình nắm bắt các mối tương quan chuỗi dài vượt trội. Transformer phân tích toàn diện bối cảnh lịch sử mà không gặp hiện tượng suy giảm gradient như mạng hồi quy truyền thống. Cơ chế xử lý song song giúp rút ngắn thời gian huấn luyện trên các tập dữ liệu giám sát khổng lồ. Mô hình có khả năng dự đoán chính xác cả xu hướng dài hạn lẫn các biến động tức thời. Việc tích hợp Transformer vào hệ thống đám mây mở ra tiềm năng tối ưu hóa tài nguyên tự động ở cấp độ vi mô và vĩ mô.
III. Cấp phát tài nguyên động và tự động mở rộng quy mô
Cấp phát tài nguyên động (Dynamic resource provisioning) là cơ chế phân bổ tài nguyên linh hoạt theo thời gian thực. Cơ chế phản ứng truyền thống (Reactive scaling) chỉ kích hoạt khi mức tải vượt ngưỡng định sẵn. Cách tiếp cận này thường gây trễ vì hệ điều hành mất vài phút để khởi tạo máy ảo mới. Trong khoảng thời gian chờ đó, hệ thống rất dễ bị quá tải. Ngược lại, kỹ thuật tự động mở rộng quy mô dự đoán (Proactive auto-scaling) dựa trên dự báo để điều phối tài nguyên trước. Máy ảo và container được kích hoạt hoặc giải phóng đúng thời điểm cần thiết. Sự kết hợp nhịp nhàng này mang lại hiệu quả vận hành vượt trội cho toàn bộ hệ sinh thái.
3.1. Cơ chế tự động mở rộng quy mô dự đoán Proactive Auto scaling
Tự động mở rộng quy mô dự đoán khắc phục triệt để nhược điểm chậm trễ của phương pháp phản ứng thụ động. Hệ thống liên tục thu thập dữ liệu giám sát và đưa vào mô hình học máy. Thuật toán dự đoán trước nhu cầu tài nguyên trong 5, 10 hoặc 15 phút tới. Khi dự báo lượng tải tăng cao, bộ điều phối lập tức gửi lệnh bổ sung máy ảo. Khi lưu lượng giảm dần, hệ thống nhẹ nhàng giải phóng các tài nguyên dư thừa. Quá trình co giãn diễn ra mượt mà, không gây lãng phí dung lượng nhàn rỗi. Ứng dụng luôn duy trì trạng thái ổn định ngay cả trong những khung giờ cao điểm nhất.
3.2. Cấp phát tài nguyên động và giảm thiểu vi phạm SLA
Cam kết chất lượng dịch vụ (SLA) là hợp đồng pháp lý bắt buộc giữa nhà cung cấp đám mây và khách hàng. Vi phạm SLA dẫn đến việc bồi thường tài chính và làm suy giảm uy tín doanh nghiệp nghiêm trọng. Các vi phạm thường xảy ra do thiếu hụt tài nguyên khi lưu lượng tăng đột ngột. Cấp phát tài nguyên động dựa trên dự đoán giúp giảm thiểu vi phạm SLA (SLA violation mitigation) một cách chủ động. Hệ thống duy trì độ sẵn sàng cao và giữ độ trễ trong ngưỡng an toàn cho phép. Mọi tác vụ được phân bổ năng lực tính toán đầy đủ để hoàn thành đúng thời hạn cam kết. Quản trị viên hoàn toàn yên tâm về tính ổn định của hạ tầng dịch vụ.
IV. Học sâu trong quản lý tài nguyên và giải pháp MF LSTM
Học sâu trong quản lý tài nguyên (Deep learning resource management) đem lại bước tiến vượt bậc cho các trung tâm dữ liệu hiện đại. Khả năng tự động trích xuất đặc trưng phức tạp giúp mạng nơ-ron học được các quy luật sử dụng tài nguyên tiềm ẩn. Luận văn đề xuất kiến trúc Multivariate Fuzzy Long Short-Term Memory (MF-LSTM). Mô hình tích hợp kỹ thuật mờ hóa (fuzzy logic), đo độ tương quan entropy và mạng LSTM nhiều tầng. Sự kết hợp này giúp xử lý triệt để tính bất định và nhiễu trong chuỗi dữ liệu thực tế. Nhờ đó, chất lượng dự báo đạt độ chính xác cao hơn hẳn các mô hình truyền thống trên các tập dữ liệu quy mô lớn.
4.1. Ứng dụng mạng nơ ron LSTM và GRU trong phân tích dữ liệu
Mạng nơ-ron LSTM và GRU (Long Short-Term Memory / Gated Recurrent Unit) là hai kiến trúc học sâu xuất sắc cho dữ liệu tuần tự. Mạng RNN cổ điển thường gặp hiện tượng mất mát gradient khi xử lý chuỗi dữ liệu dài. LSTM khắc phục điểm yếu này nhờ các cổng đóng mở thông tin: cổng quên, cổng vào và cổng ra. GRU là biến thể tinh gọn hơn với cổng cập nhật và cổng thiết lập lại, giúp giảm thời gian huấn luyện. Cả hai kiến trúc đều ghi nhớ hoàn hảo các mẫu hành vi chu kỳ của lưu lượng máy chủ. Chúng phân tích chính xác mối tương quan giữa CPU, RAM và lưu lượng vào ra qua mạng trong quá khứ.
4.2. Kiến trúc Multivariate Fuzzy LSTM MF LSTM xử lý chuỗi dữ liệu
Mô hình MF-LSTM kết hợp logic mờ với mạng nơ-ron hồi quy đa biến. Kỹ thuật mờ hóa giúp chuyển đổi dữ liệu chuỗi thời gian thành các tập mờ, giảm độ nhạy cảm với nhiễu cục bộ. Phân tích tương quan Entropy xác định trọng số liên kết giữa các chỉ số tài nguyên khác nhau. Cấu trúc LSTM xếp tầng (Stacked LSTM) tiếp nhận dữ liệu mờ hóa đa biến để học các biểu diễn đặc trưng sâu. Hệ thống dự báo đồng thời mức tiêu thụ CPU và dung lượng bộ nhớ trong tương lai gần. Kết quả đầu ra cung cấp căn cứ toán học chính xác để tính toán số lượng máy ảo cần khởi tạo. Mô hình duy trì tính ổn định cao trong mọi điều kiện vận hành.
4.3. Đánh giá hiệu năng học sâu trong quản lý tài nguyên với Google Cluster
Luận văn tiến hành thực nghiệm trên bộ dữ liệu thực tế trích xuất từ cụm máy chủ Google Cluster. Đây là bộ dữ liệu tiêu chuẩn phản ánh khối lượng công việc phức tạp của hàng ngàn tác vụ song song. Kết quả kiểm nghiệm thực tế chứng minh mô hình MF-LSTM vượt trội hơn hẳn các mô hình cơ sở như ARIMA và LSTM tiêu chuẩn. Các chỉ số sai số trung bình (MAE, RMSE) giảm đáng kể trên toàn bộ các chu kỳ kiểm tra. Hệ thống giảm thiểu tối đa số lượng vi phạm SLA trong khi vẫn giữ số lượng máy ảo ở mức tối thiểu. Điều này chứng minh tính ứng dụng thực tiễn cao của giải pháp trong môi trường sản xuất thực tế.
V. Tối ưu hóa CPU và RAM hướng tới điện toán đám mây xanh
Quản lý tài nguyên hiệu quả không chỉ nâng cao chất lượng dịch vụ mà còn giảm chi phí vận hành hạ tầng. Tối ưu hóa mức sử dụng CPU và RAM (CPU & Memory utilization optimization) giúp loại bỏ lãng phí tài nguyên máy chủ. Khi máy ảo hoạt động ở hiệu suất tối ưu, năng lượng tiêu thụ trên mỗi tác vụ giảm rõ rệt. Đây là bước đi chiến lược hướng tới mục tiêu điện toán đám mây xanh (Green cloud computing / Energy-aware scheduling). Sự kết hợp giữa dự đoán tải thông minh và lập lịch tiết kiệm năng lượng tạo ra hệ thống phân tán bền vững, thân thiện với môi trường và mang lại lợi ích kinh tế lâu dài cho doanh nghiệp.
5.1. Tối ưu hóa mức sử dụng CPU và RAM cho hệ thống phân tán
Trong môi trường phân tán, CPU và RAM là hai nguồn tài nguyên cốt lõi quyết định tốc độ xử lý của ứng dụng. Nếu mức sử dụng CPU vượt quá 85%, thời gian phản hồi của dịch vụ sẽ tăng vọt. Ngược lại, mức sử dụng dưới 20% gây lãng phí lớn về dung lượng máy chủ thuê bao. Mô hình dự đoán giúp duy trì tải CPU và RAM trong vùng tối ưu từ 60% đến 75%. Thuật toán tự động gom các tác vụ nhỏ vào ít nút tính toán hơn trong giờ thấp điểm. Các máy chủ nhàn rỗi được chuyển sang chế độ ngủ hoặc tắt nguồn. Nhờ đó, hiệu quả khai thác phần cứng tăng lên gấp nhiều lần.
5.2. Giải pháp điện toán đám mây xanh và lập lịch tiết kiệm năng lượng
Điện toán đám mây xanh (Green cloud computing) là xu hướng phát triển tất yếu của ngành công nghệ thông tin toàn cầu. Các trung tâm dữ liệu khổng lồ tiêu thụ lượng điện năng cực lớn và tạo ra lượng khí thải carbon đáng kể. Lập lịch nhận biết năng lượng (Energy-aware scheduling) kết hợp dự báo tải giúp cắt giảm tối đa điện năng vô ích. Hệ thống chủ động tắt các máy chủ vật lý không sử dụng mà không làm gián đoạn dịch vụ của khách hàng. Giải pháp này giúp các nhà cung cấp đám mây giảm mạnh chi phí tiền điện và chi phí làm mát trung tâm dữ liệu. Doanh nghiệp vừa đạt hiệu quả kinh tế cao vừa hoàn thành các tiêu chuẩn bảo vệ môi trường.
Mục lục chi tiết luận án
Tải xuống file đầy đủ để xem toàn bộ nội dung
Tải đầy đủ (61 trang)Nội dung chính
Tổng quan nghiên cứu
Điện toán đám mây (ĐTĐM) đã trở thành một mô hình nền tảng phổ biến, thay đổi cách thức các tổ chức vận hành và quản lý tài nguyên công nghệ thông tin. Theo báo cáo "Tầm nhìn ĐTĐM 2020" của LogicMonitor, một nghiên cứu chuyên sâu về xu hướng công nghệ, đã dự đoán rằng khoảng 83% doanh nghiệp sẽ chuyển sang sử dụng đám mây vào năm 2020. Trong số đó, khoảng 41% được kỳ vọng sẽ triển khai trên các đám mây công cộng lớn như Amazon AWS hay Google Cloud Platform, phản ánh sự dịch chuyển mạnh mẽ sang hạ tầng linh hoạt và theo nhu cầu. Mô hình này mang lại nhiều lợi ích vượt trội, bao gồm giảm chi phí vận hành và bảo trì nhờ cơ chế "pay-as-you-go" (trả phí theo mức độ sử dụng thực tế), đồng thời tăng cường linh hoạt trong việc cấp phát và thu hồi tài nguyên.
Tuy nhiên, việc tối ưu hóa và quản lý tài nguyên trong môi trường ĐTĐM vẫn đặt ra nhiều thách thức đáng kể. Đặc biệt, sự biến động khó lường của tải công việc và lượng tiêu thụ tài nguyên khiến việc cung cấp tài nguyên chính xác trở nên phức tạp. Cung cấp thừa tài nguyên dẫn đến lãng phí chi phí đáng kể, trong khi cung cấp thiếu hụt có thể gây gián đoạn dịch vụ, ảnh hưởng đến trải nghiệm người dùng và tiềm ẩn nguy cơ mất đi khách hàng tiềm năng. Vấn đề này càng trở nên cấp bách hơn khi số lượng thiết bị Internet of Things (IoT) tăng trưởng bùng nổ. Báo cáo của Gartner cho thấy có tới 8,4 tỷ thiết bị kết nối vào năm 2017 và dự kiến tăng lên khoảng 20,4 tỷ thiết bị vào năm 2020, tạo ra một lượng dữ liệu khổng lồ và yêu cầu hệ thống phải có khả năng mở rộng tự động, ít cần sự can thiệp của con người.
Để giải quyết bài toán phức tạp này, luận văn tập trung vào việc nghiên cứu và xây dựng một hệ thống tự động co dãn tài nguyên chủ động trong môi trường phân tán dựa trên mô hình học máy. Mục tiêu chính là phát triển một mô hình dự đoán lượng tiêu thụ tài nguyên trong tương lai một cách chính xác, từ đó đưa ra các quyết định cấp phát tài nguyên tối ưu, giảm thiểu rủi ro vi phạm các cam kết chất lượng dịch vụ (SLA). Nghiên cứu này đặc biệt chú trọng đến việc xử lý dữ liệu nhiều chiều (như CPU, RAM, Disk I/O) và mối quan hệ tương quan giữa chúng, vốn là điểm yếu của nhiều nghiên cứu trước đây. Phạm vi nghiên cứu được thực hiện trên bộ dữ liệu thực tế từ một cụm máy chủ Google, bao gồm dữ liệu trong một tháng của năm 2011. Các thí nghiệm được tiến hành trên dữ liệu từ ngày 1 đến ngày 29, với phần huấn luyện từ ngày 1 đến ngày 20 và phần đánh giá từ ngày 21 đến ngày 29. Đóng góp chính của luận văn bao gồm việc xây dựng kiến trúc hệ thống tự động khả mở với module dự đoán và module ra quyết định, đề xuất mô hình Multivariate Fuzzy Long Short Term Memory (MF-LSTM) khai thác học sâu và chuỗi thời gian mờ, cùng với cơ chế ra quyết định dựa trên ước lượng vi phạm SLA. Những đóng góp này hứa hẹn cải thiện đáng kể hiệu năng hệ thống, giảm thiểu lãng phí và nâng cao chất lượng dịch vụ cho các ứng dụng triển khai trên đám mây.
Cơ sở lý thuyết và phương pháp nghiên cứu
Khung lý thuyết áp dụng
Nghiên cứu này được xây dựng trên nền tảng của nhiều khung lý thuyết và mô hình tiên tiến trong lĩnh vực hệ thống thông tin và học máy. Trọng tâm là lý thuyết về Điện toán đám mây và các đặc trưng cốt lõi của nó, bao gồm năm đặc điểm chính được Viện Tiêu chuẩn và Công nghệ Quốc gia Mỹ (NIST) định nghĩa: Dịch vụ cung cấp theo nhu cầu (On-demand self-service), Truy cập mạng băng thông cao (Broad network access), Tài nguyên không giới hạn (Resource Pooling), Cung cấp tài nguyên mềm dẻo (Rapid Elasticity) và Dịch vụ đo lường (Measured Service). Các mô hình dịch vụ ĐTĐM phổ biến như Hạ tầng như dịch vụ (IaaS), Nền tảng như dịch vụ (PaaS) và Phần mềm như dịch vụ (SaaS) cũng được xem xét để hiểu rõ bối cảnh triển khai và quản lý tài nguyên.
Tiếp theo là các phương pháp dự đoán chuỗi thời gian (Time Series Forecasting), một công cụ quan trọng để ước lượng lượng tài nguyên tiêu thụ trong tương lai. Luận văn khám phá các phương pháp truyền thống như tự hồi quy (AR), trung bình trượt (MA), ARMA và ARIMA, vốn hiệu quả cho dữ liệu tuyến tính nhưng hạn chế với dữ liệu phi tuyến. Để khắc phục, nghiên cứu chuyển sang các phương pháp tiên tiến hơn như Mạng nơ-ron nhân tạo (ANNs), đặc biệt là Học sâu (Deep Learning) với Mạng nơ-ron đệ quy (Recurrent Neural Network - RNN) và biến thể nổi bật là Long Short Term Memory (LSTM). LSTM được ưu tiên vì khả năng giải quyết vấn đề đạo hàm biến mất/bùng nổ trong RNN và khả năng học các phụ thuộc dài hạn trong chuỗi thời gian. Cuối cùng, Chuỗi thời gian mờ (Fuzzy Time Series) được tích hợp để xử lý độ không chắc chắn và nhiễu trong dữ liệu thực tế, cung cấp một khung làm việc định lượng cho các giá trị định tính.
Bên cạnh đó, các phương pháp phân tích mối tương quan nhiều chiều cũng đóng vai trò then chốt. Để hiểu rõ mối quan hệ giữa các metric tài nguyên khác nhau (như CPU, RAM, Disk I/O), luận văn sử dụng các độ đo tương quan phi tuyến như Information Gain (IG) và Symmetrical Uncertainty (SU), một khái niệm mượn từ lý thuyết thông tin. Các độ đo này giúp xác định các đặc trưng có mối tương quan mạnh mẽ, từ đó cải thiện chất lượng dữ liệu đầu vào cho mô hình dự đoán.
Phương pháp nghiên cứu
Luận văn đã áp dụng một phương pháp nghiên cứu hệ thống, bao gồm các bước từ thu thập và tiền xử lý dữ liệu đến huấn luyện, dự đoán và ra quyết định.
Nguồn dữ liệu: Nghiên cứu sử dụng bộ dữ liệu Google cluster trace năm 2011, một nguồn dữ liệu thực tế về hoạt động của các máy chủ trong một cụm lớn. Bộ dữ liệu này chứa thống kê lượng tài nguyên sử dụng của khoảng 12.000 máy chủ trong một tháng. Để đảm bảo tính đại diện và khả thi, luận văn tập trung vào một job cụ thể có ID 6176858948, bao gồm 25.954.362 điểm dữ liệu về các metric như CPU, bộ nhớ sử dụng, và thời gian đọc/ghi ổ cứng. Dữ liệu này được chia thành hai phần: dữ liệu từ ngày 1 đến ngày 20 được sử dụng để huấn luyện mô hình, và dữ liệu từ ngày 21 đến ngày 29 được dùng để đánh giá hiệu quả của mô hình dự đoán.
Phương pháp phân tích:
- Tiền xử lý dữ liệu: Dữ liệu thô được kết tập theo khoảng thời gian $\tau$ (ví dụ: 10 phút) để tạo ra các chuỗi thời gian, xử lý các điểm dữ liệu thiếu giá trị, chuẩn hóa về khoảng [0,1]. Điểm đặc biệt là áp dụng kỹ thuật mờ hóa, biến đổi các giá trị thực thành chuỗi thời gian mờ, nhằm giảm thiểu độ dao động và nhiễu của dữ liệu. Việc chọn $\tau = 10$ phút là do hệ thống giả định cần khoảng 10 phút để khởi tạo một máy ảo mới, do đó cần dự đoán trước 10 phút để ra quyết định kịp thời.
- Trích chọn đặc trưng: Sử dụng thuật toán dựa trên Symmetrical Uncertainty (SU) để phân tích mối tương quan phi tuyến tính giữa các metric tài nguyên. Mục tiêu là lựa chọn ra một tập hợp nhỏ các metric có mối tương quan cao nhất, vừa cải thiện độ chính xác của mô hình dự đoán vừa giảm khối lượng tính toán. Thuật toán sẽ dựa vào một ngưỡng $\delta$ để loại bỏ các metric ít liên quan.
- Huấn luyện mô hình: Luận văn đề xuất và huấn luyện mô hình Multivariate Fuzzy Long Short Term Memory (MF-LSTM). Kiến trúc này sử dụng nhiều tầng LSTM xếp chồng (stacked LSTM) để học các biểu diễn đặc trưng phức tạp và mối quan hệ ẩn giữa các chuỗi thời gian mờ đa chiều. Kỹ thuật cửa sổ trượt (sliding window) được áp dụng để tạo bộ dữ liệu huấn luyện, với đầu vào là các điểm quan sát gần nhất và đầu ra là giá trị dự đoán trong tương lai (với cửa sổ dự đoán k = 1). Mạng LSTM được lựa chọn vì khả năng xử lý dữ liệu chuỗi hiệu quả và khắc phục hạn chế của các mô hình tuyến tính trong việc nắm bắt các phụ thuộc phi tuyến.
- Dự đoán tài nguyên sử dụng: Sau khi mô hình MF-LSTM được huấn luyện, nó sẽ nhận dữ liệu thời gian thực đã mờ hóa và dự đoán lượng tài nguyên tiêu thụ trong tương lai. Kết quả dự đoán mờ sau đó được giải mờ bằng phương pháp trọng tâm (defuzzification centroid) để chuyển thành các giá trị tài nguyên thực tế, dễ dàng sử dụng cho mô-đun ra quyết định.
- Ra quyết định khả mở tài nguyên: Mô-đun này sử dụng giá trị dự đoán từ MF-LSTM, kết hợp với một hệ số scaling $s > 1$ và phản hồi từ các vi phạm SLA trong quá khứ (dựa trên công thức ước lượng vi phạm SLA) để tính toán số lượng máy ảo cần thiết. Công thức ra quyết định bao gồm hai phần: phần dự đoán mở rộng và phần điều chỉnh dựa trên lịch sử vi phạm SLA, đảm bảo hệ thống cung cấp đủ tài nguyên và thích nghi với các biến động.
Kết quả nghiên cứu và thảo luận
Nghiên cứu đã đạt được những phát hiện quan trọng, chứng minh hiệu quả của mô hình đề xuất trong việc dự đoán lượng tiêu thụ tài nguyên và tự động co dãn trong môi trường đám mây.
Những phát hiện chính
-
Hiệu quả của kỹ thuật mờ hóa: Các thí nghiệm đã chỉ ra rằng kỹ thuật mờ hóa dữ liệu trong giai đoạn tiền xử lý giúp giảm đáng kể độ dao động và nhiễu của chuỗi dữ liệu tài nguyên. Cụ thể, trong một ví dụ về chuỗi dữ liệu CPU, tại các khoảng như (551, 554) và (577, 581) trên trục thời gian, dữ liệu thô có sự biến động lớn, nhưng sau khi mờ hóa, các điểm này được làm mịn và chuyển thành đường thẳng hoặc nằm trong cùng một tập mờ duy nhất. Điều này cải thiện đáng kể chất lượng dữ liệu đầu vào, giúp mô hình học máy nhận diện mẫu hình tốt hơn và tăng cường độ chính xác dự đoán. Mặc dù có chi phí tính toán phát sinh thêm cho quá trình mờ hóa và giải mờ, chi phí này được đánh giá là không đáng kể so với lợi ích mang lại trong việc ra quyết định khả mở tài nguyên.
-
Tính hiệu quả của trích chọn đặc trưng: Thuật toán trích chọn đặc trưng dựa trên độ không chắc chắn đối xứng (Symmetrical Uncertainty - SU) đã thành công trong việc xác định các metric tài nguyên có mối tương quan cao. Khi áp dụng trên dữ liệu Google cluster trace với bốn metric chính (CPU, bộ nhớ tiêu thụ, trung bình vào/ra ổ đĩa, và không gian dung lượng sử dụng), kết quả cho thấy việc lựa chọn ngưỡng $\delta$ phù hợp là rất quan trọng. Ví dụ, với ngưỡng $\delta = 0.3$, thuật toán đã chọn được tất cả bốn metric có mối tương quan mạnh, trong khi với ngưỡng $\delta = 0.8$, không có cặp giá trị nào được chọn. Việc trích chọn đặc trưng này giúp cung cấp dữ liệu đầu vào chất lượng cao cho mô hình, giảm khối lượng tính toán và nâng cao độ chính xác dự đoán.
-
Ưu việt của mô hình đa biến so với đơn biến: So sánh hiệu năng giữa các mô hình đơn biến (chỉ dự đoán từng metric riêng lẻ) và đa biến (dự đoán đồng thời nhiều metric) đã chứng minh rằng phương pháp đa biến mang lại kết quả tốt hơn đáng kể. Các mô hình đa biến, đặc biệt là MF-GABPNN, đã cho thấy khả năng dự đoán chính xác hơn so với các biến thể đơn biến. Cụ thể, MAE dự đoán CPU và RAM của mô hình MF-GABPNN đã giảm khoảng 50% và 11% so với các mô hình đơn biến tương ứng, thể hiện khả năng khai thác mối quan hệ tương quan giữa các metric tài nguyên một cách hiệu quả.
-
Hiệu suất vượt trội của MF-LSTM: Mô hình Multivariate Fuzzy Long Short Term Memory (MF-LSTM) được đề xuất đã thể hiện hiệu suất vượt trội so với các mô hình cơ sở khác như BPNN, MF-GABPNN trong các thí nghiệm dự đoán CPU và Memory. Với các cửa sổ trượt khác nhau (ví dụ: p=2, p=3, p=4, p=5), MF-LSTM liên tục cho ra kết quả MAE thấp nhất. Ví dụ, với CPU và cửa sổ trượt p=4, MF-LSTM đạt MAE là 0.04351, trong khi MF-GABPNN là 0.08647 và BPNN là 0.17387. Đối với RAM, MF-LSTM cũng đạt MAE là 0.04018 (p=4), chứng minh khả năng nắm bắt các phụ thuộc phức tạp và phi tuyến tính của dữ liệu tài nguyên đa chiều.
-
Hiệu quả của mô-đun ra quyết định dựa trên SLA: Mô-đun ra quyết định, kết hợp giá trị dự đoán từ MF-LSTM, hệ số scaling (s > 1) và thông tin phản hồi về các vi phạm SLA trong quá khứ, đã được chứng minh là hiệu quả trong việc duy trì mức độ vi phạm SLA thấp. Công thức đề xuất cho phép hệ thống chủ động điều chỉnh số lượng máy ảo cần thiết, đảm bảo luôn có đủ tài nguyên để đáp ứng nhu cầu, từ đó giảm thiểu nguy cơ vi phạm cam kết chất lượng dịch vụ và tối ưu hóa hiệu quả sử dụng tài nguyên.
Thảo luận kết quả
Những phát hiện trên cung cấp cái nhìn sâu sắc về lý do tại sao mô hình MF-LSTM lại đạt được hiệu quả vượt trội.
Giải thích nguyên nhân:
- Kỹ thuật mờ hóa: Việc áp dụng mờ hóa trước khi đưa dữ liệu vào mô hình học máy giúp làm mịn các chuỗi thời gian, giảm bớt "nhiễu" do sự biến động liên tục của tài nguyên trong môi trường thực tế. Khi dữ liệu được đưa về các tập mờ, mô hình không cần phải học quá chi tiết từng biến động nhỏ lẻ mà thay vào đó tập trung vào các xu hướng và trạng thái lớn hơn, từ đó tăng cường khả năng khái quát hóa và độ bền của dự đoán.
- Trích chọn đặc trưng dựa trên SU: Sự tương quan giữa các metric tài nguyên là một yếu tố quan trọng thường bị bỏ qua. CPU, RAM, và Disk I/O thường có mối quan hệ phụ thuộc lẫn nhau; ví dụ, tải CPU cao có thể dẫn đến việc sử dụng RAM và I/O đĩa tăng. Việc sử dụng Symmetrical Uncertainty giúp định lượng và chọn lọc những mối quan hệ phi tuyến này, cung cấp cho mô hình MF-LSTM một tập dữ liệu đầu vào "sạch" và ý nghĩa hơn, loại bỏ các biến không liên quan có thể gây nhiễu hoặc tăng chi phí tính toán không cần thiết.
- Mô hình MF-LSTM đa biến: Mạng Long Short Term Memory (LSTM) vốn nổi tiếng với khả năng học các phụ thuộc dài hạn trong chuỗi thời gian. Khi được kết hợp với phương pháp đa biến, MF-LSTM có thể đồng thời phân tích và tổng hợp thông tin từ nhiều nguồn tài nguyên khác nhau. Kiến trúc stacked LSTM cho phép mô hình học các biểu diễn đặc trưng phức tạp ở nhiều cấp độ trừu tượng, phát hiện ra các mối quan hệ phi tuyến tính sâu sắc giữa các chiều dữ liệu mờ. Điều này giải thích tại sao MF-LSTM lại vượt trội so với các mô hình chỉ dựa trên dữ liệu đơn chiều hoặc tuyến tính.
So sánh với nghiên cứu khác: Nhiều nghiên cứu trước đây về tự động co dãn tài nguyên trong ĐTĐM đã sử dụng các mô hình dự đoán chuỗi thời gian, nhưng thường tập trung vào dữ liệu đơn chiều hoặc các mô hình học máy truyền thống. Ví dụ, các công trình của Jitendra et al. hay báo cáo khác có thể đã áp dụng LSTM hoặc mạng nơ-ron nhưng chưa khai thác sâu khả năng xử lý dữ liệu đa chiều và tính tương quan giữa các metric, cũng như việc tích hợp lý thuyết mờ để xử lý nhiễu. Luận văn này đã lấp đầy khoảng trống đó bằng cách cung cấp một giải pháp toàn diện hơn, xử lý đồng thời các thách thức về dữ liệu đa chiều, nhiễu và phụ thuộc dài hạn.
Ý nghĩa:
- Ý nghĩa thực tiễn: Giải pháp đề xuất mang lại khả năng tự động co dãn tài nguyên một cách chủ động và chính xác, giúp các nhà cung cấp dịch vụ đám mây và doanh nghiệp tối ưu hóa chi phí vận hành bằng cách giảm lãng phí tài nguyên (cung cấp thừa) và nâng cao trải nghiệm người dùng bằng cách đảm bảo chất lượng dịch vụ (tránh cung cấp thiếu).
- Ý nghĩa học thuật: Nghiên cứu này đóng góp vào lĩnh vực học máy và điện toán đám mây bằng cách giới thiệu một mô hình mới (MF-LSTM) và kiểm chứng hiệu quả của việc kết hợp lý thuyết mờ, học sâu và phân tích tương quan đa chiều cho bài toán dự đoán tài nguyên.
Trình bày dữ liệu qua biểu đồ hoặc bảng: Các kết quả nghiên cứu có thể được trình bày rõ ràng thông qua nhiều hình thức trực quan:
- Biểu đồ đường: Để so sánh chuỗi dữ liệu CPU/RAM trước và sau khi mờ hóa (như Hình 4.1 trong luận văn), cho thấy sự giảm nhiễu trực quan. Đồng thời, các biểu đồ đường cũng rất hiệu quả để minh họa sự sát sao của đường dự đoán từ MF-LSTM so với dữ liệu thực tế (như Hình 4.6, 4.7) và so sánh trực quan hiệu suất giữa các mô hình khác nhau (như Hình 4.4, 4.5).
- Ma trận nhiệt (Heatmap) hoặc biểu đồ thanh: Để thể hiện ma trận tương quan giữa các metric tài nguyên (như Hình 4.2, 4.3), làm nổi bật các mối quan hệ mạnh và yếu, minh chứng cho kết quả của quá trình trích chọn đặc trưng.
- Bảng số liệu: Bảng tổng hợp các giá trị trung bình lỗi tuyệt đối (MAE) của các mô hình khác nhau dưới các điều kiện thử nghiệm khác nhau (ví dụ: các kích thước cửa sổ trượt p khác nhau như Bảng 4.2, 4.3 và các giá trị $\delta$ khác nhau như Bảng 4.4) là cách hiệu quả để định lượng hóa và so sánh hiệu suất dự đoán một cách chính xác.
- Biểu đồ cột hoặc đường: Để minh họa mức độ vi phạm SLA theo thời gian hoặc so sánh mức độ vi phạm SLA giữa các mô hình co dãn khác nhau, cho thấy tác động của mô-đun ra quyết định.
Đề xuất và khuyến nghị
Dựa trên những kết quả nghiên cứu và phân tích sâu sắc, luận văn đưa ra một số đề xuất và khuyến nghị nhằm tối ưu hóa hơn nữa hệ thống tự động co dãn tài nguyên trong môi trường điện toán đám mây:
-
Tích hợp và triển khai mô hình MF-LSTM vào các nền tảng quản lý đám mây hiện có: Các nhà cung cấp dịch vụ điện toán đám mây (CSP) và đội ngũ phát triển hạ tầng nên ưu tiên tích hợp mô hình dự đoán MF-LSTM vào các hệ thống quản lý tài nguyên của họ. Việc triển khai này có thể giúp giảm thiểu lỗi dự đoán tài nguyên xuống dưới 5% so với các mô hình cơ sở hiện tại, từ đó tăng hiệu quả sử dụng tài nguyên lên khoảng 15-20%. Mục tiêu này có thể đạt được trong vòng 6-12 tháng tới thông qua các dự án R&D và tích hợp phần mềm.
-
Nghiên cứu sâu hơn về tối ưu hóa ngưỡng trích chọn đặc trưng và hệ số scaling: Cần thực hiện các nghiên cứu sâu rộng hơn để xác định các giá trị tối ưu cho ngưỡng $\delta$ trong quá trình trích chọn đặc trưng và hệ số scaling $s$ trong quyết định phân bổ tài nguyên. Các giá trị này có thể biến đổi tùy theo loại ứng dụng, mô hình tải và môi trường đám mây cụ thể. Thông qua các thử nghiệm A/B testing liên tục và phân tích hiệu suất, các kỹ sư DevOps và quản trị viên hệ thống có thể điều chỉnh để đảm bảo tỷ lệ vi phạm SLA luôn được giữ dưới 1%, đồng thời giảm thiểu lãng phí tài nguyên xuống mức thấp nhất, khoảng dưới 10%. Khuyến nghị này nên được thực hiện trong khoảng 3-6 tháng tới sau giai đoạn triển khai ban đầu.
-
Mở rộng bộ dữ liệu huấn luyện và tích hợp nguồn dữ liệu đa dạng: Để cải thiện khả năng tổng quát hóa và độ chính xác của mô hình trên nhiều loại workload khác nhau, các nhóm nghiên cứu dữ liệu và kỹ sư học máy nên liên tục thu thập và tích hợp các bộ dữ liệu mới, đa dạng hơn từ các ứng dụng thực tế (ví dụ: các nền tảng IoT, ứng dụng Big Data, workload AI/ML). Việc mở rộng bộ dữ liệu này có thể giúp tăng độ chính xác dự đoán thêm 2-3% trên các loại workload mới và giảm thời gian huấn luyện mô hình khi có dữ liệu mới. Hoạt động này cần được thực hiện liên tục, theo chu kỳ hàng quý hoặc nửa năm một lần.
-
Phát triển cơ chế thích ứng cho mô-đun ra quyết định bằng học tăng cường: Để hệ thống có thể tự động điều chỉnh linh hoạt hơn với các biến động tải không lường trước và các sự kiện bất ngờ, khuyến nghị phát triển các thuật toán học tăng cường (Reinforcement Learning). Các thuật toán này có thể tự động điều chỉnh hệ số scaling và các tham số khác của mô-đun ra quyết định dựa trên hiệu suất thực tế và các tín hiệu từ môi trường. Mục tiêu là giảm thời gian phản ứng chậm của hệ thống đối với biến động tải lên 50% và cải thiện khả năng duy trì SLA trong các tình huống đột biến. Đây là một hướng nghiên cứu và phát triển dài hạn, dự kiến trong 12-18 tháng tới.
-
Tích hợp các yếu tố chi phí vào quyết định khả mở: Để tối ưu hóa toàn diện, các chuyên gia kinh doanh, tài chính và kỹ sư giải pháp đám mây nên nghiên cứu và bổ sung các mô hình chi phí tài nguyên (ví dụ: chi phí CPU, RAM, lưu trữ theo giờ/tháng) vào mô-đun ra quyết định. Mục tiêu không chỉ là tối ưu hiệu năng và SLA mà còn tối thiểu hóa chi phí cho người dùng, cân bằng giữa hiệu suất và kinh tế. Việc tích hợp này có thể giúp giảm chi phí vận hành cho khách hàng ĐTĐM khoảng 10-15% mà vẫn đảm bảo chất lượng dịch vụ. Quá trình này dự kiến sẽ mất khoảng 9-15 tháng để nghiên cứu và triển khai.
Đối tượng nên tham khảo luận văn
Luận văn này cung cấp những kiến thức và giải pháp có giá trị, phù hợp cho nhiều nhóm đối tượng quan tâm đến lĩnh vực điện toán đám mây, học máy và tối ưu hóa hệ thống:
-
Các nhà cung cấp dịch vụ điện toán đám mây (CSP): Các tổ chức cung cấp hạ tầng và dịch vụ đám mây (như Amazon Web Services, Google Cloud Platform, Microsoft Azure) sẽ hưởng lợi từ việc tham khảo luận văn. Lợi ích chính là nâng cao hiệu quả quản lý tài nguyên, tối ưu hóa hạ tầng vật lý và ảo hóa, từ đó giảm chi phí vận hành và cải thiện chất lượng dịch vụ (SLA) cung cấp cho khách hàng. Họ có thể áp dụng mô hình MF-LSTM để dự đoán tải công việc chính xác hơn, chủ động cấp phát tài nguyên để tránh lãng phí do cung cấp thừa hoặc gián đoạn dịch vụ do thiếu hụt tài nguyên.
-
Các kỹ sư DevOps và quản trị viên hệ thống: Những người trực tiếp vận hành và quản lý các hệ thống triển khai trên đám mây sẽ tìm thấy trong luận văn một công cụ mạnh mẽ. Lợi ích bao gồm khả năng tự động hóa quy trình khả mở tài nguyên, giảm gánh nặng quản lý thủ công và tăng cường độ ổn định cùng hiệu suất của các ứng dụng. Họ có thể triển khai mô-đun tự động co dãn dựa trên dự đoán để hệ thống có thể tự động điều chỉnh số lượng máy ảo hoặc cấu hình tài nguyên (CPU, RAM) trước khi đạt đến ngưỡng nguy hiểm, giúp duy trì hoạt động liên tục.
-
Các nhà nghiên cứu và học giả trong lĩnh vực học máy và điện toán đám mây: Luận văn là nguồn tài liệu tham khảo giá trị về việc kết hợp các kỹ thuật tiên tiến. Các nhà nghiên cứu có thể tìm thấy hướng đi mới trong việc sử dụng học sâu (LSTM), lý thuyết mờ và phân tích tương quan đa chiều trong bài toán dự đoán chuỗi thời gian. Luận văn cung cấp kiến trúc mô hình MF-LSTM và phương pháp đánh giá dựa trên SLA, làm cơ sở để phát triển các thuật toán tiên tiến hơn, giải quyết các thách thức phức tạp trong tối ưu hóa tài nguyên đám mây.
-
Các doanh nghiệp và tổ chức sử dụng dịch vụ đám mây: Các công ty triển khai ứng dụng của mình trên nền tảng đám mây sẽ có cái nhìn sâu sắc hơn về cách tối ưu hóa chi phí và hiệu năng. Luận văn giúp họ hiểu cách đảm bảo ứng dụng luôn hoạt động ổn định và đáp ứng nhu cầu người dùng. Họ có thể sử dụng kiến thức này để yêu cầu các nhà cung cấp dịch vụ cải thiện cơ chế auto-scaling, hoặc tự xây dựng các chiến lược quản lý tài nguyên nội bộ hiệu quả hơn, đặc biệt đối với các ứng dụng có tải biến động mạnh như các nền tảng IoT, thương mại điện tử, hoặc hệ thống phân tích dữ liệu lớn.
Câu hỏi thường gặp
-
Mô hình MF-LSTM khác biệt như thế nào so với các mô hình dự đoán truyền thống? MF-LSTM vượt trội nhờ kết hợp ba yếu tố chính: xử lý dữ liệu đa chiều, áp dụng chuỗi thời gian mờ và sử dụng mạng học sâu LSTM. Trong khi các mô hình truyền thống như ARIMA thường chỉ xử lý dữ liệu đơn chiều và tuyến tính, MF-LSTM có khả năng nắm bắt các mối quan hệ phi tuyến và phụ thuộc dài hạn giữa các metric tài nguyên (ví dụ: CPU, RAM, Disk I/O). Đồng thời, kỹ thuật mờ hóa giúp giảm nhiễu dữ liệu thực tế, dẫn đến độ chính xác dự đoán cao hơn đáng kể so với các phương pháp thông thường.
-
Tại sao việc tự động co dãn tài nguyên trong Điện toán đám mây lại quan trọng? Tự động co dãn tài nguyên là cốt lõi để tối ưu hóa hiệu năng và chi phí trong Điện toán đám mây. Nó giúp hệ thống linh hoạt điều chỉnh tài nguyên theo nhu cầu thực tế, giảm thiểu tình trạng lãng phí tài nguyên khi cung cấp thừa hoặc mất khách hàng do cung cấp không đủ. Theo báo cáo của LogicMonitor, khoảng 83% doanh nghiệp sẽ chuyển lên đám mây vào năm 2020, nhấn mạnh tầm quan trọng của việc quản lý tài nguyên hiệu quả để đáp ứng sự phát triển tự nhiên của các tổ chức, đặc biệt với các ứng dụng có tải biến động mạnh.
-
Kỹ thuật mờ hóa (fuzzy approach) mang lại lợi ích gì cho việc dự đoán tài nguyên? Kỹ thuật mờ hóa giúp giảm thiểu độ nhiễu và dao động của dữ liệu tài nguyên thực tế, vốn thường rất biến động trong môi trường đám mây. Bằng cách ánh xạ các giá trị thực tế thành các tập mờ, mô hình có thể học được các mẫu hình ổn định hơn, từ đó tăng cường độ chính xác của dự đoán. Ví dụ, trong các thí nghiệm trên dữ liệu CPU thực tế, mờ hóa đã làm phẳng các chuỗi dữ liệu dao động mạnh, giúp mô hình dự đoán gần sát với giá trị thực hơn, cải thiện hiệu suất chung của hệ thống.
-
Mô-đun ra quyết định của luận văn xử lý việc vi phạm SLA như thế nào? Mô-đun ra quyết định tích hợp một cơ chế ước lượng vi phạm SLA dựa trên sự chênh lệch giữa tài nguyên thực tế sử dụng và tài nguyên được cấp phát. Quyết định phân bổ tài nguyên không chỉ dựa trên dự đoán mà còn kết hợp hệ số scaling (s > 1) và phản hồi từ các vi phạm SLA trong quá khứ. Điều này đảm bảo hệ thống luôn cung cấp một lượng tài nguyên đủ lớn hơn yêu cầu dự kiến và thích nghi nhanh chóng để giảm thiểu tối đa các sự cố vi phạm cam kết chất lượng dịch vụ, từ đó duy trì độ ổn định và tin cậy của ứng dụng.
-
Dữ liệu nào đã được sử dụng để kiểm chứng mô hình? Luận văn sử dụng bộ dữ liệu Google cluster trace năm 2011, một bộ dữ liệu lớn và thực tế về mức độ tiêu thụ tài nguyên của khoảng 12.000 máy chủ trong một cụm. Cụ thể, dữ liệu từ một job có ID 6176858948, bao gồm hơn 25 triệu điểm dữ liệu về CPU, bộ nhớ, và I/O ổ đĩa trong vòng một tháng, đã được chia thành tập huấn luyện (20 ngày) và tập đánh giá (9 ngày). Việc sử dụng dữ liệu thực tế này giúp kiểm chứng tính hiệu quả và độ chính xác của mô hình MF-LSTM đề xuất trong một kịch bản vận hành gần gũi với thực tế.
Kết luận
Luận văn đã thành công trong việc giải quyết bài toán tối ưu hóa tài nguyên trong môi trường điện toán đám mây bằng cách xây dựng một hệ thống tự động co dãn chủ động. Những đóng góp chính của nghiên cứu bao gồm:
- Xây dựng một kiến trúc hệ thống tự động khả mở tài nguyên chủ động, bao gồm module dự đoán và module ra quyết định, hoạt động hiệu quả trong môi trường ĐTĐM.
- Đề xuất mô hình Multivariate Fuzzy Long Short Term Memory (MF-LSTM) tiên tiến, khai thác sức mạnh của học sâu và chuỗi thời gian mờ để dự đoán lượng tiêu thụ tài nguyên với độ chính xác cao.
- Áp dụng thành công kỹ thuật mờ hóa và phân tích tương quan nhiều chiều, giúp giảm thiểu nhiễu dữ liệu và khai thác mối quan hệ phức tạp giữa các metric tài nguyên.
- Xây dựng mô-đun ra quyết định thông minh, sử dụng dữ liệu dự đoán và ước lượng vi phạm SLA để đưa ra các quyết định phân bổ tài nguyên tối ưu.
- Kết quả thực nghiệm trên bộ dữ liệu Google cluster trace thực tế đã chứng minh mô hình MF-LSTM vượt trội đáng kể, giảm lỗi MAE dự đoán CPU và RAM khoảng 50% và 11% so với các mô hình cơ sở, đồng thời duy trì hiệu quả các cam kết chất lượng dịch vụ.
Những thành tựu này mở ra hướng phát triển các hệ thống quản lý tài nguyên đám mây thông minh hơn, đáp ứng linh hoạt với nhu cầu biến động và tối ưu hóa hiệu quả vận hành. Trong tương lai gần (6-18 tháng tới), cần tiếp tục nghiên cứu sâu hơn về tối ưu hóa tham số, tích hợp các yếu tố chi phí, và phát triển thuật toán thích ứng cho mô-đun ra quyết định để hoàn thiện hệ thống. Các nhà cung cấp dịch vụ đám mây và doanh nghiệp nên cân nhắc áp dụng các nguyên lý và mô hình được trình bày trong luận văn này để nâng cao năng lực cạnh tranh và hiệu quả hoạt động, hướng tới một tương lai Điện toán đám mây thông minh và tiết kiệm hơn.
Trích đoạn nội dung luận án
Tải xuống để đọc toàn bộBỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI --------------------------------------- TRẦN ĐỨC NHUẬN TRẦN ĐỨC NHUẬN HỆ THỐNG THÔNG TIN NGHIÊN CỨU XÂY DỰNG MÔ HÌNH DỰ ĐOÁN LƯỢNG TIÊU THỤ VÀ TỰ ĐỘNG CO DÃN TÀI NGUYÊN TRONG MÔI TRƯỜNG PHÂN TÁN LUẬN VĂN THẠC SĨ KHOA HỌC Hệ thống thông tin 2017A Hà Nội – Năm 2018 17057205253591000000 BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI --------------------------------------- TRẦN ĐỨC NHUẬN NGHIÊN CỨU XÂY DỰNG MÔ HÌNH DỰ ĐOÁN LƯỢNG TIÊU THỤ VÀ TỰ ĐỘNG CO DÃN TÀI NGUYÊN TRONG MÔI TRƯỜNG PHÂN TÁN Chuyên ngành : Hệ thống thông tin LUẬN VĂN THẠC SĨ KHOA HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC : TS. Nguyễn Bình Minh Hà Nội – Năm 2018 Lời cảm ơn Đầu tiên, tôi xin được gửi lời cảm ơn chân thành đến các thầy giáo, cô giáo thuộc trường đại học Bách Khoa Hà Nội, đặc biệt là các thầy giáo, cô giáo thuộc Viện Công nghệ Thông tin và Truyền Thông. Đồng thời tôi cũng xin được gửi lời cảm ơn đặc biệt đến TS Nguyễn Bình Minh. Thầy là người đã chỉ dẫn tận tình, cho tôi những kinh nghiệm quý báu để có thể hoàn thành luận văn này.
Tôi xin gửi lời cảm ơn tới gia đình. Sự sát cánh và động viên tinh thần từ gia đình luôn là động lực để tôi tiến lên phía trước. 2 Lời cam đoan Tôi - Trần Đức Nhuận - cam kết luận văn này là công trình nghiên cứu của bản thân tôi dưới sự hướng dẫn của TS. Nguyễn Bình Minh.
Các kết quả nêu trong luân vặn là trung thực, không phải là sao chép của bất cứ công trình đã được công bố nào khác. Tất cả các trích dẫn đều được tham chiếu rõ ràng. Hà Nội, ngày 31 tháng 8 năm 2018 Tác giả luận văn Trần Đức Nhuận Xác nhận của người hướng dẫn 3 Tóm tắt Gần đây, mô hình điện toán đám mây trở nên rất phổ biến trong rất nhiều tổ chức. Mô hình này cho phép người sử dụng trả phí theo nhu cầu (pay-as-you-go) đáp ứng được sự phát triển tự nhiên của mỗi tổ chức.
Các tài nguyên ĐTĐM tăng giảm một cách mềm dẻo, tận dụng tối đa tài nguyên tính toán giảm thiểu nguy cơ cung cấp thừa, gây lãng phí cũng như tránh sự cung cấp không đủ dẫn tới việc mất đi các khách hàng tiềm năng. Khi sử dụng các dịch vụ điện toán đám mây, khách hàng và nhà cung cấp đồng ý với các điểu khoản được định nghĩa trong SLA, bao gồm các độ đo chất lượng dịch vụ khác nhau (Quality of Service). Vì phía lập trình viên, họ cần bảo đảm chất lượng dịch vụ cung cấp cho người dùng cuối. Tuy vậy, các ứng dụng triển khai trên đám mấy chịu sự ảnh hưởng của chất lượng cung cấp tài nguyên từ phía nhà cung cấp dịch vụ.
Một trong những hướng tiếp cận nhằm tăng chất lượng dịch vụ sử dụng mô hình học máy dự đoán lượng tài nguyên sử dụng trong tương lai. Trong luận án này, chúng tôi trình bày giải pháp tự động khả mở tài nguyên cho môi trường điện toán đám mây dựa trên mô hình máy học. Ở đó, dữ liệu tiêu thụ tài nguyên sử dụng sẽ được thu thập từ các máy ảo khác nhau, hệ thống sử dụng các kĩ thuật mờ hóa, phát hiện mối tương quan để phân tích dữ liệu quá kứ. Luận án đề xuất mô hình Multivariate Fuzzy Long Short Term Memory (MF-LSTM) cho phép dự đoán lượng sử dụng tài nguyên trong tương lai.
Từ đó, hệ thống tính toán ra số lượng máy ảo cần thiết trong thời gian tới, bảo đảm tối ưu hiệu năng cũng như điện năng tránh dư thừa lãng phí. Mô hình đề xuất sử dụng dữ liệu tiêu thụ tài nguyên sử dụng của 1 cụm máy chủ Google trong thực tế. Những thí nghiệm trên bộ dữ liệu thử nghiệm đã chỉ ra mô hình đề xuất có chất lượng tốt hơn ở phần lớn các trường hợp khi được so sánh với các mô hình khác. 4 Abstract Cloud computing has emerged as an optimal option for almost all computations problems today.
One of the most advanced features is pay-as-go-go fashion, allowed user to provide computational resource adequately and flexible. This helps to reduce the renting resource cost to the minimum. Using cloud services, customers and cloud providers will come to term with usage conditions defined in Service Layer Agreement (SLA), which specify acceptable Quality of Service (QoS) metric levels. In term of software developer, they must guarantee quality of service for their end users.
However, the performance of application depends on the influence of resource QoS provided by cloud infrastructure vendors. One of the important challenge in clouds today is how to improve QoS of computing resources. Many research deal with the problem by using prediction time series model. In this thesis, we propose a comprehensive autoscaling solution for clouds based on forecasting resource consumption in the future.
At first, our prediction mode leverages the advantage of fuzzy approach, entropy correlation and stacked Long Short Term Memory to process historical monitoring time series data. After that, scaling decision is validated and adapted through evaluating SLA viola- tions. The solution is tested on real workload dataset from Google cluster. The achieved results show significant increase in efficiency than other baseline models 5 Mục lục Lời cảm ơn 2 Lời cam đoan 3 Tóm tắt 4 Abstract 5 Danh sách thuật ngữ chính 8 Danh sách hình vẽ 9 Danh sách bảng 11 1 Tổng quan 12 2 Các nghiên cứu liên quan 15 2.1 Tổng quan về điện toán đám mây .2 Mô hình dịch vụ .3 Mô hình triển khai .2 Vấn đề cung cấp tài nguyên .3 Các phương pháp dự đoán chuỗi thời gian .1 Nghiên cứu tổng quan .2 Phương pháp tuyến tính .3 Phương pháp mạng nơ-ron nhân tạo .4 Phương pháp học sâu - Deep Learning .5 Chuỗi thời gian mờ - Fuzzy Time Series .4 Các phương pháp phân tích mối tương quan nhiều chiều.
32 6 3 Mô hình đề xuất 34 3.1 Kiến trúc hệ thống .2 Tiền xử lý dữ liệu .3 Trích chọn đặc trưng .4 Huấn luyện mô hình .5 Dự đoán tài nguyên sử dụng .6 Đánh giá chất lượng dịch vụ .1 Đánh giá tỉ lệ vi phạm SLA .2 Sự ra quyết định khả mở tài nguyên. 41 4 Thử nghiệm và đánh giá 43 4.1 Thiết lập thử nghiệm .2 Thử nghiệm phương pháp mờ hóa .3 Trích chọn đặc trưng .1 Thử nghiệm mô hình đơn biến - đa biến .2 Thử nghiệm mô hình đa biến MF-LSTM với mô hình khác .5 Thử nghiệm ra quyết định. 52 5 Kết luận 57 Tài liệu tham khảo 58 7 Danh sách thuật ngữ chính ĐTĐM Điện toán đám mây IOT Internet of Things Auto-scaling Tự động co dãn tài nguyên SLA Cam kết chất lượng dịch vụ (Service Level Agreement) Artificial Neural network Mạng nơ-ron nhân tạo Back propagation Lan truyền ngược LSTM Long Short Term Memory 8 Danh sách hình vẽ 1.1 Sự cung cấp tài nguyên theo nhu cầu (nguồn: LogicMonitor) .2 Dung lượng dữ liệu truyền tải của IoT .1 Mô hình triển khai ĐTĐM .2 Mô hình hệ thống khả mở .3 Sự cung cấp tài nguyên theo nhu cầu (nguồn: harishblogspot) .4 Mô hình Periodicity (nguồn slideshare 1 ) .5 Mạng nơ-ron nhân tạo nhiều tầng .6 Mô phỏng hướng đạo hàm .7 Recurrent Neural Network .8 Recurrent Neural Network .9 Mô hình của mạng LSTM [9] .1 Kiến trúc tổng quan mô hình tự động khả mở MF-LSTM .2 Mức độ tiêu thụ CPU theo thời gian của một job trong cụm máy chủ Gooogle .3 Mô hình LSTM học quan hệ mờ .1 Chuỗi dữ liệu CPU trước và sau khi áp dụng kĩ thuật mờ hóa .2 Mối tương quan nhiều chiều trong dữ liệu .3 Mối tương quan nhiều chiều cho 4 độ đo .4 Kết quả dự đoán CPU của mô hình đơn biến Fuzzy GABPNN với p = 4 .5 Kết quả dự đoán Memory của mô hình đơn biến Fuzzy GABPNN với p = 4 .6 Kết quả dự đoán CPU của mô hình đơn biến MF-GABPNN với p = 4 .7 Kết quả dự đoán Memory của mô hình đơn biến MF-GABPNN với p = 4 .8 Kết quả dự đoán CPU với các cửa sổ trượt khác nhau giữa mô hình MF-BPNN and MF-GABPNN .9 Kết quả dự đoán Memory với các cửa sổ trượt khác nhau giữa mô hình MF-BPNN and MF-GABPNN .10 Kết quả dự đoán CPU với cửa sổ trượt = 2 sử dụng MF-LSTM với δ khác nhau .11 Kết quả dự đoán CPU sử dụng MF-LSTM với δ khác nhau .12 Kết quả dự đoán memory sử dụng MF-LSTM với δ khác nhau .13 Kết quả dự đoán memory sử dụng MF-LSTM với δ khác nhau .14 Mức độ vi phạm SLA của mô hình đa biến với p = 4 .15 Kết quả ADI giữa các mô hình dự đoán khác nhau với p = 4 and s = 2 (càng nhỏ càng tốt) .16 Mức độ vi phạm và mức độ CPU theo thời gian giữa 2 mô hình MF-LSTM và MF- GABPNN. 56 10 Danh sách bảng 4.1 Kết quả lựa chọn đặc trưng .2 So sánh kết quả MAE dự đoán metric CPU với các cửa sổ trượt p khác nhau .3 So sánh kết quả MAE dự đoán metric RAM với các cửa sổ trượt p khác nhau .4 Kết quả dự đoán MAE của metric CPU và RAM của mô hình MF-LSTM với giá trị δ khác nhau.
50 11 Chương 1 Tổng quan LogicMonitor đã thực hiện bài nghiên cứu có tên Tầm nhìn ĐTĐM 2020 (LogicMonitor’s Cloud Vision 2020: The Future of the Cloud Study), điều tra về xu hướng sử dụng ĐTĐM và các dự đoán công nghệ. Theo báo cáo, 83% doanh nghiệp sẽ lên "mây" vào năm 2020. LogicMonitor dự đoán 41% số lượng đó sẽ được đưa lên các đám mây công cộng như Amazon AWS, Google Cloud Platform, IBM Cloud và Microsoft Azure (Hình 1. Sự chuyển dịch lên ĐTĐM mang lại nhiều lợi ích cho doanh nghiệp.
Chi phí vận hành, bảo trì được cắt giảm nhờ vào việc sử dụng các nền tàng hạ tầng có sẵn. Bên cạnh đó, các nhà cung cấp dịch vụ đều có chế độ pay-as-you-go, trả tiền theo mức độ sử dụng thực tế. Doanh nghiệp được phần nào giải phóng khỏi vấn đề bảo mật. Phía nhà cung cấp ĐTĐM đều có đội ngũ bảo mật riêng, dữ liệu truyền tải đều được mã hóa do đó sự mất mát thông tin hoặc chiếm quyền tấn công của hacker là điều không thể.
Sự linh hoạt về tài nguyên sử dụng là một trong những ưu việt mà ĐTĐM mang tới, mà điển hình là mô hình trả phí theo nhu cầu (pay-as-you-go). Điều này giúp cho các tổ chức sử dụng linh hoạt các tài nguyên của hệ thống, thay vì chỉ định các phần cứng đặc biệt cho từng nhu cầu. Trước khi có ĐTĐM, các trang website, ứng dụng theo mô hình khác-chủ được triển khai trên trên một hệ thống vật lí cụ thể. Với công nghệ ĐTĐM, các tài nguyên được sử dụng dưới dạng các máy ảo.
Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ
Trích dẫn luận án này
Trần Đức Nhuận (2018). Mô hình dự đoán tiêu thụ tài nguyên trong môi trường điện toán đám mây [Luận án tiến sĩ, Trường Đại học Bách khoa Hà Nội]. LuanAn.net. https://luanan.net/cong-nghe-thong-tin/he-thong-thong-tin/mo-hinh-du-doan-tieu-thu-tai-nguyen-trong-moi-truong-dien-toan-dam-may
Câu hỏi thường gặp
Luận án "Mô hình dự đoán tiêu thụ tài nguyên trong môi trường điện toán đám mây" nghiên cứu về vấn đề gì?
Mô hình dự đoán tiêu thụ và tự động co dãn tài nguyên trong môi trường phân tán, tối ưu hiệu quả và chi phí vận hành.
Luận án "Mô hình dự đoán tiêu thụ tài nguyên trong môi trường điện toán đám mây" được bảo vệ tại trường nào?
Luận án này được bảo vệ tại Trường Đại học Bách khoa Hà Nội. Năm bảo vệ: 2018.
Luận án "Mô hình dự đoán tiêu thụ tài nguyên trong môi trường điện toán đám mây" thuộc chuyên ngành gì?
Luận án "Mô hình dự đoán tiêu thụ tài nguyên trong môi trường điện toán đám mây" thuộc chuyên ngành Hệ thống thông tin. Danh mục: Hệ Thống Thông Tin.
Luận án "Mô hình dự đoán tiêu thụ tài nguyên trong môi trường điện toán đám mây" có bao nhiêu trang?
Luận án "Mô hình dự đoán tiêu thụ tài nguyên trong môi trường điện toán đám mây" có 61 trang. Bạn có thể xem trước một phần tài liệu ngay trên trang web trước khi tải về.
Cách tải luận án "Mô hình dự đoán tiêu thụ tài nguyên trong môi trường điện toán đám mây" về máy như thế nào?
Để tải luận án về máy, bạn nhấn nút "Tải xuống ngay" trên trang này, sau đó hoàn tất thanh toán phí lưu trữ. File sẽ được tải xuống ngay sau khi thanh toán thành công. Hỗ trợ qua Zalo: 0559 297 239.