Thuật toán cân bằng tải là một phương pháp được bộ cân bằng tải sử dụng để phân phối lưu lượng truy cập đến và các yêu cầu giữa nhiều máy chủ hoặc tài nguyên. Mục đích chính của thuật toán cân bằng tải là đảm bảo sử dụng hiệu quả các tài nguyên sẵn có, cải thiện hiệu suất hệ thống tổng thể và duy trì tính sẵn sàng và độ tin cậy cao.

Dưới đây là một số thuật toán cân bằng tải phổ biến:

Round Robin

Thuật toán này phân phối các request đến các server theo thứ tự tuần hoàn, tức là khi có 1 request đến thì sẽ được phân phối cho máy chủ(server) đầu tiên sau đó chuyển sang máy chủ thứ 2, thứ 3, v.v. Và sau khi đến máy chủ cuối cùng, request tiếp theo sẽ bắt đầu quay trở lại máy chủ đầu tiên.

Ưu điểm

• Đảm bảo phân phối công bằng các request giữa các máy chủ, mỗi máy chủ sẽ được phân phối các request theo thứ tự cố định.
• Dễ hiểu và dễ triển khai.
• Làm việc tốt khi máy chủ có cấu hình tương đương nhau.

Nhược điểm

• No Load Awareness: Không tính đến tải trọng hoặc dung lượng hiện tại của từng máy chủ. Tất cả máy chủ được đối xử công bằng và xử lý như nhau bất kể trạng thái hiện tại của chúng.
• No Session Affinity: Các request tiếp theo từ cùng một client có thể được định hướng đến các máy chủ khác nhau, điều này có thể gây ra vấn đề cho các ứng dụng có trạng thái.
• Performance Issues with Different Capacities: Có thể không hoạt động tối ưu khi các máy chủ có dung lượng khác nhau hoặc khối lượng công việc khác nhau.
• Predictable Distribution Pattern: Round Robin có thể dự đoán được trong mẫu phân phối yêu cầu của nó, điều này có thể bị kẻ tấn công lợi dụng, những kẻ có thể quan sát các mẫu lưu lượng truy cập và có thể tìm thấy lỗ hổng trong các máy chủ cụ thể bằng cách dự đoán máy chủ nào sẽ xử lý yêu cầu của họ.

Trường hợp sử dụng

• Homogeneous Environments: Thích hợp cho môi trường mà tất cả các máy chủ có công suất và hiệu suất tương tự nhau.
• Stateless Applications: Hoạt động tốt cho các ứng dụng không trạng thái trong đó mỗi yêu cầu có thể được xử lý độc lập.

Least Connections

Thuật toán kết nối ít nhất(Least Connections) là một kỹ thuật cân bằng tải động, gán các yêu cầu đến cho máy chủ có ít kết nối hoạt động nhất tại thời điểm yêu cầu. Phương pháp này đảm bảo phân phối tải cân bằng hơn trên các máy chủ, đặc biệt là trong các môi trường có lưu lượng truy cập không thể đoán trước và thời gian xử lý yêu cầu khác nhau.

Ưu điểm

• Load Awareness: Tính đến tải hiện tại trên mỗi máy chủ bằng cách xem xét số lượng kết nối đang hoạt động, giúp sử dụng tài nguyên máy chủ tốt hơn.
• Dynamic Distribution: Thích ứng với việc thay đổi mô hình lưu lượng truy cập và tải máy chủ, đảm bảo không có máy chủ nào trở thành nút cổ chai.
• Efficiency in Heterogeneous Environments: Hoạt động tốt khi các máy chủ có công suất và khối lượng công việc khác nhau vì nó phân bổ động các yêu cầu đến các máy chủ ít bận rộn hơn.

Nhược điểm

• Higher Complexity: Việc triển khai phức tạp hơn so với các thuật toán đơn giản hơn như Round Robin, vì nó yêu cầu giám sát các kết nối đang hoạt động theo thời gian thực.
• State Maintenance: Yêu cầu bộ cân bằng tải duy trì trạng thái kết nối hoạt động, có thể làm tăng chi phí.
• Potential for Connection Spikes: Trong trường hợp thời gian kết nối ngắn, máy chủ có thể gặp phải sự tăng đột biến nhanh chóng về số lượng kết nối, dẫn đến bộ cân bằng tải phải tái cân bằng thường xuyên.

Trường hợp sử dụng

• Heterogeneous Environments: Thích hợp cho các môi trường nơi máy chủ có công suất và khối lượng công việc khác nhau và tải cần được phân bổ động.
• Variable Traffic Patterns: Hoạt động tốt cho các ứng dụng có lưu lượng truy cập không thể đoán trước hoặc có tính biến đổi cao, đảm bảo rằng không có máy chủ nào bị quá tải.
• Stateful Applications: Hiệu quả đối với các ứng dụng cần duy trì trạng thái phiên(session state), vì nó giúp phân phối các phiên hoạt động(active sessions) một cách đồng đều hơn

So sánh với Round Robin

• Round Robin: Phân phối các request theo thứ tự cố định, theo chu kỳ mà không xem xét tải hiện tại trên mỗi máy chủ.
• Least Connections: Phân phối các yêu cầu dựa trên tải hiện tại, chuyển các yêu cầu mới(request) đến máy chủ có ít kết nối hoạt động nhất.

Weighted Round Robin

Weighted Round Robin (WRR) là phiên bản nâng cao của thuật toán cân bằng tải Round Robin. Nó chỉ định trọng số cho từng máy chủ dựa trên dung lượng hoặc hiệu suất của chúng, phân phối các yêu cầu đến theo tỷ lệ tương ứng với các trọng số này. Điều này đảm bảo rằng các máy chủ mạnh hơn xử lý phần tải lớn hơn, trong khi các máy chủ kém hơn xử lý phần tải nhỏ hơn.

Ưu điểm

• Load Distribution According to Capacity: Máy chủ có cấu hình, dung lượng cao hơn xử lý nhiều yêu cầu hơn, dẫn đến việc sử dụng tài nguyên tốt hơn.
• Flexibility: Dễ dàng điều chỉnh để phù hợp với những thay đổi về dung lượng máy chủ hoặc bổ sung máy chủ mới.
• Improved Performance: Giúp tối ưu hóa hiệu suất hệ thống tổng thể bằng cách ngăn chặn tình trạng quá tải của các máy chủ kém mạnh mẽ hơn.

Nhược điểm

• Complexity in Weight Assignment: Việc xác định trọng số phù hợp cho từng máy chủ có thể là một thách thức và yêu cầu số liệu hiệu suất chính xác.
• Increased Overhead: Việc quản lý và cập nhật trọng số có thể tăng thêm chi phí, đặc biệt là trong môi trường năng động nơi hiệu suất máy chủ dao động.
• Not Ideal for Highly Variable Loads: Trong các môi trường có kiểu tải thay đổi nhiều, WRR có thể không phải lúc nào cũng cung cấp khả năng cân bằng tải tối ưu vì nó không xem xét tải máy chủ theo thời gian thực.

Trường hợp sử dụng

• Heterogeneous Server Environments: Lý tưởng cho các môi trường nơi máy chủ có khả năng xử lý khác nhau, đảm bảo sử dụng tài nguyên hiệu quả.
• Scalable Web Applications: Phù hợp cho các ứng dụng web nơi các máy chủ khác nhau có thể có các đặc điểm hiệu suất khác nhau.
• Database Clusters: Hữu ích trong các cụm cơ sở dữ liệu nơi một số nút có khả năng xử lý cao hơn và có thể xử lý nhiều truy vấn hơn.

Weighted Least Connections

Weighted Least Connections(Kết nối tối thiểu có trọng số) là một thuật toán cân bằng tải nâng cao kết hợp các nguyên tắc của thuật toán Least Connections(Kết nối tối thiểu) và thuật toán Round Robin có trọng số. Nó tính đến cả tải hiện tại (số lượng kết nối đang hoạt động) trên mỗi máy chủ và dung lượng tương đối của từng máy chủ (trọng số). Cách tiếp cận này đảm bảo rằng các máy chủ mạnh hơn sẽ xử lý phần tải lớn hơn tương ứng, đồng thời điều chỉnh linh hoạt theo tải thời gian thực trên mỗi máy chủ.

Ưu điểm

• Dynamic Load Balancing: Điều chỉnh tải theo thời gian thực trên mỗi máy chủ, đảm bảo phân phối yêu cầu cân bằng hơn.
• Capacity Awareness: Có tính đến dung lượng tương đối của từng máy chủ, vì vậy việc sử dụng tài nguyên tốt hơn.
• Flexibility: Có thể xử lý hiệu quả các môi trường có máy chủ không đồng nhất và load patterns thay đổi hiệu quả

Nhược điểm

• Complexity: Việc triển khai phức tạp hơn so với các thuật toán đơn giản hơn như Round Robin và Least Connections.
• State Maintenance: Yêu cầu bộ cân bằng tải theo dõi cả kết nối đang hoạt động và trọng số máy chủ, làm tăng chi phí hoạt động.
• Weight Assignment: Việc xác định trọng số phù hợp cho từng máy chủ có thể là một thách thức và yêu cầu số liệu hiệu suất chính xác.

Trường hợp sử dụng

• Heterogeneous Server Environments: Lý tưởng cho các môi trường nơi máy chủ có khả năng xử lý và khối lượng công việc khác nhau(không đồng nhất)
• High Traffic Web Applications: Thích hợp cho các ứng dụng web có mô hình lưu lượng truy cập thay đổi, đảm bảo không có máy chủ nào trở thành nút cổ chai.
• Database Clusters: Hữu ích trong các cụm cơ sở dữ liệu nơi các nút có khả năng thực hiện và tải truy vấn khác nhau.

IP Hash

Cân bằng tải theo IP Hash là một kỹ thuật gán các yêu cầu của khách hàng đến các máy chủ dựa trên địa chỉ IP của khách hàng. Bộ cân bằng tải sử dụng một hàm băm để chuyển đổi địa chỉ IP của khách hàng thành một giá trị băm, sau đó được sử dụng để xác định máy chủ nào sẽ xử lý yêu cầu. Phương pháp này đảm bảo rằng các yêu cầu từ cùng một địa chỉ IP của khách hàng luôn được chuyển đến cùng một máy chủ, cung cấp tính bền vững cho phiên làm việc.

Ví dụ

Giả sử bạn có ba máy chủ (Máy chủ A, Máy chủ B và Máy chủ C) và một khách hàng với địa chỉ IP 192.168.1.10. Bộ cân bằng tải áp dụng một hàm băm cho địa chỉ IP này, tạo ra một giá trị băm. Nếu giá trị băm là 2 và có ba máy chủ, bộ cân bằng tải sẽ chuyển yêu cầu đến Máy chủ C (2 % 3 = 2).

Ưu điểm

• Session Persistence: Đảm bảo rằng các yêu cầu từ cùng một địa chỉ IP của máy khách được định tuyến nhất quán đến cùng một máy chủ, điều này có lợi cho các ứng dụng có trạng thái.
• Simplicity: Dễ thực hiện và không yêu cầu bộ cân bằng tải duy trì trạng thái kết nối.
• Deterministic: Định tuyến có thể dự đoán và nhất quán dựa trên địa chỉ IP của khách hàng.

Nhược điểm

• Uneven Distribution: Nếu địa chỉ IP của máy khách không được phân bố đồng đều, một số máy chủ có thể nhận được nhiều yêu cầu hơn những máy chủ khác, dẫn đến tải không đồng đều.
• Dynamic Changes: Việc thêm hoặc xóa máy chủ có thể làm gián đoạn the hash mapping, khiến một số máy khách bị định tuyến đến các máy chủ khác nhau.
• Limited Flexibility: Không tính đến tải hoặc công suất hiện tại của máy chủ, điều này có thể dẫn đến hoạt động kém hiệu quả.

Trường hợp sử dụng

• Stateful Applications: Lý tưởng cho các ứng dụng mà việc duy trì tính bền vững của phiên là quan trọng, chẳng hạn như giỏ hàng trực tuyến hoặc phiên của người dùng(user sessions).
• Geographically Distributed Clients: Hữu ích khi khách hàng được phân phối trên các khu vực khác nhau và yêu cầu định tuyến nhất quán.

Least Response Time

Least Response Time load balancing(cân bằng tải theo Thời gian Phản hồi Ít nhất) là một thuật toán động gán các yêu cầu đến máy chủ có thời gian phản hồi thấp nhất, đảm bảo sử dụng tài nguyên máy chủ hiệu quả và mang lại trải nghiệm tối ưu cho khách hàng. Cách tiếp cận này nhằm điều hướng lưu lượng đến máy chủ có khả năng xử lý yêu cầu nhanh nhất, dựa trên các số liệu hiệu suất gần đây.

Least Response Time Load Balancing hoạt động như thế nào

• Monitor Response Times: Bộ cân bằng tải liên tục theo dõi thời gian phản hồi của từng máy chủ. Thời gian phản hồi thường được tính từ khi yêu cầu được gửi đến máy chủ cho đến khi nhận được phản hồi.
• Assign Requests: Khi có yêu cầu mới đến, bộ cân bằng tải sẽ chỉ định yêu cầu đó cho máy chủ có thời gian phản hồi trung bình thấp nhất.
• Dynamic Adjustment: Bộ cân bằng tải điều chỉnh động việc phân công yêu cầu dựa trên dữ liệu hiệu suất thời gian thực, đảm bảo rằng máy chủ nhanh nhất sẽ xử lý yêu cầu tiếp theo.

Ưu điểm

• Optimized Performance: Đảm bảo rằng các yêu cầu được xử lý bởi máy chủ nhanh nhất hiện có, giúp giảm độ trễ và cải thiện trải nghiệm khách hàng.
• Dynamic Load Balancing: Liên tục điều chỉnh để thay đổi hiệu suất máy chủ, đảm bảo phân phối tải tối ưu.
• Effective Resource Utilization: Giúp sử dụng tốt hơn tài nguyên máy chủ bằng cách hướng lưu lượng truy cập đến các máy chủ có thể phản hồi nhanh chóng.

Nhược điểm

• Complexity: Việc triển khai phức tạp hơn so với các thuật toán đơn giản hơn như Round Robin, vì nó yêu cầu giám sát liên tục hiệu suất máy chủ.
• Overhead: Việc theo dõi thời gian phản hồi và điều chỉnh tải linh hoạt có thể gây ra thêm chi phí.
• Short-Term Variability: Thời gian phản hồi có thể thay đổi trong thời gian ngắn do biến động mạng hoặc sự cố máy chủ tạm thời, có thể gây ra tình trạng tái cân bằng thường xuyên.

Trường hợp sử dụng

• Real-Time Applications: Lý tưởng cho các ứng dụng có độ trễ thấp và thời gian phản hồi nhanh là rất quan trọng, chẳng hạn như chơi trò chơi trực tuyến, truyền phát video hoặc nền tảng giao dịch tài chính.
• Web Services: Hữu ích cho các dịch vụ web và API cần cung cấp phản hồi nhanh chóng cho các yêu cầu của người dùng.
• Dynamic Environments :Phù hợp cho các môi trường có tải biến động và hiệu suất máy chủ thay đổi.

Random

Random load balancing(Cân bằng tải ngẫu nhiên) là một thuật toán đơn giản phân phối các yêu cầu đến các máy chủ một cách ngẫu nhiên. Thay vì tuân theo một trình tự cố định hoặc sử dụng các chỉ số hiệu suất, bộ cân bằng tải chọn ngẫu nhiên một máy chủ để xử lý mỗi yêu cầu. Phương pháp này có thể hiệu quả trong các tình huống mà tải tương đối đồng đều và các máy chủ có năng lực tương tự nhau.

Giả sử bạn có ba máy chủ: Máy chủ A, Máy chủ B và Máy chủ C. Khi có một yêu cầu mới đến, bộ cân bằng tải sẽ chọn ngẫu nhiên một trong các máy chủ này để xử lý yêu cầu. Theo thời gian, nếu sự ngẫu nhiên là đồng đều, mỗi máy chủ sẽ nhận được số lượng yêu cầu xấp xỉ bằng nhau.

Ưu điểm

• Simplicity: Rất dễ thực hiện và dễ hiểu, yêu cầu cấu hình tối thiểu.
• No State Maintenance: Bộ cân bằng tải không cần theo dõi trạng thái hoặc hiệu suất của máy chủ, giúp giảm chi phí.
• Uniform Distribution Over Time: Nếu lựa chọn ngẫu nhiên đồng nhất thì tải sẽ được phân bổ đều trên các máy chủ trong thời gian dài.

Nhược điểm

• No Load Awareness: Không xem xét tải hiện tại hoặc năng lực của các máy chủ, điều này có thể dẫn đến phân phối không đồng đều nếu hiệu suất của các máy chủ khác nhau.
• Potential for Imbalance: Trong ngắn hạn, việc chọn ngẫu nhiên có thể dẫn đến phân phối không đồng đều các yêu cầu.
• No Session Affinity: Các yêu cầu từ cùng một máy khách có thể được chuyển hướng đến các máy chủ khác nhau, điều này có thể gây ra vấn đề đối với các ứng dụng có trạng thái.
• Các hệ thống bảo mật dựa vào việc phát hiện các điểm bất thường (ví dụ: để giảm thiểu các cuộc tấn công DDoS) có thể gặp khó khăn hơn trong việc xác định các mẫu độc hại nếu sử dụng thuật toán Ngẫu nhiên, do tính chất khó đoán vốn có trong phân phối yêu cầu. Điều này có thể làm giảm khả năng phát hiện các kiểu tấn công.

Trường hợp sử dụng

• Homogeneous Environments: Phù hợp với môi trường có máy chủ có công suất và hiệu suất tương tự.
• Stateless Applications: Hoạt động tốt cho các ứng dụng không trạng thái trong đó mỗi yêu cầu có thể được xử lý độc lập.
• Simple Deployments: Lý tưởng cho các triển khai đơn giản, nơi mà sự phức tạp của các thuật toán cân bằng tải khác không cần thiết.

Least Bandwidth

Thuật toán cân bằng tải băng thông tối thiểu phân phối các yêu cầu đến máy chủ dựa trên mức sử dụng băng thông hiện tại. Nó định tuyến từng yêu cầu mới đến máy chủ đang tiêu thụ ít băng thông nhất vào thời điểm đó. Cách tiếp cận này giúp cân bằng tải mạng hiệu quả hơn bằng cách đảm bảo rằng không có máy chủ nào bị choáng ngợp với quá nhiều lưu lượng dữ liệu.

Ưu điểm

• Dynamic Load Balancing: Liên tục điều chỉnh theo tải mạng hiện tại, đảm bảo phân phối lưu lượng tối ưu.
• Prevents Overloading: Giúp ngăn chặn việc bất kỳ máy chủ nào bị quá tải với quá nhiều lưu lượng dữ liệu, từ đó cải thiện hiệu suất và tính ổn định.
• Efficient Resource Utilization: Đảm bảo rằng tất cả các máy chủ được sử dụng hiệu quả hơn bằng cách cân bằng việc sử dụng băng thông.

Nhược điểm

• Complexity: Việc triển khai phức tạp hơn so với các thuật toán đơn giản hơn như Round Robin, vì nó yêu cầu giám sát liên tục việc sử dụng băng thông.
• Overhead: Giám sát băng thông và điều chỉnh tải linh hoạt có thể tạo ra thêm chi phí.
• Short-Term Variability: Việc sử dụng băng thông có thể dao động trong thời gian ngắn, có khả năng gây ra tình trạng tái cân bằng thường xuyên.

Trường hợp sử dụng

• High Bandwidth Applications:Lý tưởng cho các ứng dụng có mức sử dụng băng thông cao, chẳng hạn như truyền phát video, tải xuống tệp và truyền dữ liệu lớn.
• Content Delivery Networks (CDNs): Hữu ích cho các CDN cần cân bằng lưu lượng truy cập hiệu quả để phân phối nội dung nhanh chóng.
• Real-Time Applications: Thích hợp cho các ứng dụng thời gian thực trong đó việc duy trì độ trễ thấp là rất quan trọng.

Custom Load

Cân bằng tải Tùy chỉnh là một phương pháp linh hoạt và có thể cấu hình cao, cho phép bạn định nghĩa các chỉ số và quy tắc của riêng mình để phân phối lưu lượng đến một nhóm các máy chủ. Khác với các thuật toán cân bằng tải tiêu chuẩn sử dụng các tiêu chí đã định sẵn như số lượng kết nối hoặc thời gian phản hồi, cân bằng tải Tùy chỉnh cho phép bạn điều chỉnh chiến lược phân phối dựa trên các yêu cầu và điều kiện cụ thể của ứng dụng hoặc cơ sở hạ tầng của bạn.

Cách cân bằng tải tùy chỉnh hoạt động

• Define Custom Metrics: Xác định số liệu tùy chỉnh: Xác định số liệu thể hiện tốt nhất các đặc tính tải hoặc hiệu suất có liên quan đến ứng dụng của bạn. Các số liệu này có thể bao gồm mức sử dụng CPU, mức sử dụng bộ nhớ, I/O ổ đĩa, số liệu dành riêng cho ứng dụng hoặc kết hợp nhiều số liệu.
• Implement Monitoring: Liên tục theo dõi các số liệu được xác định trên mỗi máy chủ trong nhóm. Điều này có thể liên quan đến việc tích hợp với các công cụ giám sát hoặc tập lệnh tùy chỉnh để thu thập và báo cáo dữ liệu cần thiết.
• Create Load Balancing Rules: Thiết lập các quy tắc và thuật toán sử dụng số liệu được giám sát để đưa ra quyết định cân bằng tải. Đây có thể là tổng số liệu có trọng số đơn giản hoặc logic phức tạp hơn nhằm ưu tiên các số liệu nhất định hơn các số liệu khác.
• Dynamic Adjustment: Sử dụng dữ liệu và quy tắc đã thu thập để điều chỉnh linh hoạt việc phân phối các yêu cầu đến, đảm bảo lưu lượng được cân bằng theo tiêu chí tải tùy chỉnh.

Ưu điểm

• Flexibility: Cho phép các chiến lược cân bằng tải được tùy chỉnh cao phù hợp với nhu cầu cụ thể và đặc điểm hiệu suất của ứng dụng của bạn.
• Optimized Resource Utilization: Có thể dẫn đến việc sử dụng tài nguyên máy chủ hiệu quả hơn bằng cách xem xét một bộ số liệu toàn diện.
• Adaptability: Dễ dàng thích ứng với các điều kiện và yêu cầu thay đổi, giúp nó phù hợp với môi trường phức tạp và năng động.

Nhược điểm

• Complexity: Việc triển khai và cấu hình phức tạp hơn so với các thuật toán cân bằng tải tiêu chuẩn.
• Monitoring Overhead: Yêu cầu giám sát liên tục nhiều số liệu, điều này có thể gây ra thêm chi phí.
• Potential for Misconfiguration: Các số liệu hoặc quy tắc được xác định không chính xác có thể dẫn đến các vấn đề về hiệu suất và cân bằng tải dưới mức tối ưu.

Trường hợp sử dụng

• Complex Applications: Lý tưởng cho các ứng dụng có đặc tính hiệu suất phức tạp và yêu cầu tài nguyên khác nhau.
• Highly Dynamic Environments: Thích hợp cho các môi trường mà khối lượng công việc và hiệu suất máy chủ có thể thay đổi nhanh chóng và khó lường.
• Custom Requirements: Hữu ích khi các thuật toán cân bằng tải tiêu chuẩn không đáp ứng được nhu cầu cụ thể của ứng dụng.