Đây là cách GPU dưới dạng dịch vụ (một dịch vụ điện toán đám mây cung cấp GPU theo yêu cầu cho máy chủ) hoạt động và khi nào nên cân nhắc sử dụng dịch vụ GPUaaS.

Như thể ngành điện toán đám mây chưa có quá nhiều từ viết tắt, đây là một từ mới dành cho các chuyên gia CNTT học hỏi: GPUaaS.

Trên thực tế, những người theo dõi sẽ nhận thấy rằng đó là từ viết tắt bên trong từ viết tắt, vì nó là viết tắt của GPU-as-a-service.

Bài liên quan: Comparing Cloud Giants: 5 Key Differences Between AWS and Azure

Nhưng chúng tôi không ở đây để tôn sùng những từ viết tắt. Chúng tôi ở đây để hướng dẫn bạn về các xu hướng điện toán đám mây và GPU dưới dạng dịch vụ là một trong số đó. Hãy tiếp tục đọc để biết ý nghĩa của GPUaaS, tại sao ngày nay nó là một khái niệm quan trọng và nơi tìm các giải pháp GPU dưới dạng dịch vụ.

• GPU dưới dạng dịch vụ là gì?

• GPU dưới dạng dịch vụ hoạt động như thế nào?

• Tại sao GPU dưới dạng dịch vụ lại quan trọng?

• GPU-over-IP: Một biến thể của GPUaaS

• Nơi tìm GPU dưới dạng dịch vụ

1. GPU dưới dạng dịch vụ là gì?

GPU dưới dạng dịch vụ (còn được gọi là GPUaaS hoặc đôi khi chỉ là GaaS) là một loại dịch vụ điện toán đám mây giúp cung cấp các máy chủ có GPU hoặc bộ xử lý đồ họa theo yêu cầu.

Bài liên quan: Cloud Trends and Cybersecurity Challenges: Navigating the Future

GPU dưới dạng dịch vụ nằm trong danh mục cơ sở hạ tầng dưới dạng dịch vụ hoặc IaaS, vì đó là cách cung cấp cơ sở hạ tầng (cụ thể là các máy chủ được trang bị GPU) thông qua kết nối mạng.

1. GPU dưới dạng dịch vụ hoạt động như thế nào?

Dịch vụ GPU dưới dạng dịch vụ hoạt động giống như bất kỳ giải pháp IaaS tiêu chuẩn nào: Nhà cung cấp dịch vụ triển khai các máy chủ có GPU, sau đó cho phép khách hàng kết nối với các máy chủ đó qua Internet bằng SSH hoặc công cụ máy tính từ xa. Sau khi kết nối, khách hàng có thể triển khai khối lượng công việc theo lựa chọn của mình. Giá cả chủ yếu dựa trên thời gian máy chủ chạy.

Nếu điều đó nghe có vẻ rất giống với việc triển khai bất kỳ loại phiên bản máy chủ nào trên đám mây (không chỉ phiên bản cung cấp cho bạn quyền truy cập vào GPU) thì nó đúng như vậy. Tất cả các nhà cung cấp đám mây lớn hiện đều cung cấp các phiên bản máy chủ (như phiên bản này của AWS và phiên bản của Azure) có GPU mạnh mẽ như một phần của dòng máy chủ đám mây tiêu chuẩn của họ. Trong hầu hết các trường hợp, phiên bản là máy ảo, mặc dù bạn có thể tìm thấy các máy chủ đám mây cơ bản cung cấp GPU, chẳng hạn như phiên bản G4dn của AWS.

1. Tại sao GPU dưới dạng dịch vụ lại quan trọng?

Trong hầu hết mọi trường hợp, phiên bản máy chủ đám mây được trang bị GPU mạnh sẽ có chi phí vận hành cao hơn so với phiên bản cung cấp tài nguyên CPU và bộ nhớ tương tự nhưng không bao gồm GPU. Vậy tại sao bạn lại chọn triển khai máy chủ đám mây có GPU?

Câu trả lời là bạn đang chạy một khối lượng công việc có thể hưởng lợi từ hoặc yêu cầu GPU, chẳng hạn như tôi lập mô hình đào tạo hoặc phân tích cơ sở dữ liệu quy mô lớn. Đối với những khối lượng công việc như thế này, GPU có thể mang lại hiệu suất tăng đáng kể vì chúng có thể xử lý các con số ở tốc độ rất cao, đặc biệt là trong trường hợp các phép tính có thể được thực hiện song song.

Do đó, mặc dù GPU ban đầu được thiết kế chủ yếu để tạo (rendering) video nhưng chúng có thể tỏ ra có giá trị đối với bất kỳ khối lượng công việc nào yêu cầu tính toán song song trên quy mô lớn. Và, với động lực xung quanh AI, có khả năng ngày càng nhiều doanh nghiệp sẽ chuyển sang các giải pháp GPU dưới dạng dịch vụ để giúp đào tạo và triển khai các ứng dụng phụ thuộc vào AI trong những năm tới.

Tất nhiên, bạn có thể mua máy chủ được trang bị GPU của riêng mình để xử lý khối lượng công việc như vậy. Tuy nhiên, việc thuê quyền truy cập vào các máy chủ như vậy thông qua đám mây bằng cách sử dụng dịch vụ GPU dưới dạng dịch vụ có thể là một cách tiếp cận tiết kiệm hơn, đặc biệt nếu bạn không thường xuyên sử dụng hết công suất máy chủ của mình.

1. GPU-over-IP: Một biến thể của GPUaaS

Mua quyền truy cập tạm thời vào các máy chủ GPU dựa trên đám mây bằng GPUaaS không phải là cách duy nhất để truy cập các GPU mạnh mẽ mà không cần tự mình mua chúng. Bạn cũng có thể tận dụng GPU-over-IP, một biến thể của ý tưởng GPUaaS.

Với GPU-over-IP, bạn không thuê toàn bộ máy chủ và triển khai khối lượng công việc trên đó để tận dụng GPU của máy chủ. Thay vào đó, bạn kết nối khối lượng công việc phụ thuộc vào GPU của mình với GPU của máy chủ từ xa qua internet, sử dụng phần mềm hiển thị GPU ở dạng "thô" qua mạng.

Mức hiệu suất của GPU-over-IP có xu hướng thấp hơn so với GPUaaS vì một số tài nguyên bị lãng phí trong quá trình đưa GPU ra mạng. Nhưng ưu điểm là bạn không phải thuê toàn bộ máy chủ và triển khai khối lượng công việc của mình trên đó; bạn có thể tận dụng GPU từ xa trong khi vẫn giữ nguyên khối lượng công việc của mình.

1. Nơi tìm GPU dưới dạng dịch vụ

Như đã lưu ý ở trên, bạn có thể tìm thấy các dịch vụ GPUaaS từ tất cả các nhà cung cấp đám mây lớn. Một số cái nhỏ hơn cũng cung cấp các phiên bản máy chủ hỗ trợ GPU. NVIDIA duy trì một danh sách biểu đồ hữu ích mà các nhà cung cấp đám mây cung cấp quyền truy cập vào các máy chủ được trang bị GPU của họ.

Nếu bạn muốn khám phá cách tiếp cận GPU-over-IP, hãy xem Juice Labs, nơi xây dựng phần mềm có thể hiển thị GPU qua mạng. Một phiên bản nguồn mở và miễn phí của giải pháp của nó đã có sẵn. Juice Labs không cung cấp cơ sở hạ tầng hỗ trợ GPU; bạn phải tự mình tìm nguồn đó. Tuy nhiên, nó có thể lấy cơ sở hạ tầng GPU từ một nguồn (chẳng hạn như trung tâm dữ liệu của đối tác) và kết nối nó với khối lượng công việc ở nơi khác.

Tham khảo  www.datacenterknowledge.com

SN Hạ - K.CNTT