Khả năng hỗ trợ của IBM Power đối với suy luận mô hình AI

Giới thiệu

Hệ thống IBM Power từ lâu đã được công nhận nhờ độ bền, độ tin cậy và hiệu suất trong việc xử lý các khối lượng công việc quan trọng. Với sự gia tăng nhu cầu về các ứng dụng trí tuệ nhân tạo (AI), IBM đã nâng cấp các hệ thống Power để hỗ trợ hiệu quả suy luận mô hình AI. Báo cáo này cung cấp cái nhìn toàn diện về khả năng kỹ thuật của các hệ thống IBM Power, tập trung vào thế hệ mới nhất, Power11, và các thế hệ trước, đặc biệt là Power10, trong việc hỗ trợ suy luận AI.

Tổng quan về hệ thống IBM Power

Hệ thống IBM Power là dòng máy chủ và bộ xử lý được thiết kế cho điện toán hiệu năng cao, độ tin cậy và bảo mật. Chúng được sử dụng rộng rãi trong các môi trường doanh nghiệp để chạy các ứng dụng quan trọng như quản lý cơ sở dữ liệu, xử lý giao dịch và hiện nay là các khối lượng công việc AI. Sự phát triển của các hệ thống Power, từ Power9 đến Power10 và giờ là Power11, phản ánh cam kết của IBM trong việc thích nghi với các công nghệ mới nổi như AI.

Suy luận AI và tầm quan trọng của nó

Suy luận AI là quá trình mà một mô hình AI đã được huấn luyện đưa ra dự đoán hoặc quyết định dựa trên dữ liệu đầu vào mới. Đây là bước quan trọng trong việc triển khai các mô hình AI trong môi trường sản xuất, nơi tốc độ, độ chính xác và hiệu quả sử dụng tài nguyên là tối quan trọng. Suy luận AI đòi hỏi tài nguyên tính toán đáng kể, đặc biệt đối với các mô hình phức tạp như mô hình ngôn ngữ lớn (LLM) và AI tạo sinh. Các hệ thống IBM Power được thiết kế để đáp ứng những yêu cầu này, cung cấp các tối ưu hóa phần cứng và phần mềm phù hợp cho suy luận AI.

Khả năng của hệ thống IBM Power trong suy luận AI

1. Tăng tốc phần cứng

• Bộ tăng tốc Toán học Ma trận (MMA): Được giới thiệu trong Power10 và cải tiến trong Power11, MMA là một đơn vị phần cứng chuyên dụng tăng tốc các phép toán ma trận và vector, vốn là nền tảng cho các tác vụ suy luận AI. Tính năng này cho phép các hệ thống Power xử lý các khối lượng công việc AI hiệu quả hơn (IBM Power).

• Bộ tăng tốc IBM Spyre: Được tích hợp vào Power11, Bộ tăng tốc Spyre là một bộ tăng tốc AI cấp doanh nghiệp được thiết kế để xử lý các mô hình AI phức tạp và các trường hợp sử dụng AI tạo sinh. Nó cung cấp khả năng mở rộng cho cả huấn luyện và suy luận, là thành phần quan trọng cho các khối lượng công việc AI nâng cao (TechChannel).

2. Cải tiến bộ xử lý

• Bộ xử lý Power11: Thế hệ mới nhất của bộ xử lý IBM Power, Power11, mang lại những cải tiến đáng kể so với Power10:

  • Tốc độ xung nhịp cao hơn: Được thiết kế để cung cấp khả năng xử lý nhanh hơn cho các khối lượng công việc AI.

  • Số lượng lõi tăng: Có thể thêm tới 25% lõi trên mỗi chip xử lý so với Power10, cho phép xử lý song song tốt hơn cho suy luận AI (IBM Newsroom).

  • Độ tin cậy, khả dụng và khả năng bảo trì (RAS): Các đặc tính RAS được cải thiện đảm bảo thời gian ngừng hoạt động tối thiểu và độ tin cậy cao, điều quan trọng đối với các ứng dụng AI chạy trên dữ liệu nhạy cảm.

• Bộ xử lý Power10: Power10 đã đặt nền móng cho suy luận AI với MMA và khả năng xử lý tới 42% số lượng truy vấn hàng loạt mỗi giây so với máy chủ x86 trong điều kiện tải cao (ví dụ: 6,26 truy vấn hàng loạt mỗi giây trên IBM Power S1022 so với 4,4 trên hệ thống dựa trên Intel Xeon Platinum 8468V) (IBM Power).

3. Bộ nhớ và kết nối

• Giao diện bộ nhớ mở (OMI): Power11 hỗ trợ OMI, cho phép sử dụng cả bộ nhớ DDR4 và DDR5, đảm bảo băng thông cao và tính linh hoạt cho các ứng dụng AI (TechChannel).

• Kết nối mạng tiên tiến: Các hệ thống Power hỗ trợ các tùy chọn mạng tốc độ cao, như bộ điều hợp Mellanox với 100 Gb/s ROCE, cho phép truyền dữ liệu hiệu quả trong các kịch bản suy luận AI phân tán (HPCwire).

4. Hiệu quả năng lượng và bảo mật

• Quản lý năng lượng: Power11 cải thiện hiệu quả năng lượng của Power10 với khả năng quản lý năng lượng tốt hơn, giảm chi phí vận hành và tác động môi trường, điều quan trọng đối với các triển khai AI quy mô lớn (IBM Newsroom).

• Bảo mật lượng tử: Cả Power10 và Power11 đều bao gồm các tính năng bảo mật lượng tử, đảm bảo dữ liệu và mô hình AI nhạy cảm được bảo vệ trước các mối đe dọa từ điện toán lượng tử trong tương lai (TechChannel).

5. Phần mềm và hệ sinh thái

• IBM Cloud Pak for Data: Hỗ trợ các hệ thống IBM Power, cung cấp các công cụ như Watson Machine Learning, Watson Studio và Analytics Engine để phát triển và triển khai mô hình AI (IBM Products).

• Rocket AI Hub: Được lên kế hoạch ra mắt vào quý 4 năm 2023, nền tảng này tích hợp các công cụ AI mã nguồn mở như Kubeflow, cung cấp hỗ trợ thương mại cho việc phát triển AI trên các hệ thống Power (IBM RocketCE).

• Cụm đa kiến trúc (MAC): Cho phép kết hợp các nút công nhân IBM Power và x86 trong một cụm Red Hat OpenShift duy nhất, hỗ trợ triển khai khối lượng công việc AI linh hoạt (IBM Power).

Các nghiên cứu điển hình và ứng dụng thực tế

• Quy trình bệnh lý tại bệnh viện: Một bệnh viện sử dụng Power10 đã đạt tốc độ suy luận nhanh hơn 25% so với máy chủ x86 với GPU NVIDIA T4. Cải tiến này cho phép chẩn đoán nhanh hơn, nâng cao chất lượng chăm sóc bệnh nhân (Meridian IT).

• Phát hiện gian lận tại tổ chức tài chính: Một tổ chức tài chính nổi bật ở châu Âu, Trung Đông và châu Phi đã tận dụng các hệ thống IBM Power để nâng cao khả năng phát hiện gian lận, thể hiện tính linh hoạt của nền tảng trong các ứng dụng AI thực tế (Meridian IT).

Triển vọng tương lai với Power11

IBM Power11, được phát hành vào năm 2025, đại diện cho bước tiến tiếp theo trong các hệ thống Power của IBM dành cho AI. Các điểm nổi bật bao gồm:

• Hiệu suất MMA cải tiến: Tăng tốc toán học ma trận được cải thiện cho các khối lượng công việc suy luận (TechChannel).

• Tích hợp Bộ tăng tốc Spyre: Cung cấp sức mạnh tính toán bổ sung cho các tác vụ AI phức tạp (IBM Newsroom).

• Khả năng mở rộng và linh hoạt: Với tối đa 25% lõi bổ sung và tốc độ xung nhịp cao hơn, Power11 được thiết kế để đáp ứng nhu cầu ngày càng tăng của các ứng dụng AI.

• Tập trung vào bảo mật và hiệu quả: Thiết kế bảo mật lượng tử và hiệu quả năng lượng đảm bảo Power11 phù hợp cho các triển khai AI cấp doanh nghiệp.

Kết luận

Các hệ thống IBM Power, đặc biệt với sự ra đời của Power11, được trang bị tốt để hỗ trợ suy luận mô hình AI. Tăng tốc phần cứng (MMA và Spyre), cải tiến bộ xử lý, tùy chọn bộ nhớ và kết nối, cùng với sự tập trung vào hiệu quả năng lượng và bảo mật khiến chúng trở thành lựa chọn hấp dẫn cho các doanh nghiệp triển khai AI quy mô lớn. Khi AI tiếp tục phát triển, các hệ thống IBM Power được định vị để duy trì vai trò là nền tảng chính cho các khối lượng công việc AI quan trọng.

Bảng tóm tắt khả năng kỹ thuật của IBM Power11