Dell Technologies (Mỹ) trong tháng 10-2024 đã công bố việc mở rộng danh mục giải pháp GenAI toàn diện nhất của mình, với những sản phẩm mới trong Dell AI Factory được “đo ni đóng giày” cho các môi trường chạy vi xử lý của AMD. Các giải pháp này mang đến cho doanh nghiệp năng lực trí tuệ nhân tạo AI tiên tiến, bao gồm khả năng mở rộng và linh hoạt tốt hơn, để duy trì khả năng cạnh tranh trong bối cảnh công nghệ không ngừng thay đổi.

Ông Arthur Lewis, Chủ tịch Nhóm Giải pháp Hạ tầng của Dell Technologies, chia sẻ: “Bằng việc tích hợp công nghệ của AMD vào các máy chủ, giải pháp và dịch vụ AI mới nhất của Dell thông qua Dell AI Factory, chúng tôi cung cấp hiệu năng và khả năng tiết kiệm điện mà mọi doanh nghiệp cần hiện tại và trong tương lai. Đồng hành cùng AMD, chúng tôi đang thiết lập những chuẩn mực mới về hiệu năng xử lý AI, qua đó mang đến cho các doanh nghiệp những giải pháp mạnh mẽ với chi phí hợp lý để phục vụ cho những môi trường hiện đại dựa trên dữ liệu.”

Ông Forrest Norrod, Phó Chủ tịch Cấp cao kiêm Tổng Giám đốc Nhóm Giải pháp Trung tâm Dữ liệu của AMD, cho biết: “Các vi xử lý AMD EPYC và bộ tăng tốc Instinct mới nhất cung cấp cho khách hàng của Dell các giải pháp đầu cuối tân tiến với quy mô lớn. Từ đó, các doanh nghiệp có thể tăng tốc triển khai AI và tăng thêm sức mạnh cho hạ tầng công nghệ thông tin quan trọng. Mối quan hệ hợp tác lâu dài giữa chúng tôi và Dell tiếp tục mang đến những giải pháp tiên tiến giúp năng cao hiệu quả vận hành và tối ưu thời gian mang lại giá trị, thúc đẩy sự đổi mới ở các ngành có tính cạnh tranh cao.”

Máy chủ Dell PowerEdge mới thúc đẩy nhu cầu về ứng dụng AI diện rộng

Gia đình máy chủ Dell PowerEdge chạy AMD R7715, R7725, R6715, R6725, XE7745.

Các máy chủ Dell PowerEdge mới hỗ trợ các trường hợp ứng dụng AI và ứng dụng truyền thống, đồng thời đơn giản hóa quá trình quản lý và bảo mật máy chủ. Các nền tảng cung cấp những giải pháp có thể tùy chỉnh và khai thác năng lượng hiệu quả nhằm đơn giản hóa việc quản lý và hỗ trợ các ứng dụng đòi hỏi hiệu năng cao trong các doanh nghiệp hiện đại:

• Được thiết kế để chạy các ứng dụng AI cấp doanh nghiệp, máy chủ Dell PowerEdge XE7745 hỗ trợ đến 8 GPU chiều rộng hai khe cắm PCIe hoặc 16 GPU chiều rộng tiêu chuẩn với các vi xử lý AMD EPYC thế hệ 5 trong khung máy chủ kích thước 4U làm mát bằng không khí. Được chế tạo để chuyên phục vụ cho suy luận AI (AI inferencing), tinh chỉnh mô hình, và máy tính hiệu năng cao, các khe cắm GPU bên trong được ghép với 8 khe cắm PCIe Gen 5.0 phục vụ kết nối mạng, để tạo ra các cấu hình linh hoạt, mật độ cao với số lượng GPU DW PCIe nhiều hơn gấp đôi so với thế hệ trước (Dell PowerEdge R760XA).
• Máy chủ PowerEdge R6725 và R7725 được tối ưu hóa khả năng mở rộng với các bộ vi xử lý AMD EPYC thế hệ 5 hiệu năng cao. Thiết kế máy chủ DC-MHS mới tăng cường khả năng tản nhiệt bằng không khí và hỗ trợ CPU 500W kép để chinh phục những thử thách khắc nghiệt về nhiệt độ để đạt được hiệu năng cao và tiết kiệm năng lượng hiệu quả. Với các cấu hình được tối ưu hóa cho việc mở rộng quy mô, những máy chủ này duy trì việc phân tích dữ liệu và xử lý ứng dụng AI một cách chính xác, và mang đến hiệu năng cao nhất khi chạy các ứng dụng về ảo hóa, cơ sở dữ liệu, và AI. Máy chủ R7725 cho hiệu năng cao hơn đến 66%, và khả năng sử dụng điện năng hiệu quả lên đến 33% khi chạy với cấu hình cao nhất.

Cả ba máy chủ mới này hỗ trợ số nhân nhiều hơn đến 50%, với hiệu năng trên mỗi nhân tăng đến 37%. Nhờ vậy, hiệu năng xử lý, khả năng tiết kiệm năng lượng, và tổng chi phí sở hữu (TCO) tốt hơn. Những cải tiến này giúp hợp nhất đến 7 máy chủ 5 năm tuổi thành một máy chủ ngày nay, nhờ vậy lượng điện năng CPU tiêu thụ giảm đến 65%.

• Máy chủ PowerEdge R6715 và R7715 với bộ vi xử lý AMD EPYC thế hệ 5 mang đến hiệu năngvà hiệu quả sử dụng năng lượng tốt hơn, đồng thời tăng dung lượng ổ đĩa đến 37%, qua đó cho mật độ lưu trữ cao hơn. Với nhiều tùy chọn, các máy chủ socket đơn hỗ trợ dung lượng bộ nhớ gấp đôi với 24 DIMM (2DPC), đồng thời đáp ứng được nhiều yêu cầu đa dạng từ các ứng dụng và tối ưu hóa hiệu năng trong các khung máy chủ kích thước nhỏ gọn 1U và 2U. Máy chủ R6715 phá vỡ kỷ lục thế giới về hiệu năng khi chạy các tác vụ AI và ảo hóa.

Với những doanh nghiệp triển khai AI diện rộng, Dell Technologies sẽ tiếp tục hỗ trợ các bộ tăng tốc AMD Instinct mới nhất trên các máy chủ Dell PowerEdge XE.

Đội ngũ IT có thể giám sát, quản lý, và nâng cấp máy chủ Dell PowerEdge từ xa thông qua Intergrated Dell Remote Access Controller (iDRAC, bộ điều khiển từ xa được tích hợp sẵn của Dell). Sở hữu bộ vi xử lý có tốc độ nhanh hơn, bộ nhớ nhiều hơn, và bộ đồng xử lý bảo mật chuyên dụng, iDRAC đơn giản hóa việc quản lý máy chủ và bảo mật, hỗ trợ đội ngũ IT đưa ra phản hồi đáng tin cậy và hiệu quả hơn.

Ông Joe Morrow, Giám đốc Dịch vụ Công nghệ, OSF Healthcare, phát biểu: “Hệ thống do Dell Technologies và AMD cung cấp đã giúp OSF Healthcare hỗ trợ các bác sĩ và bệnh nhân tốt hơn, giảm thiểu tổng chi phí và giúp đỡ các cộng đồng đang gặp khó khăn. Khi tính mạng của bệnh nhân phụ thuộc vào nền tảng của chúng tôi, việc duy trì hệ thống ổn định và hoạt động liên tục 24/7, 365 ngày trong một năm là điều hết sức cấp thiết. Nhờ những hệ thống này, chúng tôi đã giảm thiểu đáng kể thời gian nghỉ của hệ thống Hồ sơ Sức khỏe Điện tử (Epic), qua đó giúp OSF Healthcare cung cấp những dịch vụ chăm sóc sức khỏe chất lượng cao trong khi vẫn bảo đảm tính bảo mật và khả năng mở rộng trong việc vận hành.”

Những cải tiến của Dell AI Factory đơn giản hóa và tăng tốc triển khai GenAI

Với danh mục các giải pháp AI toàn diện nhất từ máy tính để bàn, cho đến trung tâm dữ liệu, hay điện toán đám mây, Dell AI Factory được thiết kế để đáp ứng những yêu cầu đa dạng về AI, qua đó giúp các doanh nghiệp tối ưu hóa các khoản đầu tư vào AI:

• Giải pháp GenAI kết hợp với AMDsử dụng máy chủ Dell PowerEdge XE9680 và bộ tăng tốc AMD Instinct MI300X để cung cấp khả năng suy luận AI, AI tạo sinh (GenAI) có kết hợp truy xuất thông tin ngoài (RAG) và tùy chỉnh theo nhu cầu. Sự tích hợp này không chỉ giúp đơn giản hóa việc triển khai AI, tăng cường bảo mật mà còn hỗ trợ kiến trúc theo dạng mô-đun có khả năng mở rộng. Bên cạnh đó, giải pháp này còn giảm thiểu thời gian mang lại giá trị tới 86%, giúp các doanh nghiệp tối ưu hóa khoản đầu tư vào AI.
• Dell Enterprise Hubtrên Hugging Face hiện hỗ trợ máy chủ Dell PowerEdge XE9680 với bộ tăng tốc AMD Instinct MI300X, cung cấp các container tập lệnh tùy chỉnh nhằm triển khai dễ dàng và bảo mật của các mô hình LIama và Mixtral. Các mô hình dạng container này được tối ưu hóa chuyên biệt để tăng cường khả năng suy luận dựa trên mô hình và máy chủ, đồng thời tận dụng phần back-end của giải pháp Suy luận Tạo Văn bản từ Hugging Face (Hugging Face Text Generation Inference, TGI).
• Dịch vụ Chuyên môn của Dell (Dell Professional Services) dành cho Generative AI đang mở rộng để hỗ trợ các môi trường AMD. Dịch vụ triển khai mới của Dell dành cho Nền tảng GenAI sử dụng AMD cung cấp một nền tảng vận hành được thiết kế theo nhu cầu, bao gồm cấu hình Kubernetes, triển khai các bộ khung AI tiên tiến và chuyển giao kiến thức cho khách hàng về các phương pháp để tối đa hóa tỷ suất hoàn vốn (Return on investment, ROI). Từ việc phát triển chiến lược đến chuẩn bị dữ liệu, triển khai nền tảng và mô hình, cũng như mở rộng quy mô giải pháp, các chuyên gia của Dell giúp doanh nghiệp đạt được kết quả kinh doanh với AI trong suốt vòng đời khai thác.

Trên thị trường

• Máy chủ Dell PowerEdge XE7745 sẽ có mặt trên toàn cầu từ tháng 1-2025.
• Máy chủ Dell PowerEdge R6715, R7715, R6725, và R7725 sẽ được phân phối trên toàn cầu từ tháng 11-2024.
• Các giải pháp AI tạo sinh của Dell với AMD sẽ sẵn có trên toàn cầu từ quý 4-2024.
• Các bản cập nhật của Dell Enterprise Hub trên Hugging Face hiện đã có mặt trên toàn cầu.
• Các dịch vụ triển khai của Dell cho nền tảng GenAI hiện đã sẵn có ở một số quốc gia.

Tham khảo: Dell Technologies Expands Dell AI Factory with New PowerEdge Servers to Accelerate Enterprise AI Adoption

M.C.M.