Hai hãng công nghệ Mỹ Qualcomm Technologies, Inc. và Meta (công ty mẹ của các ứng dụng mạng xã hội Facebook, Instagram, Threads, và WhatsApp) ngày 18-4-2024 đã công bố hợp tác với nhau nhằm tối ưu hóa việc ứng dụng các mô hình ngôn ngữ lớn Meta Llama 3 (LLM) trực tiếp trên điện thoại thông minh, máy tính, kính VR/AR, xe hơi và các thiết bị khác. Việc tối ưu hóa này sẽ được triển khai trên các thiết bị chạy các nền tảng Snapdragon thuộc dòng flagship (dòng sản phẩm đỉnh cao, nổi bật nhất) sắp được ra mắt. Theo họ, khả năng vận hành Llama 3 trên thiết bị mang lại nhiều ưu điểm, bao gồm tốc độ phản ứng vượt trội, nâng cao tính bảo mật, độ tin cậy và trải nghiệm cá nhân hóa cho người dùng.

Ông Durga Malladi, Phó Chủ tịch Cấp cao và Giám đốc Điều hành mảng Công nghệ, Kế hoạch và Giải pháp, Qualcomm Technologies, Inc., chia sẻ: “Chúng tôi rất hoan nghênh sự hợp tác và hướng tiếp cận cởi mở của Meta  với Meta Llama 3, chúng tôi cùng hướng đến cam kết hỗ trợ trao quyền cho các nhà phát triển và thúc đẩy tính tiên phong trong ứng dụng trí tuệ nhân tạo. Với vị thế dẫn đầu của Qualcomm trong lĩnh vực ứng dụng AI trên thiết bị, kết hợp với phạm vi tiếp cận rộng khắp trên nhiều thiết bị , chúng tôi ngày càng mở rộng lợi ích của hệ sinh thái Llama trên toàn cầu, cho phép khách hàng, đối tác và các nhà phát triển tạo ra một trải nghiệm AI hoàn toàn mới.”

Mối quan hệ hợp tác mới giữa Qualcomm và Meta nhằm mục đích nâng cao khả năng tiếp cận các tính năng của AI tạo sinh (Gen AI) bằng cách cho phép các nhà sản xuất thiết bị gốc (OEM) và nhà phát triển đưa Llama 3 vào vận hành các trên thiết bị sử dụng nền tảng Snapdragon thuộc hạng flagship  sắp ra mắt của hãng. Việc sử dụng kiến trúc điện toán không đồng nhất (heterogeneous computing architecture) tận dụng sức mạnh của các thành phần xử lý hàng đầu bao gồm CPU, GPU và NPU, kết hợp với kiến trúc bộ nhớ tân tiến, giúp các khách hàng, đối tác và nhà phát triển tối đa hóa hiệu năng ứng dụng, hiệu suất nhiệt độ và tuổi thọ pin.

Các nhà phát triển sẽ có quyền truy cập vào nguồn tài nguyên và công cụ để vận hành Llama 3 một cách tối ưu trên nền tảng Snapdragon thông qua Qualcomm AI Hub, cổng thông tin hiện đang cung cấp khoảng 100 mô hình AI được tối ưu hóa. Qualcomm AI Hub giúp các nhà phát triển thúc đẩy thời gian đưa sản phẩm ra thị trường nhanh hơn, đồng thời mở khóa các tiện ích của AI trên thiết bị cho ứng dụng của họ.

Qualcomm Technologies và Meta cam kết thúc đẩy sự tiên phong và nâng tầm những trải nghiệm AI ở một thế hệ hoàn toàn mới. Sự kết hợp mới này đánh dấu cột mốc quan trọng trong mối quan hệ hợp tác lâu dài của hai bên, đồng thời thể hiện những nỗ lực trong việc mang đến cho các nhà phát triển và người dùng những tính năng AI mạnh mẽ.

Tham khảo: Qualcomm Enables Meta Llama 3 to Run on Devices Powered by Snapdragon.

M.B.E.

Nguồn do Qualcomm cung cấp.