Generative AI – đấu trường mới trong thiết kế chip điện thoại

generative ai a new arena in phone chip design 653c0d71c22ac | Dang Ngoc Duy

Generative AI đã bùng nổ trong năm qua, với hàng loạt ứng dụng được ra mắt để tạo văn bản, ảnh, nhạc và thậm chí cả trợ lý đa năng. Các hãng smartphone và chip bán dẫn cũng đang xây dựng phần cứng mới nhất để không bỏ lỡ làn sóng. Dẫn đầu là Pixel 8 của Google, trong khi vi xử lý Snapdragon 8 Gen 3 của Qualcomm cũng chuẩn bị ra mắt trong những ngày tới.

Dấu hiệu mới nhất cho thấy các nhà sản xuất điện thoại đang chào đón AI từ Google. Dòng Pixel 8 là những mẫu smartphone đầu tiên có khả năng vận hành và xử lý các Foundation Models do AI tạo ra của Google ngay trên thiết bị mà không cần kết nối Internet. Công ty cho biết mô hình trên Pixel 8 cắt giảm nhiều so với các dịch vụ đám mây, nhưng hoạt động trên thiết bị mang lại tính bảo mật và độ tin cậy cao hơn khi không có dữ liệu.

SoC chip on Google phones. Photo: Android Authority

Chip SoC trên điện thoại Google. Hình chụp: Chính quyền Android

Điều này có thể thực hiện được nhờ chip Tensor G3, bộ xử lý Tensor (TPU) được cải tiến nhiều so với năm ngoái. Công ty thường giữ bí mật hoạt động của chip AI của mình, nhưng đã tiết lộ một số thông tin như Pixel 8 có số lượng mô hình học máy trên thiết bị nhiều gấp đôi so với Pixel 6. Generative AI trên Pixel 8 cũng có khả năng tính toán cao hơn 150 lần mạnh mẽ hơn mẫu Pixel 7 lớn nhất.

Google không phải là hãng điện thoại duy nhất sử dụng trí tuệ nhân tạo ở cấp độ phần cứng. Samsung công bố hồi đầu tháng này rằng chipset Exynos 2400 đang được phát triển với hiệu năng tính toán AI tăng 14,7 lần so với dòng 2200. Họ cũng đang phát triển công cụ AI cho điện thoại mới sử dụng chip 2400, cho phép Người dùng chạy ứng dụng tạo hình ảnh từ văn bản ngay trên thiết bị mà không cần kết nối Internet.

Chip Snapdragon của Qualcomm là trái tim của nhiều mẫu smartphone Android hàng đầu thế giới, khiến người dùng đặt nhiều kỳ vọng vào khả năng vận hành do AI tạo ra của mẫu Snapdragon 8 Gen 3.

Qualcomm đầu năm nay đã trình diễn một phiên bản của ứng dụng tạo hình ảnh văn bản Stable Diffusion chạy trên các thiết bị Snapdragon 8 Gen 2. Điều này cho thấy hỗ trợ tạo hình ảnh có thể là một tính năng mới trên chipset Gen 3, đặc biệt khi Exynos 2400 của Samsung cũng có tính năng tương tự.

Giám đốc cấp cao của Qualcomm, Karl Whealton cho biết các thiết bị sắp ra mắt “có thể làm hầu hết mọi thứ bạn muốn” nếu phần cứng của chúng đủ mạnh, hiệu quả và linh hoạt. Ông cho biết mọi người thường xem xét các tính năng cụ thể liên quan đến Generative AI và đặt câu hỏi liệu phần cứng hiện tại có thể xử lý chúng hay không, đồng thời nhấn mạnh rằng các dòng chip hiện tại của Qualcomm đủ mạnh mẽ và linh hoạt. để đáp ứng nhu cầu người dùng.

Một số điện thoại thông minh có RAM 24 GB cũng được ra mắt trong năm nay, báo hiệu rằng chúng có thể được tận dụng cho các mô hình AI tổng hợp. “Tôi sẽ không nói thay cho các nhà sản xuất thiết bị nhưng dung lượng RAM lớn sẽ mang lại nhiều lợi ích, trong đó có hiệu suất tăng lên. Năng lực hiểu biết của một mô hình AI thường liên quan đến quy mô của mô hình đào tạo”, Whaleton cho biết.

Các mô hình AI thường được tải và cư trú liên tục trong RAM, vì bộ nhớ flash thông thường làm tăng đáng kể thời gian tải ứng dụng.

“Mọi người muốn đạt 10-40 token mỗi giây. Điều đó sẽ đảm bảo mang lại kết quả tốt, mang đến những cuộc trò chuyện gần như đời thực. Tốc độ này chỉ có thể đạt được khi model có RAM, đó là lý do tại sao dung lượng RAM lại quan trọng đến vậy”, ông nói.

Close-up of Snapdragon 8 Gen 2 chip. Photo: Qualcomm

Cận cảnh chip Snapdragon 8 Gen 2. Hình chụp: Qualcomm

Tuy nhiên, điều này không có nghĩa là smartphone có RAM thấp sẽ bị bỏ lại phía sau.

“Generative AI trên thiết bị sẽ không đặt ra mức RAM tối thiểu mà dung lượng RAM sẽ tỷ lệ thuận với mức độ nâng cao tính năng. Điện thoại có RAM thấp sẽ không nằm ngoài cuộc chơi, nhưng kết quả từ AI tổng quát sẽ tốt hơn nhiều với các sản phẩm có dung lượng RAM lớn”, giám đốc Whaleton nhận xét.

Giám đốc truyền thông của Qualcomm Sascha Segan đã đề xuất một kế hoạch lai cho điện thoại thông minh không thể chứa các mô hình AI lớn trên thiết bị. Chúng có thể chứa các mô hình nhỏ và cho phép xử lý trên thiết bị, sau đó so sánh và xác thực kết quả với các mô hình lớn trên đám mây. Nhiều mô hình AI cũng đang được thu nhỏ hoặc lượng tử hóa, cho phép chúng chạy trên điện thoại tầm trung và cũ hơn.

Theo các chuyên gia, các mô hình Generative AI sẽ đóng vai trò ngày càng quan trọng trên các thiết bị di động sắp tới. Phần lớn điện thoại vẫn dựa vào đám mây nhưng khả năng xử lý trên thiết bị sẽ là chìa khóa để mở rộng tính bảo mật và chức năng. Điều này đòi hỏi chip mạnh hơn, bộ nhớ nhiều hơn và công nghệ nén AI thông minh hơn.

Diệp Anh (dựa theo Chính quyền Android )

Trả lời

viVI