CEO Qualcomm cho biết các công ty AI muốn điện thoại chạy mẫu 100 tỷ thông số vào năm 2028

Giám đốc điều hành của Qualcomm cho biết các công ty AI lớn nhất đang yêu cầu ông làm một việc mà điện thoại thông minh hiện tại không thể làm được: chạy liên tục các mô hình 100 tỷ thông số trên chính điện thoại vào năm 2028.

Phát biểu trong một cuộc phỏng vấn vào ngày 8 tháng 10 do Fortune đưa tin và được các cửa hàng bao gồm TOKENPOST và Startup Fortune săn đón trong tuần này, Cristiano Amon cho biết nhiều công ty AI – mà anh từ chối nêu tên – đang thúc đẩy phát triển điện thoại thông minh có thể duy trì mô hình 100 tỷ thông số hoạt động suốt ngày đêm. Đối với độc giả đang theo dõi quá trình chuyển đổi AI từ đám mây sang túi và cổ tay, đây là tín hiệu nhu cầu rõ ràng nhất và phần Tin tức phần cứng AI của chúng tôi sẽ theo dõi xem lực đẩy đó sẽ diễn ra tiếp theo ở đâu.

Nhu cầu đến từ AI Labs, không phải lộ trình của Qualcomm

Con số quan trọng vì nó đến từ đâu. Amon đã không công bố mục tiêu sản phẩm của chính Qualcomm; anh ấy đang chuyển tiếp những gì các phòng thí nghiệm AI đang nói với nhà sản xuất chip di động lớn nhất thế giới mà họ muốn xây dựng. Các chip hàng đầu hiện nay vượt xa con số đó - Snapdragon 8 Elite Extreme Gen 6, nền tảng di động cao cấp nhất của Qualcomm, có thể chạy các mô hình hỗn hợp chuyên gia trên 30 tỷ thông số trên thiết bị, với cửa sổ ngữ cảnh khoảng 32.000 mã thông báo.

Một mô hình 100 tỷ tham số chạy không ngừng nghỉ cao hơn gấp ba lần mức trần đó và nó thay đổi vấn đề kỹ thuật về mặt hiện vật chứ không chỉ ở mức độ. Như báo cáo của Startup Fortune lưu ý, yêu cầu này không dành cho phiên bản lớn hơn của trợ lý mà mọi người đã sử dụng. Nó dành cho AI tác nhân: phần mềm theo dõi, suy luận và hành động thay mặt người dùng thay vì chờ lời nhắc, điều đó có nghĩa là mô hình phải tồn tại trong bộ nhớ và tiếp tục suy luận ở chế độ nền cả ngày mà không cần nấu pin hoặc khung máy.

Tại sao trí nhớ lại là điểm nghẽn

Khoảng cách giữa 30 tỷ và 100 tỷ tham số về cơ bản là vấn đề về bộ nhớ. Trọng lượng của mô hình trên thiết bị phải nằm trong RAM và việc tăng gấp ba lần số lượng tham số đồng thời duy trì hoạt động suy luận liên tục sẽ làm tăng băng thông bộ nhớ và nhu cầu năng lượng theo cách mà phần cứng hàng đầu hiện tại chưa bao giờ được thiết kế để hấp thụ.

Amon thừa nhận rằng việc cung cấp chip nhớ cho điện thoại thông minh đang bị "hạn chế tạm thời" - sự thiếu hụt tương tự đã khiến giá điện thoại trên toàn ngành tăng cao trong năm nay - nhưng ông cho rằng đó là áp lực sẽ buộc phải thiết kế chip tiết kiệm bộ nhớ hơn thay vì chỉ đơn giản là nhiều bộ nhớ hơn. Điều đó phù hợp với các lựa chọn silicon gần đây của Qualcomm: 8 Elite Extreme Gen 6 kết hợp NPU Hexagon của nó với Bộ tăng tốc phần tử mới và nhóm bộ nhớ dùng chung lớn hơn, đặc biệt để kiểm soát độ trễ và mức tiêu thụ năng lượng cho khả năng suy luận của nhiều chuyên gia trên thiết bị.

Những con chip phải thu hẹp khoảng cách

Thế hệ hàng đầu hiện tại của Qualcomm – Snapdragon 8 Elite Gen 6 và 8 Elite Extreme Gen 6, được xây dựng trên quy trình 2nm – dự kiến sẽ cung cấp sức mạnh cho các điện thoại hàng đầu của năm 2027 từ Honor, iQOO, Motorola, OnePlus, OPPO, Redmi, RedMagic, vivo và Xiaomi, với các thiết bị như lớp Samsung Galaxy S27 dự kiến sẽ đứng đầu dòng sản phẩm. Nếu danh sách mong muốn năm 2028 của ngành AI được đáp ứng, thì chu kỳ chip này và chu kỳ chip tiếp theo phải cung cấp kiến ​​trúc bộ nhớ, nhiệt độ và hiệu suất pin để giữ cho một mô hình quy mô tiên tiến tồn tại trong túi áo sơ mi.

Amon cũng cho biết, theo báo cáo của Fortune, Qualcomm đang hợp tác với gần như tất cả các công ty AI lớn trong các dự án phần cứng chưa được tiết lộ, bao gồm cả các danh mục thiết bị ngoài điện thoại. Điều đó phù hợp với quan điểm gần đây của công ty là định vị Snapdragon silicon làm lớp suy luận mặc định cho AI biên ở bất cứ nơi nào nó tiếp cận – điện thoại, ô tô, PC và kính.

Ý nghĩa thực sự của AI trên thiết bị liên tục

Nếu các công ty AI có được những gì họ yêu cầu, sự thay đổi sẽ mang tính cấu trúc hơn là vẻ bề ngoài. Một mô hình chạy nền cả ngày có thể quan sát bối cảnh, dự đoán nhu cầu và hành động mà không cần phải di chuyển về trung tâm dữ liệu — điều này có nghĩa là độ trễ thấp hơn, quyền riêng tư tốt hơn và không tốn chi phí cho mỗi truy vấn trên đám mây. Nó cũng ngụ ý rằng những chiếc điện thoại có bộ nhớ lớn hơn, nhanh hơn, ngốn nhiều năng lượng hơn so với những chiếc điện thoại hàng đầu hiện nay, trong một thị trường mà giá bộ nhớ đã bị kéo dài.

Có sự hoài nghi lành mạnh để áp dụng ở đây. Các giám đốc điều hành chip đã đưa ra những dự đoán táo bạo về AI trên thiết bị trước đây và đến năm 2028 là khoảng thời gian đủ xa để tuyên bố này một phần đóng vai trò như một vị thế đàm phán với các nhà cung cấp bộ nhớ, nhà sản xuất điện thoại và chính các phòng thí nghiệm AI. Nhưng hướng của yêu cầu này rất đáng chú ý: lần này các công ty AI không yêu cầu GPU đám mây nhanh hơn. Họ đang yêu cầu một chiếc điện thoại không bao giờ ngừng suy nghĩ.

Cho dù khách hàng của Qualcomm giao thiết bị đó vào năm 2028 hay muộn hơn thì điểm nghẽn cần xem không phải là thông số - mà là băng thông bộ nhớ trên mỗi watt. Công ty giải quyết được điều đó, ở Redmond, San Diego hoặc Đài Bắc, sẽ sở hữu định nghĩa tiếp theo về một chiếc điện thoại hàng đầu.

Đi trước AI

Cuộc chiến chip, ra mắt mẫu mã và những đột phá về AI tiên tiến — được đưa tin mà không hề cường điệu hóa.

Đọc thêm tin tức về AI →