Một nhóm các nhà nghiên cứu đã trình diễn một phương pháp chung để huấn luyện các mạch tích hợp quang tử trực tiếp trên chip vật lý, một bước có thể biến bộ xử lý quang từ các máy gia tốc cố định, được thiết kế sẵn thành phần cứng có thể học sau khi được chế tạo. Công trình được xuất bản trên tạp chí Khoa học tính toán tự nhiên, được tóm tắt trong một bản tóm tắt kèm theo có tiêu đề “Mạch quang tử trở thành phần cứng AI có thể đào tạo được”.
Phương pháp này có tên INSPIRE – viết tắt của từ giảm độ dốc vật lý tại chỗ, trên chip – giải quyết một trong những điểm nghẽn chính trong tính toán quang tử cho trí tuệ nhân tạo: mặc dù các bộ xử lý quang tử hứa hẹn sẽ đạt được những lợi ích lớn về tốc độ và hiệu quả sử dụng năng lượng, việc đào tạo của chúng phần lớn vẫn chỉ giới hạn ở các mô phỏng kỹ thuật số đòi hỏi mô hình vật lý tốn kém và mắc phải các lỗi do chế tạo. For more context on this story, see our ongoing latest AI developments.
Tại sao chip AI quang tử lại khó đào tạo
Hầu hết các mạng nơ-ron ngày nay đều được đào tạo trên phần cứng kỹ thuật số, nơi độ dốc có thể được tính toán chính xác. Các mạch quang tử thì khác: ánh sáng giao thoa, tán xạ và kết hợp theo những cách khó mô hình hóa hoàn hảo và các biến thể sản xuất nhỏ có nghĩa là một con chip trong phòng thí nghiệm hiếm khi hoạt động giống hệt như bản song sinh kỹ thuật số của nó. Huấn luyện mạng ngoại tuyến và sau đó chuyển các tham số vào chip đồng nghĩa với việc chấp nhận sự không khớp làm giảm độ chính xác.
Nghiên cứu trước đây đã giải quyết được vấn đề. Các nghiên cứu đã chứng minh khả năng truyền ngược tại chỗ và đo độ dốc trong mạng nơ-ron quang tử và vào năm 2024, các nhà nghiên cứu đã giới thiệu chương trình đào tạo chế độ chuyển tiếp hoàn toàn cho mạng nơ-ron quang học để giảm sự phụ thuộc vào mô phỏng mô hình kỹ thuật số. Công trình mới mở rộng dòng này bằng cách khẳng định một phương pháp chung cho các kiến trúc mạch thay vì được thiết kế riêng cho một thiết kế.
Cách thức hoạt động của INSPIRE
Theo bài báo, INSPIRE sử dụng hình ảnh ba chiều đảo ngược thời gian tổng hợp trên chip để đo toàn bộ trường phức tạp của các chế độ quang tử hai chiều. Phép đo đó cho phép mạch tự tính toán độ dốc và cập nhật các tham số của riêng nó mà không yêu cầu mô hình kỹ thuật số đầy đủ của chip.
Hậu quả thực tế là đáng kể. Do quá trình tính toán gradient diễn ra bên trong hệ thống vật lý nên các cấu trúc liên kết mạch đa dạng có thể được đào tạo sau khi chế tạo và phần cứng có thể xử lý thiết kế ma trận, tính toán đa bước sóng và siêu học nhanh mà không cần bản sao kỹ thuật số trung thực. Trong quy trình làm việc thông thường, mỗi bước trong số đó sẽ phụ thuộc vào độ chính xác mô phỏng mà các chip trong thế giới thực không thể đảm bảo.
Khung này được mô tả là bất khả tri về cấu trúc liên kết, nghĩa là nó hoạt động với các thiết kế mạch quang đa dạng thay vì bố cục riêng biệt. Bởi vì độ dốc được đo về mặt vật lý nên mạng có thể được huấn luyện sau khi chế tạo, hấp thụ những khiếm khuyết trong quá trình sản xuất mà nếu không sẽ được coi là nhiễu.
Kết quả
Những con số được báo cáo là cụ thể. Trong các thử nghiệm, phương pháp này mang lại ma trận đã huấn luyện với sai số tương đối là 0,26%. Nhóm nghiên cứu cũng đã chứng minh việc huấn luyện tại chỗ thông qua phương tiện tán xạ cho các ma trận lớn hơn số lượng phần tử có thể điều chỉnh tự nhiên trong mạch – học hiệu quả với ít điều khiển vật lý hơn so với bài toán yêu cầu thông thường.
Có lẽ điều đáng chú ý nhất là các nhà nghiên cứu đã chỉ ra rằng các mạch siêu quang tử có thể thực hiện siêu học tại chỗ, hiện thực hóa những gì họ mô tả là học quang tử một lần với khả năng nén mô hình gấp 251 lần và tăng tốc đào tạo theo nhiệm vụ cụ thể gấp 136 lần. Bản tóm tắt đi kèm cho biết thêm rằng phần cứng đạt được thiết kế ma trận, tính toán đa bước sóng và siêu học nhanh mà không cần có mô hình kỹ thuật số đầy đủ của mạch.
Tại sao nó lại quan trọng
Sự thèm ăn năng lượng của AI là một trong những hạn chế cấp bách nhất của ngành và điện toán quang học từ lâu đã được đề xuất như một cách để chạy phép nhân ma trận – hoạt động cốt lõi của mạng thần kinh – với công suất thấp hơn nhiều so với bộ xử lý điện tử. Chip quang từ các công ty khởi nghiệp và các nhóm học thuật đã chứng minh được thông lượng suy luận ấn tượng. Tuy nhiên, hoạt động đào tạo vẫn ở dạng kỹ thuật số: chip chạy mạng nhưng quá trình học tập diễn ra trên GPU mô phỏng mạng.
Một phương pháp đào tạo thực tế tại chỗ sẽ thu hẹp khoảng cách đó, cho phép các hệ thống quang tử thích ứng với các nhiệm vụ mới trên chính phần cứng. Nó cũng có thể giảm chi phí triển khai máy gia tốc quang tử, vì chip sẽ không còn cần phải có đặc tính và bù hoàn hảo trước khi sử dụng. Các tác giả coi công trình này là đưa ra “một lộ trình thực tế hướng tới các hệ thống quang tử thông minh có khả năng thích ứng và hiệu quả”.
Hãy cẩn thận
Kết quả đến từ các cuộc trình diễn có kiểm soát trong phòng thí nghiệm và bản tóm tắt của bài báo không khẳng định đã sẵn sàng sản xuất. Mở rộng quy mô đào tạo trên chip từ kích thước ma trận đã được chứng minh sang quy mô của mạng thần kinh biên giới vẫn là một thách thức kỹ thuật mở, cũng như việc tích hợp bộ máy đo lường – hình ảnh ba chiều đảo ngược thời gian tổng hợp – vào các gói nhỏ gọn, có thể sản xuất hàng loạt. Việc triển khai trong thế giới thực cũng cần phải chứng minh độ tin cậy trước sự thay đổi nhiệt độ và lão hóa linh kiện, những điều kiện mà hệ thống quang tử được biết là bị trôi.
Tuy nhiên, ấn phẩm này đánh dấu một sự thay đổi đáng chú ý về trọng tâm của lĩnh vực này: từ việc thiết kế các mạch quang tử tốt hơn đến việc để các mạch quang tử tự thiết kế, ít nhất là theo nghĩa hẹp là điều chỉnh các thông số của riêng chúng. Nếu công việc tiếp theo tái tạo kết quả ở quy mô lớn hơn, thì trường hợp năng lượng cho phần cứng AI quang học sẽ mạnh mẽ hơn về mặt vật chất.
Nghiên cứu cơ bản, "Học hình thái thần kinh quang tử thông qua quá trình giảm độ dốc vật lý tổng quát tại chỗ" của Tiankuang Zhou, Yun Zhao, Shanglong Li, Guochen Shao, Ruqi Huang và Lu Fang, được xuất bản trên tạp chí Khoa học tính toán tự nhiên.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →