Một loại mô hình AI mới đã ra mắt trong tuần này và nó thực hiện một điều bất thường đối với một mô hình được xây dựng trên kiến ​​trúc máy biến áp: nó không bao giờ tạo ra một từ văn bản nào. Jev, được phát hành bởi công ty khởi nghiệp TypeSafe AI hai năm tuổi, thay vào đó đưa ra các xác suất đã được hiệu chỉnh - điều mà công ty gọi là các quyết định đã được hiệu chỉnh, đã nhập - tự định vị mình là một giải pháp thay thế nhanh chóng, rẻ tiền cho các mô hình ngôn ngữ lớn để phân loại, định tuyến và công việc tự động hóa, theo TechCrunch.

Công ty được thành lập bởi Diogo Almeida, một nhà nghiên cứu OpenAI, người đã giúp xây dựng ChatGPT và góp phần phát minh ra phương pháp học tăng cường từ phản hồi của con người (RLHF), kỹ thuật đào tạo được công nhận rộng rãi trong việc định hình thế hệ trợ lý AI hiện tại. Nhu cầu về mẫu máy mới lớn đến mức TypeSafe mất khả năng phục vụ một số người dùng API trong thời gian ngắn sau khi ra mắt. For more context on this story, see our ongoing latest AI developments.

Tại sao ngôn ngữ tiên phong ChatGPT bị bỏ rơi

Con đường đến với mô hình phi văn bản của Almeida bắt đầu với sự thất vọng tại OpenAI. Almeida nói với TechCrunch: “Chúng tôi có tia sét trong chai nhưng nó không hữu ích”, mô tả sự thất vọng của mình rằng bất chấp khả năng của ChatGPT, công nghệ này vẫn chưa đạt đến mức tự động hóa thực sự. "Tôi đã đấu tranh với vấn đề đó kể từ đó. Phải mất một thời gian tôi mới đi đến kết luận: Vấn đề là chúng ta đang tối ưu hóa ngôn ngữ của con người... Chúng ta đã rất giỏi về ngôn ngữ của con người trong 4 năm, nhưng nó không hữu ích cho tự động hóa vì máy tính nói một ngôn ngữ khác."

Hai năm trước, Almeida rời OpenAI để thành lập TypeSafe AI và theo đuổi luận án đó. Kết quả là Jev, một mô hình dựa trên máy biến áp mà công ty khẳng định không phải là một mô hình ngôn ngữ lớn. Trong trường hợp LLM tạo văn bản mở, Jev trả về xác suất trên một tập hợp kết quả đầu ra mà người dùng xác định trước - một thiết kế mà công ty cho biết khiến cho ảo giác không thể xảy ra về mặt cấu trúc, vì mô hình chỉ có thể trả lời với các tùy chọn được đưa ra.

Hiệu quả đạt được là một phần cốt lõi của sân chơi. Theo TechCrunch, mã thông báo đầu ra từ Jev là miễn phí và mã thông báo đầu vào được tính bằng tỷ thay vì hàng triệu. Công ty mô tả Jev là "mô hình Hệ thống Một", tập trung vào trực giác hơn là lý luận và cho biết họ được đào tạo riêng về dữ liệu tổng hợp bằng kỹ thuật mà Almeida gọi là học tăng cường từ các quyết định đã được hiệu chỉnh.

TypeSafe đã giữ kín kiến ​​trúc của Jev, mặc dù những người quan sát bên ngoài nghi ngờ hệ thống này được xây dựng dựa trên LLM trọng lượng mở. Almeida nói với TechCrunch: “Một nửa [công ty của chúng tôi] là một phòng thí nghiệm về cơ bản sở hữu toàn bộ trường con chứa dữ liệu tổng hợp được hiểu rõ về mặt thống kê và đó hiện là niềm vui trong cuộc sống của tôi”.

Kết quả của nhà phát triển ban đầu: Nhanh hơn và rẻ hơn

Những người áp dụng sớm đã báo cáo những thành tựu đáng chú ý trong quá trình thử nghiệm. Pranit Sharma, kỹ sư phần mềm tại Vercel, nói với TechCrunch rằng công ty của ông đã sử dụng ChatGPT Luna 5.6 của OpenAI để chạy trình phân loại nhằm đánh giá các lệnh đảm bảo an toàn. Sau khi chuyển khối lượng công việc đó sang Jev, Vercel nhận thấy kết quả nhanh hơn từ 5 đến 18 lần và có độ chính xác cao hơn.

Nikhil Mudholkar, CTO của Bryo AI, đã thực hiện một so sánh khác: phân loại email doanh nghiệp của Jev và Gemini của Google. Trong thử nghiệm của mình, Gemini chính xác hơn một chút nhưng đắt hơn từ 10 đến 20 lần. Đối với Mudholkar, tài sản quý giá nhất của Jev là khả năng xử lý tình trạng không chắc chắn. Ông nói với TechCrunch: “Đây là cách duy nhất mang lại xác suất thực sự khiến nó trở nên lý tưởng cho việc tự động hóa quy trình công việc”.

Đại lý theo dõi đại lý, không có hóa đơn

Ngoài việc thay thế LLM trong các nhiệm vụ phân loại, TypeSafe cho rằng Jev có thể giám sát chúng. Việc sử dụng các tác nhân AI để giám sát các tác nhân khác nhanh chóng trở nên tốn kém, nhưng Almeida cho rằng tốc độ và hồ sơ chi phí của Jev khiến việc theo dõi dấu vết tác nhân LLM và ngăn chặn các cuộc bẻ khóa trong thời gian thực trở nên thiết thực.

Armin Ronacher, CTO của Earendil và người xây dựng mô hình nguồn mở khai thác Pi, nói với TechCrunch rằng cách tiếp cận này chuyển trách nhiệm về sự không chắc chắn sang nhà phát triển. Ronacher nói: “Nó giao phó vấn đề ảo giác một chút cho người dùng. "Người dùng phải nói, được thôi, nếu điều này chỉ xảy ra với xác suất 50%, có thể đây là trò tung đồng xu và tôi bỏ qua nó. Nhưng nếu là 95% thì chắc chắn, thì tôi có thể làm gì đó với nó."

Ronacher cũng đánh dấu việc định tuyến mô hình là một trường hợp sử dụng đầy hứa hẹn: dự đoán liệu một khối lượng công việc nhất định có yêu cầu một mô hình cụ thể, đắt tiền hơn hay không. Thực hiện việc sắp xếp đó bằng LLM sẽ tốn kém, nhưng độ trễ và giá thấp của Jev có thể giúp việc định tuyến theo thời gian thực trở nên khả thi.

Một cái tên mượn từ kinh tế học

Mô hình này được đặt theo tên của William Stanley Jevons, nhà kinh tế học thế kỷ 19 đằng sau nghịch lý Jevons - nhận xét rằng khi một mặt hàng trở nên rẻ hơn thì mức tiêu thụ nó có xu hướng tăng lên. Almeida đặt cược rằng chi phí thông minh cấp quyết định giảm sẽ dẫn đến việc triển khai nó ở khắp mọi nơi, không chỉ trong các chatbot hàng đầu.

Almeida nói với TechCrunch: “Chúng tôi nghĩ rằng sẽ có phần mềm thông minh ở khắp mọi nơi theo cách xuất hiện và phân phối… giống Internet thời kỳ đầu hơn những gì bạn biết, giống như các ứng dụng lớn mà mọi người đang cố gắng xây dựng ngay bây giờ”.

Liệu các đối thủ cạnh tranh có theo kịp hay không vẫn là một câu hỏi mở. Ronacher nói với TechCrunch: “Đáng lẽ chúng ta phải thấy điều này sớm hơn theo nhiều cách, nhưng có lẽ vì LLM quá rẻ và được trợ cấp nên bạn thường chưa cần phải sáng tạo”. TypeSafe lên kế hoạch cho các phiên bản bổ sung của Jev theo các phương thức mới.

Về việc liệu TypeSafe có được coi là phòng thí nghiệm tiên phong hay không, Almeida đã đưa ra một câu trả lời rõ ràng: "Sản phẩm chính của các phòng thí nghiệm biên giới là sự sợ hãi hoặc cường điệu. Tôi muốn sản phẩm chính của chúng tôi là trí thông minh... [nhưng chúng tôi] không phải là một phòng thí nghiệm theo nghĩa, bạn biết đấy, như đặt cược vào sự giàu có vô hạn, hay tôn giáo, hay xây dựng Chúa trong một trung tâm dữ liệu, hay bất cứ điều gì của thời nay."

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →