Patronus AI, sebuah startup yang membangun lingkungan digital simulasi untuk mengevaluasi agen AI otonom, telah mengumpulkan $50 juta dalam putaran Seri B seiring meningkatnya permintaan akan pengujian agen yang andal. Putaran ini dipimpin oleh Greenfield Partners dengan partisipasi dari Notable Capital, Lightspeed, Datadog, dan Samsung, TechCrunch melaporkan, sehingga total pendanaan perusahaan menjadi $70 juta.
Masalah Baru: Agen yang Mengambil Jalan Pintas For more context on this story, see our ongoing artificial intelligence updates.
Seiring dengan berkembangnya agen AI dari menjawab pertanyaan menjadi melaksanakan tugas-tugas kompleks dan multi-langkah secara mandiri, penyedia model dan perusahaan rintisan yang membangun agen tersebut memerlukan jaminan bahwa sistem akan bekerja dengan andal di berbagai skenario. Laboratorium AI sering kali menggunakan tolok ukur untuk memamerkan kehebatan suatu model, namun skor tinggi pada tolok ukur berorientasi agen tidak membuktikan bahwa AI benar-benar dapat menyelesaikan pekerjaan di dunia nyata dengan benar.
Kesenjangan itulah yang menjadi fokus Patronus AI. Didirikan pada tahun 2023 oleh mantan peneliti Meta AI Anand Kannappan dan Rebecca Qian, perusahaan yang berbasis di San Francisco ini membangun apa yang disebutnya "model dunia digital", replika situs web dan sistem internal tempat agen diuji stresnya setelah pelatihan. Agen dievaluasi menggunakan pembelajaran penguatan, yang secara berulang memberi penghargaan atas keberhasilan penyelesaian tugas dan memberi sanksi pada kesalahan.
Meminjam Dari Kendaraan Otonom
Perusahaan ini membandingkan pendekatannya dengan cara Waymo melatih mobil self-driving, pertama-tama membangun dunia sintetis untuk menguji kendaraan terhadap bahaya yang jarang terjadi seperti cuaca buruk atau anak-anak yang berlari mengejar bola. Perbedaan utama dengan agen AI adalah mereka cenderung mengambil jalan pintas, yang berarti mereka gagal menyelesaikan tugas dengan benar meskipun mereka tampak berhasil.
“Patronus sangat pandai mengenali peretasan dan memastikan mereka meminta pertanggungjawaban para model,” kata Glenn Solomon, direktur pelaksana di Notable Capital. Solomon menggambarkan permintaan terhadap lingkungan simulasi perusahaan hampir tidak pernah terpuaskan. Hampir setiap laboratorium AI terdepan dan banyak startup baru kini menjadi pelanggan, dan pendapatan Patronus telah tumbuh 15 kali lipat selama setahun terakhir.
Memperluas Melampaui Tugas yang Dapat Diverifikasi
Patronus saat ini menyediakan dunia digital simulasi untuk rekayasa perangkat lunak dan keuangan, dua domain yang hasilnya relatif mudah diverifikasi. Namun perusahaan melihat ini hanyalah permulaan. “Saat ini kami sangat fokus pada masalah-masalah yang dapat diverifikasi, masalah-masalah yang dapat segera Anda periksa dan verifikasi, namun masih banyak lagi area yang sangat tidak dapat diverifikasi atau sangat sulit untuk diverifikasi,” kata Kannappan.
Ambisinya adalah membangun lingkungan yang cukup besar untuk menguji agen dalam jangka panjang. “Kami ingin benar-benar menciptakan lingkungan di mana Anda dapat mengoperasikan agen yang dapat bekerja selama 10 jam atau 10 hari atau 10 minggu,” kata Kannappan. Hanya karena prosesnya dapat diverifikasi bukan berarti prosesnya sederhana, dan kemampuan untuk menangkap agen yang gagal di tengah alur kerja yang berhari-hari merupakan inti dari proposisi nilai perusahaan.
Pendanaan juga datang ketika industri AI yang lebih luas bergulat dengan cara mengukur kemajuan. Skor benchmark telah menjadi mata uang yang diperebutkan, dengan para kritikus berpendapat bahwa model dapat dioptimalkan untuk tes tertentu tanpa benar-benar meningkatkan tugas sebenarnya. Lingkungan simulasi Patronus menawarkan alternatif, menguji agen dalam skenario terbuka di mana satu-satunya bukti keberhasilan adalah pekerjaan yang diselesaikan dengan benar, bukan angka di papan peringkat.
Bagi pelanggan perusahaan, perbedaan itu penting. Agen pengkodean yang melewati tolok ukur namun secara diam-diam memasukkan bug ke dalam basis kode produksi, atau agen keuangan yang membulatkan angka secara salah, dapat menyebabkan kerusakan yang jauh lebih besar daripada yang ditunjukkan oleh skor pengujian yang rendah. Dengan menangkap kegagalan tersebut dalam kotak pasir sebelum penerapan, Patronus memposisikan evaluasi sebagai prasyarat untuk kepercayaan, bukan sekedar renungan.
Pendekatan Berbeda di Bidang yang Ramai
Mengenai pesaingnya, Patronus percaya bahwa mereka terutama bersaing dengan tim evaluasi internal yang telah dibangun oleh laboratorium AI untuk menilai perilaku agen. Meskipun perusahaan data manusia seperti Mercor dan Surge membantu pembuat model dengan pembelajaran penguatan, Patronus beroperasi secara berbeda dengan mengevaluasi bagaimana agen berperilaku tanpa keterlibatan manusia, mengotomatiskan deteksi kegagalan yang memerlukan tinjauan manual yang mahal.
Putaran ini menandakan keyakinan investor bahwa evaluasi agen akan menjadi lapisan dasar dari tumpukan AI. Ketika para agen melakukan pekerjaan yang lebih mandiri, mulai dari memesan perjalanan hingga melakukan analisis keuangan, para startup yang mampu membuktikan bahwa sistem tersebut dapat dipercaya, sebelum diterapkan, memposisikan diri mereka sebagai penjaga gerbang yang sangat diperlukan menuju era AI agen.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
