Jalada la IPO lililorekebishwa la Anthropic lilikuwa vichwa vya habari siku ya Jumatatu kwa masuala yake ya kifedha - takriban dola bilioni 17 katika mapato ya robo ya tatu dhidi ya $895.4 bilioni katika ahadi za kukokotoa. Lakini kuzikwa katika sababu za hatari za S-1A iliyosahihishwa ni ufichuzi ambao unaweza kuthibitisha umuhimu zaidi: kampuni hiyo inasema inaweza kuwa katika hatihati ya kuvuka kizingiti chake cha uboreshaji wa kujirudia, hatua ambayo mifumo ya AI inakuwa na uwezo wa kuharakisha maendeleo yao wenyewe.
TechCrunch iliripoti kuwa jalada linaonekana kuonya kwamba Anthropic iko mbioni kuunda kielelezo chenye uwezo wa kujiboresha, kinachojulikana kama RSI - hatua ambayo AI inakuwa bora sana katika kuboresha AI hivi kwamba faida ya uwezo huanza kuunganishwa kwa kiasi kikubwa. For more context on this story, see our ongoing AI trends.
Uwasilishaji Unasema Nini Hasa
Anthropic tayari inatumia AI kuharakisha utafiti na maendeleo yake yenyewe. Katika jalada lililorekebishwa, kampuni inatahadharisha kwamba mazoezi haya yanapunguza njia zote mbili: "Kutumia AI kusaidia kujenga AI yenye uwezo zaidi kunaweza pia kusababisha hatari kubwa ya usalama, hasa ikiwa itaharakisha kasi ya maendeleo. Hili ni mojawapo ya maeneo yanayoshughulikiwa na Sera yetu ya Kuongeza Uwajibikaji, ambayo inaweka wazi mipango yetu ya kufuatilia na kupunguza hatari tunapokaribia kile ambacho kimerekebishwa."
Lugha mpya ya sababu za hatari inaenda mbali zaidi kuliko Anthropic ilivyosema hapo awali katika faili zake za umma. Kampuni hiyo inafichua kwamba hapo awali, imeshindwa kutambua kasi kubwa ya uwezo kama ilivyotokea: "hatujatambuliwa siku za nyuma, na huenda katika siku zijazo hatutatambua, kasi kubwa ya kasi yetu ya maendeleo hadi baada ya kutokea."
Halafu inakuja taarifa inayovutia umakini wa tasnia. Kulingana na uwasilishaji: "makadirio yetu ya ndani na matarajio yetu kuhusu miundo ya siku zijazo, badala ya miundo yetu ya sasa, yanaonyesha kuwa tunaweza kukidhi ufafanuzi wa Sera yetu ya Kuongeza Uwajibikaji ya 'maendeleo yaliyoharakishwa sana yanayotokana na AI."
Anthropic inaongeza kuwa "haijateua miundo yetu yoyote ya sasa kama inayozidi kiwango hiki" na inaendelea kutathmini data ya msingi. Kwa maneno mengine: hakuna mfano wa sasa wa Claude unaohitimu, lakini makadirio ya ndani ya kampuni yanapendekeza kizazi kijacho kinaweza.
Kuwaweka Wanadamu Katika Kitanzi
Kando na onyo hilo, Anthropic inajitolea kuweka watu katika udhibiti wa maendeleo ya mfano. "Hatutarajii kuwa na uwezo wa kutumia Claude kwa usalama kuunda kikamilifu na kuunda vizazi vinavyofuatana vya mifano ya mipaka bila usimamizi au uelewa wa kibinadamu, ikiwa na wakati hiyo itawezekana kiufundi," uwasilishaji unasema. "Kwa hivyo, tunazingatia masasisho ya Sera yetu ya Kuongeza Uwajibikaji ili kuwaweka wanadamu katika udhibiti wa maendeleo ya kielelezo cha mipaka katika Anthropic."
Kiwango cha nafasi ya AI katika utafiti wa Anthropic inakua haraka. Business Insider iliripoti kuwa AI sasa inaongoza takriban robo ya kazi ya ndani ya R&D ya Anthropic, kutoka asilimia 1 mwezi Machi - chati ambayo wenyeji wa tasnia wameiita moja ya muhimu zaidi katika AI.
Mabadiliko ya Hotuba: Kutoka Buzzword hadi Laha ya Mizani
Wakati neno RSI lilipokuwa maarufu mapema mwaka huu, wengi katika tasnia walilipuuza kama neno buzzword - au, bora, lengo ambalo halifafanuliwa vizuri sana kufikia, kudhibitisha au kudhibiti. Wasiwasi huo ni vigumu kudumisha sasa kwamba dhana inaonekana, na ufafanuzi sahihi wa ndani, katika hati ambayo kampuni inahitajika kisheria kuwasilisha kwa SEC kabla ya kuuza hisa kwa umma.
Anthropic pia haiko peke yake katika kutibu uboreshaji kama dhana ya upangaji wa karibu. Mwanzilishi mwenza wa Google Sergey Brin ameelezea tasnia hiyo kama mbio kuelekea "RSI treadmill" ambayo mifano husaidia kujenga warithi wao, na mwanzilishi mwenza wa zamani wa OpenAI John Schulman amesema anatarajia uboreshaji wa kujirudia ndani ya takriban miaka mitatu hadi minne. Kinachotofautisha ufichuzi wa Anthropic ni urasmi wake: kizingiti kilichobainishwa, mchakato wa upimaji wa ndani, na taarifa ya umma ya wakati kampuni inatarajia kuvuka.
Kwa Nini RSI Ni Tripwire Kambi Zote Mbili Tazama
RSI hubeba maana tofauti kulingana na nani anayeielezea. Kwa watafiti wa usalama wa AI, inawakilisha hatua ya kutorejea - hali ambayo mifumo ya AI inajiboresha kwa kasi zaidi kuliko wanadamu wanaweza kuelewa, kuthibitisha au kuingilia kati, uwezekano wa kuteleza kupita udhibiti wa binadamu. Kwa wenye matumaini ya AI, nguvu sawa ndiyo tuzo: mifumo ambayo inajiboresha kwa uhakika itaunganishwa katika tija ya ajabu na ugunduzi wa kisayansi.
Uundaji wa Anthropic unakubali uwezekano wote wawili. Ufichuzi upo katika hati ambayo hadhira yake kuu ni wawekezaji, na wenye kutilia shaka wanabainisha kuwa S-1 hufanya kazi kama ufichuzi na uuzaji - madai kwamba kampuni inakaribia kuunda AI inayojiboresha inaweza kusomwa kwa urahisi kama hoja ya uthamini wake.
Kuna, hata hivyo, nanga thabiti ya dai. Uwezo wa Claude katika kuweka misimbo, hisabati na usalama wa mtandao umeendelea kwa kasi hadi mwaka wa 2026, na Sera ya Anthropic ya Kuongeza Uwajibikaji inafafanua "maendeleo yaliyoharakishwa sana yanayotokana na AI" kiwango ambacho kampuni sasa inasema kinaweza kufikiwa mara moja.
Jaribio la Utawala wa AI
Ufichuzi huo unatua huku kukiwa na mijadala inayozidisha ya sera kuhusu uangalizi wa mipaka wa AI, kutoka kwa mfumo wa Ikulu ya White House wa kukagua miundo ya mipaka hadi mijadala ya kimataifa ya utawala bora. Ikiwa maabara inayoongoza ya AI itateua rasmi modeli kama inayokidhi kiwango chake cha maendeleo ya kuharakishwa, itaanzisha wajibu chini ya Sera ya Anthropic ya Kuongeza Uwajibikaji - na litakuwa jaribio la kwanza la ulimwengu halisi la ikiwa mifumo kama hiyo ya tasnia inaweza kupunguza au kurekebisha uwezo wa mbio kwa vitendo.
Kwa sasa, Anthropic inasema hakuna mwanamitindo aliyevuka mipaka. Uwasilishaji unapendekeza kampuni inatarajia njia hiyo kuvuka hivi karibuni - na inauliza wawekezaji kuelewa, mapema, inapanga kufanya nini kuhusu hilo.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
