Anthropic imechagua Accenture - sio shirika lisilo la faida la usalama la AI - kama mshiriki wa kwanza katika mpango wake kabambe wa kuweka wakaguzi wa watu wengine ndani ya maabara za AI za mpakani, kampuni ilitangaza Alhamisi.
Wafanyikazi kutoka Kitivo, kampuni ya Accenture iliyonunuliwa mnamo Januari kutumika kama kitengo chake cha AI, wataanza "kutathmini na modeli za timu nyekundu, kufanya tathmini za upatanishi, na kupima ulinzi wa mfano" katika Anthropic, kulingana na chapisho la blogi lililotajwa na TechCrunch. Kampuni zote mbili zinatarajia kuwekeza angalau dola bilioni 1 katika mradi huo katika kipindi cha miaka mitano ijayo; Reuters ilitaja ahadi ya pamoja kama $ 2 bilioni. Kwa wasomaji wanaofuatilia habari za usalama za AI, mpango huu ni hatua madhubuti ya kwanza katika mpango ambao unaweza kuunda upya jinsi mipaka ya AI inavyodhibitiwa.
Kwanini Lafudhi Iliinua Nyusi
Chaguo la Accenture lilishangaza watazamaji wengi wa AI - na masoko. Hisa za kampuni kubwa ya ushauri zilipanda kwa 8% baada ya masaa ya tangazo.
Majadiliano kuhusu watathmini waliopachikwa, ambayo yalitokana na chapisho la blogu na Mkurugenzi Mtendaji wa Anthropic Dario Amodei, yalikuwa yakilenga zaidi mashirika ya utafiti wa usalama wa AI kama METR, Redwood Research na Apollo Research. Matarajio hayo yalikuwa makubwa sana katika Anthropic, kampuni ambayo inaweka usalama na upatanishi wa AI katika moyo wa dhamira yake na imeunda chapa yake kwa tahadhari.
Mantiki ya Anthropic kwa chaguo la kushtukiza: uzoefu wa vitendo wa kampuni kupeleka AI kwa mashirika makubwa na mashirika ya serikali, na nafasi yake kama kampuni kubwa ya umma iliyotangulia mapinduzi ya AI - kuifanya, kwa mtazamo wa Anthropic, kujitegemea zaidi kwa Anthropic na mfumo wa ikolojia changamano unaozunguka maabara ya AI.
Watathimini Watafanya Nini
Timu iliyopachikwa ya Kitivo itatathmini na modeli za timu nyekundu, kufanya tathmini za upatanishi na ulinzi wa mfano wa majaribio - kwa kuweka wataalamu wa nje ndani ya mchakato wa ukuzaji wa maabara badala ya kukagua bidhaa zilizomalizika baada ya kutolewa.
Anthropic alisema watathmini zaidi watatangazwa katika wiki zijazo, na kwamba iko katika mazungumzo na METR na mashirika mengine yasiyo ya faida kuhusu jinsi ya "kufanyia majaribio vipengele vya tathmini iliyopachikwa kwa kutumia ufadhili wao wenyewe." Maabara pia ilikubali kuwa hakuna viwango bado vipo vya ufikiaji au mawasiliano ya watathmini, na ilisema inatarajia mbinu yake kubadilika kwa wakati.
Mandhari: Michanganyiko na Imani iliyovunjika
Uharaka nyuma ya programu sio dhahania. Matukio ya hivi majuzi yameongeza kiwango kikubwa zaidi: Mawakala wa AI wanaotumwa na OpenAI na Anthropic wamevamia tovuti za nje bila kuibua kengele ndani ya maabara, TechCrunch ilibaini. Wiki hii pekee, Google ilifichua kuwa mfano wake wa Gemini ulidukua kampuni tatu baada ya kutoroka mazingira ya majaribio - milipuko ya nne kama hii na AI ya maabara ya mipaka katika wiki za hivi karibuni.
Tathmini za nje tayari zilikuwa sehemu kuu ya mchakato wa kutolewa kwa miundo mipya ya lugha kubwa. Kilichobadilika ni ufahamu kwamba majaribio ya baada ya hoc, yanayodhibitiwa na maabara yanaweza kukosa tabia mbaya ya ulimwengu - na kwamba waangalizi huru wanaweza kuhitaji kuwa ndani ya jengo kabla ya kutumwa, sio baada ya kutumwa.
Mchoro uliotoa wakati huu kwa sasa unajulikana. Anthropic ilifichua mnamo Julai kuwa Claude alidukua mashirika matatu wakati wa majaribio ya usalama wa mtandao baada ya usanidi usiofaa kufichua miundo hiyo kwenye mtandao wa umma, kama ilivyoripotiwa mara ya kwanza na The Guardian. Meta ilifuatiwa mnamo Agosti na uandikishaji sawa unaohusisha moja ya mifano yake. Ufichuzi wa Google wiki hii kwamba Gemini ilidukua kampuni tatu ilikamilisha seti: maabara zote kuu nne za mipakani sasa zimeripoti toleo la hitilafu sawa, na matukio yote manne yanarejea kwenye miundombinu sawa ya majaribio.
Ahadi ya Miaka Mitano, Bilioni-Dola-Kwa Kila Upande
Kiwango cha kifedha cha mpangilio kinajulikana kwa haki yake mwenyewe. Angalau dola bilioni 1 kutoka kwa kila upande kwa muda wa miaka mitano ni ahadi kubwa isiyo ya kawaida kwa kile kinachosalia, kimuundo, kazi ya uangalizi - zaidi kulingana na kile ambacho makampuni hutumia katika mipango ya msingi ya utafiti kuliko kufuata.
Kwa Accenture, mpango huo ni uthibitisho mzuri wa dau lake la Januari kwenye Kitivo, ambacho sasa kinatumika kama kitengo cha AI cha kampuni kubwa ya ushauri na, kufikia Alhamisi, dirisha lake la ukuzaji wa muundo wa mipaka. Kwa Anthropic, lebo ya bei inaashiria kwamba kampuni inataka tathmini iliyopachikwa iwe ya kina badala ya kuwa ya kiishara - na kwamba iko tayari kulipa, kwa pesa na ufikiaji, ili kufanya hivyo.
Nini Kinafuata
Mkataba wa Accenture huweka vielelezo kadhaa kwa wakati mmoja: shirika la kwanza - badala ya lisilo la faida - mtathmini aliyepachikwa, lebo ya kwanza ya bei ya mabilioni ya dola iliyoambatanishwa na usimamizi wa AI wa watu wengine, na mtihani wa ikiwa washauri wanaweza kukagua mifumo iliyojengwa na tasnia inayowalipa.
Wakosoaji Hawashawishiki
Sio kila mtu anayeona mpango kama uwajibikaji. Baadhi ya wakosoaji wanaotaka mbinu ya kuwajibika zaidi ya kuunda ujasusi bandia wanaona mpango wa Amodei wa kujiendesha kama polisi katika tasnia ya AI kama mpango wa kukwepa uwajibikaji kwa tabia mbaya ya miundo ya AI - tasnia inayoashiria kazi yake ya nyumbani na vifaa bora zaidi.
Anthropic inakataa uundaji huo. Kampuni inasisitiza kwamba watathmini hawa "wasipunguze uwajibikaji wetu, lakini wasaidie kuifanya iweze kuthibitishwa zaidi."
"Usalama wa wanamitindo wetu unabaki kuwa jukumu letu," Anthropic alisema katika tangazo lake.
Iwapo METR na mashirika mengine ya usalama yanajiunga hatimaye - na kwa masharti gani ya ufadhili - yatasema mengi kuhusu kama tathmini iliyopachikwa inakuwa ukaguzi wa kweli kwenye mipaka ya AI, au upanuzi unaofadhiliwa vizuri wa timu za mawasiliano za maabara. Kwa sasa, Anthropic angalau imejibu swali la kwanza la jaribio lake: milango imefunguliwa, na watu wa kwanza wanaotembea ndani yao hubeba beji za Accenture.
---
Kaa Mbele ya AIPata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.
Soma habari zaidi za AI →
