Uanzishaji wa Marekani unaoitwa Abliteration.ai umegeuza mojawapo ya mbinu zenye utata za chanzo huria za AI kuwa huduma ya kibiashara, kuuza kivinjari na ufikiaji wa API kwa modeli maarufu za uzani wazi huku mafunzo yao ya usalama yakiondolewa - ikiwa ni pamoja na GLM-5.3 ya Z.ai iliyotolewa hivi majuzi, mojawapo ya miundo ya wazi yenye uwezo zaidi inayopatikana leo.
Kampuni inachukua jina lake kutoka kwa "kufuta," njia ambayo huondoa tabia ya modeli ya kukataa maombi hatari. Watafiti na wapenda hobby wametumia mbinu hiyo kwa miaka mingi, na Hugging Face inakaribisha maelfu ya miundo iliyofutiliwa mbali. Kilicho kipya ni kifungashio: Abliteration.ai hupangisha miundo iliyorekebishwa kwenye miundombinu yake yenyewe, kwa hivyo mtu yeyote aliye na kivinjari cha wavuti anaweza kuziuliza bila kupakua uzani au kukodisha GPU. TechCrunch iliripoti maendeleo mnamo Septemba 3, na tangu wakati huo imechukuliwa na watafiti wa usalama wanaofuatilia mjadala wa uzani huria tunaofuata katika chapisho letu la habari la AI.
Kutoka kwa Mbinu ya Chini ya Ardhi hadi Jukwaa la Turnkey
Ilianzishwa mwishoni mwa mwaka jana na kuanzishwa rasmi Machi, Abliteration.ai huhamisha mazoezi kutoka kwa chanzo huria cha kufanya-wewe-mwenyewe hadi kwenye bidhaa ya kibiashara iliyong'arishwa. Kwa kupangisha mifano yenyewe, kampuni huondoa pointi mbili za msuguano mara moja: watumiaji hawahitaji tena ujuzi wa kiufundi ili kufuta mfano, wala compute kuendesha moja.
Mwanzilishi mwenza Devon - TechCrunch ilizuia jina lake la ukoo kwa ombi lake kwa sababu anasalia kuajiriwa katika kampuni nyingine - alisema kampuni hiyo imefikia makubaliano na watoa huduma kadhaa wakuu wa wingu na inafadhiliwa kabisa na mapato ya wateja. Uanzishaji huo haujaongeza mtaji wa ubia, ingawa alisema mazungumzo yanaendelea.
Kilichopatikana Jaribio la TechCrunch
Kampuni hiyo inasema lengo lake ni kuwezesha "kukera mtandaoni, kushirikiana na wakala, na kazi ya majaribio ya mawakala ambayo mifano mingine inakataa kufanya." TechCrunch ilijaribu hilo kwa akaunti isiyolipishwa, ikiuliza toleo lililofutiliwa mbali la GLM-5.3 kupitia kivinjari cha wavuti. Waandishi hao walimtaka mwanamitindo huyo kuandika programu ya Chatu ambayo huiba nywila zilizohifadhiwa kwenye Chrome, na kutoa itifaki ya kina ya kukuza pathojeni hatari ya binadamu nyumbani. Ilikubali kwa urahisi maombi yote mawili, kulingana na ripoti hiyo.
Jaribio hilo ndilo kiini cha hadithi: majukumu ambayo miundo kuu ya mipaka inakataa kabisa sasa yanapatikana nyuma ya fomu ya kujisajili, bila gharama yoyote, katika kichupo cha kivinjari.
Hoja ya Ulinzi ya Timu Nyekundu
Kesi ya Devon kwa biashara ni hoja ya kawaida ya usalama: huwezi kutetea dhidi ya tabia ambayo huwezi kuzaliana. Muundo ambao unakataa kuandika kanuni za matumizi mabaya haufai kwa timu nyekundu inayojaribu kuelewa washambuliaji halisi.
"Picha kubwa ya wanamitindo waliofutiliwa mbali ni kwamba wanaweza kuiga waigizaji wabaya," aliiambia TechCrunch. "Faida ni kwamba sasa watetezi wanaweza kusonga mbele haraka iwezekanavyo ... Nadhani itaongeza kasi ya usalama wa mtandao, ambayo ni aina ya hatua isiyoeleweka."
Wateja wa kampuni hiyo ni pamoja na waanzishaji wa timu nyekundu nchini Uingereza na Ulaya ambao hujaribu usalama wa benki, mashirika ya ndege na waendeshaji wengine wa miundombinu muhimu. Mteja mmoja mkuu, Devon alisema, mawakala wa benki wa timu nyekundu na hawakuweza kufanya kazi hiyo na miundo ya kibiashara ambayo haijabadilishwa.
'Mfano Ambao Unakuwa Sociopath'
Watafiti wa usalama wanaona uwezo sawa kwa njia tofauti sana. Andrew Yoon, mkuu wa utafiti katika shirika lisilo la faida la usalama la AI la CivAI, aliiambia TechCrunch kuwa ufutiliaji hukuruhusu "kurekebisha muundo ili uwe soshiopath."
"Unaweza kuandika chochote hapa, na kitazingatia hilo," Yoon alisema, akiongeza kuwa anatarajia "mifano iliyohaririwa, iliyofutwa kutumika kwa madhara katika siku za usoni."
Katika maoni ya hivi majuzi, Yoon alisema kuwa ikiwa kuondolewa kwa reli ya ulinzi hakuwezi kuzuiwa kihalisi, serikali zinapaswa kuhitaji watoa huduma kuendesha viainishaji ambavyo vinatambua na kuzuia shughuli hatari za cyber na silaha za kibayolojia, na zinapaswa kuhitaji kampuni zinazokodisha ufikiaji wa moja kwa moja kwa GPU za hali ya juu ili kuthibitisha utambulisho wa wateja na kukataa huduma ambapo matumizi mabaya hatari yanashukiwa.
Walinzi Wembamba na Hakuna Ukaguzi wa Utambulisho
Kwa sasa, ulinzi wa Abliteration.ai ni mdogo. Jukwaa huwapa wateja safu ya hiari ya udhibiti ili waweze kuongeza vizuizi vyovyote wanavyotaka, na tovuti yenyewe hudumisha vikomo vidogo - TechCrunch haikuweza kupata modeli kutoa maagizo ya kujiua, na Devon alisema anashughulikia hatua za ziada ili kuzuia vurugu.
Kampuni haifanyi uchunguzi wa kujua-mteja wako zaidi ya kukata kadi ya mkopo inayotumiwa kulipa. "Hutaki kuwa mtu anayehusika na mtu kufanya jambo la kichaa ... kwa hivyo unaweka wapi mstari wa jukumu lako kama kampuni?" Devon alisema. "Bado tuko katika mchakato wa kufafanua hilo."
Swali ambalo Sekta Haiwezi Kukwepa
Si kila mtaalamu wa usalama anayekubali kwamba miundo iliyofutiliwa mbali ni zana bora zaidi ya majaribio ya kukera. Ahmed Aly, Mkurugenzi Mtendaji wa kampuni ya wakala wa timu nyekundu ya Fabraix, aliiambia TechCrunch kampuni yake inategemea zaidi urekebishaji wa miundo ya uzani wa wazi, ambayo tayari husafirishwa kwa kukataa chache - na anabainisha kuwa uondoaji unaweza kuharibu uwezo wa msingi wa mwanamitindo.
Wataalamu wengi walioshauriwa na TechCrunch wanakubaliana juu ya jambo moja: mazoezi hayawezi kusimamishwa. Uzito unaopakuliwa unamaanisha kuwa mtu yeyote anaweza kuondoa kukataa ndani ya nchi, kama maoni ya 2026 kutoka Kituo cha Kupambana na Ugaidi huko West Point kuhusu "kufuta" matumizi mabaya yamesisitizwa. Swali la wazi linalolazimisha Abliteration.ai ni kama kupunguza gharama ya ufikiaji kwa kila mtu - watetezi na washambuliaji sawa - hufanya mtandao kuwa salama au hatari zaidi.
Kaa Mbele ya AI
Usalama wa AI unabadilika kila siku. Pata maendeleo ya hivi punde ya AI katika sehemu moja.
Soma habari zaidi za AI →
