Cloudflare ilitangaza Jumanne hakikisho la Clairic, modeli ya uchimbaji ambayo kampuni inaelezea kama ya kwanza ya aina mpya ya miundo ya "Mfumo wa Kwanza" iliyoundwa ili kutoa maadili yaliyopangwa kutoka kwa data isiyo na muundo bila kizazi chochote cha token-kwa-token ambacho kinafafanua mifano kubwa ya lugha. Muundo huo unapatikana sasa katika hakikisho kwenye jukwaa la Cloudflare la Workers AI kama @cf/cloudflare/clairic, na kampuni hiyo inasema inakusudia kuachilia uzani wa modeli hiyo kwa uwazi katika siku za usoni.
Uzinduzi unaweka Cloudflare sawasawa ndani ya mojawapo ya mijadala ya kuvutia zaidi sasa inayounda upya soko la miundombinu ya AI: ikiwa kila kazi iliyopewa LLM inahitaji LLM. For more context on this story, see our ongoing latest AI developments.
Anachofanya Clairic — na Kile Asichofanya Makusudi
Clairic imeundwa kwa ajili ya kazi finyu lakini ya kawaida sana: kusoma kwa fujo, ingizo lisilopangwa na kurudisha thamani zilizochapwa. Kulingana na tangazo la Cloudflare, muundo huu unaweza kutoa, kukokotoa, kukadiria na kutabiri thamani kutoka kwa pembejeo ambazo hazijapangiliwa, kurudisha nambari zenye masafa ya 80%, thamani zilizochapwa kama vile majina, tarehe, saa na orodha, na usambazaji kamili wa uwezekano - kila moja ikiwa na imani iliyorekebishwa.
Kile haifanyi ni kutoa maandishi. Swali kwa Clairic hurejesha thamani ya aina ambayo msanidi programu alitangaza, au matokeo yasiyofaa yaliyooanishwa na alama ya p_null ambayo inakadiria uwezekano wa jibu kuwa halipo kwenye ingizo. Kila jibu husafirishwa kwa alama ya uhakika ili mifumo ya chini iweze kuamua kama kuliamini au kuliripoti kwa ukaguzi wa kibinadamu.
Cloudflare inaeleza kwa uwazi kuhusu biashara hiyo. Kwa sababu Clairic haitoi tokeni, haiwezi kutoa JSON iliyoharibika, kusoma kimakosa kizazi cha kati cha tarakimu, au kudanganya jibu jinsi LLM inavyoweza. Bado inaweza kufanya makosa - kampuni iko makini katika hatua hiyo - lakini mapungufu yake yanapigwa chapa na yanaweza kupimika badala ya fomu huru.
Lebo ya 'System One', Imefafanuliwa
Istilahi hiyo inatoka kwa AI startup TypeSafe, ambayo ilitangaza miundo yake ya System One takriban mwezi mmoja uliopita na haraka ikawa mojawapo ya uzinduzi uliojadiliwa zaidi katika jumuiya ya wasanidi programu. Utungaji umeazima kutoka kwa kitabu cha mwanasaikolojia Daniel Kahneman "Fikiria, Haraka na Polepole": Fikra ya Mfumo wa Kwanza ni ya haraka, kiotomatiki, na sahihi, huku kufikiri kwa Mfumo wa Pili ni polepole na kwa makusudi. TypeSafe iliweka tofauti hiyo kwenye miundo ya AI, ikisema kwamba kazi nyingi za uzalishaji zinahitaji majibu ya haraka, yaliyoandikwa vizuri badala ya hoja zisizo wazi.
TypeSafe's Jev, kusudi la kielelezo la uamuzi lililoundwa kwa kikoa mahususi, lilichukua uwezekano kama pembejeo na kurudisha uwezekano juu ya orodha isiyobadilika ya majibu yanayowezekana. Hadi sasa, hiyo ilikuwa kitengo kizima: kila modeli ya Mfumo wa Kwanza ilikuwa mfano wa uamuzi.
Clairic anapanua dhana. Ambapo muundo wa uamuzi huchagua kati ya chaguo zilizobainishwa awali, muundo wa uchimbaji hujibu kwa thamani - nambari zinazotolewa moja kwa moja kutoka kwa ingizo, zilizokokotwa kutoka kwayo, au utabiri zaidi yake. Cloudflare inasema familia hizo mbili za mfano, pamoja na LLM za kawaida, sasa zinaunda safu ya safu tatu: mifano ya uchimbaji hugeuza pembejeo ghafi kuwa maadili yaliyochapwa, mifano ya maamuzi hugeuza maadili kuwa maamuzi, na LLM hubadilisha maamuzi kuwa maneno.
Kwa Nini Uchimbaji Umeiva kwa Tafakari Upya
Hoja ya Cloudflare inategemea ni kiasi gani cha trafiki ya leo ya LLM inatumika kwenye kazi ambayo haionekani kama mazungumzo. Kampuni inaita uchimbaji "huenda ndio kazi ya kawaida inayokabidhiwa kwa LLMs leo" - kutoa jumla ya ankara, tarehe ya kuwasilisha, au sehemu ya nambari kutoka kwa hati.
Shida, kwa kusema kwa Cloudflare, ni kwamba LLM hushughulikia kazi hiyo na mashine iliyojengwa kwa kitu kingine. Pato linaweza lisiwe sahihi JSON. Nambari inaweza kusomwa vibaya wakati tokeni zinapotolewa. Nukuu ya maandishi iliyorejeshwa haiwezi kufuatiliwa hadi mahali ilipo katika hati chanzo. Timu hujibu kwa kufunga miundo katika njia za ulinzi: vithibitishaji vya taratibu, jaribu tena mantiki, uchanganuzi wa tabaka na ukaguzi wa mara kwa mara. Na kwa sababu muswada wa LLM wa tokeni za hoja na matokeo, kila sehemu ya kila hati hubeba gharama ya kizazi ambayo hulingana na vitenzi badala ya ugumu wa kazi.
Mfumo wa uchimbaji wa Mfumo wa Kwanza hugeuza uchumi huo. Cloudflare inasema Clairic huchakata ingizo kwa kutumia pasi moja ya mbele, hutoza tokeni za ingizo pekee, na kwa kawaida hujibu ndani ya sekunde moja - huku LLM ya hoja inayofanya kazi katika sehemu zilezile inaweza kuchukua sekunde kadhaa. Kwa usindikaji wa hati ya kiwango cha juu, tofauti huchanganyika haraka.
Jinsi Ombi Hufanya Kazi Kweli
Wasanidi programu hutuma Clairic hali - maandishi ya kusoma, pamoja na hadi picha nne za hiari - kando ya ramani ya sehemu zilizochapwa. Kila sehemu ina jina, aina, na maagizo ya hiari ya lugha rahisi. Mfano huo unarudisha jibu moja lililochapwa kwa kila shamba, lililokokotwa kwa kupitisha moja sambamba. Ikiwa orodha ya uga haitoshei kando ya ingizo katika pasi moja, seva hugawanya kazi hiyo katika vipitishio sambamba ambavyo kila mmoja huona ingizo kamili, kisha huunganisha majibu.
Kwa kazi za ukadiriaji, majibu huja kama mgawanyo: wastani na muda wa 80% unaoanzia asilimia 10 hadi 90, na asilimia zote 99 zinapatikana kwa ombi. Hilo hufanya muundo huo utumike kwa maswali ya mtindo wa utabiri - gharama zinazotarajiwa za urekebishaji, ratiba za uwasilishaji, trafiki katika siku inayofuata - ambapo kadirio la nukta moja lingezidisha uhakika wa muundo.
Ishara kwa Soko la Miundombinu
Ikiwa Clairic yenyewe atafaulu ni karibu kando ya uhakika. Uzinduzi huu ni sehemu nyingine ya data katika mabadiliko ya haraka kati ya watoa huduma za miundombinu kuelekea miundo ya ukubwa wa kulia kwa kazi: miundo ndogo, ya haraka, ya bei nafuu kwa kazi nyembamba iliyopangwa, na LLM za mpaka zimehifadhiwa kwa mawazo ya wazi ya kweli. Nafasi ya Cloudflare yenyewe - kwamba mifano ya uchimbaji, uamuzi, na lugha inapaswa kufanya kazi kwa pamoja - inasomwa kama mchoro wa jinsi inavyofikiri kwamba rafu za AI za uzalishaji zitakusanywa.
Kampuni haijatangaza tarehe ya kutolewa kwa uzani ulioahidiwa. Kwa sasa, Clairic inapatikana katika onyesho la kukagua kwenye Workers AI, ambapo wasanidi programu wanaweza kuijaribu dhidi ya mzigo wao wa kazi ya uchimbaji - na kujua ni kiasi gani cha bili yao ya LLM ambacho kilihitajika sana.
_Makala haya yametokana na tangazo rasmi la Cloudflare la onyesho la kukagua muundo wa uchimbaji wa Clairic._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →