Amazon Web Services imezindua Tathmini za Amazon Bedrock AgentCore, uwezo mpya unaowapatia alama mawakala wa AI waliojengwa kwa mfumo wowote mkuu - sio tu zana za AWS - kwa kutibu athari za OpenTelemetry kama kiolesura cha ulimwengu kwa tathmini. Tangazo hilo lilikuja katika chapisho la blogu ya kujifunza mashine ya AWS iliyochapishwa Agosti 26 na Swarnim Singhal, Bharathi Srinivasan na Renya Kujirada.
Kiwango kinashughulikia kile AWS inachokiita ulinganifu unaofadhaisha katika kazi ya uzalishaji ya AI: anuwai ya mifumo ya mawakala inaendelea kukua wakati zana za tathmini hazijashikana na kasi. Ili kuendelea na Mzunguko wa habari wa tasnia ya AI, timu sasa huchanganya na kulinganisha zana mara kwa mara — ambapo ndipo kanuni za tathmini za jadi zinapoharibika.
Tatizo la Kugawanyika
Timu ya AWS inapoiweka, mifumo mingi ya tathmini huchukulia kuwa umeunda wakala wako kwa njia moja mahususi: SDK mahususi, kiteja mahususi cha modeli ya lugha kubwa, muundo maalum wa ufuatiliaji. Toka nje ya eneo hilo finyu la uoanifu na bomba la tathmini litakatika.
Rafu za ulimwengu halisi mara chache hukaa ndani ya njia ya muuzaji mmoja. Katika akaunti ya chapisho la blogu, timu huunda kwenye LangGraph kwa upangaji wa mtiririko wa kazi, kwenye LlamaIndex kwa ujumuishaji wa bomba la urejeshaji, na kwenye SDK ya OpenAI Agents wakati shirika linasawazisha miundo ya GPT. Wanatumia Google ADK kwa uratibu wa mawakala wengi au SDK ya Wakala wa Claude kwa uwezo asili wa Anthropic, na wanafikia Mawakala wa Strands wakati kitanzi chake kinachoendeshwa na modeli kinaweza kupata wakala anayefanya kazi kwenye Amazon Bedrock AgentCore kwa dakika badala ya siku.
Kila moja ya mifumo hiyo hutoa uwakilishi wake wa ndani wa kile wakala alifanya - simu za zana, urejeshaji, upatanishi kati ya mawakala wadogo. Kihistoria, kuzitathmini kulimaanisha kujenga upya zana kwa kila moja, au kukubali kwamba baadhi ya mifumo haikuweza kuorodheshwa hata kidogo.
Jinsi Inavyofanya Kazi: Telemetry Juu ya Uunganisho Mgumu
Tathmini za AgentCore hujaribu kufuta muunganisho huo kwa kuchagua kiolesura ambacho kila mfumo mkuu tayari unazungumza. Takriban zote zinaauni OpenTelemetry, ama kwa asili au kupitia maktaba za zana za jumuiya - kiwango cha uhakika ambacho zana za utazamaji za wingu na programu ziliunganishwa miaka iliyopita.
Mantiki ni ya moja kwa moja: mradi tu telemetry ya wakala inapita kupitia OpenTelemetry, huduma ya tathmini inaweza kuipa alama, bila kujali SDK iko chini yake. Chapisho la blogi hupitia kile ambacho huduma inasoma kupitia telemetry, jinsi inavyoamua jinsi ya kutafsiri vipindi, ni sifa zipi zinazobeba data ya tathmini, na jinsi uenezi unavyoenea hadi kwenye mifumo zaidi ya orodha iliyotajwa ya AWS - kutengeneza muundo, badala ya mfumo, mkataba.
Kwa mashirika ya uhandisi, hii inageuza tathmini kuwa uamuzi wa miundombinu badala ya muundo wa kila mradi. Wakala aliyeweka alama siku anayosafirisha anaweza kulinganishwa dhidi ya vipimo sawa iwe waandishi wake waliiandika katika LangGraph au SDK ya Wakala wa Claude.
Ambapo Inafaa katika AgentCore
Tathmini zinawekwa kwenye jukwaa pana la Amazon Bedrock AgentCore, ambalo muda wake wa utekelezaji tayari unashughulikia upangishaji, kuongeza, kumbukumbu na uangalizi wa watengenezaji wa miundomsingi wangeunda upya kwa kila mradi. Tathmini ikiwa imeongezwa kwenye uso sawa, AWS inakusanya kiasi cha mzunguko kamili wa maisha kwa mawakala: watumie wakati wa utekelezaji, watazame kupitia uangalizi uliojumuishwa ndani, na sasa uzipime kulingana na vigezo thabiti bila kuondoka kwenye jukwaa.
Muda sio wa kubahatisha. Katika tasnia nzima, maswali kuhusu iwapo mawakala wanatenda jinsi ilivyokusudiwa yamehama kutoka wasiwasi wa kitaaluma hadi hatari ya ngazi ya bodi, kufuatia matukio ya hali ya juu kama vile tabia mbaya iliyoratibiwa iliyorekodiwa katika uchunguzi wa ukiukaji wa Hugging Face na ushahidi unaoongezeka kwamba vigezo pekee vinatoa picha isiyokamilika ya kutegemewa kwa wakala. Vifaa vinavyofanya tathmini kuwa endelevu, nafuu na isiyotegemea mfumo huzungumza moja kwa moja na wasiwasi huo.
Kwanini Ni Muhimu
Tathmini imekuwa kimya kimya kikwazo cha kuasili wakala wa biashara. Kasi ya uendelezaji sio kikwazo tena - kikwazo ni kujiamini: kujua kwamba wakala anayejibu wateja, kuhamisha data au kutekeleza mtiririko wa kazi atafanya hivyo kwa usahihi chini ya masharti ambayo hakuna mtu aliyejaribiwa kibinafsi.
Kwa kuimarisha tathmini kwa OpenTelemetry badala ya SDK yoyote, AWS inaweka dau kuwa makubaliano ya uangalizi wa sekta hii yanaweza maradufu kama safu yake ya uhakikisho wa ubora. Iwapo washindani wanafuata na alama sawa za mfumo-agnostik itasema mengi kuhusu jinsi AI ya kimawakala inakomaa kutoka kwa demos hadi miundombinu inayotegemewa.
Kwa timu zinazoendesha meli nyingi tofauti, maana ya vitendo ni kulinganishwa. Wakati kila wakala anaripoti katika umbizo sawa la telemetry, ubora unakuwa kitu ambacho shirika linaweza kufuatilia kwa muda na katika timu zote badala ya kutoa upya kwa kila mradi - sharti la kwanza la kitu chochote kinachofanana na ukomavu wa utendaji katika mifumo ya mawakala. Kwa biashara zilizo ndani ya safu mseto za LangGraph-LlamaIndex, au wanahofia kuandika upya zana wakati wowote mfumo bora unapoonekana, sasa kuna chaguo la wahusika wa kwanza kutoka kwa mtoa huduma wao wa mtandao ambalo haliwaulizi kuchagua pande.
---
Kaa Mbele ya AIPata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.
Soma habari zaidi za AI →
