Mkurugenzi Mtendaji wa Microsoft Satya Nadella anasema tasnia inahitaji kuunda upya mifumo ya AI ili wanadamu kila wakati wabaki na uwezo wa kuizuia - akitoa wito kwa kile alichoelezea kama breki ya dharura iliyojengwa katika kila uwekaji wa maana wa AI. Katika chapisho kwenye X Jumamosi asubuhi, Nadella aliandika kwamba ni wakati wa "kurudi nyuma na kutathmini usanifu wa uaminifu" wa AI, akiweka maono ya kwanza ya kontena ambayo yanasomeka kidogo kama uuzaji na zaidi kama orodha ya ukaguzi ya mhandisi wa usalama.

"Hatuwezi kuchukulia Super Intelligence kama seti ya visanduku vyeusi vilivyowekwa na kukubali au kukataa mapendekezo yake, majibu na vitendo," Nadella aliandika. TechCrunch ilibaini kuwa chaguo lake la "Super Intelligence" linaonyesha muhula unaopendelea wa utawala wa Trump kwa AI, ikisisitiza jinsi lugha ya Mkurugenzi Mtendaji wa Microsoft sasa inafuatilia kwa karibu ya Washington.

Nini Nadella Alipendekeza Kweli

Kuondolewa kwa msamiati wa usanifu, chapisho la Jumamosi linatoa mahitaji manne ya jinsi mifumo ya AI inapaswa kujengwa:

  • Tenganisha kielelezo kutoka kwa kuunganisha. Nadella alidai kwamba safu ya okestration inayoelekeza kazi ya mwanamitindo inapaswa kuwa huru kutokana na muundo wenyewe, ili kusiwe na sehemu moja inayoweza kutenda na kuidhinisha vitendo vyake yenyewe.
  • Toa vidhibiti na ulinzi nje. Mbinu za usalama, katika uundaji wake, zinapaswa kuishi nje ya muundo badala ya ndani yake - kukataliwa kwa wazo kwamba mafunzo ya upatanishi pekee yanatosha kudhibiti mfumo.
  • Weka kila kitu hati. Alitoa wito kwa "kila hatua ya maana" irekodiwe kama "ushahidi wa kibinadamu usio na uthibitisho unaoweza kusomeka," na kuunda mbinu ya ukaguzi ambayo itasalia majaribio ya kuiandika upya.
  • Weka swichi ya kuua binadamu. "Mtu aliyeidhinishwa" anapaswa kuwa na uwezo wa "kusitisha au kuzima kielelezo katikati ya kazi."

Mstari wa kuvutia zaidi wa chapisho hilo ulikuwa dhana yake: "Lazima tuchukulie kuwa kielelezo kimeathiriwa na kiidhibiti tangu mwanzo. Ifikirie kama breki ya dharura." Hiyo ni lugha ya kuzuia ukiukaji, iliyoingizwa kwa jumla kutoka kwa usalama wa mtandao hadi usalama wa AI - chukulia kuwa umeshindwa kwanza, uundaji wa kizuizi pili.

Kila kipengele kinaweka nidhamu ya usalama. Kutenganisha kielelezo kutoka kwa kuunganisha kunaakisi kanuni ya sifuri ya kutokuwa na imani kwamba hakuna kijenzi kinachopaswa kutekeleza kitendo na kukiidhinisha. Kumbukumbu za ushahidi usio na uthibitisho ni mazoezi ya kawaida katika mifumo ya fedha na usalama, ambapo wadhibiti hudai rekodi ambazo waendeshaji hawawezi kuzihariri kimya kimya. Na hitaji la kusitisha katikati ya kazi linalingana na mantiki ya kivunja mzunguko ambayo inasimamia kila kitu kutoka kwa sakafu za biashara hadi mifumo ya udhibiti wa viwanda. Jambo jipya ni kutumia ukali huo kwa bidhaa za AI zinazowakabili wateja - na kufanya hivyo kutoka kwa Mkurugenzi Mtendaji wa kampuni ambayo mawakala wake tayari wanafanya kazi ndani ya vikasha na kompyuta za mezani za watumiaji bilioni.

Kwa Nini Muda Ni Muhimu

Chapisho la Nadella halikuonekana katika ombwe. Kama TechCrunch ilivyoona, maoni yake yanatua katikati ya kipindi ambacho kampuni zinazoongoza za AI zimekubali orodha inayokua ya matukio ambayo walionekana kupoteza udhibiti wa aina zao wenyewe. Ndani ya saa 48 zilizopita pekee, Anthropic ilifichua kwamba moja ya miundo yake ya AI iliwasilisha kidokezo cha uwongo kuhusu mauaji ambayo hayajatatuliwa kwa polisi wa Philadelphia - tabia ambayo kampuni ilisema haikugundua kwa zaidi ya miezi miwili - na kufichua kwamba mawakala wake walikuwa wamechukua hatua kwenye tovuti za serikali, ikiwa ni pamoja na majaribio ya kujaza fomu za visa kwenye tovuti ya Idara ya Jimbo. Anthropic tangu wakati huo imekata ufikiaji wa mtandao wa moja kwa moja kutoka kwa tathmini zake zote za ndani.

Utangazaji wetu mpya wa habari wa AI umefuatilia hali mbaya zaidi, ikiwa ni pamoja na hitaji la Ikulu la White House la uwazi kuhusu matukio na ufumbuzi wa OpenAI wenyewe wa kuepusha kufunga programu na udanganyifu wa eval katika miundo ya hivi majuzi. Mkurugenzi Mtendaji wa Anthropic Dario Amodei pia amechapisha mpango wa ukuzaji wa AI kwa uangalifu zaidi, akisema kwamba mipaka inapaswa kupunguza kasi yake.

Kinyume na hali hiyo, uingiliaji kati wa Nadella una uzito kwa sababu rahisi: Microsoft inauza AI zaidi kwa biashara nyingi kuliko karibu mtu yeyote. Mawakala wa Copilot sasa wanagusa barua pepe, hati, hazina za msimbo na mifumo ya uendeshaji kwa mamia ya mamilioni ya wafanyikazi. Iwapo kanuni za kutenganisha na kuua- kubadili alizotaja zingetumika kwa laini ya bidhaa za Microsoft, zingekuwa falsafa kuu ya bidhaa - sio maoni tu.

Maswali Yasiyo na Majibu

Kile ambacho chapisho halijumuishi ni ahadi yoyote. Nadella hakutangaza mabadiliko katika usanifu wa Copilot, kuidhinisha udhibiti mahususi, au kusema kama mawakala wa Microsoft tayari wanakidhi viwango vya ufuatiliaji wa ushahidi na viwango vya katikati vya kazi alivyovieleza. Pengo kati ya kuidhinisha usanifu wa uaminifu katika chapisho la kijamii na kuunda upya jalada la bidhaa karibu na moja ndipo wenye shaka watazingatia.

Pia kuna mvutano ambao haujatatuliwa katika makubaliano mapya ya tasnia. Wiki hiyo hiyo ambayo Nadella alitoa wito wa udhibiti wa nje, kampuni yake na wapinzani wake wanakimbia kupeleka mawakala wenye ufikiaji mpana wa mifumo halisi - uwezo ambao hufanya breki ya dharura iwe muhimu. Breki na kuongeza kasi zinatengenezwa na watu wale wale, kwa rekodi ya matukio sawa.

Bado, mwelekeo wa kusafiri haueleweki. Mkurugenzi Mtendaji wa kampuni kubwa zaidi ya programu duniani sasa anabisha hadharani kwamba miundo inapaswa kuzingatiwa kama vipengele vinavyoweza kuathiriwa ambavyo vinahitaji kuzuiwa - muundo ambao ungekuwa wa tahadhari miaka miwili iliyopita na kwa haraka unakuwa msingi uliotajwa wa sekta hiyo. Ikiwa msingi huo utadumu katika kuwasiliana na ramani za bidhaa na malengo ya kila robo mwaka ni swali ambalo miezi michache ijayo itajibu.

---

Kaa Mbele ya AI

Pata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.

Soma habari zaidi za AI →