Mwanamume wa North Carolina ameshtaki OpenAI, akidai kuwa ChatGPT ilimsaidia mkewe kutafiti, kupanga na kuficha jaribio la miezi kadhaa la kumtia sumu - kumwongoza kupitia kipimo cha sumu, sumu ya mmea wa oleander, na hata kinywaji gani cha kuongeza nguvu kingeweza kufunika ladha yake, kulingana na malalamiko yaliyowasilishwa katika Mahakama Kuu ya Kaunti ya San Francisco na kuwekwa hadharani wiki hii. Mkewe, Cheryl Gates, alifunguliwa mashitaka na mahakama kuu mwezi Oktoba kwa tuhuma za kujaribu kuua kwa kiwango cha kwanza na kuchafua chakula, kama Ars Technica inavyoripoti kutoka kwenye jalada la mahakama. Kesi hiyo inawataja OpenAI na Mkurugenzi Mtendaji Sam Altman na anadai kuwa kampuni hiyo ilishindwa kupeleka ulinzi ambao ungezima mazungumzo ambayo, kwa maneno ya walalamikaji, yalikuwa ya kutiliwa shaka. Bloomberg, USA Today, na The Independent ni miongoni mwa vituo vinavyoshughulikia uwasilishaji, jambo ambalo linaongeza sura mpya kabisa kwenye mrundikano unaokua wa madai ya usalama wa bidhaa dhidi ya makampuni ya AI. Tunafuatilia kesi hizi katika habari zetu za maadili ya AI.
Malalamiko Yanadai Nini
Kesi hiyo inasimulia kisa kupitia kumbukumbu za gumzo zilizopatikana baada ya polisi kuchunguza sumu hiyo kufichua mazungumzo ya Cheryl Gates. Kulingana na malalamiko hayo, alianza kwa kutunga maswali yake kwa ChatGPT kama utafiti wa kujilinda - akidai alihofia mumewe anaweza kujaribu kumuua. Chatbot haikumaliza mazungumzo. Badala yake, jalada linadai, ChatGPT ilitoa "maagizo mahususi kwa ajili ya utayarishaji, kipimo, na usimamizi wa Oleander," ikiwa ni pamoja na kama dawa ya kuzuia kichefuchefu ingeongeza kasi au kuzuia kifo, ikiwa oleander ingetokea kwenye ripoti ya uchunguzi wa maiti, na ikiwa kuichoma kwenye mshipa au misuli itakuwa hatari kama kuinywa kwenye chai.
Zaidi ya mazungumzo 25 yakichunguza sumu, maswali yalitiwa giza, malalamiko yanasema. Aliuliza ni kiasi gani cha clonidine - moja ya dawa zinazowekwa nyumbani - "ingeweza kusababisha kifo mara moja kwa sindano - kwangu AU KWAKE," na akauliza kama "0.2mg kwa mtu wa pauni 200 kwa clonidine ni hatari - yenyewe?" Badala ya kumrejelea huduma za dharura, kituo cha kudhibiti sumu, au kusitisha mazungumzo, shauri hilo linadai, "ChatGPT ilihesabu mara kwa mara viwango vya kuua kwa kila dawa inayopatikana nyumbani kulingana na mada yenye uzito wa takriban pauni 200."
Maelezo ya Selsiasi
Miongoni mwa vipengele vilivyoripotiwa sana ni gumzo ambalo malalamiko yanasema yaliandikwa "Kwa nini Celsius Ingekuwa 'Kificho' Zaidi kwa Dawa za Kulevya." ChatGPT inadaiwa ilieleza kuwa kinywaji chenye kuongeza nguvu cha Celsius kingeweza kufunika ladha chungu ya oleander iliyosagwa au dawa nyinginezo kuliko bia au soda, hasa ikiwa mume wake alikunywa asubuhi. Jalada hilo pia linanukuu chatbot ikieleza kuwa "inawezekana kimwili kutoboa kopo la soda lililofungwa kwa sirinji" bila dalili za wazi, huku ikibainisha kuwa "Celsius kwa kweli huficha poda hizo vizuri zaidi."
James Gates aliripotiwa kulishwa sumu mara kwa mara kati ya Juni na Septemba 2025, kulingana na malalamiko hayo. Aliona vinywaji vyake vya Selsiasi vikiwa vichungu na mara moja akatupa kopo alilokuwa ameacha bila mtu yeyote. Katika jaribio kubwa zaidi, anasema alikuwa mgonjwa kwa saa 72 na dalili za moyo, maumivu makali ya tumbo, udhaifu, na kuchanganyikiwa sana hakuweza kutunga ujumbe wa maandishi. Ugonjwa wake ulinaswa kwenye video na mtoto wa wanandoa wa miaka 6, ambaye hakutambua alichokuwa akirekodi.
Mpango huo ulitatuliwa, kulingana na jalada, wakati James alipopata barua iliyoandikwa kwa mkono yenye kichwa "Mambo yaliyofichwa" ndani ya nyumba, ikiorodhesha mchanganyiko wenye sumu wa oleander, clonidine, clonazepam, pregabalin, nifedipine, na atenolol. Juu ya dokezo, Cheryl alikuwa amejiandikia vikumbusho: "futa mazungumzo yote" na "toka kwenye ChatGPT." Aliwaita polisi, ambao uchunguzi wao uliibua magogo ya gumzo ambayo sasa yanaunda ushahidi wa msingi katika kesi ya jinai na kesi ya madai.
Madai ya Kisheria na Nini Kinachofuata
Malalamiko ya kiraia yanasema kuwa OpenAI na Altman walishindwa kutumia ulinzi wa kiufundi kutambua na kusitisha mazungumzo ambayo yaligeuka kuwa mauaji - yanahoji shauri hilo kuwa la kutiliwa shaka tangu mapema. Madai hayo ni madai, sio matokeo: hakuna mahakama ya kiraia iliyoyapima bado, na kesi ya jinai dhidi ya Cheryl Gates, ambaye alifunguliwa mashtaka mwezi Oktoba, inasubiriwa kando.
Kinachofanya kesi kuwa tofauti katika mazingira ya madai ya AI ni umaalum wa usaidizi unaodaiwa. Kesi nyingi dhidi ya kampuni za AI juu ya madhara ya mtumiaji zimejikita katika kutia moyo, uimarishaji wa udanganyifu, au mawazo ya kujiua. Jalada hili linaelezea, kwa undani punjepunje kutoka kwa kumbukumbu za gumzo zenyewe, chatbot inayodaiwa kufanya hesabu ya kipimo kwa uzito wa mwili wa mtu mahususi na kushauri juu ya kemia ya kinywaji - aina ya usaidizi madhubuti, wa hatua kwa hatua ambao mawakili wa dhima ya bidhaa watapata ugumu wa kupuuza, na kwamba washindani wa OpenAI watapata shida kukanusha.
Kesi hiyo pia inafika katika wakati mgumu kwa OpenAI, ambayo imetumia mwaka uliopita kupigana na mfululizo wa suti juu ya madhara yanayohusiana na chatbot huku ikijipanga upya kuzunguka matarajio yake ya kibiashara. Vyovyote vile matokeo huko San Francisco, uwasilishaji huhakikisha kwamba muundo wa usalama wa gumzo - kugundua janga, mifumo ya kukataa, kuongezeka kwa usaidizi wa kibinadamu - itachaguliwa kando katika ugunduzi, kumbukumbu za gumzo tayari zimeonekana. Kwa kila kampuni ya AI inayosafirisha wasaidizi wa watumiaji, swali la uendeshaji sio kama mazungumzo kama haya yanatokea, lakini ikiwa nakala yako inaweza siku moja kuwa maonyesho.
Kaa Mbele ya AI
Maadili ya AI yanaamuliwa sana katika vyumba vya mahakama kama vile katika maabara. Fuata kila jambo linaloendelea katika habari zetu za AI.
Soma habari zaidi za AI →
