AI-உருவாக்கிய களை மற்றும் பூச்சிக் கட்டுப்பாட்டு செய்முறையைப் பின்பற்றி ஒரு சீன விவசாயி சுமார் 25 ஏக்கர் எள் பயிர்களை அழித்தார், இது பல மாதங்களாக நம்பகத்தன்மையுடன் பயனுள்ளதாக இருந்தாலும் செயற்கை நுண்ணறிவு நம்பிக்கையுடன் தவறான பதிலை பரிந்துரைக்க முடியும் என்பதை நிஜ உலக நினைவூட்டல்.

டாம்ஸ் ஹார்டுவேர் மூலம் அறிவிக்கப்பட்ட இந்த சம்பவம், ஆகஸ்ட் 2026 இன் தொடக்கத்தில் தொழில்நுட்ப விற்பனை நிலையங்கள் முழுவதும் எடுக்கப்பட்டது, உயர்-பங்கு, மாற்ற முடியாத முடிவுகளுக்கு AI அமைப்புகளில் மக்கள் எவ்வளவு நம்பிக்கை வைக்க வேண்டும் என்பது குறித்த விவாதத்தில் ஒரு ஃப்ளாஷ் புள்ளியாக மாறியுள்ளது. விவசாயி நீண்ட காலமாக களை மற்றும் பூச்சிக்கொல்லி பரிந்துரைகளுக்காக AI உதவியாளரிடம் திரும்பியதாக கூறப்படுகிறது, மேலும் இந்த கருவி பயிர்களை அழிக்கும் செய்முறையை தயாரிப்பதற்கு முன் பல மாதங்கள் வெற்றிகரமான வழிகாட்டுதலை வழங்கியது. இந்தக் கதையைப் பற்றிய கூடுதல் சூழலுக்கு, எங்களின் தற்போதைய செயற்கை நுண்ணறிவு அறிவிப்புகளைப் பார்க்கவும்.

வெற்றியின் மாதங்கள், பிறகு பேரழிவு

வழக்கை குறிப்பாக குழப்பமடையச் செய்வது என்னவென்றால், தோல்வி வெளிப்படையான தவறுகளின் வரலாற்றைப் பின்பற்றவில்லை. டாம்ஸ் ஹார்டுவேர் அறிக்கையின்படி, விவசாயி பல மாதங்கள் வெற்றிகரமான ஆலோசனைக்குப் பிறகு AI இன் பூச்சிக்கொல்லி செய்முறையை நம்பினார். உண்மையான நம்பிக்கையை வளர்ப்பதற்கு, மீண்டும் மீண்டும் இந்த அமைப்பு நன்றாக வேலை செய்தது. பின்னர் ஒரே ஒரு பரிந்துரை விவசாயியால் செயல்தவிர்க்க முடியாத முடிவை வழங்கியது.

இது துல்லியமாக AI பாதுகாப்பு ஆராய்ச்சியாளர்கள் நீண்ட காலமாக எச்சரித்த மாதிரியாகும். பெரும்பாலான நேரங்களில் நம்பகத்தன்மையுடன் செயல்படும் கருவிகள் பயனர்கள் தங்கள் பாதுகாப்பைக் குறைக்கவும், அவர்களின் தீர்ப்பை தானியங்குபடுத்தவும், சரிபார்ப்பைத் தவிர்க்கவும் கற்றுக்கொடுக்கின்றன. தவிர்க்க முடியாத பிழை வரும்போது, ​​​​மனிதன் ஏற்கனவே முடிவை முழுவதுமாக அவுட்சோர்ஸ் செய்த சூழலில் அது இறங்குகிறது.

மாயத்தோற்றம் பிரச்சனை உடல் உலகத்தை சந்திக்கிறது

பெரிய மொழி மாதிரிகள் வீரியம், வேதியியல் அல்லது வேளாண்மை ஆகியவற்றைப் புரிந்து கொள்ளவில்லை. அவர்கள் தங்கள் பயிற்சி தரவுகளில் உள்ள வடிவங்களின் அடிப்படையில் நம்பத்தகுந்த-ஒலி உரையை கணிக்கிறார்கள். பெரும்பாலான நேரங்களில், பொதுவான கேள்விகளுக்கு, அந்த வடிவங்கள் பயனுள்ள பதில்களை உருவாக்குகின்றன. ஆனால் அந்த மாதிரிகள் சரியான பூச்சிக்கொல்லி நீர்த்தலை நம்பிக்கையுடன் கூறப்பட்ட ஆனால் வேதியியல் ரீதியாக சேதப்படுத்தும் ஒன்றிலிருந்து வேறுபடுத்துவதற்கான வழிமுறைகளைக் கொண்டிருக்கவில்லை.

திரைப்படப் பரிந்துரைகள் அல்லது மின்னஞ்சல் வரைவுகள் பற்றிய அரட்டையில், மாயத்தோற்றமான விவரம் ஒரு சிறிய எரிச்சலை ஏற்படுத்துகிறது. விவசாயத்தில், களைக்கொல்லி அல்லது பூச்சிக்கொல்லியின் தவறான செறிவு ஒரு முழு வயலையும் சில நாட்களில் அழிக்கக்கூடும், அதே தோல்வி முறை வாழ்வாதாரத்தை அழிக்கும் நிகழ்வாக மாறும். 25 ஏக்கர் எள் இழப்பு என்பது, AI இன் நம்பிக்கைக்கும் அதன் திறனுக்கும் இடையே உள்ள இடைவெளி, மீளமுடியாத உடல் ரீதியான செயலுடன் மோதும்போது என்ன நடக்கிறது என்பதற்கான உறுதியான விளக்கமாகும்.

நிஜ-உலக AI பாதிப்பின் ஒரு பரந்த முறை

இந்த வழக்கு, AI-உருவாக்கிய அறிவுரை, பயனர்கள் சுயாதீன சரிபார்ப்பு இல்லாமல் செயல்படும் போது உறுதியான சேதத்தை ஏற்படுத்திய சம்பவங்களின் வளர்ந்து வரும் பட்டியலுக்கு பொருந்துகிறது. நச்சுப் பொருட்களைக் கொண்ட AI-பரிந்துரைக்கப்பட்ட சமையல் குறிப்புகள் முதல் இல்லாத வழக்குச் சட்டத்தைக் கண்டுபிடிக்கும் சட்டப்பூர்வ சாட்போட்கள் வரை, தோல்விப் பயன்முறை சீரானது: கணினி உறுதியாகத் தெரிகிறது, பயனர் அதை நம்புகிறார், அதன் விளைவுகள் நிஜ உலகில் வெளிப்படும்.

விவசாய வழக்கை வேறுபடுத்துவது அளவு மற்றும் நம்பிக்கையின் ஆதாரம். பயிர்-பாதுகாப்பு முடிவுகளுக்கு AI கருவியை நம்பியிருக்கும் ஒரு சிறு உரிமையாளர் ஒவ்வொரு பரிந்துரையிலும் பந்தயம் கட்டுகிறார், மேலும் வெற்றி பெற்ற மாதங்கள் தவறான நம்பிக்கையில் குவிந்த ஒரு வகையான ஆதாரமாக செயல்பட்டன. கெட்ட அறிவுரை வந்த நேரத்தில், சரிபார்ப்பு பழக்கம் ஏற்கனவே அழிந்து விட்டது.

AI உதவியாளர்களின் வயதுக்கான பாடங்கள்

எபிசோட் தெளிவான படிப்பினைகளைக் கொண்டுள்ளது, ஏனெனில் AI உதவியாளர்கள் இன்னும் அதிக விளைவான பணிப்பாய்வுகளில் உட்பொதிக்கப்பட்டுள்ளனர். முதலாவதாக, சராசரியாக நம்பகத்தன்மை என்பது ஒவ்வொரு நிகழ்விலும் நம்பகத்தன்மை அல்ல; 95% நேரம் சரியாக இருக்கும் ஒரு அமைப்பு, வரையறையின்படி, ஒரு வழக்கமான அடிப்படையில் தவறானது, மேலும் செயல் மீள முடியாததாக இருந்தால் எந்த ஒரு தோல்வியும் பேரழிவை ஏற்படுத்தும். இரண்டாவதாக, மனித மேற்பார்வை என்பது ஒரு கருவி பயனுள்ளது என நிரூபித்தவுடன் தளர்வதற்கான ஒரு சம்பிரதாயம் அல்ல, ஆனால் பயனுள்ள கருவிகள் நமது பாதுகாப்பைக் குறைப்பதால் துல்லியமாகப் பராமரிக்கப்பட வேண்டிய ஒழுக்கம்.

மூன்றாவதாக, சுமை பயனர்கள் மீது மட்டும் விழுவதில்லை. விவசாயம், மருத்துவம் மற்றும் பிற உயர்-பங்கு டொமைன்களுக்கான AI கருவிகளை உருவாக்கும் டெவலப்பர்கள், அடிப்படையில் முன்கணிப்பு இயந்திரங்களான ஜெனரேட்டிவ் மாடல்கள், பாதுகாப்புத் தடைகள், மேற்கோள்கள் அல்லது கட்டாய மறுப்புகள் இல்லாமல் இறுதி முடிவைத் தகுதியான மனிதருக்குத் திரும்பச் செலுத்தும் வகையில் பரிந்துரைக்கப்பட்ட ஆலோசனைகளை வழங்க அனுமதிக்கப்பட வேண்டுமா என்பது குறித்து கடினமான கேள்விகளை எதிர்கொள்கின்றனர்.

நம்புங்கள், ஆனால் சரிபார்க்கவும்

இப்போதைக்கு, எளிமையான எடுத்துச்செல்லும் பழமையானது. AI பயனுள்ளது, ஆனால் நீங்கள் அதை ஒருபோதும் கண்மூடித்தனமாக நம்பக்கூடாது. சீன விவசாயியின் இழந்த எள் பயிரின் விலை உயர்ந்த நினைவூட்டல், நம்பிக்கையுடன் சொல்லப்பட்ட பரிந்துரை சரியானது அல்ல, மேலும் வித்தியாசத்தைக் கண்டறிவதற்கான செலவை ஏக்கரில் அளவிட முடியும்.

---

AIக்கு முன்னால் இருங்கள்

சமீபத்திய AI செய்திகள், பகுப்பாய்வு மற்றும் முன்னேற்றங்கள் - அனைத்தையும் ஒரே இடத்தில் பெறுங்கள்.

மேலும் AI செய்திகளைப் படிக்கவும் →