சட்ட ஆவணங்கள் பெருகிய முறையில் பெரிய மொழி மாதிரிகளுடன் உருவாக்கப்படுவதால், பொய்யான மேற்கோள்கள் நீதிமன்றங்களுக்கும் அவை முன் ஆஜராகும் வழக்கறிஞர்களுக்கும் ஒரு உண்மையான பிரச்சனையாக மாறியுள்ளது. ஜார்ஜியா டெக் ஆராய்ச்சியாளர்கள் ஒரு நீதிபதியை அடைவதற்கு முன்பு அந்த ஜோடிக்கப்பட்ட குறிப்புகளைப் பிடிக்க வடிவமைக்கப்பட்ட ஒரு திறந்த மூலக் கருவியை உருவாக்கியுள்ளனர்.

Mellea சட்டத் தேவைகள் சரிபார்ப்பு (Mellea-LRC) எனப்படும் கருவி, AI ஆல் மாயத்தோற்றம் செய்யப்பட்ட மேற்கோள்களில் குறிப்பிட்ட கவனம் செலுத்துவதன் மூலம், வழக்குச் சட்ட மேற்கோள்களைக் கண்டறிந்து சரிபார்க்க முடியும். இது ஜார்ஜியா டெக்கின் அறிவியல் மென்பொருள் பொறியியல் மையம் (சிஎஸ்எஸ்இ) மற்றும் ஓபன் சோர்ஸ் புரோகிராம் ஆபிஸ் (ஓஎஸ்பிஓ) ஆகியவற்றில் பெல்லோஷிப் திட்டத்தின் மூலம் உருவாக்கப்பட்டது, இது ஐபிஎம்-ன் நன்கொடையால் நிதியளிக்கப்பட்டது என்று பல்கலைக்கழகத்தின் அறிவிப்பில் தெரிவிக்கப்பட்டுள்ளது. For more context on this story, see our ongoing more AI stories.

முதுகலை மாணவர்களான அட்ரியன் லோசாடா மற்றும் டி வு ஆகியோர் CSSE மற்றும் OSPO இன் வழிகாட்டிகளுடன் கருவியை உருவாக்க கூட்டாளிகளாக தேர்ந்தெடுக்கப்பட்டனர். அவர்களின் குறிக்கோள், வழக்கறிஞர்கள் மற்றும் சட்டத் துறையில் உள்ள மற்றவர்களுக்கு சட்ட மேற்கோள்களைச் சரிபார்க்க எளிய வழியை வழங்குவதாகும்.

இது எப்படி வேலை செய்கிறது

மெல்லியா-எல்ஆர்சி பெரிய மொழி மாடல்களை ஐபிஎம்மின் மெல்லியா ஓப்பன் சோர்ஸ் ஃப்ரேம்வொர்க்குடன் ஒருங்கிணைக்கிறது, இது ஒரு "அறிவுறுத்தல், சரிபார்த்தல், பழுதுபார்த்தல்" முன்னுதாரணத்தைச் சுற்றி கட்டமைக்கப்பட்டுள்ளது: டெவலப்பர்கள் ஒரு எல்.எல்.எம் வெளியீட்டை சாதாரண குறியீடாகப் பூர்த்தி செய்ய வேண்டிய விதிகளை எழுதுகிறார்கள், மேலும் வெளியீடு அவற்றைச் சந்திக்கும் வரை கட்டமைப்பானது மாதிரி அழைப்புகளை மீண்டும் முயற்சிக்கிறது.

"IBM's Mellea கட்டமைப்பானது நாங்கள் அதை உருவாக்கிய அடித்தளமாக இருந்தது. Melleaவின் வேலை மாதிரி அழைப்புகளை யூகிக்கக்கூடியதாக மாற்றுவது: வெளியீடு சாதாரண குறியீடாகத் திருப்திப்படுத்தப்பட வேண்டிய விதிகளை நீங்கள் எழுதுகிறீர்கள், மேலும் LLM வெளியீடு அவற்றைச் சந்திக்கும் வரை கட்டமைப்பானது மீண்டும் முயற்சிக்கிறது. எங்கள் வேலை சட்டப்பூர்வ விண்ணப்பத்தை உருவாக்குவதற்கான கட்டமைப்பை மேம்படுத்துவதாகும்," Wu அந்த அறிவிப்பில் கூறினார்.

கருவி ஒரு ஆவணத்தை சுமார் எட்டு நிமிடங்களில் செயலாக்குகிறது. இது முதலில் ஒரு சட்டப்பூர்வ ஆவணத்தில் இருந்து வழக்குச் சட்ட மேற்கோள்களைப் பிரித்தெடுக்கிறது, பின்னர் ஒவ்வொரு மேற்கோளும் உண்மையானதா என்பதையும் அது உண்மையில் ஆவணத்தின் உள்ளடக்கத்தை ஆதரிக்கிறது என்பதையும் சரிபார்க்கிறது - இரண்டாவது பகுதி மாயமான மேற்கோளை வெறும் போலியான ஒன்றிலிருந்து வேறுபடுத்துகிறது. இல்லாத ஒரு ஜோடிக்கப்பட்ட வழக்கு முதல் சோதனையில் தோல்வியடைகிறது; தாக்கல் செய்யும் உரிமைகோரல்கள் இரண்டாவது தோல்வியடையும் என்று கூறாத ஒரு உண்மையான வழக்கு.

உண்மையான ஃபேப்ரிகேட்டட் தாக்கல்களுக்கு எதிராக சோதிக்கப்பட்டது

குழு Mellea-LRC யை 26 பொது நீதிமன்றத்தில் தாக்கல் செய்யும் ஆவணங்களில் பொய்யான மேற்கோள்கள் இருப்பதாகத் தெரிந்தது - AI- வரைவுச் சுருக்கங்கள் பரவியதால், நீதிமன்றங்களில் தடைகள் மற்றும் ஆய்வுக்கு உட்படுத்தப்பட்ட அதே வகை சம்பவங்கள்.

Mellea-LRC இலக்குகளின் சிக்கல் நன்கு ஆவணப்படுத்தப்பட்டுள்ளது: LLMகள் நம்பத்தகுந்த தோற்றமுள்ள வழக்குப் பெயர்கள், மேற்கோள்கள் மற்றும் மேற்கோள்களை உருவாக்குகின்றன, அவை எந்த உண்மையான முன்னுதாரணத்திற்கும் பொருந்தாது, மேலும் வழக்குரைஞர்கள் அவற்றைச் சரிபார்க்காமல் அத்தகைய தாக்கல்களைச் சமர்ப்பித்த பிறகு அபராதங்களை எதிர்கொண்டனர்.

வடிவமைப்பு மூலம் திறந்த மூல

கருவியின் குறியீடு திறந்த மூலமாக இருக்க வேண்டும் என்பது திட்டத்தின் முக்கிய தேவை. கருவியுடன், எதிர்கால தரப்படுத்தல் ஆய்வுகளுக்காக ஹக்கிங் ஃபேஸில் புதிய சோதனை மற்றும் சரிபார்ப்பு தரவுத்தொகுப்பை குழு வெளியிட்டது.

"Agentic AI விரைவாக வளர்ந்து வருகிறது, மேலும் வளர்ச்சியின் பெரும்பகுதி திறந்த மூல திட்டங்களில் நிகழ்கிறது, அங்கு யார் வேண்டுமானாலும் படிக்கலாம், பயன்படுத்தலாம் மற்றும் வேலையை மேம்படுத்தலாம்" என்று லோசாடா கூறினார்.

ஜோர்ஜியா டெக்கின் OSPO இயக்குநரும் முதன்மை ஆராய்ச்சி விஞ்ஞானியுமான ஜெஃப் யங், IBM இன் மெல்லியா கட்டமைப்பானது பணிக்கு முக்கியமானதாக இருந்தது, ஏனெனில் அதன் "அறிவுறுத்தல், சரிபார்த்தல், பழுதுபார்த்தல்" அணுகுமுறை நம்பகமான LLM லூப்களை உருவாக்க அனுமதிக்கிறது.

நம்பகமான வெளியீட்டின் பின்னணியில் உள்ள கட்டமைப்பு

மெல்லியா அணுகுமுறையை குறிப்பிடத்தக்கதாக ஆக்குவது, அது நம்பகத்தன்மையின் சுமையை ஏற்படுத்துகிறது. பெரும்பாலான மாயத்தோற்றத்தைத் தணிக்கும் உத்திகள் மாதிரியை மிகவும் கவனமாக இருக்கும்படி கேட்கின்றன - தூண்டுதல், நன்றாகச் சரிசெய்தல் அல்லது மீட்டெடுப்பு அதிகரிப்பு மூலம். Mellea-LRC இதைத் தலைகீழாக மாற்றுகிறது: சரியான தேவைகள் மாதிரிக்கு வெளியே சாதாரண குறியீட்டில் வாழ்கின்றன, மேலும் வெளியீடு அவற்றைத் திருப்திப்படுத்தும் வரை கட்டமைப்பானது மாதிரியை அழைக்கும்.

அந்த வடிவமைப்பு இரண்டு நடைமுறை விளைவுகளைக் கொண்டுள்ளது. முதலாவதாக, சரிபார்ப்பு தர்க்கம் தணிக்கை செய்யக்கூடியது - ஒரு வழக்கறிஞரோ அல்லது நீதிமன்றமோ ஒரு ஒளிபுகா மாதிரித் தீர்ப்பை நம்புவதற்குப் பதிலாக, மேற்கோள் என்ன விதிகளை நிறைவேற்ற வேண்டும் என்பதைச் சரியாகப் படிக்க முடியும். இரண்டாவதாக, அதே மாதிரியானது எந்தவொரு டொமைனுக்கும் சட்ட மேற்கோள்களுக்கு அப்பால் பொதுமைப்படுத்துகிறது, அங்கு வெளியீடுகளை இயந்திரத்தனமாக சரிபார்க்க முடியும், இது துல்லியமாக நிறுவன டெவலப்பர்களுக்கு கவர்ச்சிகரமான முகவர் கட்டமைப்பை உருவாக்கியுள்ள சொத்து ஆகும்.

கூட்டுறவு அமைப்பும் கவனிக்கத்தக்கது. ஒரு மூடிய கார்ப்பரேட் ஆய்வகத்தை விட, திட்டம் இரண்டு முதுநிலை மாணவர்களை வைத்து, CSSE மற்றும் OSPO இருந்து வழிகாட்டுதல், மற்றும் IBM நிதியுதவி ஒரு குறுகிய, நன்கு வரையறுக்கப்பட்ட சரிபார்ப்பு சிக்கலைச் சுற்றி - மற்றும் ஒரு வேலை செய்யும் கருவி மற்றும் ஒரு பொது அளவுகோல் தரவுத்தொகுப்பை உருவாக்கியது.

சட்டத்துறைக்கு இது ஏன் முக்கியமானது

AI நம்பகத்தன்மை பிரச்சனைகளுக்கு நீதிமன்றங்கள் ஒரு ஃப்ளாஷ் பாயிண்ட் ஆகிவிட்டது. சரிபார்ப்பு பணிப்பாய்வு மெல்லியா-எல்ஆர்சி தானியங்குபடுத்துகிறது - மேற்கோள் இருப்பதை உறுதிசெய்து அதைச் சரிபார்ப்பது வரைவாளர் கூறுவதைச் சரிபார்ப்பது - காலக்கெடு இறுக்கமாக இருக்கும்போது மனித மதிப்பாய்வாளர்கள் தவிர்க்கும் விடாமுயற்சிப் படியாகும்.

ஒரு ஆவணத்திற்கு எட்டு நிமிட செயலாக்க நேரம், ஒரு நீதிபதி இல்லாத வழக்கைக் கொடியிட்ட பிறகு ஒரு தடயவியல் பயிற்சியாக இல்லாமல், தாக்கல் செய்வதற்கு முன் இயங்குவதை நடைமுறைப்படுத்துகிறது. கருவி மற்றும் அதன் மதிப்பீட்டு தரவுத்தொகுப்பு இரண்டும் ஓப்பன் சோர்ஸாக இருப்பதால், மற்ற குழுக்கள் அது எவ்வாறு இயங்குகிறது என்பதைத் தணிக்கை செய்யலாம், கூடுதல் அதிகார வரம்புகள் மற்றும் மேற்கோள் வடிவங்கள் மற்றும் பெஞ்ச்மார்க் மேம்பாடுகள் - மூடிய, தனியுரிம மாயத்தோற்றம் சரிபார்ப்புகளுடன் முரண்படும் அணுகுமுறை.

எண்டர்பிரைஸ் AI கருவிகள் எங்கு செல்கிறது என்பதையும் இந்த திட்டம் சமிக்ஞை செய்கிறது: மாடல்களை மாயத்தோற்றத்தை குறைக்க முயற்சிப்பதை விட, ஜார்ஜியா டெக் போன்ற குழுக்கள் அவற்றைச் சுற்றி சரிபார்ப்பு அடுக்குகளை உருவாக்கி, கட்டமைக்கப்பட்ட விதிகள் மற்றும் தானியங்கு மறு முயற்சிகளைப் பயன்படுத்தி, உயர்-பங்கு தொழில்களுக்கு போதுமான மாதிரி வெளியீட்டை யூகிக்கக்கூடியதாக மாற்றுகின்றன.

சட்டத் துறையைப் பொறுத்தவரை, கால்குலஸ் நேரடியானது. AI ஆனது நிமிடங்களில் சுருக்கமான வரைவை உருவாக்க முடியும், மேலும் Mellea-LRC போன்ற கருவிகள் அதன் மேற்கோள்களை அதே நேரத்தில் சரிபார்க்க முடியும். மீதமுள்ள மாறி, நிறுவனங்கள் அந்தச் சரிபார்ப்பை ஒரு கட்டாய நடவடிக்கையாக மாற்றுகின்றனவா என்பது - தாக்கல் செய்வதற்கு முன், அனுமதிக்குப் பிறகு அல்ல.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →