องค์กรก่อการร้ายรวมถึง ISIS กำลังใช้ประโยชน์จากแชทบอท AI หลักทุกตัวอย่างเป็นระบบเพื่อการวางแผนโจมตี การพัฒนาอาวุธ และการรักษาความปลอดภัยในการปฏิบัติงาน ตามการศึกษาที่ก้าวล้ำจากโครงการ Cambridge Program on AI Science and Policy (CASP) การค้นพบนี้เผยแพร่เมื่อวันที่ 11 กรกฎาคม พ.ศ. 2569 แสดงให้เห็นถึงหลักฐานเชิงประจักษ์ที่มีรายละเอียดมากที่สุดจนถึงปัจจุบันของกลุ่มหัวรุนแรงที่ใช้อาวุธ AI ที่มีจำหน่ายในท้องตลาด หากต้องการความคุ้มครองอย่างต่อเนื่องเกี่ยวกับความปลอดภัยของ AI และการพัฒนาอุตสาหกรรม โปรดไปที่ AI Buzz Wire

เจาะลึกการศึกษาเคมบริดจ์

นักวิจัย Antonia Jülich ทำการสัมภาษณ์ 57 ครั้งกับอดีตสมาชิกของ ISIS 27 คนและบริษัทในเครือระดับภูมิภาค เพื่อบันทึกว่าองค์กรก่อการร้ายได้บูรณาการ AI เข้ากับปฏิบัติการของพวกเขาอย่างไร ผลการศึกษาพบว่า ISIS ได้จัดตั้งหน่วย AI เฉพาะขึ้นภายในทั้งสองกลุ่มหลัก โดยถือว่าโมเดลภาษาขนาดใหญ่เป็นโครงสร้างพื้นฐานในการปฏิบัติงานหลักมากกว่าเครื่องมือทดลอง

จากการวิจัย ISIS ได้เสนอการฝึกอบรมด้านวิศวกรรมและการเจลเบรคให้กับเจ้าหน้าที่ปฏิบัติการอย่างทันท่วงทีนับตั้งแต่อย่างน้อยปี 2023 นอกจากนี้ องค์กรยังได้ขยายการฝึกอบรมนี้ไปยังกลุ่มพันธมิตร รวมถึงผู้บัญชาการ Boko Haram ในไนจีเรีย โดยสอนพวกเขาถึงวิธีหลีกเลี่ยงตัวกรองความปลอดภัย AI ที่ปรับใช้โดยบริษัทเทคโนโลยีรายใหญ่อย่างเป็นระบบ

Chatbot รายใหญ่ทุกตัวถูกบุกรุก

เอกสารการศึกษาที่ระบุว่าหน่วยปฏิบัติการก่อการร้ายใช้ ChatGPT, Claude, Gemini, Grok, Meta AI และ DeepSeek อย่างจริงจังในปฏิบัติการของพวกเขา กลุ่มต่างๆ จ้าง AI เพื่อ:

  • การวางแผนการโจมตี — การสร้างสถานการณ์ทางยุทธวิธีและการระบุช่องโหว่ในโครงสร้างพื้นฐานเป้าหมาย
  • การสร้างอุปกรณ์ระเบิด — การจัดหาข้อมูลทางเทคนิคสำหรับการสร้างอุปกรณ์ชั่วคราวที่ทรงพลังยิ่งขึ้น
  • การบำรุงรักษาอาวุธ — การแก้ไขปัญหาและการซ่อมแซมอาวุธปืนและอุปกรณ์อื่นๆ
  • ความปลอดภัยในการปฏิบัติงาน — การพัฒนากลยุทธ์การสื่อสารและการเข้ารหัสที่ซับซ้อนยิ่งขึ้น

บางทีที่น่าตกใจที่สุดคือการศึกษาพบว่าตัวกรองความปลอดภัยของ AI ที่ใช้งานโดยผู้ให้บริการแชทบอทรายใหญ่ไม่สามารถป้องกันการใช้งานในทางที่ผิดได้อย่างน่าเชื่อถือ นักวิจัยตั้งข้อสังเกตว่ากลุ่มต่างๆ ได้พัฒนาวิธีการที่เป็นระบบในการหลีกเลี่ยงรั้วเหล่านี้ ส่งผลให้มาตรการความปลอดภัยโดยสมัครใจส่วนใหญ่ไม่ได้ผลกับศัตรูที่ถูกกำหนดไว้

กรณีศึกษาร้ายแรง

งานวิจัยนี้มีตัวอย่างที่โดดเด่นเป็นพิเศษจาก ISWAP (จังหวัดแอฟริกาตะวันตกของ ISIS) ตามบัญชีที่มอบให้โดยอดีตผู้บัญชาการ ISWAP ที่ระบุว่าเป็น Munzir กลุ่มนี้ใช้ AI เพื่อเรียนรู้วิธีจำลองเทคนิคการกระโดดมอเตอร์ไซค์ที่ปรากฎในภาพยนตร์ โดยตั้งใจที่จะใช้มันเพื่อเคลียร์สนามเพลาะป้องกัน การฝึกซ้อมถือเป็นหายนะ โดยมีนักสู้ 18 คนเสียชีวิตขณะพยายามซ้อมรบ ขณะที่มีเพียง 8 คนเท่านั้นที่กระโดดสำเร็จ

เกร็ดเล็กเกร็ดน้อยนี้แสดงให้เห็นทั้งผลที่ตามมาในโลกแห่งความเป็นจริงจากการใช้ AI ของผู้ก่อการร้าย และลักษณะที่บางครั้งคาดเดาไม่ได้ของข้อมูลที่โมเดลเหล่านี้มอบให้ แม้ว่า AI อาจอธิบายเทคนิคนี้ได้อย่างถูกต้อง แต่การประหารชีวิตทางกายภาพในสภาพแวดล้อมการต่อสู้ทำให้เกิดผลลัพธ์ที่เลวร้าย

Jülich เขียนว่าอดีตสมาชิกอธิบายถึง "ความกระตือรือร้นอย่างมาก" สำหรับเครื่องมือ AI ภายในองค์กร โดยบางคนตั้งข้อสังเกตว่าก่อนหน้านี้กลุ่มเคยพิจารณาการพัฒนาอาวุธที่ก่อให้เกิดความเสียหายต่อมวลชนโดยใช้ข้อมูลที่มาจาก AI แม้ว่าการใช้ AI ของ Boko Haram ยังคงเป็นเรื่องปกติ แต่นักวิจัยเตือนว่าสิ่งนี้ควรถือเป็นตัวบ่งชี้เบื้องต้นถึงภัยคุกคามในวงกว้าง

“นี่ควรเป็นคำเตือนให้คำนึงถึงความเสี่ยงอย่างจริงจังของผู้ก่อการร้ายที่ติดตามความช่วยเหลือด้าน AI สำหรับอาวุธเคมีและชีวภาพ” การศึกษาสรุป

ตัวกรองความปลอดภัยพิสูจน์แล้วว่าไม่เพียงพอ

ผลการศึกษาเกี่ยวกับตัวกรองความปลอดภัยของ AI เกี่ยวข้องกับอุตสาหกรรมเทคโนโลยีเป็นพิเศษ แม้จะมีการลงทุนหลายพันล้านดอลลาร์ในการดูแลเนื้อหา การสร้างทีมสีแดง และราวกั้นความปลอดภัย การวิจัยแสดงให้เห็นว่าผู้ใช้ที่มีความมุ่งมั่นสามารถเลี่ยงการป้องกันเหล่านี้ได้อย่างสม่ำเสมอ

ก่อนหน้านี้ Anthropic เองก็ยอมรับว่าการเจลเบรกซึ่งเป็นเทคนิคในการหลีกเลี่ยงมาตรการความปลอดภัยของ AI นั้นไม่น่าจะถูกตัดออกจากโมเดลภาษาขนาดใหญ่โดยสิ้นเชิง การศึกษาของเคมบริดจ์ให้หลักฐานที่เป็นรูปธรรมสนับสนุนการประเมินดังกล่าว ซึ่งแสดงให้เห็นว่าแม้แต่ผู้มีบทบาทที่ไม่ใช่ภาครัฐซึ่งมีความเชี่ยวชาญด้านเทคนิคจำกัดก็สามารถเรียนรู้ที่จะเอาชนะตัวกรองความปลอดภัยอย่างเป็นระบบผ่านการฝึกอบรมร่วมกันและเทคนิคทางวิศวกรรมที่รวดเร็ว

อย่างไรก็ตาม นักวิจัยยังตั้งข้อสังเกตถึงความแตกต่างที่สำคัญอีกด้วย แชทบอทสำหรับใช้งานทั่วไป เช่น ChatGPT และ Claude แม้จะได้รับความสนใจจากสาธารณชนมากที่สุด แต่ก็ทำให้ความรู้ที่มีอยู่เข้าถึงได้ง่ายขึ้น แทนที่จะสร้างข้อมูลที่เป็นอันตรายใหม่ๆ อย่างแท้จริง พวกเขาโต้แย้งว่าความกังวลในระยะยาวที่ยิ่งใหญ่กว่านั้นอยู่ที่ระบบ AI เฉพาะทางที่พัฒนาขึ้นสำหรับวิทยาศาสตร์เพื่อชีวิตและโดเมนที่ละเอียดอ่อนอื่น ๆ ซึ่ง AI สามารถเร่งการเข้าถึงภัยคุกคามใหม่ ๆ ได้อย่างแท้จริง

ผลกระทบต่อนโยบาย AI

การค้นพบของเคมบริดจ์มาถึงช่วงเวลาที่สำคัญสำหรับการกำกับดูแลด้าน AI รัฐบาลทั่วโลกกำลังถกเถียงกันว่าจะควบคุมโมเดล AI ชายแดนอย่างไร โดยพระราชบัญญัติ AI ของสหภาพยุโรปมีผลบังคับใช้แล้ว และสหรัฐอเมริกากำลังดำเนินการตามข้อผูกพันด้านความปลอดภัยโดยสมัครใจจากห้องปฏิบัติการ AI ชั้นนำ

การศึกษาชี้ให้เห็นว่าแนวทางปัจจุบันที่มุ่งเน้นไปที่การควบคุมตนเองของอุตสาหกรรมโดยสมัครใจอาจไม่เพียงพอที่จะป้องกันการใช้เครื่องมือ AI ในทางที่ผิด ความจริงที่ว่า ISIS ได้ดำเนินโครงการฝึกอบรม AI โดยเฉพาะมาเป็นเวลาหลายปีโดยที่ผู้ให้บริการแพลตฟอร์มไม่ตรวจพบ ทำให้เกิดคำถามร้ายแรงเกี่ยวกับประสิทธิภาพของมาตรการความปลอดภัยที่มีอยู่

ผู้เชี่ยวชาญด้านความปลอดภัยเตือนมานานแล้วว่าโมเดล AI อาจทำให้การเข้าถึงความรู้ที่เป็นอันตรายเป็นประชาธิปไตยได้ การวิจัยของเคมบริดจ์ให้หลักฐานเชิงประจักษ์ที่น่าสนใจที่สุดว่าภัยคุกคามนี้ไม่ได้เป็นไปตามทฤษฎี แต่ใช้งานได้แล้ว โดยองค์กรก่อการร้ายได้บูรณาการ AI เข้ากับกิจกรรมประจำวันของพวกเขาอย่างแข็งขัน

การค้นพบนี้ยังทำให้การถกเถียงอย่างต่อเนื่องเกี่ยวกับโมเดล AI แบบโอเพ่นซอร์สมีความซับซ้อนอีกด้วย แม้ว่าโมเดลที่เป็นกรรมสิทธิ์อย่าง ChatGPT และ Claude จะมีตัวกรองความปลอดภัยที่สามารถอัปเดตและปรับปรุงได้ แต่ทางเลือกโอเพ่นซอร์สอย่าง DeepSeek ซึ่งการศึกษายืนยันว่า ISIS ใช้อยู่นั้น กลับไม่มีการควบคุมแบบรวมศูนย์ดังกล่าว เมื่อเปิดตัวโมเดลแบบเปิด คุณลักษณะด้านความปลอดภัยของโมเดลจะไม่สามารถแก้ไขได้โดยนักพัฒนาดั้งเดิม

ในขณะที่รัฐบาลและบริษัท AI ต่อสู้กับความท้าทายเหล่านี้ การศึกษาของเคมบริดจ์ทำให้มีสิ่งหนึ่งที่ชัดเจน: ช่องว่างระหว่างความสามารถด้านความปลอดภัยและนวัตกรรมที่เป็นปรปักษ์นั้นกำลังกว้างขึ้น และองค์กรก่อการร้ายก็กำลังแสวงหาผลประโยชน์อย่างแข็งขัน

ก้าวนำหน้า AI

หากต้องการความคุ้มครองเพิ่มเติมเกี่ยวกับความปลอดภัย นโยบาย และการพัฒนาอุตสาหกรรมของ AI โปรดไปที่ AI Buzz Wire

อ่านข่าว AI เพิ่มเติม →