เมื่อวันพฤหัสบดีที่ผ่านมา Anthropic ได้เผยแพร่รายงานข่าวกรองภัยคุกคามเมื่อเดือนกันยายน 2569 ในหัวข้อ "การตรวจจับและตอบโต้การใช้ AI ในทางที่ผิด" โดยอธิบายว่าทีมข่าวกรองด้านภัยคุกคามระบุและขัดขวางผู้แสดงภัยคุกคามที่ใช้ Claude ในทางที่ผิดได้อย่างไรระหว่างเดือนธันวาคม 2568 ถึงสิงหาคม 2569 คดีครอบคลุมพื้นที่อันตรายที่แตกต่างกันเจ็ดด้าน ได้แก่ ปฏิบัติการทางไซเบอร์ ปฏิบัติการที่มีอิทธิพล การเฝ้าระวัง การหลอกลวงและการฉ้อโกง การใช้ในทางที่ผิดทางชีวภาพ การพัฒนาอาวุธทั่วไป และการกลั่นแบบจำลองที่ผิดกฎหมาย ตามที่บริษัทระบุ ทุกแคมเปญที่อธิบายนั้นหยุดชะงัก และมีการแบ่งปันข่าวกรองกับหน่วยงานและพันธมิตรในอุตสาหกรรมตามความเหมาะสม

รายงานดังกล่าวอยู่ในช่วงเวลาแห่งการตรวจสอบอย่างเข้มงวดสำหรับอุตสาหกรรม AI และโดยเฉพาะอย่างยิ่งสำหรับ Anthropic เนื่องจาก ข่าว AI ด่วน ในสัปดาห์นี้ถูกครอบงำโดยการเปิดเผยด้านความปลอดภัย บัญชีของผู้แจ้งเบาะแส และแรงกดดันที่เพิ่มขึ้นจากฝ่ายนิติบัญญัติ นอกจากนี้ยังมาพร้อมกับรายงานจาก The New York Times และ Politico ที่เน้นย้ำถึงความพยายามในการสร้างแบบจำลองชายแดนด้วยอาวุธ ซึ่งรวมถึงความพยายามที่ถูกบล็อกที่เกี่ยวข้องกับการพัฒนาอาวุธชีวภาพ

วิธีมานุษยวิทยาติดตามผู้คุกคามที่เปิดใช้งาน AI

Anthropic ติดตามนักแสดงในรายงานภายใต้หน่วยงานออกแบบภายในที่เรียกว่า Generative Threat Groups หรือ GTGs กรณีศึกษาแต่ละกรณีจะวัดสิ่งที่บริษัทเรียกว่าการยกระดับ — การเพิ่มขีดความสามารถที่ AI ให้การดำเนินการในสามมิติ ได้แก่ ความเร็ว ขนาด และความลึก กรณีการใช้งานในทางที่ผิดเกี่ยวข้องกับแบบจำลองของ Claude Haiku, Sonnet และ Opus ไม่มีผู้ใดเกี่ยวข้องกับโมเดล Fable หรือ Mythos-class ของบริษัท ยกเว้นกรณีการกลั่นที่ผิดกฎหมายหนึ่งกรณี

Anthropic วางกรอบความเต็มใจที่จะเผยแพร่เป็นหน้าที่มากกว่าแบบฝึกหัดทางการตลาด โดยระบุในรายงานว่า "เราเชื่อว่าเรามีความรับผิดชอบในการเปิดเผยการใช้บริการของเราในทางที่ผิด"

ปฏิบัติการที่เชื่อมโยงกับ Blizzard เที่ยงคืนที่สร้างมัลแวร์ขึ้นมาใหม่

คดีไซเบอร์ที่ครอบคลุมที่สุดของรายงาน ซึ่งมีการติดตามในชื่อ GTG-20006 อธิบายถึงนักแสดงคนหนึ่งซึ่งมีที่มาที่มาจาก Anthropic กล่าวว่าสอดคล้องกับการรายงานสาธารณะที่เชื่อมโยงกับ Midnight Blizzard ซึ่งเป็นกลุ่มแฮ็กในเครือรัฐของรัสเซีย ซึ่งเดิมชื่อ Nobelium หรือ APT29 หนึ่งในผู้ดำเนินการคือบุคคลที่ใช้ที่จับ "JackPoterz" เป็นผู้พูดภาษารัสเซีย

ตามรายงาน กลุ่มดังกล่าวกำหนดเป้าหมายองค์กรมากกว่า 20 แห่ง ซึ่งกระจุกตัวอยู่ในหน่วยงานรัฐบาล ทหาร และหน่วยงานการทูตของยูเครน โดยได้บุกรุกผู้ให้บริการ WiFi ของโรงแรมอย่างน้อย 3 รายเพื่อแย่งชิงบันทึก DNS เข้ายึดบัญชี WhatsApp ของอดีตเจ้าหน้าที่ระดับสูงของยูเครนอย่างน้อย 2 ราย และขโมยบันทึกข้อมูลระบุตัวตนของชาติมากกว่า 300,000 รายการ พร้อมด้วยข้อมูลการลงทะเบียนเชิงพาณิชย์ที่ครอบคลุมบริษัทมากกว่าครึ่งล้านบริษัทจากหน่วยงานด้านเทคโนโลยีของรัฐบาลแอฟริกาเหนือ

รายละเอียดที่โดดเด่นที่สุดคือการปรับตัวแบบอัตโนมัติ: Anthropic รายงานว่าเจ้าหน้าที่ AI ของนักแสดงได้แก้ไขและสร้างมัลแวร์ของกลุ่มขึ้นมาใหม่ทุกครั้งที่ผลิตภัณฑ์รักษาความปลอดภัยตรวจพบ ซึ่งเป็นลูปที่ก่อนหน้านี้ต้องใช้นักพัฒนาที่มีทักษะตามความต้องการ

การเก็บเกี่ยวข้อมูลประจำตัวตามขนาดและการล่าสัตว์แบบ Zero-Day แบบอัตโนมัติ

กรณีที่สอง GTG-50014 ครอบคลุมถึงผู้ปฏิบัติงานที่ต้องสงสัยว่าเกี่ยวข้องกับกลุ่ม ShinyHunters ไปป์ไลน์การเก็บเกี่ยวข้อมูลประจำตัวของพวกเขาดาวน์โหลด Android APK จำนวนมากถึง 1.8 ล้าน APK และสแกนหาความลับแบบฮาร์ดโค้ด ในการประนีประนอมครั้งหนึ่งของผู้ให้บริการเทคโนโลยี ข้อมูลมากกว่าหนึ่งเทราไบต์ถูกกรองออกไป ซึ่งรวมถึงบันทึกบัตรชำระเงินหลายล้านใบด้วย บริษัทในเครืออีกแห่งหนึ่งดึงข้อมูลจากลูกค้าปลายน้ำประมาณ 200 รายของผู้ให้บริการซอฟต์แวร์ที่ถูกละเมิด และทิ้งชุดโทเค็น Azure AD มากกว่า 2,100 ชุด ซึ่งครอบคลุมผู้เช่าองค์กรมากกว่า 40 รายในเวลาประมาณ 34 ชั่วโมง โดยมีตัวแทน AI ปฏิบัติงานเกือบทั้งหมด ตามรายงาน

GTG-10007 ยังคงทำให้กองหลังมีสติมากขึ้น Anthropic ระบุว่าคลัสเตอร์นี้มาจากผู้ให้บริการที่พูดภาษาจีนซึ่งน่าจะตั้งอยู่ในเมืองฉางซา มณฑลหูหนาน ซึ่ง 2 รายในจำนวนนี้ระบุว่าเป็นนักศึกษาระดับปริญญาตรี ซึ่งกำหนดเป้าหมายไปที่องค์กรประมาณห้าสิบองค์กร และดำเนินโครงการวิจัยช่องโหว่ในกำกับของรัฐ เวิร์กโฟลว์หนึ่งที่ทำซ้ำบนอุปกรณ์เครือข่าย ให้ผลการค้นพบแบบ Zero-day ที่เป็นไปได้มากกว่าหนึ่งโหลในเดือนเดียว

การขู่กรรโชก นักแฮ็กทีวิสต์ผู้โดดเดี่ยว และการจู่โจมที่ล้มเหลวใน AI Labs

คุณลักษณะการใช้งานในทางที่ผิดที่มีแรงจูงใจทางการเงินอย่างเด่นชัด GTG-50020 นักแสดงที่พูดภาษารัสเซียได้เจาะข้อมูลประมาณ 26 กิกะไบต์จากเหยื่อรายหนึ่ง และแสวงหาการขู่กรรโชกระหว่าง 1.5 ล้านถึง 2.5 ล้านดอลลาร์ จากนั้นกลุ่มเดียวกันก็โจมตีบริษัท AI ประมาณสามสิบบริษัทในเวลาประมาณสี่วันโดยมีเป้าหมายที่ระบุไว้ในการเข้าถึงโมเดล Claude เวอร์ชันก่อนเผยแพร่ Anthropic กล่าวว่าทุกเส้นทางที่พยายามล้มเหลว และระบบของตัวเองไม่เคยถูกบุกรุก

ในอีกด้านหนึ่งของสเปกตรัม GTG-50029 เป็นนักแฮ็กทีวิสต์ที่พูดภาษาฝรั่งเศสคนเดียวซึ่งใช้ประโยชน์จากเงื่อนไขการแข่งขันในการติดตั้ง WordPress ที่ไม่มีเอกสารก่อนหน้านี้กับไซต์อย่างน้อยสี่แห่ง เข้าถึงภายในไปยังเป้าหมายที่ถูกติดตามอย่างน้อย 14 จาก 42 เป้าหมาย และกรองข้อมูลประมาณ 140,000 รายการ ซึ่งรวมถึงความคิดเห็นทางการเมืองของผู้ใช้จากแพลตฟอร์มแคมเปญ จากนั้นนักแสดงได้สร้างแพลตฟอร์ม doxxing ชื่อ fafsearch ซึ่งเต็มไปด้วยแถวหลายสิบล้านแถว

อิทธิพลการดำเนินงานจากสาธารณรัฐอัฟริกากลางถึงมาเลเซีย

กรณีปฏิบัติการที่มีอิทธิพล 9 กรณีในรายงานมีต้นกำเนิดในรัสเซีย อิหร่าน ตุรกี อ่าว เอเชียใต้ แอฟริกา และยุโรป โดยวัดจากขอบเขตการฝ่าวงล้อมของสถาบัน Brookings ในกรณีหนึ่ง GTG-04001 นักแสดงที่พูดภาษารัสเซียในบังกีได้ผลิตเนื้อหารายวันสำหรับ Radio Lengo Songo ซึ่งเป็นสถานีมานุษยวิทยาที่เชื่อมโยงกับการเมือง ซึ่งเป็นสาขาอิทธิพลของคณะแอฟริกาและวากเนอร์ที่ประเมินว่ามาอยู่ภายใต้การควบคุมของหน่วยข่าวกรองต่างประเทศของรัสเซียในช่วงปลายปี 2023 ปฏิบัติการดังกล่าวได้ปลอมแปลงเอกสารรัฐบาลของสาธารณรัฐอัฟริกากลางและสัญญาจ้างงานซึ่งกำหนดให้มีความจงรักภักดีต่อประธานาธิบดีของประเทศและต่อรัสเซีย และได้รับการประเมินว่าเป็นประเภทที่ 4 ในระดับ

เครือข่ายอีกเครือข่ายหนึ่งคือ GTG-54002 ถูกโยงไปถึงบริษัท LKM ซึ่งเป็นเอเจนซี่โฆษณาดิจิทัลในฝรั่งเศสที่ดำเนินงานเว็บไซต์ข่าวปลอมประมาณ 70 เว็บไซต์ บัญชี X ที่ตรงกัน 70 บัญชี และบัญชีแสดงความคิดเห็นที่ไม่ถูกต้องมากกว่า 250 บัญชี เครือข่ายเผยแพร่บทความอย่างน้อย 8,913 บทความในประมาณ 20 ภาษา โดย 318 บทความเน้นที่สาธารณรัฐประชาธิปไตยคองโก

การเลือกตั้งก็เป็นเป้าหมายเช่นกัน GTG-84005 ซึ่งเป็นแพลตฟอร์มการจัดการการเลือกตั้งเชิงพาณิชย์ที่มุ่งเป้าไปที่มาเลเซียว่า Anthropic เชื่อมโยงกับ BBS Bilisim Teknolojileri ในอิสตันบูล ซึ่งจัดการบัญชี X ปลอมประมาณ 1,000 บัญชีในเขตเลือกตั้งรัฐสภามาเลเซียทั้งหมด 222 เขต และปลอมแปลงเอกสารต่อต้านนักการเมืองฝ่ายค้าน คลัสเตอร์ที่แยกออกมา GTG-24015 ใช้สี่บัญชีเป็นแผนกบรรณาธิการที่ได้รับความช่วยเหลือจาก AI เพื่อป้อนสื่อของรัฐรัสเซีย

เหตุใดการเปิดเผยข้อมูลจึงมีความสำคัญ

Anthropic กล่าวว่าได้ขัดขวางกิจกรรมในแต่ละกรณี ใช้ผลการวิจัยเพื่อเสริมสร้างการป้องกัน และแบ่งปันข่าวกรองกับหน่วยงานและพันธมิตรในอุตสาหกรรมตามความเหมาะสม การเผยแพร่กรณีศึกษาโดยละเอียด พร้อมด้วยการวิเคราะห์ความล้มเหลวของการตรวจจับของตนเอง ยังคงหาได้ยากในห้องปฏิบัติการชายแดน และบริษัทให้เหตุผลว่าความโปร่งใสช่วยเพิ่มพื้นฐานสำหรับทั้งอุตสาหกรรม

รายงานยังเน้นย้ำถึงการเปลี่ยนแปลงที่ทีมรักษาความปลอดภัยไม่สามารถเพิกเฉยได้อีกต่อไป: ปฏิบัติการที่ใช้ AI ที่อันตรายที่สุดที่อธิบายไว้ในที่นี้ไม่ใช่การสาธิตสมมุติ แต่เป็นการรณรงค์ต่อต้านรัฐบาล บริษัท และการเลือกตั้ง เมื่อแบบจำลองมีความสามารถมากขึ้น ข้อมูลของ Anthropic ชี้ให้เห็นว่าการยกระดับที่มอบให้กับศัตรูที่ถูกกำหนดไว้นั้นกำลังทบต้น และคำตอบที่ดีที่สุดของผู้พิทักษ์ในตอนนี้ก็คือการมองเห็น การเปิดเผย และการทำซ้ำที่เร็วขึ้นในการป้องกัน

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →