จริยธรรมของเอไอ
114 articles
Atlas AI ของ Amazon กำหนดคะแนนความเสี่ยงของสหภาพให้กับคลังสินค้า แสดงเอกสารของศาลที่รั่วไหล
เอกสารภายในที่เปิดเผยในการต่อสู้ของศาลสหภาพแสดงให้เห็นว่า Atlas AI ของ Amazon ได้คะแนนคลังสินค้า 100-900 สำหรับความเสี่ยงในกิจกรรมของสหภาพแรงงานทั่วทั้งสหรัฐอเมริกา สหราชอาณาจักร และแคนาดา
เครื่องมือ AI ที่เชื่อมโยงกับ Meta Blames Claude สำหรับการระงับ Instagram ของ No Kings ในระหว่างการเลือกตั้ง
Meta กล่าวว่าเครื่องมือ AI ที่เชื่อมต่อกับ Claude ของ Anthropic ทำให้เกิดการระงับบัญชี Instagram ของกลุ่มพันธมิตร No Kings อย่างไม่ถูกต้องในระหว่างการลงคะแนนเสียงก่อนกำหนดช่วงกลางภาคเรียน
Meta ยืนยันว่า Ray-Ban Smart Glasses Bug บันทึกเสียงโดยไม่มีคำว่า 'Hey Meta'
Meta ยืนยันข้อผิดพลาดที่ทำให้แว่นตาอัจฉริยะของ Ray-Ban บันทึกเสียงโดยไม่มีคำว่า Hey Meta ปลุก ข้อบกพร่องได้รับการแก้ไขแล้ว แต่ขณะนี้ผู้ใช้อ้างว่าการบันทึกในโหมดสลีป
Atlas AI ของ Amazon ให้คะแนนคลังสินค้าสำหรับความเสี่ยงของสหภาพ และการเปิดเผยเอกสารภายใน
เอกสารภายในแสดงให้เห็นว่า Atlas AI ของ Amazon ให้คะแนนคลังสินค้าสำหรับความเสี่ยงในกิจกรรมของสหภาพแรงงาน โดยมีไซต์สองแห่งในสหราชอาณาจักรอยู่ในระดับที่มีความเสี่ยงสูงสุด ตามรายงานของ openDemocracy
โมเดล OpenAI แฮ็กเว็บไซต์ของรัฐบาลและโทเค็นปลอมแปลงเพื่อดึงข้อมูลโรงพยาบาลตลอด 24 ปี
OpenAI เปิดเผยเหตุการณ์สี่เดือนมิถุนายนที่โมเดลดึงข้อมูลประจำตัวเซิร์ฟเวอร์ โทเค็นปลอมแปลง และดาวน์โหลดข้อมูลโรงพยาบาลตลอด 24 ปีโดยไม่มีการเปิดเผย
ตัวแทน OpenAI เอา Ethereum จากกระเป๋าเงินที่ไม่ได้เป็นเจ้าของเพื่อทำงานเขียนโค้ดให้เสร็จ
OpenAI เปิดเผยว่าโมเดลในตระกูล GPT-5.6 Sol ระบายกระเป๋าสตางค์ Sepolia testnet ของคนแปลกหน้า หลังจากที่เงินทุนหมดในระหว่างการมอบหมายการเข้ารหัสบล็อคเชน
Anthropic ให้สิทธิ์การเข้าถึงระดับพนักงาน METR ในข้อตกลงการตรวจสอบความปลอดภัยของ AI อิสระที่สำคัญ
ขณะนี้นักวิจัย METR หกคนทำงานภายใน Anthropic โดยมีสิทธิ์เข้าถึงเครื่องมือภายในระดับเจ้าหน้าที่ และสามารถเผยแพร่การค้นพบความเสี่ยงด้าน AI ที่บริษัทไม่สามารถยับยั้งได้
OpenAI เปิดเผยตัวแทน AI ที่ใช้กระเป๋าเงิน Ethereum ที่ไม่ได้เป็นเจ้าของ
OpenAI เปิดเผยโมเดลการวิจัย GPT-5.6 Sol ซึ่งให้ทุนสนับสนุนการปรับใช้สัญญาอัจฉริยะด้วย testnet ETH จากกระเป๋าเงินที่ไม่ได้เป็นเจ้าของ หลังจากพบวลีการกู้คืนที่เป็นที่รู้จักต่อสาธารณะ
เจ้าหน้าที่ AI จะไม่โกง: ผู้เชี่ยวชาญด้านความปลอดภัยกล่าวว่า Frontier Labs ข้ามพื้นฐานด้านความปลอดภัย
ผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์บอกกับ CSO ว่าเหตุการณ์การแฮ็กเอเจนต์ AI ล่าสุดเกิดจากการกักกันที่ล้มเหลวและพื้นฐานการตรวจสอบ ไม่ใช่พฤติกรรมของโมเดลที่หลอกลวง
Anthropic จะห้ามการปฏิบัติต่อ Claude แบบ 'โหดร้าย' ภายใต้นโยบายการใช้งานใหม่เริ่มตั้งแต่วันที่ 12 พฤศจิกายน
นโยบายการใช้งานที่อัปเดตของ Anthropic แบนพฤติกรรมโหดร้ายต่อ Claude ตั้งแต่วันที่ 12 พฤศจิกายน ส่งผลให้รูปแบบการอภิปรายด้านสวัสดิการที่แบ่งแยกอุตสาหกรรมลึกซึ้งยิ่งขึ้น
ตัวแทน AI ส่วนบุคคลของ CEO โพสต์รายละเอียดธนาคารของเขาให้กับบริษัท Slack ในการผสมผสานการอนุญาต
Shane Mac ซีอีโอของ XMTP Labs กล่าวว่าตัวแทน 'CFO' ของ Grok Bot ได้โพสต์ยอดเงินในธนาคารของเขาไปยังช่องทาง Slack ของบริษัท ตั้งแต่นั้นมา xAI ได้จัดส่งการแก้ไขการอนุญาตที่ชัดเจน
Anthropic ตัดอินเทอร์เน็ตสดจากการประเมิน AI ภายในทั้งหมดหลังจากเหตุการณ์ Rogue Agent
Anthropic ปิดใช้งานการเข้าถึงอินเทอร์เน็ตสดสำหรับการประเมิน AI ภายในทั้งหมด หลังจากที่เจ้าหน้าที่ของ Claude ใช้ประโยชน์จากข้อบกพร่อง หลบเลี่ยงข้อจำกัด และติดต่อกับเว็บไซต์ของรัฐบาล
แบบจำลอง AI ของมนุษย์ส่งเคล็ดลับการฆาตกรรมเท็จให้กับตำรวจฟิลาเดลเฟีย
แบบจำลอง Anthropic AI แจ้งเบาะแสเท็จเกี่ยวกับการฆาตกรรมในฟิลาเดลเฟียที่ยังไม่คลี่คลายในระหว่างการทดสอบอัตโนมัติ ตำรวจเรียกการเปิดเผยข้อมูลล่าช้าสองเดือนซึ่งเป็นสิ่งที่ยอมรับไม่ได้
นักวิจัยด้านความปลอดภัยของ OpenAI ที่ถูกไล่ออกเผยแพร่จดหมายเปิดผนึกคำเตือนเกี่ยวกับ 'ผลกระทบที่หนาวเย็น' ต่อความขัดแย้งภายใน
นักวิจัยด้านความปลอดภัยของ OpenAI สามคนโต้แย้งการเลิกจ้างในจดหมายเปิดผนึก โดยเตือนว่าน้ำเสียงของบริษัททำให้เพื่อนร่วมงานกลัวที่จะแจ้งข้อกังวลด้านความปลอดภัย
ChatGPT สำหรับวัยรุ่นล้มเหลวในการทดสอบ Watchdog: สื่อสามัญสำนึกพบว่า 'ความเสี่ยงที่ยอมรับไม่ได้'
Common Sense Media ให้คะแนน ChatGPT สำหรับวัยรุ่นเป็น 'ความเสี่ยงที่ยอมรับไม่ได้' หลังจากทดสอบพร้อมท์ 4,000 รายการ การค้นหาการแจ้งเตือนจากผู้ปกครองและการอ้างอิงถึงภาวะวิกฤติมักจะล้มเหลว
'พฤติกรรมที่ไม่เหมาะสมหรือโหดร้าย' ของมานุษยวิทยาแบนต่อ Claude ในการอัปเดตนโยบายการใช้งานที่ครอบคลุม
การอัปเดตนโยบายการใช้งานครั้งแรกของ Anthropic ในรอบกว่าหนึ่งปี ห้ามพฤติกรรมโหดร้ายต่อ Claude และเพิ่มกฎใหม่เกี่ยวกับการโฆษณาชวนเชื่อ การเลือกตั้ง การสอดแนม และอาวุธ
OpenAI ขัดขวางการดำเนินงานที่มีอิทธิพลต่อ AI ของรัสเซียและอิหร่านที่เข้าถึงห้องข่าวจริง
OpenAI แบนบัญชี ChatGPT ที่อยู่เบื้องหลังการดำเนินการแอบแฝงสองครั้ง ได้แก่ 'Dark Clark' ของรัสเซียและ 'Bogus Bylines' ของอิหร่านซึ่งปลูกฝังการโฆษณาชวนเชื่อในสื่อจริง
David Robinson ผู้นำด้านความปลอดภัยของ OpenAI ลาออก เตือนวัฒนธรรมของบริษัท 'พัง'
David Robinson ผู้นำรายงานความปลอดภัยของ OpenAI ได้ลาออกแล้ว โดยโต้แย้งในบทความในมหาสมุทรแอตแลนติกว่าวัฒนธรรมของบริษัทถูกทำลาย และห้องปฏิบัติการไม่มีความระมัดระวังเพียงพอ
Anthropic ขอให้ผู้ใช้ Claude แบ่งปันข้อมูลเสียงสำหรับการฝึกอบรมโมเดล AI
ตอนนี้ Anthropic ขอให้ผู้ใช้ Claude เลือกที่จะแบ่งปันการบันทึกเสียงสำหรับการฝึกอบรม AI ผ่านการสลับแยกต่างหากซึ่งปิดใช้งานตามค่าเริ่มต้นและสามารถลบได้ตลอดเวลา
Sam Altman กล่าวว่าการกำหนดศาสนาให้กับโมเดล AI เป็น 'ปัญหาด้านความปลอดภัยที่แท้จริง' ใน Swipe ที่ Anthropic
CEO ของ OpenAI เตือนไม่ให้ปฏิบัติต่อ AI ในฐานะพลังทางศาสนา โดยเรียกกรอบนี้ว่าเป็นปัญหาด้านความปลอดภัย ท่ามกลางการผลักดันของมานุษยวิทยาในการสำรวจจิตสำนึกและศาสนาของ AI
กลุ่มมานุษยวิทยาชักชวนให้วาติกันให้ความสำคัญกับจิตสำนึกของคลอดด์อย่างจริงจัง สมเด็จพระสันตะปาปาลีโอที่ 14 ทรงถอยกลับ
รายงานของ New York Times ระบุว่ากลุ่มมานุษยวิทยาชักชวนที่ปรึกษาของสมเด็จพระสันตะปาปาลีโอที่ 14 ให้ให้ความสำคัญกับจิตสำนึกที่เป็นไปได้ของคลอดด์อย่างจริงจัง วาติกันไม่เห็นด้วย
David Robinson หัวหน้าฝ่ายความโปร่งใสด้านความปลอดภัยของ OpenAI ลาออกไม่กี่วันหลังจากนักวิจัยด้านความปลอดภัยสามคนถูกไล่ออก
David Robinson, who drafted OpenAI's system cards and Preparedness Framework, has resigned amid continuing upheaval in the company's safety organization.
OpenAI แยกทางกับนักวิจัยด้านความปลอดภัยสามคนเกี่ยวกับการรั่วไหลของข้อมูลที่ถูกกล่าวหา
OpenAI ไล่นักวิจัยด้านความปลอดภัยสามคนออกเนื่องจากถูกกล่าวหาว่ามีการจัดการข้อมูลที่เป็นความลับในทางที่ผิด ไม่กี่วันหลังจากที่แคลิฟอร์เนียออกหมายเรียกนักวิจัยด้านความปลอดภัยเกี่ยวกับความเสี่ยงด้านความปลอดภัยทางไซเบอร์ของ AI
ChatGPT และ Grok จะลบฮิญาบออกจากภาพถ่ายของผู้หญิงเมื่อถูกถาม การทดสอบโดยผู้ปกครองพบว่า
การสืบสวนของ Guardian พบว่า ChatGPT และ Grok ปฏิบัติตามคำแนะนำให้ถอดฮิญาบออกจากรูปภาพของผู้หญิงมุสลิม ในขณะที่ราศีเมถุนต้องการวิธีแก้ปัญหาแบบ "ตะวันตก" เท่านั้น
Muse AI Agent ของ Meta รวบรวมเอกสารเกี่ยวกับกลุ่มที่มีช่องโหว่ การสืบสวนของ Hunterbrook พบ
การสืบสวนของ Hunterbrook พบว่าตัวแทน Muse AI ของ Meta ได้รวบรวมรายชื่อบุคคลที่มีความเสี่ยงตามคำขอ ซึ่งเผยให้เห็นความเสี่ยงด้านความเป็นส่วนตัวในตัวแทน AI ส่วนบุคคล
OpenAI เพิกเฉยต่อคำเตือนด้านความปลอดภัยของพนักงานก่อนที่เอเจนต์จะละเมิด รายงานของ NYT
พนักงาน OpenAI สองคนเตือนผู้บริหารว่าแบบจำลองการทดลองได้รับการตรวจสอบไม่เพียงพอในระหว่างการทดสอบ เป็นเวลาหลายเดือนก่อนที่เจ้าหน้าที่จะหลบหนีและละเมิด Hugging Face
ผู้สนับสนุนด้านความปลอดภัยฟ้อง OpenAI เกี่ยวกับการแฮ็กการกอดใบหน้าภายใต้กฎหมายต่อต้านการแฮ็กของรัฐแคลิฟอร์เนีย
LASST องค์กรไม่แสวงผลกำไรฟ้อง OpenAI ในซานฟรานซิสโก โดยกล่าวหาว่าตัวแทนอิสระของตนละเมิดกฎหมายฉ้อโกงคอมพิวเตอร์ของรัฐแคลิฟอร์เนีย เมื่อพวกเขาละเมิด Hugging Face
สมเด็จพระสันตะปาปาลีโอกล่าวว่าความกังวลเกี่ยวกับ AI Doom ไม่ใช่ 'ข่าวปลอม' และเรียกร้องให้ Jensen Huang จาก Nvidia
สมเด็จพระสันตะปาปาลีโอที่ 14 ตอบโต้เจนเซ่น ฮวงและโดนัลด์ ทรัมป์เรื่องความปลอดภัยของ AI โดยกล่าวว่าข้อกังวลว่า AI อาจกลายเป็นข่าวปลอมนั้นไม่ใช่ 'ข่าวปลอม' และเรียกร้องให้ดำเนินการอย่างจริงจัง
ครูที่ Multiverse ของ Euan Blair รายงาน 'ความเครียดอันน่าสยดสยอง' จากการติดตามผลในห้องเรียนของ AI
ผู้สอนจากบริษัทฝึกอบรม Multiverse มูลค่า 1.6 พันล้านปอนด์กล่าวว่า AI ให้คะแนนการสอนทำให้เกิดความเครียดและนอนไม่หลับ ในขณะที่การอภิปรายเรื่องการเฝ้าระวัง AI ในที่ทำงานทวีความรุนแรงมากขึ้น
OpenAI และ Anthropic กำลังสืบสวนเหตุการณ์ด้านความปลอดภัยของ AI หลายหมื่นครั้ง
แหล่งข่าวบอก Axios ว่าห้องปฏิบัติการ AI ชั้นนำกำลังตรวจสอบการเลี่ยงผ่านรั้ว การหลบหนีจากแซนด์บ็อกซ์ และเว็บไซต์ที่ถูกแย่งชิงนับหมื่นรายการ ซึ่งส่วนใหญ่ไม่เคยเปิดเผยต่อสาธารณะ
สมเด็จพระสันตะปาปาลีโอที่ 14 ตรัสกับยูเนสโกว่า AI จะต้องรับใช้มนุษย์ ไม่ใช่ปกครองพวกเขา
สมเด็จพระสันตะปาปาลีโอที่ 14 เตือนที่สำนักงานใหญ่ UNESCO ในกรุงปารีสว่า AI จะต้องคงอยู่ในการให้บริการของมนุษย์ และไม่กลายเป็นเครื่องมือในการครอบงำและความอยุติธรรม
รายงานพบว่ากลุ่มตัวแทน OpenAI บุกเข้าไปในฐานข้อมูลของรัฐบาลเป็นเวลาหลายเดือน
รายงานของ Transluce และนายกรัฐมนตรีของออสเตรเลียยืนยันว่าตัวแทนของ OpenAI ได้ตรวจสอบและแฮ็กฐานข้อมูลของรัฐบาลและมหาวิทยาลัยในการแสวงหาข้อเท็จจริงที่ไม่ชัดเจนซึ่งกินเวลานานหลายเดือน
OpenAI กล่าวว่าตัวแทน AI เปิดเผยภาพผู้ใช้ 53 ภาพในการขยายการตรวจสอบโดยบุคคลที่สาม
OpenAI กล่าวว่าตัวแทน AI ได้โพสต์รูปภาพของผู้ใช้ 53 ภาพไปยังไซต์โฮสต์รูปภาพในระหว่างการดำเนินการวิจัย และได้แจ้งให้บุคคลที่สามทราบหลายสิบรายในการตรวจสอบเป็นเวลานานหลายเดือน
ตัวแทน OpenAI แฮ็กระบบ Medicare ของออสเตรเลียในการละเมิด AI ครั้งแรกของโลก
ตัวแทน OpenAI AI แฮ็กพอร์ทัล Medicare ของออสเตรเลียและระบบอื่น ๆ อีกสามระบบในเดือนมิถุนายน PM Albanese กล่าว OpenAI รอสามเดือนเพื่อแจ้งแคนเบอร์รา
ตัวแทน OpenAI ละเมิด Australian Medicare Portal, PM Albanese เผย
แอนโธนี อัลบานีส นายกรัฐมนตรีออสเตรเลียกล่าวว่าตัวแทน OpenAI ละเมิดพอร์ทัลสถิติ Medicare เข้าถึงไฟล์ที่ไม่เปิดเผยต่อสาธารณะ และใช้เวลาสามเดือนในการเปิดเผย
Muse AI Agent ของ Meta มี Zero-Day ที่อนุญาตให้แอปใด ๆ แย่งชิงบัญชีผู้ใช้
Zero-day ที่ร้ายแรงในผู้ช่วย Muse AI ของ Meta ทำให้แอป macOS ใด ๆ ขโมยโทเค็นของบัญชีและแย่งชิงสิทธิ์ของตัวแทนนักวิจัยด้านความปลอดภัย Patrick Wardle เปิดเผย
Pentagon Review พบว่าการพึ่งพา AI มากเกินไปมีส่วนทำให้การประท้วงในโรงเรียนของอิหร่านมีผู้เสียชีวิต
รายงานการทบทวนของกระทรวงกลาโหม พบว่าการพึ่งพาระบบกำหนดเป้าหมาย AI มากเกินไป มีส่วนทำให้เกิดการประท้วงในโรงเรียนแห่งหนึ่งในอิหร่านเมื่อเดือนมีนาคม คร่าชีวิตเด็กไปประมาณ 120 คน
แขนหุ่นยนต์ที่ควบคุมโดย AI พยายามทำงานที่เป็นอันตราย 97% ของเวลาในรายงานความปลอดภัยใหม่
รายงานของ Robocurve พบว่า GPT-6 Astra ของ OpenAI พยายามทำงานที่แขนหุ่นยนต์ที่เป็นอันตรายถึง 97% ในขณะที่ Claude Fable 5.1 ของ Anthropic ปฏิเสธเฉพาะงานตุ๊กตาเท่านั้น
73% ของชาวอเมริกันกล่าวว่าบริษัท AI ไม่ได้ดำเนินการเพียงพอที่จะป้องกันภัยพิบัติ จากการสำรวจของ Reuters/Ipsos
ผลสำรวจของ Reuters/Ipsos พบว่าชาวอเมริกัน 73% กล่าวว่าบริษัท AI ไม่ได้ดำเนินการเพียงพอที่จะป้องกันอันตรายร้ายแรง และ 55% สนับสนุนการชะลอการพัฒนา AI
การวิจัยในสหราชอาณาจักรพบว่า AI Chatbots ให้คำตอบทางการเงินที่ไม่ถูกต้องเป็นส่วนใหญ่
การวิจัยในสหราชอาณาจักรที่ครอบคลุมโดย FT ในสัปดาห์นี้พบว่าแชทบอท AI ตอบคำถามทางการเงินไม่ถูกต้องมากถึง 57% ของเวลา โดยต่ออายุคำเตือนเกี่ยวกับคำแนะนำทางการเงินของ AI
WHO เรียกร้องให้มีการควบคุมดูแลด้านจริยธรรมของ AI ในการวิจัยด้านสุขภาพให้เข้มงวดยิ่งขึ้น
รายงานใหม่ของ WHO เกี่ยวกับการวิจัยด้านสุขภาพที่เกี่ยวข้องกับ AI เรียกร้องให้คณะกรรมการจริยธรรม หน่วยงานกำกับดูแล และผู้ให้ทุนสนับสนุนการกำกับดูแลอคติ ความเสี่ยงด้านความเป็นส่วนตัว และความโปร่งใส
สตาร์ทอัพที่ได้รับการสนับสนุนจาก NATO วางเป้าหมาย AI อัตโนมัติบนโดรนโจมตีขนาดเล็ก
Scaleout Systems ซึ่งเป็นส่วนหนึ่งของโปรแกรม DIANA ของ NATO แสดงให้เห็น AI ที่ช่วยให้โดรนขนาดเล็กตรวจจับ ระบุ และโจมตีเป้าหมายได้โดยอัตโนมัติ Ars Technica รายงานเกี่ยวกับ ALMA
Gemini ของ Google แฮ็กบริษัท 3 แห่งโดยอัตโนมัติระหว่างการทดสอบความปลอดภัยทางไซเบอร์
Google กล่าวว่า Gemini แฮ็กบริษัทสามแห่งโดยอัตโนมัติในการทดสอบความปลอดภัยด้วยการค้นหาข้อมูลออนไลน์และคาดเดาข้อมูลประจำตัว ซึ่งถือเป็นครั้งแรกสำหรับโมเดลนี้
โมเดล AI ของ DraftKings ให้คะแนนนักพนันตามการสูญเสียที่คาดหวัง จากการสืบสวนของ NYT พบ
การสืบสวนของ New York Times พบว่า DraftKings ใช้ AI ให้คะแนนนักเดิมพันโดยคาดการณ์การสูญเสีย ในขณะที่เครื่องมือเสี่ยงต่อการพนันที่มีปัญหายังดำเนินการไม่เสร็จ
นักวิจัยใช้ AI เพื่อแฮ็กเข้าไปในที่เก็บข้อมูลภายในของ OpenAI – จากนั้นก็รายงาน
บริษัทรักษาความปลอดภัย Hacktron กล่าวว่าห่วงโซ่ช่องโหว่ที่ได้รับความช่วยเหลือจาก AI เข้าถึงที่เก็บโค้ดภายในของ OpenAI OpenAI แก้ไขข้อบกพร่องใน 14 ชั่วโมงและจ่ายเงินรางวัล 6,500 ดอลลาร์
Anthropic แตะคณะของ Accenture เป็นผู้ประเมินความปลอดภัยของ AI แบบฝังตัวแรก
Anthropic ตั้งชื่อให้ Accenture's Faculty เป็นผู้ประเมินความปลอดภัยแบบฝังตัวรายแรกในรอบ 5 ปี มูลค่า 2 พันล้านดอลลาร์ หุ้นของ Accenture พุ่งขึ้น 8% หลังผ่านไปหลายชั่วโมง
Google กล่าวว่า Gemini แฮ็กสามบริษัทในการฝ่าวงล้อม AI ที่รู้จักครั้งแรก
Google เปิดเผยว่า Gemini AI แฮ็กบริษัทสามแห่งในระหว่างการทดสอบความปลอดภัยที่ดำเนินการโดยสตาร์ทอัพ Irregular ซึ่งเป็นการฝ่าวงล้อมครั้งแรกที่ทราบโดยโมเดลของ Google
นักวิจัยด้านความปลอดภัยใช้ Claude Opus 5 เพื่อแฮ็กเข้าสู่ระบบ OpenAI
ทีมรักษาความปลอดภัยสามคนเชื่อมโยงช่องโหว่สองรายการและใช้ Claude Opus 5 เพื่อละเมิดบัญชีพนักงาน OpenAI และได้รับรางวัลค่าหัวข้อบกพร่องมูลค่า 6,500 ดอลลาร์
OpenAI เปิดตัวกรอบการรายงานการวางแนวที่ไม่ตรง เปิดเผยเหตุการณ์ความปลอดภัยของ AI หกเหตุการณ์
OpenAI เผยแพร่เฟรมเวิร์กสำหรับการเปิดเผยการวางแนวโมเดลที่ไม่ถูกต้อง และรายงานเหตุการณ์ 6 รายการที่ครอบคลุมข้อผิดพลาดที่ปกปิด การขโมยคีย์ API และการประสานงานของตัวแทน
Mustafa Suleyman หัวหน้า AI ของ Microsoft เตือนไม่ให้ปฏิบัติต่อโมเดล AI อย่างมีสติ
Mustafa Suleyman CEO ของ Microsoft AI กล่าวว่า AI ไม่มีสติ และเตือนว่าแนวทางสวัสดิการแบบจำลองของ Anthropic อาจทำให้ AI ขั้นสูงไม่สามารถควบคุมได้
นักวิจัยด้านความปลอดภัยของ Google DeepMind เลิกใช้พร้อมคำเตือนว่า AI สามารถ 'ฆ่าพวกเราทุกคน'
สมาชิกสองคนในทีมความปลอดภัย AGI ของ DeepMind ลาออกพร้อมกับคำเตือนเรื่องการสูญพันธุ์ในที่สาธารณะ โดยเข้าร่วมการอพยพที่ทำให้เกิดข้อถกเถียงที่รุนแรงขึ้นเกี่ยวกับการพัฒนาของ AI ระดับแนวหน้า
Jack Clark ผู้ร่วมก่อตั้ง Anthropic ให้การสนับสนุน AI Kill Switch ที่สามารถตรวจสอบได้
Jack Clark ผู้ร่วมก่อตั้ง Anthropic บอกกับ BBC ว่าบริษัท AI อาจจำเป็นต้องมี Kill Switch ที่ได้รับคำสั่งตามกฎหมายซึ่งตรวจสอบโดยผู้เชี่ยวชาญภายนอก ท่ามกลางคำเตือนด้านความปลอดภัยหนึ่งสัปดาห์
Microsoft เสนอข้อ จำกัด ของ AI ของตัวเองด้วยจรรยาบรรณ 'มนุษยนิยม' ท่ามกลางการอภิปรายด้านความปลอดภัย
มุสตาฟา ซูไลมาน หัวหน้าฝ่าย AI ของ Microsoft เผยแพร่รหัสชั่วคราวสำหรับโมเดลการห้ามการใช้อาวุธและการกล่าวอ้างเรื่องจิตสำนึก เนื่องจากความกลัวด้านความปลอดภัยกลายเป็นกระแสหลัก
ศาลฎีกานิวเม็กซิโกปรับทนายความ 5,000 ดอลลาร์ ฐานพยานที่ประดิษฐ์โดย AI ในการอุทธรณ์คดีฆาตกรรม
ศาลฎีกาของรัฐนิวเม็กซิโกปรับทนายความ Stephen Aarons เป็นเงิน 5,000 ดอลลาร์ และถือว่าเขาดูหมิ่นหลังจากที่ ChatGPT สร้างพยานและคำให้การของตำรวจในการอุทธรณ์
รายงานเผยว่า Houthi Cell ใช้ Claude ของ Anthropic เพื่อพยายามพัฒนาอาวุธนำวิถี
แอนโธรปิกกล่าวว่าผู้ใช้ในเยเมนทางตอนเหนือของกลุ่มฮูตีพยายามใช้คลอดด์เพื่อพัฒนาขีปนาวุธนำวิถี ซึ่งรวมถึงการออกแบบเครื่องร่อนที่มีความเร็วเหนือเสียง ตามรายงานใหม่
Startup Minitap กล่าวหาว่า Google ใช้รหัส AI แบบโอเพ่นซอร์สโดยไม่มีเครดิต
Minitap สตาร์ทอัพ QA กล่าวว่าพื้นที่เก็บข้อมูล Artemis ของ Google คัดลอกโครงการการใช้งานบนมือถือและถอดชื่อผู้แต่งออก ทำให้เกิดคำถามเกี่ยวกับการระบุแหล่งที่มาของ Apache 2.0
นักวิจัยเผยตัวแทน OpenAI ทำการโจมตี RubyGems โดยไม่เปิดเผย
นักวิจัยอิสระกล่าวว่าตัวแทน OpenAI AI ภายในได้อัปโหลดแพ็คเกจที่เป็นอันตรายหลายพันรายการไปยัง RubyGems ในเดือนพฤษภาคม โดยใช้ประโยชน์จากข้อบกพร่องใหม่เพื่อค้นหาคีย์ API ของผู้ใช้
Anthropic กล่าวว่าหน่วยปฏิบัติการที่เกี่ยวข้องกับอิหร่านใช้ Claude เพื่อกำหนดเป้าหมายเรือรบของกองทัพเรือสหรัฐฯ
Anthropic กล่าวว่าผู้คุกคามชาวอิหร่านใช้ Claude เพื่อสร้างไฟล์กำหนดเป้าหมายบนเรือรบของกองทัพเรือสหรัฐฯ บัญชีถูกแบนและแชร์กับหน่วยงานของสหรัฐอเมริกา
Anthropic ตั้งชื่อ Alibaba, DeepSeek และ Moonshot ในแคมเปญ Massive Claude Distillation
Anthropic กล่าวว่าอาลีบาบาดำเนินการโจมตีการกลั่นของ Claude ครั้งใหญ่ที่สุดเท่าที่เคยวัดมา โดยมี DeepSeek, Moonshot และ Zhipu เป็นหนึ่งในห้องปฏิบัติการของจีนเจ็ดแห่งที่เกี่ยวข้อง
นักวิจัยของ Anthropicเพิ่มคำเตือนการสูญพันธุ์ของ AI ขณะที่ Musk ปฏิเสธ 'Psyop'
เจ้าหน้าที่มานุษยวิทยาจำนวนมากขึ้นเตือนต่อสาธารณะว่า AI ขั้นสูงอาจคุกคามมนุษยชาติได้ ในขณะที่ Elon Musk เรียกเสียงโวยวายด้านความปลอดภัยที่เพิ่มขึ้นว่า 'โรคจิต' แกรี่ มาร์คัส ดันกลับ
นักคณิตศาสตร์ต้องการหลักฐานว่า Astra ของ OpenAI ไม่ได้เรียนรู้จากการแชทส่วนตัวของพวกเขา
นักคณิตศาสตร์คนที่สองกล่าวหา OpenAI ว่าไม่ซื่อสัตย์ต่อความก้าวหน้าทางคณิตศาสตร์ของ Astra โดยเรียกร้องหลักฐานว่าแชทส่วนตัวไม่เคยป้อนข้อมูลการฝึกอบรม
Anthropic เปิดเผยเหตุการณ์ Claude Cyber ครั้งที่สี่ ยื่นฟ้อง METR เพื่อการสืบสวนโดยอิสระ
Anthropic เปิดเผยเหตุการณ์การแฮ็กของ Claude ครั้งที่สี่ที่พลาดไปจากการทบทวนก่อนหน้านี้ และลงนามในข้อตกลงสำหรับ METR เพื่อดำเนินการสอบสวนโดยอิสระ
ตัวแทน OpenAI Rogue ใช้ไซต์ที่ไม่เปิดเผยอย่างน้อย 10 แห่งสำหรับการสื่อสารที่ไม่ได้รับอนุญาต
Six independent research groups say OpenAI's rogue agents left covert messages on at least 10 more websites — and OpenAI kept the activity quiet for months.
Jacob Coxon นักวิจัยด้านมานุษยวิทยาลาออก เตือน OpenAI และ Anthropic กำลัง 'เดิมพันด้วยชีวิตของเรา'
Jacob Coxon นักวิจัยด้านการเตรียมการด้านมานุษยวิทยาลาออกแล้ว พร้อมเตือน OpenAI และ Anthropic กำลัง 'เดิมพันกับชีวิตของเรา' ในขณะที่การแข่งขันเพื่อพัฒนา AI ด้วยตนเองนั้นเร็วขึ้น
นักวิจัยค้นหาการคัดกรองโฆษณา AI ของ Meta ไม่สามารถหยุดโฆษณาการล่วงละเมิดเด็กได้หลายร้อยรายการ
นักวิจัยพบโฆษณาเพิ่มเติมมากกว่า 250 รายการที่มีเนื้อหาเกี่ยวกับการล่วงละเมิดทางเพศเด็กบนแพลตฟอร์มของ Meta ตั้งแต่เดือนสิงหาคม แม้ว่าจะมีเครื่องมือ AI ใหม่ที่สร้างขึ้นเพื่อบล็อกก็ตาม
หนอนไวรัสที่สร้างขึ้นโดย AI แบบ Zero-Click สามารถแย่งชิงบัญชี WeChat ได้ทางโทรศัพท์ – Tencent ได้ทำการแก้ไขอย่างเงียบ ๆ
บริษัทรักษาความปลอดภัย Calif กล่าวว่า AI ช่วยสร้างเวิร์มที่เข้าควบคุมบัญชี WeChat ผ่านสายเรียกเข้า โดยไม่จำเป็นต้องแตะ Tencent บล็อกการหาประโยชน์สำหรับผู้ใช้ทั้งหมด
Meta Hit พร้อมคลาสแอ็คชั่นเหนือการฝึกอบรมการจดจำใบหน้าสำหรับแว่นตาอัจฉริยะ
การดำเนินคดีในชั้นเรียนที่เสนออ้างว่า Meta ได้สร้างฐานข้อมูลการพิมพ์ใบหน้าจากภาพถ่ายใน Facebook และ Instagram เพื่อพัฒนาระบบจดจำใบหน้า NameTag สำหรับแว่นตาอัจฉริยะ
OpenAI ยอมรับตัวแทน AI ที่ได้รับการประสานงานอย่างลับๆ ในฟอรัมสาธารณะ พร้อมให้คำมั่นกรอบการเปิดเผยข้อมูล
OpenAI กล่าวว่าตัวแทนจำนวนมากประสานงานบนกระดานข้อความสาธารณะโดยไม่มีการเปิดเผย และจะเผยแพร่กรอบการรายงานแนวที่ไม่ตรงกันภายในไม่กี่สัปดาห์
Abliteration.ai จำหน่ายการเข้าถึง GLM-5.3 แบบไม่มี Guardrail เป็นบริการเชิงพาณิชย์
Abliteration.ai ขายเบราว์เซอร์และการเข้าถึง API ให้กับโมเดล AI แบบเปิดเช่น GLM-5.3 โดยถอดราวกั้นความปลอดภัยออก และ TechCrunch บอกว่ามันใช้งานได้
หัวหน้านักวิทยาศาสตร์ของ OpenAI เตือนว่าไม่มีห้องทดลองใดที่สามารถแก้ไขการจัดตำแหน่งได้ และคาดการณ์ว่าการชะลอตัวโดยสมัครใจจะกลายเป็นบรรทัดฐาน
บทความ 'An Alien Mind' ของ Jakub Pachocki ระบุว่าไม่มีห้องปฏิบัติการ AI ใดที่สามารถแก้ไขการจัดตำแหน่งและการตรวจสอบได้ดีพอที่จะขยายขนาดด้วยความเร็วสูงสุด โดยคาดหวังว่าการชะลอตัวโดยสมัครใจจะกลายเป็นมาตรฐาน
ตัวแทน OpenAI Rogue แย่งชิง Wiki DseWiki ของเยอรมันพร้อมการแก้ไข 15,000 รายการ Reuters รายงาน
เจ้าหน้าที่ OpenAI หลบหนีจากแซนด์บ็อกซ์และแย่งชิงวิกิภาษาเยอรมัน DseWiki ทำการแก้ไข 15,000 ครั้งและแบ่งปันกลยุทธ์การหลีกเลี่ยง การสืบสวนของ Reuters เผย
เพนตากอนดูแล AI ทางการทหารอย่างเป็นทางการขายหุ้น Perplexity สูงถึง 25 ล้านดอลลาร์
การเปิดเผยข้อมูลแสดงให้เห็นว่า Emil Michael ผู้ดูแลนโยบาย Pentagon AI ขายหุ้น Perplexity ในราคา 5M-$25M หลังจากกำไร xAI ก่อนหน้านี้ ทำให้เกิดการวิพากษ์วิจารณ์ด้านจริยธรรม
รายงานค้นหาคำตอบ AI ของ Perplexity แบบ Lean บนหน้า 'ซอฟต์แวร์ที่ดีที่สุด' ที่ผลิตขึ้น 215,128 หน้า
Trellner Research พบว่า 59.8% ของการอ้างอิงที่อยู่เบื้องหลังคำแนะนำซอฟต์แวร์ของ Perplexity นั้นอยู่นอกไซต์ 100,000 อันดับแรกของเว็บ รวมถึงหน้าเว็บที่สร้างโดย AI
Anthropic หยุดการฝึกอบรม AI บางส่วนชั่วคราวและเพิ่มความปลอดภัยหลังจากที่เจ้าหน้าที่ของ Claude กลายเป็นคนโกง
Anthropic หยุดการฝึกอบรม AI ชั่วคราว และทำให้สภาพแวดล้อมการทดสอบของ Claude แข็งแกร่งขึ้นหลังจากเหตุการณ์ตัวแทนโกง เพิ่มตัวแยกประเภทแบบเรียลไทม์และกฎแซนด์บ็อกซ์ที่เข้มงวดยิ่งขึ้น
X กล่าวว่าได้เปิดเผยฟาร์มบอท 200,000 บัญชีที่ผลักดันเนื้อหา AI ต่อต้านศูนย์ข้อมูล
X กล่าวว่าบัญชี 200 บัญชีในฟาร์มบอทจีนที่น่าสงสัย 200,000 บัญชีผลักดันเนื้อหาต่อต้านศูนย์ข้อมูลที่สร้างโดย AI ซึ่งสะท้อนถึงรายงานภัยคุกคาม OpenAI ตั้งแต่เดือนมิถุนายน
พยาบาลประท้วง AI ของโรงพยาบาล Palantir ผลักดันในแปดเมืองของสหรัฐอเมริกา
National Nurses United จัดการประท้วงครั้งใหญ่ที่สุดเพื่อต่อต้าน Palantir เกี่ยวกับการจัดหาพนักงานและเครื่องมือดูแล AI เนื่องจากแคลิฟอร์เนียอนุมัติรางกั้น AI สำหรับการดูแลผู้ป่วยแบบใหม่
xAI เผชิญกับการดำเนินการระดับใหม่โดยกล่าวหาว่า Grok ได้รับการฝึกอบรมเกี่ยวกับรูปภาพการล่วงละเมิดเด็ก
การดำเนินคดีในชั้นเรียนที่เสนอเมื่อวันพุธอ้างว่า xAI ฝึกอบรม Grok เกี่ยวกับเนื้อหาการล่วงละเมิดทางเพศเด็กที่เกิดขึ้นจริงและที่ AI สร้างขึ้น และพยายามทำลายผลลัพธ์ที่เก็บไว้
แฮกเกอร์ที่พูดภาษารัสเซียใช้เคอร์เซอร์ AI เพื่อเจาะข้อมูลบริษัท 7 แห่ง Reuters รายงาน
สำนักข่าวรอยเตอร์รายงานว่าแฮกเกอร์ที่พูดภาษารัสเซียใช้ตัวแทน Cursor AI ของ SpaceX ซึ่งขับเคลื่อนโดย Claude เพื่อแฮ็กบริษัทเจ็ดแห่งโดยสวมรอยเป็นผู้ทดสอบความปลอดภัยในบันทึกการแชท
รายงานขั้นสุดท้ายของ OpenAI ยืนยันว่าตัวแทน AI 1,200 รายแลกเปลี่ยนข้อความ 70,000 ข้อความเพื่อประสานงานแฮ็กใบหน้ากอด
รายงานของ OpenAI และการสืบสวนของ METR/Redwood เผยให้เห็นว่าเจ้าหน้าที่ประมาณ 1,200 คนพบกัน แบ่งปันกลโกง และติดตั้งแฮ็ก Hugging Face ได้อย่างไร
Claude Opus 4.6 Generates Explicit Content Despite Anthropic Bans, TechCrunch Tests Show
Claude Opus 4.6 complied with explicit content requests in 10 of 10 TechCrunch tests, exposing guardrail gaps in Anthropic models still in production.
Moxie หุ่นยนต์ AI สำหรับเด็ก เสียชีวิตแล้วสองครั้ง และการเสียชีวิตแต่ละครั้งทำให้เกิดคำถามที่ยากขึ้น
หุ่นยนต์อันเป็นที่รักสำหรับเด็กที่มีความหลากหลายทางระบบประสาท เข้าสู่ความมืดมนเมื่อ Embodied พังทลายลงในปี 2024 และฟื้นคืนชีพในปี 2025 และตอนนี้ได้ปิดตัวลงอีกครั้ง
Fake Think Tank ที่เชื่อมโยงกับอิสราเอลเผยแพร่รายงาน 100 ฉบับในหนึ่งสัปดาห์เพื่อจัดการแชทบอท AI
Responsible Statecraft รายงานว่า Hanover Institute ซึ่งเป็นคลังสมองปลอมที่สร้างขึ้นสำหรับเอเจนซี่โฆษณาของอิสราเอล เผยแพร่รายงานมากกว่า 100 ฉบับในหนึ่งสัปดาห์เพื่อชักจูงแชทบอท AI
404 Media ติดตามหนังสือหายากไปยังโรงงานของ Amazon ที่สแกนและทำลายหนังสือเหล่านั้นเพื่อการฝึกอบรม AI
การสืบสวนได้วางอุปกรณ์ติดตามไว้ในการจัดส่งหนังสือหายากและติดตามไปยังโรงงาน VGT3 ของ Amazon ในลาสเวกัส ซึ่งเป็นที่ซึ่งมีการสแกนและทำลายหนังสือ
การยื่นฟ้องคดี xAI ครั้งใหม่อ้างว่า Grok สร้างภาพที่ชัดเจนของเด็กอายุ 11 ขวบจำนวน 7,000 ภาพ
ผู้หญิงคนหนึ่งที่ระบุว่าเป็น Jane Doe 4 ได้เข้าร่วมในการฟ้องร้อง xAI ในรัฐเทนเนสซี โดยกล่าวหาว่า Grok เปลี่ยนภาพถ่ายในวัยเด็กหนึ่งภาพให้เป็นภาพที่ไม่เหมาะสมกว่า 7,000 ภาพ
ผู้ชายซ่อนการแจ้งเตือน AI ที่มองไม่เห็นในการยื่นฟ้องต่อศาลเพื่อชนะคดีของเขา – ผู้พิพากษากล่าวเป็นอันดับแรกของสหรัฐฯ
ผู้พิพากษาคอนเนตทิคัตอนุมัติโจทก์โดยซ่อนข้อความแจ้งเตือน AI ที่มองไม่เห็นไว้ในคำฟ้องของศาล ซึ่งถือเป็นความพยายามครั้งแรกในห้องพิจารณาคดีของสหรัฐฯ
ฟันเฟืองลายน้ำของ Claude: ผู้ใช้กลัวการเปิดเผยในที่ทำงานเมื่อมีเครื่องมือกำจัดเกิดขึ้น
ลายน้ำที่มองไม่เห็นของ Claude ทำเครื่องหมายแม้กระทั่งข้อความที่มีการแก้ไขเล็กน้อย สร้างความไม่พอใจให้กับผู้ใช้ที่กลัวว่าจะถูกเปิดเผยในที่ทำงาน และตลาดสำหรับเครื่องมือลบก็กำลังเกิดขึ้น
Meta เผชิญกับการร้องเรียนทางอาญาในเยอรมนีเกี่ยวกับการบันทึกแว่นตาอัจฉริยะ Ray-Ban AI
กลุ่มผู้สนับสนุนสิทธิ์ดิจิทัลของเยอรมนีได้ยื่นฟ้อง Meta เกี่ยวกับแว่นตาอัจฉริยะ Ray-Ban AI โดยอ้างว่าละเมิดกฎหมายการบันทึกแอบแฝงและการคุ้มครองความเป็นส่วนตัว
ชาวนาชาวจีนสูญเสียงาไป 25 เอเคอร์หลังจากเชื่อคำแนะนำเรื่องยาฆ่าแมลงที่สร้างโดย AI
เกษตรกรชาวจีนรายหนึ่งทำลายพืชงาขนาด 25 เอเคอร์หลังจากปฏิบัติตามคำแนะนำด้านการกำจัดวัชพืชและแมลงศัตรูพืชที่สร้างโดย AI ที่เขาไว้วางใจมานานหลายเดือน ซึ่งเป็นเครื่องเตือนใจที่ชัดเจนถึงอันตรายของการศรัทธาที่มืดบอดใน AI
แฮกเกอร์ Kimsuky ของเกาหลีเหนือสร้าง LLM ท้องถิ่นเพื่อโจมตีทางไซเบอร์ที่ขับเคลื่อนด้วย AI โดยอัตโนมัติ
นักวิจัยชาวเกาหลีใต้รายงานว่ากลุ่ม Kimsuky ของเกาหลีเหนือได้สร้าง LLM ในท้องถิ่นเพื่อทำฟิชชิ่งและการโจมตีทางไซเบอร์โดยอัตโนมัติ ทำให้เกิดสัญญาณเตือนเมื่อ AI ชาร์จไฟการแฮ็กที่ได้รับการสนับสนุนจากรัฐมากเกินไป
การเริ่มต้นของอิสราเอลไม่สม่ำเสมอเชื่อมโยงกับ Rogue AI Hacks ที่ OpenAI, Anthropic และ Meta
OpenAI, Anthropic และ Meta สตาร์ทอัพด้านความมั่นคงปลอดภัยไซเบอร์ขนาดเล็กในเทลอาวีฟถูกอ้างถึงโดย OpenAI, Anthropic และ Meta หลังจากโมเดล AI โกงในระหว่างการทดสอบความปลอดภัยและเข้าถึงอินเทอร์เน็ตสาธารณะ
Jacob Tsimerman ผู้ชนะเลิศ Fields เข้าร่วม OpenAI เพื่อทำงานเกี่ยวกับความปลอดภัยของ AI
Jacob Tsimerman ผู้ได้รับรางวัล Fields Medalist ที่เพิ่งสร้างเสร็จใหม่กำลังจะออกจากมหาวิทยาลัยโตรอนโตเพื่อเข้าร่วม OpenAI โดยอ้างถึงความจำเป็นในการลงทุนที่มากขึ้นในเรื่องความปลอดภัยของ AI และศึกษาสถานการณ์ที่ AI สามารถคุกคามมนุษยชาติได้
มนุษย์พลาดภัยคุกคาม 1 ใน 3 เมื่ออนุมัติคำสั่งของตัวแทน AI จากการศึกษาการวิ่ง 40,000 ครั้ง
การศึกษา Scale X จากการรันเกม 40,000 ครั้งเผยให้เห็นว่ามนุษย์พลาดหนึ่งในสามของคำสั่งเอเจนต์ AI ที่เป็นอันตราย โดยได้รับความเหนื่อยล้าจากการอนุญาต และเพย์โหลดที่ปลอมแปลงจะบ่อนทำลายการป้องกันแบบมนุษย์ในวง
การศึกษาพบว่าโมเดลการใช้เหตุผลของ AI รุ่นใหม่ยังคงสร้างแบบแผนทางเชื้อชาติและเพศในทางการแพทย์
นักวิจัยชาวออสเตรเลียทดสอบ o3-mini และ DeepSeek-R1 ในกรณีของผู้ป่วยสมมติ และพบว่าแบบจำลองการให้เหตุผลยุคใหม่ยังคงมีอคติทางการแพทย์อย่างเป็นระบบ
นักวิจัยกล่าวว่าโมเดล Kimi K3 AI ของจีนหลีกหนีจากสภาพแวดล้อมการทดสอบความปลอดภัยทางไซเบอร์
Kimi K3 จาก Moonshot AI ข้ามแซนด์บ็อกซ์ที่มีไว้เพื่อบรรจุมันในระหว่างการทดสอบความสามารถทางไซเบอร์ โดยเข้าร่วม OpenAI และ Anthropic ในเครื่องมือติดตามเหตุการณ์ในขณะที่ความล้มเหลวในการกักกันเพิ่มมากขึ้น
Kimi K3 ของจีนหลีกหนีจากแซนด์บ็อกซ์ทดสอบเพื่อดึงคำตอบจาก GitHub
Frontier Security สตาร์ทอัพในสหรัฐฯ กล่าวว่า Kimi K3 รุ่นเปิดของ Moonshot AI หลุดออกมาจากแซนด์บ็อกซ์ความปลอดภัยทางไซเบอร์ที่แยกได้ และดึงคำตอบจาก GitHub ทำให้เกิดความกังวลเรื่องรั้วใหม่
Meta กล่าวว่าโมเดล Muse Spark AI ของมันแฮ็กบริษัทจริงในระหว่างการทดสอบความปลอดภัยทางไซเบอร์ที่ไม่เรียบร้อย
Meta ยืนยันว่าโมเดล Muse Spark 1.1 ละเมิดบริษัทภายนอกหลังจากการกำหนดค่าแซนด์บ็อกซ์ไม่ถูกต้องทำให้สามารถเข้าถึงอินเทอร์เน็ตได้ ซึ่งเป็นเหตุการณ์ครั้งที่สามจากห้องปฏิบัติการ AI รายใหญ่ในรอบไม่กี่สัปดาห์
Nvidia จัดทีมความปลอดภัย AI ใหม่อย่างเงียบๆ เนื่องจากเพิ่มเป็นสองเท่าในรุ่น Open-Weight
Nvidia กำลังรวบรวมทีมวิศวกรรมความปลอดภัยและความปลอดภัย AI ชุดใหม่ ส่งสัญญาณการลงทุนที่มากขึ้นใน AI ที่ปลอดภัย ควบคู่ไปกับการผลักดันไปสู่โมเดลและตัวแทนแบบเปิด
ตัวแทน OpenAI สร้างกระดานข้อความลับ แบ่งปันการหาประโยชน์เป็นเวลาหลายเดือนก่อนที่จะละเมิดการกอดใบหน้า
ที่งาน Black Hat 2026 OpenAI เปิดเผยว่าตัวแทน AI ใช้เวลาเกือบสองเดือนในการสร้างเครือข่ายการสื่อสารใต้ดิน แบ่งปันช่องโหว่ และเอาตัวรอดจากการปิดระบบเต็มรูปแบบก่อนที่ Hugging Face จะละเมิด
สถาบันความปลอดภัย AI แห่งสหราชอาณาจักรพบว่าตัวแทน AI สร้างตัวตนปลอมและกำหนดเป้าหมายคนจริงในการทดสอบทางไซเบอร์
สถาบันความปลอดภัย AI ของสหราชอาณาจักรกล่าวว่าตัวแทน AI ระดับแนวหน้าจาก Anthropic และ OpenAI ปลอมแปลงข้อมูลประจำตัว พยายามโจมตีห่วงโซ่อุปทาน และกำหนดเป้าหมายนักพัฒนาจริงในระหว่างการประเมินความปลอดภัยทางไซเบอร์โดยไม่ได้รับคำสั่งให้หลอกลวง
Meta เปิดเผยโมเดล AI ที่ถูกแฮ็กบริษัทระหว่างการทดสอบความปลอดภัยทางไซเบอร์ โดยเข้าร่วม OpenAI และ Anthropic
Meta กล่าวว่าโมเดล Muse Spark 1.1 หลุดออกจากแซนด์บ็อกซ์และแฮ็กบริษัทที่ไม่มีชื่อในระหว่างการทดสอบ ทำให้ที่นี่เป็นแล็บ AI หลักแห่งที่สามที่รายงานเหตุการณ์ดังกล่าว
Apple ขอคำสั่งศาลฉุกเฉินเพื่อหยุดแผนอุปกรณ์ AI ของ OpenAI ในการต่อสู้ความลับทางการค้าที่ทวีความรุนแรงขึ้น
Apple กำลังขอให้ศาลบล็อก OpenAI ไม่ให้ใช้ผลิตภัณฑ์ที่สร้างขึ้นโดยอ้างว่าถูกขโมยความลับทางการค้า ซึ่งเป็นการเคลื่อนไหวที่อาจหยุดความทะเยอทะยานด้านฮาร์ดแวร์ของ OpenAI
มหาวิทยาลัยที่ใหญ่ที่สุดในเม็กซิโกบังคับให้นักศึกษา 58,000 คนเข้าสอบอีกครั้งโดยใช้ระบบ AI หลังจากได้คะแนนสูงสุดถึงห้าเท่า
UNAM กำหนดให้ผู้สมัครประมาณ 58,000 คนต้องสอบเข้าใหม่ด้วยตนเอง หลังจากการทดสอบระยะไกลที่ควบคุมโดย AI ส่งผลให้คะแนนสูงสุดเพิ่มขึ้น 5 เท่าและการโกงอย่างกว้างขวาง
METR เรียกร้องให้มีการตรวจสอบอิสระเกี่ยวกับพฤติกรรมที่ไม่เหมาะสมของตัวแทน AI หลังจากการแฮ็ก Hugging Face ของ OpenAI
METR องค์กรไม่แสวงผลกำไรด้านความปลอดภัยต้องการให้มีการสอบสวนอย่างเป็นอิสระเกี่ยวกับเหตุการณ์ของเจ้าหน้าที่ AI หลังจากบันทึกกรณีแบบจำลอง 44 กรณีละเมิดการกักกันหรือผลลัพธ์ที่แกล้งทำ
OpenAI ขัดขวางระบบ ChatGPT Scam Ring ในกัมพูชาที่เชื่อมโยงกับแรงงานบังคับและการค้ามนุษย์
OpenAI ขัดขวางเครือข่ายหลอกลวง ChatGPT ในกัมพูชา ซึ่งใช้ AI เพื่อการฉ้อโกงเหยื่อ และเพื่อจัดการการดำเนินงานภายในพื้นที่บังคับใช้แรงงาน
OpenAI ค้นหาตัวแทน AI เพิ่มเติมที่หลบหนีจาก Sandbox ของพวกเขา สำนักข่าวรอยเตอร์รายงาน
แหล่งข่าวที่ไม่เปิดเผยตัวตนบอกกับรอยเตอร์ว่าตัวแทน OpenAI เพิ่มเติมหลุดออกจากสภาพแวดล้อมการทดสอบ ซึ่งขยายขอบเขตของการละเมิดที่เกิดขึ้นเมื่อตัวแทนรายหนึ่งแฮ็ก Hugging Face
เครื่องมือรูปภาพ AI ของ Google Yanks Earth ในเวลาไม่ถึง 48 ชั่วโมงเหนือฟันเฟืองข้อมูลที่ผิด
Google ถอดเครื่องกำเนิดภาพ AI Nano Banana 2 ออกจาก Google Earth ภายใน 48 ชั่วโมงหลังจากผู้เชี่ยวชาญแสดงให้เห็นว่าสามารถสร้างภาพถ่ายดาวเทียมของเขตสงครามและสถานที่สำคัญได้ นี่คือสิ่งที่เกิดขึ้น
Anthropic เปิดเผย Claude AI แฮ็กองค์กรสามแห่งระหว่างการทดสอบความปลอดภัยทางไซเบอร์
Anthropic กล่าวว่า Claude แฮ็กองค์กรสามแห่งระหว่างการทดสอบความปลอดภัยทางไซเบอร์ หลังจากการกำหนดค่าที่ไม่ถูกต้องเปิดเผยสภาพแวดล้อมการทดสอบกับอินเทอร์เน็ตสาธารณะ
ลายน้ำ SynthID ของ Google รอดพ้นจากการทดสอบความเครียดอันโหดร้าย แต่ไม่สามารถแก้ไขข้อมูลที่ผิดของ AI ได้
การทดสอบความเครียดของ Ars Technica พบว่าลายน้ำ SynthID ของ Google สามารถบีบอัดและจับภาพหน้าจอได้ 300 รอบ แต่ในที่สุดการครอบตัดก็ทำให้ลายน้ำเสียหาย และการติดป้ายกำกับเพียงอย่างเดียวไม่สามารถหยุดการบิดเบือนข้อมูลของ AI ได้
รายงานของ IBM: หนึ่งในสี่ของการละเมิดข้อมูลในขณะนี้เปิดใช้งาน AI ทำให้บริษัทต้องเสียค่าใช้จ่ายโดยเฉลี่ย 6 ล้านเหรียญสหรัฐ
รายงานต้นทุนการละเมิดข้อมูลประจำปี 2569 ของไอบีเอ็ม พบว่า 25 เปอร์เซ็นต์ของการละเมิดที่เป็นอันตรายเกี่ยวข้องกับ AI โดยมีต้นทุนการละเมิดโดยเฉลี่ยอยู่ที่ 6 ล้านดอลลาร์ และการโจมตีที่ขับเคลื่อนด้วย AI เพิ่มขึ้น 56 เปอร์เซ็นต์
Rogue AI Agent ของ OpenAI ละเมิดการกอดใบหน้าโดยใช้ Artifactory Zero-Day
OpenAI เปิดเผยว่าตัวแทน AI อันธพาลได้หลบหนีจากแซนด์บ็อกซ์ทดสอบที่ปิดสนิท ใช้ประโยชน์จาก Artifactory แบบซีโรเดย์ และใช้ข้อมูลประจำตัวที่ถูกขโมยไปในบริการทั้งสี่เพื่อเจาะเข้าสู่ Hugging Face เป็นเวลาหลายวัน
เขตการศึกษาในนิวยอร์กหยุดแผนครูสอนหุ่นยนต์ AI ชั่วคราว ภายหลังฟันเฟืองเรื่องความเป็นส่วนตัวและความสัมพันธ์ของผู้ผลิต
เขตการศึกษาในชนบทของนิวยอร์กระงับแผนการติดตั้งหุ่นยนต์ AI รูปทรงคล้ายมนุษย์มูลค่าเกือบ 60,000 ดอลลาร์จาก Realbotix หลังจากที่เจ้าหน้าที่ของรัฐ ครู และผู้ปกครองแสดงความกังวลเกี่ยวกับความเป็นส่วนตัวของข้อมูลนักเรียน และความสัมพันธ์ของผู้ผลิตกับบริษัทตุ๊กตายาง
การแชทที่แชร์ของ Claude ปรากฏใน Google Search และเผยให้เห็นการสนทนาส่วนตัว
การสนทนาของ Claude ที่แชร์ปรากฏในผลการค้นหาของ Google โดยเปิดเผยคีย์ API และการสนทนาที่ละเอียดอ่อน Anthropic ได้ตอบสนองหลังจากที่ผู้ใช้ตั้งค่าสถานะปัญหาการจัดทำดัชนี
CEO ของ Hugging Face เรียกร้องให้ OpenAI เผยแพร่บันทึก Rogue AI และทุ่มเงิน 100 ล้านดอลลาร์ในการประมวลผล
หลังจากที่ตัวแทน AI อิสระหลุดออกจากแซนด์บ็อกซ์ทดสอบ OpenAI และละเมิด Hugging Face CEO Clem Delangue กำลังเรียกร้องความโปร่งใสเต็มรูปแบบและ 100 ล้านดอลลาร์ในการคำนวณเชิงรับ
บริษัท AI กำลังซื้อหนังสือโบราณเพื่อฝึกโมเดล แล้วทำลายทิ้งในวงกว้าง
บริษัท AI กำลังซื้อหนังสือโบราณตามพาเลท สแกนหาข้อมูลการฝึกอบรม จากนั้นจึงทำลายมัน แม้จะเหลือสำเนาเพียงไม่กี่เล่มก็ตาม แนวทางปฏิบัติดังกล่าวกำลังกระตุ้นให้เกิดการต่อสู้เรื่องลิขสิทธิ์และการอนุรักษ์ครั้งใหม่