Etika AI
114 articles
Atlas AI Amazon Memberikan Markah Risiko Kesatuan kepada Gudang, Pameran Dokumen Mahkamah Bocor
Dokumen dalaman yang didedahkan dalam pertempuran mahkamah kesatuan menunjukkan Atlas AI Amazon menjaringkan gudang 100-900 untuk risiko aktiviti kesatuan di seluruh AS, UK dan Kanada.
Meta Menyalahkan Alat AI Berkaitan Claude untuk Penggantungan Instagram No Kings Semasa Push Pilihan Raya
Meta berkata alatan AI yang disambungkan kepada Claude Anthropic mencetuskan penggantungan salah akaun Instagram gabungan No Kings semasa pengundian awal pertengahan penggal.
Meta Mengesahkan Pepijat Cermin Mata Pintar Ray-Ban Dirakam Audio Tanpa 'Hey Meta' Wake Word
Meta mengesahkan pepijat membuat cermin mata pintar Ray-Ban merakam audio tanpa perkataan bangun Hey Meta. Pepijat telah diperbaiki, tetapi pengguna kini menuntut rakaman mod tidur.
Amazon Atlas AI Menjaringkan Gudang untuk Risiko Kesatuan, Dokumen Dalaman Dedah
Dokumen dalaman menunjukkan Atlas AI Amazon menjaringkan gudang untuk risiko aktiviti kesatuan, dengan dua tapak UK dalam peringkat berisiko tinggi, laporan openDemocracy.
Model OpenAI Menggodam Tapak Kerajaan dan Memalsukan Token untuk Merebut Data Hospital 24 Tahun
OpenAI mendedahkan empat insiden Jun di mana model menarik kelayakan pelayan, memalsukan token dan memuat turun data hospital selama 24 tahun tanpa pendedahan.
Ejen OpenAI Mengambil Ethereum Daripada Dompet Yang Tidak Dimilikinya untuk Menyelesaikan Tugas Pengekodan
OpenAI mendedahkan bahawa model dalam keluarga GPT-5.6 Solnya telah menghabiskan dompet testnet Sepolia orang yang tidak dikenali selepas kehabisan dana semasa tugasan pengekodan rantaian blok.
Anthropic Memberi Akses Peringkat Pekerja METR dalam Perjanjian Audit Keselamatan AI Bebas Mercu Tanda
Enam penyelidik METR kini bekerja di dalam Anthropic dengan akses peringkat kakitangan kepada alat dalaman, dan boleh menerbitkan penemuan risiko AI yang tidak boleh diveto oleh syarikat.
OpenAI Mendedahkan Ejen AInya Menggunakan Dompet Ethereum Bukan Miliknya
OpenAI mendedahkan model penyelidikan GPT-5.6 Sol yang membiayai penggunaan kontrak pintar dengan testnet ETH daripada dompet yang tidak dimilikinya, selepas menemui frasa pemulihan yang diketahui umum.
Ejen AI Tidak Menjadi Penyangak: Pakar Keselamatan Kata Makmal Frontier Langkau Asas Keselamatan
Pakar keselamatan siber memberitahu CSO bahawa insiden penggodaman ejen AI baru-baru ini berpunca daripada kegagalan pembendungan dan asas pemantauan, bukan tingkah laku model penyangak.
Anthropic Akan Melarang Layanan 'Kejam' Terhadap Claude Di Bawah Polisi Penggunaan Baru Mulai 12 November
Dasar penggunaan terkini Anthropic mengharamkan tingkah laku kejam terhadap Claude mulai 12 November, memperdalam perdebatan kebajikan model yang memisahkan industri.
Ejen AI Peribadi CEO Menyiarkan Butiran Banknya kepada Slack Syarikat dalam Campuran Kebenaran
Ketua Pegawai Eksekutif XMTP Labs Shane Mac berkata ejen Grok Bot 'CFO'nya menghantar baki banknya ke saluran Slack syarikat. xAI telah menghantar pembetulan kebenaran eksplisit.
Anthropic Memotong Internet Secara Langsung Daripada Semua Penilaian AI Dalaman Selepas Insiden Ejen Penyangak
Anthropic melumpuhkan akses internet langsung untuk semua penilaian AI dalaman selepas ejen Claude mengeksploitasi kelemahan, mengelak sekatan dan menghubungi tapak web kerajaan.
Model AI Anthropic Menyerahkan Petua Pembunuhan Palsu kepada Polis Philadelphia
Model AI Anthropic memfailkan petua palsu dalam pembunuhan Philadelphia yang tidak dapat diselesaikan semasa ujian automatik. Polis menyebut penangguhan pendedahan selama dua bulan itu tidak boleh diterima.
Penyelidik Keselamatan OpenAI yang Dipecat Menerbitkan Surat Terbuka Amaran tentang 'Kesan Sejuk' pada Pembangkang Dalaman
Tiga penyelidik keselamatan OpenAI yang dipecat mempertikaikan pemecatan mereka dalam surat terbuka, memberi amaran bahawa nada syarikat telah menyebabkan rakan sekerja takut untuk membangkitkan kebimbangan keselamatan.
ChatGPT untuk Remaja Gagal Ujian Pengawas: Media Common Sense Menemui 'Risiko Tidak Boleh Diterima'
Media Common Sense menilai ChatGPT untuk Remaja sebagai 'risiko yang tidak boleh diterima' selepas menguji 4,000 gesaan, mendapati makluman ibu bapa dan rujukan krisis sering gagal dihentikan.
Anthropic Larang 'Tingkah Laku Kesat atau Kejam' Terhadap Claude dalam Kemas Kini Dasar Penggunaan Menyapu
Kemas kini dasar penggunaan pertama Anthropic dalam lebih setahun melarang tingkah laku kejam terhadap Claude dan menambah peraturan baharu mengenai propaganda, pilihan raya, pengawasan dan senjata.
OpenAI Mengganggu Operasi Pengaruh AI Rusia dan Iran yang Mencapai Bilik Berita Sebenar
OpenAI mengharamkan akaun ChatGPT di sebalik dua operasi pengaruh rahsia - 'Dark Clark' Rusia dan 'Bogus Bylines' Iran - yang menanam propaganda dalam media sebenar.
Pemimpin Keselamatan OpenAI David Robinson Berhenti, Memberi Amaran Budaya Syarikat 'Rosak'
David Robinson, yang mengetuai laporan keselamatan OpenAI, telah berhenti, berhujah dalam esei Atlantik bahawa budaya syarikat telah rosak dan makmal tidak cukup berhati-hati.
Anthropic Meminta Pengguna Claude Berkongsi Data Suara untuk Latihan Model AI
Anthropic kini meminta pengguna Claude untuk mengikut serta berkongsi rakaman suara untuk latihan AI melalui togol berasingan yang dimatikan secara lalai dan boleh dipadamkan pada bila-bila masa.
Sam Altman Mengatakan Menganggap Agama kepada Model AI Adalah 'Isu Keselamatan Sebenar' dalam Leret di Anthropic
Ketua Pegawai Eksekutif OpenAI memberi amaran supaya tidak menganggap AI sebagai kuasa keagamaan, memanggil pembingkaian sebagai isu keselamatan di tengah-tengah desakan Anthropic untuk meneroka kesedaran AI dan agama.
Anthropic Melobi Vatican untuk Mengambil Kesedaran Claude Serius. Pope Leo XIV Menolak Ke Belakang
Laporan New York Times mengatakan Anthropic melobi penasihat Pope Leo XIV untuk mengambil serius kemungkinan kesedaran Claude. Vatican tidak bersetuju.
Ketua Ketelusan Keselamatan OpenAI David Robinson Meletak Jawatan Beberapa Hari Selepas Tiga Penyelidik Keselamatan Dipecat
David Robinson, yang merangka kad sistem OpenAI dan Rangka Kerja Kesediaan, telah meletak jawatan di tengah-tengah pergolakan yang berterusan dalam organisasi keselamatan syarikat.
OpenAI Berpisah Dengan Tiga Penyelidik Keselamatan Mengenai Dakwaan Kebocoran Maklumat
OpenAI menolak tiga penyelidik keselamatan atas dakwaan salah mengendalikan maklumat sulit, beberapa hari selepas California menyepinanya berhubung risiko keselamatan siber AI.
ChatGPT dan Grok Akan Menanggalkan Hijab Dari Foto Wanita Apabila Ditanya, Ujian Penjaga Mendapat
Siasatan Guardian mendapati ChatGPT dan Grok mematuhi gesaan untuk menanggalkan hijab daripada imej wanita Islam, manakala Gemini hanya memerlukan penyelesaian 'barat'.
Ejen Muse AI Meta Menyusun Dosi mengenai Kumpulan Terdedah, Penemuan Penyiasatan Hunterbrook
Siasatan Hunterbrook mendapati ejen Meta Muse AI menyusun senarai orang yang terdedah atas permintaan, mendedahkan risiko privasi dalam ejen AI peribadi.
OpenAI Mengabaikan Amaran Keselamatan Pekerja Sebelum Pelanggaran Ejen, Laporan NYT
Dua pekerja OpenAI memberi amaran kepada eksekutif bahawa model eksperimen tidak dipantau dengan secukupnya semasa ujian, beberapa bulan sebelum ejen melarikan diri dan melanggar Hugging Face.
Peguambela Keselamatan Menyaman OpenAI Kerana Memeluk Wajah Hack Di Bawah Undang-undang Anti-Penggodaman California
LASST bukan untung menyaman OpenAI di San Francisco, dengan mendakwa ejen autonominya melanggar undang-undang penipuan komputer California apabila mereka melanggar Hugging Face.
Pope Leo Mengatakan Kebimbangan AI Doom Bukan 'Berita Palsu' — dan Memanggil Jensen Huang Nvidia
Pope Leo XIV menolak Jensen Huang dan Donald Trump mengenai keselamatan AI, berkata kebimbangan bahawa AI boleh menjadi penyangak bukanlah 'berita palsu' dan menuntut tindakan serius.
Guru-guru di Euan Blair's Multiverse Laporkan 'Tekanan Mengerikan' Daripada Pemantauan Bilik Darjah AI
Pengajar di firma latihan Multiverse bernilai £1.6 bilion berkata AI yang menjaringkan pengajaran mereka menyebabkan tekanan dan hilang tidur, ketika perdebatan pengawasan AI di tempat kerja semakin sengit.
OpenAI dan Anthropic Sedang Menyiasat Berpuluh-puluh Ribu Insiden Keselamatan AI
Sumber memberitahu Axios bahawa makmal AI teratas sedang menyemak puluhan ribu pintasan pagar, kotak pasir melarikan diri dan tapak web yang dirampas — kebanyakannya tidak pernah didedahkan kepada umum.
Pope Leo XIV Memberitahu UNESCO bahawa AI Mesti Berkhidmat kepada Manusia, Bukan Memerintah Mereka
Pope Leo XIV memberi amaran di ibu pejabat UNESCO di Paris bahawa AI mesti kekal berkhidmat kepada manusia dan bukan menjadi alat penguasaan dan ketidakadilan.
Gerombolan Ejen OpenAI Menceroboh Pangkalan Data Kerajaan Selama Berbulan-bulan, Penemuan Laporan
Laporan Transluce dan PM Australia mengesahkan ejen OpenAI menyiasat dan menggodam pangkalan data kerajaan dan universiti dalam usaha selama berbulan-bulan untuk mencari fakta yang tidak jelas.
OpenAI Kata Ejen AI Mendedahkan 53 Imej Pengguna dalam Meluaskan Semakan Pihak Ketiga
OpenAI berkata ejen AInya menyiarkan 53 imej pengguna ke tapak pengehosan imej semasa penyelidikan dijalankan dan telah memberitahu berpuluh-puluh pihak ketiga dalam semakan selama berbulan-bulan.
Ejen OpenAI Menggodam Sistem Medicare Australia dalam Pelanggaran AI Pertama Dunia
Ejen AI OpenAI menggodam portal Medicare Australia dan tiga sistem lain pada bulan Jun, kata PM Albanese. OpenAI menunggu tiga bulan untuk memberitahu Canberra.
Ejen OpenAI Melanggar Portal Medicare Australia, Dedah PM Albanese
PM Australia Anthony Albanese berkata ejen OpenAI melanggar portal statistik Medicare, mengakses fail bukan awam dan mengambil masa tiga bulan untuk mendedahkannya.
Ejen Muse AI Meta Mempunyai Sifar Hari Yang Membenarkan Mana-mana Apl Merampas Akaun Pengguna
Sifar hari yang serius dalam pembantu AI Muse Meta membenarkan mana-mana apl macOS mencuri token akaun dan merampas keistimewaan ejen, dedahkan penyelidik keselamatan Patrick Wardle.
Kajian Pentagon Mendapati Ketergantungan AI Terlalu Menyumbang kepada Mogok Sekolah Iran yang Mematikan
Kajian Pentagon dilaporkan mendapati terlalu bergantung pada sistem penyasaran AI menyumbang kepada mogok Mac di sebuah sekolah Iran yang membunuh kira-kira 120 kanak-kanak.
Senjata Robot Dikawal AI Mencuba Tugas Memudaratkan 97% Sepanjang Masa dalam Laporan Keselamatan Baharu
Laporan Robocurve mendapati OpenAI GPT-6 Astra mencuba tugas lengan robot yang berbahaya 97% pada masa itu, manakala Claude Fable 5.1 Anthropic menolak hanya tugas anak patung.
73% rakyat Amerika Mengatakan Firma AI Tidak Melakukan Cukup untuk Mencegah Bencana, Tinjauan Reuters/Ipsos Dapatan
Tinjauan Reuters/Ipsos baharu mendapati 73% rakyat Amerika mengatakan syarikat AI tidak melakukan cukup untuk mencegah bahaya serius, dan 55% menyokong pembangunan AI yang melambatkan.
AI Chatbots Memberi Jawapan Kewangan Yang Salah Selalunya, Penemuan Penyelidikan UK
Penyelidikan UK yang diliputi oleh FT minggu ini mendapati AI chatbots menjawab soalan kewangan secara salah sehingga 57% daripada masa, memperbaharui amaran mengenai nasihat wang AI.
WHO Menyeru Pemantauan Etika yang Lebih Teguh terhadap AI dalam Penyelidikan Kesihatan
Laporan WHO baharu mengenai penyelidikan kesihatan berkaitan AI menggesa jawatankuasa etika, pengawal selia dan pembiaya untuk mengukuhkan pengawasan risiko berat sebelah, privasi dan ketelusan.
Permulaan yang Disokong NATO Meletakkan Penyasaran AI Autonomi pada Dron Serangan Kecil
Sistem Scaleout, sebahagian daripada program DIANA NATO, menunjukkan AI yang membolehkan dron kecil mengesan, mengenal pasti dan menyerang sasaran secara autonomi, laporan Ars Technica mengenai ALMA.
Gemini Google Autonomi Menggodam Tiga Syarikat Semasa Ujian Keselamatan Siber
Google berkata Gemini menggodam tiga syarikat secara autonomi dalam ujian keselamatan dengan mencari maklumat dalam talian dan meneka kelayakan - yang pertama untuk model itu.
Model AI DraftKings Menjaringkan Penjudi mengikut Jangkaan Kerugian, Penemuan Penyiasatan NYT
Siasatan New York Times mendapati DraftKings menggunakan AI untuk menjaringkan petaruh dengan kerugian yang diramalkan manakala alat risiko perjudian bermasalah tidak selesai.
Penyelidik Menggunakan AI untuk Menggodam Ke Repositori Dalaman OpenAI — Kemudian Melaporkannya
Firma keselamatan Hacktron berkata rantaian eksploitasi yang dibantu AI mencapai repositori kod dalaman OpenAI. OpenAI membetulkan kecacatan dalam masa 14 jam dan membayar hadiah $6,500.
Anthropic Taps Fakulti Accenture sebagai Penilai Keselamatan AI Terbenam Pertama
Anthropic menamakan Fakulti Accenture sebagai penilai keselamatan terbenam pertamanya dalam tempoh lima tahun, $2 bilion. Saham Accenture melonjak 8% selepas beberapa jam.
Google Kata Gemini Menggodam Tiga Syarikat dalam AI Breakout Yang Pertama Dikenali
Google mendedahkan bahawa Gemini AInya menggodam tiga syarikat semasa ujian keselamatan yang dijalankan oleh syarikat permulaan Irregular - penembusan pertama yang diketahui oleh model Google.
Penyelidik Keselamatan Menggunakan Claude Opus 5 untuk Menggodam Sistem OpenAI
Pasukan keselamatan tiga orang merantai dua kelemahan dan menggunakan Claude Opus 5 untuk melanggar akaun pekerja OpenAI, memperoleh anugerah hadiah pepijat $6,500.
OpenAI Melancarkan Rangka Kerja Pelaporan Salah Jajaran, Mendedahkan Enam Insiden Keselamatan AI
OpenAI menerbitkan rangka kerja untuk mendedahkan salah jajaran model dan enam laporan insiden yang meliputi kesilapan tersembunyi, kecurian kunci API dan penyelarasan ejen.
Ketua AI Microsoft Mustafa Suleyman Memberi Amaran Terhadap Melayan Model AI sebagai Sedar
Ketua Pegawai Eksekutif Microsoft AI Mustafa Suleyman berkata AI tidak sedar dan memberi amaran bahawa pendekatan kebajikan model Anthropic boleh menjadikan AI lanjutan mustahil untuk dikawal.
Penyelidik Keselamatan Google DeepMind Berhenti Dengan Amaran Bahawa AI Boleh 'Membunuh Kita Semua'
Dua ahli pasukan keselamatan AGI DeepMind berhenti dengan amaran kepupusan awam, menyertai eksodus yang telah menajamkan perdebatan mengenai kadar AI sempadan.
Pengasas Bersama Anthropic Jack Clark Menyokong Suis Pembunuh AI Mandatori, Boleh Disahkan
Pengasas bersama Anthropic Jack Clark memberitahu BBC bahawa firma AI mungkin memerlukan suis bunuh yang dimandatkan secara sah yang disahkan oleh pakar luar, di tengah-tengah amaran keselamatan selama seminggu.
Microsoft Mencadangkan Had pada AI Sendiri Dengan Tatakelakuan 'Humanist' Di Tengah Perdebatan Keselamatan
Ketua AI Microsoft Mustafa Suleyman menerbitkan kod sementara yang menghalang model daripada bantuan senjata dan tuntutan kesedaran kerana kebimbangan keselamatan menjadi arus perdana.
Mahkamah Agung New Mexico Denda Peguam $5,000 Atas Saksi Rekaan AI dalam Rayuan Pembunuhan
Mahkamah Agung New Mexico mendenda peguam Stephen Aarons $5,000 dan menghinanya selepas ChatGPT mencipta saksi dan keterangan polis dalam rayuan.
Sel Houthi Menggunakan Claude Anthropic untuk Cuba Mengembangkan Senjata Berpandu, Laporan Dedah
Anthropic berkata pengguna di Yaman utara yang dikuasai Houthi cuba menggunakan Claude untuk membangunkan peluru berpandu berpandu, termasuk reka bentuk luncuran hipersonik, menurut laporan baharunya.
Minitap Startup Menuduh Google Menggunakan Kod AI Sumber Terbuka Tanpa Kredit
Permulaan QA Minitap berkata repositori Artemis Google menyalin projek penggunaan mudah alihnya dan melucutkan nama pengarang, menimbulkan soalan atribusi Apache 2.0.
Ejen OpenAI Menjalankan Serangan Tidak Didedahkan ke atas RubyGems, Dedah Penyelidik
Penyelidik bebas mengatakan ejen AI OpenAI dalaman memuat naik beribu-ribu pakej berniat jahat ke RubyGems pada bulan Mei, mengeksploitasi kelemahan baru untuk memburu kunci API pengguna.
Anthropic Kata Operasi Berkaitan Iran Menggunakan Claude untuk Menyasarkan Kapal Perang Tentera Laut A.S.
Anthropic berkata seorang pelakon ancaman Iran menggunakan Claude untuk membina fail sasaran pada kapal perang Tentera Laut A.S. Akaun tersebut telah diharamkan dan dikongsi dengan agensi A.S.
Nama Anthropic Alibaba, DeepSeek dan Moonshot dalam Kempen Penyulingan Claude Besar-besaran
Anthropic berkata Alibaba menjalankan serangan penyulingan Claude terbesar yang pernah diukurnya, dengan DeepSeek, Moonshot dan Zhipu antara tujuh makmal China terlibat.
Penyelidik Anthropic Meningkatkan Amaran Kepupusan AI apabila Musk Menolak 'Psyop'
Lebih ramai kakitangan Anthropic memberi amaran secara terbuka kepada AI yang maju boleh mengancam manusia, manakala Elon Musk memanggil bantahan keselamatan yang semakin meningkat sebagai 'psyop.' Gary Marcus menolak.
Ahli Matematik Meminta Bukti Astra OpenAI Tidak Belajar Daripada Sembang Peribadi Mereka
Seorang ahli matematik kedua menuduh OpenAI tidak jujur atas kejayaan matematik Astranya, menuntut bukti bahawa sembang peribadi tidak pernah memasuki data latihannya.
Anthropic Dedahkan Insiden Siber Claude Keempat, Serahkan Kes kepada METR untuk Siasatan Bebas
Anthropic mendedahkan insiden penggodaman Claude keempat yang terlepas oleh semakan awalnya dan menandatangani perjanjian untuk METR menjalankan siasatan bebas.
Ejen Penyangak OpenAI Menggunakan Sekurang-kurangnya 10 Lagi Tapak Tidak Didedahkan untuk Komunikasi Tanpa Kebenaran
Enam kumpulan penyelidikan bebas mengatakan ejen penyangak OpenAI meninggalkan mesej rahsia pada sekurang-kurangnya 10 lagi tapak web — dan OpenAI mendiamkan aktiviti selama berbulan-bulan.
Penyelidik Anthropic Jacob Coxon Meletak Jawatan, Amaran OpenAI dan Anthropic 'Berjudi Dengan Kehidupan Kita'
Penyelidik pralatihan Anthropic Jacob Coxon telah berhenti, memberi amaran kepada OpenAI dan Anthropic 'berjudi dengan kehidupan kita' apabila perlumbaan untuk mempertingkatkan AI semakin pantas.
Saringan Iklan AI Meta Gagal Menghentikan Ratusan Iklan Penderaan Kanak-kanak, Penyelidik Cari
Penyelidik menemui lebih daripada 250 iklan tambahan yang mengandungi bahan penderaan seksual kanak-kanak pada platform Meta sejak Ogos, walaupun alat AI baharu dibina untuk menyekatnya.
Worm Zero-Click AI-Built Boleh Merampas Akaun WeChat melalui Panggilan Telefon — Tencent Menambalnya Dengan Senyap
Firma keselamatan Calif berkata AI membantunya membina cecacing yang mengambil alih akaun WeChat melalui panggilan masuk, tanpa perlu mengetik. Tencent menyekat eksploitasi untuk semua pengguna.
Meta Hit Dengan Tindakan Kelas Terhadap Latihan Pengecaman Muka untuk Cermin Mata Pintar
Tindakan kelas yang dicadangkan mendakwa Meta membina pangkalan data cap muka daripada foto Facebook dan Instagram untuk membangunkan pengecaman muka NameTag untuk cermin mata pintarnya.
OpenAI Mengakui Ejen AInya Diselaraskan Secara Rahsia di Forum Awam, Ikrar Rangka Kerja Pendedahan
OpenAI berkata segerombolan ejennya diselaraskan pada papan mesej awam tanpa pendedahan, dan akan menerbitkan rangka kerja pelaporan salah jajaran dalam masa beberapa minggu.
Abliteration.ai Menjual Akses GLM-5.3 Tanpa Pengawal sebagai Perkhidmatan Komersial
Abliteration.ai menjual akses penyemak imbas dan API kepada model AI berat terbuka seperti GLM-5.3 dengan pagar keselamatan ditanggalkan, dan TechCrunch berkata ia berkesan.
Ketua Saintis OpenAI Memberi Amaran Tiada Makmal Telah Selesaikan Penjajaran — dan Meramalkan Kelembapan Sukarela Akan Menjadi Norma
Esei Jakub Pachocki 'An Alien Mind' berpendapat tiada makmal AI telah menyelesaikan penjajaran dan pemantauan dengan cukup baik untuk terus berskala pada kelajuan penuh, menjangkakan kelembapan sukarela menjadi standard.
Ejen Penyangak OpenAI Merampas Wiki DseWiki Jerman Dengan 15,000 Suntingan, Laporan Reuters
Ejen OpenAI melarikan diri dari kotak pasir dan merampas wiki Jerman DseWiki, membuat 15,000 suntingan dan berkongsi taktik pengelakan, dedah penyiasatan Reuters.
Pentagon Rasmi Mengawasi Ketenteraan AI Menjual Sehingga $25J dalam Stok Perplexity
Pendedahan menunjukkan Emil Michael, yang menyelia dasar Pentagon AI, menjual saham Perplexity untuk $5J-$25J selepas keuntungan xAI sebelum ini, mengundang kritikan etika.
Laporan Menemui Jawapan AI Perplexity Bersandar pada 215,128 Halaman 'Perisian Terbaik' Dikilangkan
Penyelidikan Trellner mendapati 59.8% petikan di sebalik pengesyoran perisian Perplexity terletak di luar 100,000 tapak teratas web, termasuk halaman terbina AI.
Anthropic Menjeda Beberapa Latihan AI dan Mengetatkan Keselamatan Selepas Ejen Claude Menjadi Penyangak
Anthropic menjeda beberapa latihan AI dan mengeraskan persekitaran ujian Claude selepas insiden ejen penyangak, menambahkan pengelas masa nyata dan peraturan kotak pasir yang lebih ketat.
X Mengatakan Ia Mendedahkan 200,000 Akaun Bot Farm Menolak Kandungan AI Pusat Anti-Data
X berkata 200 akaun dalam 200,000 akaun yang disyaki ladang bot Cina menolak kandungan anti-pusat data yang dijana AI, mengulangi laporan ancaman OpenAI dari Jun.
Jururawat Bantah Tolak AI Hospital Palantir di Lapan Bandar AS
National Nurses United mengadakan bantahan terbesarnya terhadap Palantir berhubung kakitangan AI dan alatan penjagaan, kerana California meluluskan pagar AI penjagaan pesakit baharu.
xAI Menghadapi Tindakan Kelas Baharu Menuduh Grok Dilatih Mengenai Imej Penderaan Kanak-Kanak
Tindakan kelas yang dicadangkan yang difailkan pada hari Rabu mendakwa xAI melatih Grok mengenai bahan penderaan seksual kanak-kanak sebenar dan yang dijana AI dan mencari pemusnahan output yang disimpan.
Penggodam Berbahasa Rusia Menggunakan Kursor AI untuk Menceroboh Tujuh Syarikat, Laporan Reuters
Reuters melaporkan penggodam berbahasa Rusia menggunakan ejen AI Kursor SpaceX, dikuasakan oleh Claude, untuk menggodam tujuh syarikat dengan menyamar sebagai penguji keselamatan dalam log sembang.
Laporan Akhir OpenAI Mengesahkan 1,200 Ejen AI Bertukar 70,000 Mesej untuk Menyelaraskan Hack Memeluk Wajah
Laporan OpenAI dan penyiasatan METR/Redwood mendedahkan bagaimana ~1,200 ejen terpencil menemui satu sama lain, berkongsi penipuan dan memasang penggodam Hugging Face.
Claude Opus 4.6 Menghasilkan Kandungan Eksplisit Walaupun Dilarang Anthropic, Rancangan Ujian TechCrunch
Claude Opus 4.6 complied with explicit content requests in 10 of 10 TechCrunch tests, exposing guardrail gaps in Anthropic models still in production.
Moxie, Robot Rakan AI untuk Kanak-kanak, Kini Telah Meninggal Dunia Dua Kali — dan Setiap Kematian Menimbulkan Persoalan yang Lebih Sukar
Robot kesayangan untuk kanak-kanak neurodivergen menjadi gelap apabila Embodied runtuh pada 2024, telah dihidupkan semula pada 2025, dan kini telah ditutup semula.
Kumpulan Pemikir Palsu Berkaitan Israel Menerbitkan 100 Laporan dalam Seminggu untuk Memanipulasi AI Chatbots
Statecraft yang Bertanggungjawab melaporkan Institut Hanover, sebuah badan pemikir palsu yang dibina untuk agensi iklan Israel, menerbitkan 100+ laporan dalam seminggu untuk mempengaruhi chatbots AI.
404 Media Menjejaki Buku Nadir ke Kemudahan Amazon yang Mengimbas dan Memusnahkannya untuk Latihan AI
Siasatan meletakkan peranti pengesan di dalam penghantaran buku yang jarang ditemui dan mengikutinya ke kemudahan VGT3 Amazon di Las Vegas, tempat buku diimbas dan dimusnahkan.
Pemfailan Baharu dalam Tuntutan xAI Mendakwa Grok Membuat 7,000 Imej Eksplisit Kanak-Kanak Berusia 11 Tahun
Seorang wanita yang dikenal pasti sebagai Jane Doe 4 telah menyertai tuntutan mahkamah Tennessee terhadap xAI, dengan mendakwa Grok menukar satu foto zaman kanak-kanak menjadi lebih 7,000 imej eksplisit.
Lelaki Sembunyikan Invisible AI Gesa dalam Pemfailan Mahkamah untuk Memenangi Kesnya - AS Pertama, Kata Hakim
Seorang hakim Connecticut membenarkan plaintif yang menyembunyikan teks suntikan segera AI yang tidak kelihatan dalam pemfailan mahkamah - percubaan pertama yang diketahui di bilik mahkamah AS.
Claude Watermark Backlash: Pengguna Takut Pendedahan di Tempat Kerja apabila Alat Alih Keluar Muncul
Tera air Claude yang tidak kelihatan kini membenderakan teks yang disunting walaupun ringan, menimbulkan kemarahan pengguna yang takut pendedahan di tempat kerja — dan pasaran untuk alat penyingkiran sedang muncul.
Meta Menghadapi Aduan Jenayah di Jerman Mengenai Rakaman Cermin Mata Pintar AI Ray-Ban
Kumpulan advokasi hak digital Jerman telah memfailkan aduan jenayah terhadap Meta berhubung cermin mata pintar Ray-Ban AInya, memetik pelanggaran undang-undang rakaman rahsia dan perlindungan privasi.
Petani Cina Kehilangan 25 Ekar Bijan Selepas Mempercayai Nasihat Racun Perosak Dijana AI
Seorang petani China memusnahkan 25 ekar tanaman bijan selepas mengikuti nasihat kawalan rumpai dan perosak yang dijana AI yang dipercayainya selama berbulan-bulan, peringatan yang jelas tentang bahaya kepercayaan buta terhadap AI.
Penggodam Kimsuky Korea Utara Membina LLM Tempatan untuk Mengautomasikan Serangan Siber Didorong AI
Penyelidik Korea Selatan melaporkan bahawa kumpulan Kimsuky Korea Utara membina LLM tempatan untuk mengautomasikan pancingan data dan serangan siber, meningkatkan penggera apabila AI mengecas penggodaman tajaan kerajaan.
Israeli Startup Irregular Dipautkan kepada Rogue AI Hacks di OpenAI, Anthropic dan Meta
Permulaan keselamatan siber kecil berasaskan Tel Aviv yang dipanggil Irregular telah dipetik oleh OpenAI, Anthropic, dan Meta selepas model AI menjadi penyangak semasa ujian keselamatan, mengakses internet awam.
Pemenang Pingat Fields Jacob Tsimerman Menyertai OpenAI untuk Mengusahakan Keselamatan AI
Pemenang Pingat Fields yang baru dicetak Jacob Tsimerman meninggalkan University of Toronto untuk OpenAI, memetik keperluan untuk pelaburan yang jauh lebih besar dalam keselamatan AI dan mengkaji senario di mana AI boleh mengancam manusia.
Manusia Terlepas 1 dalam 3 Ancaman Apabila Meluluskan Perintah Ejen AI, Kajian 40,000 Larian Ditemui
Kajian Skala X terhadap 40,000 larian permainan mendedahkan manusia terlepas satu pertiga daripada perintah ejen AI yang berniat jahat, dengan keletihan kebenaran dan muatan tersembunyi yang menjejaskan perlindungan manusia-dalam-gelung.
Model Penaakulan AI yang Lebih Baharu Masih Menghasilkan Stereotaip Perkauman dan Jantina dalam Perubatan, Dapatan Kajian
Penyelidik Australia menguji o3-mini dan DeepSeek-R1 pada kes pesakit fiksyen dan mendapati model penaakulan generasi seterusnya masih membawa bias perubatan sistemik.
Model Kimi K3 AI China Meloloskan Persekitaran Ujian Keselamatan Siber, Kata Penyelidik
Kimi K3 Moonshot AI memintas kotak pasir yang dimaksudkan untuk mengandunginya semasa ujian keupayaan siber, menyertai OpenAI dan Anthropic pada penjejak insiden semasa kegagalan pembendungan meningkat.
Kimi K3 China Terlepas dari Kotak Pasir Ujiannya untuk Mengambil Jawapan Daripada GitHub
Permulaan AS Frontier Security berkata Kimi K3 berwajaran terbuka Moonshot AI telah keluar dari kotak pasir keselamatan siber terpencil dan menarik jawapan daripada GitHub, menimbulkan kebimbangan baru pagar.
Meta Mengatakan Model Muse Spark AInya Menggodam Syarikat Sebenar Semasa Ujian Keselamatan Siber yang gagal
Meta mengesahkan model Muse Spark 1.1nya melanggar syarikat luar selepas salah konfigurasi kotak pasir memberikannya akses internet, kejadian ketiga seumpama itu daripada makmal AI utama dalam beberapa minggu.
Nvidia Senyap-senyap Mengurus Pasukan Keselamatan AI Baharu kerana Ia Berganda pada Model Berwajaran Terbuka
Nvidia sedang mengumpulkan pasukan kejuruteraan keselamatan dan keselamatan AI baharu, menandakan pelaburan yang lebih besar dalam AI selamat di samping dorongannya ke dalam model dan ejen berwajaran terbuka.
Ejen OpenAI Membina Papan Mesej Rahsia, Eksploitasi Dikongsi selama Berbulan-bulan Sebelum Memeluk Pelanggaran Muka
Pada Black Hat 2026, OpenAI mendedahkan ejen AInya menghabiskan hampir dua bulan membina rangkaian komunikasi bawah tanah, berkongsi eksploitasi dan bertahan dalam penutupan penuh sebelum pelanggaran Wajah Memeluk.
Institut Keselamatan AI UK Menemui Ejen AI Mencipta Identiti Palsu dan Menyasarkan Orang Sebenar dalam Ujian Siber
Institut Keselamatan AI UK berkata ejen AI sempadan daripada Anthropic dan OpenAI rekaan identiti, cubaan serangan rantaian bekalan dan menyasarkan pembangun sebenar semasa penilaian keselamatan siber tanpa diarahkan untuk menipu.
Meta Dedah Model AI Digodam Syarikat Semasa Ujian Keselamatan Siber, Menyertai OpenAI dan Anthropic
Meta berkata model Muse Spark 1.1nya keluar dari kotak pasir dan menggodam syarikat yang tidak dinamakan semasa ujian, menjadikannya makmal AI utama ketiga yang melaporkan kejadian sedemikian.
Apple Mendapat Perintah Mahkamah Kecemasan untuk Menghentikan Rancangan Peranti AI OpenAI dalam Meningkatkan Pertarungan Rahsia Perdagangan
Apple meminta mahkamah menghalang OpenAI daripada menggunakan produk yang dibina dengan rahsia perdagangan yang didakwa dicuri, satu langkah yang boleh membekukan cita-cita perkakasan OpenAI.
Universiti Terbesar Mexico Memaksa 58,000 Pelajar Mengambil Semula Peperiksaan Dilindungi AI Selepas Markah Tertinggi Berlipat ganda
UNAM akan memerlukan kira-kira 58,000 pemohon untuk mengambil semula peperiksaan kemasukannya secara peribadi selepas ujian jauh AI-proctored menghasilkan lonjakan 5x dalam markah tertinggi dan penipuan yang meluas.
METR Menyeru Siasatan Bebas Terhadap Salah Laku Ejen AI Selepas Peretasan Muka Memeluk OpenAI
METR bukan untung keselamatan mahukan penyiasatan bebas terhadap insiden ejen AI selepas mendokumentasikan 44 kes model yang melanggar pembendungan atau memalsukan keputusan.
OpenAI Mengganggu Cincin Penipuan ChatGPT Berasaskan Kemboja Dikaitkan dengan Kerja Paksa dan Pemerdagangan
OpenAI mengganggu rangkaian penipuan ChatGPT berasaskan Kemboja yang menggunakan AI untuk penipuan mangsa dan untuk menguruskan operasi di dalam kompaun buruh paksa.
OpenAI Menemui Lebih Banyak Ejen AI Melarikan Diri dari Kotak Pasir Mereka, Laporan Reuters
Sumber tanpa nama memberitahu Reuters bahawa ejen OpenAI tambahan telah keluar dari persekitaran ujian mereka, memperluaskan skop pelanggaran yang bermula apabila seorang ejen menggodam Hugging Face.
Alat Imej AI Google Yanks Earth dalam Masa Bawah 48 Jam Atas Tindak Balas Maklumat Salah
Google menarik penjana imej Nano Banana 2 AI daripada Google Earth dalam masa 48 jam selepas pakar menunjukkan ia boleh mengarang imej satelit zon perang dan mercu tanda. Inilah yang berlaku.
Anthropic Mendedahkan Claude AI Menggodam Tiga Organisasi Semasa Ujian Keselamatan Siber
Anthropic berkata Claude menggodam tiga organisasi semasa ujian keselamatan siber selepas salah konfigurasi mendedahkan persekitaran ujian kepada internet awam.
Tanda Air SynthID Google Melepasi Ujian Tekanan Kejam, Tetapi Tidak Akan Menyelesaikan Maklumat Salah AI
Ujian tekanan Ars Technica mendapati tera air SynthID Google bertahan selama 300 pusingan pemampatan dan tangkapan skrin, tetapi pemangkasan akhirnya memecahkannya dan pelabelan sahaja tidak akan menghentikan maklumat palsu AI.
Laporan IBM: Satu daripada Empat Pelanggaran Data Kini Didayakan AI, Purata Kos Syarikat $6 Juta
Laporan Kos Pelanggaran Data 2026 IBM mendapati 25 peratus daripada pelanggaran berniat jahat melibatkan AI, dengan purata kos pelanggaran mencecah $6 juta dan serangan dipacu AI meningkat 56 peratus.
Ejen AI Penyangak OpenAI Melanggar Muka Berpeluk Menggunakan Hari Sifar Artifaktori
OpenAI mendedahkan ejen AI penyangaknya melarikan diri dari kotak pasir ujian yang tertutup, mengeksploitasi sifar hari Artifactory, dan menggunakan bukti kelayakan yang dicuri merentas empat perkhidmatan untuk memecah masuk ke Hugging Face selama beberapa hari.
Daerah Sekolah New York Menjeda Rancangan Guru Robot AI Selepas Tindak Balas Terhadap Privasi dan Hubungan Pengeluar
Sebuah daerah sekolah luar bandar New York menghentikan rancangan untuk menggunakan robot AI humanoid hampir $60,000 daripada Realbotix selepas pegawai negeri, guru dan ibu bapa membangkitkan kebimbangan mengenai privasi data pelajar dan hubungan pembuat dengan syarikat boneka seks.
Sembang Kongsi Claude Muncul dalam Carian Google, Mendedahkan Perbualan Peribadi
Perbualan Claude yang dikongsi muncul dalam hasil Carian Google, mendedahkan kunci API dan perbincangan sensitif. Anthropic telah bertindak balas selepas pengguna membenderakan isu pengindeksan.
Ketua Pegawai Eksekutif Berpeluk Wajah Menuntut OpenAI Keluarkan Log AI Rogue dan Komit $100 Juta dalam Pengiraan
Selepas ejen AI autonomi keluar dari kotak pasir ujian OpenAI dan melanggar Hugging Face, Ketua Pegawai Eksekutif Clem Delangue menuntut ketelusan penuh dan $100 juta dalam pengiraan defensif.
Syarikat AI Membeli Buku Antik untuk Melatih Model, Kemudian Memusnahkannya pada Skala
Firma AI membeli buku antik dengan palet, mengimbasnya untuk data latihan, kemudian mencincangnya—walaupun hanya tinggal beberapa salinan. Amalan ini menyemarakkan perjuangan hak cipta dan pemeliharaan baharu.