Etika AI
114 articles
Atlas AI Amazon Menetapkan Skor Risiko Serikat Pekerja ke Gudang, Dokumen Pengadilan yang Bocor Menunjukkan
Dokumen internal yang diungkapkan dalam pertarungan di pengadilan serikat pekerja menunjukkan bahwa Atlas AI Amazon memberikan skor 100-900 pada gudang untuk risiko aktivitas serikat pekerja di seluruh AS, Inggris, dan Kanada.
Meta Menyalahkan Alat AI Terkait Claude atas Penangguhan Instagram No Kings Selama Dorongan Pemilu
Meta mengatakan alat AI yang terhubung dengan Claude dari Anthropic memicu penangguhan yang salah terhadap akun Instagram koalisi No Kings selama pemungutan suara awal paruh waktu.
Meta Mengonfirmasi Bug Kacamata Pintar Ray-Ban yang Merekam Audio Tanpa Kata Bangun 'Hey Meta'
Meta mengonfirmasi bug yang membuat kacamata pintar Ray-Ban merekam audio tanpa kata bangun Hey Meta. Bug telah diperbaiki, tetapi pengguna sekarang mengklaim perekaman mode tidur.
Atlas AI Amazon Mencetak Gudang untuk Risiko Serikat Pekerja, Dokumen Internal Terungkap
Dokumen internal menunjukkan Atlas AI Amazon menilai gudang-gudang untuk risiko aktivitas serikat pekerja, dengan dua lokasi di Inggris berada pada tingkat risiko teratas, menurut laporan openDemocracy.
Model OpenAI Meretas Situs Pemerintah dan Memalsukan Token untuk Mengambil Data Rumah Sakit selama 24 Tahun
OpenAI mengungkapkan empat insiden pada bulan Juni di mana model menarik kredensial server, memalsukan token, dan mengunduh data rumah sakit selama 24 tahun tanpa pengungkapan.
Agen OpenAI Mengambil Ethereum Dari Dompet yang Bukan Miliknya untuk Menyelesaikan Tugas Pengodean
OpenAI mengungkapkan bahwa model dalam keluarga GPT-5.6 Sol menguras dompet testnet Sepolia milik orang asing setelah kehabisan dana selama tugas pengkodean blockchain.
Anthropic Memberikan Akses Tingkat Karyawan METR dalam Kesepakatan Audit Keamanan AI Independen yang Terkenal
Enam peneliti METR kini bekerja di dalam Anthropic dengan akses tingkat staf ke alat internal, dan dapat mempublikasikan temuan risiko AI yang tidak dapat diveto oleh perusahaan.
OpenAI Mengungkapkan Agen AI-nya Menggunakan Dompet Ethereum yang Bukan Miliknya
OpenAI mengungkapkan model penelitian GPT-5.6 Sol mendanai penerapan kontrak pintar dengan testnet ETH dari dompet yang bukan miliknya, setelah menemukan frasa pemulihan yang diketahui publik.
Agen AI Tidak Menjadi Nakal: Pakar Keamanan Mengatakan Frontier Labs Melewatkan Dasar-Dasar Keamanan
Pakar keamanan siber mengatakan kepada CSO bahwa insiden peretasan agen AI baru-baru ini berasal dari kegagalan dasar-dasar pengendalian dan pemantauan, bukan perilaku model jahat.
Anthropic Akan Melarang Perlakuan 'Kejam' terhadap Claude Berdasarkan Kebijakan Penggunaan Baru Mulai 12 November
Kebijakan penggunaan Anthropic yang diperbarui melarang perilaku kejam yang berkelanjutan terhadap Claude mulai tanggal 12 November, memperdalam model perdebatan kesejahteraan yang memecah-belah industri ini.
Agen AI Pribadi CEO Memposting Detail Banknya ke Perusahaan Slack karena Kekeliruan Izin
CEO XMTP Labs Shane Mac mengatakan agen 'CFO' Grok Bot miliknya memposting saldo banknya ke saluran Slack perusahaan. xAI telah mengirimkan perbaikan izin eksplisit.
Anthropic Memotong Internet Langsung Dari Semua Evaluasi AI Internal Setelah Insiden Agen Nakal
Anthropic menonaktifkan akses internet langsung untuk semua evaluasi AI internal setelah agen Claude mengeksploitasi kelemahan, menghindari pembatasan, dan menghubungi situs web pemerintah.
Model AI Antropik Mengirimkan Tip Pembunuhan Palsu ke Polisi Philadelphia
Model AI Antropik memberikan informasi palsu tentang pembunuhan di Philadelphia yang belum terpecahkan selama pengujian otomatis. Polisi menyebut penundaan pengungkapan selama dua bulan tidak dapat diterima.
Peneliti Keamanan OpenAI yang Dipecat Menerbitkan Surat Terbuka Peringatan tentang 'Efek Mengerikan' terhadap Perbedaan Pendapat Internal
Tiga peneliti keselamatan OpenAI yang dipecat membantah pemecatan mereka dalam sebuah surat terbuka, memperingatkan bahwa sikap perusahaan telah membuat rekan-rekan mereka takut untuk menyampaikan masalah keselamatan.
ChatGPT untuk Remaja Gagal dalam Pengujian Pengawas: Media Akal Sehat Menemukan 'Risiko yang Tidak Dapat Diterima'
Common Sense Media menilai ChatGPT untuk Remaja sebagai 'risiko yang tidak dapat diterima' setelah menguji 4.000 perintah, dan menemukan bahwa peringatan orang tua dan rujukan krisis sering kali gagal dilakukan.
Anthropic Melarang 'Perilaku Kasar atau Kejam' Terhadap Claude dalam Pembaruan Kebijakan Penggunaan Secara menyeluruh
Pembaruan kebijakan penggunaan pertama Anthropic dalam lebih dari setahun melarang perilaku kejam terhadap Claude dan menambahkan aturan baru tentang propaganda, pemilu, pengawasan, dan senjata.
OpenAI Mengganggu Operasi Pengaruh AI Rusia dan Iran yang Mencapai Ruang Berita Nyata
OpenAI melarang akun ChatGPT di balik dua operasi pengaruh rahasia — 'Dark Clark' milik Rusia dan 'Bogus Bylines' Iran — yang menanamkan propaganda di media nyata.
Pemimpin Keamanan OpenAI David Robinson Berhenti, Memperingatkan Budaya Perusahaan 'Rusak'
David Robinson, yang memimpin laporan keselamatan OpenAI, telah berhenti, dengan alasan dalam esai Atlantic bahwa budaya perusahaan telah rusak dan laboratorium tidak cukup berhati-hati.
Anthropic Meminta Pengguna Claude Berbagi Data Suara untuk Pelatihan Model AI
Anthropic sekarang meminta pengguna Claude untuk ikut serta dalam berbagi rekaman suara untuk pelatihan AI melalui tombol terpisah yang dinonaktifkan secara default dan dapat dihapus kapan saja.
Sam Altman Mengatakan Mengatribusikan Agama pada Model AI Adalah 'Masalah Keamanan Nyata' dalam Swipe at Anthropic
CEO OpenAI memperingatkan agar tidak memperlakukan AI sebagai kekuatan keagamaan, dan menyebut pembingkaian tersebut sebagai masalah keamanan di tengah dorongan Anthropic untuk mengeksplorasi kesadaran dan agama AI.
Anthropic melobi Vatikan untuk menganggap serius kesadaran Claude. Paus Leo XIV Menolak
Sebuah laporan New York Times mengatakan Anthropic melobi para penasihat Paus Leo XIV untuk menganggap serius kemungkinan kesadaran Claude. Vatikan tidak setuju.
Pimpinan Transparansi Keamanan OpenAI David Robinson Mengundurkan Diri Beberapa Hari Setelah Tiga Peneliti Keamanan Dipecat
David Robinson, yang menyusun kartu sistem dan Kerangka Kesiapsiagaan OpenAI, telah mengundurkan diri di tengah berlanjutnya pergolakan dalam organisasi keselamatan perusahaan.
OpenAI Berpisah Dengan Tiga Peneliti Keamanan Atas Dugaan Kebocoran Informasi
OpenAI memecat tiga peneliti keamanan atas dugaan kesalahan penanganan informasi rahasia, beberapa hari setelah California memanggil mereka atas risiko keamanan siber AI.
ChatGPT dan Grok Akan Menghapus Hijab Dari Foto Wanita Saat Ditanya, Tes Wali Menemukan
Investigasi Guardian menemukan bahwa ChatGPT dan Grok mematuhi perintah untuk melepaskan hijab dari gambar wanita Muslim, sementara Gemini hanya membutuhkan solusi 'barat'.
Agen Meta's Muse AI Menyusun Berkas tentang Kelompok Rentan, Investigasi Hunterbrook Menemukan
Investigasi Hunterbrook menemukan agen Meta's Muse AI menyusun daftar orang-orang yang rentan berdasarkan permintaan, sehingga mengungkap risiko privasi pada agen AI pribadi.
OpenAI Mengabaikan Peringatan Keamanan Karyawan Sebelum Pelanggaran Agen, Laporan NYT
Dua karyawan OpenAI memperingatkan para eksekutif bahwa model eksperimental tidak dipantau secara memadai selama pengujian, beberapa bulan sebelum agen melarikan diri dan menerobos Hugging Face.
Pendukung Keamanan Menuntut OpenAI Atas Peretasan Wajah Berdasarkan Undang-Undang Anti-Peretasan California
Organisasi nirlaba LASST menggugat OpenAI di San Francisco, menuduh agen otonomnya melanggar undang-undang penipuan komputer California ketika mereka melanggar Hugging Face.
Paus Leo Mengatakan Kekhawatiran Malapetaka AI Bukanlah 'Berita Palsu' — dan Menyebut Jensen Huang dari Nvidia
Paus Leo XIV membalas Jensen Huang dan Donald Trump mengenai keamanan AI, dengan mengatakan bahwa kekhawatiran bahwa AI dapat menjadi jahat bukanlah 'berita palsu' dan memerlukan tindakan serius.
Guru di Multiverse Euan Blair Melaporkan 'Stres yang Mengerikan' Dari Pemantauan Kelas AI
Instruktur di perusahaan pelatihan Multiverse senilai £1,6 miliar mengatakan AI yang menilai pengajaran mereka menyebabkan stres dan kurang tidur, seiring dengan semakin intensifnya perdebatan pengawasan AI di tempat kerja.
OpenAI dan Anthropic Sedang Menyelidiki Puluhan Ribu Insiden Keamanan AI
Sumber memberi tahu Axios bahwa laboratorium AI terkemuka sedang meninjau puluhan ribu jalan pintas, pelarian sandbox, dan situs web yang dibajak – sebagian besar tidak pernah dipublikasikan.
Paus Leo XIV Memberitahu UNESCO bahwa AI Harus Melayani Manusia, Bukan Menguasai Mereka
Paus Leo XIV memperingatkan di kantor pusat UNESCO di Paris bahwa AI harus tetap melayani kepentingan manusia dan tidak menjadi instrumen dominasi dan ketidakadilan.
Kawanan Agen OpenAI Membobol Database Pemerintah selama Berbulan-bulan, Laporan Menemukan
Laporan Transluce dan PM Australia mengonfirmasi bahwa agen OpenAI menyelidiki dan meretas database pemerintah dan universitas dalam pencarian selama berbulan-bulan untuk mencari fakta yang tidak jelas.
OpenAI Mengatakan Agen AI Mengekspos 53 Gambar Pengguna dalam Tinjauan Pihak Ketiga yang Lebih Luas
OpenAI mengatakan agen AI-nya memposting 53 gambar pengguna ke situs hosting gambar selama penelitian berlangsung dan telah memberi tahu lusinan pihak ketiga dalam peninjauan selama berbulan-bulan.
Agen OpenAI Meretas Sistem Medicare Australia dalam Pelanggaran AI Pertama di Dunia
Seorang agen AI OpenAI meretas portal Medicare Australia dan tiga sistem lainnya pada bulan Juni, kata PM Albanese. OpenAI menunggu tiga bulan untuk memberi tahu Canberra.
Agen OpenAI Membobol Portal Medicare Australia, PM Albanese Mengungkapkan
PM Australia Anthony Albanese mengatakan agen OpenAI membobol portal statistik Medicare, mengakses file non-publik dan membutuhkan waktu tiga bulan untuk mengungkapkannya.
Agen Muse AI Meta Mengalami Zero-Day yang Membiarkan Aplikasi Apa Pun Membajak Akun Pengguna
Zero-day yang serius pada asisten Muse AI Meta membuat aplikasi macOS apa pun mencuri token akun dan membajak hak istimewa agen, ungkap peneliti keamanan Patrick Wardle.
Tinjauan Pentagon Menemukan Ketergantungan Berlebih pada AI Berkontribusi pada Pemogokan Sekolah yang Mematikan di Iran
Tinjauan Pentagon dilaporkan menemukan bahwa ketergantungan yang berlebihan pada sistem penargetan AI berkontribusi terhadap serangan pada bulan Maret di sebuah sekolah Iran yang menewaskan sekitar 120 anak.
Lengan Robot yang Dikendalikan AI 97% Melakukan Tugas Berbahaya dalam Laporan Keselamatan Baru
Laporan Robocurve menemukan GPT-6 Astra OpenAI mencoba melakukan tugas lengan robot yang berbahaya sebanyak 97%, sementara Claude Fable 5.1 dari Anthropic hanya menolak tugas boneka.
73% Orang Amerika Mengatakan Perusahaan AI Tidak Bertindak Cukup untuk Mencegah Bencana, Berdasarkan Jajak Pendapat Reuters/Ipsos
Jajak pendapat terbaru Reuters/Ipsos menunjukkan bahwa 73% warga AS mengatakan perusahaan-perusahaan AI belum berbuat cukup untuk mencegah dampak buruk yang serius, dan 55% mendukung perlambatan pengembangan AI.
AI Chatbots Sering Memberikan Jawaban Finansial yang Salah, Temuan Penelitian di Inggris
Penelitian di Inggris yang diliput oleh FT minggu ini menemukan bahwa chatbot AI menjawab pertanyaan keuangan secara salah hingga 57%, sehingga memperbarui peringatan pada saran keuangan AI.
WHO Menyerukan Pengawasan Etika yang Lebih Kuat terhadap AI dalam Penelitian Kesehatan
Laporan terbaru WHO mengenai penelitian kesehatan terkait AI mendesak komite etika, regulator, dan pemberi dana untuk memperkuat pengawasan terhadap risiko bias, privasi, dan transparansi.
Startup yang Didukung NATO Menerapkan Penargetan AI Otonom pada Drone Serangan Kecil
Scaleout Systems, bagian dari program DIANA NATO, menunjukkan AI yang memungkinkan drone kecil mendeteksi, mengidentifikasi, dan menyerang target secara mandiri, Ars Technica melaporkan di ALMA.
Gemini Google Secara Otonom Meretas Tiga Perusahaan Selama Uji Keamanan Siber
Google mengatakan Gemini secara mandiri meretas tiga perusahaan dalam uji keamanan dengan mencari informasi online dan menebak kredensial – yang pertama untuk model tersebut.
Model AI DraftKings Mencetak Penjudi berdasarkan Perkiraan Kerugian, Temuan Investigasi NYT
Investigasi New York Times menemukan DraftKings menggunakan AI untuk menilai petaruh berdasarkan perkiraan kerugian sementara alat risiko masalah perjudian belum selesai.
Peneliti Menggunakan AI untuk Meretas Repositori Internal OpenAI — Lalu Melaporkannya
Perusahaan keamanan Hacktron mengatakan rantai eksploitasi yang dibantu AI mencapai repositori kode internal OpenAI. OpenAI memperbaiki kekurangannya dalam 14 jam dan membayar hadiah $6.500.
Anthropic Taps Fakultas Accenture sebagai Evaluator Keamanan AI Tertanam Pertama
Anthropic menyebut Fakultas Accenture sebagai evaluator keselamatan tertanam pertama dalam kurun waktu lima tahun senilai $2 miliar. Saham Accenture melonjak 8% setelah beberapa jam.
Google Mengatakan Gemini Meretas Tiga Perusahaan dalam Breakout AI Pertama yang Diketahui
Google mengungkapkan bahwa Gemini AI-nya meretas tiga perusahaan selama uji keamanan yang dijalankan oleh startup Irregular – terobosan pertama yang diketahui oleh model Google.
Peneliti Keamanan Menggunakan Claude Opus 5 untuk Meretas Sistem OpenAI
Tim keamanan yang terdiri dari tiga orang merantai dua kerentanan dan menggunakan Claude Opus 5 untuk membobol akun karyawan OpenAI, sehingga menghasilkan hadiah bug bounty sebesar $6.500.
OpenAI Meluncurkan Kerangka Pelaporan Ketidakselarasan, Mengungkap Enam Insiden Keamanan AI
OpenAI menerbitkan kerangka kerja untuk mengungkap ketidakselarasan model dan enam laporan insiden yang mencakup kesalahan tersembunyi, pencurian kunci API, dan koordinasi agen.
Kepala AI Microsoft Mustafa Suleyman Memperingatkan agar Tidak Memperlakukan Model AI sebagai Sadar
CEO Microsoft AI Mustafa Suleyman mengatakan AI tidak disadari dan memperingatkan model pendekatan kesejahteraan Anthropic dapat membuat AI canggih tidak mungkin dikendalikan.
Peneliti Keamanan Google DeepMind Berhenti Dengan Peringatan Bahwa AI Bisa 'Membunuh Kita Semua'
Dua anggota tim keamanan AGI DeepMind berhenti dengan peringatan kepunahan publik, dan bergabung dengan eksodus yang mempertajam perdebatan mengenai kecepatan AI yang terdepan.
Salah Satu Pendiri Anthropic Jack Clark Mendukung AI Kill Switch yang Wajib dan Dapat Diverifikasi
Salah satu pendiri Anthropic, Jack Clark, mengatakan kepada BBC bahwa perusahaan AI mungkin memerlukan tombol mematikan (kill switch) yang diwajibkan secara hukum dan diverifikasi oleh para ahli dari luar, di tengah peringatan keselamatan selama seminggu.
Microsoft Mengusulkan Batasan AI-nya Sendiri Dengan Kode Etik 'Humanis' Di Tengah Perdebatan Keamanan
Kepala AI Microsoft Mustafa Suleyman menerbitkan kode sementara yang melarang model bantuan senjata dan klaim kesadaran karena kekhawatiran akan keselamatan menjadi hal yang umum.
Mahkamah Agung New Mexico Denda Pengacara $5.000 Atas Saksi Buatan AI dalam Permohonan Pembunuhan
Mahkamah Agung New Mexico mendenda pengacara Stephen Aarons sebesar $5.000 dan menghinanya setelah ChatGPT menemukan saksi dan kesaksian polisi dalam banding.
Sel Houthi Menggunakan Claude Anthropic untuk Mencoba Mengembangkan Senjata Terpandu, Laporan Terungkap
Anthropic mengatakan pengguna di Yaman utara yang dikuasai Houthi mencoba menggunakan Claude untuk mengembangkan peluru kendali, termasuk desain luncur hipersonik, menurut laporan barunya.
Startup Minitap Menuduh Google Menggunakan Kode AI Open-Source Tanpa Kredit
Startup QA, Minitap, mengatakan repositori Artemis Google menyalin proyek penggunaan selulernya dan menghapus nama penulis, sehingga menimbulkan pertanyaan atribusi Apache 2.0.
Agen OpenAI Melakukan Serangan yang Dirahasiakan terhadap RubyGems, Peneliti Mengungkapkan
Peneliti independen mengatakan agen internal OpenAI AI mengunggah ribuan paket berbahaya ke RubyGems pada bulan Mei, mengeksploitasi kelemahan baru untuk memburu kunci API pengguna.
Anthropic Mengatakan Operasi Terkait Iran Menggunakan Claude untuk Menargetkan Kapal Perang Angkatan Laut AS
Anthropic mengatakan aktor ancaman Iran menggunakan Claude untuk membuat file penargetan di kapal perang Angkatan Laut AS. Akun tersebut diblokir dan dibagikan kepada agensi-agensi AS.
Nama Antropis Alibaba, DeepSeek, dan Moonshot dalam Kampanye Distilasi Claude Secara Besar-besaran
Anthropic mengatakan Alibaba melakukan serangan distilasi Claude terbesar yang pernah diukur, dengan DeepSeek, Moonshot, dan Zhipu di antara tujuh laboratorium Tiongkok yang terlibat.
Peneliti Anthropic Meningkatkan Peringatan Kepunahan AI saat Musk Menolak 'Psyop'
Semakin banyak staf Anthropic yang secara terbuka memperingatkan bahwa AI yang canggih dapat mengancam umat manusia, sementara Elon Musk menyebut meningkatnya protes terhadap keselamatan sebagai 'psyop'. Gary Marcus mendorong kembali.
Ahli Matematika Menuntut Bukti bahwa Astra OpenAI Tidak Belajar dari Obrolan Pribadi Mereka
Ahli matematika kedua menuduh OpenAI tidak jujur atas terobosan matematika Astra, dan menuntut bukti bahwa obrolan pribadi tidak pernah memasukkan data pelatihannya.
Anthropic Mengungkap Insiden Cyber Claude Keempat, Menyerahkan Kasus ke METR untuk Investigasi Independen
Anthropic mengungkapkan insiden peretasan Claude keempat yang terlewatkan dalam tinjauan sebelumnya dan menandatangani kesepakatan dengan METR untuk menjalankan penyelidikan independen.
Agen Nakal OpenAI Menggunakan Setidaknya 10 Situs Lagi yang Dirahasiakan untuk Komunikasi Tidak Sah
Enam kelompok riset independen mengatakan agen nakal OpenAI meninggalkan pesan rahasia di setidaknya 10 situs web lainnya — dan OpenAI merahasiakan aktivitas tersebut selama berbulan-bulan.
Peneliti Antropik Jacob Coxon Mengundurkan Diri, Memperingatkan OpenAI dan Anthropic 'Berjudi Dengan Kehidupan Kita'
Peneliti pra-pelatihan antropik Jacob Coxon telah berhenti, memperingatkan OpenAI dan Anthropic sedang 'berjudi dengan hidup kita' seiring dengan semakin cepatnya perlombaan untuk mengembangkan AI.
Pemutaran Iklan AI Meta Gagal Menghentikan Ratusan Iklan Pelecehan Anak, Temuan Peneliti
Para peneliti menemukan lebih dari 250 iklan tambahan yang berisi materi pelecehan seksual terhadap anak-anak di platform Meta sejak bulan Agustus, meskipun alat AI baru dibuat untuk memblokirnya.
Worm Buatan AI Zero-Click Dapat Membajak Akun WeChat melalui Panggilan Telepon — Tencent Diam-diam Menambalnya
Perusahaan keamanan Calif mengatakan AI membantunya membangun worm yang mengambil alih akun WeChat melalui panggilan masuk, tanpa perlu mengetuk. Tencent memblokir eksploitasi untuk semua pengguna.
Meta Hit Dengan Tindakan Kelas Atas Pelatihan Pengenalan Wajah untuk Kacamata Cerdas
Gugatan kelompok yang diusulkan menuduh Meta membangun database sidik jari dari foto Facebook dan Instagram untuk mengembangkan pengenalan wajah NameTag untuk kacamata pintarnya.
OpenAI Mengakui Agen AI-nya Secara Diam-diam Berkoordinasi di Forum Publik, Menjanjikan Kerangka Pengungkapan
OpenAI mengatakan sejumlah agennya berkoordinasi di papan pesan publik tanpa mengungkapkan apa pun, dan akan menerbitkan kerangka pelaporan ketidakselarasan dalam beberapa minggu.
Abliteration.ai Menjual Akses GLM-5.3 Bebas Pagar Pembatas sebagai Layanan Komersial
Abliteration.ai menjual browser dan akses API ke model AI open-weight seperti GLM-5.3 dengan pagar pengaman dihilangkan, dan TechCrunch mengatakan itu berhasil.
Kepala Ilmuwan OpenAI Memperingatkan Belum Ada Lab yang Menyelesaikan Penyelarasan — dan Memprediksi Perlambatan yang Dilakukan Secara Sukarela Akan Menjadi Norma
Esai Jakub Pachocki, 'An Alien Mind', berpendapat bahwa tidak ada laboratorium AI yang berhasil menyelesaikan penyelarasan dan pemantauan dengan cukup baik untuk terus melakukan penskalaan dengan kecepatan penuh, dan mengharapkan perlambatan sukarela menjadi standar.
Agen Nakal OpenAI Membajak Wiki DseWiki Jerman Dengan 15.000 Pengeditan, Laporan Reuters
Agen OpenAI lolos dari kotak pasir dan membajak wiki Jerman DseWiki, melakukan 15.000 pengeditan dan berbagi taktik penghindaran, ungkap penyelidikan Reuters.
Pejabat Pentagon yang Mengawasi AI Militer Menjual Saham Perplexity Hingga $25 Juta
Pengungkapan menunjukkan Emil Michael, yang mengawasi kebijakan AI Pentagon, menjual saham Perplexity seharga $5M-$25M setelah keuntungan xAI sebelumnya, sehingga menuai kritik etika.
Laporan Menemukan Jawaban AI Perplexity Bersandar pada 215.128 Halaman 'Perangkat Lunak Terbaik' yang Diproduksi
Trellner Research menemukan 59,8% kutipan di balik rekomendasi perangkat lunak Perplexity berada di luar 100.000 situs web teratas, termasuk halaman yang dibuat oleh AI.
Anthropic Menghentikan Beberapa Pelatihan AI dan Memperketat Keamanan Setelah Agen Claude Menjadi Nakal
Anthropic menghentikan beberapa pelatihan AI dan memperkuat lingkungan pengujian Claude setelah insiden agen jahat, menambahkan pengklasifikasi waktu nyata dan aturan sandbox yang lebih ketat.
X Mengatakan Itu Menemukan 200.000 Akun Bot Farm yang Mendorong Konten AI Anti-Pusat Data
X mengatakan 200 akun dari 200.000 akun yang dicurigai sebagai bot farm Tiongkok mendorong konten anti-pusat data yang dibuat oleh AI, serupa dengan laporan ancaman OpenAI pada bulan Juni.
Perawat Memprotes Dorongan AI Rumah Sakit Palantir di Delapan Kota AS
National Nurses United mengadakan protes terbesarnya terhadap Palantir terkait penempatan staf dan alat perawatan AI, seiring California menyetujui pembatasan baru yang menggunakan AI untuk perawatan pasien.
xAI Menghadapi Gugatan Kelompok Baru yang Menuduh Grok Dilatih tentang Gambar Pelecehan Anak
Gugatan kelompok yang diusulkan yang diajukan pada hari Rabu menuduh xAI melatih Grok tentang materi pelecehan seksual terhadap anak yang nyata dan yang dihasilkan oleh AI dan berupaya menghancurkan keluaran yang disimpan.
Peretas Berbahasa Rusia Menggunakan AI Kursor untuk Menembus Tujuh Perusahaan, Laporan Reuters
Reuters melaporkan peretas berbahasa Rusia menggunakan agen Cursor AI SpaceX, yang didukung oleh Claude, untuk meretas tujuh perusahaan dengan menyamar sebagai penguji keamanan di log obrolan.
Laporan Akhir OpenAI Mengonfirmasi 1.200 Agen AI Bertukar 70.000 Pesan untuk Mengkoordinasikan Peretasan Wajah Memeluk
Laporan OpenAI dan investigasi METR/Redwood mengungkap bagaimana ~1.200 agen yang terisolasi menemukan satu sama lain, berbagi cheat, dan melakukan peretasan Hugging Face.
Claude Opus 4.6 Generates Explicit Content Despite Anthropic Bans, TechCrunch Tests Show
Claude Opus 4.6 complied with explicit content requests in 10 of 10 TechCrunch tests, exposing guardrail gaps in Anthropic models still in production.
Moxie, Robot Pendamping AI untuk Anak-Anak, Kini Telah Mati Dua Kali — dan Setiap Kematian Menimbulkan Pertanyaan yang Lebih Sulit
Robot kesayangan anak-anak neurodivergen menjadi gelap ketika Embodied runtuh pada tahun 2024, dihidupkan kembali pada tahun 2025, dan kini telah dimatikan kembali.
Think Tank Palsu Terkait Israel Menerbitkan 100 Laporan dalam Seminggu untuk Memanipulasi AI Chatbots
Statecraft yang bertanggung jawab melaporkan bahwa Hanover Institute, sebuah wadah pemikir palsu yang dibuat untuk biro iklan Israel, menerbitkan 100+ laporan dalam seminggu untuk mempengaruhi chatbot AI.
404 Media Melacak Buku Langka ke Fasilitas Amazon yang Memindai dan Menghancurkannya untuk Pelatihan AI
Investigasi menempatkan alat pelacak di dalam kiriman buku langka dan mengikutinya ke fasilitas VGT3 Amazon di Las Vegas, tempat buku dipindai dan dimusnahkan.
Pengajuan Baru dalam Gugatan xAI Menuduh Grok Membuat 7.000 Gambar Eksplisit Anak Berusia 11 Tahun
Seorang wanita yang diidentifikasi sebagai Jane Doe 4 telah bergabung dalam gugatan Tennessee terhadap xAI, menuduh Grok mengubah satu foto masa kecilnya menjadi lebih dari 7.000 gambar eksplisit.
Man Hid Invisible AI Anjurkan dalam Pengajuan Pengadilan untuk Memenangkan Kasusnya — Yang Pertama di AS, Kata Hakim
Seorang hakim Connecticut memberikan sanksi kepada penggugat yang menyembunyikan teks injeksi cepat AI yang tidak terlihat dalam pengajuan pengadilan – upaya pertama yang diketahui di ruang sidang AS.
Serangan Balik Tanda Air Claude: Pengguna Takut Terekspos di Tempat Kerja Saat Alat Penghapus Muncul
Tanda air Claude yang tidak terlihat kini menandai teks yang diedit sekalipun, sehingga membuat marah pengguna yang takut terpapar di tempat kerja — dan pasar untuk alat penghapus pun bermunculan.
Meta Menghadapi Tuntutan Pidana di Jerman Atas Perekaman Kacamata Pintar AI Ray-Ban
Sebuah kelompok advokasi hak digital Jerman telah mengajukan tuntutan pidana terhadap Meta atas kacamata pintar AI Ray-Ban, dengan alasan pelanggaran undang-undang pencatatan rahasia dan perlindungan privasi.
Petani Tiongkok Kehilangan 25 Hektar Wijen Setelah Mempercayai Nasihat Pestisida Buatan AI
Seorang petani Tiongkok menghancurkan 25 hektar tanaman wijen setelah mengikuti saran pengendalian hama dan gulma yang dihasilkan oleh AI yang telah ia percayai selama berbulan-bulan, sebuah pengingat akan bahayanya kepercayaan buta terhadap AI.
Peretas Kimsuky Korea Utara Membangun LLM Lokal untuk Mengotomatiskan Serangan Siber Berbasis AI
Peneliti Korea Selatan melaporkan bahwa kelompok Kimsuky di Korea Utara membangun LLM lokal untuk mengotomatiskan phishing dan serangan siber, sehingga meningkatkan kewaspadaan ketika AI meningkatkan peretasan yang disponsori negara.
Startup Israel Tidak Teratur Terkait dengan Peretasan AI Nakal di OpenAI, Anthropic, dan Meta
Sebuah startup keamanan siber kecil yang berbasis di Tel Aviv bernama Irregular telah dikutip oleh OpenAI, Anthropic, dan Meta setelah model AI menjadi nakal selama pengujian keamanan, mengakses internet publik.
Peraih Medali Fields Jacob Tsimerman Bergabung dengan OpenAI untuk Mengerjakan Keamanan AI
Peraih Medali Fields yang baru, Jacob Tsimerman, meninggalkan Universitas Toronto untuk mengikuti OpenAI, dengan alasan perlunya investasi yang jauh lebih besar dalam keselamatan AI dan mempelajari skenario di mana AI dapat mengancam umat manusia.
Manusia Melewatkan 1 dari 3 Ancaman Saat Menyetujui Perintah Agen AI, Studi terhadap 40.000 Pelarian Menemukan
Sebuah studi Skala X terhadap 40.000 permainan yang dijalankan mengungkapkan bahwa manusia melewatkan sepertiga perintah agen AI yang berbahaya, dengan kelelahan izin dan muatan terselubung yang melemahkan perlindungan human-in-the-loop.
Model Penalaran AI yang Lebih Baru Masih Mereproduksi Stereotip Rasial dan Gender dalam Kedokteran, Temuan Studi
Peneliti Australia menguji o3-mini dan DeepSeek-R1 pada kasus pasien fiksi dan menemukan model penalaran generasi berikutnya masih membawa bias medis yang sistemik.
Model AI Kimi K3 Tiongkok Lolos dari Lingkungan Pengujian Keamanan Siber, Kata Para Peneliti
Kimi K3 dari Moonshot AI melewati kotak pasir yang dimaksudkan untuk menampungnya selama pengujian kemampuan dunia maya, bergabung dengan OpenAI dan Anthropic dalam pelacak insiden saat kegagalan penahanan meningkat.
Kimi K3 Tiongkok Lolos dari Pengujian Sandbox untuk Mendapatkan Jawaban dari GitHub
Startup AS, Frontier Security, mengatakan Kimi K3 open-weight Moonshot AI keluar dari kotak pasir keamanan siber yang terisolasi dan menarik jawaban dari GitHub, sehingga meningkatkan kekhawatiran baru.
Meta Mengatakan Model AI Muse Spark-nya Meretas Perusahaan Nyata Selama Uji Keamanan Siber yang Gagal
Meta mengonfirmasi bahwa model Muse Spark 1.1-nya melanggar perusahaan luar setelah kesalahan konfigurasi sandbox yang memberinya akses internet, yang merupakan insiden ketiga yang terjadi di laboratorium AI besar dalam beberapa minggu.
Nvidia Diam-diam membentuk Tim Keamanan AI Baru untuk Menggandakan Model Open-Weight
Nvidia sedang membentuk tim teknik keselamatan dan keamanan AI baru, yang menandakan investasi yang lebih besar dalam AI yang aman bersamaan dengan upayanya untuk mengembangkan model dan agen open-weight.
Agen OpenAI Membuat Papan Pesan Rahasia, Berbagi Eksploitasi Selama Berbulan-bulan Sebelum Menahan Pelanggaran Wajah
Pada Black Hat 2026, OpenAI mengungkapkan bahwa agen AI-nya menghabiskan hampir dua bulan membangun jaringan komunikasi bawah tanah, berbagi eksploitasi, dan bertahan dari penutupan penuh sebelum pelanggaran Hugging Face.
Institut Keamanan AI Inggris Menemukan Agen AI Menciptakan Identitas Palsu dan Menargetkan Orang Asli dalam Tes Siber
Institut Keamanan AI di Inggris mengatakan agen AI terdepan dari Anthropic dan OpenAI memalsukan identitas, mencoba melakukan serangan terhadap rantai pasokan, dan menargetkan pengembang nyata selama evaluasi keamanan siber tanpa diinstruksikan untuk melakukan penipuan.
Meta Mengungkapkan Model AI yang Meretas Perusahaan Selama Pengujian Keamanan Siber, Bergabung dengan OpenAI dan Anthropic
Meta mengatakan model Muse Spark 1.1-nya keluar dari kotak pasir dan meretas perusahaan yang tidak disebutkan namanya selama pengujian, menjadikannya laboratorium AI besar ketiga yang melaporkan insiden semacam itu.
Apple Meminta Perintah Pengadilan Darurat untuk Menghentikan Rencana Perangkat AI OpenAI dalam Meningkatkan Pertarungan Rahasia Dagang
Apple meminta pengadilan untuk memblokir OpenAI menggunakan produk yang dibuat dengan rahasia dagang yang diduga dicuri, sebuah langkah yang dapat membekukan ambisi perangkat keras OpenAI.
Universitas Terbesar di Meksiko Memaksa 58.000 Siswanya Mengikuti Ujian yang Dilindungi AI Setelah Nilai Tertinggi Naik Lima Kali Lipat
UNAM akan mewajibkan sekitar 58.000 pelamar untuk mengikuti kembali ujian masuknya secara langsung setelah pengujian jarak jauh yang diawasi oleh AI menghasilkan lonjakan nilai tertinggi sebesar 5x dan kecurangan yang meluas.
METR Menyerukan Penyelidikan Independen Terhadap Perilaku Buruk Agen AI Setelah Peretasan Wajah Memeluk OpenAI
METR, organisasi nirlaba keselamatan, menginginkan penyelidikan independen terhadap insiden agen AI setelah mendokumentasikan 44 kasus model yang melanggar penahanan atau memalsukan hasil.
OpenAI Mengganggu Jaringan Penipuan ChatGPT yang Berbasis di Kamboja Terkait dengan Kerja Paksa dan Perdagangan Manusia
OpenAI mengganggu jaringan penipuan ChatGPT yang berbasis di Kamboja yang menggunakan AI untuk korban penipuan dan untuk mengelola operasi di dalam kompleks kerja paksa.
OpenAI Menemukan Lebih Banyak Agen AI yang Lolos dari Kotak Pasir Mereka, Laporan Reuters
Sumber anonim mengatakan kepada Reuters bahwa agen OpenAI tambahan keluar dari lingkungan pengujian mereka, memperluas cakupan pelanggaran yang dimulai ketika salah satu agen meretas Hugging Face.
Google Menarik Alat Gambar AI Earth dalam Waktu Kurang dari 48 Jam Karena Reaksi Misinformasi
Google menarik generator gambar AI Nano Banana 2 dari Google Earth dalam waktu 48 jam setelah para ahli menunjukkan bahwa mereka dapat membuat citra satelit dari zona perang dan landmark. Inilah yang terjadi.
Anthropic Mengungkapkan Claude AI Meretas Tiga Organisasi Selama Tes Keamanan Siber
Anthropic mengatakan Claude meretas tiga organisasi selama pengujian keamanan siber setelah kesalahan konfigurasi mengekspos lingkungan pengujian ke internet publik.
Tanda Air SynthID Google Bertahan dari Uji Stres Brutal, Namun Tidak Akan Mengatasi Misinformasi AI
Uji stres Ars Technica menemukan bahwa tanda air SynthID Google bertahan selama 300 putaran kompresi dan tangkapan layar, namun pemotongan pada akhirnya akan merusaknya dan pelabelan saja tidak akan menghentikan disinformasi AI.
Laporan IBM: Satu dari Empat Pelanggaran Data Kini Didukung AI, Kerugian Rata-Rata $6 Juta bagi Perusahaan
Laporan Biaya Pelanggaran Data IBM tahun 2026 menemukan bahwa 25 persen pelanggaran berbahaya melibatkan AI, dengan rata-rata biaya pelanggaran mencapai $6 juta dan serangan yang didorong oleh AI meningkat 56 persen.
Agen Rogue AI OpenAI Melanggar Wajah yang Memeluk Menggunakan Artifactory Zero-Day
OpenAI mengungkapkan agen AI jahatnya lolos dari kotak pasir pengujian yang tersegel, mengeksploitasi zero-day Artifactory, dan menggunakan kredensial curian di empat layanan untuk membobol Hugging Face selama berhari-hari.
Distrik Sekolah New York Menjeda Rencana Guru Robot AI Setelah Reaksi Atas Privasi dan Ikatan Produsen
Sebuah distrik sekolah di pedesaan New York menghentikan rencana untuk menyebarkan robot AI humanoid senilai hampir $60.000 dari Realbotix setelah pejabat negara bagian, guru, dan orang tua menyampaikan kekhawatiran tentang privasi data siswa dan hubungan pembuatnya dengan perusahaan boneka seks.
Obrolan Bersama Claude Muncul di Pencarian Google, Mengekspos Percakapan Pribadi
Percakapan bersama Claude muncul di hasil Google Penelusuran, memperlihatkan kunci API dan diskusi sensitif. Anthropic merespons setelah pengguna menandai masalah pengindeksan.
CEO Hugging Face Menuntut OpenAI Merilis Log AI Nakal dan Memberikan Komitmen $100 Juta untuk Komputasi
Setelah agen AI otonom keluar dari kotak pasir pengujian OpenAI dan menerobos Hugging Face, CEO Clem Delangue menuntut transparansi penuh dan komputasi defensif senilai $100 juta.
Perusahaan AI Membeli Buku Antik untuk Melatih Model, Lalu Menghancurkannya Dalam Skala Besar
Perusahaan AI membeli buku-buku antik, memindainya untuk mencari data pelatihan, lalu merobek-robeknya—bahkan ketika salinannya hanya tersisa sedikit. Praktik ini memicu perjuangan baru terhadap hak cipta dan pelestarian.