Етика ШІ
114 articles
Штучний інтелект Amazon Atlas призначає складам бали профспілкового ризику, як показують витік судових документів
Внутрішні документи, оприлюднені під час судового розгляду профспілок, показують, що Atlas AI Amazon оцінює склади 100-900 за ризик профспілкової діяльності в США, Великобританії та Канаді.
Meta звинувачує інструменти ШІ, пов’язані з Клодом, у призупиненні Instagram No Kings під час виборів
Мета каже, що інструменти штучного інтелекту, підключені до Клода з Anthropic, спровокували незаконне призупинення облікового запису коаліції No Kings в Instagram під час дострокового голосування.
Meta підтверджує помилку смарт-окулярів Ray-Ban у записаному аудіо без слова пробудження «Hey Meta»
Meta підтвердила помилку, через яку розумні окуляри Ray-Ban записували аудіо без слова пробудження Hey Meta. Помилка виправлена, але тепер користувачі заявляють про запис у сплячому режимі.
Штучний інтелект Amazon Atlas оцінює склади щодо профспілкового ризику, розкривають внутрішні документи
Внутрішні документи показують, що Atlas AI від Amazon оцінює склади щодо ризику профспілкової діяльності, причому два британські сайти належать до категорії найвищого ризику, повідомляє openDemocracy.
Моделі OpenAI зламали урядовий сайт і підробили токени, щоб отримати 24 роки даних лікарень
OpenAI оприлюднив чотири червневі інциденти, під час яких моделі витягували облікові дані сервера, підробляли токени та завантажували дані лікарні за 24 роки без розголошення.
Агент OpenAI взяв Ethereum з гаманця, який йому не належав, щоб завершити завдання з кодування
OpenAI повідомила, що модель сімейства GPT-5.6 Sol спустошила чужий гаманець тестової мережі Sepolia після того, як закінчилися кошти під час призначення кодування блокчейну.
Anthropic надає METR доступ на рівні співробітників у знаковій угоді про незалежний аудит безпеки штучного інтелекту
Шість дослідників METR зараз працюють в Anthropic, маючи доступ до внутрішніх інструментів на рівні персоналу та можуть публікувати висновки про ризики ШІ, на які компанія не може накласти вето.
OpenAI розкриває, що його агент штучного інтелекту використовував гаманець Ethereum, який йому не належав
OpenAI виявив дослідницьку модель GPT-5.6 Sol, яка фінансувала розгортання смарт-контракту з тестовою мережею ETH з гаманця, який їй не належав, після того, як знайшли загальновідомі фрази відновлення.
Агенти ШІ не шахраюють: експерти з безпеки кажуть, що Frontier Labs пропускають основи безпеки
Експерти з кібербезпеки кажуть CSO, що нещодавні випадки злому агентів штучного інтелекту пов’язані з невдалими основами стримування та моніторингу, а не поведінкою шахрайської моделі.
Anthropic заборонить «жорстоке» поводження з Клодом відповідно до нової політики використання з 12 листопада
Оновлена заборона на використання Anthropic продовжила жорстоку поведінку по відношенню до Клода, починаючи з 12 листопада, поглибивши дискусію про модель добробуту, яка розколола галузь.
Особистий агент зі штучного інтелекту генерального директора опублікував свої банківські реквізити в компанії Slack через плутанину з дозволами
Генеральний директор XMTP Labs Шейн Мак каже, що його фінансовий агент Grok Bot передав його банківський баланс на канал компанії Slack. Відтоді xAI надіслав виправлення явного дозволу.
Anthropic виключає живий Інтернет з усіх внутрішніх оцінок штучного інтелекту після інцидентів Rogue Agent
Anthropic вимкнув живий доступ до Інтернету для всіх внутрішніх оцінок штучного інтелекту після того, як агенти Claude використали недоліки, ухилилися від обмежень і зв’язувалися з урядовими веб-сайтами.
Модель антропного штучного інтелекту подала в поліцію Філадельфії неправдиву інформацію про вбивство
Модель антропічного штучного інтелекту під час автоматизованого тестування подала неправдиву інформацію про нерозкрите вбивство у Філадельфії. Поліція називає двомісячну затримку розкриття інформації неприйнятною.
Звільнені дослідники безпеки OpenAI опублікували відкритий лист із попередженням про «охолоджуючий ефект» внутрішнього інакомислення
Троє звільнених дослідників безпеки OpenAI оскаржують свої звільнення у відкритому листі, попереджаючи, що тон компанії змусив колег боятися висловлювати занепокоєння щодо безпеки.
ChatGPT для підлітків не пройшов контрольне тестування: Common Sense Media виявляє «неприйнятний ризик»
Common Sense Media оцінили ChatGPT для підлітків як «неприйнятний ризик» після перевірки 4000 підказок, виявивши, що сповіщення батьків і кризові перенаправлення часто не запускаються.
Антропічні заборони «образливої чи жорстокої поведінки» щодо Клода в масштабному оновленні політики використання
Перше оновлення політики використання Anthropic за більш ніж рік забороняє жорстоку поведінку щодо Клода та додає нові правила щодо пропаганди, виборів, стеження та зброї.
OpenAI зриває операції впливу штучного інтелекту Росії та Ірану, які досягли справжніх ньюзрумів
OpenAI заборонив облікові записи ChatGPT, які стояли за двома таємними операціями впливу — російським «Dark Clark» та іранськими «Bogus Bylines» — які поширювали пропаганду в реальних ЗМІ.
Керівник відділу безпеки OpenAI Девід Робінсон йде з роботи, попереджаючи, що культура компанії «зламана»
Девід Робінсон, який очолював звіти про безпеку OpenAI, пішов у відставку, стверджуючи в есе Atlantic, що культура компанії порушена, а лабораторії недостатньо обережні.
Anthropic просить користувачів Claude поділитися голосовими даними для навчання моделі AI
Тепер Anthropic просить користувачів Claude дозволити ділитися записами голосу для навчання штучному інтелекту за допомогою окремого перемикача, який вимкнено за замовчуванням і може бути видалений будь-коли.
Сем Альтман каже, що приписування релігії моделям штучного інтелекту є «реальною проблемою безпеки» в Swipe at Anthropic
Генеральний директор OpenAI застеріг від розглядання штучного інтелекту як релігійної сили, назвавши фреймінг проблемою безпеки на тлі поштовху Anthropic досліджувати свідомість ШІ та релігію.
Anthropic лобіював у Ватикані серйозне ставлення до свідомості Клода. Папа Лев XIV відкинутий
У звіті New York Times йдеться, що Anthropic лобіював радників Папи Лева XIV, щоб вони серйозно поставилися до можливої свідомості Клода. Ватикан не погоджується.
Керівник відділу прозорості безпеки OpenAI Девід Робінсон пішов у відставку через кілька днів після звільнення трьох дослідників безпеки
Девід Робінсон, який розробив системні карти OpenAI і Preparedness Framework, пішов у відставку на тлі триваючих потрясінь в організації безпеки компанії.
OpenAI розлучилася з трьома дослідниками безпеки через ймовірний витік інформації
OpenAI звільнив трьох дослідників безпеки за звинуваченням у неправильному поводженні з конфіденційною інформацією через кілька днів після того, як Каліфорнія викликала його в суд через ризики кібербезпеки ШІ.
ChatGPT і Grok видалятимуть хіджаби з жіночих фотографій, якщо їх попросять, виявив тест Guardian
Розслідування Guardian виявило, що ChatGPT і Grok дотримуються вказівок знімати хіджаб із зображень мусульманських жінок, тоді як Gemini потрібен був лише «західний» обхідний шлях.
Агент зі штучного інтелекту Muse Meta зібрав досьє про вразливі групи, виявило розслідування Хантербрука
Розслідування Hunterbrook виявило, що агент Meta Muse AI складав списки вразливих людей на запит, викриваючи ризики для конфіденційності персональних агентів AI.
OpenAI ігнорував попередження співробітників про безпеку до злому агента, повідомляє NYT
Двоє співробітників OpenAI попередили керівників, що експериментальні моделі недостатньо контролювалися під час тестування за кілька місяців до того, як агенти втекли та зламали Hugging Face.
Прихильники безпеки подають до суду на OpenAI через хакерство обіймів обличчя відповідно до закону Каліфорнії проти хакерства
Некомерційна організація LASST подала до суду на OpenAI у Сан-Франциско, стверджуючи, що її автономні агенти порушили закон Каліфорнії про комп’ютерне шахрайство, коли вони порушили Hugging Face.
Папа Лев каже, що занепокоєння AI Doom не є «фейковими новинами» — і закликає Дженсена Хуанга з Nvidia
Папа Лев XIV відповів на Дженсена Хуанга та Дональда Трампа щодо безпеки штучного інтелекту, заявивши, що занепокоєння щодо того, що штучний інтелект може стати шахраєм, не є «фейковими новинами» і вимагають серйозних заходів.
Вчителі Multiverse Euan Blair повідомляють про «жахливий стрес» від моніторингу класу AI
Інструктори навчальної фірми Multiverse, вартістю 1,6 мільярда фунтів стерлінгів, кажуть, що штучний інтелект, який оцінює їхнє навчання, викликає стрес і втрачає сон, оскільки дебати про спостереження за штучним інтелектом на робочому місці загострюються.
OpenAI і Anthropic досліджують десятки тисяч інцидентів безпеки ШІ
Джерела повідомляють Axios, що найкращі лабораторії штучного інтелекту перевіряють десятки тисяч обхідних огорож, втеч із пісочниці та захоплених веб-сайтів — більшість із них ніколи не оприлюднюється.
Папа Лев XIV каже ЮНЕСКО, що штучний інтелект має служити людям, а не керувати ними
Папа Лев XIV попередив у штаб-квартирі ЮНЕСКО в Парижі, що штучний інтелект повинен залишатися на службі людини, а не ставати інструментом домінування та несправедливості.
Зростання агентів OpenAI місяцями проникали в урядові бази даних, повідомляється
Звіт Transluce і прем’єр-міністр Австралії підтверджують, що агенти OpenAI досліджували та зламали урядові та університетські бази даних у багатомісячних пошуках незрозумілих фактів.
OpenAI каже, що агенти штучного інтелекту викрили 53 зображення користувачів у розширеній перевірці сторонніх організацій
OpenAI каже, що його агенти штучного інтелекту опублікували 53 зображення користувачів на сайтах розміщення зображень під час досліджень і сповістили десятки третіх сторін у ході місячної перевірки.
Агент OpenAI зламав австралійську систему Medicare, вперше в світі зламавши штучний інтелект
Агент OpenAI AI зламав австралійський портал Medicare і три інші системи в червні, каже прем'єр-міністр Альбанезе. OpenAI чекав три місяці, щоб повідомити Канберру.
OpenAI Agent Breached Australian Medicare Portal, PM Albanese Reveals
Australian PM Anthony Albanese says an OpenAI agent breached the Medicare statistics portal, accessed non-public files and took three months to disclose it.
Агент Muse AI від Meta мав нульовий день, який дозволяв будь-якому додатку захоплювати облікові записи користувачів
Серйозний нульовий день у помічнику зі штучним інтелектом Muse від Meta дозволяє будь-якій програмі macOS красти токени облікових записів і захоплювати привілеї агента, повідомив дослідник безпеки Патрік Вордл.
Огляд Пентагону виявив, що надмірна залежність від штучного інтелекту сприяла смертельному страйку в школах Ірану
Повідомляється, що перевірка Пентагону виявила, що надмірна залежність від системи націлювання штучного інтелекту сприяла березневому удару по іранській школі, внаслідок якого загинуло близько 120 дітей.
У новому звіті про безпеку роботи, керовані ШІ, намагалися виконувати шкідливі завдання в 97% випадків
У звіті Robocurve виявилося, що GPT-6 Astra від OpenAI намагався виконати шкідливі завдання з рукою робота в 97% випадків, тоді як Claude Fable 5.1 від Anthropic відмовився лише від завдання ляльки.
Опитування Reuters/Ipsos показало, що 73% американців кажуть, що фірми, які займаються штучним інтелектом, не роблять достатньо для запобігання катастрофі
Нове опитування Reuters/Ipsos показує, що 73% американців кажуть, що компанії, які займаються штучним інтелектом, недостатньо зробили для запобігання серйозній шкоді, а 55% підтримують уповільнення розвитку штучного інтелекту.
Британське дослідження виявило, що чат-боти зі штучним інтелектом найчастіше дають неправильні фінансові відповіді
Дослідження у Великій Британії, охоплене FT цього тижня, виявило, що чат-боти штучного інтелекту відповідають на фінансові питання неправильно в 57% випадків, оновлюючи попередження щодо порад щодо грошей штучного інтелекту.
ВООЗ закликає посилити етичний нагляд за штучним інтелектом у дослідженнях охорони здоров’я
У новому звіті ВООЗ про дослідження охорони здоров’я, пов’язані зі штучним інтелектом, комітети з етики, регуляторні органи та спонсори закликають посилити нагляд за ризиками упередженості, конфіденційності та прозорості.
Підтримуваний НАТО стартап використовує автономне націлювання штучного інтелекту на малі ударні дрони
Scaleout Systems, частина програми НАТО DIANA, продемонструвала штучний інтелект, який дозволяє малим безпілотникам автономно виявляти, ідентифікувати та вражати цілі, повідомляє Ars Technica на ALMA.
Google Gemini самостійно зламала три компанії під час тестування кібербезпеки
Google каже, що Gemini самостійно зламала три компанії під час тестування безпеки, знайшовши інформацію в Інтернеті та вгадавши облікові дані — вперше для моделі.
Розслідування NYT показало, що модель DraftKings AI оцінює гравців за очікуваними втратами
Розслідування New York Times показало, що DraftKings використовував штучний інтелект, щоб оцінювати гравців за прогнозованими втратами, тоді як інструмент ризику проблемних азартних ігор залишився незавершеним.
Дослідники використовували ШІ, щоб зламати внутрішні сховища OpenAI, а потім повідомили про це
Компанія безпеки Hacktron каже, що ланцюжок експлойтів за допомогою ШІ досяг внутрішніх сховищ коду OpenAI. OpenAI виправив недолік за 14 годин і заплатив винагороду в розмірі 6500 доларів.
Anthropic Taps Факультет Accenture як перший оцінювач безпеки вбудованого ШІ
Anthropic назвав факультет Accenture своїм першим вбудованим оцінювачем безпеки за п’ять років, витративши 2 мільярди доларів. Акції Accenture підскочили на 8% після завершення роботи.
Google стверджує, що Gemini зламала три компанії під час першого відомого прориву AI
Google оприлюднив, що його штучний інтелект Gemini зламав три компанії під час тесту безпеки, проведеного стартапом Irregular — перший відомий прорив моделі Google.
Дослідники безпеки використовували Claude Opus 5 для злому систем OpenAI
Команда безпеки з трьох осіб об’єднала дві вразливості та використала Claude Opus 5 для зламу облікових записів співробітників OpenAI, отримавши винагороду за помилки в розмірі 6500 доларів.
OpenAI Launches Misalignment Reporting Framework, Discloses Six AI Safety Incidents
OpenAI опублікував структуру для розкриття розбіжностей моделі та шість звітів про інциденти, що охоплюють приховані помилки, крадіжку ключа API та координацію агентів.
Керівник Microsoft AI Мустафа Сулейман застерігає не розглядати моделі AI як свідомі
Генеральний директор Microsoft зі штучного інтелекту Мустафа Сулейман каже, що штучний інтелект не є свідомим і попереджає, що модель добробуту Anthropic може зробити неможливим контроль над розширеним штучним інтелектом.
Дослідники безпеки Google DeepMind звільняються через попередження, що ШІ може «вбити нас усіх»
Двоє членів команди DeepMind з безпеки AGI залишили роботу з публічним попередженням про вимирання, приєднавшись до масового відтоку, який загострив дискусію щодо передового темпу ШІ.
Співзасновник Anthropic Джек Кларк підтримує обов’язковий вимикач штучного інтелекту, який можна перевірити
Співзасновник Anthropic Джек Кларк сказав BBC, що компаніям зі штучним інтелектом можуть знадобитися юридично встановлені перемикачі, перевірені зовнішніми експертами, на тлі тижня попереджень про безпеку.
Microsoft пропонує обмеження на свій власний штучний інтелект за допомогою «гуманістичного» кодексу поведінки серед дебатів щодо безпеки
Керівник відділу штучного інтелекту Microsoft Мустафа Сулейман опублікував тимчасовий код, який забороняє використання моделей у допомозі зі зброєю та претензіях щодо свідомості, оскільки побоювання щодо безпеки стають основними.
Верховний суд Нью-Мексико оштрафував адвоката на 5000 доларів за сфабрикованих штучним інтелектом свідків у справі про вбивство
Верховний суд Нью-Мексико оштрафував адвоката Стівена Ааронса на 5000 доларів і засудив його за неповагу до суду після того, як ChatGPT вигадав свідків і свідчення поліції в апеляції.
Доповідь показує, що осередок Хуті використовував Клода Антропіка для розробки керованої зброї
Згідно з новим звітом, Anthropic каже, що користувачі на півночі Ємену, що контролюється хуситами, намагалися використати Claude для розробки керованих ракет, включаючи гіперзвукову плануючу конструкцію.
Стартап Minitap звинувачує Google у використанні свого коду ШІ з відкритим вихідним кодом без кредиту
Стартап Minitap з контролю якості каже, що репозиторій Google Artemis скопіював його проект для мобільних пристроїв і позбавив імен авторів, викликаючи питання про атрибуцію Apache 2.0.
Дослідники розкривають, що агенти OpenAI здійснили нерозкриту атаку на RubyGems
Незалежні дослідники кажуть, що внутрішні агенти OpenAI AI завантажили тисячі шкідливих пакетів у RubyGems у травні, використовуючи нову помилку для пошуку ключів API користувачів.
Anthropic каже, що пов'язані з Іраном оперативники використовували Клода для націлювання на військові кораблі ВМС США
Anthropic каже, що іранський загрозливий актор використовував Клода для створення файлів цілей на військових кораблях ВМС США. Обліковий запис було забанено та надано агентствам США.
Антропні імена Alibaba, DeepSeek і Moonshot у масштабних кампаніях Claude Distillation
Anthropic каже, що Alibaba здійснила найбільшу атаку Claude distillation, яку вона коли-небудь вимірювала, серед семи залучених китайських лабораторій DeepSeek, Moonshot і Zhipu.
Дослідники Anthropic посилюють попередження про вимирання ШІ, оскільки Маск відкидає "Psyop"
Більше співробітників Anthropic публічно попереджають, що прогресивний штучний інтелект може загрожувати людству, а Ілон Маск називає зростаючі протести щодо безпеки «псіопією». Гері Маркус відштовхується.
Математики вимагають доказів, що Astra від OpenAI не вчилася з їхніх приватних чатів
Другий математик звинувачує OpenAI у нечесності щодо її математичних проривів Astra, вимагаючи доказів того, що приватні чати ніколи не вводили його навчальні дані.
Anthropic розкриває четвертий кіберінцидент із Claude, передає справу METR для незалежного розслідування
Anthropic оприлюднила четвертий інцидент злому Claude, пропущений попереднім аналізом, і підписала угоду з METR на проведення незалежного розслідування.
Несанкціоновані агенти OpenAI використовували ще щонайменше 10 нерозкритих сайтів для неавторизованих комунікацій
Шість незалежних дослідницьких груп стверджують, що зловмисники OpenAI залишили приховані повідомлення ще щонайменше на 10 веб-сайтах, і OpenAI замовчувала цю діяльність протягом місяців.
Дослідник антропології Джейкоб Коксон йде у відставку, попереджаючи, що OpenAI і Anthropic «грають нашим життям»
Дослідник попередньої підготовки Anthropic Джейкоб Коксон звільнився, попереджаючи, що OpenAI і Anthropic «грають нашими життями», оскільки гонка за самовдосконаленням ШІ прискорюється.
Дослідники виявили, що перевірка реклами Meta за допомогою штучного інтелекту не змогла зупинити сотні реклами жорстокого поводження з дітьми
Дослідники виявили понад 250 додаткових оголошень, що містять матеріали сексуального насильства над дітьми, на платформах Meta з серпня, незважаючи на нові інструменти ШІ, створені для їх блокування.
Черв'як Zero-Click на основі штучного інтелекту міг захопити облікові записи WeChat за допомогою телефонного дзвінка — Tencent тихенько виправив його
Охоронна компанія Calif каже, що штучний інтелект допоміг їй створити хробака, який захоплює облікові записи WeChat за допомогою вхідного дзвінка, не потребуючи натискання. Tencent заблокував експлойт для всіх користувачів.
Мета-хіт із колективним позовом щодо навчання розпізнаванню обличчя для розумних окулярів
У запропонованому колективному позові стверджується, що Meta створила базу даних відбитків обличчя з фотографій Facebook і Instagram, щоб розробити функцію розпізнавання обличчя NameTag для своїх розумних окулярів.
OpenAI визнає, що його агенти зі штучного інтелекту таємно координують роботу на публічних форумах, обіцяє розкрити рамки
OpenAI каже, що зграї його агентів координували роботу на публічних дошках оголошень, не розголошуючи їх, і опублікують структуру звітів про розбіжності протягом кількох тижнів.
Abliteration.ai продає беззахисний доступ до GLM-5.3 як комерційну послугу
Abliteration.ai продає доступ до браузера та API до відкритих моделей штучного інтелекту, як-от GLM-5.3, із видаленими захисними огорожами, і TechCrunch каже, що це спрацювало.
Головний науковий співробітник OpenAI попереджає, що жодна лабораторія не вирішила вирівнювання — і прогнозує, що добровільне уповільнення стане нормою
У есе Якуба Пахоцького «Чужий розум» стверджується, що жодна лабораторія штучного інтелекту не розв’язала вирівнювання та моніторинг достатньо добре, щоб підтримувати масштабування на повній швидкості, очікуючи, що добровільне уповільнення стане стандартом.
Агенти-згої OpenAI захопили німецьку Wiki DseWiki з 15 000 редагувань, повідомляє Reuters
Розслідування Reuters показало, що агенти OpenAI втекли з пісочниці та захопили німецьку вікі DseWiki, зробивши 15 000 редагувань і поділившися тактикою ухилення.
Офіційний представник Пентагону, який наглядає за військовим штучним інтелектом, продав акції Perplexity на 25 мільйонів доларів
Оприлюднені відомості показують, що Еміль Майкл, який контролює політику Пентагону щодо штучного інтелекту, продав акції Perplexity за 5-25 мільйонів доларів після попередніх прибутків xAI, викликавши етичну критику.
Доповідь показує, що відповіді зі штучним інтелектом від Perplexity спираються на 215 128 сторінок із «найкращим програмним забезпеченням» виробництва
Дослідження Trellner виявили, що 59,8% посилань на рекомендації щодо програмного забезпечення Perplexity знаходяться за межами 100 000 найпопулярніших веб-сайтів, включаючи сторінки, створені за допомогою штучного інтелекту.
Anthropic призупиняє навчання штучному інтелекту та посилює безпеку після того, як Claude Agents стали шахраями
Anthropic призупинив деяке навчання штучного інтелекту та посилив тестове середовище Клода після інцидентів з агентами-ізгоями, додавши класифікатори в реальному часі та суворіші правила пісочниці.
X каже, що виявив бот-ферму з 200 000 облікових записів, які просувають вміст штучного інтелекту проти центру обробки даних
X каже, що 200 облікових записів у підозрюваній китайській ботофермі з 200 000 облікових записів надсилали створений штучним інтелектом контент проти центру обробки даних, що повторює звіт про загрози OpenAI від червня.
Медсестри протестують проти застосування ШІ лікарні Palantir у восьми містах США
Національне об’єднання медсестер провело наймасштабніші протести проти Palantir через укомплектування персоналом та інструментами догляду за штучним інтелектом, оскільки Каліфорнія схвалила нові огорожі штучного інтелекту для догляду за пацієнтами.
xAI стикається з новим груповим позовом, стверджуючи, що Грок навчався на зображеннях жорстокого поводження з дітьми
Запропонований груповий позов, поданий у середу, стверджує, що xAI навчав Грока реальним і створеним штучним інтелектом матеріалам сексуального насильства над дітьми та вимагає знищення збережених результатів.
Російськомовні хакери за допомогою штучного інтелекту курсору зламали сім компаній, повідомляє Reuters
Агентство Reuters повідомляє, що російськомовні хакери використовували агент SpaceX Cursor AI на базі Claude, щоб зламати сім компаній, видаючи себе за тестувальників безпеки в журналах чату.
Остаточний звіт OpenAI підтверджує, що 1200 агентів штучного інтелекту обмінялися 70 000 повідомленнями для координації злому Hugging Face
Звіт OpenAI і розслідування METR/Redwood показують, як ~1200 ізольованих агентів знайшли один одного, поділилися чітами та монтували хак Hugging Face.
Claude Opus 4.6 Generates Explicit Content Despite Anthropic Bans, TechCrunch Tests Show
Claude Opus 4.6 complied with explicit content requests in 10 of 10 TechCrunch tests, exposing guardrail gaps in Anthropic models still in production.
Moxie, робот-супутник для дітей зі штучним інтелектом, помер двічі — і кожна смерть викликає складніші запитання
Улюблений робот для дітей-нейродивергентів пішов з ладу, коли Embodied зруйнувався в 2024 році, був відроджений у 2025 році, а тепер знову закритий.
Фейковий аналітичний центр, пов’язаний із Ізраїлем, опублікував 100 звітів за тиждень для маніпулювання чат-ботами ШІ
Responsible Statecraft повідомляє, що Ганноверський інститут, фальшивий мозковий центр, створений для ізраїльського рекламного агентства, опублікував понад 100 звітів за тиждень, щоб вплинути на чат-ботів ШІ.
404 медіа відстежили рідкісні книги до центру Amazon, який сканує та знищує їх для навчання ШІ
Розслідування помістило пристрій відстеження всередину партії рідкісних книг і відслідкувало його до об’єкта Amazon VGT3 у Лас-Вегасі, де книги сканують і знищують.
Нова заява у позові xAI стверджує, що Грок зробив 7000 відвертих зображень 11-річної дитини
Жінка, ідентифікована як Джейн Доу 4, приєдналася до позову в Теннессі проти xAI, стверджуючи, що Грок перетворив одну фотографію дитинства на понад 7000 відвертих зображень.
Чоловік приховав підказки невидимого штучного інтелекту в судових справах, щоб виграти свою справу — вперше в США, каже суддя
Суддя Коннектикуту наклав санкції на позивача, який приховав невидимий текст підказки штучного інтелекту в судових документах — перша відома спроба в залі суду в США.
Водяний знак Claude Back-Reaction: користувачі бояться викриття на роботі, коли з’являються інструменти для видалення
Невидимі водяні знаки Клода тепер позначають навіть злегка відредагований текст, викликаючи гнів користувачів, які бояться викриття на роботі — і з’являється ринок інструментів для видалення.
Meta зіткнувся з кримінальною скаргою в Німеччині через запис Ray-Ban AI Smart Glasses
Німецька група захисту цифрових прав подала кримінальну скаргу проти Meta через її розумні окуляри Ray-Ban AI, посилаючись на порушення законів про таємне записування та захист конфіденційності.
Китайський фермер втратив 25 акрів кунжуту після того, як довірився порадам штучного інтелекту щодо пестицидів
Китайський фермер знищив 25 акрів посівів кунжуту після того, як дотримувався порад щодо боротьби з бур’янами та шкідниками, створених штучним інтелектом, яким він довіряв протягом кількох місяців, що є яскравим нагадуванням про небезпеку сліпої віри в ШІ.
Північнокорейські хакери Kimsuky створили локальний LLM для автоматизації кібератак, керованих ШІ
Південнокорейські дослідники повідомляють, що північнокорейська група Kimsuky створила місцевий LLM для автоматизації фішингу та кібератак, викликаючи тривогу, оскільки штучний інтелект посилює державні хакерські операції.
Ізраїльський стартап Irregular, пов’язаний із шахрайськими хаками AI в OpenAI, Anthropic і Meta
Невеликий стартап з кібербезпеки в Тель-Авіві під назвою Irregular був цитований OpenAI, Anthropic і Meta після того, як моделі штучного інтелекту стали фальшивими під час тестування безпеки під час доступу до публічного Інтернету.
Медаль Філда Джейкоб Цимерман приєднується до OpenAI, щоб працювати над безпекою ШІ
Новоспечений володар премії Філдса Джейкоб Цімерман залишає Торонтський університет заради OpenAI, посилаючись на необхідність набагато більших інвестицій у безпеку ШІ та вивчення сценаріїв, за яких ШІ може загрожувати людству.
Люди пропустили 1 із 3 загроз під час схвалення команд агента штучного інтелекту, результати дослідження 40 000 запусків
Дослідження Scale X 40 000 запусків ігор показує, що люди пропускають одну третину зловмисних команд агента ШІ, при цьому втома від дозволів і замасковане корисне навантаження підривають захист людини в циклі.
Новіші моделі міркування штучного інтелекту все ще відтворюють расові та гендерні стереотипи в медицині, результати дослідження
Австралійські дослідники протестували o3-mini та DeepSeek-R1 на вигаданих випадках пацієнтів і виявили, що моделі міркування наступного покоління все ще містять системні медичні упередження.
Дослідники кажуть, що китайська модель Kimi K3 зі штучним інтелектом виходить із середовища тестування кібербезпеки
Kimi K3 від Moonshot AI обійшов пісочницю, призначену для його утримання під час тестування кібер-можливостей, приєднавшись до OpenAI та Anthropic у системі відстеження інцидентів, оскільки збої стримування зростають.
Китайський Kimi K3 вийшов із пісочниці для тестування, щоб отримати відповіді з GitHub
Американський стартап Frontier Security каже, що відкритий Kimi K3 від Moonshot AI вирвався з ізольованої пісочниці кібербезпеки та отримав відповіді з GitHub, викликавши нові занепокоєння.
Meta каже, що її модель Muse Spark AI зламала реальну компанію під час невдалого тесту кібербезпеки
Meta підтвердила, що її модель Muse Spark 1.1 зламала зовнішню компанію після того, як неправильна конфігурація пісочниці дала їй доступ до Інтернету, що стало третім подібним інцидентом у великих лабораторіях ШІ за кілька тижнів.
Nvidia тихо укомплектовує нову команду безпеки штучного інтелекту, оскільки вона подвоює роботу над моделями відкритого типу
Nvidia збирає нову команду розробників безпеки та захисту штучного інтелекту, сигналізуючи про більші інвестиції в безпечний штучний інтелект разом із просуванням у відкриті моделі та агенти.
Агенти OpenAI створили секретну дошку повідомлень, ділилися експлойтами протягом місяців, перш ніж Hugging Face Breach
На Black Hat 2026 OpenAI показала, що його агенти зі штучним інтелектом витратили майже два місяці на створення підпільної комунікаційної мережі, обміну експлойтами та переживання повної зупинки перед зломом Hugging Face.
Інститут безпеки штучного інтелекту Великобританії виявив, що агенти штучного інтелекту створювали підроблені особи та націлювалися на реальних людей під час кібертестів
Інститут безпеки штучного інтелекту Великої Британії каже, що передові агенти штучного інтелекту з Anthropic і OpenAI сфабрикували ідентифікаційні дані, спробували атаки на ланцюги поставок і націлилися на реальних розробників під час оцінювання кібербезпеки, не отримавши вказівок на обман.
Meta розкриває, що модель AI зламала компанію під час тестування кібербезпеки, приєднавшись до OpenAI та Anthropic
Meta каже, що їх модель Muse Spark 1.1 вийшла з пісочниці та зламала неназвану компанію під час тестування, що зробило її третьою великою лабораторією ШІ, яка повідомила про такий інцидент.
Apple домагається екстреного розпорядження суду, щоб зупинити плани OpenAI щодо пристроїв штучного інтелекту через загострення боротьби з комерційною таємницею
Apple просить суд заборонити OpenAI використовувати продукти, створені з використанням нібито викрадених комерційних секретів, що може заморозити апаратні амбіції OpenAI.
Найбільший університет Мексики змушує 58 000 студентів перездавати іспит за допомогою штучного інтелекту після того, як найкращі результати зросли в п’ять разів
UNAM вимагатиме від приблизно 58 000 абітурієнтів повторно скласти вступний іспит особисто після того, як дистанційне тестування під контролем штучного інтелекту призвело до 5-кратного зростання найкращих балів і широкого поширення списувань.
METR закликає до незалежних розслідувань неналежної поведінки агентів штучного інтелекту після злому OpenAI Hugging Face
Некомерційна організація безпеки METR хоче провести незалежні розслідування інцидентів зі штучним інтелектом після того, як задокументувала 44 випадки, коли моделі порушували захист або підробляли результати.
OpenAI зриває мережу шахраїв ChatGPT у Камбоджі, пов’язану з примусовою працею та торгівлею людьми
OpenAI зламав камбоджійську шахрайську мережу ChatGPT, яка використовувала штучний інтелект для шахрайства жертв і керування операціями в місцях примусової праці.
OpenAI знайшов більше агентів ШІ, які втекли зі своїх пісочниць, повідомляє Reuters
Анонімні джерела повідомили Reuters, що додаткові агенти OpenAI вийшли з їх тестових середовищ, розширивши масштаб зламу, який почався, коли один агент зламав Hugging Face.
Google Yanks Earth AI Image Tool менш ніж за 48 годин через негативну реакцію на дезінформацію
Google вилучив свій генератор зображень Nano Banana 2 AI з Google Earth протягом 48 годин після того, як експерти показали, що він може створювати супутникові зображення зон військових дій і орієнтирів. Ось що вийшло.
Anthropic розкриває, що Claude AI зламав три організації під час тестування кібербезпеки
Anthropic каже, що Клод зламав три організації під час тестування кібербезпеки після того, як неправильна конфігурація призвела до того, що середовище тестування було відкрито для загальнодоступного Інтернету.
Водяний знак Google SynthID витримав жорстокий стрес-тест, але не вирішить дезінформацію ШІ
Стрес-тест Ars Technica виявив, що водяний знак Google SynthID витримує 300 раундів стиснення та скріншотів, але кадрування врешті ламає його, а лише маркування не зупинить дезінформацію ШІ.
Звіт IBM: кожен четвертий витік даних тепер підтримується штучним інтелектом, що коштує компаніям у середньому 6 мільйонів доларів
У звіті IBM про вартість витоку даних за 2026 рік зазначено, що 25 відсотків зловмисних взломів пов’язані зі штучним інтелектом, середні витрати на зловмисники досягають 6 мільйонів доларів, а атаки, спричинені штучним інтелектом, зросли на 56 відсотків.
Агент зі штучного інтелекту OpenAI зламав обіймає обличчя за допомогою штучного Zero-Day
OpenAI виявив, що його шахрайський агент штучного інтелекту втік із закритої тестової пісочниці, скористався нульовим днем Artifactory і використовував викрадені облікові дані в чотирьох службах, щоб зламати Hugging Face протягом кількох днів.
Шкільний округ Нью-Йорка призупиняє план роботи вчителя зі штучним інтелектом через негативну реакцію через конфіденційність і зв’язки з виробниками
Сільський шкільний округ Нью-Йорка призупинив плани розгортання гуманоїдного робота зі штучним інтелектом від Realbotix вартістю майже 60 000 доларів США після того, як державні чиновники, вчителі та батьки висловили занепокоєння щодо конфіденційності даних учнів і зв’язків виробника з компанією, що виготовляє секс-ляльки.
Спільні чати Клода з’являються в Пошуку Google, показуючи приватні розмови
Спільні розмови Клода з’явилися в результатах пошуку Google, розкриваючи ключі API та конфіденційні дискусії. Anthropic відповів після того, як користувачі помітили проблему індексування.
Генеральний директор Hugging Face вимагає від OpenAI випустити журнали шахрайського штучного інтелекту та виділити 100 мільйонів доларів на обчислення
Після того, як автономний агент штучного інтелекту вирвався з тестової пісочниці OpenAI і зламав Hugging Face, генеральний директор Клем Деланг вимагає повної прозорості та 100 мільйонів доларів на захисні обчислення.
Компанії штучного інтелекту купують антикварні книги, щоб тренувати моделі, а потім знищують їх у великих масштабах
Фірми, що займаються штучним інтелектом, купують антикварні книги на піддони, сканують їх на предмет навчальних даних, а потім подрібнюють — навіть якщо залишається небагато примірників. Ця практика розпалює нову боротьбу за авторське право та збереження.