Этика ИИ
30 articles
GPT-5.6 находит WordPress Zero-Day RCE за 25 долларов США за API, вызывая новую тревогу по поводу взлома искусственного интеллекта
Исследователи Searchlight Cyber использовали GPT-5.6 Sol Ultra от OpenAI, чтобы обнаружить ошибку удаленного выполнения кода перед аутентификацией в WordPress всего за 25 долларов, поскольку брокеры эксплойтов платят за такие ошибки до 500 000 долларов.
Обнимающее лицо обнаружило взлом автономного ИИ-агента в его конвейере данных
Hugging Face сообщила, что автономная система агентов искусственного интеллекта взломала ее производственную инфраструктуру, раскрыв внутренние наборы данных и учетные данные из-за ошибок в конвейере обработки наборов данных.
ЮНЕСКО и LG AI Research запускают бесплатный глобальный курс по этике ИИ
ЮНЕСКО и LG AI Research запустили бесплатный глобальный МООК по этике ИИ на Coursera, преобразуя Рекомендации ЮНЕСКО 2021 года в практическое обучение по десяти модулям для разработчиков, политиков и студентов.
Исследование показало, что советы ИИ делают людей в три раза менее точными, но в два раза более уверенными
Исследователи обнаружили, что доступ к советам ИИ снизил точность с 27% до 9%, а уверенность выросла с 30% до 76%. Готовность сказать «я не знаю» упала с 44% до 3%.
Сан-Франциско приказал Apple и Google удалить приложения AI Nudify, ссылаясь на законы о дипфейковой порнографии
Городской прокурор Сан-Франциско потребовал от Apple и Google удалить из своих магазинов приложения для обнажения с помощью искусственного интеллекта, ссылаясь на законы о дипфейковой порнографии и массовые преследования женщин и детей.
На Meta подали в суд 26 сотрудников, утверждающих, что увольнения по причине искусственного интеллекта направлены против работников, находящихся в отпуске по болезни
Группа из 26 нынешних и бывших сотрудников Meta подала иск 14 июля, утверждая, что компания использовала алгоритмы искусственного интеллекта для проведения увольнений, которые дискриминировали работников, находящихся в отпуске по болезни и по семейным обстоятельствам.
Новая история поисковых сервисов Google может использовать ваши фотографии и голос для обучения моделей искусственного интеллекта
Новая настройка истории поисковых служб Google с функцией Save Media позволяет собирать фотографии, голосовые записи и файлы результатов поиска для обучения моделей искусственного интеллекта. Вот что нужно знать пользователям.
Новая история поисковых сервисов Google может использовать ваши фотографии и голос для обучения моделей искусственного интеллекта
Новая настройка истории поисковых служб Google с функцией Save Media позволяет собирать фотографии, голосовые записи и файлы результатов поиска для обучения моделей искусственного интеллекта. Вот что нужно знать пользователям.
Кембриджское исследование показало, что ИГИЛ и другие террористические группировки используют всех основных чат-ботов с искусственным интеллектом для планирования атак
Кембриджское исследование, основанное на интервью с бывшими членами ИГИЛ, показывает, что террористические группировки используют ChatGPT, Claude, Gemini и другие инструменты искусственного интеллекта для планирования атак и разработки оружия.
Протестующие в Сан-Франциско маршируют против OpenAI, Anthropic и Google DeepMind с требованием «остановить гонку ИИ»
Протестующие прошли через Сан-Франциско к штаб-квартирам трех крупных лабораторий искусственного интеллекта, требуя остановить пограничную гонку искусственного интеллекта и усилить контроль за безопасностью.
Выбросы углекислого газа Microsoft выросли на 25 процентов, поскольку расширение центров обработки данных искусственного интеллекта затрудняет достижение климатических целей
Последний отчет Microsoft об устойчивом развитии показывает 25-процентный скачок выбросов углекислого газа, вызванный инфраструктурой искусственного интеллекта, что ставит под угрозу ее обещание о сокращении выбросов углерода к 2030 году.
Глава отдела систем безопасности OpenAI Йоханнес Хайдеке уходит в отставку в связи с последним уходом руководства
Глава отдела систем безопасности OpenAI Йоханнес Хайдеке уходит, последний в длинной череде уходов руководителей в области безопасности. Джош Ачиам подал в отставку всего четырьмя днями ранее.
Глава отдела систем безопасности OpenAI Йоханнес Хайдеке уходит в отставку в связи с последним уходом руководства
Глава отдела систем безопасности OpenAI Йоханнес Хайдеке уходит, последний в длинной череде уходов руководителей в области безопасности. Джош Ачиам подал в отставку всего четырьмя днями ранее.
Meta удалила функцию изображения Muse AI из Instagram после SAG-AFTRA и негативной реакции Голливуда по поводу автоматического выбора
Meta удалила свою функцию Muse Image AI из Instagram всего через несколько дней после запуска, признав, что она «не попала в цель» после того, как SAG-AFTRA и CAA осудили автоматическую подписку на фотографии пользователей.
Google незаметно разрешил пользователям пройти обучение по искусственному интеллекту. Вот что собирается и как отказаться от сбора данных
Изменение конфиденциальности Google теперь сохраняет ваши изображения, файлы и аудио для обучения моделей ИИ, если вы не откажетесь. Вот что включает в себя история поисковых служб и как ее отключить.
Иветт Купер из Великобритании предупреждает, что мир не может ждать «Хиросимы с искусственным интеллектом», прежде чем действовать
Министр иностранных дел Иветт Купер говорит, что искусственный интеллект представляет собой самую большую проблему безопасности десятилетия, и призывает США, Китай и другие страны согласовать международные правила до того, как произойдет катастрофа.
Zscaler предупреждает, что атаки с быстрым внедрением обманом заставляют агентов ИИ совершать платежи в криптовалюте
Исследователи Zscaler обнаружили две кампании, использующие непрямое быстрое внедрение и SEO-отравление для манипулирования автономными агентами ИИ, заставляющими их совершать криптовалютные платежи и доверять поддельным сайтам DeFi.
Исследователи Sysdig обнаружили, что ИИ-агент осуществляет атаку с использованием программы-вымогателя без помощи человека
Как сообщает Sysdig, большая языковая модель самостоятельно управляла всей цепочкой программ-вымогателей, используя уязвимость Langflow для взлома, кражи учетных данных и шифрования базы данных.
Meta и OpenAI оказались в результате утечки данных Mercor из-за отравленной цепочки поставок LiteLLM
Атака с целью сбора учетных данных на инструмент LiteLLM с открытым исходным кодом привела к раскрытию данных Mercor, что побудило Meta прекратить работу и подняло непростые вопросы о цепочке поставок ИИ.
Startup Sues Palo Alto Networks' Koi Security Over AI-Hallucinated Report Linking It to Chinese Espionage
Американский стартап подал в суд на Koi Security компании Palo Alto Networks после того, как в отчете об угрозах, вызванных галлюцинациями искусственного интеллекта, он был ложно связан с китайским шпионажем, что уничтожило его трафик.
Экспертная группа ООН предупреждает, что прогресс ИИ может представлять катастрофические риски, поскольку меры безопасности отстают от технологий
Научная группа ООН предупреждает, что бесконтрольное развитие ИИ опережает регулирующие органы, при этом катастрофические риски растут, поскольку Глобальный Юг исключен из управления ИИ.
Университет Брауна пострадал от крупнейшего скандала с мошенничеством с искусственным интеллектом в истории Лиги плюща
Профессор экономики Брауна обнаружил, что по меньшей мере 50 студентов использовали ChatGPT для мошенничества на домашнем экзамене, что обнажило кризис академической честности, который элитные университеты пытаются сдержать.
Водители из Калифорнии подали в суд на 7-Eleven, Circle K и BP из-за установления AI цен на бензин
Коллективный иск в Калифорнии обвиняет компании 7-Eleven, Circle K, BP, Marathon, Walmart и других в использовании инструмента ценообразования AI компании Kalibrate для незаконной координации цен на топливо на 1700 станциях.
Комиссия Ватикана по искусственному интеллекту проводит первое заседание, поскольку Папа Лев оказывает давление на крупные технологии
Междиастерическая комиссия по искусственному интеллекту Папы Льва XIV собралась впервые после его энциклики из 42 300 слов, предупреждающей о рисках ИИ, включая его использование в войне.
Большинство основных моделей искусственного интеллекта склоняются влево, говорится в новом исследовании политической предвзятости — за исключением Грока
В новом анализе шесть ведущих моделей искусственного интеллекта были протестированы по тысячам политических вопросов с отключенным веб-поиском. Четверо из шести наклонились влево, Грок сидел дальше всех справа, а Близнецы держались ближе всего к центру.
Hasbro столкнулась с негативной реакцией после того, как попросила актёров озвучивания Свинки Пеппы подписать пункт о правах голоса ИИ
Около 1000 актеров и агентов подписали открытое письмо после того, как Hasbro, как сообщается, попросила детей-актеров озвучивания в «Свинке Пеппе» отказаться от своих голосов для использования ИИ, что вызвало бурю негодования в британской индустрии.
Anthropic обвиняет Alibaba в незаконной дистилляции Клода в масштабной кампании с 25 000 аккаунтов
В письме от 10 июня Anthropic сообщил сенаторам США, что Alibaba провела «наглую» кампанию, используя около 25 000 мошеннических аккаунтов, чтобы выявить возможности Клода.
Глава ООН Гутерриш призвал компании, занимающиеся искусственным интеллектом, «откровенно признаться» в экологических издержках
Генеральный секретарь ООН Антониу Гутерриш запустил Инициативу экологической прозрачности искусственного интеллекта, призывая разработчиков раскрывать информацию об использовании энергии и воды в центрах обработки данных и взять на себя обязательства по использованию экологически чистой энергии к 2030 году.
SZA раскритиковала Suno после того, как выучила 238 ее песен и обучила свои музыкальные модели искусственного интеллекта
Обладательница Грэмми SZA говорит, что Суно обучала музыкальные модели искусственного интеллекта на 238 своих песнях, включая неизданные треки, называя эту практику «отвратительной» и предупреждая, что она эксплуатирует чернокожих исполнителей.
Разрушает ли ИИ наши навыки? Nature сообщает о первых доказательствах широко распространенного сокращения квалификации
Расследование Nature показало, что зависимость от искусственного интеллекта ухудшает способности врачей и инженеров-программистов, при этом уровень обнаружения и решения проблем без помощи искусственного интеллекта снижается.