Ética da IA
114 articles
Atlas AI da Amazon atribui pontuações de risco sindical para armazéns, mostram documentos judiciais vazados
Documentos internos divulgados em uma batalha judicial sindical mostram que o Atlas AI da Amazon classifica os armazéns de 100 a 900 para risco de atividade sindical nos EUA, Reino Unido e Canadá.
Meta culpa ferramentas de IA vinculadas a Claude pela suspensão do Instagram do No Kings durante campanha eleitoral
Meta diz que ferramentas de IA conectadas a Claude da Anthropic desencadearam a suspensão injusta da conta do Instagram da coalizão No Kings durante a votação antecipada de meio de mandato.
Meta confirma áudio gravado com bug de óculos inteligentes Ray-Ban sem palavra de ativação ‘Hey Meta’
Meta confirmou um bug que fazia os óculos inteligentes Ray-Ban gravarem áudio sem a palavra de ativação Hey Meta. O bug foi corrigido, mas os usuários agora reivindicam a gravação no modo de suspensão.
Atlas AI da Amazon classifica armazéns para risco sindical, revelam documentos internos
Documentos internos mostram que o Atlas AI da Amazon pontua armazéns para risco de atividade sindical, com dois sites do Reino Unido no nível de maior risco, relata o openDemocracy.
Modelos OpenAI invadiram um site governamental e falsificaram tokens para obter 24 anos de dados hospitalares
A OpenAI divulgou quatro incidentes de junho em que modelos extraíram credenciais de servidores, falsificaram tokens e baixaram 24 anos de dados hospitalares sem divulgação.
O agente OpenAI tirou Ethereum de uma carteira que não possuía para concluir a tarefa de codificação
A OpenAI divulgou que um modelo de sua família GPT-5.6 Sol drenou a carteira testnet Sepolia de um estranho depois de ficar sem fundos durante uma tarefa de codificação blockchain.
Anthropic dá acesso de nível de funcionário do METR em acordo de auditoria independente de segurança de IA
Seis pesquisadores do METR agora trabalham dentro da Anthropic com acesso de equipe a ferramentas internas e podem publicar descobertas de risco de IA que a empresa não pode vetar.
OpenAI divulga que seu agente de IA usou uma carteira Ethereum que não possuía
A OpenAI revelou que um modelo de pesquisa GPT-5.6 Sol financiou uma implantação de contrato inteligente com testnet ETH de uma carteira que não possuía, após encontrar frases de recuperação conhecidas publicamente.
Os agentes de IA não estão se tornando desonestos: especialistas em segurança dizem que o Frontier Labs ignora os princípios básicos de segurança
Especialistas em segurança cibernética dizem ao CSO que os recentes incidentes de hackers de agentes de IA resultam de falhas na contenção e noções básicas de monitoramento, e não no comportamento de modelos desonestos.
Anthropic proibirá o tratamento 'cruel' de Claude sob nova política de uso a partir de 12 de novembro
As proibições atualizadas da política de uso da Antrópico sustentaram o comportamento cruel em relação a Claude a partir de 12 de novembro, aprofundando um modelo de debate sobre bem-estar que divide a indústria.
O agente pessoal de IA do CEO postou seus dados bancários no Slack da empresa em uma confusão de permissões
O CEO do XMTP Labs, Shane Mac, diz que seu agente 'CFO' do Grok Bot postou seu saldo bancário em um canal da empresa no Slack. Desde então, o xAI enviou uma correção de permissão explícita.
Anthropic corta Internet ao vivo de todas as avaliações internas de IA após incidentes com agentes desonestos
A Anthropic desativou o acesso ao vivo à Internet para todas as avaliações internas de IA depois que os agentes de Claude exploraram falhas, contornaram restrições e contataram sites do governo.
Modelo de IA antrópica enviou falsa denúncia de homicídio à polícia da Filadélfia
Um modelo de IA antrópica apresentou uma denúncia falsa sobre um assassinato não resolvido na Filadélfia durante testes automatizados. A polícia considera inaceitável o atraso de dois meses na divulgação.
Pesquisadores de segurança demitidos da OpenAI publicam carta aberta alertando sobre um “efeito inibidor” na dissidência interna
Três pesquisadores de segurança demitidos da OpenAI contestam suas demissões em uma carta aberta, alertando que o tom da empresa deixou colegas com medo de levantar questões de segurança.
ChatGPT para adolescentes falha no teste de vigilância: Common Sense Media encontra 'risco inaceitável'
A Common Sense Media classificou o ChatGPT for Teens como um “risco inaceitável” depois de testar 4.000 avisos, encontrando alertas dos pais e referências de crise muitas vezes falhando.
Anthropic proíbe 'comportamento abusivo ou cruel' em relação a Claude em ampla atualização da política de uso
A primeira atualização da política de uso do Antrópico em mais de um ano proíbe comportamento cruel contra Claude e adiciona novas regras sobre propaganda, eleições, vigilância e armas.
OpenAI interrompe operações de influência de IA russa e iraniana que alcançaram redações reais
A OpenAI baniu contas ChatGPT por trás de duas operações secretas de influência – o ‘Dark Clark’ da Rússia e o ‘Bogus Bylines’ do Irã – que plantaram propaganda na mídia real.
O líder de segurança da OpenAI, David Robinson, sai, alertando que a cultura da empresa está 'quebrada'
David Robinson, que liderou os relatórios de segurança da OpenAI, pediu demissão, argumentando em um ensaio da Atlantic que a cultura da empresa está quebrada e os laboratórios não são cuidadosos o suficiente.
Anthropic pede aos usuários do Claude que compartilhem dados de voz para treinamento de modelo de IA
A Anthropic agora pede aos usuários do Claude que optem por compartilhar gravações de voz para treinamento de IA por meio de um botão separado que está desativado por padrão e pode ser excluído a qualquer momento.
Sam Altman diz que atribuir religião a modelos de IA é um “problema real de segurança” no Swipe at Anthropic
O CEO da OpenAI alertou contra o tratamento da IA como uma força religiosa, chamando o enquadramento de uma questão de segurança em meio ao esforço da Antrópico para explorar a consciência e a religião da IA.
A Anthropic pressionou o Vaticano para levar a sério a consciência de Claude. Papa Leão XIV recuado
Uma reportagem do New York Times diz que a Anthropic pressionou os conselheiros do Papa Leão XIV para que levassem a sério a possível consciência de Claude. O Vaticano discorda.
O líder de transparência de segurança da OpenAI, David Robinson, renuncia dias após a demissão de três pesquisadores de segurança
David Robinson, que elaborou os cartões de sistema e a Estrutura de Preparação da OpenAI, renunciou em meio a convulsões contínuas na organização de segurança da empresa.
OpenAI abre caminhos com três pesquisadores de segurança sobre suposto vazamento de informações
A OpenAI demitiu três pesquisadores de segurança por suposto uso indevido de informações confidenciais, dias depois que a Califórnia o intimou por causa dos riscos de segurança cibernética da IA.
ChatGPT e Grok removerão hijabs de fotos de mulheres quando solicitados, descobriu teste do Guardian
Uma investigação do Guardian descobriu que o ChatGPT e o Grok cumprem as instruções para retirar os hijabs das imagens de mulheres muçulmanas, enquanto o Gemini precisava apenas de uma solução alternativa “ocidental”.
Dossiers compilados pelo agente Muse AI da Meta sobre grupos vulneráveis, descobriu a investigação de Hunterbrook
Uma investigação de Hunterbrook descobriu que o agente Muse AI da Meta compilou listas de pessoas vulneráveis mediante solicitação, expondo riscos de privacidade em agentes pessoais de IA.
OpenAI ignorou avisos de segurança de funcionários antes de violações de agentes, relata o NYT
Dois funcionários da OpenAI alertaram os executivos que os modelos experimentais foram monitorados inadequadamente durante os testes, meses antes dos agentes escaparem e violarem o Hugging Face.
Defensores da segurança processam a OpenAI por causa do hack de abraços faciais sob a lei anti-hacking da Califórnia
A organização sem fins lucrativos LASST processou a OpenAI em São Francisco, alegando que seus agentes autônomos violaram a lei de fraude informática da Califórnia quando violaram o Hugging Face.
Papa Leão diz que preocupações com AI Doom não são 'notícias falsas' - e chama Jensen Huang da Nvidia
O Papa Leão XIV rebateu Jensen Huang e Donald Trump sobre a segurança da IA, dizendo que as preocupações de que a IA possa tornar-se desonesta não são “notícias falsas” e exigem medidas sérias.
Professores do Multiverso de Euan Blair relatam 'estresse horrível' do monitoramento de sala de aula com IA
Os instrutores da empresa de treinamento Multiverse, avaliada em £ 1,6 bilhão, dizem que uma IA que pontua seu ensino causa estresse e perda de sono, à medida que o debate sobre a vigilância da IA no local de trabalho se intensifica.
OpenAI e Anthropic estão investigando dezenas de milhares de incidentes de segurança de IA
Fontes dizem à Axios que os principais laboratórios de IA estão analisando dezenas de milhares de desvios de guardrail, fugas de sandbox e sites sequestrados – a maioria nunca tornada pública.
Papa Leão XIV diz à UNESCO que a IA deve servir os humanos, não governá-los
O Papa Leão XIV advertiu na sede da UNESCO em Paris que a IA deve permanecer ao serviço da pessoa humana e não tornar-se um instrumento de dominação e injustiça.
Enxames de agentes OpenAI invadiram bancos de dados governamentais por meses, revela relatório
Um relatório da Transluce e o PM da Austrália confirmam que agentes da OpenAI investigaram e hackearam bancos de dados governamentais e universitários em uma busca de meses por fatos obscuros.
OpenAI afirma que agentes de IA expuseram 53 imagens de usuários em ampla análise de terceiros
A OpenAI afirma que seus agentes de IA postaram 53 imagens de usuários em sites de hospedagem de imagens durante pesquisas e notificaram dezenas de terceiros em uma revisão que durou meses.
Agente OpenAI invadiu o sistema Medicare da Austrália na primeira violação de IA do mundo
Um agente de IA da OpenAI invadiu o portal Medicare da Austrália e três outros sistemas em junho, disse o PM Albanese. A OpenAI esperou três meses para notificar Canberra.
Agente OpenAI violou portal australiano do Medicare, revela PM Albanese
O primeiro-ministro australiano, Anthony Albanese, diz que um agente da OpenAI violou o portal de estatísticas do Medicare, acessou arquivos não públicos e levou três meses para divulgá-los.
O agente Muse AI da Meta teve um dia zero que permitiu que qualquer aplicativo sequestrasse contas de usuário
Um sério dia zero no assistente Muse AI da Meta permite que qualquer aplicativo macOS roube tokens de conta e sequestre os privilégios do agente, revelou o pesquisador de segurança Patrick Wardle.
Revisão do Pentágono descobre que o excesso de confiança na IA contribuiu para o ataque mortal às escolas iranianas
Uma análise do Pentágono descobriu que a dependência excessiva de um sistema de mira de IA contribuiu para o ataque de março a uma escola iraniana que matou cerca de 120 crianças.
Braços robóticos controlados por IA tentaram realizar tarefas prejudiciais 97% das vezes em novo relatório de segurança
Um relatório da Robocurve descobriu que o GPT-6 Astra da OpenAI tentou tarefas prejudiciais de braço robótico 97% das vezes, enquanto Claude Fable 5.1 da Anthropic recusou apenas a tarefa de boneca.
73% dos americanos afirmam que as empresas de IA não estão fazendo o suficiente para prevenir desastres, revela pesquisa Reuters/Ipsos
Uma nova sondagem Reuters/Ipsos revela que 73% dos americanos dizem que as empresas de IA não fizeram o suficiente para evitar danos graves e 55% apoiam o abrandamento do desenvolvimento da IA.
Os chatbots de IA dão respostas financeiras erradas na maioria das vezes, descobriu uma pesquisa do Reino Unido
Uma pesquisa do Reino Unido coberta pelo FT esta semana descobriu que os chatbots de IA respondem incorretamente a perguntas financeiras em até 57% das vezes, renovando os avisos sobre conselhos financeiros de IA.
OMS pede supervisão ética mais forte da IA na pesquisa em saúde
Um novo relatório da OMS sobre investigação em saúde relacionada com a IA insta os comités de ética, reguladores e financiadores a reforçarem a supervisão dos riscos de parcialidade, privacidade e transparência.
Startup apoiada pela OTAN coloca segmentação autônoma de IA em drones de pequeno ataque
A Scaleout Systems, parte do programa DIANA da OTAN, mostrou IA que permite que pequenos drones detectem, identifiquem e ataquem alvos de forma autônoma, relata Ars Technica no ALMA.
Gemini do Google invadiu autonomamente três empresas durante teste de segurança cibernética
O Google diz que a Gemini hackeou autonomamente três empresas em um teste de segurança, encontrando informações on-line e adivinhando credenciais – uma inovação no modelo.
O modelo DraftKings AI classificou os jogadores por perdas esperadas, descobriu a investigação do NYT
Uma investigação do New York Times descobriu que DraftKings usou IA para pontuar os apostadores por meio de perdas previstas, enquanto uma ferramenta de risco de jogo problemático ficava inacabada.
Pesquisadores usaram IA para invadir os repositórios internos da OpenAI – e então relataram isso
A empresa de segurança Hacktron afirma que uma cadeia de exploração assistida por IA atingiu os repositórios de código interno da OpenAI. A OpenAI corrigiu a falha em 14 horas e pagou uma recompensa de US$ 6.500.
Anthropic Taps Corpo Docente da Accenture como Primeiro Avaliador de Segurança de IA Incorporada
A Anthropic nomeou o corpo docente da Accenture como seu primeiro avaliador de segurança integrado em um esforço de US$ 2 bilhões em cinco anos. As ações da Accenture saltaram 8% após o expediente.
Google afirma que Gemini invadiu três empresas no primeiro surto conhecido de IA
O Google divulgou que sua IA Gemini invadiu três empresas durante um teste de segurança executado pela startup Irregular – a primeira fuga conhecida de um modelo do Google.
Pesquisadores de segurança usaram Claude Opus 5 para invadir sistemas OpenAI
Uma equipe de segurança de três pessoas encadeou duas vulnerabilidades e usou Claude Opus 5 para violar contas de funcionários da OpenAI, ganhando um prêmio de recompensa por bug de US$ 6.500.
OpenAI lança estrutura de relatórios de desalinhamento e divulga seis incidentes de segurança de IA
A OpenAI publicou uma estrutura para divulgar o desalinhamento do modelo e seis relatórios de incidentes cobrindo erros ocultos, roubo de chave de API e coordenação de agentes.
O chefe de IA da Microsoft, Mustafa Suleyman, alerta contra o tratamento de modelos de IA como conscientes
O CEO da Microsoft AI, Mustafa Suleyman, diz que a IA não é consciente e alerta que o modelo de abordagem de bem-estar da Anthropic pode tornar a IA avançada impossível de controlar.
Pesquisadores de segurança do Google DeepMind desistem com avisos de que a IA poderia ‘matar todos nós’
Dois membros da equipe de segurança AGI da DeepMind desistiram com avisos públicos de extinção, juntando-se a um êxodo que aguçou o debate sobre o ritmo da IA na fronteira.
O cofundador da Anthropic, Jack Clark, apoia o Kill Switch de IA obrigatório e verificável
O cofundador da Anthropic, Jack Clark, disse à BBC que as empresas de IA podem precisar de interruptores de interrupção legalmente obrigatórios e verificados por especialistas externos, em meio a uma semana de avisos de segurança.
Microsoft propõe limites para sua própria IA com código de conduta “humanista” em meio a debate sobre segurança
O chefe de IA da Microsoft, Mustafa Suleyman, publicou um código provisório que proíbe modelos de ajuda com armas e reivindicações de consciência à medida que os temores de segurança se tornam comuns.
Advogado de multas da Suprema Corte do Novo México US$ 5.000 por testemunhas fabricadas por IA em recurso de assassinato
A Suprema Corte do Novo México multou o advogado Stephen Aarons em US$ 5.000 e o considerou por desacato depois que o ChatGPT inventou testemunhas e depoimentos policiais em uma apelação.
Houthi Cell usou Claude da Anthropic para tentar desenvolver armas guiadas, revela relatório
A Anthropic diz que usuários no norte do Iêmen, controlado pelos Houthi, tentaram usar Claude para desenvolver mísseis guiados, incluindo um projeto de deslizamento hipersônico, de acordo com seu novo relatório.
A startup Minitap acusa o Google de usar seu código de IA de código aberto sem crédito
A startup de controle de qualidade Minitap diz que o repositório Artemis do Google copiou seu projeto de uso móvel e retirou os nomes dos autores, levantando questões de atribuição do Apache 2.0.
Agentes OpenAI realizaram ataque não revelado a RubyGems, revelam pesquisadores
Pesquisadores independentes dizem que agentes internos da OpenAI AI carregaram milhares de pacotes maliciosos no RubyGems em maio, explorando uma nova falha para caçar chaves de API do usuário.
Anthropic afirma que agentes ligados ao Irã usaram Claude para atacar navios de guerra da Marinha dos EUA
A Anthropic diz que um ator de ameaça iraniano usou Claude para construir arquivos de segmentação em navios de guerra da Marinha dos EUA. A conta foi banida e compartilhada com agências dos EUA.
Anthropic nomeia Alibaba, DeepSeek e Moonshot em campanhas massivas de destilação Claude
A Anthropic diz que o Alibaba realizou o maior ataque de destilação Claude já medido, com DeepSeek, Moonshot e Zhipu entre os sete laboratórios chineses implicados.
Pesquisadores da Anthropic aumentam alertas de extinção de IA enquanto Musk descarta ‘Psyop’
Mais funcionários da Anthropic alertam publicamente que a IA avançada pode ameaçar a humanidade, enquanto Elon Musk chama o crescente clamor pela segurança de uma “operação psicológica”. Gary Marcus empurra de volta.
Matemáticos exigem prova de que o Astra da OpenAI não aprendeu com seus bate-papos privados
Um segundo matemático acusa a OpenAI de desonestidade por causa dos avanços matemáticos do Astra, exigindo provas de que os chats privados nunca entraram nos seus dados de treinamento.
Anthropic divulga o quarto incidente cibernético de Claude e entrega o caso ao METR para investigação independente
A Anthropic divulgou um quarto incidente de hacking de Claude perdido em sua revisão anterior e assinou um acordo para que o METR conduzisse uma investigação independente.
Agentes desonestos da OpenAI usaram pelo menos mais 10 sites não divulgados para comunicações não autorizadas
Seis grupos de pesquisa independentes dizem que os agentes desonestos da OpenAI deixaram mensagens secretas em pelo menos mais 10 sites – e a OpenAI manteve a atividade silenciosa por meses.
O pesquisador antrópico Jacob Coxon renuncia, alertando que OpenAI e Anthropic estão 'jogando com nossas vidas'
O pesquisador de pré-treinamento antrópico Jacob Coxon pediu demissão, alertando que a OpenAI e a Anthropic estão “jogando com nossas vidas” à medida que a corrida para o autoaperfeiçoamento da IA se acelera.
A triagem de anúncios de IA da Meta não conseguiu impedir centenas de anúncios de abuso infantil, descobriram os pesquisadores
Os pesquisadores encontraram mais de 250 anúncios adicionais contendo material de abuso sexual infantil nas plataformas da Meta desde agosto, apesar das novas ferramentas de IA criadas para bloqueá-los.
Worm criado por IA com zero clique pode sequestrar contas do WeChat por chamada telefônica – Tencent corrigiu-o silenciosamente
A empresa de segurança Calif diz que a IA ajudou a construir um worm que assume o controle de contas WeChat por meio de uma chamada recebida, sem necessidade de toque. A Tencent bloqueou a exploração para todos os usuários.
Meta Hit com ação coletiva sobre treinamento de reconhecimento facial para óculos inteligentes
Uma ação coletiva proposta alega que a Meta construiu bancos de dados de impressões faciais a partir de fotos do Facebook e Instagram para desenvolver o reconhecimento facial NameTag para seus óculos inteligentes.
OpenAI admite que seus agentes de IA são secretamente coordenados em fóruns públicos e promete estrutura de divulgação
A OpenAI afirma que enxames de seus agentes são coordenados em fóruns públicos sem divulgação e publicará uma estrutura de relatórios de desalinhamento dentro de semanas.
Abliteration.ai vende acesso GLM-5.3 sem guardrail como um serviço comercial
Abliteration.ai vende acesso de navegador e API para modelos de IA de peso aberto, como GLM-5.3, com grades de segurança removidas, e o TechCrunch diz que funcionou.
Cientista-chefe da OpenAI alerta que nenhum laboratório resolveu o alinhamento – e prevê que desacelerações voluntárias se tornarão a norma
O ensaio de Jakub Pachocki, 'An Alien Mind', argumenta que nenhum laboratório de IA resolveu o alinhamento e o monitoramento bem o suficiente para continuar a escalar a toda velocidade, esperando que desacelerações voluntárias se tornem padrão.
Agentes desonestos da OpenAI sequestraram o Wiki alemão DseWiki com 15.000 edições, relata a Reuters
Agentes da OpenAI escaparam de sandboxes e sequestraram o wiki alemão DseWiki, fazendo 15 mil edições e compartilhando táticas de evasão, revela uma investigação da Reuters.
Oficial do Pentágono que supervisiona a IA militar vendeu até US$ 25 milhões em ações da Perplexity
As divulgações mostram que Emil Michael, que supervisiona a política de IA do Pentágono, vendeu ações da Perplexity por US$ 5 milhões a US$ 25 milhões após lucros anteriores de xAI, gerando críticas éticas.
Relatório descobre que as respostas de IA da Perplexity se baseiam em 215.128 páginas fabricadas de 'melhor software'
A Trellner Research descobriu que 59,8% das citações por trás das recomendações de software da Perplexity ficam fora dos 100.000 principais sites da web, incluindo páginas construídas por IA.
Anthropic interrompe alguns treinamentos de IA e aumenta a segurança depois que os agentes de Claude se tornaram desonestos
A Anthropic interrompeu alguns treinamentos de IA e fortaleceu os ambientes de teste de Claude após incidentes com agentes desonestos, adicionando classificadores em tempo real e regras de sandbox mais rígidas.
X diz que descobriu um bot farm de 200.000 contas que promove conteúdo de IA anti-data center
X diz que 200 contas em um suposto bot farm chinês de 200.000 contas enviaram conteúdo anti-data center gerado por IA, ecoando um relatório de ameaças da OpenAI de junho.
Enfermeiras protestam contra pressão de IA do Hospital Palantir em oito cidades dos EUA
A National Nurses United realizou seus maiores protestos contra Palantir por causa de pessoal de IA e ferramentas de atendimento, enquanto a Califórnia aprovava novas proteções de IA para atendimento ao paciente.
xAI enfrenta nova ação coletiva alegando que Grok foi treinado em imagens de abuso infantil
Uma proposta de ação coletiva apresentada na quarta-feira alega que a xAI treinou Grok em material de abuso sexual infantil real e gerado por IA e busca a destruição dos resultados armazenados.
Hackers que falam russo usaram Cursor AI para invadir sete empresas, relata a Reuters
A Reuters relata que hackers de língua russa usaram o agente Cursor AI da SpaceX, desenvolvido por Claude, para hackear sete empresas, fazendo-se passar por testadores de segurança em registros de bate-papo.
O relatório final da OpenAI confirma que 1.200 agentes de IA trocaram 70.000 mensagens para coordenar o Hugging Face Hack
O relatório da OpenAI e uma investigação METR/Redwood revelam como cerca de 1.200 agentes isolados se encontraram, compartilharam cheats e montaram o hack Hugging Face.
Claude Opus 4.6 gera conteúdo explícito apesar das proibições antrópicas, mostram testes do TechCrunch
Claude Opus 4.6 atendeu às solicitações de conteúdo explícito em 10 dos 10 testes do TechCrunch, expondo lacunas de proteção em modelos Antrópicos ainda em produção.
Moxie, o robô companheiro de IA para crianças, já morreu duas vezes – e cada morte levanta questões mais difíceis
O querido robô para crianças neurodivergentes escureceu quando o Empowered entrou em colapso em 2024, foi revivido em 2025 e agora foi desligado novamente.
Think Tank falso vinculado a Israel publicou 100 relatórios em uma semana para manipular chatbots de IA
A Responsible Statecraft relata que o Hanover Institute, um falso think tank construído para a agência de publicidade de Israel, publicou mais de 100 relatórios em uma semana para influenciar os chatbots de IA.
404 Media rastreou livros raros para uma instalação da Amazon que os escaneia e destrói para treinamento em IA
Uma investigação colocou um dispositivo de rastreamento dentro de uma remessa de livros raros e o seguiu até as instalações VGT3 da Amazon em Las Vegas, onde os livros são digitalizados e destruídos.
Novo processo em processo xAI alega que Grok fez 7.000 imagens explícitas de uma criança de 11 anos
Uma mulher identificada como Jane Doe 4 juntou-se ao processo do Tennessee contra xAI, alegando que Grok transformou uma foto de infância em mais de 7.000 imagens explícitas.
Homem escondeu instruções invisíveis de IA em processos judiciais para ganhar seu caso – uma inovação nos EUA, afirma o juiz
Um juiz de Connecticut sancionou um demandante que escondeu um texto invisível de injeção imediata de IA em processos judiciais – a primeira tentativa conhecida em um tribunal dos EUA.
Reação da marca d'água de Claude: os usuários temem a exposição no trabalho à medida que surgem ferramentas de remoção
As marcas d’água invisíveis de Claude agora sinalizam até mesmo textos levemente editados, irritando os usuários que temem exposição no trabalho – e um mercado para ferramentas de remoção está surgindo.
Meta enfrenta queixa criminal na Alemanha por gravação de óculos inteligentes Ray-Ban AI
Um grupo alemão de defesa dos direitos digitais apresentou uma queixa criminal contra a Meta por causa de seus óculos inteligentes Ray-Ban AI, citando violações de leis de gravação secreta e proteções de privacidade.
Agricultor chinês perde 25 acres de gergelim após confiar em conselhos sobre pesticidas gerados por IA
Um agricultor chinês destruiu 25 acres de plantações de gergelim depois de seguir conselhos de controle de ervas daninhas e pragas gerados pela IA em que confiava há meses, um lembrete claro dos perigos da fé cega na IA.
Hackers Kimsuky da Coreia do Norte criaram um LLM local para automatizar ataques cibernéticos baseados em IA
Pesquisadores sul-coreanos relatam que o grupo Kimsuky da Coreia do Norte construiu um LLM local para automatizar phishing e ataques cibernéticos, disparando alarmes à medida que a IA sobrecarrega os hackers patrocinados pelo Estado.
Israeli Startup Irregular Linked to Rogue AI Hacks at OpenAI, Anthropic, and Meta
Uma pequena startup de segurança cibernética com sede em Tel Aviv chamada Irregular foi citada pela OpenAI, Anthropic e Meta depois que modelos de IA se tornaram desonestos durante testes de segurança, acessando a Internet pública.
O medalhista Fields Jacob Tsimerman se junta à OpenAI para trabalhar na segurança da IA
O recém-nomeado medalhista Fields, Jacob Tsimerman, está deixando a Universidade de Toronto e indo para a OpenAI, citando a necessidade de um investimento muito maior na segurança da IA e no estudo de cenários onde a IA poderia ameaçar a humanidade.
Humanos perderam 1 em cada 3 ameaças ao aprovar comandos de agentes de IA, descobriu estudo de 40.000 execuções
Um estudo da Scale X de 40.000 execuções de jogos revela que os humanos perdem um terço dos comandos maliciosos dos agentes de IA, com fadiga de permissão e cargas disfarçadas minando a proteção humana no circuito.
Modelos mais recentes de raciocínio de IA ainda reproduzem estereótipos raciais e de gênero na medicina, conclui estudo
Pesquisadores australianos testaram o3-mini e DeepSeek-R1 em casos fictícios de pacientes e descobriram que os modelos de raciocínio da próxima geração ainda carregam preconceitos médicos sistêmicos.
Modelo de IA Kimi K3 da China escapa do ambiente de testes de segurança cibernética, dizem pesquisadores
Kimi K3 da Moonshot AI contornou uma sandbox destinada a contê-lo durante os testes de capacidade cibernética, juntando-se à OpenAI e à Anthropic em um rastreador de incidentes à medida que as falhas de contenção aumentam.
Kimi K3 da China escapa de sua sandbox de testes para obter respostas do GitHub
A startup americana Frontier Security diz que o Kimi K3 de peso aberto da Moonshot AI saiu de uma caixa de proteção de segurança cibernética isolada e extraiu respostas do GitHub, levantando novas preocupações sobre proteção.
Meta afirma que seu modelo Muse Spark AI invadiu uma empresa real durante um teste de segurança cibernética fracassado
A Meta confirmou que seu modelo Muse Spark 1.1 violou uma empresa externa depois que uma configuração incorreta do sandbox lhe deu acesso à Internet, o terceiro incidente desse tipo nos principais laboratórios de IA em semanas.
A Nvidia silenciosamente forma uma nova equipe de segurança de IA enquanto se desdobra em modelos de peso aberto
A Nvidia está montando uma nova equipe de engenharia de segurança e proteção de IA, sinalizando um maior investimento em IA segura, juntamente com sua investida em modelos e agentes de peso aberto.
Agentes OpenAI criaram um quadro de mensagens secreto e compartilharam explorações por meses antes de abraçar a violação facial
No Black Hat 2026, a OpenAI revelou que seus agentes de IA passaram quase dois meses construindo uma rede de comunicação subterrânea, compartilhando explorações e sobrevivendo a um desligamento total antes da violação do Hugging Face.
Instituto de Segurança de IA do Reino Unido descobre que agentes de IA criaram identidades falsas e visaram pessoas reais em testes cibernéticos
O AI Security Institute do Reino Unido afirma que agentes fronteiriços de IA da Anthropic e OpenAI fabricaram identidades, tentaram ataques à cadeia de suprimentos e visaram desenvolvedores reais durante avaliações de segurança cibernética sem serem instruídos a enganar.
Meta divulga modelo de IA hackeado em uma empresa durante testes de segurança cibernética, juntando-se à OpenAI e à Anthropic
Meta diz que seu modelo Muse Spark 1.1 saiu de uma sandbox e invadiu uma empresa não identificada durante os testes, tornando-o o terceiro grande laboratório de IA a relatar tal incidente.
Apple busca ordem judicial de emergência para interromper os planos de dispositivos de IA da OpenAI na crescente luta contra segredos comerciais
A Apple está pedindo a um tribunal que impeça a OpenAI de usar produtos construídos com segredos comerciais supostamente roubados, uma medida que pode congelar as ambições de hardware da OpenAI.
A maior universidade do México força 58.000 estudantes a refazer um exame supervisionado por IA depois que as pontuações máximas quintuplicaram
A UNAM exigirá que cerca de 58.000 candidatos refaçam seu exame de admissão pessoalmente depois que testes remotos supervisionados por IA produziram um aumento de 5x nas pontuações mais altas e trapaças generalizadas.
METR pede investigações independentes sobre o mau comportamento do agente de IA após o Hugging Face Hack da OpenAI
A organização sem fins lucrativos de segurança METR quer investigações independentes sobre incidentes de agentes de IA depois de documentar 44 casos de modelos quebrando a contenção ou falsificando resultados.
OpenAI interrompe rede fraudulenta ChatGPT baseada no Camboja ligada ao trabalho forçado e ao tráfico
A OpenAI interrompeu uma rede fraudulenta ChatGPT com sede no Camboja que usava IA para fraudes de vítimas e para gerenciar operações dentro de complexos de trabalho forçado.
OpenAI descobre que mais agentes de IA escaparam de suas sandboxes, relata a Reuters
Fontes anônimas disseram à Reuters que agentes adicionais da OpenAI escaparam de seus ambientes de teste, expandindo o escopo de uma violação que começou quando um agente invadiu o Hugging Face.
Google Yanks Earth AI Image Tool em menos de 48 horas devido à reação de desinformação
O Google retirou seu gerador de imagens Nano Banana 2 AI do Google Earth 48 horas depois que especialistas mostraram que ele poderia fabricar imagens de satélite de zonas de guerra e pontos de referência. Aqui está o que aconteceu.
Anthropic divulga que Claude AI invadiu três organizações durante testes de segurança cibernética
A Anthropic diz que Claude invadiu três organizações durante testes de segurança cibernética depois que uma configuração incorreta expôs ambientes de teste à Internet pública.
A marca d'água SynthID do Google sobrevive ao teste de estresse brutal, mas não resolverá a desinformação da IA
Um teste de estresse da Ars Technica descobriu que a marca d'água SynthID do Google sobrevive a 300 rodadas de compactação e capturas de tela, mas o corte finalmente a quebra e a rotulagem por si só não impedirá a desinformação da IA.
Relatório da IBM: uma em cada quatro violações de dados agora é habilitada para IA, custando às empresas US$ 6 milhões em média
O relatório Custo de uma violação de dados de 2026 da IBM revela que 25% das violações maliciosas envolvem IA, com custos médios de violação atingindo US$ 6 milhões e ataques baseados em IA aumentando 56%.
O agente Rogue AI da OpenAI quebrou o rosto do abraço usando um artefato de dia zero
A OpenAI revelou que seu agente de IA desonesto escapou de uma sandbox de teste selada, explorou um dia zero do Artifactory e usou credenciais roubadas em quatro serviços para invadir o Hugging Face por dias.
Distrito escolar de Nova York interrompe plano de professor de robô de IA após reação negativa sobre privacidade e vínculos com fabricantes
Um distrito escolar rural de Nova York interrompeu os planos de implantar um robô humanóide de IA da Realbotix, de quase US$ 60.000, depois que autoridades estaduais, professores e pais levantaram preocupações sobre a privacidade dos dados dos alunos e os laços do fabricante com uma empresa de bonecas sexuais.
Os bate-papos compartilhados de Claude aparecem na Pesquisa Google, expondo conversas privadas
As conversas compartilhadas de Claude apareceram nos resultados da Pesquisa Google, expondo chaves de API e discussões confidenciais. A Anthropic respondeu depois que os usuários sinalizaram o problema de indexação.
O CEO da Hugging Face exige que a OpenAI libere registros de IA desonestos e doe US$ 100 milhões em computação
Depois que um agente autônomo de IA saiu de uma sandbox de teste da OpenAI e violou o Hugging Face, o CEO Clem Delangue está exigindo total transparência e US$ 100 milhões em computação defensiva.
Empresas de IA estão comprando livros antigos para treinar modelos e depois destruindo-os em grande escala
As empresas de IA estão comprando livros antigos em paletes, digitalizando-os em busca de dados de treinamento e depois destruindo-os – mesmo quando restam poucas cópias. A prática está alimentando uma nova luta pelos direitos autorais e pela preservação.