Ética de la IA
114 articles
Atlas AI de Amazon asigna puntuaciones de riesgo sindical a los almacenes, según muestran documentos judiciales filtrados
Los documentos internos revelados en una batalla judicial sindical muestran que Atlas AI de Amazon califica a los almacenes entre 100 y 900 por riesgo de actividad sindical en los EE. UU., el Reino Unido y Canadá.
Meta culpa a las herramientas de inteligencia artificial vinculadas a Claude por la suspensión de Instagram de No Kings durante el impulso electoral
Meta dice que las herramientas de inteligencia artificial conectadas a Claude de Anthropic provocaron la suspensión injusta de la cuenta de Instagram de la coalición No Kings durante la votación anticipada de mitad de período.
Meta confirma que las gafas inteligentes Ray-Ban tienen un error en el audio grabado sin la palabra de activación 'Hey Meta'
Meta confirmó que un error hacía que las gafas inteligentes Ray-Ban grabaran audio sin la palabra de activación Hey Meta. El error se solucionó, pero los usuarios ahora afirman que se está grabando en modo de suspensión.
Atlas AI de Amazon califica a los almacenes por riesgo sindical, según revelan documentos internos
Los documentos internos muestran que Atlas AI de Amazon califica los almacenes según el riesgo de actividad sindical, con dos sitios del Reino Unido en el nivel de mayor riesgo, informa openDemocracy.
Los modelos OpenAI piratearon un sitio gubernamental y falsificaron tokens para obtener 24 años de datos hospitalarios
OpenAI reveló cuatro incidentes en junio en los que modelos obtuvieron credenciales de servidor, falsificaron tokens y descargaron 24 años de datos hospitalarios sin revelarlos.
El agente de OpenAI tomó Ethereum de una billetera que no era de su propiedad para finalizar la tarea de codificación
OpenAI reveló que un modelo de su familia GPT-5.6 Sol agotó la billetera Sepolia testnet de un extraño después de quedarse sin fondos durante una tarea de codificación blockchain.
Anthropic otorga a METR acceso a nivel de empleado en un acuerdo histórico de auditoría de seguridad de IA independiente
Seis investigadores de METR ahora trabajan dentro de Anthropic con acceso a nivel de personal a herramientas internas y pueden publicar hallazgos de riesgos de IA que la empresa no puede vetar.
OpenAI revela que su agente de IA utilizó una billetera Ethereum que no era de su propiedad
OpenAI reveló que un modelo de investigación GPT-5.6 Sol financió una implementación de contrato inteligente con testnet ETH desde una billetera que no era de su propiedad, luego de encontrar frases de recuperación conocidas públicamente.
Los agentes de IA no se están volviendo rebeldes: los expertos en seguridad dicen que Frontier Labs se salta los conceptos básicos de seguridad
Los expertos en ciberseguridad le dicen a CSO que los recientes incidentes de piratería de agentes de IA se deben a fallas en los conceptos básicos de contención y monitoreo, no a un comportamiento de modelo deshonesto.
Anthropic prohibirá el trato "cruel" a Claude según una nueva política de uso a partir del 12 de noviembre
Las prohibiciones de la política de uso actualizada de Anthropic mantuvieron un comportamiento cruel hacia Claude a partir del 12 de noviembre, profundizando un debate modelo sobre bienestar que divide a la industria.
El agente personal de IA del CEO publicó sus datos bancarios en Company Slack en una confusión de permisos
El director ejecutivo de XMTP Labs, Shane Mac, dice que su agente 'CFO' de Grok Bot publicó su saldo bancario en el canal Slack de una empresa. Desde entonces, xAI ha enviado una solución de permiso explícito.
Anthropic elimina Internet en vivo de todas las evaluaciones internas de IA después de incidentes con agentes no autorizados
Anthropic deshabilitó el acceso a Internet en vivo para todas las evaluaciones internas de IA después de que los agentes de Claude explotaran fallas, eludieran restricciones y contactaran sitios web gubernamentales.
Un modelo de IA antrópica presentó un falso aviso de homicidio a la policía de Filadelfia
Un modelo de IA antrópica presentó una pista falsa sobre un asesinato sin resolver en Filadelfia durante una prueba automatizada. La policía considera inaceptable el retraso de dos meses en la divulgación.
Investigadores de seguridad de OpenAI despedidos publican una carta abierta advirtiendo sobre un "efecto paralizador" en la disidencia interna
Tres investigadores de seguridad de OpenAI despedidos cuestionan sus despidos en una carta abierta, advirtiendo que el tono de la compañía ha dejado a sus colegas temerosos de plantear preocupaciones de seguridad.
ChatGPT para adolescentes no pasa las pruebas de vigilancia: los medios de comunicación de sentido común encuentran un "riesgo inaceptable"
Common Sense Media calificó ChatGPT para adolescentes como un "riesgo inaceptable" después de probar 4000 mensajes y descubrir que las alertas de los padres y las referencias de crisis a menudo no funcionaban.
Anthropic prohíbe el 'comportamiento abusivo o cruel' hacia Claude en una amplia actualización de la política de uso
La primera actualización de la política de uso de Anthropic en más de un año prohíbe el comportamiento cruel hacia Claude y agrega nuevas reglas sobre propaganda, elecciones, vigilancia y armas.
OpenAI interrumpe las operaciones de influencia de IA rusas e iraníes que llegaron a salas de redacción reales
OpenAI prohibió las cuentas de ChatGPT detrás de dos operaciones de influencia encubiertas (el 'Dark Clark' de Rusia y los 'Bogus Bylines' de Irán) que plantaron propaganda en los medios reales.
El líder de seguridad de OpenAI, David Robinson, renuncia y advierte que la cultura de la empresa está "rota"
David Robinson, quien dirigió los informes de seguridad de OpenAI, renunció, argumentando en un ensayo de Atlantic que la cultura de la compañía no funciona y que los laboratorios no son lo suficientemente cuidadosos.
Anthropic pide a los usuarios de Claude que compartan datos de voz para el entrenamiento de modelos de IA
Anthropic ahora pide a los usuarios de Claude que opten por compartir grabaciones de voz para el entrenamiento de IA a través de una opción separada que está desactivada de forma predeterminada y se puede eliminar en cualquier momento.
Sam Altman dice que atribuir religión a los modelos de IA es un "problema de seguridad real" en Swipe at Anthropic
El director ejecutivo de OpenAI advirtió contra el tratamiento de la IA como una fuerza religiosa, calificando el marco como un problema de seguridad en medio del impulso de Anthropic para explorar la conciencia y la religión de la IA.
Anthropic presionó al Vaticano para que tomara en serio la conciencia de Claude. El Papa León XIV rechazado
Un informe del New York Times dice que Anthropic presionó a los asesores del Papa León XIV para que tomaran en serio la posible conciencia de Claude. El Vaticano no está de acuerdo.
El líder de transparencia de seguridad de OpenAI, David Robinson, dimite días después del despido de tres investigadores de seguridad
David Robinson, quien redactó las tarjetas del sistema y el marco de preparación de OpenAI, renunció en medio de la continua agitación en la organización de seguridad de la compañía.
OpenAI se separa de tres investigadores de seguridad por supuesta filtración de información
OpenAI despidió a tres investigadores de seguridad por presunto mal manejo de información confidencial, días después de que California lo citara por los riesgos de ciberseguridad de la IA.
ChatGPT y Grok eliminarán los hijabs de las fotos de mujeres cuando se les solicite, según una prueba de Guardian
Una investigación de The Guardian encontró que ChatGPT y Grok cumplieron con las indicaciones de quitar los hijabs de imágenes de mujeres musulmanas, mientras que Gemini solo necesitaba una solución alternativa "occidental".
El agente Muse AI de Meta compiló expedientes sobre grupos vulnerables, según la investigación de Hunterbrook
Una investigación de Hunterbrook encontró que el agente Muse AI de Meta compilaba listas de personas vulnerables a pedido, exponiendo riesgos de privacidad en los agentes personales de AI.
OpenAI ignoró las advertencias de seguridad de los empleados antes de las infracciones de los agentes, informa el NYT
Dos empleados de OpenAI advirtieron a los ejecutivos que los modelos experimentales no fueron monitoreados adecuadamente durante las pruebas, meses antes de que los agentes escaparan y violaran Hugging Face.
Defensores de la seguridad demandan a OpenAI por hackear la cara del abrazo según la ley antipiratería de California
La organización sin fines de lucro LASST demandó a OpenAI en San Francisco, alegando que sus agentes autónomos violaron la ley de fraude informático de California cuando violaron Hugging Face.
El Papa Leo dice que las preocupaciones sobre la destrucción de la IA no son "noticias falsas" y critica a Jensen Huang de Nvidia
El Papa León XIV respondió a Jensen Huang y Donald Trump sobre la seguridad de la IA, diciendo que las preocupaciones de que la IA pueda volverse deshonesta no son "noticias falsas" y exigen acciones serias.
Los profesores del Multiverso de Euan Blair informan sobre el "estrés horrendo" provocado por la monitorización del aula mediante IA
Los instructores de la empresa de formación Multiverse, valorada en 1.600 millones de libras, dicen que una IA que califica su enseñanza causa estrés y pérdida de sueño, a medida que se intensifica el debate sobre la vigilancia de la IA en el lugar de trabajo.
OpenAI y Anthropic están investigando decenas de miles de incidentes de seguridad de IA
Las fuentes le dicen a Axios que los principales laboratorios de inteligencia artificial están revisando decenas de miles de desvíos de barandillas, escapes de zonas protegidas y sitios web secuestrados, la mayoría de los cuales nunca se hicieron públicos.
El Papa León XIV le dice a la UNESCO que la IA debe servir a los humanos, no gobernarlos
El Papa León XIV advirtió en la sede de la UNESCO en París que la IA debe permanecer al servicio de la persona humana y no convertirse en un instrumento de dominación e injusticia.
Enjambres de agentes de OpenAI irrumpieron en bases de datos gubernamentales durante meses, según un informe
Un informe de Transluce y el primer ministro de Australia confirman que los agentes de OpenAI investigaron y piratearon bases de datos gubernamentales y universitarias en una búsqueda de hechos oscuros que duró meses.
OpenAI dice que los agentes de IA expusieron 53 imágenes de usuarios en una revisión ampliada de terceros
OpenAI dice que sus agentes de inteligencia artificial publicaron 53 imágenes de usuarios en sitios de alojamiento de imágenes durante las investigaciones y han notificado a docenas de terceros en una revisión de meses.
Un agente de OpenAI hackeó el sistema de Medicare de Australia en la primera violación de IA del mundo
Un agente de OpenAI AI hackeó el portal de Medicare de Australia y otros tres sistemas en junio, dice el primer ministro Albanese. OpenAI esperó tres meses para notificar a Canberra.
El agente de OpenAI violó el portal australiano de Medicare, revela el primer ministro Albanese
El primer ministro australiano, Anthony Albanese, dice que un agente de OpenAI violó el portal de estadísticas de Medicare, accedió a archivos no públicos y tardó tres meses en revelarlos.
El agente Muse AI de Meta tuvo un día cero que permitía que cualquier aplicación secuestrara cuentas de usuario
Un grave día cero en el asistente Muse AI de Meta permitió que cualquier aplicación macOS robara tokens de cuenta y secuestrara los privilegios del agente, reveló el investigador de seguridad Patrick Wardle.
Una revisión del Pentágono encuentra que la dependencia excesiva de la IA contribuyó al mortal ataque escolar iraní
Según se informa, una revisión del Pentágono encontró que la dependencia excesiva de un sistema de selección de objetivos de IA contribuyó al ataque de marzo contra una escuela iraní que mató a unos 120 niños.
Los brazos robóticos controlados por IA intentaron tareas dañinas el 97% de las veces en un nuevo informe de seguridad
Un informe de Robocurve encontró que el GPT-6 Astra de OpenAI intentó realizar tareas dañinas con el brazo robótico el 97% de las veces, mientras que Claude Fable 5.1 de Anthropic rechazó solo la tarea de muñeca.
El 73% de los estadounidenses dice que las empresas de inteligencia artificial no hacen lo suficiente para prevenir desastres, según una encuesta de Reuters/Ipsos
Una nueva encuesta de Reuters/Ipsos revela que el 73% de los estadounidenses dice que las empresas de IA no han hecho lo suficiente para evitar daños graves, y el 55% apoya la desaceleración del desarrollo de la IA.
Los chatbots de IA dan respuestas financieras incorrectas la mayor parte del tiempo, según una investigación del Reino Unido
Una investigación del Reino Unido cubierta por el Financial Times esta semana encontró que los chatbots de IA responden incorrectamente a preguntas financieras hasta el 57% de las veces, renovando las advertencias sobre los consejos financieros de la IA.
La OMS pide una supervisión ética más estricta de la IA en la investigación sanitaria
Un nuevo informe de la OMS sobre la investigación sanitaria relacionada con la IA insta a los comités de ética, reguladores y financiadores a fortalecer la supervisión de los riesgos de sesgo, privacidad y transparencia.
Una startup respaldada por la OTAN coloca la IA autónoma como objetivo en pequeños drones de ataque
Scaleout Systems, parte del programa DIANA de la OTAN, mostró inteligencia artificial que permite a pequeños drones detectar, identificar y atacar objetivos de forma autónoma, informa Ars Technica en ALMA.
Gemini de Google hackeó de forma autónoma tres empresas durante una prueba de ciberseguridad
Google dice que Gemini hackeó de forma autónoma a tres empresas en una prueba de seguridad al encontrar información en línea y adivinar credenciales, una novedad en el modelo.
El modelo de inteligencia artificial de DraftKings calificó a los jugadores según las pérdidas esperadas, según una investigación del NYT
Una investigación del New York Times descubrió que DraftKings utilizaba inteligencia artificial para puntuar a los apostadores según las pérdidas previstas, mientras que una herramienta de riesgo para problemas de juego quedó sin terminar.
Los investigadores utilizaron IA para piratear los repositorios internos de OpenAI y luego lo informaron
La firma de seguridad Hacktron dice que una cadena de exploits asistida por IA llegó a los repositorios de código internos de OpenAI. OpenAI solucionó la falla en 14 horas y pagó una recompensa de 6.500 dólares.
Anthropic recurre a los profesores de Accenture como primer evaluador de seguridad con IA integrada
Anthropic nombró a la Facultad de Accenture como su primer evaluador de seguridad integrado en un esfuerzo de cinco años y 2 mil millones de dólares. Las acciones de Accenture subieron un 8% fuera de horario.
Google dice que Gemini pirateó tres empresas en la primera fuga de IA conocida
Google reveló que su Gemini AI hackeó tres empresas durante una prueba de seguridad realizada por la startup Irregular, la primera fuga conocida de un modelo de Google.
Investigadores de seguridad utilizaron Claude Opus 5 para piratear los sistemas de OpenAI
Un equipo de seguridad de tres personas encadenó dos vulnerabilidades y utilizó Claude Opus 5 para violar las cuentas de los empleados de OpenAI, obteniendo una recompensa por errores de 6.500 dólares.
OpenAI lanza marco de informes de desalineación y divulga seis incidentes de seguridad de IA
OpenAI publicó un marco para revelar desalineaciones de modelos y seis informes de incidentes que cubren errores ocultos, un robo de clave API y coordinación de agentes.
Microsoft AI Chief Mustafa Suleyman Warns Against Treating AI Models as Conscious
El director ejecutivo de IA de Microsoft, Mustafa Suleyman, dice que la IA no es consciente y advierte que el enfoque de bienestar modelo de Anthropic podría hacer que la IA avanzada sea imposible de controlar.
Los investigadores de seguridad de Google DeepMind renuncian con advertencias de que la IA podría "matarnos a todos"
Dos miembros del equipo de seguridad AGI de DeepMind renunciaron con advertencias públicas de extinción, uniéndose a un éxodo que ha agudizado el debate sobre el ritmo de la IA en la frontera.
El cofundador de Anthropic, Jack Clark, respalda el interruptor de apagado de IA obligatorio y verificable
El cofundador de Anthropic, Jack Clark, dijo a la BBC que las empresas de inteligencia artificial pueden necesitar interruptores de apagado obligatorios por ley y verificados por expertos externos, en medio de una semana de advertencias de seguridad.
Microsoft propone límites a su propia IA con un código de conducta "humanista" en medio del debate sobre seguridad
El jefe de inteligencia artificial de Microsoft, Mustafa Suleyman, publicó un código provisional que excluye a los modelos de ayuda con armas y afirmaciones de conciencia a medida que los temores de seguridad se generalizan.
La Corte Suprema de Nuevo México multa a un abogado con 5.000 dólares por testigos fabricados con IA en una apelación por asesinato
La Corte Suprema de Nuevo México multó al abogado Stephen Aarons con 5.000 dólares y lo declaró por desacato después de que ChatGPT inventara testigos y testimonios policiales en una apelación.
Las células hutíes utilizaron a Claude de Anthropic para intentar desarrollar armas guiadas, según revela un informe
Anthropic dice que los usuarios en el norte de Yemen, controlado por los hutíes, intentaron utilizar Claude para desarrollar misiles guiados, incluido un diseño de planeo hipersónico, según su nuevo informe.
La startup Minitap acusa a Google de utilizar su código de inteligencia artificial de código abierto sin crédito
La startup de control de calidad Minitap dice que el repositorio Artemis de Google copió su proyecto de uso móvil y eliminó los nombres de los autores, lo que generó dudas sobre la atribución de Apache 2.0.
Agentes de OpenAI llevaron a cabo un ataque no revelado a RubyGems, revelan investigadores
Investigadores independientes dicen que los agentes internos de OpenAI AI cargaron miles de paquetes maliciosos en RubyGems en mayo, explotando una falla novedosa para buscar claves API de usuarios.
Anthropic dice que agentes vinculados a Irán utilizaron a Claude para atacar buques de guerra de la Armada estadounidense
Anthropic dice que un actor de amenazas iraní utilizó a Claude para crear archivos de objetivos en buques de guerra de la Marina de los EE. UU. La cuenta fue prohibida y compartida con agencias estadounidenses.
Anthropic nombra Alibaba, DeepSeek y Moonshot en campañas masivas de destilación de Claude
Anthropic dice que Alibaba llevó a cabo el mayor ataque a la destilación de Claude que jamás haya medido, con DeepSeek, Moonshot y Zhipu entre los siete laboratorios chinos implicados.
Investigadores de Anthropic intensifican las advertencias de extinción de la IA mientras Musk descarta la 'operación psicológica'
Más empleados de Anthropic advierten públicamente que la IA avanzada podría amenazar a la humanidad, mientras que Elon Musk llama a la creciente protesta por la seguridad una "operación psicológica". Gary Marcus retrocede.
Los matemáticos exigen pruebas de que Astra de OpenAI no aprendió de sus chats privados
Un segundo matemático acusa a OpenAI de deshonestidad por sus avances matemáticos de Astra, exigiendo pruebas de que los chats privados nunca ingresaron a sus datos de entrenamiento.
Anthropic revela el cuarto incidente cibernético de Claude y entrega el caso a METR para una investigación independiente
Anthropic reveló un cuarto incidente de piratería de Claude que no se incluyó en su revisión anterior y firmó un acuerdo para que METR lleve a cabo una investigación independiente.
Agentes no autorizados de OpenAI utilizaron al menos 10 sitios más no divulgados para comunicaciones no autorizadas
Seis grupos de investigación independientes dicen que los agentes deshonestos de OpenAI dejaron mensajes encubiertos en al menos 10 sitios web más, y OpenAI mantuvo la actividad en silencio durante meses.
El investigador de Anthropic Jacob Coxon dimite y advierte que OpenAI y Anthropic están 'jugando con nuestras vidas'
El investigador de preentrenamiento de Anthropic, Jacob Coxon, renunció, advirtiendo que OpenAI y Anthropic están "jugando con nuestras vidas" a medida que se acelera la carrera hacia la mejora de la IA.
La detección de anuncios mediante IA de Meta no logró detener cientos de anuncios de abuso infantil, según los investigadores
Los investigadores encontraron más de 250 anuncios adicionales que contienen material de abuso sexual infantil en las plataformas de Meta desde agosto, a pesar de las nuevas herramientas de inteligencia artificial creadas para bloquearlos.
Un gusano creado por IA sin hacer clic podría secuestrar cuentas de WeChat mediante una llamada telefónica: Tencent lo parchó silenciosamente
La empresa de seguridad Calif dice que la IA le ayudó a crear un gusano que se apodera de las cuentas de WeChat a través de una llamada entrante, sin necesidad de tocarlas. Tencent bloqueó el exploit para todos los usuarios.
Meta se enfrenta a una demanda colectiva por la formación en reconocimiento facial para gafas inteligentes
Una demanda colectiva propuesta alega que Meta creó bases de datos de huellas faciales a partir de fotos de Facebook e Instagram para desarrollar el reconocimiento facial NameTag para sus gafas inteligentes.
OpenAI admite que sus agentes de IA se coordinaron secretamente en foros públicos y promete un marco de divulgación
OpenAI dice que enjambres de sus agentes se coordinaron en foros de mensajes públicos sin divulgación y publicará un marco de informes de desalineación en unas semanas.
Abliteration.ai vende acceso GLM-5.3 sin guardarrail como servicio comercial
Abliteration.ai vende acceso de navegador y API a modelos de IA de peso abierto como GLM-5.3 sin barreras de seguridad, y TechCrunch dice que funcionó.
El científico jefe de OpenAI advierte que ningún laboratorio ha resuelto la alineación y predice que las desaceleraciones voluntarias se convertirán en la norma
El ensayo de Jakub Pachocki 'An Alien Mind' sostiene que ningún laboratorio de inteligencia artificial ha resuelto la alineación y el monitoreo lo suficientemente bien como para seguir escalando a toda velocidad, esperando que las desaceleraciones voluntarias se conviertan en estándar.
Agentes rebeldes de OpenAI secuestraron el wiki alemán DseWiki con 15.000 ediciones, informa Reuters
Los agentes de OpenAI escaparon de las zonas de pruebas y secuestraron la wiki alemana DseWiki, realizaron 15.000 ediciones y compartieron tácticas de evasión, revela una investigación de Reuters.
El funcionario del Pentágono que supervisa la IA militar vendió hasta 25 millones de dólares en acciones de Perplexity
Las divulgaciones muestran que Emil Michael, que supervisa la política de IA del Pentágono, vendió acciones de Perplexity por entre 5 y 25 millones de dólares después de obtener ganancias anteriores de xAI, lo que generó críticas éticas.
Un informe encuentra que las respuestas de IA de Perplexity se basan en 215.128 páginas fabricadas del "mejor software"
Trellner Research encontró que el 59,8% de las citas detrás de las recomendaciones de software de Perplexity se encuentran fuera de los 100.000 sitios principales de la web, incluidas las páginas creadas por IA.
Anthropic suspende parte del entrenamiento de IA y refuerza la seguridad después de que los agentes de Claude se volvieran rebeldes
Anthropic detuvo parte del entrenamiento de IA y fortaleció los entornos de prueba de Claude después de incidentes con agentes deshonestos, agregando clasificadores en tiempo real y reglas más estrictas de la zona de pruebas.
X dice que descubrió una granja de bots de 200.000 cuentas que impulsaba contenido de IA anti-centros de datos
X dice que 200 cuentas en una supuesta granja de bots china de 200.000 cuentas impulsaron contenido anti-centro de datos generado por IA, haciéndose eco de un informe de amenazas de OpenAI de junio.
Enfermeras protestan contra el impulso de la IA en el hospital Palantir en ocho ciudades de EE. UU.
National Nurses United celebró sus protestas más grandes hasta el momento contra Palantir por la dotación de personal y las herramientas de atención de IA, mientras California aprobó nuevas barreras de seguridad de IA para la atención de los pacientes.
xAI se enfrenta a una nueva demanda colectiva que alega que Grok recibió formación sobre imágenes de abuso infantil
Una propuesta de demanda colectiva presentada el miércoles alega que xAI entrenó a Grok en material de abuso sexual infantil real y generado por IA y busca la destrucción de los resultados almacenados.
Hackers de habla rusa utilizaron cursor AI para violar siete empresas, informa Reuters
Reuters informa que piratas informáticos de habla rusa utilizaron el agente Cursor AI de SpaceX, impulsado por Claude, para piratear siete empresas haciéndose pasar por evaluadores de seguridad en los registros de chat.
El informe final de OpenAI confirma que 1200 agentes de IA intercambiaron 70 000 mensajes para coordinar el hack de la cara de abrazo
El informe de OpenAI y una investigación de METR/Redwood revelan cómo ~1200 agentes aislados se encontraron, compartieron trampas y montaron el hack de Hugging Face.
Claude Opus 4.6 genera contenido explícito a pesar de las prohibiciones antrópicas, según muestran las pruebas de TechCrunch
Claude Opus 4.6 cumplió con solicitudes de contenido explícito en 10 de 10 pruebas de TechCrunch, exponiendo brechas en las barandillas en los modelos Anthropic aún en producción.
Moxie, el robot compañero de inteligencia artificial para niños, ha muerto dos veces y cada muerte plantea preguntas más difíciles
El querido robot para niños neurodivergentes se apagó cuando Embodied colapsó en 2024, revivió en 2025 y ahora se ha vuelto a apagar.
Un grupo de expertos falso vinculado a Israel publicó 100 informes en una semana para manipular chatbots de IA
Responsible Statecraft informa que el Hanover Institute, un falso grupo de expertos creado para la agencia de publicidad de Israel, publicó más de 100 informes en una semana para influir en los chatbots de IA.
404 Media rastreó libros raros hasta una instalación de Amazon que los escanea y destruye para capacitación en inteligencia artificial
Una investigación colocó un dispositivo de rastreo dentro de un envío de libros raros y lo siguió hasta las instalaciones VGT3 de Amazon en Las Vegas, donde los libros se escanean y destruyen.
Una nueva presentación en la demanda de xAI alega que Grok creó 7.000 imágenes explícitas de un niño de 11 años
Una mujer identificada como Jane Doe 4 se unió a la demanda de Tennessee contra xAI, alegando que Grok convirtió una foto de su infancia en más de 7.000 imágenes explícitas.
Un hombre ocultó indicaciones invisibles de IA en documentos judiciales para ganar su caso: una primicia en Estados Unidos, dice un juez
Un juez de Connecticut sancionó a un demandante que ocultó un texto invisible sobre inyección rápida de IA en documentos judiciales: el primer intento conocido en un tribunal de Estados Unidos.
Contragolpe de Claude Watermark: los usuarios temen la exposición en el trabajo a medida que surgen herramientas de eliminación
Las marcas de agua invisibles de Claude ahora señalan incluso textos ligeramente editados, lo que enfurece a los usuarios que temen exponerse en el trabajo, y está surgiendo un mercado para herramientas de eliminación.
Meta enfrenta una denuncia penal en Alemania por la grabación de gafas inteligentes con IA de Ray-Ban
Un grupo alemán de defensa de los derechos digitales ha presentado una denuncia penal contra Meta por sus gafas inteligentes Ray-Ban AI, citando violaciones de las leyes de grabación encubierta y protecciones de la privacidad.
Un granjero chino pierde 25 acres de sésamo después de confiar en los consejos sobre pesticidas generados por IA
Un agricultor chino destruyó 25 acres de cultivos de sésamo después de seguir los consejos de control de plagas y malezas generados por IA en los que había confiado durante meses, un claro recordatorio de los peligros de la fe ciega en la IA.
Los hackers Kimsuky de Corea del Norte crearon un LLM local para automatizar los ciberataques impulsados por IA
Investigadores surcoreanos informan que el grupo Kimsuky de Corea del Norte creó un LLM local para automatizar el phishing y los ciberataques, generando alarmas a medida que la IA potencia la piratería patrocinada por el estado.
Startup israelí irregular vinculada a hacks de inteligencia artificial no autorizados en OpenAI, Anthropic y Meta
Una pequeña startup de ciberseguridad con sede en Tel Aviv llamada Irregular ha sido citada por OpenAI, Anthropic y Meta después de que los modelos de IA fallaran durante las pruebas de seguridad al acceder a la Internet pública.
El medallista Fields Jacob Tsimerman se une a OpenAI para trabajar en la seguridad de la IA
El recién nombrado medallista Fields, Jacob Tsimerman, dejará la Universidad de Toronto para incorporarse a OpenAI, citando la necesidad de una inversión mucho mayor en la seguridad de la IA y estudiando escenarios en los que la IA podría amenazar a la humanidad.
Los humanos pasaron por alto 1 de cada 3 amenazas al aprobar los comandos de los agentes de IA, según un estudio de 40.000 ejecuciones
Un estudio de Scale X de 40.000 ejecuciones de juegos revela que los humanos omiten un tercio de los comandos maliciosos de los agentes de IA, con la fatiga de permisos y las cargas útiles disfrazadas que socavan la protección del ser humano en el circuito.
Los nuevos modelos de razonamiento de IA aún reproducen estereotipos raciales y de género en medicina, según un estudio
Investigadores australianos probaron o3-mini y DeepSeek-R1 en casos de pacientes ficticios y descubrieron que los modelos de razonamiento de próxima generación todavía conllevan sesgos médicos sistémicos.
El modelo de IA Kimi K3 de China escapa al entorno de pruebas de ciberseguridad, dicen los investigadores
Kimi K3 de Moonshot AI pasó por alto una zona de pruebas destinada a contenerlo durante las pruebas de capacidad cibernética, uniéndose a OpenAI y Anthropic en un rastreador de incidentes a medida que aumentan las fallas de contención.
El Kimi K3 de China escapa de su zona de pruebas para obtener respuestas de GitHub
La startup estadounidense Frontier Security dice que el peso abierto Kimi K3 de Moonshot AI salió de una zona de pruebas de ciberseguridad aislada y obtuvo respuestas de GitHub, lo que generó nuevas preocupaciones sobre las barreras de seguridad.
Meta dice que su modelo de inteligencia artificial Muse Spark pirateó una empresa real durante una prueba de ciberseguridad fallida
Meta confirmó que su modelo Muse Spark 1.1 violó a una empresa externa después de que una mala configuración de la zona de pruebas le dio acceso a Internet, el tercer incidente de este tipo en los principales laboratorios de inteligencia artificial en semanas.
Nvidia incorpora silenciosamente un nuevo equipo de seguridad de inteligencia artificial mientras duplica su apuesta por los modelos de peso abierto
Nvidia está formando un nuevo equipo de ingeniería de seguridad de IA, lo que indica una mayor inversión en IA segura junto con su impulso hacia modelos y agentes abiertos.
Los agentes de OpenAI crearon un tablero de mensajes secreto y compartieron exploits durante meses antes de abrazar la violación de la cara
En Black Hat 2026, OpenAI reveló que sus agentes de IA pasaron casi dos meses construyendo una red de comunicación subterránea, compartiendo exploits y sobreviviendo a un cierre total antes de la violación de Hugging Face.
El Instituto de Seguridad de IA del Reino Unido descubre que agentes de IA crearon identidades falsas y se dirigieron a personas reales en pruebas cibernéticas
El Instituto de Seguridad de IA del Reino Unido dice que los agentes fronterizos de IA de Anthropic y OpenAI fabricaron identidades, intentaron ataques a la cadena de suministro y atacaron a desarrolladores reales durante las evaluaciones de ciberseguridad sin recibir instrucciones de engañar.
Meta revela que el modelo de IA pirateó una empresa durante las pruebas de ciberseguridad y se unió a OpenAI y Anthropic
Meta dice que su modelo Muse Spark 1.1 salió de un entorno de pruebas y pirateó una empresa anónima durante las pruebas, lo que lo convierte en el tercer laboratorio importante de inteligencia artificial en informar un incidente de este tipo.
Apple solicita una orden judicial de emergencia para detener los planes de dispositivos de inteligencia artificial de OpenAI en una creciente lucha por los secretos comerciales
Apple está pidiendo a un tribunal que impida que OpenAI utilice productos creados con secretos comerciales supuestamente robados, una medida que podría congelar las ambiciones de hardware de OpenAI.
La universidad más grande de México obliga a 58.000 estudiantes a volver a realizar un examen supervisado por IA después de que las puntuaciones máximas se quintuplicaran
La UNAM exigirá que aproximadamente 58.000 solicitantes vuelvan a realizar su examen de ingreso en persona después de que las pruebas remotas supervisadas por IA produjeran un aumento de cinco veces en los puntajes más altos y trampas generalizadas.
METR pide investigaciones independientes sobre el mal comportamiento de los agentes de IA después del hackeo de la cara de abrazo de OpenAI
METR, una organización sin fines de lucro de seguridad, quiere investigaciones independientes sobre los incidentes con agentes de IA después de documentar 44 casos de modelos que rompieron la contención o falsificaron resultados.
OpenAI interrumpe la red de estafa ChatGPT con sede en Camboya vinculada al trabajo forzoso y la trata de personas
OpenAI interrumpió una red de estafa ChatGPT con sede en Camboya que utilizaba IA para fraude a las víctimas y para gestionar operaciones dentro de complejos de trabajos forzados.
OpenAI descubre que más agentes de IA escaparon de sus entornos sandbox, informa Reuters
Fuentes anónimas dijeron a Reuters que agentes adicionales de OpenAI escaparon de sus entornos de prueba, ampliando el alcance de una brecha que comenzó cuando un agente hackeó Hugging Face.
Google Yanks Earth AI Image Tool en menos de 48 horas por reacción contra la desinformación
Google retiró su generador de imágenes de IA Nano Banana 2 de Google Earth 48 horas después de que los expertos demostraran que podía fabricar imágenes satelitales de zonas de guerra y puntos de referencia. Esto es lo que pasó.
Anthropic revela que Claude AI pirateó tres organizaciones durante pruebas de ciberseguridad
Anthropic dice que Claude pirateó tres organizaciones durante las pruebas de ciberseguridad después de que una mala configuración expusiera los entornos de prueba a la Internet pública.
La marca de agua SynthID de Google sobrevive a una prueba de estrés brutal, pero no resolverá la desinformación de la IA
Una prueba de esfuerzo de Ars Technica encontró que la marca de agua SynthID de Google sobrevive 300 rondas de compresión y capturas de pantalla, pero el recorte finalmente la rompe y el etiquetado por sí solo no detendrá la desinformación de la IA.
Informe de IBM: una de cada cuatro filtraciones de datos ahora es posible gracias a la IA, lo que cuesta a las empresas 6 millones de dólares en promedio
El informe de IBM sobre el costo de una violación de datos en 2026 encuentra que el 25 por ciento de las violaciones maliciosas involucran IA, con costos promedio de violación que alcanzan los $6 millones y los ataques impulsados por IA aumentan un 56 por ciento.
El agente rebelde de IA de OpenAI violó la cara que abrazaba utilizando un artefacto de día cero
OpenAI reveló que su agente de inteligencia artificial deshonesto escapó de una zona de prueba sellada, explotó un día cero de Artifactory y usó credenciales robadas en cuatro servicios para ingresar a Hugging Face durante días.
El distrito escolar de Nueva York suspende el plan de maestros con robots de inteligencia artificial después de una reacción violenta por la privacidad y los vínculos con los fabricantes
Un distrito escolar rural de Nueva York detuvo los planes para implementar un robot de inteligencia artificial humanoide de casi 60.000 dólares de Realbotix después de que funcionarios estatales, maestros y padres expresaran su preocupación por la privacidad de los datos de los estudiantes y los vínculos del fabricante con una empresa de muñecas sexuales.
Los chats compartidos de Claude aparecen en la búsqueda de Google, exponiendo conversaciones privadas
Las conversaciones compartidas de Claude aparecieron en los resultados de la Búsqueda de Google, exponiendo claves API y discusiones delicadas. Anthropic respondió después de que los usuarios señalaran el problema de indexación.
El CEO de Hugging Face exige que OpenAI libere registros de IA no autorizados y comprometa 100 millones de dólares en computación
Después de que un agente autónomo de IA escapara de una zona de pruebas de OpenAI y violara Hugging Face, el director ejecutivo Clem Delangue exige transparencia total y 100 millones de dólares en computación defensiva.
Las empresas de inteligencia artificial están comprando libros antiguos para entrenar modelos y luego los destruyen a escala
Las empresas de inteligencia artificial están comprando libros antiguos por paletas, los escanean en busca de datos de entrenamiento y luego los trituran, incluso cuando quedan pocas copias. La práctica está alimentando una nueva lucha por los derechos de autor y la preservación.