Ética de la IA
30 articles
GPT-5.6 encuentra WordPress Zero-Day RCE por $25 en costos de API, lo que genera una nueva alarma sobre la IA en la piratería
Los investigadores de Searchlight Cyber utilizaron GPT-5.6 Sol Ultra de OpenAI para descubrir una falla de ejecución remota de código de autenticación previa en WordPress por solo $25, ya que los corredores de exploits pagan hasta $500,000 por tales errores.
Hugging Face revela una infracción por parte de un agente autónomo de IA en su canal de datos
Hugging Face dijo que un sistema autónomo de agentes de IA violó su infraestructura de producción, exponiendo conjuntos de datos internos y credenciales a través de fallas en su proceso de procesamiento de conjuntos de datos.
La UNESCO y LG AI Research lanzan un curso global gratuito sobre la ética de la IA
La UNESCO y LG AI Research lanzaron un MOOC global gratuito sobre la ética de la IA en Coursera, traduciendo la Recomendación de la UNESCO de 2021 en capacitación práctica en diez módulos para desarrolladores, formuladores de políticas y estudiantes.
Los consejos de IA hacen que las personas sean tres veces menos precisas pero dos veces más seguras, según un estudio
Los investigadores descubrieron que el acceso a los consejos de IA colapsó la precisión del 27% al 9%, mientras que la confianza se disparó del 30% al 76%. La disposición a decir "no sé" se desplomó del 44% al 3%.
San Francisco ordena a Apple y Google que eliminen las aplicaciones AI Nudify citando leyes de pornografía deepfake
El fiscal de la ciudad de San Francisco exigió a Apple y Google que eliminaran las aplicaciones de nudificación mediante IA de sus tiendas, citando leyes sobre pornografía ultrafalsa y victimizando a mujeres y niños a gran escala.
Meta demandada por 26 empleados que alegan despidos impulsados por IA dirigidos a trabajadores con licencia médica
Un grupo de 26 empleados actuales y anteriores de Meta presentó una demanda el 14 de julio, alegando que la empresa utilizó algoritmos de inteligencia artificial para realizar despidos que discriminaban a los trabajadores con licencia médica y familiar.
El nuevo historial de servicios de búsqueda de Google puede utilizar sus fotos y su voz para entrenar modelos de inteligencia artificial
La nueva configuración del Historial de servicios de búsqueda de Google con Save Media puede recopilar fotos, grabaciones de voz y archivos de búsquedas para entrenar modelos de IA. Esto es lo que los usuarios necesitan saber.
El nuevo historial de servicios de búsqueda de Google puede utilizar sus fotos y su voz para entrenar modelos de inteligencia artificial
La nueva configuración del Historial de servicios de búsqueda de Google con Save Media puede recopilar fotos, grabaciones de voz y archivos de búsquedas para entrenar modelos de IA. Esto es lo que los usuarios necesitan saber.
ISIS y otros grupos terroristas están utilizando todos los principales chatbots de IA para planificar ataques, revela un estudio de Cambridge
Un estudio de Cambridge basado en entrevistas con ex miembros de ISIS revela que los grupos terroristas están explotando ChatGPT, Claude, Gemini y otras herramientas de inteligencia artificial para la planificación de ataques y el desarrollo de armas.
Manifestantes de San Francisco marchan contra OpenAI, Anthropic y Google DeepMind para exigir "detener la carrera de la IA"
Los manifestantes marcharon por San Francisco hasta las sedes de tres importantes laboratorios de IA, exigiendo el fin de la carrera fronteriza de la IA y una mayor supervisión de la seguridad.
Las emisiones de carbono de Microsoft aumentan un 25 por ciento a medida que la expansión del centro de datos de IA pone a prueba los objetivos climáticos
El último informe de sostenibilidad de Microsoft revela un aumento del 25 por ciento en las emisiones de carbono impulsadas por la infraestructura de IA, poniendo en peligro su compromiso de emisiones negativas de carbono para 2030.
El director de sistemas de seguridad de OpenAI, Johannes Heidecke, dimite en la última salida del liderazgo
El jefe de sistemas de seguridad de OpenAI, Johannes Heidecke, se marcha, el último de una larga serie de salidas de liderazgo en seguridad. Josh Achiam dimitió apenas cuatro días antes.
El director de sistemas de seguridad de OpenAI, Johannes Heidecke, dimite en la última salida del liderazgo
El jefe de sistemas de seguridad de OpenAI, Johannes Heidecke, se marcha, el último de una larga serie de salidas de liderazgo en seguridad. Josh Achiam dimitió apenas cuatro días antes.
Meta retira la función de imagen Muse AI de Instagram después de la reacción de SAG-AFTRA y Hollywood por la participación automática
Meta eliminó su función Muse Image AI de Instagram pocos días después del lanzamiento, admitiendo que "falló" después de que SAG-AFTRA y CAA condenaran la suscripción automática para las fotos de los usuarios.
Google optó silenciosamente por la capacitación de los usuarios en IA. Esto es lo que se recopila y cómo darse de baja
Un cambio de privacidad de Google ahora almacena sus imágenes, archivos y audio para entrenar modelos de IA a menos que usted opte por no participar. Esto es lo que cubre el Historial de servicios de búsqueda y cómo desactivarlo.
Yvette Cooper del Reino Unido advierte que el mundo no puede esperar a una 'IA Hiroshima' antes de actuar
La Secretaria de Asuntos Exteriores, Yvette Cooper, dice que la inteligencia artificial plantea el mayor desafío de seguridad de la década y pide a Estados Unidos, China y otros países que acuerden reglas internacionales antes de que ocurra un desastre.
Los ataques de inyección rápida engañan a los agentes de inteligencia artificial para que realicen pagos con criptomonedas, advierte Zscaler
Los investigadores de Zscaler encontraron dos campañas que utilizaban inyección inmediata indirecta y envenenamiento de SEO para manipular a agentes autónomos de IA para que realizaran pagos criptográficos y confiaran en sitios DeFi falsos.
Un agente de IA lleva a cabo un ataque de ransomware sin ayuda humana, según descubren los investigadores de Sysdig
Un modelo de lenguaje grande ejecutó una cadena completa de ransomware por sí solo, explotando una falla de Langflow para ingresar, robar credenciales y cifrar una base de datos, informa Sysdig.
Meta y OpenAI atrapados en las consecuencias de la filtración de datos de Mercor debido a la cadena de suministro envenenada de LiteLLM
Un ataque de recolección de credenciales a la herramienta de código abierto LiteLLM expuso los datos de Mercor, lo que llevó a Meta a detener el trabajo y planteó preguntas difíciles sobre la cadena de suministro de IA.
Una startup demanda a Koi Security de Palo Alto Networks por un informe alucinado por IA que lo vincula con el espionaje chino
Una startup estadounidense está demandando a Koi Security de Palo Alto Networks después de que un informe de amenaza alucinado por IA la vinculara falsamente con el espionaje chino, destruyendo su tráfico.
Panel de la ONU advierte que el progreso de la IA puede plantear riesgos catastróficos ya que las salvaguardias van a la zaga de la tecnología
Un panel científico de las Naciones Unidas advierte que el desarrollo desenfrenado de la IA está superando a los reguladores, y que aumentan los riesgos catastróficos a medida que el Sur Global queda excluido de la gobernanza de la IA.
La Universidad de Brown se ve afectada por el escándalo de trampas de IA más grande conocido en la historia de la Ivy League
Un profesor de economía de Brown descubrió que al menos 50 estudiantes utilizaron ChatGPT para hacer trampa en un examen realizado a casa, exponiendo una crisis de integridad académica que las universidades de élite están luchando por contener.
Los conductores de California demandan a 7-Eleven, Circle K y BP por la fijación del precio de la gasolina por parte de AI
Una demanda colectiva de California acusa a 7-Eleven, Circle K, BP, Marathon, Walmart y otros de utilizar la herramienta de fijación de precios de inteligencia artificial de Kalibrate para coordinar ilegalmente los precios del combustible en 1.700 estaciones.
La Comisión de IA del Vaticano celebra su primera reunión mientras el Papa Leo presiona a las grandes tecnologías
La Comisión Interdicasterial sobre Inteligencia Artificial del Papa León XIV se reunió por primera vez, tras su encíclica de 42.300 palabras advirtiendo sobre los riesgos de la IA, incluido su uso en la guerra.
La mayoría de los principales modelos de IA se inclinan hacia la izquierda, según un nuevo estudio sobre sesgos políticos, excepto Grok
Un nuevo análisis probó seis modelos líderes de IA en miles de cuestiones políticas con la búsqueda web desactivada. Cuatro de seis se inclinaron hacia la izquierda, mientras que Grok se sentó más a la derecha y Gemini se mantuvo más cerca del centro.
Hasbro enfrenta una reacción violenta después de pedirle a los actores de voz infantiles de Peppa Pig que firmen una cláusula sobre derechos de voz de IA
Casi 1.000 actores y agentes firmaron una carta abierta después de que, supuestamente, Hasbro pidiera a los actores de voz infantiles de Peppa Pig que cedieran sus voces para el uso de IA, lo que provocó un revuelo en la industria del Reino Unido.
Anthropic acusa a Alibaba de destilar ilícitamente a Claude en una campaña masiva de 25.000 cuentas
Anthropic dijo a los senadores estadounidenses que Alibaba llevó a cabo una campaña "descarada" utilizando ~25.000 cuentas fraudulentas para destilar las capacidades de Claude, en una carta fechada el 10 de junio.
El jefe de la ONU, Guterres, pide a las empresas de inteligencia artificial que "se sinceren" sobre los costos ambientales
El Secretario General de la ONU, Antonio Guterres, lanzó una Iniciativa de Transparencia Ambiental de la IA, instando a los desarrolladores a revelar el uso de energía y agua de los centros de datos y comprometerse con la energía limpia para 2030.
SZA critica a Suno después de enterarse de que 238 de sus canciones entrenaron sus modelos musicales de IA
La ganadora del Grammy, SZA, dice que Suno entrenó modelos musicales de inteligencia artificial en 238 de sus canciones, incluidas pistas inéditas, calificando la práctica de "repugnante" y advirtiendo que explota a los artistas negros.
¿La IA está arruinando nuestras habilidades? Nature informa pruebas tempranas de una descalificación generalizada
Una investigación de Nature descubre que la dependencia de la IA está degradando las capacidades de los médicos e ingenieros de software, y que las tasas de detección y resolución de problemas disminuyen sin la ayuda de la IA.