Pasar solo diez minutos dependiendo de una herramienta de inteligencia artificial perjudica significativamente la capacidad de una persona para concentrarse y persistir en tareas difíciles, según un estudio revisado por pares presentado esta semana en la Conferencia sobre Modelado del Lenguaje (COLM).
El artículo, titulado "La asistencia de IA reduce la persistencia y perjudica el rendimiento independiente", fue escrito en coautoría por el escritor e investigador Brian Christian, investigador del Centro de IA compatible con humanos de UC Berkeley, junto con académicos de la Universidad Carnegie Mellon, el Instituto de Tecnología de Massachusetts, la Universidad de Oxford y la UCLA. Un borrador anterior del trabajo circuló en la primavera, pero la versión actualizada y revisada por pares se presentó en la conferencia de esta semana, y la oficina de investigación de UC Berkeley publicó un resumen detallado el 9 de octubre. Para más contexto sobre esta historia, consulta nuestra noticias de IA.
Lo que encontraron los investigadores
Para medir la rapidez con la que disminuyeron la concentración y la perseverancia de las personas, el equipo realizó una serie de ensayos controlados aleatorios con 1222 participantes reclutados en línea.
En el primer experimento, se pidió a 354 participantes que resolvieran 15 problemas de fracciones básicas. Un grupo trabajó sin ayuda, mientras que un segundo grupo tenía ChatGPT abierto y era libre de usarlo para obtener ayuda, o incluso para pedir respuestas directamente. El grupo con acceso a IA comenzó con mayor precisión. Luego, después de 12 problemas, los investigadores retiraron la herramienta. Casi de inmediato, la precisión en ese grupo colapsó.
El patrón se repitió con un segundo grupo más grande de 667 participantes. Cuando se retiró la asistencia de la IA, los usuarios de la IA obtuvieron respuestas incorrectas o se dieron por vencidos por completo, mientras que el grupo que había trabajado sin ayuda continuó con la tarea y terminó con más éxito.
Un tercer experimento con 201 participantes intercambió los problemas matemáticos por una indicación de comprensión lectora del SAT. El resultado se hizo eco de los ensayos anteriores: cuando la herramienta desapareció, también desaparecieron la persistencia y la precisión.
"Casi no se podría pedir una historia más clara", dijo Christian en comentarios publicados por UC Berkeley.
El 'coste humano' de las respuestas instantáneas
Los investigadores sostienen que el problema no es la IA en sí, sino el tipo de ayuda que utiliza por defecto. Cuando un sistema produce respuestas en segundos, los usuarios se acostumbran a esa velocidad y cualquier cosa más lenta comienza a parecer ineficiente. Confiar en la herramienta también elimina lo que el equipo llama "lucha productiva": el compromiso esforzado que ayuda a las personas a descubrir sus propias fortalezas e intereses.
"Hemos creado estos sistemas para que sean útiles, pero ¿nos están siendo útiles de una manera que realmente nos ayude?" dijo cristiano. "Mostramos, irónicamente, que a menudo nos ayudan de maneras que en cierto modo son inútiles".
Christian, cuyo libro de 2020 "The Alignment Problem" es ampliamente considerado como uno de los principales trabajos accesibles sobre la seguridad de la IA, dijo que el hallazgo proporciona evidencia de una intuición que muchas personas tienen. "Es un hallazgo sorprendente, pero en cierto modo proporciona munición para una historia que muchos de nosotros sentimos en nuestras entrañas", dijo. "Yo también lo experimento".
Por qué es importante más allá de las fracciones
El estudio se produce en medio de una creciente preocupación por la descarga cognitiva en la educación. Las propias empresas de Frontier AI han reconocido que descargar tareas a chatbots puede reducir la comprensión básica de un usuario sobre un tema, según el informe de Berkeley. Christian sugiere una posible solución: las respuestas de la IA podrían ser más instructivas, comportándose como un tutor que guía en lugar de una máquina de respuestas que reemplaza.
"Necesitamos trabajar hacia un futuro en el que las capacidades humanas sean, en la medida de lo posible, aumentadas en lugar de suplantadas", afirmó.
Su preocupación se extiende a la investigación profesional. A Christian le preocupa que la dependencia excesiva de las herramientas de inteligencia artificial en la ciencia pueda erosionar exactamente los hábitos que caracterizan a un buen científico: permanecer cerca de los datos, sumergirse en el material y trabajar en estrecha colaboración con un equipo. Un grupo de investigación de diez personas que genere las ideas detrás de un gran avance, señaló, podría reducirse a dos o tres investigadores y un chatbot.
"Esta no es una historia sobre fracciones y problemas del SAT", dijo Christian. "Esto es algo que está sucediendo con el conocimiento y la experiencia humanos de arriba a abajo y desde los estudiantes de primaria hasta los principales expertos del mundo".
Un estudio que entró en la corriente principal
Los primeros hallazgos atrajeron la cobertura de WIRED y Psychology Today cuando apareció el borrador preliminar en la primavera, y The New York Times publicó una historia sobre el artículo y una investigación similar la semana pasada, según UC Berkeley. La presentación revisada por pares en COLM, uno de los principales lugares del campo para la investigación sobre modelos de lenguaje, ahora le da al resultado un sello formal.
Para los educadores y empleadores, el mensaje es incómodo pero concreto: incluso una breve exposición a respuestas instantáneas de IA cambia de manera mensurable la forma en que las personas se comportan cuando las respuestas ya no están disponibles. Y para las empresas de IA, el estudio aumenta la creciente presión para diseñar sistemas que enseñen con tanta frecuencia como resuelvan.
Christian, por su parte, tiene un cuaderno en su escritorio y escribe en él todos los días. Esta práctica, le dijo a Berkeley, lo mantiene con los pies en la tierra y evita que su propia ventaja académica se debilite.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
