Usar ChatGPT nos hace más tontos. Al menos, esa es la preocupante conclusión de un reciente estudio llevado a cabo por investigadores del MIT y destacado por la revista Time. Según leemos:

El estudio dividió a 54 sujetos de entre 18 y 39 años de la zona de Boston en tres grupos y les pidió que escribieran varias redacciones del SAT (la prueba de acceso a la universidad en USA) utilizando ChatGPT de OpenAI, el buscador de Google y nada en absoluto, respectivamente. Los investigadores utilizaron un electroencefalograma para registrar la actividad cerebral de los participantes y descubrieron que, de los tres grupos, los usuarios de ChatGPT eran los que tenían un menor esfuerzo cerebral y «rendían sistemáticamente menos a nivel neuronal, lingüístico y conductual». En el transcurso de varios meses, los usuarios de ChatGPT se volvieron más perezosos con cada redacción posterior, recurriendo a menudo al copiar y pegar al final del estudio.

Intuitivamente, tiene sentido. Los LLMs hacen tan bien su trabajo, que el cerebro, un optimizador nato, aprende rápidamente a dar por buenas sus respuestas y no gastar energía de forma innecesaria.

Mientras tanto, aquellos que no tienen ninguna herramienta a su disposición, tienen que esforzarse para poder escribir algo coherente. Los que tienen Google a su disposición, por lo menos tienen que leer los enlaces que encuentren, unir los puntos, resumir de su propia mano, etc.

Cluely: Copiar en todo

Al hilo de que vamos camino de hacernos más tontos, esta semana A16z anunciaba su inversión en Cluely, una herramienta que se vende como una IA indetectable que te asiste en exámenes online, entrevistas de trabajo, etc.

Es el proyecto de Chungin “Roy” Lee, un estudiante de Columbia que saltó a la fama hace unos meses por desarrollar “Interview Coder”, precursor de Cluely. Lee se hizo viral por contar cómo lo utilizaba para pasar entrevistas en Big Tech sin ser detectado. Amazon se quejó formalmente a Columbia, y esta, expulsó a Lee de la universidad.

Hay un debate interesante alrededor del hecho de que un fondo como a16z invierta en una empresa cuya propuesta de valor es directamente el engaño, pero dejaremos los juicios morales para otro momento.

¿Por qué traigo a Cluely a colación de que ChatGPT nos esté haciendo más tontos? Atentos a su “manifiesto”:

Sin cortarse un pelo, los buenos de Cluely te dicen que quieren que hagas trampa en todo. Y en la época de la inmediatez, mucho me temo que sea un discurso ganador.

Ahora bien, lo que me hizo relacionar ambos temas fue la frase:

Why memorize facts, write code, research anything —

when a model can do it in seconds?

El aprendizaje es la base de la creatividad

Dicen los buenos de Cluely que por qué tienes que memorizar nada cuando un modelo te puede dar la respuesta en segundos. Pero hay una razón sencilla por la que es bueno hacerlo: el aprendizaje, grabar esos conocimientos en tus circuitos neuronales, son la base para la creatividad.

Por ejemplo, ¿creéis que Newton habría podido formular la teoría de la gravedad cuando vio caer aquella manzana si no hubiera tenido los conocimientos matemáticos necesarios grabados en su cabeza? Por supuesto que no.

Investigando sobre este aspecto, he llegado a un artículo de la comunidad de la Universidad Técnica de Munich, en el que entrevistan a tres premios Nobel: AHA! Effect. Cito una pregunta a Wolfgang Ketterle, premio Nobel de física en 2001:

Usted recibió el Premio Nobel por el logro de la condensación de Bose-Einstein, sobre la que llevaba años investigando: ¿Hubo un destello de genialidad que le llevó a este descubrimiento?

Los descubrimientos en el laboratorio suelen ser repentinos; momentos que uno nunca olvida. Pero la idea de realizar estos experimentos fue más bien un proceso. Basándome en los conocimientos y la experiencia que había acumulado a lo largo de muchos años, varios pasos hicieron cada vez más evidente que estos experimentos podían tener éxito. Muchas ideas nuevas son una combinación de conocimientos existentes aplicados de una manera novedosa. En retrospectiva, un paso puede parecer totalmente obvio, pero muchos colegas simplemente no llegaron a esa conclusión. Soy de la opinión de que, en la mayoría de los casos, la idea brillante no surge de forma repentina como un destello de genialidad, sino que se origina en una experiencia profunda.

Ser padre en la era de la Inteligencia Artificial

Como padre de un chaval de 7 años, entenderéis que esté preocupado por este escenario. Intuitivamente, antes de leer este estudio, ya estaba tratando de mantener a mi hijo lo más alejado posible de la Inteligencia Artificial que humanamente puedo.

Mi razonamiento es que no le voy a hacer ningún bien enseñándole a usar herramientas a las que pueda delegar hacer el esfuerzo de pensar y aprender. Porque, ¿qué pensáis que haría un niño cuando le pusieran sus primeros deberes y tuviera ChatGPT a mano? Preguntar a la máquina y copiar sin pensar ni un segundo la respuesta, obviamente.

¿Cuántos chavales están haciendo a día de hoy eso? Me atrevería a decir que la gran mayoría. La mayor parte de los padres no viven, sobreviven. Pocos de los que tenemos hijos, tenemos la fortuna de poder sentarnos con ellos y acompañarlos en su aprendizaje. Para estas familias sobrecargadas, ChatGPT es a la vez una bendición y una condena.

Una condena porque esos chavales van a llevar los deberes hechos, pero no van a haber aprendido nada. Difícilmente pasarán los exámenes. Y lo peor para la sociedad, difícilmente impulsarán a la humanidad hacia delante porque no tendrán las bases necesarias para poder tener esos destellos de creatividad que puedan cambiar el mundo.

El contrapunto optimista es que quizás esos chavales estaban ya condenados igualmente, al igual que todos los que necesiten utilizar una herramienta como Cluely para hacer trampas en todo. Quizás la IA, permita a los que sean de naturaleza inquieta y los especialmente dotados, ampliar y expandir su curiosidad y su aprendizaje.

Aprender ya no consistirá sólo en memorizar, sino en saber preguntar bien, filtrar, conectar, y crear a partir de ahí. Y eso también es pensar.

Quizás el reto no sea proteger a los niños de la IA, sino proteger a la IA de convertirse en una excusa para dejar de enseñarles a pensar.

Yo, por si acaso, seguiré manteniendo alejado a mi hijo de la Inteligencia Artificial mientras pueda.

Por cierto, los autores del estudio afirman estar realizando uno similar, midiendo la actividad cerebral de ingenieros de software utilizando la IA, y los resultados son todavía peores:

Kosmyna dice que ella y sus colegas están trabajando ahora en otro estudio similar que evalúa la actividad cerebral en la ingeniería de software y la programación con o sin IA, y dice que hasta ahora, “los resultados son aún peores”. Ese estudio, dice, podría tener implicaciones para las muchas empresas que esperan sustituir a sus programadores principiantes por IA. Incluso si aumenta la eficiencia, la creciente dependencia de la IA podría reducir el pensamiento crítico, la creatividad y la resolución de problemas en el resto de la mano de obra, argumenta.

¿Sorprendidos?