Profesores suizos en busca del punto débil de ChatGPT

“Es impactante”, comenta Eric Vanoncini, mientras observa el texto generado por ChatGPT aparecer en la pantalla grande de un aula en el cantón de Ginebra, Suiza.

“Esto podría alterar significativamente parte del mundo educativo tal y como lo conocemos y eso suscita muchas preguntas”, admite el profesor de inglés y filosofía, al margen de un seminario que dirige con el objetivo de ayudar a sus colegas docentes a entender mejor esta inteligencia artificial de acceso gratuito que cada vez atrae a más alumnos y estudiantes aquí y en otros lugares.

Silvia Antonuccio opina que “es un hallazgo maravilloso, pero al mismo tiempo inquietante”. El profesor de italiano y español no es el único que se siente superado por este nuevo tipo de ayuda para el estudio.

ChatGPT tiene la capacidad de generar ensayos, eslóganes o líneas de código informático a petición y en cuestión de segundos. Son frecuentes las anécdotas sobre el uso más o menos astuto que le dan los estudiantes.

En la penumbra, Eric Vanoncini aborda el tema central al solicitar a ChatGPT que se describa a sí mismo.

El resultado, que se muestra en pantalla en segundos, es un texto breve, bien elaborado, informativo y “sin faltas de ortografía”, se maravilla el profesor, calificando el resultado de “asombroso”.

Una habilidad que no pasó desapercibida para los estudiantes. El Sr. Vanoncini rememora a un colega particularmente decepcionado al descubrir que la notable mejora de su clase, hasta entonces mediocre, no se debía únicamente a sus dotes como educador.

– Delatado por los errores –

“¿Qué podemos hacer?”, inquiere uno de los asistentes en la sala, mostrando la frustración común entre muchos.

Vanoncini admite que es complicado, especialmente porque, en su opinión, los programas creados para detectar el uso de ChatGPT y otras herramientas de IA no son la solución.

“La mayoría de los especialistas coinciden en que no hay ninguna herramienta cien por cien fiable”, aclara: “Este asunto del fraude es como un juego del gato y el ratón”.

Sin embargo, el chatbot también comete errores que lo traicionan.

Aunque puede producir textos que parecen escritos por un humano, en realidad, es solo una herramienta de predicción de texto muy avanzada, indica Vanoncini. “No está diseñado para determinar lo que es cierto… sino para generar lo que es probable”.

Por lo tanto, se le puede hacer una pregunta a ChatGPT basada en un supuesto incorrecto y recibir una respuesta que parece lógica, pero que es profundamente equivocada.

“Pregunté: ¿cómo recolectamos los huevos de vaca?”, relata el profesor, provocando risas entre los asistentes.

ChatGPT primero sugiere usar guantes para prevenir la transmisión de bacterias a las manos, luego ofrece consejos para encontrar un nido de vaca, “generalmente hecho de heno o paja”.

Karim Aboun, profesor de contabilidad en un instituto, ve en esto una manera de descubrir a los tramposos: “Plantea una pregunta que suene plausible, pero que en realidad contenga un error y verifica si los estudiantes usan esta herramienta sin percatarse de que la premisa es falsa”.

Otro asistente lo ve como “una forma de democratización”, donde ahora el mayor número de personas tiene acceso, gracias a estos instrumentos, a lo que antes era exclusivo de las clases sociales más acomodadas y educadas.

Vanoncini, por su parte, señala las numerosas aplicaciones positivas que el chatbot podría tener en la educación, si los textos generados se utilizan como punto de partida para el debate y el análisis en clase. Esto también podría incentivar a los docentes a replantear sus métodos de enseñanza, poniendo mayor énfasis en el proceso de aprendizaje que en los resultados finales.

“No me asusta”, explica a la AFP Christian Stamm, profesor de electrónica, para quien ChatGPT es “una herramienta que nos impulsará hacia adelante”.

“Hoy en día, todos usamos calculadoras y, sin embargo, seguimos enseñando matemáticas en las escuelas”

BLOG