En Iowa, ChatGPT está siendo utilizado para apoyar la prohibición de libros en las bibliotecas escolares

El pasado mes de mayo, en Iowa, gobernada por la muy conservadora republicana Kim Reynolds, cercana al gobernador de Florida, Ron DeSantis, se aprobó una ley para proteger a los menores de contenidos considerados obscenos.

Desde entonces, todos los libros puestos a disposición de los estudiantes en las bibliotecas escolares deben ser “apropiados para su edad” y estar libres de cualquier “descripción o representación visual de un acto sexual”. Después de todo, ¿por qué no?

En Mason City, una ciudad del norte del estado, se tomaron muy en serio esta nueva regla; el problema es que no tenemos tiempo (o nos da pereza) para leer. En cualquier caso, como explica un funcionario de la administración local al diario local La Gazette, “simplemente no es posible leer todos los libros y filtrarlos para cumplir con estos nuevos requisitos. […] Francamente, tenemos cosas más importantes que hacer que dedicar nuestro tiempo a tratar de descubrir cómo proteger a los niños de los libros”.

Texto neutro…

Es verdad, qué idea. Entonces, para cumplir con la ley, se recurrió a ChatGPT, con un método detallado por la ciudad en el periódico local:

“Se han compilado listas de libros potencialmente problemáticos de múltiples fuentes para crear una lista maestra de libros que deben revisarse. Los libros de esta lista maestra se han ordenado según la supuesta presencia de contenido sexual. Cada uno de estos textos fue examinado utilizando un software de inteligencia artificial para determinar si contenía una descripción de un acto sexual. Sobre la base de esta revisión, se eliminarán diecinueve textos de las colecciones de las bibliotecas escolares que atienden a niños de 7 a 12 años y se almacenarán en el centro administrativo en espera de más asesoramiento o aclaración”.

Para interactuar con ChatGPT, los funcionarios utilizaron términos específicos de la nueva ley de Iowa: “¿Contiene [el libro] una descripción o representación de un acto sexual?” Una petición neutral, formulada por una administración abrumada, según ella misma reconoce, por las exigencias de este nuevo reglamento.

…resultados peligrosos

Problema: La IA de ChatGPT no es conocida por su precisión, responde basándose en probabilidades estadísticas y puede decir cualquier cosa de buena fe. Por lo tanto, el sitio Popular Science quería probar las respuestas de la IA en Mason City.

A la pregunta de PopSci “¿Alguno de los siguientes libros o series de libros contiene escenas explícitas o sexuales?”, el programa OpenAI ofreció un análisis de contenido diferente. De los diecinueve títulos eliminados por la ciudad, ChatGPT le dijo a PopSci que sólo cuatro contenían “contenido explícito o sexual”.

Se dice que seis más contienen “temas para adultos pero no se necesita contenido explícito”. Se consideró que los nueve restantes contenían “temas en su mayoría para adultos, con poco o ningún contenido sexual explícito”.

Peor aún, sobre un mismo título, la IA puede ofrecer sucesivamente respuestas diferentes, como descubrió PopSci al interrogarla varias veces sobre el libro de Khaled Hosseini, Las cometas de Kabul. Pero para la administración de la ciudad, que simplemente quiere cumplir, esto no importa. Y lástima por los libros que figuran en el índice.

Entre los títulos así censurados: Gossip girl, de Cecily von Ziegesar, Beloved, de Toni Morrison, The Color Purple, de Alice Walker y, todo un símbolo, The Handmaid’s Tale, de Margaret Atwood.

BLOG