El problema de los falsos positivos y los filtros editoriales
A menudo charlo con un amigo, que es profesor de bases de datos e inteligencia artificial para Grados Superiores (estudios técnicos no universitarios en España). Con él siempre tengo conversaciones bastante profundas acerca de filosofía, economía y avances tecnológicos.
Hace poco, me comentó un fenómeno constante que ya tiene poca novedad: cada vez más alumnos, inclusive mayores de edad, se dedican a copiar y pegar respuestas de la IA de su elección sin entender, revisar ni contrastar la información.
Sin embargo, la pregunta que dejó en el aire no fue: ¿Qué hacer con estos alumnos? Por el contrario, ambos caímos en consideración del peligro más injusto en la educación: ser incapaces de distinguir quién ha realizado un trabajo completo de redacción o documentación técnica por sí mismo y quién se haya limitado a copiar y pegar.
Ya no se trata de que un alumno habilidoso consiga engañar al docente para obtener un título que no les servirá de nada; sino que también se cernirá la duda sobre cualquier alumno que haya obtenido su título mediante aprendizaje y esfuerzo.
En cierto sentido, el éxito de la IA conducirá al triunfo definitivo de la mediocridad. Ya no habrá solamente ningún incentivo por aprender y formar nuestras mentes, sino que, sobre el papel, no habrá diferencia alguna entre alguien con la cabeza hueca y otro con la cabeza bien amueblada.
El estudiante que quiera hacer las cosas bien se encontrará inevitablemente con la sombra de la IA sobre su cabeza, como una espada de Damocles que puede echar por tierra su imagen personal y profesional de forma injusta.
Y esto mismo cabe señalarlo hacia la escritura de literatura. Mi amigo, yo y la mayoría de quienes nos movemos por redes y canales de escritura somos escritores porque nos fascina el arte de contar historias. ¿Qué futuro nos espera si estos mismos malos alumnos, como vemos a diario, también deciden enviarles a agencias y editoriales textos generados por IA o tratan de autopublicar cualquier idea peregrina que les ha escupido una inteligencia artificial?
Hasta no hace mucho, el volumen de los "libros malos" era lo suficientemente manejable para que lectores y empresas pudieran averiguar por quiénes apostar. En la actualidad se publican o buscan editarse miles de libros al día. Esta cantidad, tan desbordante, vuelve imposible que nadie involucrado en el mundillo desea siquiera ponerse a diferenciar el trigo de la paja. No es viable porque la atención humana y nuestro tiempo tienen un límite.
Y de aquí estamos llegando ya a otra trampa: el uso de la IA para evaluar libros y publicaciones académicas. Dada la naturaleza estadística de las inteligencias artificiales generativas, ésta favorecen aquello que cumplan con el factor de la mayoría y tratarán de ofrecer una normalización de las muestras; lo cual redundará en una preferencia por lo conocido y la exclusión de aquellos detalles, novedosos y excepcionales, que se encuentran en la literatura de calidad, que crean géneros y marcan épocas. Esto ya se observa en los sesgo que la IA aplica sobre ensayos universitarios.
Con todo ello, vivimos en tiempos convulsos y en uno de los más difíciles encontrados en la historia para demostrar la valía de nuestras obras. Si en tiempos antiguos se dudaba de la alfabetización o de la clase social del autor; ahora se duda de algo incluso más profundo: ¿lo habrá escrito él o ella?
En las últimas semanas se presentaban aplicaciones que, a contracorriente de la costumbre, ofrecen el servicio de introducir erratas y fallos en textos para dotarlos de un cariz humano por el riesgo de que tales redacciones se parezcan formalmente a textos generados por IA. ¿Cuál será el futuro?