Hace unos días escribía sobre la emocracia –el régimen de las emociones–, en el que reaccionamos impulsados por la indignación o la rabia sin detenernos a reflexionar. Contexto idóneo para abordar el linchamiento digital contra el escritor peruano David Silva Rojas, pero sobre todo disertar sobre por qué no debemos confiar juicios a tabla rasa a una tecnología que opera con claras limitaciones.
Un medio señaló al escritor David Silva Rojas de haber generado con IA el 99 por ciento de su novela ‘Donde el agua trabaja’, ganadora del Premio Almadía, apoyándose en la herramienta Pangram. Los dedos flamígeros salieron de todos lados y de forma sumaria lo enviaron a la guillotina digital. Yo no tengo elementos para acusar ni defenderlo, pero el escritor asegura conservar los cuadernos redactados a mano y las versiones en Word para acreditar su autoría.
Pero vamos a la cuestión: la IA no es cien por ciento fiable cuando se fiscaliza a sí misma. No es que detrás haya una mente analizando ideas. Se trata de modelos de lenguaje que ejecutan cálculos matemáticos sobre combinaciones de palabras y patrones extraídos de la biblioteca infinita de Internet.
Están entrenadas sobre qué tan predecible son las combinaciones de palabras y qué tan uniforme es la estructura de las oraciones. Por eso, son frecuentes los casos de falsos positivos. Hasta pasajes de la Biblia o de novelas como ‘Frankenstein’, al ser sometidos al implacable escrutinio de estos softwares, aparecen como textos con niveles supuestamente altos de redacción artificial.
Otro ejemplo. Al usar la IA para la corrección ortográfica o para resumir párrafos, aunque hayan sido redactados por humanos, el detector asumirá que aquel texto lo elaboró una máquina en su totalidad, aunque el origen creativo haya sido orgánico. Todo ello ha llevado a varias compañías a retirar sus detectores del mercado.
Los avances tecnológicos siempre han provocado escozor: pasó con las calculadoras, con el copy-paste y hoy con la IA. Pero la deshonestidad también puede ser más burda, como el plagio de tesis o de notas en tiempos sin internet. El problema jamás ha sido la herramienta, sino la falta de integridad.
Satanizar el uso de la IA es absurdo. Por ejemplo, en lo académico, la clave radica en la trazabilidad del proceso. Que el alumno no se limite únicamente a entregar el producto que resulta de una sola instrucción (‘prompt’). Sino que antes se empape de fuentes con las que nutra al robot, con el cual tenga una conversación y un proceso de mejora para juntos pulir el entregable. Y que todo ese proceso sea documentado para que el profesor pueda conocer cómo se llegó al resultado final.
En cuanto al proceso creativo, el periodista José Soto lo describe mejor en un artículo de su sitio digital Economicón: “El problema, en todo caso, no sería el uso de la inteligencia artificial en la creación literaria, sino el copy-paste que achate, que aplane, que homogeneice la escritura y la creatividad, que gentrifique el pensamiento y la inventiva y haga que todo suene igual, sin corazón, sin innovación, sin ruptura. Mediocre, pues, como cafés instagrameables de Tokio o la Condesa”.
El mismo José Soto en el mismo artículo –que les recomiendo ampliamente– remata: “¿Te imaginas un escenario de máquinas juzgando máquinas, sin derecho a la explicación ni a entender cómo se tomó la decisión, sin derecho de réplica, sin garantía de debido proceso?”.
Coincido. No es buena idea someternos sin chistar a la justicia algorítmica ni a la inquisición de las redes sociales. Una, fría en sus veredictos. Pero la otra, implacable y sumaria.
*Investigador de la UdeG y coordinador de la Licenciatura en Comunicación Digital y Periodismo
X: @julio_rios
jl/I
