El gobierno de Jalisco utilizó herramientas de inteligencia artificial generativa (IAG) para redactar el documento ‘Bases técnicas para la Priorización de las Intervenciones Estratégicas para la Seguridad Hídrica del AMG’, entregado el martes 14 de julio por el titular de la Secretaría General de Gobierno (SGG), Salvador Zamora Zamora, en el Congreso del Estado.

NTR analizó el documento completo con tres herramientas distintas de IAG: Claude, ChatGPT y Gemini, y las tres generaron un informe que concluye que sí se redactó gran parte del texto con IAG.

Claude encontró un marcador invisible que heredan las herramientas de IAG al copiar el texto y pegarlo en un documento de edición. Este marcador fue detectado desde el carácter 14 mil 400 hasta el 677 mil de los alrededor de 727 mil que contiene el texto, es decir, en más de 90 por ciento.

“Encontré 1,251 caracteres invisibles U+200B (zero-width space) distribuidos a lo largo de casi todo el cuerpo del documento (desde el carácter ~14,400 hasta el ~677,000 de un total de ~727,000). Este carácter no tiene función tipográfica visible y es un artefacto muy conocido que se genera al copiar y pegar texto desde interfaces de chat de IA (ChatGPT, Gemini, Claude, etc.) hacia editores como Google Docs. Su presencia sistemática –no aislada en un par de párrafos, sino repartida en prácticamente todo el documento– es un indicio técnico fuerte de que el texto narrativo fue redactado o generado en una herramienta de IA y luego pegado en Google Docs (el Producer del PDF confirma ‘Skia/PDF … Google Docs Renderer’, es decir, el documento fue efectivamente editado y exportado desde Google Docs)”, describió Claude.

Héctor Piña, especialista en análisis de datos y cultura digital, describió que este carácter invisible sirve para controlar los saltos de línea y con ello mejorar la legibilidad del texto dentro de las herramientas de IAG. Él hizo un ejercicio similar para detectarlo utilizando librerías de Python y el resultado fue que a partir del capítulo 3 aparece en gran parte del texto.

“A partir del capítulo 3 aparecen este tipo de caracteres, eso da la impresión de que el documento fue o empezó a redactarse completamente humana y pareciera que a partir del capítulo 3 aceleraron el paso. (Esto) lo podemos conectar con el contexto que vivimos en la ciudad, pareciera que a partir de la presión social para que este documento fuera público se aceleró su escritura”.

El documento es parte del plan hídrico para la metrópoli realizado por el gobierno estatal, el cual fue presentado para hacerle frente a la problemática del agua sucia suministrada por el Sistema Intermunicipal de los Servicios de Agua Potable y Alcantarillado (Siapa) a gran parte de la ciudad 

HAY PATRONES Y ERRORES

Por otro lado, Gemini detectó metainstrucciones que coloca la IAG de manera común cuando se necesita control de calidad o verificación de información y encontró duplicaciones de párrafos, error característico de los modelos de la IAG. Como estos errores permanecieron en el texto final, la herramienta concluyó que la supervisión humana no fue rigurosa.

“La prueba más clara y directa de la intervención de un sistema automatizado o un asistente de redacción basado en IA es la presencia de notas editoriales integradas directamente en el flujo del texto. Este tipo de texto describe una directriz de formato o una nota de control de calidad. Es un error extremadamente común al generar textos con IA generativa”.

Mientras tanto, ChatGPT encontró una uniformidad extrema del estilo en la mayor parte del texto, así como la repetición constante de la misma estructura lógica, además de incluir texto metadiscursivo en vez de resultados y afirmaciones claras.

Las tres herramientas coincidieron en que hay evidencia de que el documento fue creado a partir de otros documentos que sí existen, por lo que se descartó que hubiera “alucinaciones”. El proceso habría sido dotar a alguna herramienta de IAG de los estudios históricos y pedirle la generación del documento técnico; al final pudo haber una revisión humana, pero sin rigor al mantener errores.

NTR buscó a la SGG a través de su área de atención a medios para conocer los motivos del uso de la IA en el documento y por qué no se declaró su utilización, pero hasta el cierre de edición no hubo respuesta.

Grave que se use IA en documentos técnicos y no se transparente

Para Héctor Piña, especialista en análisis de datos y cultura digital, que un ente como el Siapa o cualquier dependencia del gobierno del estado a cargo de la elaboración de este documento técnico haya utilizado IAG para su redacción y este uso no esté declarado ni transparentado es grave, más tratándose de un documento base para una política pública sobre el agua potable.

Piña detectó una serie de riesgos con este tipo de prácticas que van desde la falta de pensamiento crítico para la resolución de problemas sociales, hasta que se comprometa información sensible al compartirla con las herramientas de IAG, entre otros más.

No obstante, consideró que lo más grave del proceso es que se desconoce la justificación técnica y hasta qué medida se involucró a una herramienta de IAG para la creación del documento base del plan hídrico. Además, apuntó, en un ejercicio así se le delega la responsabilidad de la toma de decisiones a un modelo de IAG.

“En tanto nosotros no sabemos cómo se utilizaron estos modelos de lenguaje en este informe, no sabemos hasta qué punto se dio la supervisión humana (…) el gobierno debe fundamentar técnicamente por qué va a utilizar una IAG en el diseño de una política pública”.

Haber caído en esta práctica lo que provocará es que se merme aún más la confianza en el Siapa, de acuerdo con lo que advierte el especialista. Lauro Rodríguez 

jl/I