Las herramientas de Inteligencia Artificial (IA) para generar contenidos, tales como ChatGPT, ya se han convertido en algo cotidiano en muchos trabajos y es raro el profesional familiarizado con internet que no las haya probado.

Dejando de lado ciertas cuestiones morales y legales, lo cierto es que podemos encontrarles muchas bondades: nos sacan de un apuro a la hora de abordar textos aburridos, pueden darnos varias versiones de un concepto en segundos y son muy útiles para consultar varias cuestiones en poco tiempo. Ahora bien, ¿son tan precisas como nos gustaría?

Para responder a esta pregunta primero hay que entender qué es exactamente ChatGPT (u otros modelos similares). En resumen, se trata de un modelo de IA basado en el aprendizaje automático, que utiliza una técnica llamada transformer para entender el contexto y generar texto coherente. Funciona mediante el análisis de grandes cantidades de datos y patrones de lenguaje, lo que le permite generar respuestas a preguntas y mensajes de manera natural y coherente. 

Por tanto, ChatGPT aprende como lo haríamos nosotros pero a gran escala: consulta fuentes de información y analiza lo que lee (mientras aprende idiomas en el camino). Pero no toda la información que estas tecnologías consumen es veraz, pues al fin y al cabo ha sido seleccionada por humanos (sus programadores) que también pueden cometer errores en el proceso. Incluso con un gran filtrado previo de los datos que la IA debe leer, es muy probable que muchos y variados datos imprecisos se acaben colando en el proceso de lectura.

Por si fuera poco, puede existir la imprecisión realizada a propósito: el sesgo. Las herramientas de IA pueden incorporar arbitrariedades en sus respuestas si se les entrena con datos que contienen prejuicios, muchas veces tan interiorizados por sus programadores que no se interpretan como tales.

Teniendo en cuenta que las voces fuertes en la sociedad siguen siendo mayoritariamente masculinas, heternormativas y blancas, los sesgos de género o los raciales están muy presentes en las principales IA. Existen numerosos estudios que abordan la materia, como uno muy revelador de la Universidad de Vigo, centrado en el sesgo por género.¹

Además, aunque las herramientas de IA son capaces de procesar grandes cantidades de información, todavía pueden ser limitadas en su capacidad para comprender el contexto y el lenguaje humano. A veces, pueden producir resultados que no son precisos o no tienen sentido en un contexto determinado.

Haciendo la prueba de preguntar lo mismo en idiomas diferentes, las respuestas pueden variar mucho: las IA aún no se llevan bien con los dobles sentidos y el humor y no entienden de diferencias culturales. Esto, aunque las haga imprecisas, tranquiliza: aún están lejos de quitarnos el trabajo a los profesionales de la comunicación o del arte.

En todo caso, la precisión de las IA depende mucho del tipo de respuestas que se le están pidiendo. Por norma general, responderá mejor a todo lo relacionado con ciencias exactas, datos concretos y preguntas cerradas. En contra, o bien se andará por las ramas u ofrecerá muchos lugares comunes en campos donde la interpretación pasa por encima de la subjetividad.

En resumen, la precisión de ChatGPT y otras IA similares depende de muchos factores, desde el lenguaje, la temática por la que se le consulta o incluso la ideología de sus programadores. Aunque se trata de herramientas útiles siempre requieren de una posterior revisión humana y lo ideal es combinarlas con otras fuentes de información (que también conviene revisar). 

Esta verificación humana, por otro lado, hará que aumente su eficacia: si como personas generamos nuevos contenidos, precisos y veraces, con los que se pueda nutrir, a la larga mejoraremos su capacidad de ofrecer la mejor información posible.  

Ben Snell, Inheritance (Herencia), 2019-2020. Cortesía del artista.

[…] la precisión de ChatGPT y otras IA similares depende de muchos factores, desde el lenguaje, la temática por la que se le consulta o incluso la ideología de sus programadores.

Ben Snell,  Inheritance II (Herencia II), 2020. Cortesía del artista.