En Colombia, 53 % de los trabajadores reconoce haber cometido errores por confiar en la IA y 70 % confiesa nunca haber verificado la exactitud de sus resultados.
Ilustraciones: Luisa Negrete Sanjuan
Aceptémoslo: es adictiva. Tiene una voz complaciente, da respuestas inmediatas, es incapaz de dudar. Obedece todas tus órdenes de una, sin quejarse y nunca se queda sin argumentos; aunque, para lograrlo, deba inventarse unos cuantos. Sí, la inteligencia artificial ‘alucina’. No miente en el sentido humano, produce frases perfectamente plausibles que, en realidad, pueden ser erróneas o ficticias.
Esas invenciones ya no se quedan en la pantalla: hoy circulan en nuestro día a día, en las aulas y hasta en los tribunales. Al final, consultar a la IA se parece menos a acudir a un supercerebro sabelotodo, y más a lanzar unos dados muy sofisticados.
De 31.000 dólares fue la multa que un juez federal en California impuso en mayo de 2025 a Ellis George y a K&L Gates, esta última una de las firmas más grandes y prestigiosas de Estados Unidos, con presencia global y una cartera de clientes donde se cuentan corporaciones multinacionales, instituciones financieras y gobiernos.
La sanción se produjo tras descubrir que habían presentado un escrito legal con 27 citas, de las cuales nueve eran erróneas y al menos dos completamente inventadas por inteligencia artificial. El documento se devolvió tres veces porque cada versión corregida seguía arrastrando fallos no verificados; incluso la última mantenía media docena de errores. El juez calificó la conducta como negligencia “cercana a la mala fe” y lo dejó claro: confiar ciegamente en la IA puede tener consecuencias severas.
Si esa confianza ciega ya provoca sanciones en los tribunales, en las aulas abre grietas y debates. En la Universidad de Northeastern, una estudiante denunció que los materiales de su clase incluían citas inexistentes, imágenes distorsionadas y errores de redacción; el profesor admitió haber usado ChatGPT y otras herramientas sin verificar el contenido, mientras prohibía a sus alumnos recurrir a ellas. Aunque la universidad defendió ese uso como apoyo complementario y rechazó devolver la matrícula, el caso desató controversia sobre la falta de transparencia y el papel de la IA en la educación superior.
en el país
Fuente: KPMG – Universidad de Melbourne
La inteligencia artificial generativa es, ante todo, una herramienta para crear contenido nuevo, así lo explica Daniel Santamaría, asesor TIC en educación de Didacta (de la vicerrectoría Académica de la Universidad de los Andes). Para lograrlo, se entrena con enormes cantidades de información previamente recopilada. Y allí surge el primer riesgo: esa selección nunca es neutral. La curaduría de datos puede llevar implícitos sesgos, agendas o rasgos culturales del lugar donde fueron creados e inevitablemente afectará el resultado.
Con ese material, el modelo aprende cómo suenan los textos humanos y genera respuestas que parecen escritas por una persona. No se trata de una copia (salvo que se lo pidas explícitamente), sino de algo más parecido a un aprendiz en su paso por varios maestros: primero uno, luego otro, y más tarde un tercero. Al final no repite a ninguno, mezcla técnicas, estilos y recursos. Crea su identidad de lo propio y de lo ajeno.
En el caso de la IA, esa combinación no es caprichosa: la gobiernan las probabilidades. La inteligencia artificial no es, contrario a como muchos lo creen, un supercerebro con la verdad del mundo; es un modelo que predice la siguiente palabra más probable según los patrones con los cuales aprendió. Por ejemplo, si un texto comienza con “La ciudad de Cartagena es…”, el sistema calculará, entre las palabras más probables, la siguiente. “Hermosa”, “turística” o “caliente” tienen muchas más probabilidades de aparecer que “azul”. Así, paso a paso, construye un texto completo, explica Santamaría.
Y, ¿cómo logra calcular esas probabilidades? Organiza la información en un mapa invisible de miles de dimensiones. Daniel lo explica como un campo de fútbol donde, cada rincón, está ocupado por un tipo de texto distinto. A esa representación de la ubicación en el espacio se le llama embedding. Cada pieza de información tiene un lugar en el campo según sus similitudes y diferencias con otras. Cuando envías un prompt, el modelo localiza la zona del campo donde se encuentra lo más parecido a lo que pediste y, desde allí, empieza a predecir palabra tras palabra.
Ahí puede aparecer la alucinación. Cuando la herramienta percibe relaciones inexistentes —o indetectables para los humanos— entre conceptos reales, genera resultados carentes de sentido o completamente inexactos.
“El modelo hace todo lo posible por contestarte algo. Es complaciente, en ese sentido. Al no haber un elemento mejor, usa probabilidades que no son tan altas para responder”, afirma Santamaría. Por eso, sin la información o el entrenamiento suficiente, ante la frase “Cartagena es…”, podría terminar diciendo “Cartagena es azul”.
Este fenómeno, en realidad, se parece mucho al comportamiento humano. Como explica Daniel, también rellenamos vacíos de memoria o completamos frases sin estar seguros, guiados por asociaciones, a veces, arbitrarias. Si alguien recuerda mal una historia o confunde un detalle, de la misma manera la IA mezcla conceptos y los presenta con total seguridad, como si fueran ciertos.
Hay muchas cifras de cuánto alucinan las diferentes herramientas de inteligencia artificial generativa disponibles en el mercado. En el caso de ChatGPT, una de las más populares, las cifras varían entre modelos y las tareas que se les encomiendan.
Un reportaje de The New York Times habla de pruebas internas de OpenAI en las cuales su modelo o4-mini alucinó hasta en el 79 % de los casos en el test SimpleQA, mientras otros como o3 marcaron un 51 % y versiones anteriores, como o1, un 44 %. Ojo: estos porcentajes dependen siempre del modelo evaluado y de la tarea específica.
En contraste, la compañía promueve un relato de mejora: al presentar su modelo GPT-4.5, Sam Altman aseguró haber reducido la tasa de alucinación del 61,8 % al 37,1 % en pruebas internas. Sobre todo, destacaron que “interactuar con GPT-4.5 se siente más natural” y resaltaron su mayor “inteligencia emocional” para escribir, programar o resolver problemas prácticos.
Esa narrativa se quebró con la llegada de GPT-5: menos complaciente y más riguroso, sí, pero también percibido como distante. El rechazo apareció casi al mismo tiempo que la actualización. “GPT-5 lleva la piel de mi amigo muerto”, escribió June, una estudiante noruega de 23 años, al enterarse de que la versión 4o había sido retirada. La psiquiatra Nina Vasan, consultada por The New York Times, lo explica con claridad: “El duelo es duelo, la pérdida es pérdida. Nuestro cerebro no distingue si al otro lado hay un humano o un chatbot”.
Esa dependencia emocional puede sonar lejana, pero en Colombia adopta otro rostro. Aquí no se habla de duelo digital, sino de entusiasmo desbordado: ocho de cada diez personas la aprueban o la aceptan sin reservas. Y ese optimismo convive con un uso riesgoso: 53 % de los trabajadores reconoce haber cometido errores por confiar en ella y 70 % confiesa nunca haber verificado la exactitud de sus resultados. Así lo afirma el estudio: Trust, attitudes and use of Artificial Intelligence: A global study 2025, publicado por KPMG en colaboración con la Universidad de Melbourne, un análisis de las percepciones y uso de la inteligencia artificial en el mundo a partir de una encuesta realizada a cerca de 48.000 personas en 47 países.
En lugar de “¿qué pasó?” es mejor preguntar “¿qué teorías existen sobre esto?”. Así, el modelo devuelve perspectivas en vez de inventar una respuesta “definitiva”.
Cuanto más claro y acotado sea el prompt, menor es la probabilidad de que el modelo rellene huecos con información inventada.
Plataformas como Perplexity enlazan a fuentes originales. Pueden fallar, pero permiten verificar textos humanos, rastrear la procedencia de la información o evaluar su confiabilidad si lo pides.
La IA no sustituye la investigación directa, la lectura de artículos científicos ni la consulta con expertos. Puede ser un punto de partida, nunca el destino final.
Que una frase suene coherente y fluida no la hace cierta. El mayor peligro no es que la máquina invente, sino que no cuestionemos qué entrega.
Entender hasta dónde llega la IA es clave: evita delegarle tareas de rigor absoluto o no diseñadas para ella. Lo valioso está en usarla donde realmente brilla.
Su voz, su tono al escribir, resultan demasiado convincentes. Imposible negarlo. Se le puede preguntar al abogado Rafael Ramírez, citado ante un juez tras presentar un documento con referencias a un fallo judicial que, en realidad, nunca existió. “No sabía que las IA pudiesen inventar contenido falso”, alegó. Ni siquiera pensó en verificar: los textos alucinados sonaban muy reales. El resultado, una multa significativa y la remisión del caso al comité disciplinario del estado de Florida.
Ese ‘tono que parece verdad’ conecta con nuestras debilidades. Y ese es el problema. Los humanos también completamos frases, rellenamos huecos de memoria y buscamos confirmar lo que ya creemos: son sesgos cognitivos y somos vulnerables a aceptar como ciertos los relatos, en apariencia, plausibles. Si no media pensamiento crítico, validamos la ilusión de coherencia, cualidad excelsa de la IA. Confundimos probabilidad con certeza.
Dejémoslo claro: la inteligencia artificial generativa no está diseñada para decirnos qué es cierto y qué no: como ya explicó Daniel Santamaría, solo predice patrones. Cuando el tema tiene consenso —como las fechas de la independencia— suele dar respuestas consistentes, no porque sepa la verdad, sino porque las probabilidades aumentan cuando la mayoría de las fuentes coinciden.
El problema aparece en asuntos polémicos, sin resolver, o muy complejos, donde ni los humanos hemos encontrado consenso —como los sucesos y detalles de la toma del Palacio de Justicia—. Allí la máquina mezcla versiones contradictorias y construye un relato convincente pero revuelto. No entrega certezas, sino un collage de probabilidades con apariencia de verdad, y el error surge cuando las aceptamos sin cuestionar.
Copyright© PUNTOS
Todos los derechos reservados
Vigilada Mineducación. Reconocimiento como Universidad: Decreto 1297 del 30 de mayo de 1964. Reconocimiento personería jurídica: Resolución 28 del 23 de febrero de 1949 Minjusticia.
Vigilada Mineducación. Reconocimiento como Universidad: Decreto 1297 del 30 de mayo de 1964. Reconocimiento personería jurídica: Resolución 28 del 23 de febrero de 1949 MInjusticia.
Copyright© PUNTOS - Todos los derechos reservados
