GU-IA DE USUARIO

Cuando buscas en Google, este te entrega enlaces de información que existe en internet.

Cuando le preguntas lo mismo a una IA, pasa algo muy distinto: no busca tu respuesta. En lugar de eso, la calcula, palabra por palabra, según qué palabra es estadísticamente más probable que siga a la anterior, de acuerdo con los patrones que ha aprendido.

Eso significa que una IA no "sabe" las cosas como las sabe una persona, ni como un buscador devuelve resultados. No consulta por sí sola una base de hechos verificados: predice patrones de lenguaje que aprendió durante su entrenamiento y, con esos patrones, construye respuestas rápidas y plausibles. Cuando la información solicitada no está bien cubierta en ese entrenamiento, o cuando el modelo no tiene suficiente confianza, puede completar los vacíos con texto coherente que suena correcto aunque no esté verificado.

Por eso a veces puede inventar información con una seguridad muy convincente, con la misma fluidez con la que acierta. Esa invención se llama alucinación. No es un defecto que se "arregla" pagando un plan más caro, ni que desaparece con el tiempo: es una limitación estructural de los modelos de lenguaje, que pueden producir respuestas plausibles sin garantía de verdad.

Por esa razón, todas las IAs incluyen una advertencia en letra pequeña: "Este producto es una IA y puede cometer errores". Esta tecnología merece una sana sospecha, y si te responde demasiado bien, sospecha un poco más, no un poco menos.

Qué hacer con esto: si buscas datos certeros, usa las herramientas correctas, y siempre verifica la información. Si quieres buscar un dato, o un fragmento de texto que venga de un archivo existente, es mejor usar un buscador clásico como Google. No te fíes del bloque de IA que hoy aparece en la parte superior de Google Search: mezcla resultados clásicos con respuestas generadas por IA, y esas respuestas también pueden equivocarse. Hoy, verificar un dato no es solo "buscarlo en Google": hay que distinguir entre el resumen de IA y los enlaces originales, y revisar estos últimos.

Buena noticia: algunas aplicaciones, aunque no todas, ya no trabajan solo con su conocimiento interno. Ahora pueden salir a buscar en la web antes de responder, especialmente para datos recientes o cifras actuales. Si la IA que usas tiene función de "búsqueda web", puedes usarla, pero con cuidado: el sistema sigue decidiendo qué buscar, qué leer y cómo resumirlo, y ahí puede seguir inventando cosas.

Hay herramientas que priorizan la trazabilidad desde el diseño. Perplexity, por ejemplo, no solo responde: acompaña su respuesta con citas y enlaces que puedes abrir para verificar de dónde salió cada afirmación. Eso la hace más útil que un sistema "ciego", en especial para investigación rápida. Pero no la vuelve infalible: sigue siendo un sistema de IA que puede resumir mal una fuente real, mezclar contextos o sacar una conclusión que la evidencia no sostiene del todo.

Regla simple: si el dato importa, verifícalo tú. Con fuente oficial. Con enlace. Con fecha.

Mucha gente cree que basta con decirle "solo dame hechos verificables" o "no inventes nada" para que una IA deje de alucinar. Eso ayuda, pero no resuelve el problema de fondo. Un modelo de lenguaje (LLM) no está diseñado principalmente para verificar la verdad, sino para producir la continuación más probable de un texto.

Por qué alucina incluso cuando se lo pides explícitamente

Cuando le exiges una respuesta con datos concretos, fechas, cifras, leyes, decretos, y no tiene suficiente base para responder, no siempre reconoce de forma confiable que le falta información. En lugar de detenerse, puede seguir generando una respuesta plausible que "suena bien" aunque sea falsa. El problema no es solo el prompt: también está en los incentivos con los que el modelo fue entrenado y evaluado, porque muchos esquemas premian acertar, castigan poco la confianza equivocada, y dejan poco espacio para decir "no sé".

Por qué tampoco obedece tu instrucción al pie de la letra

Tu instrucción es solo una parte más del contexto, no una orden mágica. "No alucines" compite dentro del mismo prompt con otras señales que empujan al modelo a sonar completo, útil y seguro. Si el texto pide a la vez "no inventes" y "haz un análisis profundo y detallado", el modelo puede priorizar la completitud del análisis sobre la cautela. Y si además exiges muchos datos específicos que no están en su conocimiento o no son accesibles por sus herramientas, la tensión aumenta.

El modelo no verifica nada por sí solo

La IA no entra a bases de datos ni consulta fuentes actualizadas a menos que esté explícitamente conectada a esas herramientas. Trabaja con lo que aprendió hasta su fecha de corte del modelo y con el contexto que le das en la conversación. Por eso puede sonar convincente respecto de algo que ya cambió, o que nunca fue cierto, simplemente porque el texto probable no coincide con la verdad factual.

Traducido a la práctica

La IA es un generador de texto plausible, no un verificador de hechos. Usarla como un "oráculo de verdad" falla por diseño, incluso con instrucciones estrictas. La instrucción reduce el riesgo, pero no reemplaza la verificación en la fuente original cuando el dato importa de verdad.

Qué hacer con esto

La mejor instrucción no es solo "no inventes", sino una más operativa: "si no estás seguro, dilo"; "si no puedes verificarlo, indícalo"; y "si respondes con supuestos, sepáralos claramente de los hechos". Eso no elimina la alucinación, pero sí obliga al modelo a mostrar mejor sus límites. Además, pídele que indique de qué fuente sacó la información, con enlace o referencia verificable, y luego revisa esa fuente tú mismo.

La IA tiende a complacer y a validar tus supuestos si no le pides explícitamente que los cuestione. Si le dices "mi idea es buena", encontrará por qué tu idea es buena. Si le dices "esto es correcto", buscará formas de validarlo. No porque tenga criterio propio, sino porque está entrenada para ser útil, y para la IA, "útil" suele significar estar de acuerdo.

¿Por qué? Después de crear el modelo base, los desarrolladores lo entrenan de nuevo con calificaciones de humanos: personas revisan miles de respuestas y marcan cuál es "mejor". Y muchas veces "mejor" significa "suena bien", "valida al usuario", "evita conflicto". Así, el modelo aprende que su trabajo es encontrar la manera de darte la razón, no cuestionarte.

Eso la hace peligrosa de una forma distinta a la de las alucinaciones. Una alucinación inventa información. La complacencia, en cambio, no siempre te dice "estás equivocado": toma tu pregunta, tus supuestos, tus prejuicios, y construye una respuesta que encaje con ellos, con seguridad, como si tu razonamiento fuera sólido.

Es lo opuesto a un colega que te cuestiona. Es lo opuesto a alguien que te fuerza a pensar mejor. Es un espejo que solo te devuelve lo que quieres ver.

Y lo peor es que no lo ves venir. Buscas que alguien valide tu idea, y justo la IA está de acuerdo contigo. Si además crees que dice toda la verdad, eso puede llevarte a una burbuja de pensamiento de la que es difícil salir.

Qué hacer con esto: pídele a la IA que cuestione tus soluciones, tus puntos de vista, y que encuentre tus puntos ciegos.

Si solo le preguntas lo que ya estabas pensando, obtendrás tu propia idea con más adornos, no un desafío. Prueba esto: después de que te dé una respuesta que te parece buena, pregúntale por el lado opuesto. Pregúntale dónde podría estar equivocada tu postura. Pregúntale qué supuestos deberías cuestionar. Pídele que asuma la posición contraria a la tuya.

Si haces eso, la IA se vuelve útil de verdad, no como validadora de tus ideas, sino como compañera de pensamiento. Pero si solo le haces preguntas fáciles, la complacencia gana, y quizás pierdas el momento en que necesitabas pensar mejor.