Errores de ChatGPT: respuestas seguras que ignoran la realidad

Mateo le preguntó a ChatGPT si convenía caminar o manejar los 100 metros hasta el lavadero de autos. ChatGPT contestó que fuera caminando, para ahorrar nafta y tomar aire fresco. Cuando le preguntó cómo pensaba lavar el auto si él iba a pie, ChatGPT insistió con total confianza: que lavara el auto allá y volviera caminando a casa con el auto reluciente. Recién cuando Mateo le hizo notar que el auto seguía estacionado en el garage, ChatGPT admitió que manejar tenía más sentido. Es uno de los errores de ChatGPT más claros: dos respuestas seguras y equivocadas antes de corregir, sin preguntar primero dónde estaba el auto ni pedir ese dato antes de recomendar algo. En ningún momento del intercambio ChatGPT avisó que le faltaba información, algo que ITMastersMag asocia a la pérdida de contexto del modelo. Lo desarrollamos completo en qué pasó exactamente en el caso real.

ChatGPT no tiene sensores, cámara ni ubicación real de lo que te rodea. Responde solo con el texto que le escribiste, y si ese texto no incluye un dato (como que el auto ya estaba en el garage), el modelo completa el hueco con la opción más común en vez de preguntar. ITMastersMag explica que la pérdida de contexto y la tendencia a completar huecos con datos inventados son la misma raíz de los errores de ChatGPT, aunque ese artículo no cubre el caso de un error sobre el espacio físico real como el del lavadero. El tono seguro no es señal de certeza: es el estilo de redacción del modelo, pase lo que pase con el dato real. La UOC agrega que, por ser un sistema generativo, el modelo puede introducir este tipo de errores por construcción. Lo ampliamos en por qué ChatGPT puede sonar tan seguro sin tener el espacio real.

No. Hay dos tipos bien distintos y conviene no confundirlos. Uno son fallas técnicas de la app, como las que documenta la propia ayuda de OpenAI: mensajes de "algo salió mal", caídas del servicio, errores de carga. El otro tipo son errores de razonamiento, donde ChatGPT responde sin fallar técnicamente pero ignora un dato del mundo real, como el auto que seguía en el garage. Enrique Dans documenta otra variante de este segundo tipo, la sicofancia: el modelo valida lo que el usuario quiere escuchar en vez de corregirlo, aunque esa fuente se enfoca en conversaciones largas y no en un caso puntual de un dato físico ignorado. Lo que leés en esta guía, el error sobre el espacio físico, es parte del mismo segundo grupo, pero con una causa distinta. Vas a encontrar el detalle completo en lo que ya está documentado sobre errores de ChatGPT.

Antes de actuar sobre cualquier consejo práctico, confirmá tres cosas con tus propios ojos, no solo con lo que el chat ya te contestó antes. Primero, revisá si le diste todos los datos del contexto físico (dónde estás parado, qué objeto necesitás mover). Segundo, si la respuesta depende de algo que solo vos podés ver (como un auto estacionado), decilo explícito en el mensaje, en vez de asumir que ChatGPT lo dedujo solo. Tercero, si la respuesta te suena rara, repreguntá señalando el dato que falta, como hizo Mateo con el auto en el garage, en lugar de pedirle simplemente que revise de nuevo. La UOC explica que, al ser un sistema generativo, ChatGPT puede introducir errores por construcción, así que la revisión manual no es opcional. La misma lógica de pedir el dato explícito la aplicamos en cómo hacer que ChatGPT deje de mentirte. Armamos el checklist completo, con los cuatro pasos en orden, en checklist para revisar un consejo práctico de ChatGPT antes de seguirlo.

Señalalo de forma directa y concreta, como hizo Mateo ("el auto sigue en el garage"), en vez de solo decir que la respuesta está mal. ChatGPT suele corregirse rápido cuando el dato que faltaba queda explícito en el mensaje, como pasó en el caso real: recién ahí admitió que manejar tenía más sentido. Si la corrección vuelve a sonar demasiado segura, repreguntá una vez más antes de actuar. Esto conecta con otro patrón que ya cubrimos: en cómo hacer que ChatGPT deje de mentirte explicamos por qué el modelo inventa datos de negocio y cómo frenarlo con instrucciones concretas. La lógica es la misma: cuanto más contexto real le das por escrito, menos espacio le queda para completar huecos con un dato equivocado, algo que ITMastersMag documenta como un patrón recurrente de los errores de ChatGPT. Repasá el caso completo en qué pasó exactamente en el caso real.