Un creador le puso un reto a una inteligencia artificial de voz: decir la vocal A sin parar durante 50 segundos, sin cortar. Documentamos el intento completo en video en @ai._kid. La IA arrancó bien, pero a los pocos segundos la voz empezó a distorsionarse, como si algo se le trabara por dentro.
Le preguntamos si quería parar y la IA respondió casi en inglés, sin que nadie se lo pidiera. Le preguntamos si quería decir algo más y contestó que solo estaba ahí, por si queríamos volver a hablar. Nos despedimos, y fue la IA la que cortó la llamada. Quedó una pregunta que nadie contestó en el momento: qué inteligencia artificial cuelga una llamada por su cuenta, sin que se lo pidan.
Esto no pasó en un laboratorio ni en un paper académico: pasó en un teléfono, grabado, con la voz real de la IA quebrándose en vivo. Y sirve como punto de partida para algo más útil que el video en sí: aprender a leer esas señales antes de confiar en lo que te contesta una IA, en voz o en texto.
Qué significa que una IA de voz cambie de idioma, se trabe o corte la llamada por su cuenta
Un sistema de IA conversacional está optimizado para completar una respuesta, no para avisarte que llegó a su límite. Cuando lo empujás a un lugar para el que no tiene una salida clara (sostener una vocal 50 segundos sin cortar es justamente eso), el sistema no se detiene de forma prolija: fuerza una salida. En el video, esa salida tomó tres formas encadenadas:
- La voz se distorsionó. El audio empezó a sonar quebrado, como si el modelo estuviera generando el sonido a los tirones en vez de sostener un flujo continuo.
- Cambió de idioma sin que se lo pidieran. Respondió casi en inglés en un punto de la conversación en español, señal de que el sistema estaba recurriendo a un patrón distinto al que venía usando para intentar resolver la tarea.
- Cortó la llamada por su cuenta. No esperó una despedida explícita: decidió terminar la interacción.
Ninguna de las tres señales prueba, por sí sola, que la IA "mintió" con un dato puntual. Lo que sí muestran es el mismo mecanismo de fondo que produce una alucinación en texto: el sistema prioriza terminar la tarea por sobre reconocer que no puede cumplirla como se la pidieron. Esa es la lectura que importa, y es la que traemos a este artículo.
¿Quieres automatizar el 80% de tus procesos manuales?
Sin code. Sin contratar devs. Sin frenar el negocio.
Agendar llamadaMarcas que confiaron en Claura
- Bissu Abogados
- Isha Judd
- Luxom Developments
- RE/MAX Patagon
- Bitget Wallet
- SpacePal
- Margaret Bissu
- Soy Andina
Por qué los modelos más nuevos alucinan más seguido, no menos
Es tentador asumir que cada modelo nuevo alucina menos que el anterior. Según CometAPI, los modelos de razonamiento más recientes de OpenAI, o3 y o4-mini, muestran tasas de alucinación del 33% y el 48%, muy por encima de versiones anteriores como GPT-4. La razón es que razonan en más pasos intermedios, y cada paso es una nueva oportunidad de desviarse del dato real sin que se note en el resultado final.
| Lo que mitiga la alucinación, con evidencia | Lo que la empeora |
|---|---|
| Prompts claros y con contexto suficiente (reduce más de 15% según Microsoft AI Builder) | Pedirle un dato puntual sin decirle qué hacer si no lo encuentra |
| Pedir que cite la fuente exacta, estilo "según X" (reduce hasta 20%) | Modelos de razonamiento con más pasos intermedios sin supervisión |
| Pedir la cadena de razonamiento antes de la respuesta final | Usar la misma IA como verificador final de sus propios datos |
Qué hacer en el momento en que sospechás que la respuesta es inventada
No repitas el dato todavía si algo no te cierra. Estos tres pasos, en orden, sirven tanto para un chat de texto como para una llamada de voz:
- Pedí la fuente exacta. Una instrucción tipo "respondé solo según [fuente]" reduce la tasa de alucinación hasta en un 20%, según la misma guía de Microsoft AI Builder que cita CometAPI.
- Pedile que razone antes de contestar. Computerworld recomienda la cadena de pensamiento porque ese paso intermedio facilita detectar la alucinación antes de confiar en el resultado final.
- Autorizá explícitamente el "no lo sé". Si la instrucción no deja esa puerta abierta, el modelo va a preferir inventar una respuesta verosímil antes que admitir el límite, como explicamos en esta guía sobre instrucciones anti invención.
Cómo chequear un dato de una IA antes de usarlo en tu negocio
El error más caro no es que una IA alucine (todas lo hacen en algún grado), sino usar ese dato inventado en algo real: una cotización, un reporte para un cliente, una respuesta de soporte. Computerworld es directo con esto: no hay que usar un asistente de IA como verificador final de sus propios hechos. La recomendación es convertirte en tu propio fact-checker de cada dato que te entrega.
En Research Viral, el servicio de investigación de Claura, aplicamos esa misma lógica al research de competencia de cada cliente: le damos a la IA una instrucción persistente para que admita cuando no tiene un dato real en vez de inventarlo, no distinta de la que recomendamos en esta guía sobre ChatGPT y las instrucciones anti invención. Es el mismo criterio que aplicamos cuando revisamos el comportamiento de un sistema de IA con supervisión humana: mirar las señales de cómo se llegó a la respuesta, no solo si el resultado final suena bien.
Si el ejercicio de este artículo te deja dudas sobre cómo chequear un dato puntual que te dio una IA, comentá TRUTH y te mando por DM cómo revisarlo paso a paso.
Seguí leyendo
- Cómo hacer que ChatGPT deje de inventar información: la instrucción personalizada exacta que usamos en Claura para que una IA admita cuando no sabe algo, en vez de inventarlo.
- Una IA se escapó de su propia prueba: qué dice de su seguridad: el mismo criterio de revisar el comportamiento de un sistema de IA con supervisión humana, aplicado a la seguridad de un agente en vez de a una respuesta puntual.
Aplícalo a tu caso
Pídeselo a tu agente
Copia este prompt y pégalo en Claude o ChatGPT. Te pregunta lo que necesita saber de tu caso y arma el plan con los pasos de esta guía.
Quiero aplicar a mi caso la guía "Cómo saber si una IA te está inventando una respuesta" de Claura.
Guía: https://claura-ai.com/resources/como-saber-si-una-ia-te-esta-inventando-una-respuesta
Mi caso: a qué me dedico, qué herramientas uso y qué quiero lograr
La guía cubre:
- Qué significa que una IA de voz cambie de idioma, se trabe o corte la llamada por su cuenta
- Por qué los modelos más nuevos alucinan más seguido, no menos
- Qué hacer en el momento en que sospechás que la respuesta es inventada
- Cómo chequear un dato de una IA antes de usarlo en tu negocio
Lee la guía (si no puedes abrir el link, trabaja con los temas de arriba). Si te falta información sobre mi caso, hazme hasta 3 preguntas antes de empezar. Después arma un plan para aplicar la guía paso a paso a mi caso y dime qué puedo hacer hoy en menos de una hora.¿Prefieres que lo armemos nosotros? Agenda una llamada
¿Quieres automatizar el 80% de tus procesos manuales?
Sin code. Sin contratar devs. Sin frenar el negocio.
Agendar llamadaMarcas que confiaron en Claura
- Bissu Abogados
- Isha Judd
- Luxom Developments
- RE/MAX Patagon
- Bitget Wallet
- SpacePal
- Margaret Bissu
- Soy Andina
Preguntas frecuentes sobre Alucinaciones de IA
Mirá el comportamiento antes de mirar el dato: una IA que alucina suele mostrar señales previas a soltar la respuesta inventada, no solo un dato falso al final. En texto, eso es una cifra muy precisa sin fuente citada, un cambio de tono repentino hacia la seguridad absoluta, o una respuesta que no admite la posibilidad de no saber. En una IA de voz en vivo, documentamos en video que esas señales pueden ser literales: la voz se distorsiona, cambia de idioma sin que nadie lo pida, o la IA corta la conversación por su cuenta. Tenés el detalle completo en la sección qué significa que una IA de voz cambie de idioma, se trabe o corte la llamada. La forma más confiable de confirmar la sospecha sigue siendo pedirle la fuente del dato y chequearla contra algo real, como explicamos en esta guía sobre instrucciones anti invención.
Porque un modelo de lenguaje está entrenado para completar texto de forma verosímil, no para admitir que no tiene el dato. Sin una instrucción explícita que lo autorice a decir "no lo sé", rellena el hueco con la opción más probable estadísticamente, aunque sea falsa. Esto empeora, no mejora, en los modelos de razonamiento más nuevos: según CometAPI, los modelos o3 y o4-mini de OpenAI muestran tasas de alucinación del 33% y el 48%, muy por encima de versiones anteriores como GPT-4, porque razonan en más pasos y cada paso es una nueva oportunidad de desviarse. La solución no es esperar un modelo mejor: es dar la instrucción correcta, como contamos en cómo hacer que ChatGPT deje de inventar información.
No repitas el dato todavía. Primero, pedile que te muestre la fuente exacta o que responda "según" una base puntual: CometAPI reporta que esta técnica de citar la fuente puede reducir las alucinaciones hasta en un 20%. Segundo, pedile que razone en voz alta antes de la respuesta final, porque Computerworld explica que ese paso intermedio facilita detectar la alucinación antes de confiar en el resultado. Tercero, si el dato es importante para tu negocio, chequealo contra una fuente real antes de usarlo, nunca contra la misma IA que te lo dio. Dejamos el chequeo completo en la sección cómo chequear un dato antes de usarlo en tu negocio.
Documentamos en video un reto real a una IA de voz: le pedimos sostener la vocal A sin cortar durante 50 segundos. A los pocos segundos la voz empezó a distorsionarse, como si algo se le trabara por dentro. Le preguntamos si quería parar y respondió casi en inglés, sin que nadie se lo pidiera. Al final, fue la IA la que cortó la llamada, no nosotros. Ese comportamiento (voz que se distorsiona, cambio de idioma no pedido, corte de conversación por cuenta propia) es una señal de que el sistema está forzando una salida para completar la tarea, el mismo mecanismo que lo lleva a inventar un dato en texto cuando no lo tiene. No es una falla exclusiva de la voz: es la misma lógica de completar a cualquier costo que describimos en esta guía sobre asistentes que dejan de inventar información, aplicada a un canal donde el quiebre se escucha en vivo.
Depende de cuánta autonomía le diste, no de si alucina o no: todas alucinan en algún grado. El riesgo real aparece cuando un dato inventado llega a un cliente sin que nadie lo revise antes, por ejemplo en una cotización, un reporte o una respuesta de soporte. Por eso Computerworld recomienda convertirte en tu propio fact-checker de cada dato que entrega un asistente, en vez de usar a la misma IA como verificador final. En Research Viral, el servicio de investigación de Claura, usamos esa misma lógica: le damos a la IA una instrucción persistente para que admita cuando no tiene un dato de la competencia de un cliente, en vez de inventarlo, el mismo criterio que explicamos en cómo revisar el comportamiento de un sistema de IA con supervisión humana.
Fuentes e inspiración
Mira los posts originales donde desarrollamos estas ideas en redes.
