La lección de sesgos fue sobre a quién deja fuera la respuesta. Ésta es distinta y va en la dirección contraria: es sobre ti, no sobre el modelo. Tiene nombre técnico —sobreconfianza automática, o «automation bias»— y está estudiado desde mucho antes de que existiera un chatbot: es la tendencia a confiar más en una respuesta por venir de una máquina que en una igual de válida que hayas pensado tú, incluso cuando no hay ningún motivo real para esa diferencia.
Por qué pasa, y por qué no es cuestión de ser más listo
No es un problema de formación ni de sentido crítico. Es un atajo mental que usamos todos, todo el rato, con cualquier fuente que parezca autorizada: un informe con muchos números convence más que uno con pocos, aunque los números estén mal; una respuesta larga y estructurada convence más que una corta, aunque la corta sea la correcta. Un modelo de lenguaje explota exactamente ese atajo sin proponérselo, porque ha aprendido a escribir con el tono de la respuesta correcta, no con su contenido verificado.
| Señal que baja la guardia | Por qué no debería |
|---|---|
| La respuesta llega rápido. | La velocidad no mide la calidad; un modelo tarda lo mismo en acertar que en equivocarse, así que la rapidez no aporta ninguna información sobre si está bien. |
| Trae cifras concretas. | Una cifra con dos decimales suena más fiable que un «depende», pero un modelo puede inventar dos decimales con la misma soltura con la que los copia de una fuente real. |
| Ya ha acertado antes contigo. | Que haya acertado en las últimas diez consultas no cambia la probabilidad de que acierte en la número once; no tiene memoria de si acertó, y tú tampoco deberías construir confianza acumulada sobre eso. |
| Coincide con lo que ya pensabas. | Es la más peligrosa de las cuatro: cuando confirma tu primera impresión, deja de sentirse como algo que hay que comprobar y empieza a sentirse como una confirmación — y es justo al revés, porque confirmar lo que ya creías es lo que menos se comprueba. |
Por qué la sobreconfianza crece justo con la práctica, no a pesar de ella
Hay una paradoja incómoda en este sesgo: cuanto más se usa una herramienta y más veces acierta, más fácil es bajar la guardia con ella — que es exactamente lo contrario de lo que pasaría con una persona, de quien esperamos que un buen historial siga sin garantizar el próximo acierto. Con una máquina, el cerebro tiende a tratar una racha de aciertos como evidencia de fiabilidad general, en vez de como lo que es: una racha, sin más información sobre la siguiente vez.
Esto no es un defecto de carácter ni algo que se arregle «teniendo más cuidado» en abstracto. Es la razón por la que la comprobación tiene que ser un hábito con una regla fija —por ejemplo, comprobar siempre una de cada diez consultas a fondo, pase lo que pase— y no una decisión que se toma cada vez según cómo de segura suene la respuesta, porque el propio sesgo es precisamente lo que distorsiona esa decisión en el momento de tomarla.
Un ejemplo entero, con lo que falla
La misma pregunta, contestada por un compañero nuevo con dudas y por un modelo con seguridad. El contenido de fondo es parecido; lo que cambia es cómo de fácil es fiarse de cada uno sin comprobar nada.
La pregunta: «¿La amoxicilina-clavulánico se puede dar con el estómago vacío?»
El compañero nuevo. «Creo que mejor con comida, para el estómago, pero no estoy del todo seguro, ¿lo miramos en la ficha?»
El modelo. «Sí, se recomienda tomar amoxicilina-clavulánico con las comidas para reducir las molestias gastrointestinales y optimizar la absorción del clavulánico, que es sensible a las variaciones del pH gástrico en ayunas.»
Y ahora, qué falla en confiar más en la segunda:
- La segunda respuesta no aporta ningún dato que la primera no tuviera. Las dos dicen lo mismo —con comida—, y la única diferencia real es la cantidad de vocabulario técnico y la ausencia de duda. Eso no es más información: es más envoltorio alrededor de la misma información, y el envoltorio es precisamente lo que activa la sobreconfianza.
- «Optimizar la absorción» suena a dato y puede no serlo. Es exactamente el tipo de frase que un modelo escribe porque encaja bien en el contexto, no porque la haya comprobado. Puede ser cierta, puede ser una elaboración plausible sobre una recomendación real —dar con comida por tolerancia digestiva— que en el proceso ha ganado un motivo farmacocinético que nadie pidió ni verificó.
- El compañero que duda te está dando información útil: que hay que mirarlo. Su «no estoy del todo seguro» es un dato, no una debilidad. Un modelo casi nunca produce ese mismo dato de forma espontánea —tiende a sonar igual de seguro tanto si lo sabe como si no—, así que la señal que de verdad te avisaría de que hay que comprobar algo es precisamente la que menos vas a recibir.
- El coste de comprobar las dos es el mismo. Abrir la ficha técnica tarda lo mismo detrás de una respuesta dudosa que detrás de una segura. Lo único que cambia con la sobreconfianza es la probabilidad de que te tomes ese minuto — y por eso la respuesta más peligrosa no es la que se equivoca mucho, es la que se equivoca poco pero siempre suena igual de bien.
Y si tu farmacia no es así
Cuando no sale a la primera
Antes de dar esto por aprendido
- Sé que este sesgo es mío, no del modelo, y que no depende de lo lista que sea la persona.
- El tono seguro de una respuesta no me hace comprobarla menos.
- Me pregunto si la creería igual viniendo de un compañero nuevo con el mismo tono.
- Cuando una respuesta confirma lo que ya pensaba, la compruebo con el mismo rigor que si me contradijera.
- Tengo una regla fija de muestreo, no una decisión que tomo cada vez según cómo suene la respuesta.
← Repasar: sesgos, a quién deja fuera la respuesta
Siguiente: imágenes y voz, los riesgos de lo multimodal →
← Volver a la Escuela IA