Escuela IA · Nivel 1 · Lección 8

Cuándo NO usar la IA

Read this in English →

Las lecciones anteriores explican qué hace mal la IA. Ésta es la que se usa de verdad: una decisión que se toma antes de abrir el chat, en cinco segundos, y que resuelve el 90 % de los casos.

Lo esencial en una frase. No decide el tema, decide qué pasa si la respuesta está mal. La misma pregunta sobre el mismo fármaco puede ser verde o roja según a dónde vaya a parar lo que te conteste.

El semáforo

Verde — adelante, sin pensarlo

  • Redactar un cartel, un aviso, un correo a un proveedor
  • Resumir un texto que tú le pegas
  • Traducir algo tuyo
  • Convertir un texto en tabla, o al revés
  • Ideas para el blog o las redes de la farmacia
  • Reescribir un prospecto en lenguaje llano para revisarlo tú después
Qué tienen en común: si sale mal, lo ves. El error está en un texto que vas a leer entero antes de que salga de tu pantalla.

Ámbar — sirve, pero se comprueba antes de usarlo

  • Explicarte un mecanismo o un concepto que no dominas
  • Resumir un artículo científico
  • Sacar los datos de un documento largo
  • Preparar una formación para el equipo
  • Ordenar la información de un informe médico (ver Nivel 3)
Qué tienen en común: el error es plausible y no lo ves, porque justamente estás preguntando algo que no sabes. Aquí es donde hace falta la fuente.

Rojo — esto no se hace

  • Meter datos que identifiquen a un paciente
  • Pedir una dosis, una interacción o un precio y usarlos sin mirar la fuente
  • Diagnosticar
  • Decidir si alguien deja o cambia un tratamiento
  • Decidir si se deriva o no se deriva
  • Generar un texto legal o clínico que se firme sin leerlo
Qué tienen en común: la consecuencia no la sufres tú, y no hay forma de deshacerla después.

Las cinco preguntas, si el semáforo no te vale

Para los casos que no caen claramente en ningún color. Con que una sola respuesta sea la de la derecha, no es un trabajo para la IA:

PregúntateSi la respuesta es…
¿Esto sale de mi pantalla?Sí, y sin que yo lo revise → no
¿Hay una persona identificable? → no, y no hay matices
¿Depende de un dato exacto? → ve a la fuente, no al chat
¿Sabría yo si la respuesta está mal?No → necesitas la fuente antes
¿Es una decisión clínica? → es tuya, no suya
La pregunta que más gente se salta es la cuarta. «¿Sabría yo si está mal?» Si la respuesta es no, entonces no puedes usar tu criterio como filtro — y ese es precisamente el momento en que la gente se fía más, porque la explicación suena convincente. Cuanto menos sabes del tema, más verosímil te parece todo.

Un caso que parece verde y es rojo

«Reescribe este prospecto en lenguaje llano para dárselo a un paciente mayor.» Suena a redacción pura, que es lo verde de la lista. Pero al simplificar, un modelo se come los matices: la condición de administración, la advertencia de insuficiencia renal, el «no más de X días». Y ese texto sale de la farmacia con tu credibilidad detrás.

Sigue siendo una buena tarea para la IA — con el paso que falta: leerlo comparándolo con el prospecto antes de imprimirlo. Verde para escribirlo, tuyo para soltarlo.

La regla que resume la lección. Si el error se queda en tu pantalla, usa la IA sin miedo. Si el error sale de tu pantalla, la IA escribe y tú compruebas. Y si el error llega a un paciente sin pasar por ti, no era un trabajo para la IA.

Un ejemplo entero, con lo que falla

El caso del prospecto de arriba es un verde que se vuelve rojo por lo que se quita al simplificar. Éste es el otro camino, y es más frecuente: un encargo verde que se vuelve rojo por lo que el texto añade para quedar bien.

Lo que se pide: «Escríbeme el cartel del escaparate para la campaña de defensas de este otoño. Que entre por los ojos.»

Lo que contesta

ESTE OTOÑO, NO TE PARES

Refuerza tus defensas y previene los resfriados con nuestro pack de vitamina C + zinc. Clínicamente probado para reducir la duración de los catarros.

Ideal para toda la familia. Ahora también disponible con Frenadol para los primeros síntomas.

–20 % esta semana. Pregunta a tu farmacéutico.

Y ahora, qué falla en esa respuesta:

  1. Está bien escrito, y ése es todo el problema. Suena a cartel de farmacia, tiene ritmo, cabe en el escaparate y se entiende de lejos. Como el encargo era «redactar» —verde de manual en el semáforo— nadie lo vuelve a leer antes de imprimirlo. Y ahí está el salto: el semáforo clasifica la tarea que pediste, y lo que hay que clasificar es el texto que ha salido. No es lo mismo, y la diferencia aparece justo en los encargos que suenan más inofensivos.
  2. «Previene los resfriados» es una promesa de salud. Atribuirle a un producto la prevención de una enfermedad tiene reglas propias y no se decide en el escaparate. «Refuerza tus defensas» está en la misma familia. El modelo no ha inventado nada raro: ha escrito lo que se escribe en los carteles que aprendió, y muchos de esos carteles tampoco podían decirlo. Un error copiado de mil ejemplos parece correcto por mayoría, que es exactamente la trampa de la lección de sesgos.
  3. «Clínicamente probado» es una cita sin fuente, en tu escaparate. Es la misma alucinación de la lección 3, sólo que en cartón pluma y a la calle. Nadie te va a pedir el DOI — pero si alguien lo hace, y tarde o temprano alguien lo hace, no lo tienes. Y hay una diferencia importante con un chat: de la pantalla se borra y del escaparate no, y encima está firmado con el nombre de la farmacia, que es lo único que no se puede rehacer.
  4. Y ha nombrado un medicamento y le ha puesto descuento. El nombre de marca no se lo diste tú: lo ha puesto porque encaja en un cartel de otoño. Anunciar un medicamento al público tiene normas —qué se puede nombrar, con qué condiciones y con qué descuentos— y se salen del alcance de esta escuela y de esta página, pero no se salen de tu responsabilidad. Y «pregunta a tu farmacéutico» al final no lo arregla: viene después de haber prometido, haber citado y haber puesto precio.

El cartel arreglado dice casi lo mismo y no promete nada: habla de lo que hace la farmacia —revisamos tu botiquín, te explicamos qué sirve y qué no— en vez de lo que hace el producto. Se consigue con una línea en el encargo: «sin prometer prevención ni curación, sin citar estudios y sin nombrar marcas de medicamentos».

Y la regla que sale de aquí, que es la que de verdad hay que llevarse del Nivel 1: el semáforo se aplica dos veces. Una a la tarea, antes de pedirla; otra al texto, antes de que salga de la pantalla. Casi todos los problemas de esta escuela ocurren entre esas dos.

Y si tu farmacia no es así

Si trabajas solo o sola en el turno. No hay segundo par de ojos, así que el segundo repaso lo tienes que hacer tú y en otro momento. Funciona mejor de lo que parece: escríbelo hoy y léelo mañana antes de imprimir. La distancia hace casi el mismo trabajo que otra persona, porque lo que impide ver el fallo no es la falta de conocimiento — es que acabas de leer el texto tres veces y ya no lo estás leyendo, lo estás reconociendo.
Si el que usa la IA no es quien firma. Es lo normal en una farmacia con equipo: lo redacta quien tiene tiempo y sale con el nombre de la casa. Entonces el semáforo tiene que ser de la farmacia y no de cada persona, porque si cada uno aplica el suyo, el más laxo decide por todos. Una lista de tres líneas pegada al lado del ordenador —qué se puede imprimir, qué lo mira alguien más, qué no sale— vale más que una formación entera.
Si lo que escribes va a redes sociales. Ahí el ámbar sube a rojo por una razón práctica: no hay quien lo recoja. Un cartel se descuelga; una publicación se comparte, se captura y se reenvía por grupos de vecinos en horas. Y el texto que mejor funciona en redes es justo el que más promete, así que la presión va en contra. Regla que funciona: en redes se habla de lo que haces tú, no de lo que hace un producto.
Si es para uso interno del equipo. Protocolos, guiones de mostrador, la hoja de turnos, el resumen de una novedad. Aquí el semáforo es más suave y conviene decirlo, porque si todo es rojo nadie lo usa: lo interno se puede corregir la semana que viene y no llega a ningún paciente. La única cautela es marcar la fecha y quién lo revisó, porque el borrador de hoy es el protocolo de dentro de un año y para entonces nadie recordará que salió de un chat sin comprobar.
Si el texto va a ir a un médico o a una gestoría. Cambia una cosa y cambia mucho: lo lee alguien que sí sabe del tema. Un párrafo aproximado que un paciente da por bueno, ahí se ve al instante — y lo que se pierde no es un cartel, es la credibilidad de la farmacia en la siguiente llamada. Paradójicamente es la situación más fácil de resolver: son textos cortos, con un dato concreto dentro, y ese dato lo tienes tú en la ficha o en el programa. Que la IA lo redacte; el dato lo pones tú.

Cuando no sale a la primera

Con este semáforo casi todo me sale ámbar.
Entonces estás clasificando bien: el ámbar es el color mayoritario y no es una zona incómoda, es la zona de trabajo. Lo que hay que resolver no es «cómo paso esto a verde» sino cuál es la fuente de ese ámbar concreto — CIMA, el BOE, el prospecto, tu propio protocolo. Cuando la fuente está clara, comprobar cuesta treinta segundos y el ámbar deja de dar pereza. El ámbar sin fuente identificada es el que paraliza.
Mi compañero lo usa para todo y no le ha pasado nada.
Es probable, y no prueba lo que parece probar. Casi todos los errores de este tipo no dan la cara: un cartel con una promesa que no se puede hacer se queda colgado meses, un resumen al que le falta la advertencia de insuficiencia renal no avisa de nada, y el paciente que siguió un consejo flojo no vuelve a contarlo. La ausencia de consecuencias visibles es el estado normal, no una señal de que el método funciona.
Lo he pedido mil veces y nunca me ha metido una promesa así.
Depende mucho de cómo lo pidas, y ahí está la pista: «que entre por los ojos», «que venda», «que sea potente» son instrucciones que empujan justo hacia la promesa, porque lo llamativo y lo que promete son lo mismo en los textos que aprendió. Cambia el adjetivo del encargo —«claro», «sobrio», «informativo»— y verás que el cartel sale limpio la mayoría de las veces. La mitad de este problema se resuelve en la petición.
Entonces, ¿le pido el cartel o no?
Pídeselo, claro. Escribir carteles es de lo mejor que hace y te ahorra media mañana. Lo que cambia es que sale de la impresora después de pasar por ti, con tres cosas marcadas: ninguna promesa de prevenir o curar, ninguna cita de estudios, ningún nombre de medicamento. Ese repaso son veinte segundos. El error de la primera semana no es usarlo para el escaparate: es imprimir lo primero que sale porque estaba bien escrito.
En una urgencia no tengo tiempo de aplicar ningún semáforo.
Y no hay que aplicarlo: en una urgencia la IA no entra, y ésa es la decisión, tomada de antemano y sin pensarla. Lo que se prepara antes son las herramientas que sí sirven con prisa —el teléfono del centro de información, el protocolo colgado, CIMA en favoritos— porque en dos minutos de agobio nadie va a evaluar una respuesta. Si te descubres abriendo un chat con alguien esperando delante, ésa es la señal de que la pregunta no era para un chat.

Antes de pasar a la siguiente lección

← Repasar: qué modelo elegir
← Volver a la Escuela IA