Escuela IA · Nivel 1 · Lección 6

Responsabilidad profesional: quién responde

Read this in English →

Las cuatro lecciones anteriores van de lo que la IA hace mal. Ésta va de algo distinto y más incómodo: qué pasa cuando sale mal y hay consecuencias.

Lo esencial en una frase. La responsabilidad profesional no se delega. Ante el paciente, ante el colegio y ante un juzgado, el consejo lo has dado tú — el modelo no es un compañero al que consultar, es una herramienta que has usado. «Me lo dijo la IA» tiene exactamente el mismo valor que «lo leí en un foro».

Tres cosas que conviene tener claras antes de que hagan falta

1. La IA no es una fuente

Una fuente es algo que otra persona puede abrir y comprobar: la ficha técnica de la AEMPS, el BOE, una guía de práctica clínica, el Nomenclátor. Una conversación con un modelo no es reproducible —haz la misma pregunta mañana y puede contestar otra cosa— y eso la descalifica como fuente por definición, no por desconfianza.

Lo cual no quiere decir que no sirva. Quiere decir que su salida hay que anclarla a una fuente de verdad antes de usarla, que es lo que se practicó en la lección 3.

2. Lo que se documenta es la comprobación, no la consulta

Si una intervención acaba registrada —una revisión de medicación, un informe para el paciente, una nota en el SPD— lo que va anotado es la fuente que la sostiene y lo que tú decidiste. No «consultado con IA». Y no por esconderlo: es que ese dato no informa a nadie que lea la hoja después.

3. Delegar la redacción no es delegar el contenido

Que un texto lo haya escrito una IA no cambia nada: lo firmas tú. Es exactamente igual que un cartel escrito por un compañero al que no revisaste. La diferencia es que del compañero desconfías por defecto y del texto bien redactado, no — y ahí está la trampa.

La frase que no se puede decir nunca. «Eso me lo ha dicho la inteligencia artificial.» No es una explicación: es reconocer que se dio un consejo sin comprobarlo. Si la respuesta era buena, sostenla con la fuente; si no la tienes, entonces no era buena.

Dónde queda la línea, en la práctica

Lo que hace la IALo que sigue siendo tuyo
Redactar el consejoQue el consejo sea correcto y aplicable a esa persona
Resumir un informeLo que el resumen se ha dejado fuera
Proponer una pautaContrastarla con la ficha técnica antes de decirla
Ordenar y dar formatoQue lo ordenado sea lo que había
Traducir al pacienteQue la traducción no cambie el significado clínico
Sugerir cuándo derivarLa decisión de derivar
La regla que resume la tabla. La IA puede encargarse de cómo se dice. Lo que se dice sigue siendo tuyo, entero, siempre — y si alguna vez no lo tienes claro, ésa es la señal de que has salido de donde la herramienta ayuda.

Lo que este sitio no te va a decir

Aquí no hay una interpretación jurídica de lo que pasaría en un procedimiento concreto, y desconfía de quien te la dé en una página web. Lo que sí es sólido y basta para trabajar: el acto profesional lo realizas tú, y el uso de una herramienta no traslada esa realización a nadie más. Para lo demás —seguro de responsabilidad civil, normas de tu colegio sobre publicidad y consejo, requisitos de tu comunidad— la respuesta buena está en tu colegio, no aquí.

Un ejemplo entero, con lo que falla

La tabla de arriba se entiende leyéndola. Lo que no se ve leyéndola es lo rápido que un texto bien escrito cruza la línea sin avisar, y lo bien que se camufla el cruce. Este ejemplo es el encargo más inocente que existe.

Lo que se pide: «Escríbeme una nota breve para darle a un paciente mayor que se lleva un antiinflamatorio y toma también un anticoagulante, para que la lea en casa.»

Lo que contesta

Información para usted

Según la ficha técnica del medicamento, la combinación de antiinflamatorios con anticoagulantes orales aumenta el riesgo de sangrado. Lo que usted presenta es una interacción de riesgo moderado, habitual en pacientes de su edad.

Le recomendamos suspender el antiinflamatorio y sustituirlo por paracetamol 1 g cada 8 horas mientras persista el dolor. Vigile la aparición de hematomas, sangrado de encías o heces oscuras.

Ante cualquier duda, consulte con su farmacéutico.

Farmacia ____________ · Fecha ____________

Y ahora, qué falla en esa respuesta:

  1. «Según la ficha técnica» lo has firmado tú, no él. Esa frase convierte una respuesta de un modelo en una cita de una fuente oficial, y al imprimirla la estás avalando: quien lea el papel entenderá que alguien fue a CIMA y lo miró. Si no fuiste, acabas de atribuirle a la AEMPS algo que no dijo. Y lo peor es que el fallo no está en el contenido —la interacción es real— sino en la atribución, que es justo lo que nadie revisa porque suena a rigor.
  2. «Lo que usted presenta es…» es un diagnóstico escrito. Cambia de registro sin que se note: pasa de informar a caracterizar el caso de esa persona. Y le pone gravedad («moderado») sin haber visto ni una analítica ni el resto del tratamiento. En una conversación de mostrador nadie lo diría así; en un papel impreso queda escrito, con la farmacia debajo, y se lo puede enseñar a su médico.
  3. «Suspenda» y una pauta concreta: ahí está la línea. Suspender un tratamiento es una decisión clínica y va con quien lo prescribió. Y el «paracetamol 1 g cada 8 horas» llega sin preguntar por función renal ni por hepatopatía ni por lo demás que tome. El modelo no ha hecho nada raro: le pediste una nota útil y las notas útiles terminan en una recomendación. Es el encargo el que lleva a la línea, no el modelo — por eso hay que ponerla tú en la petición.
  4. Y el pie lo convierte en un documento de tu farmacia. «Farmacia ____ · Fecha ____» no lo pediste: lo ha añadido porque es lo que llevan los documentos que se parecen a éste. Con esos dos huecos rellenados, el papel deja de ser una nota y pasa a ser algo con aspecto de registro profesional, que es como lo va a leer el médico al que se lo enseñe. Y «consulte con su farmacéutico» al final no rescata nada: viene después de haber dicho qué suspender y qué tomar.

La versión que sí se puede imprimir dice lo mismo y no cruza nada: qué vigilar, en qué casos volver a la farmacia o ir al médico, y ni una decisión tomada. Se consigue diciéndolo en el encargo — «sin recomendar suspender nada, sin dosis y sin citar fuentes» — y cuesta once palabras.

La regla que queda para siempre: lo que va a llevar tu nombre lo lees con la pregunta «¿esto lo diría yo con estas palabras?», no con «¿está bien escrito?». La segunda pregunta la contesta el modelo mejor que tú; la primera no la puede contestar nadie más.

Y si tu farmacia no es así

Si eres empleado y no titular. Tu responsabilidad profesional es tuya y no la absorbe la farmacia: el consejo lo das tú. Lo que cambia es que necesitas que haya criterio de casa, porque si cada persona decide por su cuenta qué sale impreso, el que se equivoque un día arrastra el nombre de todos. Es una conversación de cinco minutos en la reunión de equipo, no un documento: qué se puede imprimir, qué lo revisa alguien más y qué no sale nunca.
Si eres titular. Además de lo tuyo, respondes de lo que sale de tu farmacia con su nombre encima. Lo práctico no es prohibir la IA —se va a usar igual, con el móvil— sino decidir dos cosas por escrito: qué tipo de textos pueden salir impresos y quién los mira antes. Una norma de dos líneas que se cumple vale más que una prohibición que se incumple a la semana y encima se oculta.
Si haces SPD, revisión de la medicación o cartera de servicios. Aquí hay registro, y el registro es lo que queda. Lo que se anota es la fuente y tu decisión: «interacción X según ficha técnica, se contacta con el prescriptor». Nunca «consultado con IA», que no informa a nadie que lea la hoja dentro de seis meses y sí que cambia cómo se lee todo lo demás. No es esconder la herramienta: es que la herramienta no es el dato.
Si publicas en redes o tienes blog de la farmacia. Es donde más texto de IA circula y donde menos se revisa, porque no hay un paciente delante — y a la vez es lo que más gente lee. Aquí el problema no es la responsabilidad civil sino la publicitaria: prometer un resultado de salud, atribuirle propiedades a un producto o nombrar un medicamento tiene reglas propias, y las reglas las tiene tu colegio. Un texto bien redactado no es un texto que se pueda publicar.
Si trabajas en una farmacia con guardias. A las cuatro de la mañana, solo, con sueño y sin nadie a quien preguntar, es cuando una respuesta bien redactada resulta más convincente — y es justo cuando menos margen hay para comprobarla. No es una cuestión de disciplina: es que el filtro que usas normalmente, el tuyo, está al mínimo. La regla de guardia es más estrecha que la de por la mañana: lo que no se pueda comprobar en CIMA en ese momento, no se dice, y lo que no se resuelva así se deriva.

Cuando no sale a la primera

¿Entonces tengo que decirle al paciente que he usado IA?
No, y decirlo tampoco te cubre. La pregunta correcta no es si lo cuentas: es si sostienes lo que has dicho con una fuente. Si un paciente pregunta de dónde sale el consejo, lo que hay que poder enseñar es la ficha técnica, no la conversación. Y al revés: si lo único que puedes enseñar es la conversación, el consejo no estaba listo para darse — con IA o sin ella, que es la misma regla de siempre.
Me han dado un texto ya escrito por IA y me piden que lo firme.
Trátalo como lo que es: un borrador de alguien en quien no tienes por qué confiar. Léelo buscando las tres cosas del ejemplo —una atribución a una fuente, una caracterización del caso, una instrucción de suspender o dosificar— que son las que cruzan la línea, y quítalas. Si después de quitarlas el texto ya no dice nada útil, entonces el encargo estaba mal planteado desde el principio y hay que rehacerlo, no maquillarlo.
La IA me da un consejo mejor que el protocolo que tenemos en la farmacia.
Puede ser verdad, y aun así no se resuelve en el mostrador. Un protocolo se cambia con una fuente delante y con quien corresponda, no con una respuesta de un chat — porque la próxima respuesta puede ser la contraria y no lo sabrás. Lo útil aquí es usarla justo para eso: que te diga dónde mirar para comprobar si vuestro protocolo está desfasado. Si la fuente le da la razón, ya tienes con qué proponer el cambio.
Lo uso sólo para redactar, así que esto no me afecta.
Redactar es justo donde ocurrió el ejemplo de arriba. El encargo era «escribe una nota» —redacción pura, verde en el semáforo de la lección anterior— y salió con un diagnóstico, una suspensión de tratamiento y una cita a una fuente oficial. La frontera no la cruza el tema: la cruza el texto al terminarse bien, porque un texto bien acabado necesita una conclusión y la conclusión es lo que era tuyo.
Si el error hubiera venido de un libro, ¿sería distinto?
En el fondo no, y por eso esta lección no va de IA: un libro desactualizado también se equivoca, y quien dio el consejo sigue siendo quien lo dio. Lo que cambia es el volumen y la comodidad. De un libro consultas dos cosas al día y sabes de qué año es; de un chat consultas treinta, sin fecha, sin edición y sin bibliografía. Por eso hace falta un criterio explícito ahora y antes bastaba el sentido común: lo que ha cambiado no es la responsabilidad, es la frecuencia.

Antes de pasar a la siguiente lección

← Repasar: sesgos
Siguiente: cuándo NO usar la IA →
← Volver a la Escuela IA