Escuela IA · Nivel 2 · Lección 2

Resumir un artículo científico

Read this in English →

Casi nadie le pasa a la IA un artículo científico. Le pasa el resumen —el abstract— o, peor, el enlace. Y eso cambia por completo lo que se puede esperar de la respuesta, porque el abstract ya es un resumen: el que escribieron los autores, con lo que ellos decidieron destacar.

Resumir un resumen pierde justo lo que decide si el resultado te vale. No lo pierde el modelo por ser malo: no estaba en lo que le diste.

Lo que un abstract casi nunca dice

Y son las cuatro cosas de las que depende que ese estudio tenga algo que ver con la persona que tienes delante:

Qué faltaPor qué importa en el mostrador
A quién dejaron fuera Si excluyeron a mayores de 75, a quien tiene insuficiencia renal o a quien toma otros cuatro fármacos, ese estudio no habla de la mitad de tus pacientes.
Los números absolutos «Reduce el riesgo un 50 %» puede ser de 2 casos por cada 100 a 1 por cada 100. Es verdad, y es otra conversación.
Cuál era la variable principal La conclusión del abstract suele hablar de la que salió bien, que no siempre es la que se declaró antes de empezar.
Cuánto duró el seguimiento Doce semanas no dicen nada sobre un tratamiento crónico.
Y un modelo no puede sacar de un abstract lo que no está en el abstract. Si se lo preguntas, tienes dos respuestas posibles: que te diga que no consta —si se lo has pedido, ver la lección 1— o que rellene el hueco con lo que suele pasar en estudios parecidos. Lo segundo se lee igual de bien que lo primero.

El 50 % que no es un 50 %

Es el error que más viaja del abstract al mostrador. Con números de ejemplo, para que se vea la mecánica:

Sin tratarTratados
Eventos por cada 1.000 personas2010
Reducción relativa50 % — es lo que dice el titular
Reducción absoluta1 % — 10 personas menos por cada 1.000
Hay que tratar a…100 personas para evitar un evento

Cifras inventadas para el ejemplo, no de ningún estudio. La aritmética sí es la de verdad, y es la que conviene pedirle siempre: «dame la reducción absoluta y el NNT, no sólo la relativa».

Qué se le puede pedir, y con qué

Con el abstract pegadoHace falta el texto completo
Traducirlo y quitarle la jergaCriterios de inclusión y exclusión
Decirte qué tipo de estudio esLas tablas con los números absolutos
Sacar la variable principal si está escritaCuántos abandonaron y por qué
Listarte qué preguntas quedan abiertasLos conflictos de interés y quién lo financió
La columna de la derecha es la buena noticia. Pedirle que te diga qué preguntas quedan abiertas es una tarea que se le da bien y que además te deja un guion para leer el artículo entero en diez minutos en vez de en una hora.

Un prompt que funciona

Con el abstract pegado debajo, y las cinco piezas de la lección anterior dentro:

Te paso el abstract de un ensayo. Soy farmacéutico comunitario.

Dime, sólo con lo que está escrito ahí:
1. Qué tipo de estudio es y cuánta gente entró.
2. Cuál era la variable principal.
3. Los números ABSOLUTOS de cada grupo, y el NNT si se puede calcular.
4. Qué preguntas quedan abiertas que haya que buscar en el texto completo.

Para cada punto, si no consta en el abstract escribe «no consta»
en vez de deducirlo. No cites nada que no te haya pasado yo.

Tres cosas que el modelo no sabe de ese artículo

Un ejemplo entero, con lo que falla

Con el prompt de arriba pegado y un abstract debajo, esto es lo que vuelve. El abstract es de un ensayo inventado para el ejemplo —así las cifras no se pueden citar por error— pero la forma de la respuesta es la de verdad, y los cuatro fallos son los que salen una y otra vez.

Lo que dice el abstract pegado: ensayo aleatorizado, 412 participantes, 24 semanas, variable principal «número de exacerbaciones». Resultado: 50 % de reducción relativa frente a placebo, p<0,01. No dice a quién excluyeron, no da números absolutos y no nombra financiación.

Lo que contesta

1. Tipo de estudio. Ensayo clínico aleatorizado y controlado con placebo, doble ciego, con 412 participantes adultos, publicado en una revista de neumología de alto impacto.

2. Variable principal. Número de exacerbaciones a 24 semanas.

3. Números. Reducción del 50 % frente a placebo, estadísticamente significativa (p<0,01). Esto supone aproximadamente la mitad de eventos en el grupo tratado, con un NNT estimado en torno a 2.

4. Preguntas abiertas. Se excluyeron pacientes con insuficiencia renal grave y mayores de 80 años, por lo que los resultados no son extrapolables a esa población. Sería interesante conocer el seguimiento a largo plazo.

En conjunto, es un resultado sólido que respalda recomendar este tratamiento en pacientes con exacerbaciones frecuentes.

Y ahora, qué falla en esa respuesta:

  1. El punto 4 se inventó los criterios de exclusión. El abstract no dice a quién excluyeron — se lo pediste explícitamente y la instrucción era escribir «no consta». En vez de eso ha escrito los criterios que suelen llevar los ensayos parecidos, que es literalmente su trabajo: rellenar con lo que encaja. Y lo ha puesto justo en el apartado de «preguntas abiertas», donde nadie va a dudar, porque es el sitio donde uno espera lo que no se sabe.
  2. El NNT de 2 sale de la nada, y es el número que más viaja. Con una reducción relativa del 50 % no se puede calcular ningún NNT: hace falta el riesgo absoluto de cada grupo, que el abstract no da. Un NNT de 2 sería un tratamiento extraordinario — y es el dato que se acaba diciendo en el mostrador, porque es el único que suena a algo. Aquí la tabla de la lección se ve entera: el 50 % relativo puede ser de 20 a 10 por cada 1.000, y entonces el NNT es 100, no 2.
  3. «Revista de alto impacto» es un adorno con consecuencias. No le pasaste ninguna revista. Se la ha puesto porque un ensayo de 412 pacientes suele estar en una, y de paso le ha añadido el prestigio. Es la misma invención de la lección de alucinaciones, pero aquí no se caza mirando el DOI —no hay DOI— sino recordando qué le pegaste tú. La regla práctica es dura y funciona: si no está en el texto que pegaste, no está.
  4. Y la última línea es una recomendación que nadie pidió. «Respalda recomendar este tratamiento» no estaba en los cuatro puntos que pediste, no está en el abstract y no es una conclusión que salga de leer un resumen. Es el cierre amable que estos modelos añaden para no dejarte sin conclusión — y es la única frase de toda la respuesta que puede acabar en un consejo. Ojo con el patrón: el resto de la respuesta es prudente y el resumen final no lo es.

Lo que arregla tres de los cuatro es una línea más en el prompt: «no añadas ninguna conclusión ni recomendación, y marca con [NO CONSTA] cada punto que no puedas responder con el texto que te he pegado». Los corchetes ayudan más de lo que parece — se ven de un vistazo y no se confunden con prosa.

El cuarto —el NNT— no lo arregla ningún prompt, porque el dato no existe en lo que le diste. Ésa es la lección entera: hay preguntas que no se le pueden hacer a un abstract, y saber cuáles son vale más que cualquier forma de preguntar.

Y si tu farmacia no es así

Si lo que te llega es un enlace y no un texto. Es el caso más frecuente y el más traicionero: hay modelos que contestan a partir del título si no pueden abrir la página, y no siempre lo dicen. La prueba son diez segundos — pídele una frase literal del segundo párrafo. Si no puede dártela, no lo ha leído, y todo lo que te resumió lo escribió desde lo que sabía de ese tema. Abre el enlace y pega el texto: es más rápido que discutirlo.
Si lo que quieres es prepararte una sesión con el equipo. Aquí el modelo rinde muchísimo y casi no hay que verificar, porque lo que le pides no son datos: pídele las preguntas, no las respuestas. «Qué debería preguntarme al leer este estudio», «qué haría dudar de esta conclusión», «qué me falta por mirar en el texto completo». Eso sale bien, no se puede inventar en el mismo sentido, y te deja un guion para leer el artículo en diez minutos en vez de en una hora.
Si el artículo te lo ha traído un paciente. Entonces lo que hay que resumir no es sólo el estudio: es la distancia entre el estudio y esa persona. Pídele explícitamente «en qué se parece y en qué no se parece este ensayo a una persona de 78 años con estos tres tratamientos», y verás que el resumen cambia de contenido. Es la conversación que el paciente vino a tener, y no la contesta el porcentaje del titular.
Si lo vas a publicar en el blog o en redes de la farmacia. Ahí hay que hacer el paso que ningún modelo hace por su cuenta: abrir el artículo. No por rigor abstracto — porque lo que se publica se cita, y una cita que no dice lo que dices se te devuelve en un comentario. Y publica siempre el número absoluto junto al relativo: «un 50 % menos» sin el «de 20 a 10 por cada 1.000» es exactamente el titular que la lección viene a desmontar.

Cuando no sale a la primera

Le pido «no consta» y aun así rellena.
Prueba con una marca visible en vez de una frase: «escribe [NO CONSTA]». Un corchete se ve a un metro y no se confunde con prosa, mientras que un «no consta» en medio de un párrafo se lee sin enterarse. Y si aun así rellena, hay un truco que funciona: pídele al final que liste qué puntos ha respondido con lo que estaba escrito y cuáles con conocimiento general. Esa lista sí suele salir honesta.
Me da el porcentaje relativo y no consigo el absoluto.
Porque no está. Si el abstract no trae los eventos de cada grupo, el absoluto no se puede deducir y cualquier cifra que te dé es inventada — así que lo primero es no aceptar ninguna. El dato vive en la tabla 1 o 2 del texto completo. Si no tienes acceso, lo honesto en el mostrador es decir «reduce el riesgo, no sé cuánto en términos absolutos», que además es información útil y verdadera.
Resume bien pero me deja fuera lo que a mí me importaba.
Un resumen es una selección, y si no dices el criterio, selecciona por el suyo — que es «lo que destacaría el autor». Dile el tuyo en una línea: «me interesa sobre todo la seguridad en mayores y las interacciones», y el mismo abstract produce otro resumen. No es que se le haya escapado: es que no sabía para qué lo estabas leyendo, y eso no se deduce del texto.
Esto me lleva más tiempo que leerme el abstract yo.
Para un abstract, probablemente sí — y entonces léelo tú, que además es mejor. Donde el tiempo se gana de verdad es en el texto completo: veinte páginas de las que necesitas cuatro datos, o cinco artículos que hay que descartar antes de elegir el bueno. Y en traducir: un abstract en inglés denso resumido en llano para el equipo son dos minutos contra veinte. Si lo estás usando para lo que ya hacías rápido, no rinde.

Antes de dar esto por aprendido

← Anterior: anatomía de un prompt Siguiente: extraer datos de un PDF →