Las dos lecciones anteriores hablaron de texto: qué se escribe y qué pasa con lo que se escribe. Una foto o una nota de voz son otra cosa distinta, y el motivo es sencillo: un texto sólo contiene lo que has decidido teclear, pero una foto contiene todo lo que había delante de la cámara en el momento de hacerla, lo hayas decidido o no. Cada vez es más habitual preguntarle algo a una IA enseñándole directamente una foto en vez de describir con palabras lo que se quiere consultar, así que este riesgo no es un caso raro: es cada vez más el modo por defecto de preguntar.
Lo esencial en una frase. Una imagen o un audio identifican por lo que hay
alrededor de lo que preguntas, no sólo por lo que preguntas. Puedes redactar
una pregunta perfectamente anónima y aun así subir una foto que no lo es en absoluto, porque
nadie te pidió que recortaras el fondo antes de disparar.
Cuatro formas en las que una imagen identifica sin que lo notes
| Lo que se cuela | Por qué pasa desapercibido |
|---|---|
| Un nombre en una etiqueta o receta, en el borde de la foto. | Encuadras pensando en el envase o el principio activo que quieres preguntar, no en lo que queda al borde del recuadro — y una etiqueta de dispensación suele llevar nombre completo. |
| Los metadatos del propio fichero (ubicación, fecha, hora exacta). | La foto lleva esa información pegada aunque no se vea en pantalla; muchas herramientas la leen igualmente al procesar el archivo. |
| Un fondo reconocible de tu mostrador. | Una pantalla con un historial abierto detrás, un cajetín con un nombre visible, un calendario con una cita — nada de eso era el motivo de la foto, y todo eso sigue en el encuadre. |
| Una voz reconocible en una nota de audio. | Si grabas la voz de un paciente contando un síntoma para no perder detalle, esa voz es en sí misma un dato identificativo, aunque no digas ni un nombre en toda la grabación. |
| Reflejos en un cristal o en una superficie metálica del mostrador. | Un escaparate, una vitrina o incluso una báscula metálica pueden devolver el reflejo de una pantalla o de una persona que está detrás de ti, fuera de lo que parecía el encuadre principal —y es la más difícil de las cuatro de detectar a simple vista, porque no se ve mirando el centro de la foto sino sus bordes reflejados. |
Por qué esto no se corrige leyendo la lección de texto otra vez. El criterio
de «quita nombre, DNI, fecha de nacimiento» funciona sobre lo que escribes, porque tú decides
cada palabra. En una imagen no decides cada píxel: decides el encuadre, y todo lo que entra
dentro de él viaja igual, lo hayas mirado o no antes de subirlo. Por eso hace falta un hábito
aparte, no basta con aplicar el mismo criterio de memoria. Y es un hábito distinto al de
escribir porque el gesto físico también es distinto: escribir invita a releer antes de
enviar, mientras que apuntar y disparar una cámara es un gesto que se hace y se olvida en el
mismo segundo, sin ese paso intermedio de revisión que el texto trae incorporado por su
propia lentitud.
Un protocolo de tres pasos, para no tener que pensarlo cada vez
Memorizar «hay que tener cuidado con las fotos» no sirve de mucho en el momento del mostrador, porque es demasiado vago para aplicarlo con prisa. Lo que sí funciona es un protocolo corto y siempre igual, de forma que se convierta en reflejo en vez de en una decisión que hay que tomar cada vez desde cero.
- Antes de disparar: aísla el objeto. Acércate o aleja hasta que en el encuadre sólo quede lo que quieres preguntar, sin pantallas, sin papeles de otras personas, sin nada detrás que no sea una superficie neutra.
- Después de disparar y antes de subir: repasa el encuadre entero, no sólo el centro. Un vistazo de dos segundos a las cuatro esquinas de la foto basta para detectar la mayoría de los fondos problemáticos.
- Después de usarla: bórrala del carrete del teléfono. No dejes que la foto se quede acumulada en la galería del móvil una vez resuelta la consulta —es el rastro más fácil de olvidar y el más largo de vivir, porque nadie revisa su carrete buscando fotos de hace tres meses.
Con estos tres pasos convertidos en costumbre, el riesgo de esta lección deja de depender de acordarse en el momento: se convierte en parte del propio gesto de hacer la foto, igual que ya es un reflejo mirar antes de cruzar una calle.
Un ejemplo entero, con lo que falla
Una farmacéutica quiere preguntar por una posible interacción de un fármaco nuevo en el mercado que todavía no está en el dataset de la herramienta del sitio, y hace una foto del envase para no teclear mal el nombre.
Lo que pasa
La foto sale perfecta para lo que quería: se lee bien el nombre comercial en la caja. El encuadre, hecho deprisa sobre el mostrador entre un cliente y el siguiente, también incluye de fondo la pantalla del ordenador con el programa de gestión abierto —con un nombre y apellido visibles en la ventana activa— y, en la esquina, una receta electrónica impresa que estaba esperando para dispensarse, con el CIP legible.
Y ahora, qué falla en dar esa foto por buena:
- La pregunta era perfectamente legítima; la foto no. Preguntar por el nombre comercial de un fármaco no tiene ningún problema de privacidad. El problema no está en qué se preguntó, está en qué más entró en el encuadre sin que nadie lo mirara antes de pulsar enviar.
- Nadie revisa el fondo de una foto igual que revisa una frase. Al escribir un texto se lee antes de mandarlo, por costumbre. Una foto se hace y se sube casi en el mismo gesto, sin ese paso de revisión — y es exactamente ese paso el que falta añadir como hábito.
- El CIP de la receta es un identificador tan fuerte como un DNI. Es exactamente el tipo de dato que la lección de privacidad prohíbe escribir a mano, y aquí entró sin que se tecleara una sola letra, sólo por estar dentro del encuadre.
- La solución no es «no hagas fotos», es «mira el encuadre antes de subirla». Tres segundos mirando qué hay alrededor de lo que quieres enseñar —no sólo el centro del encuadre— habrían bastado para recortar la foto o repetirla sin la pantalla y la receta de fondo, sin necesidad de renunciar a la comodidad de fotografiar el envase en vez de teclearlo a mano.
Y si tu farmacia no es así
Si trabajáis en un mostrador estrecho, con poco espacio para encuadrar bien.
Es justo donde más fácil es que se cuele algo de fondo, porque no hay distancia para aislar
el objeto de la foto del resto del entorno. La solución barata es tener un fondo neutro fijo
—una carpeta, un trozo de superficie despejada— donde apoyar siempre lo que se va a
fotografiar, en vez de improvisar el encuadre cada vez sobre el mostrador tal como está.
Si usáis notas de voz para no perder detalle de lo que cuenta un paciente.
Cambiad el hábito por resumir en el momento con vuestras propias palabras, sin nombre, en vez
de grabar la voz original. Se pierde matiz, es cierto, pero se gana no tener que gestionar
después un archivo de audio con una voz reconocible que hay que recordar borrar.
Si soléis fotografiar recetas o informes en papel para preguntar algo. Aquí
el riesgo no está en el fondo, está en el propio documento: tapad con la mano o con un papel
la zona de datos personales antes de disparar, en vez de fotografiar el documento entero y
confiar en recortarlo después con prisa.
Si tenéis cámaras de seguridad que graban el mostrador. No tiene relación
directa con lo que subís a una IA, pero conviene tenerlo presente al elegir dónde hacer una
foto para consultar algo: un ángulo pensado para evitar aparecer en vuestra propia cámara de
seguridad suele ser también un ángulo que evita el fondo problemático de la otra foto.
Si usáis el móvil personal para hacer estas fotos. Recordad que esa foto,
además del riesgo de lo que sale en ella, queda guardada en el carrete del teléfono —con sus
propios metadatos de ubicación— hasta que alguien la borre a mano. Borradla del carrete justo
después de usarla, no sólo de la conversación con la IA.
Si dictáis notas por voz al asistente del móvil para transcribirlas después.
El riesgo aquí no es sólo la voz de quien dicta: si al dictar mencionas en voz alta el nombre
de un paciente porque es lo natural al hablar, ese nombre pasa a texto igual que si lo
hubieras tecleado, con el añadido de que al hablar es más fácil que se te escape un dato que
nunca habrías escrito a mano. Revisa la transcripción antes de usarla, igual que revisarías
un texto propio.
Cuando no sale a la primera
No tengo tiempo de revisar el encuadre cada vez, vamos con prisa en el
mostrador.
Entonces automatizad el paso en vez de depender de acordaros: un
trozo de cartulina o una carpeta siempre a mano donde apoyar lo que se fotografía resuelve
el problema del fondo de un plumazo, sin tener que pensarlo cada vez ni perder tiempo de
verdad.
¿Los metadatos de ubicación son tan graves como el resto?
Por sí solos, no suelen identificar a un paciente —identifican tu
farmacia, que ya es pública—. El problema aparece cuando se combinan con otro dato de la
misma foto: la ubicación de tu farmacia más una etiqueta con un nombre en la misma imagen sí
son dos datos que juntos dicen mucho más que cada uno por separado.
He grabado una nota de voz sin querer con el nombre del paciente
dicho en voz alta.
Bórrala antes de subirla a cualquier sitio, y si ya la has subido,
bórrala de la conversación igual que borrarías un texto mal escrito — no hay ninguna
diferencia de trato entre un dato de voz y uno de texto una vez identificado el error,
salvo que aquí el error es más fácil de cometer sin darte cuenta.
¿Puedo pedirle a la IA que ignore el fondo de una foto?
Puedes pedírselo, pero no confíes en que lo cumpla de verdad: un
modelo que analiza imágenes procesa el encuadre entero antes de decidir qué es relevante
para tu pregunta, así que la información del fondo ya ha sido «vista» —y potencialmente
guardada— aunque no aparezca mencionada en la respuesta.
La resolución de la foto es tan baja que no se lee ningún nombre, ¿da
igual entonces?
Ayuda, pero no es una garantía: un modelo pensado para leer texto en
imágenes suele sacar más de una foto borrosa de lo que esperarías, sobre todo si el texto
es grande o está bien contrastado. La resolución baja reduce el riesgo, no lo elimina —el
hábito de mirar el encuadre sigue haciendo falta.
¿Y si la foto la necesito guardar como justificante, no sólo para
preguntar algo puntual?
Entonces es otro caso distinto al de esta lección: una foto que se
conserva como parte de un registro necesita el mismo tratamiento que cualquier documento
que archivéis, con sus propias normas de conservación y acceso —no basta con el criterio
de «recorta el fondo antes de preguntar a una IA», que está pensado para el uso puntual y
desechable, no para guardar nada a largo plazo.
Antes de dar esto por aprendido
- Sé que una foto identifica por lo que hay alrededor de ella, no sólo por el centro del encuadre.
- Miro qué hay de fondo antes de subir una imagen, no sólo lo que quiero preguntar.
- Prefiero resumir con mis palabras a grabar la voz original de un paciente.
- Sé que pedirle a la IA que «ignore el fondo» no sustituye a mirarlo yo antes.
← Repasar: sobreconfianza automática
Siguiente: inyección de instrucciones →
← Volver a la Escuela IA