Checklist para comprar IA médica: 10 preguntas antes de conectar datos

Una demostración puede resumir una nota en segundos, responder con seguridad y hacer que una integración parezca sencilla. Pero la decisión importante empieza después: ¿qué ocurrirá cuando esa herramienta toque datos reales de pacientes y forme parte del trabajo diario de la clínica?

La Organización Mundial de la Salud propone que la IA aplicada a salud preserve autonomía, seguridad, transparencia, responsabilidad e inclusión. El marco de gestión de riesgos de IA del NIST añade una disciplina práctica: gobernar, mapear, medir y gestionar riesgos durante todo el ciclo de vida.

Estas diez preguntas convierten esos principios en una conversación de compra verificable.

1. ¿Qué problema exacto resuelve y qué queda fuera?

Pide una frase concreta: “La herramienta hace ___ para ___ dentro de ___”. Distingue si apoya agenda, documentación, análisis administrativo o una decisión clínica. Una solución que no delimita su propósito tampoco permite delimitar su riesgo.

Solicita también una lista de usos prohibidos. “No reemplaza el criterio médico” debe traducirse en límites visibles dentro del flujo, no quedarse como una nota al pie.

2. ¿Qué evidencia sostiene el resultado prometido?

Pregunta qué se midió, con cuántas personas o casos, en qué contexto y contra qué comparación. Una prueba interna, una encuesta, un estudio retrospectivo y un ensayo prospectivo responden preguntas distintas.

La evidencia debe parecerse a tu entorno: idioma, especialidad, población, tipo de clínica y tarea. Si el proveedor presenta una cifra, pide la fuente y el denominador.

3. ¿Qué datos usa, para qué y durante cuánto tiempo?

Haz un inventario antes de integrar:

• datos que recibe;
• datos que genera;
• lugar y tiempo de almacenamiento;
• subprocesadores que participan;
• uso o no uso para entrenamiento;
• reglas de eliminación y respaldo.

La respuesta debe quedar en contrato y coincidir con la configuración técnica.

4. ¿Dónde interviene una persona?

Define quién revisa, corrige, aprueba, rechaza o detiene el resultado. Para tareas sensibles, identifica el momento exacto antes de que una salida afecte el expediente, la comunicación con el paciente o una decisión.

También pregunta qué ocurre cuando nadie está disponible. “Supervisión humana” no sirve si el flujo continúa automáticamente ante una duda.

5. ¿Se puede reconstruir qué ocurrió?

Necesitas saber qué entrada recibió el sistema, qué versión produjo la salida, quién la revisó y qué terminó incorporándose al proceso. Esto no exige guardar información innecesaria; exige trazabilidad proporcional al riesgo.

Sin esa reconstrucción será difícil investigar un error, medir calidad o responder una inconformidad.

6. ¿Cómo se integra sin duplicar ni desordenar el expediente?

Una herramienta aislada puede crear más copiar y pegar. Pregunta:

• qué sistema será la fuente oficial;
• qué campos se leen y escriben;
• cómo se validan formatos y catálogos;
• cómo se evitan duplicados;
• qué pasa cuando la integración falla.

La integración debe conservar contexto y responsabilidades, no convertir una respuesta generada en verdad automática.

7. ¿Cómo detectan, reportan y corrigen incidentes?

Solicita responsables, canal de reporte, tiempos de atención, criterios de severidad y procedimiento para suspender una función. Pregunta cómo notifican cambios de modelo que puedan alterar calidad o comportamiento.

Una respuesta madura incluye pruebas periódicas y aprendizaje posterior al incidente.

8. ¿Cómo evalúan sesgo y desempeño en nuestro contexto?

El promedio puede ocultar fallas en grupos, especialidades o tipos de documento. Pide resultados desagregados cuando sean pertinentes y un plan de validación local antes de ampliar el uso.

Define qué nivel de error es aceptable para la tarea. No todas las equivocaciones tienen la misma consecuencia.

9. ¿Cuál es el costo total de operar y supervisar?

No te quedes con la licencia. Incluye integración, capacitación, revisión humana, soporte, almacenamiento, monitoreo, cambios de proceso y eventual migración.

El retorno debe medirse contra el problema definido en la primera pregunta: menos retrabajo, mejor oportunidad o mayor consistencia, sin inventar ahorros antes de observarlos.

10. ¿Cómo recuperamos nuestros datos y terminamos la relación?

Pide formato de exportación, plazo, costo, ayuda para migrar, eliminación verificable y continuidad durante la salida. Confirma qué ocurre con configuraciones, registros y copias de respaldo.

Una herramienta responsable permite entrar con control y salir sin secuestrar el proceso.

Semáforo para tomar la decisión

Clasifica cada respuesta:

• Verde: documentada, probada y asignada a un responsable.
• Amarillo: plausible, pero necesita prueba o condición contractual.
• Rojo: ambigua, no verificable o incompatible con el riesgo de la tarea.

No compenses un rojo en datos, supervisión o salida con una demo atractiva. Haz primero una prueba acotada, con datos mínimos y criterios de éxito definidos.

Cómo SaludTotal encaja en una evaluación responsable

SaludTotal organiza agenda, expedientes y operación clínica en un solo entorno. Al evaluar una integración de IA, el punto de partida debe ser el mismo: propósito delimitado, datos mínimos, validación humana y un expediente que conserve estructura y control.

La IA puede apoyar una tarea; la clínica sigue siendo responsable de decidir cómo se incorpora al proceso y cómo se protege al paciente.

Lleva el checklist a tu próxima reunión

Guarda estas diez preguntas, asigna un responsable a cada respuesta y no conectes expedientes hasta que propósito, evidencia, datos, supervisión y salida estén documentados.

👉 Conoce cómo SaludTotal centraliza la gestión de tu clínica: saludtotal.mx

Fuentes

• Organización Mundial de la Salud. Ethics and governance of artificial intelligence for health. 2021.
• NIST. Artificial Intelligence Risk Management Framework.