Inequidad epistémica en medicina

La inequidad epistémica se refiere al reconocimiento desigual de qué conocimientos se consideran autoritativos. En medicina, esto es relevante porque las perspectivas excluidas de los sistemas dominantes-a menudo provenientes de regiones, lenguas o tradiciones subrepresentadas-aportan ideas fundamentales sobre la atención al paciente, las prácticas culturales y las realidades de los sistemas de salud que los estándares globales por sí solos no pueden captar. Ignorar tal diversidad reduce la evidencia y limita la innovación ⁴.

El riesgo de monocultivos del conocimiento

En el centro se encuentra el riesgo de los monocultivos del conocimiento: la dominancia de un único marco epistémico que eleva la precisión computacional como el árbitro supremo de la verdad ⁵. Este cambio privilegia lo que es medible sobre lo que es significativo, marginando la sabiduría clínica tácita y la comprensión contextual de la enfermedad ⁶. Los grandes modelos de lenguaje (LLMs) ilustran este riesgo. Bender et al. han demostrado que los LLMs entrenados con corpus como Wikipedia o Common Crawl amplifican las hegemonías culturales y lingüísticas presentes en sus datos, consolidando visiones del mundo dominantes ⁷. Alvero y colaboradores, al analizar más de 25.000 ensayos generados por IA, encontraron que los resultados se asemejaban más a la escritura de grupos socialmente privilegiados ⁸. Si la IA homogeneiza la expresión hacia normas dominantes, también puede homogeneizar la manera en que se plantean las preguntas de investigación y se abordan los problemas. Para la investigación médica, esto significa que las perspectivas alternativas pueden ser silenciadas antes incluso de ser consideradas ⁹.

Manifestaciones de los monocultivos

Los monocultivos se manifiestan al menos en tres ámbitos:

Datos clínicos. Los modelos entrenados predominantemente con conjuntos de datos de países de altos ingresos se exportan como estándares globales, a pesar de las diferencias drásticas en las cargas de enfermedad y las rutas de atención en otros lugares ^10-12.

Literatura científica. Las herramientas de descubrimiento impulsadas por IA, como Elicit, Connected Papers y Litmaps, dependen de corpus como Semantic Scholar y CrossRef. Los estudios muestran que más del 90% de los documentos indexados en Web of Science y Scopus están en inglés, mientras que el español y el portugués representan apenas un 1% en conjunto ¹³. El propio Elicit reconoce su dependencia exclusiva de Semantic Scholar, omitiendo es-tructuralmente los estudios no escritos en inglés ¹⁴. Cuando estos sesgos se integran en los flujos de trabajo de IA, se automatizan y amplifican.

Entornos informativos cotidianos. Los algoritmos de las redes sociales entregan contenido alineado con las preferencias del usuario, creando "burbujas de filtro". De manera similar, las herramientas médicas basadas en IA pueden priorizar estudios muy citados o en inglés, reforzando perspectivas dominantes y filtrando alternativas relevantes a nivel regional.

Lo qué hace diferente a la IA

Los escépticos podrían argumentar que estas inequidades ya existen. Lo que distingue a la IA es cómo transforma su escala y funcionamiento. Primero, la IA acelera la exclusión al automatizarla: los sesgos que antes aparecían esporádicamente en decisiones editoriales o de financiación ahora operan de manera continua e invisible. Segundo, la IA incrementa la opacidad: mientras que las decisiones humanas pueden ser escrutadas, los filtros algorítmicos actúan como cajas negras. Tercero, la IA universaliza patrones provenientes de conjuntos de datos dominantes, transformando normas locales en estándares globales. En conjunto, estas características magnifican las inequidades, institucionalizándolas de formas más rápidas, difíciles de detectar y más complejas de cuestionar.

Hacia la pluralidad epistémica

Si no se controla, la IA corre el riesgo de estrechar, en lugar de diversificar, el conocimiento médico. Para contrarrestar esto, son esenciales tres principios:

Pluralidad. Las herramientas deben incorporar bases de datos no anglófonas (por ejemplo, SciELO, LILACS, AJOL), literatura gris y revistas con enfoque regional. Incluir múltiples tradiciones de evidencia garantiza que las preguntas de investigación no se formulen exclusivamente desde los sistemas dominantes.

Transparencia. Los desarrolladores deberían revelar las fuentes, los criterios de clasificación y las exclusiones, de manera similar a las etiquetas nutricionales en los alimentos. Sin esto, los usuarios no pueden saber qué evidencia ha sido eliminada silenciosamente.

Humildad en la interpretación. Más allá de la transparencia y la diversidad, la humildad es crucial. Los modelos deberían mostrar no solo los estudios incluidos, sino también los excluidos; los sistemas clínicos deberían aclarar el alcance de sus datos de entrenamiento; los editores deberían tratar los resultados derivados de IA como provisionales, no definitivos. La humildad recuerda a los investigadores que la IA es un complemento, no un sustituto, del juicio humano. Tal humildad podría servir como contrapeso a los monocultivos del conocimiento descritos anteriormente, asegurando que la automatización no se convierta en una autoridad incuestionable.

CONCLUSIÓN

La inteligencia artificial no solo refleja las inequidades existentes; las transforma. Al incorporar sesgos en infraestructuras algorítmicas que operan a gran escala, la IA corre el riesgo de crear monocultivos del conocimiento que privilegian lo universal sobre lo particular, lo medible sobre lo significativo. La novedad no reside en la existencia de la inequidad, sino en cómo la IA cambia su funcionamiento, alcance y detectabilidad.

Si se utiliza de manera responsable, la IA podría ampliar la diversidad epistémica en la medicina. Pero esto requiere decisiones de diseño conscientes guiadas por la pluralidad, la transparencia y la humildad. De lo contrario, las herramientas destinadas a iluminar la complejidad pueden terminar oscureciendo el conocimiento que más necesitamos.