Riesgo, datos y responsabilidad: las conversaciones que marcaron el II Foro sobre Inteligencia Artificial en Salud
La inteligencia artificial está transformando la forma en que se generan, analizan y utilizan los datos en el sector salud. Sin embargo, conforme aumentan sus capacidades tecnológicas, también crecen las preguntas sobre la forma en que estas herramientas deben implementarse para garantizar seguridad, transparencia y confianza.
Este fue precisamente uno de los ejes centrales del II Foro sobre Inteligencia Artificial en Salud, celebrado el pasado 17 de junio en San José, Costa Rica. El encuentro reunió representantes del sector salud, la academia, organismos especializados, empresas tecnológicas y líderes de innovación para analizar los desafíos y oportunidades que enfrenta el país ante la acelerada incorporación de la inteligencia artificial en los servicios de salud.
Aunque gran parte de la conversación pública sobre inteligencia artificial suele centrarse en automatización, productividad o nuevas capacidades tecnológicas, las discusiones desarrolladas durante el foro evidenciaron una preocupación distinta: cómo garantizar que estas herramientas sean implementadas de manera ética, segura y responsable.
Entre los temas recurrentes destacaron la gestión de riesgos, la protección de datos, la calidad y veracidad de la información, la gobernanza tecnológica y la necesidad de fortalecer las capacidades de los profesionales que interactúan con sistemas basados en inteligencia artificial.
Estas preocupaciones reflejan una realidad cada vez más evidente. En el ámbito sanitario, los resultados generados por algoritmos pueden influir en decisiones clínicas, procesos administrativos y estrategias institucionales. Por ello, la confianza en los datos y la capacidad de comprender los límites de estas tecnologías se han convertido en factores tan importantes como la innovación misma.
Una de las reflexiones compartidas durante el evento sintetizó de manera precisa este desafío:
“La inteligencia artificial no sustituye personas; redistribuye responsabilidades”.
La frase pone de manifiesto una realidad que las organizaciones comienzan a comprender con mayor claridad. La inteligencia artificial puede apoyar la toma de decisiones, agilizar procesos y ampliar capacidades analíticas, pero no elimina la responsabilidad humana sobre los resultados obtenidos.
Por el contrario, la adopción de estas tecnologías exige nuevas competencias relacionadas con supervisión, validación, interpretación de resultados, gestión de riesgos y protección de la información.
Desde una perspectiva de calidad y evaluación técnica, este enfoque resulta particularmente relevante. La confianza en cualquier sistema depende de la capacidad para demostrar que los datos son confiables, que los procesos son controlados y que los riesgos han sido identificados y gestionados adecuadamente.
En este sentido, la conversación observada durante el foro coincide con las tendencias internacionales que impulsan marcos de gobernanza para la inteligencia artificial basados en principios de transparencia, trazabilidad, robustez técnica, supervisión humana y responsabilidad institucional.
La transformación digital del sector salud continuará avanzando. Sin embargo, el principal reto no será únicamente desarrollar sistemas más inteligentes, sino construir organizaciones capaces de utilizarlos de manera responsable.
La participación de nuestra Directora, Dra. Fabiola Jiménez, en este espacio de análisis permitió conocer de primera mano las discusiones que están definiendo el futuro de la inteligencia artificial en salud y comprender cómo la gestión de riesgos, la calidad de los datos y la gobernanza tecnológica se consolidan como pilares fundamentales para generar confianza en esta nueva etapa de transformación digital.