Cuidar en tiempos de algoritmos

Entrevista a Andrea Actis y Silvia Birnenbaum

Carolina Cáceres
Lic. enfermería, Prof. Docencia Superior, Diplomada en Gestión de Servicios de Salud, Diplomada en Géneros, Política y Participación.

La inteligencia artificial, la digitalización de las historias clínicas, las agendas automatizadas y las herramientas capaces de procesar enormes cantidades de información ya forman parte de la conversación cotidiana en salud. Algunas de estas tecnologías prometen simplificar tareas, mejorar diagnósticos, anticipar problemas y facilitar el acceso a la atención. Pero despiertan preguntas sobre la privacidad, el trabajo, la autonomía profesional y el lugar que queda para el vínculo entre las personas.

¿Qué significa, entonces, incorporar tecnología a la atención de salud? ¿Qué problemas puede ayudar a resolver y cuáles puede crear? ¿Qué decisiones deberían seguir estando necesariamente en manos de los equipos de salud? ¿Y qué ocurre con la información que se produce sobre los cuerpos, la intimidad y los procesos de salud de las comunidades?

No son preguntas con respuestas cerradas. Y quizás una de las primeras cosas que exige la transformación tecnológica sea justamente detenerse a formularlas.

Para pensar estos interrogantes conversamos con:

• Andrea Actis, bioquímica y farmacéutica, doctora de la Universidad de Buenos Aires y diplomada en Bioética. Cuenta con formación específica en inteligencia artificial y salud, ciberética, ciberseguridad y tecnologías aplicadas a la salud. Es co-directora del curso Introducción a la Inteligencia Artificial en Salud de la Asociación Médica Argentina (AMA) y secretaria general del Comité de BioCiberÉtica de esa institución. Es directora de la Diplomatura de Inteligencia Artificial en Salud que se dicta actualmente en la Federación de Profesionales del GCABA.
• Silvia Birnbaum, bioquímica clínica, especialista en Inmunohematología y Banco de Sangre, magíster en Ética Biomédica y diplomada en Humanización de la Salud. Es docente universitaria e investigadora en ética biomédica y cuenta con trayectoria en comités de ética y calidad asistencial en instituciones públicas. Es directora de la Diplomatura de Bioética y Humanización en Salud que se dicta actualmente en la Federación de Profesionales del GCABA.

Ambas aportan miradas desde sus campos de formación y expertise, que por momentos coinciden y por momentos ponen el foco en dimensiones distintas de un mismo proceso, enriqueciendo el debate.

La actualidad y las promesas de las tecnologías

Cuando se habla de inteligencia artificial en salud, es frecuente pensar primero en grandes innovaciones vinculadas al diagnóstico o incluso en soluciones robóticas para administrar tratamientos. Pero las transformaciones que describe Andrea abarcan prácticamente todo el proceso de atención. “Es un gran ecosistema de aplicaciones”, explica. Hay herramientas que pueden potenciar el trabajo profesional en diagnóstico y tratamiento, otras que mejoran la comunicación con los pacientes mediante recordatorios de citas o de adherencia a tratamientos, y otras destinadas a la administración y el seguimiento.

También existen sistemas capaces de anticipar determinadas situaciones clínicas. Andrea menciona algoritmos que permiten predecir recaídas o estimar cuándo un paciente podría volver a internarse a partir de sus estudios. Esa información puede servir para incrementar el cuidado o para preparar a la institución ante una eventual reinternación. A esto se suman los wearables, dispositivos como los relojes inteligentes capaces de registrar datos biológicos y vincularlos con profesionales o instituciones. Y hasta aplicaciones destinadas a la capacitación profesional, la actualización permanente y búsqueda bibliográfica.

Pero quizás uno de los ejemplos más sencillos sea también uno de los que mejor permite imaginar cómo estas herramientas pueden modificar el trabajo cotidiano: la transcripción automática de la voz. Andrea señala que estas herramientas permiten reducir el tiempo que los profesionales pasan escribiendo frente a una computadora. “Eso hace que puedas dialogar mejor con el paciente y que puedas tener más contacto visual”, explica. Muchas veces, cuenta, los pacientes se quejan de que durante una consulta “no me miró en ningún momento”, porque el profesional estaba ocupado completando formularios.

La innovación, en este caso, no consiste necesariamente en incorporar una tecnología espectacular, sino en modificar qué hace el profesional con el tiempo que esa tecnología permite recuperar.
Hoy en día ocupan un lugar preponderante las plataformas que integran distintas partes del proceso: historia clínica electrónica, gestión de turnos, admisión, laboratorio e imágenes. Para Andrea, uno de los desafíos consiste precisamente en evitar que la digitalización termine produciendo una integración solamente aparente, con múltiples herramientas que funcionan de manera fragmentada.

Todas estás novedades parecen prometer un horizonte con mejor acceso y atención de la salud, pero desde la bioética, Silvia propone detenerse antes de dar por sentado que toda innovación equivale a una mejora. “Lo que a mí más me llama la atención es esta idea que tiene la comunidad de que todo lo digital es mejor que lo que no es digital”, señala. Lo automático, lo rápido y lo tecnológico suelen aparecer asociados a la idea de avance.

Pero, advierte, “no necesariamente es un avance que haya instalada una tecnología en particular en la atención a la salud”. Las tecnologías son herramientas y deben ser consideradas como tales. “Son herramientas que pueden ayudar al diagnóstico, ayudar al tratamiento, ayudar al confort, que nos acompañan, pero que de ninguna manera pueden reemplazar el encuentro ni pueden reemplazar a las personas”.

Para explicar su planteo, Silvia recurre a una situación cotidiana: recibir los resultados de un estudio por correo electrónico o a través de una plataforma. Es rápido, cómodo y permite acceder inmediatamente a la información. Pero tener el resultado en nuestro celular no significa necesariamente que haya más cuidado. “El cuidado lo encontramos cuando nosotros con nuestro resultado vamos a buscar el equipo de salud y recibimos una devolución del equipo de salud”. La herramienta puede facilitar el acceso al resultado, pero no necesariamente su comprensión ni el acompañamiento que requiere la persona. “Me parece que eso es lo que nunca deja de sorprenderme cómo se pierde la mirada del profesional y de la persona detrás de todos los recursos digitales”.
La cuestión no es solamente qué puede hacer la tecnología, sino qué hacemos nosotros con aquello que la tecnología permite hacer.

El cuidado mediado por las tecnologías y el rol de la humanización

Si la tecnología puede liberar tiempo, organizar información y facilitar procesos, aparece una pregunta más profunda: ¿qué parte del cuidado puede ser delegada y cuál necesita necesariamente de la presencia humana?

Para Andrea, pensar que las máquinas van a reemplazar al equipo de salud no es el problema. “La tecnología viene a potenciar al equipo”, sostiene. La salud no es solamente una ciencia biológica, sino también una ciencia social, y “el ser humano necesita el contacto con el otro”. Su advertencia apunta en otra dirección: “El problema no es que las máquinas reemplacen al humano, el problema es que el humano se deshumanice”.

La tecnología puede liberar tiempo administrativo, pero ese tiempo solo se transforma en un beneficio si vuelve al vínculo con el paciente. “Si vos decís que con una inteligencia artificial al médico le liberas tiempo administrativo para que se contacte con el paciente y, en vez de contactarse con el paciente, sigue con una pantalla contestando un mensaje a otra persona, entonces no hay beneficio”. Por eso insiste en que, el desafío futuro será fortalecer justamente aquellas capacidades que no se resuelven con acceso a información o manejo tecnológico: empatía, comunicación y habilidades humanísticas.

Silvia también pone el foco en aquello que no puede ser reemplazado. “En la vulnerabilidad en la enfermedad, en el inicio de una vida, en el fin de una vida, necesitamos el encuentro, necesitamos al otro”. Ese encuentro incluye la conversación, la mirada y el acompañamiento. “No se puede reemplazar a la persona en la charla, en el cuidado, en la mirada, en el acompañamiento”, sostiene. El cuidado, agrega, implica considerar a la persona como una totalidad: no solamente su enfermedad o su cuerpo, sino también sus emociones y sus vínculos. Para Silvia, el desafío consiste en que la tecnología no termine desplazando esa mirada. “Tenemos que volver a mirar a las personas detrás de los recursos tecnológicos y […] volver a cuidar a las personas con las cuales nos relacionamos por medio de cualquier tipo de recurso tecnológico o digital”.

Pero la humanización no implica rechazar las herramientas tecnológicas. Silvia es explícita en este punto: “Las herramientas no son ni buenas ni malas, la tecnología no es ni buena ni mala, lo que va a ser bueno o malo va a ser cómo la usemos, cómo la implementemos, cómo la instalemos”. Y ahí aparece otra pregunta: si la tecnología no es buena ni mala por sí misma, ¿qué condiciones necesitamos para utilizarla críticamente?

Para Andrea, una de ellas es no delegar completamente el juicio profesional. Los sistemas de inteligencia artificial se alimentan de datos y esos datos son producidos por personas. “La inteligencia artificial no deja de ser un producto del humano”, explica. Por eso, si los datos incorporan sesgos, estos pueden reproducirse en los modelos. De allí la importancia de lo que denomina human in the loop: que exista control humano en las diferentes etapas del desarrollo y uso de los sistemas. “Ese control humano tiene que estar entrenadísimo para detectar que no estén metidos estos sesgos”. El objetivo no es imaginar una tecnología sin errores, sino desarrollar mecanismos capaces de detectarlos y reducir sus consecuencias.

Silvia, también aporta al respecto: el problema también aparece porque los algoritmos son construcciones humanas. “Todo lo que hacemos las personas puede tener errores, pero además tiene sesgos”. Y estos, aplicados a la salud, pueden producir discriminación, vulneración, separación e injusticia. La respuesta, entonces, no parece estar en confiar ciegamente en la herramienta ni en descartarla. Está en conservar la capacidad de cuestionarla.

Andrea lo resume en una práctica concreta: el “doble chequeo”. Una respuesta generada por una IA debe ser evaluada por el profesional, que tiene que preguntarse si resulta coherente con su formación y revisar las fuentes en las que se basa. “Ese es el peor error, la fe ciega, creer ciegamente en que lo que dice la IA, si lo dice la IA es correcto”.

Tal vez uno de los desafíos más inmediatos para los equipos de salud no sea aprender a utilizar una herramienta determinada, sino aprender a convivir con herramientas que pueden responder mucho más rápido que nosotros, sin dejar de preguntarnos si aquello que responden tiene sentido.

La eficiencia y el trabajo en salud

La tecnología también interviene sobre otra dimensión central: la organización del trabajo. Las agendas digitales, los sistemas de gestión, las historias clínicas electrónicas y las herramientas de automatización pueden ordenar procesos y liberar tiempo. Pero también pueden instalar nuevas formas de seguimiento y control sobre trabajadores del equipo de salud.

Según Andrea, la inteligencia artificial no agrega necesariamente un riesgo nuevo al problema de la productividad, sino que la asignación de recursos escasos ya existía antes de estas herramientas. Por el contrario, sostiene que algunas aplicaciones pueden ayudar a recuperar tiempo: transcribir una consulta, mejorar la distribución de turnos o enviar recordatorios para confirmar la asistencia. También menciona la receta electrónica como un ejemplo de simplificación de procesos, aunque advierte que no debería perderse de vista que la prescripción continúa siendo un acto médico y una responsabilidad profesional.

Silvia aporta a la cuestión desde la tensión entre eficiencia y cuidado. “Cuando pensamos en el rendimiento de un proceso, en la eficiencia, en un estándar, en un indicador, el riesgo más grande es perder de vista que hay una persona que necesita atención y que estamos para ella”.

El problema aparece cuando un estándar pretende aplicarse de la misma manera a personas con necesidades diferentes. “Si pretendemos que el estándar se cumpla perfectamente por ejemplo en una cantidad de minutos para atender un paciente, estamos pensando en una fábrica y la biología no se ajusta a las fábricas”. Por eso, Silvia sostiene que una agenda debe poder adaptarse a las necesidades de la comunidad. “No puede pensarse en un entorno de fábrica la asignación de estos turnos, porque la salud no es un trámite, es artesanal”.

La eficiencia no es necesariamente negativa. El riesgo aparece cuando deja de ser un medio y se convierte en el objetivo principal. “Muchas veces cuando dejo de ver cuál es el objetivo para el cual estoy trabajando, que es mi comunidad y cuidar lo más valioso que tiene, que es la salud y la vida de cada uno de los integrantes, puedo ser injusto”. La misma tensión aparece en las agendas digitales. Silvia no considera que una agenda digital sea una mala herramienta. “Establecer una agenda digital no es una mala idea, es un recurso que debería ser valioso”. La cuestión está en cómo se organiza.

Un sistema puede asignar rápidamente un turno y, sin embargo, desconocer la relación que una persona tiene con su equipo de salud, su historia clínica y sus necesidades concretas. “Si yo quiero un turno con el equipo que me atendió siempre, que me conoce, que me valora, que me acompaña, en el cual confío, que no es poco, y de repente el turno se me asigna en otra institución con otro equipo que no necesariamente tiene que ser mejor o peor, simplemente no me conoce, no me acompaña y no sabe mi historia de vida, voy a no usarlo”. En ese caso, lo que parece eficiencia puede terminar produciendo el efecto contrario: un turno perdido, una nueva espera y una persona que debe volver a iniciar el recorrido. “Una agenda que no se adapta a las necesidades de la comunidad, no le está generando un bien a la comunidad y no está resolviendo un problema, sino que está generando un problema”.

La discusión sobre agendas también permite volver a la autonomía profesional. Andrea señala que la automatización no necesariamente implica eliminar la posibilidad de establecer prioridades: “Vos podés tener una herramienta de IA en donde la turnera no sea el que llega primero, o sea el pide primero un turno como si fuera una fila virtual comprando entradas para un recital”. Asimismo propone algunas soluciones al problema actual del sistema de turnos “podés poner una interfaz de triage que pregunte la condición de salud, antecedentes o aquello que puede hacer que la consulta tenga que ser más urgente que otra”.

Para Silvia, en cambio, el punto central es que cualquier herramienta de este tipo debe dejar espacio para el conocimiento del profesional y las particularidades de cada institución. Por eso, las soluciones no deberían funcionar como sistemas cerrados. “Tiene que dejar lugar a algo que muchas veces es invisible en este tipo de recursos digitales que vienen enlatados y es el criterio profesional, el saber profesional”. Además incorpora una tercera voz: la comunidad. “Estas soluciones siempre van a ser valiosas cuando se puedan adaptar y, sobre todo, cuando tengan la mirada del experto, que es el que sabe la tecnología, la mirada del profesional, que es el que tiene criterio profesional, que está actualizado, que conoce la institución, pero además, la voz y la palabra de la comunidad”.

También la historia clínica digital plantea preguntas sobre autonomía, acceso y responsabilidad. Andrea señala que los sistemas pueden establecer diferentes niveles de acceso según el rol de cada integrante del equipo. Pero agrega una cuestión que considera importante: “la historia clínica es del paciente”. Silvia profundiza esa idea desde el derecho a la intimidad. “Nosotros deberíamos poder acceder a lo que necesitamos para acompañar a esa persona, a lo que necesitamos para curar, para cuidar, pero no a todos los datos de todos los pacientes”. Para ella, no alcanza con que exista una contraseña o diferentes niveles de acceso “Es muy valioso que se pueda saber quién accedió a cada dato y por qué. Que alguien pueda explicarlo”.

La tecnología, entonces, puede ordenar el acceso, pero la decisión sobre qué información corresponde conocer sigue involucrando una responsabilidad profesional. Queda así una pregunta que quizás la tecnología no pueda responder por sí sola: ¿qué significa organizar mejor el trabajo de salud? Si “mejor” significa hacer más en menos tiempo, la respuesta será una. Si significa cuidar mejor, garantizar derechos y preservar la autonomía profesional, probablemente tengamos que utilizar otros indicadores. El debate entonces vuelve al centro: qué tipo de sistema de salud queremos?

Datos: información, conocimiento y poder

La capacidad de procesar grandes volúmenes de información abre algunas de las posibilidades más interesantes de la inteligencia artificial en salud.

Para Andrea, el Big Data que “te da el análisis de gran volumen de datos a alta velocidad, con gran variedad de formatos que vos puedas incorporar”, podés cruzar información de distintas fuentes: datos climáticos, comportamientos sociales, alimentación, sensores de contaminación y otros indicadores, “ que te permite rápidamente generar los alertas”. Pero cuanto mayor es la cantidad de datos disponibles, más importante se vuelve preguntarse qué sucede con ellos. Andrea es determinante “la historia clínica es del paciente” y Silvia refuerza: “Los datos que generamos en los espacios de salud no son del equipo de salud y no son de las instituciones, son de las personas. Y las personas los entregan para que nosotros los cuidemos”.

Eso no significa que esos datos no puedan utilizarse para producir conocimiento colectivo. Si se encuentran completamente desvinculados de la identidad de las personas, pueden convertirse en información útil para construir indicadores y políticas sanitarias. “Con esos datos podemos construir indicadores y con esos indicadores podemos aportar a que se hagan políticas de salud que representen lo que necesita la comunidad”. La clave está en que exista un valor agregado sin poner en riesgo la privacidad. “Tenemos derecho a recibir atención sanitaria en igualdad, en la oportunidad que la necesitamos y de la mejor calidad. Eso solo lo vamos a tener si capitalizamos los datos de la comunidad que nosotros asistimos, siempre cuidando su privacidad, su confidencialidad”.

Al consultarle sobre la posibilidad de que no solo el sistema de salud, sino particulares (empresas privadas contratadas por los gobiernos) sean quienes manejan los datos, la respuesta de Andrea es rotunda: “Ya está gestionado por privados”. Las cinco grandes empresas tecnológicas que desarrollan estas herramientas concentran gran parte de la infraestructura necesaria para su funcionamiento. Andrea utiliza una expresión que sintetiza esa concentración: “tecnofeudalismo, señores feudales del ciberespacio”.

Frente a esa concentración, plantea la necesidad de gobernanza. “Contra eso lo que tenés es que los pueblos se sienten a determinar qué sí vas a permitir, qué no y cómo vas a gobernar desde, obviamente, cada país”. Las recomendaciones de organismos internacionales pueden aportar marcos generales, pero la regulación concreta corresponde a los Estados. “Cada país tiene que establecer leyes que garanticen los derechos humanos, que las nuevas tecnologías no avasallen estos aspectos ya ganados”. No se trata, para Andrea, de detener el desarrollo tecnológico, sino de regularlo. “No vas a ir en contra del avance tecnológico, pero tenés que, de alguna manera, controlar, regular, normatizar […] en función siempre del beneficio de los seres humanos”.

Silvia también entiende los datos como una fuente de poder. “Los datos son una fuente de poder, cada vez más, porque la información da poder, y los datos de los ciudadanos, en particular los datos en salud, dan mucho”. Por eso considera que la protección de la información debe ir acompañada de una política que permita utilizarla para mejorar la salud de las comunidades. “Yo, con los datos de mi comunidad, puedo realmente armar políticas de salud que le devuelvan a la comunidad lo que necesita”. Finalmente resume la relación entre confianza, datos y salud con una frase particularmente potente: “En el caso de la atención que nosotros brindamos, se paga con impuestos pero también se paga con datos. Por eso la responsabilidad es mayor”.

La pregunta sobre quién gobierna los datos termina llevando, entonces, a una discusión más amplia que la tecnológica. Si la información sanitaria tiene valor para una comunidad, ¿quién debe decidir sobre ella? ¿Cómo se garantiza que pueda utilizarse para producir conocimiento y políticas públicas sin convertirse en una nueva forma de vulnerabilidad? Pensar juntos qué tecnología queremos en salud, requiere tener claro qué sistema de salud queremos.

Entonces a favor o en contra?

A lo largo de la conversación, las entrevistadas aportan sus miradas expertas. Andrea destaca las posibilidades de la inteligencia artificial para ampliar capacidades, procesar información, liberar tiempo y mejorar procesos, pero advierte sobre la necesidad del control humano, el doble chequeo y no perder de vista la empatía. Silvia hace hincapié en el riesgo con el manejo de datos, no solo filiatorios sino los de salud, y reconoce el valor de las herramientas tecnológicas siempre que puedan adaptarse a las necesidades concretas, y a la posibilidad de integrar a expertos tecnológicos, profesionales de salud y a las comunidades en las que se implementan.

En sus respuestas hay un terreno común: la tecnología puede ser una herramienta para cuidar mejor, siempre que no se confunda la herramienta con el cuidado. Puede ayudar a organizar el trabajo, siempre que la organización no termine subordinando las necesidades de las personas a un estándar. Puede procesar información epidemiológica y contribuir a políticas públicas, siempre que los datos sean protegidos y su utilización responda a un interés colectivo. Puede incluso ampliar las capacidades de los equipos de salud, siempre que no debilite el criterio profesional ni el encuentro con quienes necesitan atención.

Las tecnologías no reemplazan el cuidado, pero sí transforman las condiciones en las que ese cuidado ocurre. Intervienen en la circulación de la información, en la distribución de los tiempos, en la definición de prioridades y en las relaciones entre las instituciones, los equipos de salud y la comunidad. Por eso, discutir tecnologías no significa solamente hablar de innovación: también implica discutir modelos de atención, condiciones de trabajo, autonomía profesional, democracia y derecho a la salud.

La pregunta, entonces, no es simplemente si debemos incorporar nuevas tecnologías, ni si la inteligencia artificial representa una amenaza o una oportunidad. La discusión es quién diseña esas herramientas, con qué objetivos se implementan, qué problemas buscan resolver, quién participa en esas decisiones, y qué lugar ocupan las/los trabajadores de la salud y las comunidades en ese proceso. Lo que nos lleva al verdadero quid de la cuestión: ¿qué sistema de salud queremos?