Ventajas y Riesgos del Uso de la Inteligencia Artificial en la Atención Médica
El sector de la salud puede beneficiarse significativamente de la influencia potencial de la inteligencia artificial generativa y de las aplicaciones de aprendizaje automático. Los pacientes, los proveedores médicos y las compañías de seguros pueden aprovechar las recompensas del uso generalizado de estas tecnologías, que incluyen una mejora en la eficiencia operativa y mejores resultados en el tratamiento. Sin embargo, todas las partes deben considerar los riesgos potenciales de implementar estas herramientas de vanguardia en el campo médico.
Provisión de servicios de atención médica
La adopción de la inteligencia artificial (IA) en la atención médica está en aumento, demostrando efectividad en el diagnóstico de dolencias crónicas, mejorando la eficiencia del personal y mejorando la calidad general de la atención. Las herramientas de IA se están aprovechando para el diagnóstico de pacientes, el descubrimiento y desarrollo de medicamentos, la mejora de la comunicación médico-paciente y las tareas de transcripción médica. Especialmente en áreas donde existen grandes conjuntos de datos, incluidas imágenes, la IA ha demostrado competencia en el diagnóstico de afecciones que requieren comparaciones visuales. Por ejemplo, los sistemas de IA desarrollados por Google y la Universidad de Stanford han tenido éxito en el diagnóstico y la clasificación de la retinopatía diabética y en la detección de 14 patologías a través de la revisión de radiografías, respectivamente.
En la mejora de las experiencias de interacción con los pacientes, los asistentes de IA y los chatbots ayudan a los pacientes a localizar médicos, programar visitas y responder a preguntas comunes. Los proveedores de atención médica también dependen cada vez más de la IA para identificar protocolos de tratamiento y la medicación adecuada, promoviendo así la eficiencia. Estas herramientas asistentes habilitadas por IA también ayudan a documentar las interacciones con los pacientes casi en tiempo real, lo que contribuye a mejorar el proceso de documentación del paciente y a reducir la carga asociada con la tarea de documentación intensiva en tiempo. También se utilizan como herramientas de verificación de seguros para asegurar la autorización previa para los procedimientos, limitando la ocurrencia de reclamaciones impagas.
A pesar de la precisión y eficiencia proporcionadas por la IA en la atención médica, la opinión pública debe ser más aceptada. Una encuesta del Centro de Investigación Pew revela que una parte significativa de los estadounidenses se sentiría incómoda si sus proveedores de atención médica dependieran de la IA para diagnósticos o sugerencias de tratamiento. Según los datos de la encuesta, el 60% de los encuestados se sentían incómodos con tal posibilidad, el 57% creía que la IA podría alterar negativamente la relación paciente-proveedor y solo el 38% expresó optimismo de que la IA podría conducir a mejores resultados de salud.
Prejuicios Raciales y de Género
Se han planteado preocupaciones sobre el potencial de sesgo racial y de género en los algoritmos de inteligencia artificial (IA) utilizados en el campo de la salud. Estudios han mostrado discrepancias basadas en la raza en estos algoritmos y vacíos debido a datos insuficientes sobre la atención médica para mujeres y minorías. En un informe de mayo de 2022, Deloitte enfatizó la necesidad de reevaluar los algoritmos clínicos preexistentes para garantizar una atención equitativa al paciente. Esto implicaría examinar cómo se incorpora la raza en los algoritmos y si dicha inclusión está justificada.
También existen problemas con la recopilación y el uso de datos relacionados con raza y etnia en la atención médica, según el informe de Deloitte. Debido a la ausencia de una metodología estandarizada y a concepciones erróneas existentes, es necesario incluir datos sustanciales sobre raza y etnia en el ámbito de la atención médica. Esto fue destacado por los Centros para el Control y la Prevención de Enfermedades, que encontraron que casi el 40% de las personas que dieron positivo por COVID-19 o recibieron una vacuna no tenían datos disponibles sobre raza y etnia. La Asociación Médica Estadounidense (AMA) sostiene la importancia de utilizar datos representativos de la población en el desarrollo de la IA y las aplicaciones de atención médica, y aboga por el uso de IA aumentada en lugar de alternativas totalmente automatizadas.
Los reguladores también han tomado conciencia del sesgo posible en la IA de la salud. El fiscal general de California, Rob Bonta, envió cartas a 30 directores ejecutivos de hospitales en todo el país, solicitando información sobre medidas para identificar y corregir disparidades raciales y étnicas en herramientas comerciales de toma de decisiones. Esto es parte de la investigación sobre las posibles implicaciones discriminatorias de los algoritmos comerciales de atención médica basados en raza y etnia. Sin embargo, la encuesta del Centro de Investigación Pew sugiere que la mayoría de los estadounidenses que reconocen el sesgo racial y étnico en la atención médica también creen que el uso de la IA puede ayudar a mitigar el sesgo y el trato injusto.
Privacidad de los Datos de Salud
La privacidad de los datos de salud en el contexto de las aplicaciones de IA en la atención médica plantea serias preocupaciones. El desarrollo y la operación de algoritmos de IA requieren acceso a extensos datos de salud, exponiendo potencialmente esta información sensible debido a las capacidades de retención de datos del algoritmo o la vulnerabilidad a brechas de datos de terceros. Las asociaciones entre centros de investigación académica y empresas del sector privado para la comercialización de la investigación de IA a veces han dado lugar a protecciones de privacidad de datos inadecuadas. Tales colaboraciones han dado lugar a casos en los que el control de los pacientes sobre el uso de sus datos fue socavado o fue necesario informar de manera más adecuada sobre las implicaciones de privacidad.
Además, las herramientas de IA han demostrado la capacidad de identificar nuevamente a individuos a partir de repositorios de datos de salud anonimizados, incluso prediciendo datos personales no relacionados con la salud en escenarios específicos. Esta capacidad de reidentificación acentúa aún más las preocupaciones sobre la privacidad. El sector de la salud y los proveedores de terceros asociados son susceptibles a brechas de datos y ataques de ransomware. La industria de la salud reportó las brechas de datos más costosas, con un costo promedio de $10.93 millones en 2023, según el Informe Costo de una Brecha de Datos de IBM Security.
A pesar de estas preocupaciones de privacidad prevalentes, se están realizando avances para salvaguardar la privacidad individual en el creciente campo de la IA en la atención médica. Diez estados de EE. UU. han instituido regulaciones relacionadas con la IA dentro de sus leyes de privacidad del consumidor más amplias, centrándose específicamente en la privacidad de datos y las aplicaciones de IA en la atención médica. A medida que la atención médica sigue integrando la tecnología de IA, todas las entidades involucradas deben reconocer los riesgos potenciales de sesgo o pérdida de privacidad y tomar medidas proactivas para mitigarlos, asegurando así los vastos beneficios potenciales para pacientes y proveedores.