Nos encontramos en los primeros días de la cuarta revolución industrial, revolución que se caracteriza por la confluencia simultánea de numerosas tecnologías exponenciales como el big data, el blockchain, el internet de las cosas, la robótica, la realidad virtual, las impresoras 3D y, por supuesto, la inteligencia artificial.

Mientras que las organizaciones en general se mueven con una velocidad de cambio lineal, todas estas tecnologías evolucionan de manera exponencial, cambiándolo todo como nunca antes en la historia de la humanidad. Como consecuencia, está cambiando drásticamente la forma en que vivimos, trabajamos e interactuamos y el sector salud no es ajeno a esta transformación.

La inteligencia artificial puede tener en el ámbito clínico muchas y muy variadas aplicaciones de gran utilidad, entre ellas algunas como facilitar y mejorar la capacidad de diagnóstico, predecir reingresos hospitalarios, ayudar en el descubrimiento de nuevos fármacos o procesar y obtener información de historiales médicos electrónicos. Sin embargo, su utilización también plantea varios desafíos y preocupaciones éticas y legales.

De hecho, esta reciente “explosión” de inteligencia artificial generativa ha supuesto el inicio de una carrera empresarial “fuera de control” que puede reportar beneficios multimillonarios, pero cuyo impacto social, económico y cultural puede comportar profundos riesgos para la humanidad. De ahí que el 22 de marzo de 2023 más de 1.000 personalidades, desde Elon Musk a Yuval Noah Harari, intelectuales, tecnólogos y académicos firmaran una carta abierta en la que solicitar pausar durante seis meses el entrenamiento de sistemas más potentes a GPT-4. El peligro de seguir avanzando sin una regulación clara, argumentaban, era demasiado grande.

A mayor abundamiento, más recientemente, a finales de mayo de 2023, el propio fundador y CEO de OpenAI (empresa de herramientas como ChatGPT o DALL·E 2), Sam Altman, advertía junto a otros expertos que esta tecnología supone un riesgo para la especie humana. De hecho, aseguran que esta tecnología debe considerarse igual de arriesgada para la civilización que una guerra nuclear o una pandemia.

Los desafíos éticos y legales surgen, así, de la combinación de nuevas tecnologías que evolucionan rápidamente, nuevas partes interesadas (por ejemplo, grandes empresas tecnológicas), una gran cantidad de datos y nuevas técnicas computacionales y analíticas; y frente a ellos descubrimos una falta de controles reglamentarios o estándares comunes para guiar esta convergencia en el ámbito de la salud.

Y es que palabras como “datos, patrones, tendencias, algoritmos predictivos o perfilados de personas” nos deben poner en sobre aviso de la necesidad de proteger los derechos fundamentales de las personas cuando se implementen sistemas o herramientas de inteligencia artificial con pacientes, aspecto que trato en el curso 'IA para profesionales sanitarios: herramientas prácticas para el día a día' de Luzán 5 Escuela de Formación.

En este sentido, debe tenerse presente, como afirma la Agencia Española de Protección de Datos que, en tanto en cuento no exista una normativa específica sobre la misma, la inteligencia artificial es considerada como una forma más de tratamiento de datos.

A este respecto, debe recordarse que la protección de las personas físicas en relación con el tratamiento de datos personales es un derecho fundamental protegido por el artículo 18.4 de la Constitución española. Lo anterior es consistente con el propio marco normativo europeo ya que también en su seno la protección de las personas físicas, en relación con el tratamiento de datos personales, se concibe en la UE como un derecho fundamental.

Por tanto, parece claro que hasta que no se apruebe una normativa específica sobre la propia inteligencia artificial, la utilización de dicha tecnología debe respetar, sin duda alguna, el Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos.

Ahora bien, dado el carácter estratégico que tiene la inteligencia artificial para la Unión Europea, la Comisión Europea presentó el 21 de abril de 2021 un borrador o propuesta para un “Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión”.

La tramitación del mismo avanza con celeridad, pudiendo destacarse como hito más reciente, el pasado 14 de junio de 2023, fecha en la que el Parlamento Europeo ha dado luz verde a la negociación y posterior aprobación del Reglamento incluyendo referencias expresas a la inteligencia artificial generativa por estar ausente en la propuesta de abril de 2021. Así las cosas, en las próximas fechas comenzarán las conversaciones sobre la forma final de la ley en el Consejo, junto a los países de la UE, con el objetivo de alcanzar un acuerdo a finales de este año 2023.

La propuesta persigue la excelencia y la confianza en materia de inteligencia artificial y contiene medidas que pueden prevenir los riesgos en el uso de la misma.

El primer aspecto a destacar del futuro Reglamento es, sin duda, alguna su vocación pionera toda vez que se trata de la primera ley integral sobre la inteligencia artificial del mundo. Y es que, como parte de su estrategia digital, la UE quiere regular la inteligencia artificial para garantizar mejores condiciones de desarrollo y uso de esta tecnología innovadora, tecnología que, por otra parte, y como estamos viendo, puede aportar muchos beneficios, como lo son una mejor asistencia sanitaria, un transporte más seguro y limpio, una fabricación más eficiente y una energía más barata y sostenible.

El segundo aspecto a destacar del futuro Reglamento es, precisamente, que la normativa va a tomar forma de Reglamento y no de Directiva. Esto es relevante por dos motivos: en primer lugar, porque tendrá efecto directo tanto para los Estados miembros como para los ciudadanos desde su entrada en vigor sin necesidad de transposición interna por cada Estado lo que, sin duda, agiliza la aplicación del mismo; y, en segundo lugar, porque consigue un mayor grado de uniformidad en el régimen sustantivo y en su aplicación práctica, potenciando la seguridad jurídica de ciudadanos y empresas.

Por otra parte, el Parlamento ha puesto de manifiesto aquellas cuestiones que deben incluirse en todo caso en el futuro Reglamento a saber:

1. En primer lugar, se debe establecer una definición uniforme y tecnológicamente neutra de la inteligencia artificial que pueda aplicarse a futuros sistemas y herramientas de inteligencia artificial.

2. En segundo lugar, se debe garantizar que los sistemas de inteligencia artificial utilizados en la UE sean seguros, transparentes, trazables, no discriminatorios y respetuosos con el medio ambiente.

3. Y, en tercer lugar, y también en aras de potenciar la seguridad, los sistemas de inteligencia artificial deben ser supervisados por personas, en lugar de por la automatización, para evitar resultados perjudiciales.

Por otra parte, el futuro Reglamento propone que los sistemas de inteligencia artificial que puedan utilizarse en distintas aplicaciones se analicen y clasifiquen según el riesgo que supongan para los usuarios, a modo de semáforo, en riesgo inaceptable, alto riesgo y riesgo bajo o limitado.

En definitiva, tanto a nivel nacional como a nivel europeo se están dando pasos interesantes en el campo normativo. Ahora bien, a fin de dar respuesta a los retos y éticos y legales que se planteen al utilizar la inteligencia artificial en el ámbito sanitario se deberán abordar, sin ninguna duda, cuestiones tan relevantes como el riesgo adicional para la privacidad y confidencialidad del paciente, el análisis de los límites entre el papel del médico y el de la máquina en la atención al paciente, la certeza de que las personas tendrán la información que necesitan respecto a dichas herramientas para tomar una decisión informada y que los riesgos de daños frente a posibles beneficios se evaluarán siempre. Todos estos temas los abordo en el curso de “IA para profesionales sanitarios” para que los facultativos se sientan seguros y cuenten con la formación necesaria para utilizar esta nueva tecnología.