Hoy en día, la inteligencia artificial (IA) desempeña un papel en la vida de miles de millones de personas, muchas veces pasa inadvertida y a menudo trae profundas consecuencias, transforma nuestras sociedades y desafía lo que significa ser humano.
La inclusión de tecnologías se ha dado en los diferentes ámbitos de la vida cotidiana ha demarcado un antes y un después en la manera cómo se desarrolla esa cotidianeidad. Actualmente no es posible pensar en un mundo evolucionado sin que el desarrollo tecnológico haya formado parte relevante de ese desarrollo , muchas formas de automatización de procesos han permitido que estos se realicen con mayor agilidad y sin duda, las soluciones informáticas están involucradas directamente en estas nuevas capacidades que la vida evolucionada requiere para desenvolverse con normalidad.
Por lo anterior, el uso de nuevas tecnologías es un hito fundamental en el desarrollo de la historia humana en todas sus etapas, es posible evidenciar avances que contribuyen al mejoramiento de la calidad de vida de las personas en todas las áreas y entre éstas se encuentran, justamente, los avances de La IA aplicados al área de la salud .
Es así como La IA plantea un sinnúmero nuevos tipos de variables en el día a día de las personas, de los procesos y del mundo, lo que debe plantear cuestiones éticas en cada una de las áreas que entre otras incluye: el empleo y el trabajo, la interacción social, la atención en la salud, la educación, los medios de comunicación, el acceso a la información, la brecha digital, la protección del consumidor y de los datos personales, el medio ambiente, la democracia, el estado de derecho, la seguridad y el mantenimiento del orden, los derechos humanos y las libertades fundamentales, incluidas la libertad de expresión, la privacidad y la
no discriminación. Además, surgen desafíos éticos por el potencial en las operaciones de la Inteligencia Artificial para reproducir y reforzar los sesgos existentes, lo que puede exacerbar las formas de discriminación, los
prejuicios y los estereotipos. pues también se hace evidente que su mal uso puede provocar graves daños.
A través del tiempo se han realizado varios cuestionamientos y estos tienen que ver con la capacidad de los sistemas de IA para realizar tareas que antes solo podían hacer los seres vivos y que, en algunos casos, incluso se limitaban sólo a los seres humanos. Estas características otorgan a los sistemas de IA una función nueva y determinante en las prácticas, la sociedad y las personas,
como en su relación con el medio ambiente y los ecosistemas, creando un nuevo contexto para que los niños y los jóvenes crezcan, desarrollen una comprensión del mundo y de sí mismos, comprendan críticamente los medios de comunicación y la información y aprendan a tomar decisiones. A largo plazo, los sistemas de IA podrían disputar al ser humano el sentido especial de la experiencia y la capacidad de actuar que le son propios sólo a las personas, lo que plantearía nuevas inquietudes sobre la autocomprensión, la interacción social, cultural y ambiental, la
autonomía, la capacidad de actuar, el valor y la dignidad del ser humano, entre otras.
Para las personas, los líderes, las organizaciones y la sociedad en general existe una pregunta cada vez más urgente y es si la inteligencia artificial (IA) puede ayudarnos a avanzar de manera positiva, ¿o nos obstaculizará?. Los riesgos éticos son una preocupación principal para el mundo y las personas en general.
Por lo expresado anteriormente su uso es un tema controversial. Si bien en muchos casos puede significar grandes avances para mejorar la calidad de vida humana, también puede generar problemas si no se la utiliza de manera ética. El Foro Económico Mundial afirma que una forma de controlar su uso es crear un “Centro de Excelencia” nacional para defender el uso ético de la Inteligencia Artificial y ayudar a desplegar la capacitación y la sensibilización sobre la temática, además, para liberar el potencial de la IA de forma segura, es necesario abordar cuestiones como la precisión, el control humano, la transparencia, la parcialidad y la privacidad, por lo tanto, los gobiernos deben servir de modelo para el uso ético de la IA, y educar a su población en relación a su uso y a cómo estar preparados para las oportunidades y los desafíos que esta puede traer.
Los centros de excelencia, podrían ser una buena solución, como organismos reguladores de la IA en cada país. Por tal razón, El Foro Económico Mundial recomienda la creación de estos como una forma de aumentar el uso ético de la IA en un país y al mismo tiempo, crear apoyo público, en este sentido, podrían ser muy útiles por tres razones:
- El centro podría contar con personal de la industria, del gobierno, el mundo académico y la sociedad civil, utilizando un enfoque multidisciplinario y de colaboración para prestar asesoramiento sobre la IA y el uso de algoritmos para operaciones gubernamentales.
- Proporcionaría un medio para que los gobiernos empiecen a abordar la falta de conocimientos sobre IA en todas las comunidades. El centro comenzaría a crear conciencia sobre la propia IA y fomentaría las conversaciones sobre el nivel de comodidad de las personas al utilizarla en diferentes situaciones.
- El centro también ofrecería a los actuales usuarios de IA un lugar donde compartir sus preocupaciones y problemas, y hablar con un grupo de expertos y compañeros.
De este modo, estos centros serían de apoyo educativo y podría dar forma al desarrollo ético de las prácticas de IA. Para lograrlo, podría incluir las siguientes funciones:
- Recopilar información e inteligencia sobre el uso de la IA a nivel internacional y prestar asesoramiento y apoyo basados en esa recopilación de inteligencia.
- Colaborar con los distintos organismos y ministerios para ayudar en el desarrollo y la adquisición de algoritmos Proporcionar informes sobre errores.
- Actuar en la detección de forma transparente de los problemas en el uso de los algoritmos y la IA o identificar los riesgos y las soluciones.
- Prestar apoyo a los usuarios.
- Actuar como un centro de intercambio de conocimientos sobre el desarrollo y el uso de soluciones de inteligencia artificial.
- Buscar soluciones centradas en el ciudadano, mediante el uso de enfoques y habilidades de diseño centrados en el ser humano y desarrollar principios y enfoques basados en principios que reflejen la diversidad de las comunidades.
- Trabajar con la industria y el gobierno para desarrollar prácticas tangibles y reales que satisfagan las necesidades de los promotores y los requisitos legales.
Lo más importante en todos estos casos, es que el uso de la IA se trabaje de manera ética. Un centro de excelencia de IA debe incorporar a la ética como uno de sus pilares. Se trata de un instrumento flexible y ágil que puede ajustarse según las necesidades y exigencias del momento y el lugar. La Inteligencia Artificial puede significar grandes avances para la humanidad, siempre y cuando su uso sea ético y responsable
A partir de allí ello la UNESCO , emprendió un proceso un proceso de 2 años para elaborar el primer instrumento normativo mundial sobre la ética de la Inteligencia Artificial en forma de recomendación, de conformidad con la decisión de la conferencia General en su reunión 40 en noviembre de 2019.
El 23 de noviembre de 2021, en la 41 Conferencia General de la UNESCO los 193 Estados miembros aprobaron por aclamación el texto de la Recomendación: El mundo necesita reglas para que la inteligencia artificial beneficie a la humanidad.
La labor de la UNESCO en relación con la Recomendación se basa en el estudio preliminar sobre la ética de la inteligencia artificial de la Comisión Mundial de Ética del Conocimiento Científico y la Tecnología (COMEST) de la UNESCO. Este estudio destaca la inexistencia actual de un instrumento mundial que abarque todos los campos que guían el desarrollo y la aplicación de la IA en un enfoque centrado en el ser humano.
El contenido de la recomendación tiene como objetivo hacer realidad las ventajas que la IA aporta a la sociedad y reducir los riesgos que conlleva. Garantiza que las transformaciones digitales promuevan los derechos humanos y contribuyan a la consecución de los Objetivos de Desarrollo Sostenible, abordando cuestiones relativas a la transparencia, la rendición de cuentas y la privacidad, con capítulos políticos orientados a la acción sobre la gobernanza de los datos, la educación, la cultura, el trabajo, la atención sanitaria y la economía.
Esta Recomendación traduce “el qué de la ética de la IA en el cómo de la acción política relevante”, ofrecerá vías concretas para la realización del marco ético de principios y valores universales. Tiene por objeto servir de base para poner los sistemas de IA al servicio de las personas, las sociedades y el medio ambiente, así́ como para prevenir riesgos.
¿Por qué es importante tener un instrumento de estas características?: La Recomendación es innovadora y valiosa porque:
Tiene un alcance global y es un marco ético integral que aborda temas fundamentales en el desarrollo de IA como la inclusión, la equidad, y la no discriminación, en todas las etapas del ciclo del sistema de IA.
Pero, además, la Recomendación no pretende ser una mera declaración de principios y de valores universales como la tolerancia, el respeto, la dignidad, sino que también favorece la transparencia, la rendición de cuentas, la privacidad de la gobernanza de datos, con el objetivo de desarrollar políticas más concretas. Es, sobre todo, un instrumento para implementar mejores políticas y acciones, haciendo especial hincapié́ en la inclusión, la igualdad de género y la protección del medio ambiente y los ecosistemas.
Incluye acciones políticas en 10 áreas específicas: Evaluación de impacto ético, Gobernanza y rectoría éticas, Política de datos, Desarrollo y cooperación internacional, Medio ambiente y ecosistemas, Género, Cultura, Educación e investigación, Economía y trabajo, y Salud y bienestar social. Con base en los siguientes aspectos:
- Protección de datos:
La Recomendación pide que se actúe más allá de lo que hacen las empresas tecnológicas y los gobiernos para garantizar a las personas una mayor protección, asegurando la transparencia, la capacidad de actuar y el control de sus datos personales. Afirma que todos los individuos deberían poder acceder a sus registros de datos personales o incluso borrarlos. También incluye acciones para mejorar la protección de los datos y el conocimiento y derecho del individuo a controlar sus propios datos. También aumenta la capacidad de los organismos reguladores de todo el mundo para hacerla cumplir.
- Prohibición de los marcadores sociales y la vigilancia masiva:
La Recomendación prohíbe explícitamente el uso de sistemas de IA para la calificación social y la vigilancia masiva. Este tipo de tecnologías son muy invasivas, vulneran los derechos humanos y las libertades fundamentales y se utilizan de forma generalizada. La Recomendación subraya que, a la hora de desarrollar marcos normativos, los Estados Miembros deben tener en cuenta que la responsabilidad última y la rendición de cuentas deben recaer siempre en los seres humanos y que no se debe otorgar personalidad jurídica a las tecnologías de IA por sí mismas.
- Ayudar a supervisar y evaluar:
La Recomendación también sienta las bases de las herramientas que ayudarán a su aplicación. La Evaluación del Impacto Ético pretende ayudar a los países y a las empresas que desarrollan y despliegan sistemas de IA a evaluar el impacto de esos sistemas en las personas, la sociedad y el medio ambiente. La metodología de evaluación del grado de preparación ayuda a los Estados Miembros a evaluar su grado de preparación en términos de infraestructura jurídica y técnica. Esta herramienta ayudará a mejorar la capacidad institucional de los países y a recomendar las medidas adecuadas que deben adoptarse para garantizar la aplicación de la ética en la práctica. Además, la Recomendación anima a los Estados Miembros a considerar la posibilidad de añadir el papel de un funcionario independiente de ética de la IA o algún otro mecanismo para supervisar los esfuerzos de auditoría y seguimiento continuo.
- Protección del medio ambiente
La Recomendación subraya que los actores de la IA deben favorecer métodos de IA eficaces en cuanto a datos, energía y recursos que ayuden a garantizar que la IA se convierta en una herramienta más destacada en la lucha contra el cambio climático y en el tratamiento de los problemas medioambientales. La Recomendación pide a los gobiernos que evalúen el impacto medioambiental directo e indirecto a lo largo del ciclo de vida del sistema de IA. Esto incluye su huella de carbono, el consumo de energía y el impacto ambiental de la extracción de materias primas para apoyar la fabricación de tecnologías de IA. También pretende reducir el impacto medioambiental de los sistemas de IA y las infraestructuras de datos. Incentiva a los gobiernos a invertir en tecnología verde, y si hay un impacto negativo desproporcionado de los sistemas de IA en el medio ambiente, la Recomendación instruye que no se utilicen.
En Colombia se adoptó de forma temprana recomendaciones de ética en Inteligencia Artificial de la Unesco para la región
- Las recomendaciones de la organización sugieren la aplicación de principios éticos como: transparencia, explicación, privacidad, control humano de las decisiones, seguridad, responsabilidad, no discriminación e inclusión.
- En la pasada Conferencia General No. 41 de la UNESCO, el país ratificó su compromiso para liderar la implementación de las recomendaciones expedidas por la mencionada entidad.
Colombia se convirtió en uno de los países pioneros en la región en contar con un marco ético para la Inteligencia Artificial al acoger de manera temprana las recomendaciones de ética para el sector público y privado en materia de Inteligencia Artificial (IA), presentadas por la Organización de las Naciones Unidas para la Educación (Unesco) este miércoles en Bogotá.
En noviembre de 2021 en la Conferencia 41 de la Unesco, Colombia formó parte de los países denominados como ‘Early Adopters’, de la recién expedida Recomendación para la IA, lo que ha permitido que se desarrolle un trabajo técnico para el inicio de la inclusión de la Recomendación.
De otro lado, el Gobierno manifestó que se está trabajando en la propuesta de establecer un Comité de Seguimiento de Implementación de la Recomendación sobre la Ética de la IA en Colombia, para afianzar los compromisos adquiridos y seguir construyendo un uso responsable y ético de la IA en el sector público.
En conclusión y después de esta rápida revisión sobre la Inteligencia Artificial y la ética se puede deducir que hay muchos desafíos éticos: como son entre otros, la falta de transparencia de las herramientas y de conocimiento para las personas del común de la IA, las decisiones y los resultados de la IA no siempre son inteligibles para los humanos, la IA no es neutral pues las decisiones basadas en la IA son susceptibles de inexactitudes, resultados discriminatorios, sesgos que pueden ser amañados, por lo tanto es imprescindible inculcar la responsabilidad, los valores y al ética en todos los eslabones de los procesos de la Inteligencia artificial pues detrás de cada uno hay seres humanos que la proveen y alimentan con datos e información, también en el sector salud en ocasiones se encuentran susceptibilidades pues se puede encontrar agravios a la autonomía del paciente; la inexperiencia, la falta de sensibilidad; los problemas relativos al derecho a la información; la negligencia y el error al realizar los procesos que tienen que ver con la Inteligencia Artificial.
Pero también existen oportunidades de mejora en el sistema de salud gracias a la Inteligencia Artificial pues además de la automatización de tareas, ayuda con la planificación, el diagnóstico y el pronóstico de los pacientes, logrando que la atención en salud sea más eficiente, pues no solo reduce costos, sino que también permite el análisis remoto de resultados, lo que redunda en una mejor distribución de los servicios de la atención en salud. La telemedicina permite a los pacientes ponerse en contacto con los proveedores de atención médica de forma virtual y ofrece una alternativa para las visitas presenciales. Al servir como la puerta de entrada de la medicina, ofrece una alternativa para los entornos de atención de alto costo o para los pacientes que tienen que hacer viajes muy largos para llegar a los centros de salud. El uso de las capacidades de la IA en un entorno de telemedicina ayuda a reducir la carga en el personal clínico, lo que tiene un alto impacto en una mayor dedicación al cuidado de los pacientes.
Por lo tanto son numerosos los beneficios en que la IA puede privilegiar la salud, tanto a las instituciones, como los procesos, al personal de salud, los pacientes, la familia y a la comunidad.
BIBLIOGRAFIA
https://dialnet.unirioja.es/descarga/articulo/7154291.pdf ISSN: 2477-8818 Vol. 5, núm. 3, julio 2019, pp. 603-613
https://es.unesco.org/artificial-intelligence/ethics
https://www.caf.com/es/ . caf.com / conocimiento / visiones / ¿cómo puede la inteligencia artificial mejorar la salud de los latinoamericanos?.