La inteligencia artificial inquieta a la ONU

Esta moratoria se debería aplicar en principio para aquellas tecnologías de IA potencialmente discriminatorias o que amenacen nuestros derechos, señaló Bachelet ante el Consejo de Derechos Humanos de Naciones Unidas, que se reúne estos días en Ginebra.

"No podemos seguir reaccionando tardíamente a los efectos de la inteligencia artificial, ni permitir que se use de manera ilimitada, sin fronteras ni supervisión, para enfrentarnos luego a sus casi inevitables consecuencias sobre los derechos humanos", afirmó la alta comisionada.

“La inteligencia artificial puede ser una fuerza para el bien, que ayude a las sociedades a superar algunos de los mayores retos de nuestro tiempo. Pero (…) también puede tener efectos nocivos e incluso catastróficos, cuando se emplea sin prestar la debida atención a su capacidad de vulnerar los derechos humanos”, declaró Michelle Bachelet con motivo de la publicación del informe.

“Cuanto mayor sea el riesgo para los derechos humanos, más estrictos deben ser los requisitos legales para el uso de la inteligencia artificial, añadió la Alta Comisionada, quién observó que “dado que la evaluación de los peligros y cómo superarlos puede llevar todavía algún tiempo, los Estados deberían implementar desde ahora moratorias sobre el uso de las tecnologías que presentan un alto potencial de riesgo”. 

Bachelet hizo este llamamiento antes de la presentación ante el mismo Consejo de un informe documentando las amenazas que plantea la IA, tecnología que se define como aquélla en la que la máquina puede aprender por si misma.

El informe ha estudiado el comportamiento de la IA en sistemas de elaboración automática de perfiles, toma de decisiones y otros usos, que, según concluye, pueden vulnerar el derecho a la intimidad y otros relativos a la salud, la educación, la libertad de movimiento o a la libre expresión.

El informe hace una serie de recomendaciones dirigidas a los Estados, entre ellas:

• Reconocer plenamente la necesidad de proteger y reforzar todos los derechos humanos en el desarrollo, el uso y la gobernanza de la inteligencia artificial como objetivo central, y garantizar el mismo respeto y aplicación de todos los derechos humanos en línea y fuera de ella

• Garantizar que el uso de la inteligencia artificial cumple con todos los derechos humanos y que cualquier interferencia con el derecho a la privacidad y otros derechos humanos está prevista por la ley, persigue un objetivo legítimo, cumple con los principios de necesidad y proporcionalidad y no perjudica la esencia de los derechos en cuestión

• Prohibir expresamente las aplicaciones de inteligencia artificial que no puedan funcionar de conformidad con el derecho internacional de los derechos humanos e imponer moratorias a la venta y el uso de sistemas que entrañen un alto riesgo para el disfrute de los derechos humanos, a menos y hasta que se establezcan salvaguardias adecuadas para proteger los derechos humanos

• Imponer una moratoria sobre el uso de tecnologías de reconocimiento biométrico a distancia en espacios públicos, al menos hasta que las autoridades responsables puedan demostrar que se cumplen las normas de protección de la intimidad y de los datos, y la ausencia de problemas significativos de exactitud y de efectos discriminatorios

• Adoptar y aplicar efectivamente, a través de autoridades independientes e imparciales, una legislación sobre la privacidad de los datos para los sectores público y privado como requisito previo esencial para la protección del derecho a la privacidad en el contexto de la inteligencia artificial

• Garantizar que las víctimas de violaciones y abusos de los derechos humanos relacionados con el uso de sistemas de inteligencia artificial tengan acceso a recursos efectivo

¿Que es la inteligencia artificial?

En términos sencillos, inteligencia artificial (IA) se refiere a los sistemas o las máquinas programadas por hombres y con algoritmos matemáticos que imitan la inteligencia humana para realizar tareas y que tienen la capacidad de mejorar iteractivamente a partir de la información que recopilan.

En la actualidad, la inteligencia artificial esta revolucionando todos los sectores desde el mundo empresarial, el ámbito social, con aplicaciones que van desde la rápida detección del cáncer hasta la lucha contra la deforestación del Amazonas.

¿Cuáles son las categorías de la inteligencia artificial?

Stuart Russell y Peter Norvig, en su libro Inteligencia ‘Artificial: Un Enfoque Moderno’, diferencian cuatro tipos de inteligencia artificial.

- Sistemas que piensan como humanos: son los sistemas que tratan de emular el pensamiento humano como la toma de decisión, resolución de problemas y aprendizaje.

- Sistemas que actúan como humanos: estos tratan de actuar como humanos. Es decir, imitan el comportamiento humano. Un ejemplo de este sistema es la robótica.

- Sistemas que piensan racionalmente: tratan de imitar el pensamiento lógico racional del ser humano; por ejemplo el estudio de los cálculos que hacen posible percibir, razonar y actuar.

- Sistemas que actúan racionalmente: este sistema trata de emular de forma racional el comportamiento humano. Está relacionado con conductas inteligentes en artefactos.

El BID y organismos internacionales promueven la cooperación en inteligencia artificial.

El Banco Interamericano de Desarrollo, junto a siete organizaciones internacionales unen sus fuerzas para lanzar un nuevo portal que promueve la cooperación mundial en materia de inteligencia artificial (IA). El portal es una ventanilla única de datos, resultados de investigación y buenas prácticas en materia de política de IA.

El objetivo del portal es ayudar a los formuladores de políticas y al público en general a navegar por el panorama de la gobernanza internacional de la IA. Proporciona acceso a las herramientas e información necesarias, como proyectos, investigaciones e informes para promover una IA fiable y responsable que esté en consonancia con los derechos humanos a nivel mundial, nacional y local.

Entre los principales socios de este esfuerzo conjunto se encuentran el Consejo de Europa, la Comisión Europea, la Agencia de los Derechos Fundamentales de la Unión Europea, la Organización para la Cooperación y el Desarrollo Económico (OCDE), las Naciones Unidas (ONU), la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) y el Grupo del Banco Mundial.

Acceda al sitio web:https://globalpolicy.ai