ONU alerta sobre peligros de la IA y pide moratoria en su venta y uso

ONU alerta sobre peligros de la IA y pide moratoria en su venta y uso - Inteligencia Artificial AI IA Computadoras programación
Inteligencia Artificial. Foto: Unsplash. (Archivo)

No podemos seguir reaccionando tardíamente a los efectos de la IA, ni permitir que se use de manera ilimitada, ni supervisión: Bachelet

Algunos sistemas que utilizan la inteligencia artificial (IA) podrían ser discriminatorios o amenazar algunas libertades, advirtió la alta comisionada de la ONU para los derechos humanos, Michelle Bachelet, quien pidió una moratoria en la venta y uso de los que amenazan más gravemente las libertades.

En una intervención ante el Consejo de Derechos Humanos de la ONU, donde este miércoles también se presenta un informe sobre el impacto de estas nuevas tecnologías en las libertades fundamentales, Bachelet pidió frenar la utilización de algunas de ellas “hasta que se hayan puesto en vigor las salvaguardas adecuadas”.

“No podemos seguir reaccionando tardíamente a los efectos de la IA, ni permitir que se use de manera ilimitada, sin fronteras ni supervisión, para enfrentarnos luego a sus casi inevitables consecuencias sobre los derechos humanos”, afirmó la alta comisionada.

Te puede interesar: Mexicanos crean inteligencia artificial para detectar retinopatía diabética

El informe ha estudiado el uso de la IA en sistemas de elaboración automática de perfiles, toma de decisiones y otras tecnologías de aprendizaje para las máquinas, que, según concluye, pueden vulnerar el derecho a la intimidad y otros relativos a la salud, la educación, la libertad de movimiento o la de expresión.

Según el documento, ya ha habido casos en que algunas personas han sido “injustamente tratadas” por el uso de Inteligencia Artificial, por ejemplo negándoles prestaciones del seguro social o siendo detenidas como consecuencia de errores en los sistemas de reconocimiento facial (muy desarrollados y ya ampliamente usados en China).

“Los datos que alimentan y orientan a los sistemas de IA pueden ser deficientes, discriminatorios, obsoletos o poco pertinentes”, concluye el documento, que señala que estas bases sesgadas “pueden conducir a la adopción de decisiones discriminatorias, un riesgo aún mayor en grupos que ya se encuentran marginados”.

La expresidenta chilena recordó que “la inteligencia artificial llega ahora a casi todos los rincones de nuestras vidas” y puede decidir “quién recibe servicios públicos, o quién tiene oportunidad de obtener un empleo”.

El informe presentado hoy ante el Consejo de Derechos Humanos reclama además a las empresas y Estados que desarrollan esta tecnología que aumenten la transparencia en esta investigación.

inteligencia artificialmichelle bacheletonu
Menú de accesibilidad