En un comunicado publicado este viernes, una quincena de relatores y especialistas de la ONU* señalaron que las nuevas tecnologías, incluidos los sistemas de vigilancia biométrica basados en inteligencia artificial, se utilizan cada vez más «en contextos sensibles», sin el conocimiento o consentimiento de la persona.
Las líneas rojas deben trazarse con urgencia
«Se necesitan líneas rojas regulatorias estrictas y urgentes para las tecnologías que pretenden realizar reconocimiento de emociones o de género», dijeron los expertos**, entre ellos Fionnuala Ní Aoláin, Relatora Especial sobre la promoción y protección de los derechos humanos en la lucha contra el terrorismo.
Los expertos, designados por el Consejo de Derechos Humanos, condenaron la ya «alarmante» uso de software espía y tecnologías de pirateríavigilancia con defensores de los derechos humanos y periodistas, «a menudo con el pretexto de tomar medidas de seguridad nacional y antiterroristas».
También pidieron una normativa para hacer frente al vertiginoso desarrollo de la inteligencia artificial generativa, que permite la producción masiva de contenido falso en líneapromover la desinformación y el discurso de odio.
Consecuencias en el mundo real
Los expertos destacaron la necesidad de garantizar que estos sistemas no expongan más a las personas y comunidades a violaciones de los derechos fundamentales; específicamente, a través de la expansión y el abuso de prácticas de vigilancia que violar el derecho a la privacidad ¿y? facilitar la comisión de violaciones gravesincluidas las desapariciones forzadas y la discriminación.
También expresaron su preocupación por el respeto a la libertad de expresión, pensamiento y manifestación pacífica, y por el acceso a los derechos económicos, sociales y culturales esenciales, así como a los servicios humanitarios.
«Las tecnologías y aplicaciones específicas en las que no es posible regular las denuncias de derechos humanos deben evitarse por completo», dijeron los expertos.
También expresaron su preocupación de que el desarrollo de la inteligencia artificial generativa es impulsado por un pequeño grupo de jugadores poderososincluidas empresas e inversores, sin los requisitos adecuados para llevar a cabo la debida diligencia en materia de derechos humanos o consultar a las personas y comunidades afectadas.
Además, los expertos señalaron que la crucial labor de regulación interna, a través de la moderación de contenidos, suele ser realizada por particulares en situación de explotación laboral.
más transparencia
«Urge regulación que asegure la transparencia, alerte a las personas cuando se encuentren con medios sintéticos (formatos o contenidos digitales creados o modificados por inteligencia artificial), e informe al público sobre los datos de entrenamiento y los modelos utilizados”, señalaron los expertos.
También reiteraron sus llamados a la precaución en el uso de la tecnología digital en el contexto de crisis humanitariasdesde la recopilación de datos a gran escala, incluida la recopilación de datos biométricos altamente confidenciales, hasta el uso de tecnologías avanzadas de vigilancia selectiva.
«Instamos a la moderación en el uso de tales medidas hasta que las implicaciones se entiendan completamente para los derechos humanos y se implementan fuertes salvaguardas de protección de datos», dijeron.
Cifrado y privacidad, primordial
Hicieron hincapié en la necesidad de garantizar soluciones técnicasincluyendo un fuerte cifrado de extremo a extremo y acceso sin restricciones a redes privadas virtuales, y asegurar y proteger las comunicaciones digitales.
“Tanto la industria como los Estados deben rendir cuentas, entre otras cosas, por su impacto económico, social, ambiental y de derechos humanos”, dijeron. «La próxima generación de tecnologías no debe reproducir ni reforzar los sistemas de exclusión, discriminación y patrones de opresión».
*Los relatores especiales forman parte de lo que se conoce como Procedimientos Especiales del Consejo de Derechos Humanos.Procedimientos Especiales, el organismo más grande de expertos independientes en el sistema de derechos humanos de la ONU, es el nombre general de los mecanismos independientes de investigación y monitoreo del Consejo que abordan situaciones de países específicos o problemas temáticos en todas partes del mundo. . Los expertos en Procedimientos Especiales trabajan de forma voluntaria; no son personal de la ONU y no reciben un salario por su trabajo. Son independientes de cualquier gobierno u organización y prestan sus servicios a título individual.
**Los expertos: Fionnuala Ní Aoláin, relator especial sobre la lucha contra el terrorismo y los derechos humanos; Irene Kan, relator especial sobre libertad de opinión y expresión; Aua Baldé (presidenta-ponente), Gabriella Citroni (vicepresidenta), Angkhana Neelapaijit, Grażyna Baranowska, Ana Lorena Delgadillo Pérez, Grupo de Trabajo sobre Desapariciones Forzadas o Involuntarias; Ana Brian Nougreres, relator especial sobre el derecho a la privacidad; María Lawlor, relator especial sobre defensores de derechos humanos; Clemente Nyaletsossi Voule, relator especial sobre los derechos a la libertad de reunión pacífica y de asociación; Pichamon Yeophantong (presidente), Damilola Olawuyi (vicepresidente), Fernanda Hopenhaym, Elżbieta Karska y Robert McCorquodale, Grupo de Trabajo sobre Empresas y Derechos Humanos; y Ashwini KP, relator especial racismo y discriminación racial.
