Los eurodiputados quieren que los chatbots incluyan salvaguardas que les impidan generar contenido ilegal según la legislación de la UE.
Los miembros del Parlamento Europeo votaron abrumadoramente el jueves por la mañana para promover un proyecto de reglamento para garantizar el «desarrollo ético» de la Inteligencia Artificial (IA), una tecnología en rápida evolución que ha generado preocupaciones sobre la desinformación, la privacidad, la vigilancia, la discriminación, el plagio, la suplantación y incluso el futuro de la democracia.
Con las nuevas normas para toda la UE, los legisladores quieren garantizar que los sistemas de IA sean «supervisados por personas, seguros, transparentes, rastreables, no discriminatorios y respetuosos con el medio ambiente», dijo un presione soltar.
Los eurodiputados «también quieren tener una definición uniforme de IA diseñada para ser tecnológicamente neutral, de modo que pueda aplicarse a los sistemas de IA de hoy y de mañana».
La votación, que tuvo lugar en una sesión conjunta de las comisiones de mercado interior y libertades civiles, añadió nuevas disposiciones al texto original propuesto por la Comisión Europea, en particular nuevas obligaciones sobre los llamados modelos de base generativos, como ChatGPT, el chatbot desarrollado. por OpenAI que ha revolucionado la industria tecnológica desde su lanzamiento a fines de noviembre.
Los modelos básicos son aquellos entrenados con una gran cantidad de datos, como texto, imágenes, música, voz y código, con el objetivo de cumplir con un conjunto de tareas amplio y en constante cambio, en lugar de tener un propósito específico e inmodificable. Los chatbots como GPT de OpenAI y BERT de Google son algunos de los primeros ejemplos de esta tecnología, que se espera que evolucione aún más en los próximos años.
Si bien los inversionistas se han lanzado rápidamente a los chatbots, los críticos han denunciado su desarrollo sin control. dando la alarma sobre prejuicios, discursos de odio, noticias falsas, propaganda estatal, violaciones de propiedad intelectual, despidos laborales, ataques cibernéticos y la línea cada vez más borrosa entre lo humano y lo artificial.
Conscientes de las crecientes preocupaciones, los legisladores agregaron enmiendas para garantizar que los chatbots sean transparentes, no produzcan contenido ilegal según la legislación de la UE, cumplan con las normas de derechos de autor y respeten los derechos fundamentales como la libertad de expresión.
«Los modelos básicos generativos deberían garantizar la transparencia sobre el hecho de que el contenido es generado por un sistema de inteligencia artificial, no por humanos». el nuevo texto dice.
Los eurodiputados también presionaron para ampliar la lista de aplicaciones de IA «intrusivas y discriminatorias» que deberían prohibirse estrictamente en todo el territorio de la UE. La lista ampliada cubre la identificación biométrica en tiempo real en espacios públicos, los sistemas policiales predictivos y el reconocimiento de emociones en la aplicación de la ley y los lugares de trabajo.
Los sistemas de inteligencia artificial que tienen el poder de influir en los votantes en las campañas políticas no estarán prohibidos, pero se considerarán de alto riesgo y, por lo tanto, estarán sujetos a un escrutinio más detenido, dijeron los legisladores.
El mandato del jueves fue aprobado con 84 votos a favor, siete en contra y 12 abstenciones. Se presentaron más de 3.000 enmiendas antes de la sesión, lo que refleja el notable interés en la tecnología.
Sin embargo, la votación está lejos de ser definitiva: los eurodiputados aún deben aprobar su mandato de negociación en una sesión plenaria, que luego se utilizará para las discusiones con los estados miembros. Se espera que estas conversaciones, conocidas en el parlay de Bruselas como «trílogos», sean intensas y protegidas, dado lo que está en juego y las expectativas.
Este proceso dará como resultado un texto de compromiso, que luego será votado nuevamente por los colegisladores antes de que entre en vigor.
La Ley de Inteligencia Artificial fue propuesta por primera vez por la Comisión en abril de 2021, mucho antes de la explosión del mercado de los chatbots. La ley impone obligaciones y restricciones a las empresas de IA de acuerdo con el riesgo que sus productos presentan para la sociedad: riesgo mínimo, riesgo limitado, riesgo alto e inaceptable.
Los sistemas de alto riesgo deberán someterse a una evaluación de la conformidad, registrarse en una base de datos de la UE y llevar el marcado CE antes de comercializarse. Esto se reiniciará con cada actualización.
Los chatbots no se considerarán de alto riesgo, dijeron los legisladores, a pesar de las disposiciones reforzadas.
Según el texto modificado, las empresas que infrinjan las normas podrían enfrentarse a multas de hasta 40 millones de euros o el 7 % de su facturación anual mundial, lo que sea mayor.
El enfoque integral y centrado en el ser humano de la regulación de la UE se considera un paso pionero en el esfuerzo global para controlar los excesos de la IA, que muchos ven como la tecnología más disruptiva desde el advenimiento de la World Wide Web (WWW).
Esta historia ha sido actualizada para incluir más detalles sobre la votación.
