Los recuerdos, la fotografía y la inteligencia artificial

El gran avance en las capacidades de los inteligencia artificial crear, editar y mejorar imágenes fotográficas presenta desafíos significativos con implicaciones para el confidencialidad, seguridad y confiabilidad.

Los recuerdos son importantes. EL Las fotografías son una de las formas más apropiadas para ayudarnos a recordarcon la capacidad de capturar momentos y experiencias visuales con detalles vívidos.

Como el perfume y la música, tú mueve lugares, personas, eventos y emociones; impreso o almacenado en la memoria de nuestros dispositivos móviles.

¿Cuánto poder tendría en nuestras vidas una IA diseñada para crear y editar fotos? Además del poder de implantar recuerdos de situaciones que nunca sucedieron: modificando hechos vividos, esos momentos reales que los humanos atesoramos en un La fotografia.

No se trata solo de generar imágenes falsas para encauzar el presente, sino la posibilidad de editar lenta y sutilmente el pasado, nuestros recuerdos y nuestra historia?

Avances recientes publicados por Google, El 10 de mayo, en su último Keynote, Google i/O, el gigante de la IA, presentó impresionantes actualizaciones de su aplicación Google Photo, impulsada por nuevas funciones de IA.

¿Crear falsos recuerdos?

«búsqueda de fotos» permite búsquedas mejoradas mediante la identificación de personas, objetos o lugares. «borrador magico» nos permite eliminar fácilmente aquellos objetos que distraen (o, a veces, personas) que «estropean» nuestras fotos.

Eventualmente, «editor mágico«nos permite mejorarlas cambiando colores, iluminación y otras características. Se ha convertido en una aplicación muy poderosa, que incluso brinda geoetiquetado de fotos, coordinando las rutas de mapas de Google.

Paradójicamente, estas funciones avanzadas podrían causar un retroceso en su desarrollo. Puede llegar un momento en que la proliferación de fotos creadas y editadas supere a las «reales» tomadas por cámaras, cambiando los conjuntos de datos utilizados para entrenar modelos de IA.

Después de consultar bardo google sobre esto, respondió: «Es posible que este punto de inflexión se alcance en los próximos años».

las fotos cleer o editar con IA Pueden afectar a los propios modelos entrenados de varias maneras:

• sobreajuste: si los generados por AI contienen características o patrones que no se encuentran en las imágenes reales del conjunto de entrenamiento, el modelo de AI puede sobreajustar estas características y ser menos preciso al producir nuevas imágenes.
• Sesgos y prejuicios: si contienen sesgos, como una representación desigual de ciertos grupos de personas, esto puede hacer que el modelo de IA aprenda y reproduzca esos sesgos en sus predicciones.
• Noticias falsas y propaganda: pueden diseñarse para engañar al modelo de IA para que tome decisiones equivocadas.
• Imprecisión en los pronósticos: Las imágenes generadas por IA pueden ser menos precisas e informativas, lo que da como resultado que los modelos hagan predicciones inexactas.

Google Advirtió que estaba trabajando en el desarrollo de herramientas que ayuden a los usuarios a identificar imágenes generadas o editadas por inteligencia artificial.

• Y uno de ellos es el uso de metadatos que proporcionarán la siguiente información:
• El nombre del modelo de IA que se utilizó para crear la imagen.
• La fecha y hora en que se creó la imagen.
• La configuración que se utilizó para crear la imagen.
• Una declaración de que la imagen es generada o modificada por inteligencia artificial.

intenciones contradictorias

En conclusión, acompañar imágenes fotográficas, generadas o editadas con IA, con metadatos es una acción responsable Google.

El resto de las empresas tecnológicas seguramente se retirarán. La intención de permitir que el usuario retenga cierto control es noble, pero la proliferación de modelos cerrados o incluso abiertos puede dificultar la tarea.

Obviamente, continuaremos viendo este esfuerzo en los próximos meses. La historia dirá cuándo se ha logrado.

*Daniel José Feijo es Director de Ingeniería Informática de la UADE