La irrupción en redes sociales de imágenes creadas por inteligencia artificial supone un nuevo reto para los usuarios a la hora de identificar la veracidad de las mismos. Es por eso que Instagram anunció en las últimas horas que pondrá en marcha un mecanismo que avisará cuando un contenido fue desarrollado por alguna de las herramientas que utilizan IA.

Recientemente, las imágenes creadas por la herramienta Midjourney donde se puede ver al Papa Francisco utilizando un extravagante abrigo de la marca Balenciaga o las fotos de un falso arresto de Donald Trump abrieron interrogantes respecto a las dificultades de los lectores o usuarios para comprobar la veracidad de los contenidos que observan en redes.

La circulación de imágenes falsas altamente realistas creadas por Inteligencia Artificial supone un peligro mayor al que hasta se ha evidenciado respecto a la posibilidad de agigantar las olas de desinformación de las que hoy en día son víctimas quienes utilizan las plataformas.

Es por eso que la red social Instagram, propiedad de Meta, anunció que implementará una serie de recursos para identificar estos casos y evitar que los usuarios sean víctimas de fake news o de imágenes alteradas por IA.

Para ello, la compañía informó que aquellas publicaciones que contengan esta característica verán un filtro sobre la imagen con el siguiente mensaje: “Foto alterada. Verificadores de datos independientes ya revisaron la misma foto alterada en otra publicación.”

En ese sentido, desde la empresa señalaron que actualmente “si los verificadores de información externos detectan información falsa, contenido alterado o contenido al que le falta contexto en Instagram, hacemos que sea más difícil de encontrar”.

Pero además, la empresa cuenta con un sistema de etiquetas que se utilizan para identificar casos de información falsa. Al verse ante dicha etiqueta, el usuario puede decidir si desea exponerse o no al contenido, y optar o no por compartirlo.

Entre los métodos usados se encuentra la reducción de la efectividad de los hashtags, además de evitar que aparezcan en la sección Explorar e historias.

Más cambios en Meta
Meta, propietaria de Facebook, publicó el miércoles un modelo de inteligencia artificial capaz de identificar objetos individuales dentro de una imagen, a la par de un conjunto de datos de anotaciones de imágenes que, en su opinión, es el mayor de su clase.

La división de investigación de la empresa afirma en una entrada de su blog que su modelo Segment Anything Model, o SAM, puede identificar objetos en imágenes y vídeos incluso en casos en los que no los ha encontrado durante su entrenamiento.

Con el SAM, los objetos pueden seleccionarse al pulsar sobre ellos o al escribir indicaciones de texto. En una demostración, al escribir la palabra "gato", la herramienta dibujó recuadros alrededor de cada uno de los gatos de una foto.

Las grandes empresas tecnológicas llevan anunciando a bombo y platillo sus avances en inteligencia artificial desde que el chatbot ChatGPT de OpenAI, respaldado por Microsoft , causó sensación en otoño, y desencadenó una oleada de inversiones y una carrera por dominar el sector.

Meta anunció varias funciones que implementan el tipo de IA generativa popularizada por ChatGPT, que crea contenido totalmente nuevo en lugar de limitarse a identificar o categorizar datos como otras IA, aunque todavía no ha lanzado ningún producto.

Algunos ejemplos son una herramienta que crea vídeos surrealistas a partir de mensajes de texto y otra que genera ilustraciones de libros infantiles a partir de prosa.

El CEO Mark Zuckerberg dijo que la incorporación de estas "ayudas creativas" de IA generativa a las aplicaciones de Meta es una prioridad este año.

Meta ya utiliza internamente una tecnología similar al SAM para actividades como etiquetar fotos, moderar contenidos prohibidos y determinar qué publicaciones recomendar a los usuarios de Facebook e Instagram. La empresa afirma que el lanzamiento del SAM ampliará el acceso a ese tipo de tecnología.

El modelo y el conjunto de datos del SAM podrán descargarse con una licencia no comercial. Los usuarios que suban sus propias imágenes a un prototipo adjunto también deberán comprometerse a utilizarlas únicamente con fines de investigación.

FUENTE: Ámbito.