optic combate la desinformación visual con su app 'AI or not'

‘Ai or not’ de optic corrobora la veracidad de las imágenes

Optic es una empresa de inteligencia artificial que combate la desinformación difundida por imágenes generadas por IA a través de su herramienta web ‘AI or Not’. Su motor escanea imágenes en una fracción de segundo respondiendo a los usuarios si la imagen ha sido generada por inteligencia artificial o por un humano. La herramienta web planea contribuir con la identificación de contenido engañoso provocado por el uso de generadores de imágenes de IA como Midjourney, Stable Diffusion, DALL-E y GAN. Optic afirma que los resultados arrojados por ‘AI or Not’ tienen una precisión del 95%, porcentaje que ha logrado alcanzar mediante sus ‘propios algoritmos de última generación diseñados para proporcionar resultados altamente precisos’.

De las posibles preocupaciones que podrían surgir con el uso de esta herramienta, se encuentran cuestiones de privacidad que podrían verse afectadas en el momento en que los usuarios suben imágenes para que estas sean comprobadas por la aplicación. Optic afirma que todas las imágenes subidas y las URL introducidas no serán almacenadas en sus servidores ‘más tiempo del necesario para el análisis, y nos adherimos a las mejores prácticas del sector y a la normativa pertinente sobre protección de datos’. La empresa insinúa con esto que el equipo sí almacena información, pero reitera que sólo con fines de análisis. Este proceso puede ayudar a los desarrolladores de ‘AI or Not’ a perfeccionar los algoritmos avanzados que presumen y las técnicas de aprendizaje automático para el análisis de imágenes y la detección de indicios de generación de inteligencia artificial.

imágenes cortesía de Optic ‘AI or Not’ (a menos que se indique lo contrario)

‘AI or Not’ de optic ayuda a combatir la desinformación visual

En marzo de 2023, designboom escribió un artículo sobre una serie de imágenes trucadas que se hicieron virales al circular por las redes sociales donde se podía ver al Papa portando una chaqueta acolchada y a Donald Trump siendo agresivamente arrestado. Aunque ya se ha descartado que estas imágenes hayan sido generadas por IA, los usuarios de las redes sociales podrían haberse sentido inducidos a pensar que eran reales (la modelo y personalidad de televisión Chrissy Teigen compartió una de las imágenes en su cuenta de Twitter pero la borró al darse cuenta de que esta era falsa).

Que los internautas piquen el anzuelo de las imágenes generadas por la IA — sobre todo si las imágenes en cuestión se acercan a temas resonantes como la política, el entretenimiento y la cultura –, es una gran posibilidad. Herramientas web como ‘AI or Not‘ de Optic podrían evitar la difusión de la desinformación visual, ya que usa sistemas de comparación de la imagen de entrada entre patrones y características conocidos de varios modelos de IA y una base de imágenes creadas por humanos para determinar el origen del contenido. Los usuarios también pueden mandar informes a Optic si su resultado es verdadero o falso, contribuyendo a la potencialización de su sistema de comprobación.

Hasta ahora, ‘AI or Not’ sólo puede detectar si la imagen ha sido generada por inteligencia artificial. En nuestra reciente cobertura sobre las baterías del deportivo eléctrico Nyobolt, pasamos una imagen renderizada del automóvil por ‘AI or Not’. La herramienta web detectó que la imagen había sido generada por un humano. Aunque todavía no queda claro si Optic incluirá o no la detección de imágenes renderizadas en su software, la empresa se ha sumado a la premisa de verificar la veracidad por lo menos en lo que respecta a la creación de fotografías.

la imagen que probamos es de Mateo Fernández (lee el artículo completo aquí)