OpenAI presenta su detector de imágenes de IA. OpenAI, la compañía detrás de innovaciones como ChatGPT y DALL-E, ha dado un paso importante en la lucha contra las imágenes falsas generadas por la IA.
Recientemente anunciaron su herramienta de detección de deepfakes, diseñada para identificar imágenes creadas por su propio generador de imágenes, DALL-E.
Esta herramienta tiene una precisión asombrosa del 98,8% al momento de confirmar si una imagen es un deepfake o no.
Prueba ahora 1 semana gratis Contents.com, la mejor Inteligencia ArtificialDeepfakes: ¿Qué son y por qué son un problema?
Los Deepfakes son vídeos o audios manipulados mediante inteligencia artificial para hacer que parezca que una persona dice o hace algo que nunca dijo o hizo.
La tecnología utilizada para crear Deepfakes se llama «aprendizaje profundo» y funciona analizando una gran cantidad de datos de imagen o audio de una persona para crear un modelo de su rostro, voz y expresiones.
Este modelo luego se puede usar para superponer la cara o la voz de la persona en un video o audio existente, creando la ilusión de que está diciendo o haciendo algo que realmente no hizo.
Los Deepfakes son un problema por varias razones, aquí un par de ellas:
- Al poder hacer que parezca que alguien dice o hace algo que nunca dijo o hizo, los Deepfakes se pueden usar para crear noticias falsas, propaganda o para dañar la reputación de alguien.
- También pueden usarse para cometer fraudes, por ejemplo, un Deepfake podría hacer que una persona parezca que un CEO de una empresa autoriza una transferencia bancaria fraudulenta.
De modo que si no podemos estar seguros de si un vídeo o audio es real, se vuelve más difícil confiar en la información que consumimos.
¿Qué es real y qué es creado por la IA?
Desde la llegada de ChatGPT en noviembre de 2022, la inteligencia artificial se ha convertido en una presencia habitual en nuestro día a día.
Cada vez son más los usuarios que emplean esta tecnología y otras herramientas similares para crear imágenes, vídeos y textos. Sin embargo, esta proliferación de contenido ha dado lugar a un nuevo reto: distinguir entre lo real y lo artificial, lo que genera confusión entre los usuarios.
Para abordar esta problemática, plataformas como TikTok y YouTube han implementado etiquetas específicas para identificar el contenido generado por IA.
Siguiendo esta misma línea, OpenAI, la empresa desarrolladora de ChatGPT, ha dado un paso más allá al crear una tecnología que permite a los usuarios detectar con facilidad si un contenido ha sido creado por sus propias herramientas de IA.
¿Cómo funciona esta tecnología?
La herramienta de OpenAI se basa en una red neuronal entrenada con un conjunto de datos masivo de imágenes, vídeos y textos creados tanto por humanos como por la inteligencia artificial.
Al analizar un contenido, la red neuronal identifica patrones y características distintivas de cada tipo de origen, permitiendo así determinar con precisión si ha sido generado por IA o no.
La tecnología de OpenAI tiene el potencial de revolucionar la forma en que consumimos información online. Al permitirnos identificar rápidamente el contenido generado por IA, podemos:
- Combatir la desinformación y las noticias falsas.
- Proteger la propiedad intelectual y evitar la falsificación de productos.
- Promover la transparencia y la confianza en el mundo digital.
¿Es esta la solución definitiva?
Si bien la tecnología de OpenAI es un avance significativo, es importante recordar que la IA está en constante evolución. Es posible que, en el futuro, las herramientas de IA se vuelvan tan sofisticadas que incluso esta tecnología no pueda diferenciar con total precisión entre lo real y lo artificial.
Ante este panorama, es fundamental que como usuarios adoptemos una actitud crítica y responsable al consumir información en internet.
El 7 de mayo de 2024, la cantante Katy Perry causó un revuelo en las redes sociales al publicar dos fotos en su cuenta de Instagram en las que aparecía en la Met Gala. Sin embargo, rápidamente se reveló que las fotos eran falsas, creadas mediante tecnología de inteligencia artificial.
Las fotos mostraban a Perry con dos vestidos diferentes: uno floral y otro dorado con forma de armadura. Ambas imágenes estaban etiquetadas como tomadas en la Met Gala, lo que generó gran confusión entre sus seguidores.
No obstante, varios usuarios detectaron inconsistencias en las fotos, como fondos borrosos o poco realistas y una iluminación que no coincidía con las fotos reales del evento.
La propia Perry confirmó más tarde que las fotos eran falsas, bromeando con que incluso su madre había sido engañada.
Pocos días después, en una publicación reciente en su blog oficial, la compañía fundada por Sam Altman anunció una herramienta revolucionaria: un detector de imágenes que identifica si una imagen fue creada por el generador de imágenes DALL-E.
Además, también presentaron nuevos métodos de marcas de agua resistentes a manipulaciones.
¿Realmente funciona esta tecnología?
Según OpenAI, las pruebas internas han demostrado una alta precisión del clasificador.
- Identifica correctamente el 98% de las imágenes creadas por DALL-E 3.
- Menos del 0,5% de las imágenes reales son etiquetadas incorrectamente como generadas por DALL-E 3.
Conscientes del potencial de esta herramienta, OpenAI está abriendo solicitudes para que un grupo selecto de evaluadores pueda acceder al «Clasificador de Detección».
Este grupo inicial estará compuesto por laboratorios de investigación y organizaciones sin fines de lucro de periodismo, enfocadas en la investigación de la desinformación y la verificación de hechos.
Un avance para la transparencia y la autenticidad
Esta nueva herramienta representa un avance significativo en la lucha contra la manipulación de imágenes y la proliferación de contenido falso en la red.
Pese a ello, OpenAI reconoce que la tecnología de IA aún está en desarrollo y que el «Clasificador de Detección» no es perfecto. Por eso, la empresa se ha comprometido a continuar mejorando la herramienta y a trabajar con la comunidad de investigación para abordar los desafíos de la detección de imágenes generadas por IA.
¿Qué ventajas tienen las marcas de agua resistentes a manipulaciones?
Las marcas de agua desarrolladas por OpenAI, ofrecen diversas ventajas para proteger la autenticidad del contenido digital:
- Serán únicas e inalterables protegen las obras digitales de robo, falsificación y uso no autorizado.
- Permiten verificar la fuente original del contenido y evitar la suplantación de identidad o la difusión de información falsa.
- Facilitan el seguimiento del uso del contenido digital, permitiendo identificar a los responsables de posibles infracciones.
- Al indicar claramente la fuente y la autenticidad del contenido, se genera confianza en los usuarios y consumidores.
- Los usuarios pueden estar seguros de que el contenido que están viendo o utilizando es original y confiable.
- Las marcas de agua pueden ayudar a las marcas y creadores de contenido a establecer una reputación de autenticidad y confiabilidad.
- Al integrar información codificada en la marca de agua, se pueden detectar intentos de alterar o falsificar el contenido.
- La presencia de marcas de agua visibles puede disuadir a los usuarios de intentar manipular o usar el contenido de manera no autorizada.
- Se pueden personalizar para incluir información específica, como logotipos, fechas o derechos de autor.
Aunque aún esté en fase de pruebas, la nueva herramienta de OpenAI es un recurso valioso que puede ayudar a proteger la autenticidad del contenido digital y promover un ecosistema digital más confiable y transparente.
Prueba ahora 1 semana gratis Contents.com, la mejor Inteligencia Artificial
Hola, mi nombre es Ester Roa.
De profesión soy Ingeniero agrónomo (mención zootecnia), egresada de la Universidad central de Venezuela y también soy Abogada.
Actualmente, me desempeño como Freelancer en la creación de contenidos webs de diferentes temáticas, con una experiencia de aproximadamente 10 años. Sin embargo, hace 4 años comencé a generar contenido informativo en el amplio “MUNDO de las CRIPTOMONEDAS” y hoy día estoy encantada de poder revelar las últimas noticias en relación a todo lo que tiene que ver con Criptodivisas, Monedas Virtuales o Digitales.
Además, soy Copywriter y creadora de contenido de marketing digital con experiencia comprobable. ¡El contenido es el rey en la industria del marketing en línea! Por eso, me apasiona ser “REDACTORA WEB”