OpenAI ha presentado un detector de imágenes generadas por DALL-E, su popular IA, a un grupo selecto de investigadores para probar su eficacia en el mundo real. Esta herramienta es capaz de identificar el 98.8% de las imágenes creadas por DALL-E, aunque aún está en fase de pruebas y busca mejorar su precisión.
La creciente preocupación por la desinformación impulsada por la inteligencia artificial ha llevado a la industria tecnológica a desarrollar herramientas de detección. En un contexto de múltiples procesos electorales, particularmente vulnerables a la desinformación, se están tomando medidas proactivas.
OpenAI comparte su detector con investigadores enfocados en la desinformación para afinar el sistema, que actualmente solo reconoce contenido generado por su propia tecnología, no siendo compatible con herramientas como Midjourney o Stability.
Otras iniciativas incluyen la de Adobe y Microsoft, que buscan crear una marca universal para identificar imágenes artificiales a través de metadatos. OpenAI también planea incorporar las credenciales digitales de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA) en las imágenes de DALL-E este año.
Aunque ha tenido desafíos con detectores de texto generados por ChatGPT, la compañía continúa desarrollando soluciones para otras formas de contenido. Además, limita el uso de sus herramientas para prevenir la difusión de imágenes falsas de personas reales, aunque algunos usuarios han encontrado maneras de eludir estos bloqueos.
Este esfuerzo conjunto de las principales empresas tecnológicas refleja la urgencia de abordar la desinformación generada por IA, ofreciendo herramientas innovadoras y colaborando con expertos para garantizar su efectividad y precisión.
© El Español, mayo 2024
