Meta anuncia etiquetado de imágenes generadas por IA en Facebook e Instagram
Meta toma acciones sobre la IA. | Meta
Meta, el gigante tecnológico detrás de Facebook, Instagram y Threads, ha revelado planes para comenzar a etiquetar imágenes creadas con inteligencia artificial (IA) en sus plataformas en los próximos meses, según un comunicado emitido por el presidente de Asuntos Globales de la empresa, Nick Clegg.
En un esfuerzo por establecer estándares técnicos comunes, Meta está colaborando con otras empresas de la industria para identificar contenido generado por IA, incluyendo videos y audios. Clegg destacó que están desarrollando herramientas de vanguardia que pueden detectar marcadores invisibles, lo que les permitirá etiquetar imágenes creadas con tecnologías de Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock.
Los usuarios también podrán utilizar la IA de Meta para generar imágenes fotorrealistas a partir de texto. Sin embargo, la empresa enfatiza que la IA ha participado en algún proceso de la creación de la imagen, dejando marcadores visibles y marcas de agua invisibles incrustadas en los archivos de imagen.
Desafíos y controversias en el mundo de la IA
El anuncio de Meta llega en medio de crecientes preocupaciones sobre la proliferación de contenido manipulado, como los deepfakes, que utilizan la IA para crear videos falsos que pueden ser difíciles de detectar como fraudulentos. Recientemente, la Junta de Supervisión de Meta apoyó la permanencia en sus redes de un video manipulado del presidente de Estados Unidos, Joe Biden, destacando la complejidad y controversia en torno a la regulación de este tipo de contenido.
Aunque la junta reconoció que el video en cuestión no violaba las políticas existentes de Meta sobre medios manipulados, señaló la necesidad de una revisión urgente de estas políticas, especialmente dada la proximidad de las elecciones en 2024 y la potencial influencia de contenido manipulado en los procesos democráticos.
Un futuro regulado para la IA
Con la creciente popularidad de la IA generativa y los deepfakes, es evidente la necesidad de una regulación más estricta y medidas de seguridad para proteger a los usuarios de la desinformación y el engaño en línea.
Meta y otras empresas tecnológicas enfrentan el desafío de encontrar un equilibrio entre la libertad de expresión y la protección contra el contenido dañino y manipulado en sus plataformas. En este sentido, la colaboración con otras empresas y la adopción de estándares comunes para identificar y etiquetar contenido generado por IA son pasos importantes hacia un entorno en línea más seguro y transparente.
OAXACA INFORMA ya está en Whatsapp! Únete a nuestro canal. Desde tu dispositivo móvil entérate de las noticias más relevantes de Oaxaca, sus regiones, México y el mundo; política, economía, deportes, espectáculos, columnas, tendencias y más.
