A pesar de todas las ventajas y beneficios que nos proporcionan buena parte de las plataformas IA actuales, también presentan algunos inconvenientes. Esto es algo que se extiende tanto a la generación automática de textos como de imágenes.
De hecho, a lo largo de los últimos meses ya nos hemos encontrado con algunas importantes polémicas en el uso de la creación de fotos con Inteligencia Artificial. Nos hemos encontrado con ciertas empresas que han tenido que retirar sus proyectos para mejorarlos y modificarlos, básicamente bloqueando la creación de determinados contenidos no permitidos.
De ahí precisamente las medidas que se están tomando ahora mismo para evitar determinados tipos de uso a la hora de crear imágenes con IA. Os contamos todo esto porque están llegando las marcas de agua invisibles a las imágenes generadas con la popular plataforma inteligente DALL-E. Seguro que muchos de vosotros ya sabéis de primera mano que los modelos DALL-E de OpenAI pueden generar imágenes a partir de instrucciones de texto que tecleamos.
Pues bien, Azure OpenAI Service proporciona acceso a estos modelos, permitiendo a los desarrolladores crear imágenes mediante programación dentro de sus aplicaciones. Ahora Microsoft ha anunciado una nueva función integrada en Azure OpenAI Service llamada Marcas de agua. La nueva función añadirá marcas de agua invisibles a todas las imágenes generadas utilizando DALL-E para ofrecer una mayor transparencia y protección a las imágenes que se crean mediante este método.
Y es que debemos tener presente que el reciente auge de los modelos de generación de imágenes ha incrementado la propagación de desinformación y fakes generados por IA. Además, hay contenidos que se crean automáticamente y que no deberían estar permitidos.
Así buscan un mayor control de las imágenes IA
De ahí la necesidad de identificar los contenidos generados por IA, algo que se está convirtiendo en esencial para las empresas involucradas. Decir que esta nueva marca de agua invisible incrustada en las imágenes generadas por IA puede ser identificada por herramientas de detección especializadas. Llegados a este punto, lo que debemos tener presente es que dicha marca de agua no será visible a simple vista. Así lo que se intenta es proteger la fidelidad de la imagen.
Además, aunque alguien cambie el tamaño o recorte la imagen como tal, la integridad de la marca de agua permanecerá intacta. Decir que estas marcas de agua invisibles contendrán información sobre el origen de una imagen y están representadas por un manifiesto adjunto a ese contenido multimedia. El documento está firmado criptográficamente por un certificado, e incluirá varias informaciones para tener un mayor control sobre la imagen en sí.
Con este tipo de movimientos, lo que pretenden las empresas con plataformas y servicios inteligentes, es evitar los fraudes y el mal uso de los contenidos generados de forma automática. Esto es algo que cada vez se está extendiendo más y a lo que se le quiere poner freno. Y es que el mal uso de determinados modelos de lenguaje IA se está extendiendo tanto entre usuarios finales como empresas.
Esta iniciativa de Microsoft supone un paso importante hacia un despliegue responsable de la IA. Además, se lucha contra la utilización indebida de esos contenidos.
