TikTok etiquetará los vídeos generados con IA para combatir la desinformación
Los vídeos generados con inteligencia artificial (IA) campan a sus anchas en la mayor parte de las redes sociales, que son el particular patio de recreo de este tipo de contenido. La fragorosa entrada en escena de los vídeos generados con IA en las plataformas 2.0 es terreno abonado para la desinformación, TikTok es consciente de ello y por ello comenzará a etiquetar automáticamente este tipo de contenido, también cuando raíces en plataformas ajenas a la suya propia.
El contenido creado con las propias herramienta de IA de TikTok ya se etiqueta automáticamente para que los usuarios sean conscientes de que ha sido generado de manera artificial. Además, la red social oriunda de China exige también a los creadores que añadan manualmente etiquetas a su propio contenido si en este ha estado involucrado la IA. Sin embargo, hasta ahora muchos usuarios habían podido evadir las normas vigentes en TikTok mediante la subida de contenido generado con IA procedente de otras plataformas.
De ahora en adelante la filial de ByteDance comenzará a utilizar marcas de agua creadas por el grupo Coalition for Content Provenance and Authenticity (C2PA) con el último objetivo de identificar e etiquetar adecuadamente el contenido generado con IA.
«La IA trae consigo increíbles oportunidades creativas, pero puede también confundir o engañar al espectador si este desconoce que el contenido con el cual es confrontado ha sido generado de manera artificial», explica Adam Presser, head of operations & trust and safety de TiKTok. «Las etiquetas ayudan a dejar claro ese contexto, que es precisamente la razón por la que etiquetamos el contenido generado con las herramientas de IA de TikTok y llevamos exigiendo desde hace más de un año a nuestros creadores que etiqueten también adecuadamente este tipo de contenido», dice.
A partir de ahora TikTok utilizará marcas de aguas basadas en la tecnología «Content Credentials» en el contenido descargado desde su plataforma para que cuando ese contenido llegue potencialmente a otros canales los usuarios puedan identificar apropiadamente su origen.
La capacidad de TikTok de etiquetar contenido generado con IA cuando este proceda de plataformas externas se limitará en todo caso a los vídeos creados con herramientas que sean también miembros de C2PA, una coalición a la que están adscritos la mayor parte de los grandes «players» en el ámbito de la IA (Microsoft, Google y Adobe, por ejemplo).
Meta anunció hace unos meses medidas similares a las implementadas ahora por TikTok
Hasta hace poco OpenAI no formaba parte de esta coalición, a la que se unió, de hecho, este mismo martes. La matriz de ChatGPT había comenzado a utilizar la tecnología «Content Credentials» a principios de este año, y planea imbricar además esa tecnología en Sora, su herramienta de creación de vídeo, cuando esta esté disponible para el público general.
Así y todo, empresas menos escrupulosas y de orientación menos comercial con el foco puesto en la IA continuarán produciendo casi con toda seguridad contenido desprovisto de etiquetas. Herramientas de código abierto como Stable Diffusion permite, por ejemplo, sortear el etiquetado del contenido generado con IA (si bien su matriz, Stability.AI, es miembro de la coalición C2PA). Y Midjourney, que tiene la vitola de ser una de las herramientas más populares para la generación de contenido con IA, está totalmente ausente en la coalición C2PA.
Los planes de TikTok para etiquetar automáticamente el contenido generado con IA se miran de alguna manera en el espejo de los planes de Meta, que realizó un anuncio similar en febrero. Sin embargo, las etiquetas anunciadas por Meta han surtido un efecto más bien parvo a la hora de contener la proliferación del contenido generado con IA en sus plataformas, en particular en Facebook.
Otras plataformas 2.0 están siendo menos diligentes que TikTok y Meta a la hora de mantener raya la desinformación potencialmente emanada del contenido generado con IA. Snapchat, por ejemplo, etiqueta el contenido generado con IA que se crea con sus propias herramientas, pero advierte simultáneamente a sus usuarios que el contenido procedente de plataformas externas puede no estar adecuadamente etiquetado. Y X, por su parte, no dispone a día de hoy de ningún sistema de etiquetado automático y se apoya en su lugar en las denominadas «community notes» para identificar el contenido generado con IA.
Fuente: https://www.marketingdirecto.com/digital-general/social-media-marketing/tiktok-etiquetara-automaticamente-videos-generados-ia