TikTok colabora con la industria para fomentar la transparencia y la alfabetización en materia de IA

TikTok ha compartido actualizaciones sobre sus esfuerzos continuos para ayudar a los creadores a expresar de forma segura y responsable su creatividad con contenido generado por IA (Artificial Inteligence Generated Content, por sus siglas en inglés). Y es que la plataforma está empezando a etiquetar automáticamente el contenido generado por IA (AIGC) cuando se sube desde otras plataformas. Para ello, se ha asociado con la Coalition for Content Provenance and Authenticity (C2PA) y se ha convertido en la primera plataforma de compartición de vídeos en implementar su Tecnología de Credenciales de Contenido. Para ayudar a su comunidad a navegar por la AIGC y la desinformación en línea, también está lanzando nuevos recursos de alfabetización mediática, desarrollados con la ayuda de expertos como Mediawise.

Invertir en transparencia a medida que evoluciona la IA

La IA ofrece increíbles oportunidades creativas, pero puede confundir o engañar a los espectadores si no saben que el contenido ha sido generado por esta tecnología. El etiquetado ayuda a dejar claro ese contexto, por eso TikTok etiqueta los contenidos creados con efectos de IA de la plataforma, y lleva más de un año requiriendo a los creadores que etiqueten los AIGC realistas. También ha creado una herramienta pionera para facilitar esta tarea, que más de 37 millones de creadores han utilizado desde el otoño pasado.

Asociarse con la industria para etiquetar los AIGC

A partir de hoy, TikTok amplía el etiquetado automático a los AIGC creados en otras plataformas con la posibilidad de leer credenciales de contenido, una tecnología de la Coalition for Content Provenance and Authenticity (C2PA). Estas credenciales adjuntan «metadatos» al contenido, que se pueden utilizar para reconocer y etiquetar instantáneamente los AIGC. Esta función se ha empezado a implantar hoy y debería aplicarse a todos los usuarios del mundo en las próximas semanas.

En los próximos meses, TikTok también empezará a adjuntar credenciales de contenido al contenido de la propia plataforma, que permanecerán en el contenido cuando se descargue. Esto significa que cualquiera podrá utilizar la herramienta de verificación de C2PA para ayudar a identificar el AIGC que se hizo en TikTok e incluso saber cuándo, dónde y cómo se hizo o editó el contenido. Otras plataformas que adopten las credenciales de contenido podrán etiquetarlas automáticamente.

Liderando la adopción en el sector

Para ayudar a impulsar la adopción de las credenciales de contenido en la industria, TikTok se está uniendo a la Iniciativa de Autenticidad de Contenido (CAI) liderada por Adobe. Y es que TikTok es la primera plataforma para compartir vídeos en poner en práctica las credenciales de contenido. Esto significa que el aumento de AIGC autoetiquetados en TikTok puede ser gradual al principio, ya que necesita tener los metadatos de credenciales de contenido para poder identificarlos y etiquetarlos. Sin embargo, a medida que otras plataformas también lo implementen, TikTok podrá etiquetar más contenido.

«Con la amplia comunidad de creadores y usuarios de TikTok a nivel mundial, estamos encantados de darles la bienvenida tanto a la C2PA como al CAI, ya que se embarcan en el viaje para proporcionar más transparencia y autenticidad en la plataforma. En un momento en el que cualquier contenido digital puede ser alterado, es esencial ofrecer al público formas de discernir lo que es cierto. El anuncio de hoy es un paso fundamental para lograr ese resultado». - Dana Rao, Consejera General y Directora de Confianza de Adobe.

Fomentar la alfabetización mediática

Aunque los expertos recomiendan ampliamente el etiquetado AIGC como una forma de apoyar la creación responsable de contenidos, también advierten que las etiquetas pueden causar confusión si los espectadores no tienen contexto sobre lo que significan. Por eso TikTok está trabajando con expertos para desarrollar campañas de alfabetización mediática que puedan ayudar a su comunidad a identificar y tener un pensamiento crítico sobre el AIGC y la desinformación.

«Nuestra Teen Fact-Checking Network ha construido una audiencia con vídeos innovadores de alfabetización mediática en TikTok desde 2019. Cinco años después, estamos encantados de empoderar a aún más personas para separar los hechos de la ficción en línea.» - Alex Mahadevan, director de MediaWise.

Continuar combatiendo los contenidos nocivos

Aunque la mayoría de la gente quiere disfrutar de forma responsable de los contenidos generados por IA, habrá actores maliciosos que utilicen AIGC para engañar intencionadamente a otros. En TikTok tienen muy presentes estos riesgos, por lo que sus políticas prohíben firmemente los contenidos generados por IA que puedan inducir a error, estén etiquetados o no, y este año han firmado un pacto con el sector para combatir el uso de IA engañosa en las elecciones. A medida que la IA evoluciona, la plataforma sigue invirtiendo en la lucha contra el AIGC perjudicial mediante la evolución de sus modelos de detección proactiva, la consulta con expertos y la asociación con terceros en soluciones compartidas. Toda la información se encuentra en el Centro de Transparencia de TikTok.