TikTok endurece sus reglas de contenido generado con IA

TikTok está bajo el escrutinio de los reguladores mundiales y por ello está endureciendo algunas de sus reglas, especialmente aquellas que tienen que ver con la difusión de contenido generado por Inteligencia Artificial, como las deepfakes, que son videos, imágenes o audios manipulados o generados a través de esta tecnología con el fin de parecer reales.

Estas falsificaciones de la realidad también son llamadas medios sintéticos y la plataforma de videos cortos señaló que no se permitirá ningún video de esta clase “que contenga la imagen de una figura privada o real”.

De acuerdo con la empresa, las figuras públicas son aquellos individuos mayores de 18 años con “un papel público significativo, como un funcionario del gobierno, un político, un líder empresarial o una celebridad”.

Si bien TikTok está prohibiendo este contenido cuando se trata de figuras públicas no está completamente eliminado de la plataforma; sin embargo, la empresa estableció que si un usuario quiere subirlo a su perfil deberá “divulgarlo claramente”, es decir, especificar que se trata de una deepfake ya sea en el título del video o en una de sus etiquetas.

La decisión por parte de TikTok se debe a que el contenido generado por IA ha crecido en los últimos meses, principalmente por el acceso masivo que se ha tenido a herramientas de IA. Incluso se han creado subgéneros de contenido basados en esta tecnología y es común, por ejemplo, ver a figuras públicas como el presidente de Estados Unidos, Joe Biden, y a los expresidentes Trump y Obama platicar de cuál es su anime favorito.

No obstante, existen otros casos de uso más dañinos para estas falsificaciones, como mostrar a figuras públicas leyendo declaraciones que incitan al odio de ciertas comunidades, como la homofobia o la transfobia, por citar algunos casos.

El objetivo de implementar estas nuevas características de seguridad, dijo TikTok, es ofrecer “mucha más transparencia sobre nuestras reglas y cómo las aplicamos”. Asimismo, publicó una serie de ocho principios comunitarios para aclarar cómo se abordan los casos de cumplimiento relacionados a casos como la prevención de daños y la libertad de expresión.

TikTok cambia en medio del escrutinio

Los cambios en la plataforma se dan en medio de un contexto complicado para TikTok, pues los gobiernos occidentales han demostrado su temor respecto a que la plataforma recopile datos de los usuarios.

De hecho, países como Bélgica, Dinamarca, Canadá, Reino Unido o Estados Unidos han prohibido su uso en dispositivos gubernamentales, pues consideran que se trata de una amenaza a la seguridad nacional por el riesgo de ciberespionaje.

Asimismo, según los informes, el gobierno de los Estados Unidos ya amenazó a la empresa matriz, ByteDance, a prohibir públicamente la aplicación en su territorio si no vende su participación en la plataforma.

El golpe sería muy duro para TikTok en caso de que se llegara a prohibir la aplicación, pues ahora tienen 150 millones de usuarios activos mensuales tan sólo en Estados Unidos, según cifras presentadas por la aplicación previo al testimonio ante el Comité de Comercio y Energía de la Cámara del director ejecutivo de TikTok, Shou Zi Chew, programado para el jueves.

CON INFORMACIÓN DE EXPANSIÓN