En los últimos meses se ha observado un auge en el contenido creado por inteligencia artificial (IA), lo cual ha facilitado ciertos procesos, pero también conlleva desventajas. Por esta razón, TikTok presentó nuevas herramientas para “detectar, etiquetar y entender el contenido producido por IA”, anunciaron medios internacionales.

Estas herramientas podrían convertirse en una tecnología innovadora dentro de las medidas de seguridad de esta red social, caracterizada por adoptar prácticas para eliminar cuentas que fomentan el odio y la violencia.

Cabe agregar que estas novedades fueron anunciadas en el Foro Europeo de Seguridad, que tuvo lugar en Dublín, Irlanda.

En dicho evento, el director global de Divulgación y Colaboración de TikTok, Valiant Richey, afirmó que la base de la plataforma, con unos mil millones de usuarios, es la seguridad, que “no es negociable”.

Mejoras de seguridad y bienestar digital impulsadas por TikTok

De acuerdo con lo mencionado por la compañía en el foro, estas son algunas de las novedades y medidas que se incorporarán en las próximas semanas:

1. Marca de agua invisible. Mediante esta función se etiquetará el contenido creado con IA en la propia plataforma, según Jade Nester, directora de Seguridad, Privacidad y Protección de Datos, Políticas Públicas en Europa.
2. Protección adicional de la marca de agua. Esta solo podrá ser leída por TikTok, lo que dificulta su eliminación.
3. Nuevo control para contenido creado con IA. Los internautas podrán decidir qué cantidad de este tipo de contenido desean visualizar en el feed “Para ti”.
4. Contenido centrado en el feed “Para ti”. Según la compañía, se invertirán US$2 millones para que expertos generen contenido destinado a dicho espacio.
5. Tiempo y Bienestar. Esta función ofrecerá sonidos relajantes, ejercicios de respiración consciente y un diario de afirmaciones para establecer propósitos del día.
6. Misiones Bienestar. Estas están dirigidas especialmente a adolescentes, con el fin de fomentar hábitos digitales equilibrados. Una de las más destacadas es Horas de Sueño, para que tomen conciencia del tiempo que permanecen en la plataforma.

Acciones contra contenidos de odio impulsadas por TikTok

El foro también abordó el refuerzo de prácticas mejoradas para detectar redes de cuentas que difunden odio y violencia.

En lo que va del año, la plataforma ha eliminado 17 redes de este tipo, conformadas por más de 920 cuentas dedicadas a difundir mensajes con ideologías extremistas.

En los seis primeros meses, la red suprimió 6.5 millones de vídeos por infringir esas normas, lo que representa algo menos del dos por ciento de todo el contenido infractor, según Zachary Hecht, jefe de Desarrollo de Políticas para la Confianza y la Seguridad de TikTok.

Se trata de grupos que adaptan sus estrategias para evitar ser detectados: emplean cuentas de apariencia inocua, redirigen al público fuera de la plataforma o usan lenguaje cifrado, como emojis, para hacer alusión a discursos de odio.

Moderación de contenidos e IA

Detectar discursos de odio es uno de los objetivos de la moderación del contenido que se sube a diario a TikTok. Esta tarea es realizada tanto por la IA como por equipos humanos.

Aunque el uso de inteligencia artificial no es nuevo, los recientes avances están transformando la forma en que se modera el contenido, en un contexto donde la producción digital se acelera, indicó Brie Pegum. También subrayó la importancia de mantener el equilibrio entre la moderación automatizada y la humana, dado que los equipos siguen teniendo un papel central.

Los datos de TikTok indican un descenso del 76 por ciento en el contenido gráfico moderado por el equipo humano durante el año pasado. Pegum también destacó los avances en la moderación de comentarios, donde el uso de IA permite identificar el doble de interacciones no permitidas.