Cuando Logan Paul se grabó junto a un cadáver en el bosque de los suicidios de Japón, los algoritmos de YouTube colocaron el video en la página de tendencias. Para evitar que esto siga ocurriendo, la compañía ha puesto en marcha una Intelligence desk o “división de inteligencia” que se encargará de buscar proactivamente el contenido inapropiado, ofensivo o polémico.
YouTube anunció esta nueva herramienta en una sesión informativa para anunciantes a la que ha tenido acceso BuzzFeed News. La división de inteligencia dependerá de los datos de Google, los reportes de los usuarios, las tendencias en redes sociales y consultores externos para la “detección temprana” de casos como el de Logan Paul. Tras su detección, los videos se eliminarán o desmonetizarán para proteger al usuario y evitar que los anunciantes lleguen a ver su marca cerca de un contenido polémico.
Un portavoz de YouTube confirmó la noticia y añadió que la compañía “contratará más personal y aumentará el uso de la tecnología de aprendizaje automático” para evitar que algunas personas “abusen de la plataforma”. En los últimos años, YouTube ha sido objeto de críticas por permitir anuncios junto a contenido extremista o permitir que algunos vloggers pongan a sus hijos en situaciones perturbadoras o abusivas.