O YouTube removeu o dobro da quantidade normal de vídeos entre abril e junho, depois de depender da IA (Inteligência Artificial) para moderar o conteúdo em meio a bloqueios forçados.
Uma proporção significativa de vídeos removidos durante esse período não quebrou nenhuma das regras do YouTube.
O aumento nas remoções de vídeo é o resultado da redução da supervisão humana durante o processo de moderação de conteúdo pelo YouTube.
O YouTube fez uma mudança abrupta para a moderação baseada em IA depois que ordens de bloqueio impediram sua equipe de 10.000 moderadores de conteúdo de entrar no trabalho.
Os sistemas de máquina do YouTube receberam autoridade para agir em vídeos identificados como contendo conteúdo potencialmente prejudicial ou desinformação.
Além disso, a IA foi programada para errar por excesso de cautela. Isso significa que o conteúdo foi removido mesmo que tivesse conteúdo limítrofe , o que não violava as regras do YouTube.
No total, quase 11 milhões de vídeos foram retirados entre abril e junho.
Aproximadamente 160.000 desses vídeos foram reintegrados depois que os criadores entraram com um recurso, o que representa metade do número total de recursos recebidos.
Curiosamente, a IA do YouTube anulou muito mais decisões de remoção do que o normal – de 25% para 50%.
Portanto, o conteúdo estava sendo removido com o dobro da taxa normal por causa da IA e também sendo reintegrado com o dobro da taxa normal.
Uma verdadeira bagunça não é mesmo!
Nem é preciso dizer que, se você suspeita que alguns de seus vídeos do YouTube foram removidos por engano nos últimos meses, você pode estar certo.
Felizmente, o processo de moderação de conteúdo do YouTube não continuará assim.
YouTube revertendo para moderadores humanos
Neal Mohan, diretor de produtos do YouTube, disse ao Financial Times que os moderadores humanos estão de volta à verificação de conteúdo potencialmente prejudicial.
Mohan admite que há limites para a moderação baseada em IA.
Embora as máquinas sejam capazes de identificar vídeos potencialmente prejudiciais, elas não são tão boas para decidir o que deve ser removido.
Avaliadores humanos treinados são capazes de “tomar decisões que tendem a ter mais nuances, especialmente em áreas como discurso de ódio, desinformação médica ou assédio”, diz Mohan.
Daqui para frente, a IA será usada para identificar conteúdo potencialmente prejudicial, e moderadores humanos terão a palavra final sobre o que será removido.
As máquinas ainda desempenharão um papel integral na moderação de conteúdo, mas não terão autonomia total como tinham antes.
Uma área em que a IA se destaca é a velocidade. Na maioria das vezes, os vídeos que são claramente prejudiciais são removidos antes que alguém tenha a chance de vê-los.
Ok, mas o que isso impacta nos profissionais de marketing?
Os profissionais de marketing não precisam mais se preocupar com os vídeos sendo removidos erroneamente pelos sistemas de moderação de IA do YouTube.
Os profissionais de marketing que tiveram vídeos removidos entre abril e junho fariam bem em enviar um recurso. Há uma chance de os vídeos serem reintegrados.
A moderação por máquina do YouTube teve como alvo alguns dos canais mais seguidos, então só posso imaginar quantos canais menores também foram afetados.
Por exemplo, no início deste mês, o YouTube estava em alta no Twitter depois que os canais populares MoistCr1TiKaL e Markiplier foram atingidos por greves de diretrizes da comunidade.
Isso foi resultado da moderação de IA, mostrando não apenas as máquinas tinham autonomia para remover vídeos, mas também emitiam greves contra os canais.
Depois de muito drama, o YouTube acabou se desculpando pela aplicação excessiva de suas políticas.
O vídeo foi restabelecido e os avisos de direitos autorais foram removidos.
Que esta seja uma experiência de aprendizado para o YouTube sobre o que pode acontecer quando a IA recebe muita energia.
Informações retiradas do jornal Financial times
