Nossa abordagem quanto à inovação da IA responsável

A IA generativa tem o potencial de estimular a criatividade no YouTube e transformar a experiência dos usuários e criadores na nossa plataforma. Mas manter o equilíbrio entre essas oportunidades e a nossa responsabilidade de proteger a comunidade do YouTube é tão importante quanto. Todo o conteúdo enviado ao YouTube está sujeito às nossas diretrizes da comunidade, não importa como foi gerado, mas sabemos que a IA vai trazer novos desafios e exigir novas abordagens.

Estamos começando nosso trabalho e vamos continuar melhorando nossa abordagem conforme aprendemos mais. Confira o que o YouTube vai lançar nos próximos meses até 2024.

Requisitos de divulgação e novas classificações de conteúdo

Nós acreditamos que é do interesse de todos manter um ecossistema saudável de informações no YouTube. Por isso, ao longo dos anos desenvolvemos políticas que proíbem conteúdo enganoso ou manipulado que podem causar danos aos usuários. A IA vai trazer novas formas de contar histórias e aprimorar a expressão criativa, mas também pode ajudar a gerar conteúdo com potencial de enganar os usuários, principalmente se eles não forem avisados de que o vídeo foi manipulado ou criado artificialmente.

Como resposta a essa preocupação, vamos fazer atualizações nos próximos meses para informar os usuários quando o conteúdo que assistirem for artificial. Os criadores precisarão declarar quando subirem na plataforma conteúdo manipulado ou artificial que parece realista, inclusive usando ferramentas de IA. Por exemplo, pode ser um vídeo gerado por IA que retrata de forma realista um evento que nunca aconteceu ou um conteúdo que mostra alguém dizendo ou fazendo algo que na verdade não fez.

Isso é ainda mais importante nos casos em que o conteúdo discute temas delicados, como as eleições, conflitos e crises de saúde pública ou funcionários públicos. Os criadores que escolherem não declarar essas informações estarão sujeitos a penalidades do YouTube, incluindo remoção do conteúdo, suspensão do Programa de Parcerias ou outras penalizações.

Vamos informar os usuários que o conteúdo pode ter sido manipulado ou ser artificial de duas formas. Um novo rótulo será adicionado ao painel da descrição indicando que parte do conteúdo foi alterada ou gerada digitalmente. Em relação a determinados tipos de conteúdo sobre temas delicados, vamos aplicar um rótulo mais aparente ao player de vídeo.

Existem alguns casos em que apenas um rótulo pode não ser suficiente para diminuir o risco de danos. Algumas mídias artificiais, independentemente de estarem rotuladas, serão removidas da nossa plataforma se violarem as diretrizes da comunidade. Por exemplo, um vídeo criado artificialmente que retrata violência realista ainda vai poder ser removido se o objetivo for chocar ou causar repulsa nos espectadores.

A partir de agora, à medida que essas atualizações forem lançadas, o conteúdo criado pelos recursos e produtos de IA generativa do YouTube serão claramente rotulados como gerados por IA.

Novas opções para criadores, espectadores e artistas

Recebemos feedback contínuo da nossa comunidade, incluindo criadores, usuários e artistas, sobre as formas como as tecnologias emergentes poderiam impactar cada um. Principalmente nos casos em que o rosto ou a voz de alguém podem ser gerados digitalmente sem a permissão da pessoa ou para deturpar os interesses dela.

Por isso, nos próximos meses, será possível pedir a remoção de conteúdo gerado por IA ou outro conteúdo artificial ou manipulado que simula uma pessoa identificável, incluindo seu rosto ou voz, usando nosso processo de solicitação de privacidade. Nem todo conteúdo será removido do YouTube. Vamos considerar vários fatores ao avaliar esses pedidos. Isso inclui o fato de o conteúdo ser uma paródia ou sátira, se a pessoa que fez o pedido pode ser identificada de forma exclusiva ou se o conteúdo mostra um administrador público ou indivíduo conhecido, caso em que pode haver uma exigência mais alta.

Também estamos introduzindo uma opção para nossos parceiros de música pedirem a remoção de conteúdo musical gerado por IA que imita a voz de um artista em forma de canto ou rap. Ao determinar se vamos atender a uma solicitação de remoção, vamos considerar fatores como se o conteúdo é objeto de uma reportagem de notícias, análise ou crítica dos vocais sintéticos. Esses recursos estarão disponíveis para gravadoras ou distribuidores que representam artistas participantes dos primeiros experimentos musicais de IA do YouTube. Vamos continuar ampliando o acesso a mais gravadoras e distribuidores nos próximos meses.

Implantação da tecnologia de IA para potencializar a moderação de conteúdo

O YouTube sempre usou uma combinação de pessoas e tecnologias de aprendizado de máquina para aplicar nossas diretrizes da comunidade, com mais de 20 mil revisores em toda a operação do Google ao redor do mundo. Nos nossos sistemas, os classificadores de IA ajudam a detectar conteúdo potencialmente violador em grande escala, e os revisores trabalham para confirmar se o conteúdo realmente ultrapassou os limites das nossas políticas. A IA está melhorando continuamente a velocidade e a precisão dos nossos sistemas de moderação de conteúdo.

Uma área com impacto claro é a identificação de novas formas de abuso. Quando surgem novas ameaças, nossos sistemas têm relativamente pouco contexto para compreender e identificá-las em grande escala. Mas a IA generativa nos ajuda a ampliar rapidamente o conjunto de informações em que nossos classificadores de IA são treinados. Isso significa que somos capazes de identificar e capturar esse conteúdo com muito mais rapidez. A maior velocidade e precisão dos nossos sistemas também nos permite diminuir a quantidade de conteúdo prejudicial a que os revisores humanos estão expostos.

Criação de responsabilidade nas nossas ferramentas e recursos de IA

À medida que continuamos desenvolvendo novas ferramentas de IA para criadores, a nossa abordagem permanece consistente com a forma como enfrentamos alguns dos nossos maiores desafios de responsabilidade: acreditamos em reservar um tempo para acertar as coisas, em vez de nos esforçarmos para ser os primeiros.

Estamos pensando cuidadosamente sobre como podemos aproveitar anos de investimento nas equipes e na tecnologia capazes de moderar conteúdo em nossa escala. Isso inclui um trabalho significativo e contínuo para desenvolver proteções que vão evitar que nossas ferramentas de IA gerem o tipo de conteúdo que não pertence ao YouTube.

Sabemos também que os usuários de má-fé vão tentar inevitavelmente contornar essas barreiras de proteção e que alguns poderão conseguir. Vamos incorporar o feedback dos usuários e o aprendizado para melhorar continuamente nossas proteções. Dentro da nossa empresa, equipes dedicadas, como nosso departamento de inteligência, estão especificamente focadas em testes contraditórios e detecção de ameaças para garantir que nossos sistemas enfrentem novos desafios à medida que surgem.

A transformação da IA está à nossa porta

Ainda estamos no início da jornada para aproveitar todo o potencial transformador que a IA generativa tem para oferecer novas formas de inovação e criatividade no YouTube, e o que vem a seguir vai repercutir nas indústrias criativas nos próximos anos. Estamos dedicando um tempo para equilibrar os enormes benefícios que essa tecnologia oferece com a garantia da segurança contínua da nossa comunidade neste momento crucial. Vamos trabalhar lado a lado com criadores, artistas e outros nas indústrias criativas para desenvolver uma parceria compartilhada que beneficia a todos nós.