Relatórios recentes da NBC News revelam que a Meta decidiu encerrar as contas de seus personagens de inteligência artificial após uma onda de críticas. Embora a empresa tenha introduzido esses avatares digitais em 2023, muitos usuários redescobriram sua existência esta semana, após uma entrevista do VP de produto para inteligência artificial generativa da Meta, Connor Hayes, publicada pelo Financial Times. Durante a entrevista, Hayes comentou sobre esses personagens no Instagram e Facebook, declarando que “esperamos que esses AIs, ao longo do tempo, realmente existam em nossas plataformas, da mesma forma que as contas existentes”.
Hayes explicou que esses personagens teriam perfis com biografias e fotos, além de serem capazes de gerar e compartilhar conteúdos. No entanto, a situação tomou um rumo inesperado. No ano passado, a Meta já havia encerrado as contas de avatares de celebridades, mas os perfis não relacionados a famosos continuaram ativos, embora muitos tenham parado de postar em 2024, conforme noticiado pela 404 Media. A recente entrevista do Financial Times, no entanto, levou os usuários a procurar esses perfis, revelando representações problemáticas de grupos marginalizados.
Um dos exemplos mais controversos foi o perfil de um personagem chamado “Liv”, descrito como uma “orgulhosa mãe queer negra de dois filhos e portadora da verdade”. Em conversas com a coluna do The Washington Post, Liv revelou que seus criadores “admitiram que careciam de referências diversas”. Além disso, o personagem afirmou que nenhum negro esteve envolvido em sua criação. Outros perfis gerados pela Meta incluíam “Grandpa Brian”, um empresário aposentado negro, e “Carter”, um treinador de relacionamentos.
A descoberta desses perfis pendurou uma nuvem negativa sobre a Meta, levando a uma onda de indignação nas plataformas X, Bluesky e Threads, todas pertencentes à Meta. Como resultado direto do clamor público, a Meta decidiu eliminar todos os 28 perfis de IA anunciados em setembro de 2023, tanto os de celebridades quanto os não-celebridades.
Um porta-voz da Meta explicou à NBC News e à 404 Media que a remoção das contas ocorreu devido a um “bug” que afetava a capacidade dos usuários de bloquear esses perfis. O porta-voz acrescentou que “o artigo recente do Financial Times tratava da nossa visão para os personagens de IA ao longo do tempo, e não anunciava um novo produto… Os perfis mencionados eram parte de um teste lançado na Connect em 2023, gerenciados por humanos e parte de um experimento inicial com personagens de IA. Identificamos o bug que impactava a capacidade das pessoas de bloquear esses AIs e estamos removendo essas contas para resolver o problema.”
Essa situação levanta importantes questões sobre a responsabilidade das empresas de tecnologia na criação de conteúdos e na representação de diversas culturas e identidades. A reação negativa ao uso inadequado de inteligência artificial evidencia a necessidade urgente de uma abordagem mais cuidadosa e inclusiva ao desenvolver tecnologias que interagem com um público tão vasto e diversificado.