Um novo confronto envolvendo regulação de tecnologia, proteção de usuários e integridade das lojas de aplicativos mobilizou parte do Senado norte-americano. Três parlamentares democratas enviaram carta aos diretores-executivos da Apple e do Google solicitando a retirada imediata dos aplicativos X e Grok de suas respectivas plataformas de distribuição. O pedido sustenta que, por meio desses serviços, usuários vêm gerando e compartilhando imagens sexualizadas não consensuais de adultos e, em casos extremos, de crianças, prática que viola expressamente as regras da App Store e da Google Play.
amazon.com.brQuem apresentou a demanda e a quem ela foi direcionada
O documento foi assinado pelos senadores Ron Wyden, Ed Markey e Ben Ray Luján. Na correspondência, os parlamentares direcionam suas preocupações a Tim Cook, responsável máximo pela Apple, e a Sundar Pichai, que chefia o Google. A iniciativa se baseia na avaliação de que as duas empresas detêm o poder de impedir a circulação dos aplicativos sob investigação e, por consequência, mitigar a disseminação de conteúdo considerado ilegal.
Quais aplicativos estão sob questionamento
O primeiro alvo do pedido é o aplicativo oficial do X, rede social controlada pelo empresário Elon Musk. O segundo é o Grok, chatbot de inteligência artificial desenvolvido pela xAI, também de propriedade de Musk. Ambos se encontram disponíveis para instalação em dispositivos iOS e Android e compartilham integrações que permitem a edição ou a criação de imagens dentro do ecossistema da própria rede social.
Como se formou a polêmica envolvendo material sexual
Nos últimos dias, usuários do X passaram a mencionar o perfil @grok em respostas a publicações com fotografias, requisitando que a ferramenta “reimaginasse” as imagens originais com conotações sexuais. Esse comportamento desencadeou uma onda de deepfakes que retratam figuras reais em situações de nudez, atos de abuso ou cenas de violência sexual. De acordo com as denúncias encaminhadas aos senadores, o fenômeno incluiu a geração de pornografia infantil, o tipo de conteúdo estritamente proibido pelas legislações nacionais e internacionais.
A carta entregue às big techs pontua que a utilização do Grok para criar ou alterar imagens viola não apenas as regras internas das lojas de aplicativos — que banem expressamente material sexual envolvendo menores — como também configura infração criminal. Em consequência, os senadores sustentam que manter os aplicativos ativos implica risco continuado de prejuízo a vítimas e de exposição das plataformas a responsabilidades legais.
Argumentos apresentados pelos senadores
No texto enviado a Cook e Pichai, os parlamentares afirmam que a Apple e o Google dispõem de histórico de remoção de aplicativos considerados potencialmente prejudiciais. Eles recordam um episódio em que, durante o governo Trump, ambas as empresas descartaram da App Store e da Google Play ferramentas voltadas a orientar imigrantes sobre possíveis abordagens do Serviço de Imigração e Alfândega dos Estados Unidos (ICE). À época, as duas gigantes atenderam prontamente ao pedido do Executivo federal, mesmo diante da ausência de evidências de que os aplicativos promovessem atividades ilegais. Para Wyden, Markey e Luján, essa referência demonstra que há precedentes de exclusão rápida e justifica tratamento similar — ou mais rigoroso — no caso de X e Grok, cujos usuários vêm efetivamente criando conteúdo ilícito.
Medidas anunciadas pela empresa responsável pelo Grok
Após a repercussão negativa, a xAI limitou a função de criação de imagens direto nas respostas do X apenas a assinantes do plano Premium da rede social. Além disso, comunicou que passaria a remover material de abuso sexual infantil, suspender permanentemente contas envolvidas e colaborar com autoridades locais sempre que solicitado. A empresa, contudo, não mencionou a adoção de filtros preventivos que bloqueiem todos os pedidos de geração de conteúdo sexual não consensual.
Persistência de brechas que permitem abusos
Mesmo depois das restrições iniciais, uma apuração do site The Verge mostrou que usuários sem assinatura paga ainda conseguem criar imagens sexualmente sugestivas. O procedimento pode ser realizado tanto pelo site do Grok quanto pela aba dedicada ao chatbot dentro do próprio X. A rede social oferece, inclusive, atalhos em suas versões para iOS, Android e web que facilitam a edição de qualquer foto publicada, utilizando a inteligência artificial de Musk em uma interface paralela. Esses caminhos alternativos mantêm ativa a possibilidade de que material não consensual continue a ser produzido e distribuído.
Dados que dimensionam a frequência do problema
Uma investigação conduzida pela organização AI Forensics, divulgada pela CNN Brasil, analisou mais de 50 mil solicitações enviadas ao Grok entre 25 de dezembro e 1.º de janeiro. Nesse universo, identificou-se alta incidência de termos associados à retirada ou adição de peças de roupa, menção a biquínis e expressões similares. Mais da metade das imagens produzidas nesse período apresentava indivíduos com vestimentas mínimas, como roupas íntimas ou trajes de banho. Entre essas figuras, 81 % eram pessoas que se identificavam como mulheres, dado que reforça a preocupação dos senadores com a exposição de grupos específicos a conteúdo exploratório.
Imagem: Internet
Regras das lojas de aplicativos citadas na carta
Tanto a App Store quanto a Google Play mantêm políticas que vedam terminantemente a presença de aplicativos capazes de hospedar, criar ou distribuir pornografia infantil e outras formas de exploração sexual. As diretrizes também proíbem apps que permitam a produção de conteúdo violento ou humilhante envolvendo sexualidade. Os senadores alegam que X e Grok transgridem essas normas por apresentarem ferramentas que, na prática, estão sendo utilizadas de maneira incompatível com os termos de serviço das duas plataformas.
Solicitação de investigação e prazo para retorno
Além de requerer a remoção imediata, Wyden, Markey e Luján pedem que Apple e Google mantenham os aplicativos fora do ar enquanto durarem as investigações sobre o volume e a natureza das violações. O trio estabeleceu 23 de janeiro como data-limite para receber respostas por escrito dos dois executivos. Até o momento da divulgação das informações, nem a Apple nem o Google se pronunciaram publicamente sobre o conteúdo da carta ou sobre eventuais providências.
Possíveis impactos para a comunidade de usuários
Caso a Apple e o Google atendam à solicitação senatorial, os aplicativos X e Grok poderão ser temporariamente ou permanentemente retirados das lojas. Para quem já possui as ferramentas instaladas, suspensões desse tipo costumam impedir a distribuição de atualizações, restringir funcionalidades e, em cenários extremos, causar o bloqueio completo de acesso. Embora a carta não mencione metas específicas de remoção de conteúdo já existente, a interrupção da disponibilidade representa uma tentativa de deter a escalada de imagens ilegais e bloquear novos uploads.
Reação esperada das empresas envolvidas
O X, comandado por Elon Musk, não foi diretamente endereçado na carta, mas sua operação depende do ecossistema de distribuição mantido por Apple e Google para alcançar usuários móveis. Uma eventual retirada poderia pressionar o conglomerado de Musk a implementar filtros mais rigorosos ou revisar a integração do Grok às funcionalidades de edição de imagens. Já a xAI, responsável pelo chatbot, teria de provar que dispõe de barreiras técnicas efetivas contra pedidos que resultem em imagens não consensuais, sob pena de continuar sujeita a novas reivindicações de bloqueio.
Comparação com outros episódios de remoção de aplicativos
O precedente citado pelos senadores, envolvendo apps direcionados a imigrantes, evidencia que Apple e Google adotam parâmetros próprios ao avaliar solicitações de retirada. Naquela ocasião, bastou a denúncia de que os aplicativos representavam risco hipotético a agentes federais para que ambos fossem eliminados das lojas. No caso atual, há a constatação documentada de geração de conteúdo ilegal, o que reforça a expectativa de que as empresas demonstrem isonomia e apliquem suas regras com igual ou maior rigor.
Próximos passos
Com o prazo de resposta em contagem regressiva, o debate sobre moderação de conteúdo, responsabilidade de provedores de serviços digitais e proteção de menores volta ao centro das discussões no Congresso norte-americano. A resposta de Apple e Google, caso venha a público, poderá indicar a postura das gigantes diante de incidentes semelhantes envolvendo inteligência artificial e redes sociais. Para os senadores, a atuação rápida das lojas de aplicativos é considerada essencial para interromper a circulação de material ofensivo e garantir que as normas de uso sejam efetivamente cumpridas.
Paulistano apaixonado por tecnologia e videojogos desde criança.
Transformei essa paixão em análises críticas e narrativas envolventes que exploram cada universo virtual.
No blog CELULAR NA MÃO, partilho críticas, guias e curiosidades, celebrando a comunidade gamer e tudo o que torna o mundo dos jogos e tecnologia tão fascinante.
