A última atualização do aplicativo BlueMail — que continha recursos baseados no ChatGPT, da OpenAI — foi barrada pela App Store. A justificativa foi que o algoritmo poderia exibir conteúdo impróprio para crianças e, por isso, a classificação indicativa do app deveria subir para 17 anos — sendo, atualmente, de 4 anos.
Em geral, apps com a classificação de 17 anos contêm linguagem ofensiva, conteúdo sexual e referências a drogas. Ben Volach, cofundador da Blix, desenvolvedora do BlueMail, disse ao The Wall Street Journal que achou a decisão “injusta”, já que outros apps com recursos similares de inteligência artificial não têm a mesma indicação de idade. Ele, porém, não deu exemplos disso.
Ainda é possível enviar um recurso ao Conselho de Aprovação de Apps da Apple, como lembrou um porta-voz da empresa. O BlueMail pôde ser atualizado sem problemas no Google Play — no qual tampouco tem uma classificação indicativa. Volach também lembrou que o app conta com filtragem de conteúdo e que a restrição pode afetar o número de potenciais novos usuários.
Phillip Shoemaker, ex-diretor sênior da equipe de avaliação de apps da App Store, que deixou a empresa em 2016, lembrou que não é incomum que haja inconsistência na aplicação de políticas na loja de aplicativos, em especial aquelas mais novas. Ele também falou que centenas de pessoas analisam os apps ao mesmo tempo e nem sempre todos veem o mesmo problema em um software.
Essa decisão pode demonstrar uma postura menos receptiva da Apple em relação a apps que contêm recursos que usem o ChatGPT. O app do Bing, por exemplo, que recentemente anunciou um recurso parecido, tem a classificação indicativa de 17 anos, embora seja em razão da possibilidade de realmente buscar por conteúdo impróprio.
Vale lembrar que este não é o primeiro contencioso entre Blix/BlueMail e a Apple. O app foi retirado da Mac App Store, em 2020, sob alegações de segurança, após processar a empresa em razão do recurso de “Iniciar sessão com a Apple”, além de haver outras acusações. O caso terminou sendo arquivado e o app voltou à loja.
Sigamos acompanhando para ver se teremos uma nova tendência na avaliação de apps na App Store!
Atualização, por Rafael Fischmann 04/03/2023 às 09:15
Após a Blix dar garantia à Apple de que moderaria o conteúdo do app, o update do BlueMail foi aprovado e já está disponível na App Store.
via WSJ