Agora há pouco, falamos aqui sobre os tweets do pesquisador Matthew Green descrevendo uma (até então não confirmada) nova tecnologia da Apple que escanearia fotos de usuários armazenadas em iPhones para detectar imagens relacionadas a abuso e pornografia infantil. Falamos, também, sobre as possíveis implicações problemáticas de privacidade relacionadas ao tema.
Bom, com ou sem problemáticas, o fato é que a coisa é para valer: a Apple confirmou oficialmente o recurso, tratou de explicá-lo mais tecnicamente e, de quebra, ainda anunciou duas outras novidades na mesma linha — todas elas chegarão em atualizações futuras do iOS/iPadOS 15 e do macOS Monterey 12. Vamos dar uma olhada, portanto.
Escaneamento de imagens
A primeira novidade é justamente aquela descrita por Green, mas há alguns detalhes não comentados pelo pesquisador. O escaneamento de imagens de fato funcionará no próprio dispositivo, mas entrará em ação somente em aparelhos com o Fotos do iCloud ativado — isto é, antes que a imagem seja enviada para a nuvem, o sistema analisará seu conteúdo para detectar possíveis sinais de abuso infantil.
O algoritmo da Apple, chamado de NeuralHash, analisa as imagens e converte cada um dos seus elementos em um número específico. Com isso, fotos distintas podem ter elementos semelhantes identificados — para detectar conteúdos de pornografia infantil, a Maçã usa bases de dados do Centro Nacional para Crianças Desaparecidas e Exploradas dos EUA (NCMEC) e de outras organizações, num total de mais de 200 mil imagens.
Segundo a Apple, os hashes gerados por cada imagem são armazenados com criptografia no próprio aparelho do usuário. Se o sistema detecta um hash que sinalize conteúdo de abuso infantil, o dispositivo gera um voucher de segurança que é enviado ao iCloud junto à imagem; se aquela conta ultrapassa um limite pré-determinado (e não divulgado) de vouchers, um alerta é disparado e a empresa pode analisar manualmente as fotos sinalizadas, podendo acionar as autoridades caso confirmado o crime.
A Apple diz que não compartilha o funcionamento do algoritmo para evitar que usuários criem formas de burlá-lo, mas o NeuralHash é, segundo a empresa, extremamente preciso: a taxa de erro é inferior a 1 em 1.000.000.000.000 de casos por ano, nos cálculos da Maçã.
Para quem quiser informações mais detalhadas sobre o sistema, a Apple publicou um relatório completo sobre a tecnologia que pode ser visto nesse documento [PDF].
Proteções no iMessage
A segunda novidade anunciada pela empresa diz respeito a usuários menores de idade que utilizem o iMessage como parte de uma conta do Compartilhamento Familiar do iCloud. Com os novos recursos, as crianças e os jovens poderão ficar mais protegidos de abusos e mensagens adultas.
Funcionará assim: nas contas de menores de idade, uma tecnologia de aprendizado de máquina entrará em ação para identificar, no próprio dispositivo, conteúdos pornográficos ou impróprios enviados às crianças pelo iMessage. Caso o sistema detecte um conteúdo inapropriado, a imagem será exibida borrada e com um alerta de que aquele arquivo pode conter conteúdo sensível.
Caso a criança toque no botão “Ver imagem”, o iMessage explicará a razão para aquele conteúdo ser considerado sensível. Para crianças abaixo dos 13 anos, se o jovem usuário quiser ainda assim conferir o arquivo, seus responsáveis no Compartilhamento Familiar do iCloud receberão uma notificação avisando sobre o evento.
Ainda para menores de 13 anos, o sistema poderá avisar caso eles enviem mensagens inapropriadas para outras contas. Todos os recursos serão opcionais e deverão ser ativados nas contas dos responsáveis no Compartilhamento Familiar do iCloud.
Siri e Spotlight
Por fim, os dois sistemas de busca da Apple (a Siri e o Spotlight) ganharão melhorias para orientar com mais propriedade adultos e jovens sobre como se proteger do abuso infantil online e como denunciar o compartilhamento de conteúdos ilegais.
Todas as novidades contra o abuso infantil serão liberadas primeiramente nos Estados Unidos, ainda neste ano, e deverão ser expandidas para outros países posteriormente. Vejamos, portanto, as reações e os desdobramentos a partir deste anúncio.
