Como temos acompanhado nesses últimos meses, soluções como o ChatGPT mostram o estado de relativo avanço em que se encontram sistemas que usam inteligência artificial. Todavia, conforme também demonstram erros cometidos por esses sistemas, um desenvolvimento desordenado de IA pode trazer consequências danosas em diversos aspectos.
Foi pensando nisso que a carta aberta “Pausem Experimentos Gigantes com IA” (“Pause Giant AI Experiments”), do Instituto Future of Life, foi publicada. O texto tem como signatários grandes nomes do mercado de tecnologia, como Steve Wozniak (cofundador da Apple), Elon Musk (CEO1Chief executive officer, ou diretor executivo. da Tesla, da SpaceX e do Twitter), Yuval Noah Harari (autor de “Sapiens”), e Jaan Tallinn (cofundador do Skype).
A carta lembrou os potenciais riscos que sistemas com IA representam, bem como as mudanças no mundo que eles podem ocasionar. Por isso, deveria haver um grande nível de planejamento e cuidado com essas novas tecnologias, algo que não está sendo observado atualmente, justamente devido à “corrida descontrolada” pelo desenvolvimento e pela adoção dessas soluções.
O texto ressaltou, ainda, que sistemas poderosos de IA “devem ser apenas desenvolvidos quando estivermos confiantes de que seus efeitos serão positivos e os riscos gerenciáveis”, de modo a lidar de maneira adequada com as incertezas impostas pela tecnologia em áreas como empregabilidade, cognição e até mesmo controle civilizacional.
Relembrando um posicionamento da OpenAI (criadora do GPT-3 e do GPT-4), a carta também afirmou que o “momento indefinido” de começar a exigir revisão independente e limitar o crescimento da computação usada nesses modelos já chegou, chamando a atenção para a necessidade de se agir logo.
Dessa forma, pede-se uma pausa de pelo menos seis meses no desenvolvimento de sistemas mais poderosos que o GPT-4. A ideia não é interromper a evolução da tecnologia em geral, mas dar um passo atrás, de modo que se consiga desenvolver protocolos que garantam a segurança dos sistemas além de uma “dúvida razoável”, bem como que eles possam ser auditados. Caso isso não seja feito rapidamente, pede-se ainda uma moratória instituídas por governos.
Junto a isso, a carta sugeriu que se acelere a criação de sistemas de governança de IA. Eles devem incluir capacidades regulatórias e de vigilância em relação à capacidade computacional, bem como maneiras de distinguir criações humanas das advindas de máquinas, com certificações e instituições voltadas a isso e para lidar com as problemáticas relacionadas.
Assim, seguindo essas recomendações, será possível colher os frutos da IA em benefício de todos, conclui o texto. Dessa forma, um “verão da IA” como forma de dar um passo atrás, como dito, seria bastante importante, de acordo com a carta, para viabilizar essas ideias e não apressar-se de forma despreparada em direção a um “outono de IA”.
A título de curiosidade, em 2003, nos primórdios da internet, quando a rede era bastante diferente de como a conhecemos hoje, aconteceu uma reunião bastante importante para a formulação de princípios: a Cúpula Mundial sobre a Sociedade da Informação. Neste momento, assim como em 2003, pode-se imaginar, conforme a carta, que há uma janela de oportunidade para criar princípios mínimos para IA e evitar consequências negativas generalizadas no mundo.
A carta está aberta para apoio, bastando acessar essa página para ler o texto na íntegra e adicionar seu nome à lista de signatários, se você desejar.
via AppleInsider
Notas de rodapé
- 1Chief executive officer, ou diretor executivo.
