No Reino Unido, autoridades estão preocupadas de que criminosos ou terroristas possam usar a inteligência artificial para causar destruição em massa. Algumas pessoas ao redor do primeiro-ministro Rishi Sunak temem que a tecnologia em breve seja poderosa o suficiente para ajudar a criar armas biológicas e escapar completamente do controle humano.
+ Quer saber mais sobre inovação? Entre no grupo de Época NEGÓCIOS no WhatsApp
Este tema, inclusive, será debatido durante a cúpula de IA que será realizada em Bletchley Park, em novembro, e contará com a presença de líderes mundiais, incluindo o presidente da França Emmanuel Macron, o primeiro-ministro do Canadá Justin Trudeau e a presidente da Comissão Europeia Ursula von der Leyen.
Inteligência Artificial:
“O objetivo da cúpula será alertar sobre os riscos da ‘frontier IA” (IA de fronteira), é nisso que Downing Street está se concentrando mais neste momento”, disse uma pessoa informada sobre as conversas do encontro ao jornal The Guardian – frontier AI é um termo usado para se referir aos modelos de IA mais avançados que podem ser perigosos o suficiente para representar um risco à vida humana.
Em comunicado, o governo britânico relatou que há duas áreas nas quais o encontro se concentrará: riscos de uso indevido, por exemplo, quando um malfeitor é auxiliado por novas capacidades de IA em ataques biológicos ou cibernéticos, e riscos de perda de controle que poderiam surgir de sistemas avançados.
A reportagem do The Guardian destaca que as autoridades ficaram alarmadas com alguns casos envolvendo da tecnologia. Por exemplo, no ano passado, uma ferramenta de IA levou apenas seis horas para sugerir 40 mil moléculas potencialmente letais diferentes, algumas das quais eram semelhantes ao VX, o agente mais potente já desenvolvido.
Já no início deste ano, pesquisadores descobriram que o ChatGPT, da OpenAI, era capaz de mentir para atingir um objetivo específico – o chatbot convenceu uma pessoa a resolver uma ferramenta “Captcha” projetada para eliminar robôs online depois de dizer que era alguém com deficiência visual e que precisava de ajuda para acessar um site.
Preocupações crescentes
Fontes governamentais do Reino Unido temem que um criminoso ou terrorista possa usar a IA para ajudá-lo a descobrir os ingredientes de uma arma biológica e enviá-los para um laboratório robótico, onde poderão ser misturados e despachados sem qualquer supervisão humana.
Alguns acreditam que esse risco aumentará exponencialmente em breve, à medida que as empresas gastam centenas de milhões de libras em processadores muito mais poderosos para treinar a próxima geração de ferramentas de inteligência artificial.
Outra preocupação significativa é o surgimento da “inteligência artificial geral” (AGI na sigla em inglês), um termo que se refere a um sistema de IA que pode executar de forma autônoma qualquer tarefa a nível humano ou acima do humano.
Diante disso, as autoridades britânicas têm viajado pelo mundo nos últimos dias para testar a possibilidade de ter um acordo no final da cúpula. Eles desejam conseguir uma declaração formal, que os líderes possam assinar posteriormente, bem como um compromisso de realizar outros encontros semelhantes no futuro.
Quer conferir os conteúdos exclusivos de Época NEGÓCIOS? Tenha acesso à versão digital.