Começam a surgir cada vez mais dúvidas sobre uma tecnologia de segurança de Inteligência Artificial (IA) conhecida como sistema de identificação por voz, e que está atualmente implementada nos sistemas do governo australiano. De acordo com várias fontes, a geração de voz por IA foi o suficiente para contornar a infraestrutura de segurança de sistemas daquele Estado e ganhar acesso a dados sensíveis de cidadãos australianos.
Não há sítios seguros
A Inteligência Artificial (IA) apoia-se numa série de ações geradas por computador que conseguem imitar ações e inteligência humana. Desde que entrou nos holofotes dos média em 2022 que os produtos que recorrem à IA têm tido adoção em massa em variadíssimas indústrias, desde a medicina, ao Apoio ao Cliente e à energia. Contudo, um número cada vez maior de casos tem também revelado utilizações sinistras da IA.
De acordo com uma investigação desenvolvida pelo Guardian Australia, uma voz gerada por IA pode agora aceder aos detalhes pessoais de qualquer pessoa no Centrelink e da Finanças Australianas (ATO). Esta IA foi treinada para que a voz robótica se parecesse, na verdade, com a voz de uma pessoa específica registada naqueles sistemas, e com isso conseguiu contornar a autenticação por voz (voiceprint) instituído tanto pelas Finanças como pelo Cetrelink, e que permitia fazer a autenticação de todos os utilizadores.
Com este efeito, qualquer pessoa poderia passar a aceder aos serviços bancários de terceiros via remota e em qualquer lado, também a pagamentos da segurança social, e até a documentos sensíveis via email. Além disso, o voiceprint dá acesso a cartões saúde e outros benefícios.
Para percebermos melhor como funciona o serviço de autenticação por voz no Centrelink nas Finanças da Austrália, é de referir que a voz de qualquer pessoa é um dado biométrico único como as impressões digitais, tendo um som próprio, ritmo, características físicas e padrões que só um utilizador pode reproduzir. A tecnologia do voiceprint é um mecanismo muito cómodo para a autenticação de pessoas, com mais de 3,8 milhões de Australianos que são clientes do Centrelink a utilizarem atualmente este serviço. Além disso, mais de 7,1 milhões já fizeram a sua verificação por voz recorrendo a este serviço nas Finanças.
O Guardian Australia foi verificar este caso com um correspondente que tomou contacto com os responsáveis pelo hacking com IA nos sistemas de Centrelink, obtendo número de referência de clientes.
No seu website, o Services Australia – um departamento do governo que faz a gestão da plataforma de Centrelink – referiu que o seu website é seguro, preciso e confiável. Também é dito na plataforma que é muito difícil aceder a informação pessoal dos utilizadores registada nas bases de dados.
Veja também por que alguns dos melhores robôs trader do momento estão a aproveitar esta tecnologia IA para dar mais vantagens aos investidores.
“Tudo está seguro”
Quando contactados acerca da situação alarmante demonstrada por aquele hacking de IA, o Services Australia decidiu não responder sobre se a tecnologia de voiceprint seria removida ou alterada na plataforma de Centrelink.
Contudo, um responsável da organização, Hank Jongen, referiu que o Services Australia “tem a capacidade de testar riscos e atualizar processos de forma contínua”, e que a tecnologia de voiceprint oferece um sistema de autenticação altamente seguro e em que a Centrelink está apoiada. Jongen também referiu que a plataforma prepara-se continuamente para evitar ameaças, e que se qualquer atividade ameaçador for descoberta, testes adicionais começam a ser postos em prática para a verificação da identidade de um utilizador.
Os bancos comerciais que neste momento dependem de sistemas de verificação de identidade por voz ficam assim também suscetíveis a este hack. Um exemplo clássico é o Bank Australia, que tem implementada esta tecnologia por voz no seu Apoio ao Cliente para acelerar o processo de verificação de apoio aos seus clientes.
Um representante daquele banco fez notar que as instituições financeiras trabalham de forma próxima com parceiros tecnológicos para monitorizar e melhorar de forma contínua o sistema, de modo a estarem um passo à frente das novas ameaças. Um dos seus parceiros, a Nuance, abordou o problema das “vozes sintéticas” que acedem a dados sensíveis.
Numa publicação de um blogue em fevereiro, a empresa tecnológica referiu que os seus sistemas podem detetar e denunciar com precisão vozes clonadas em 86% a 99% das vezes, dependendo do sistema usado.
Um número cada vez maior de aplicações de clonagem por voz estão a surgir pela internet. Algumas podem até ser usadas gratuitamente, enquanto outras cobram pequenas taxas para a sua utilização. Ainda que aquelas gravações possam diferir quanto à qualidade, os utilizadores que deixem a sua voz nas redes sociais podem facilmente tornar-se alvos destas apps de clonagem de voz.
Robôs como o Bitcoin 360 AI podem representar vantagens únicas graças à implementação da Inteligência Artificial. O mundo da inteligência das máquinas está-se a impor e a demonstrar não só as fragilidades mas também as oportunidades deste novo setor.