Há uma preocupação crescente com a segurança do sistema de identificação de voz oferecido pelo governo australiano. De acordo com denúncia da imprensa da Austrália, as vozes geradas por inteligência artificial (IA) têm sido capazes de contornar a infraestrutura de segurança e obter acesso a informações pessoais dos australianos.
Pode o sistema de identificação de voz ser realmente seguro?
A inteligência artificial é um conjunto de comandos gerados por computador que pode imitar as ações e a inteligência humanas. Desde 2022, os produtos em torno desta tecnologia têm sido adotados cada vez mais em várias indústrias-chave, de medicina, atendimento ao cliente até a geração de energia.
Mas na mesma medida em que aumenta a adoção de IA, cresce também o número de casos de mal uso da tecnologia. Desta vez, a preocupação vem da Austrália.
De acordo com uma investigação realizada pelo Guardian da Austrália, uma voz gerada por IA pode acessar dados pessoais dos indivíduos cadastrados no Centrelink e no Australian Tax Office (ATO), o escritório de impostos australiano.
A IA é treinada para soar como uma pessoa específica e pode então ser usada para burlar o sistema de autenticação ‘voiceprint’ instituído tanto pelo ATO como pelo Centrelink para verificar a autenticidade do usuário.
Com isto, qualquer pessoa pode acessar os serviços bancários telefônicos de outra pessoa no exterior, pagamentos de benefícios e até mesmo obter documentos confidenciais via correio. Além disso, esta impressão de voz dá acesso a concessões de substituição ou cartões de saúde.
7,1 milhões de australianos usam impressão de voz no escritório de impostos do país
Ao fornecer contexto ao serviço de impressão de voz do ATO e Centrelink, a plataforma o descreve como uma representação digital do som, ritmo, características físicas e padrões de voz de um usuário. A impressão de voz é um dos mecanismos favoritos para verificação de identidade.
Mais de 3,8 milhões de australianos que são clientes do Centrelink utilizam este serviço. Outros 7,1 milhões já verificaram sua voz usando este serviço com o ATO.
Para verificar estas reivindicações, um correspondente do Guardian Austrália enganou a conta de autoatendimento da Centrelink usando esta voz gerada por IA e conseguiu obter o número de referência de seu cliente.
No website, Services Australia – um departamento do governo que supervisiona a plataforma Centrelink, disse que o serviço é seguro, preciso e confiável.
A equipe da plataforma disse que é bastante difícil acessar as informações pessoais de um usuário. E que o sistema é capaz de decifrar quando alguém está fingindo ser outra pessoa ou usando uma gravação de sua voz.
Governo australiano diz que sistema de identificação de voz é seguro
Quando contatados para comentários sobre a situação alarmante, a Services Australia não forneceu uma resposta sobre se a tecnologia de impressão de voz será alterada ou removida da plataforma Centrelink.
Entretanto, um porta-voz, Hank Jongen, observou que o Services Australia ”tem a capacidade de avaliar os riscos e atualizar os processos continuamente” e que a tecnologia de impressão de voz é um método de autenticação altamente seguro do qual o serviço Centrelink depende.
Jongen também disse que a plataforma procura continuamente ameaças e, se alguma atividade incomum for descoberta, testes adicionais serão iniciados para verificar ainda mais a identidade do usuário.
Aumenta oferta de aplicativos de clonagem de voz disponíveis na internet
Os bancos comerciais que dependem do sistema de verificação de identidade de voz também são suscetíveis a este hack. Um exemplo clássico é o Bank Australia, que usa esta tecnologia para conversar com os clientes por um mecanismo que reduz o tempo necessário para verificação.
Um porta-voz do banco declarou que a instituição financeira trabalha de perto com seus parceiros tecnológicos “para monitorar e melhorar continuamente seus sistemas a fim de ficar à frente de novas ameaças”. Um de seus parceiros tecnológicos, Nuance, abordou a questão das “vozes sintéticas” em torno de detalhes sensíveis.
Em um post no blog de fevereiro, a empresa de tecnologia declarou que seus sistemas poderiam detectar com precisão e sinalizar o uso de vozes clonadas em 86% e 99% dos casos, dependendo do sistema utilizado.
Um número crescente de aplicativos de clonagem de voz está se tornando facilmente disponível na internet. Alguns podem ser acessados gratuitamente, enquanto outros cobram uma pequena taxa pela utilização da plataforma.
Embora as gravações possam diferir com base na qualidade, os usuários que têm sua voz em redes de mídia social podem facilmente ter sua identidade ligada a esses aplicativos de clonagem.
IA é uma das indústrias que mais cresce. LinkedIn aderiu recentemente
Polêmicas à parte, inteligência artificial é uma das indústrias que mais cresce, com uma infinidade de gigantes da tecnologia e do comércio eletrônico lançando serviços focados em IA.
Uma dessas empresas é a rede profissional de mídia social LinkedIn, que lançou uma ferramenta de redação de perfil AI para seus clientes.
LinkedIn passou a ser a primeira rede de mídia social com capacidades de inteligência artificial. Como parte da estratégia para se diferenciar dos concorrentes, a plataforma de redes profissionais lançou uma ferramenta de redação de perfil IA – o primeiro serviço completo entre as plataformas de redes sociais.
Em março, a LinkedIn anunciou o lançamento de sua linha de serviços de IA voltada para a redação de perfis. A ferramenta alavancará os mais recentes e avançados modelos OpenAI GPT para ajudar os usuários e os que procuram emprego a gerar sugestões de redação personalizadas.
Espera-se que a nova ferramenta de IA funcione identificando as habilidades e experiências mais importantes nas seções About e Headline dos usuários. Depois disso, gere sugestões autênticas e poderosas para permitir que o perfil se destaque.
IA criará perfis para quem procura emprego na rede LinkedIn
A ferramenta de inteligência artificial assumirá a tarefa de criar peças de perfil, economizando tempo e energia para os usuários. Entretanto, estas sugestões de perfil alimentadas por IA não serão a solução final.
De acordo com o LinkedIn, os usuários ainda terão uma mão no processo e poderão editar as sugestões de perfil para manter sua identidade e tom preferido.
Por enquanto, o serviço de redação do perfil IA estará disponível para um número limitado de assinantes do LinkedIn Premium, antes de ser expandido para todos os outros usuários nos próximos meses.
IA tanto para procurar emprego como para contratação de empregados
Ao considerar a dificuldade em discriminar e comunicar adequadamente as melhores habilidades e experiências, uma ferramenta de redação de perfis alimentada por IA tem suas vantagens.
Nesta esfera, o LinkedIn também lançou recentemente um serviço colaborativo de artigos de IA para permitir o início de conversas criadas pela equipe editorial do LinkedIn.
A rede social usará então o Gráfico de Habilidades do LinkedIn para combinar cada artigo com um especialista relevante, o qual fornecerá informações adicionais sobre o tópico discutido.
Desta forma, os usuários podem aprender uns com os outros e obter feedback de outras pessoas sem se preocupar como eles podem quebrar o gelo ou dar o primeiro passo.
Outra ferramenta de IA do LinkedIn é a de descrição de trabalho alimentada por IA que permite aos usuários escreverem seus resumos mais rápido e melhor.
Os usuários do LinkedIn só precisam inserir informações básicas, título de emprego e nome da empresa. A ferramenta irá então proceder para criar uma descrição de trabalho em segundos. O usuário também mantém a opção de editar e alterar a descrição do cargo até que atinja seu resultado esperado.
Outras empresas lançando ferramentas IA incluem Microsoft
As ferramentas de IA estão fluindo rapidamente para o mercado, com gigantes da tecnologia como Microsoft e Meta interagindo diretamente com a indústria em expansão.
A Microsoft lançou recentemente seu conjunto de ferramentas de inteligência artificial chamado 365 Dynamics Copilot. De acordo com a empresa de software, a frota de ferramentas de inteligência artificial fornecerá assistência interativa e alimentada por IA em várias funções comerciais.
Essas funções comerciais terão como alvo atividades de vendas, serviços, marketing, operações e cadeia de suprimentos. Ao mesmo tempo em que fornece mais informações, a Microsoft declarou que sua ferramenta de IA ajudaria os departamentos de vendas a escrever e-mails para seus clientes em tempo recorde e a criar resumos de e-mails de uma reunião de equipe no Outlook.
A ferramenta de inteligência artificial de atendimento ao cliente ajudará a elaborar respostas contextuais tanto para e-mail quanto para bate-papo, assim como oferecerá experiências de bate-papo interativo para suas bases de conhecimento.
A lista continua e mostra o enorme impacto potencial que a IA terá em nossa maneira de trabalhar e viver.