Na semana passada, a União Europeia marcou um marco histórico com a aprovação final da sua lei sobre IA. Em suma, uma iniciativa pioneira que visa regular o desenvolvimento e a utilização de IA nos seus 27 Estados membros. Porém, qual é o real impacto desta nova lei nas Empresas, que agora terão uma classificação no espetro de IA?
Ora, com uma votação esmagadoramente favorável no Parlamento Europeu, a lei estabelece um precedente global. Ou seja, esta regulamentação oferece um quadro para outros Governos enfrentarem os desafios regulamentares apresentados pela IA. Ao mesmo tempo, as Empresas terão que perceber qual o real impacto desta regulamentação e como poderão preparar-se da melhor forma para aquela que já é apontada como uma nova “Revolução Industrial”.
Sobre o que trata a nova lei da UE sobre IA?
Acima de tudo, a lei de inteligência artificial da União Europeia representa o primeiro conjunto de regras globais abrangentes, que estão destinadas a regular a utilização e o desenvolvimento da IA. Aprovada após cinco anos de deliberações, esta legislação visa garantir que a sua evolução e aplicação sejam seguras, éticas e alinhadas com os direitos humanos e a democracia.
Portanto, esta lei classifica as aplicações de IA de acordo com o seu nível de risco, de baixo a inaceitável, estabelecendo requisitos específicos para cada categoria. Por exemplo, a maioria dos sistemas de IA, como filtros de spam ou sistemas de recomendação de conteúdo, são considerados de baixo risco e estão sujeitos a requisitos voluntários.
Empresas com usos de IA críticos sentirão as mudanças
A partir desta nova lei, as utilizações da IA, que envolvem riscos mais significativos, especialmente em setores críticos, como a medicina e as infraestruturas essenciais, deverão cumprir normas mais rigorosas. Isso inclui o uso de dados de alta qualidade e o fornecimento de informações claras aos utilizadores.
Assim sendo, esta lei proíbe explicitamente certas aplicações de IA, que tenham a avaliação de risco “inaceitável”. Isto devido ao seu potencial para violar os direitos fundamentais. Ora, tal lei obrigará a que os seguintes elementos são rankeados, tais como:
- Sistemas de pontuação social
- Certos tipos de policiamento preditivo
- Reconhecimento de emoções em ambientes como escolas e locais de trabalho
- Entre muitos outros
IA generativa em grande destaque nesta regulamentação
Na verdade, esta lei IA da UE aborda o desafio emergente dos modelos generativos de IA. Tais incluem chatbots, como Gemini ou ChatGPT, que podem produzir respostas e conteúdos altamente realistas. Como consequência, os desenvolvedores destes sistemas de inteligência artificial deverão fornecer resumos detalhados dos dados utilizados, para treinar os seus modelos e cumprir a lei de direitos de autor da UE.
Somando a isso, estes também terão a obrigação de rotularem claramente qualquer conteúdo gerado por IA. Por exemplo, imagens ou áudio, para indicar manipulação artificialmente. Aliás, é precisamente isso que já acontece com os vídeos de produção de conteúdos no Youtube. Muito recentemente, os seus responsáveis anunciaram total transparência nos vídeos que são apresentados como sendo totalmente ou parcialmente gerados por IA.
Exceções à aplicação da lei de IA na União Europeia
Embora a lei proíba, em princípio, a utilização destes sistemas em espaços públicos, foram estabelecidas exceções muito específicas e limitadas para casos que exijam ação imediata para prevenir crimes graves, incluindo:
- Procura por pessoas desaparecidas: as autoridades podem utilizar a identificação biométrica em tempo real para localizarem pessoas desaparecidas, sob condições estritamente regulamentadas.
- Prevenção de ataques terroristas: em situações em que exista uma ameaça iminente de um ataque terrorista, é permitida a utilização de tecnologias de IA para identificarem e prevenirem tais ameaças.
- Investigação de crimes graves: para crimes graves, como sequestro ou terrorismo, é permitida a utilização de identificação biométrica pós-evento. Desde que haja autorização judicial prévia.
Em suma, para se garantir que estas exceções não resultem em abusos ou violações dos direitos humanos, a lei da IA estabelece salvaguardas rigorosas. Estas incluem limitar o uso da tecnologia em termos de tempo e âmbito geográfico. Da mesma forma, a necessidade de obter autorização prévia de entidade judicial ou administrativa competente.
Além disso, a utilização de sistemas de IA nestes contextos é considerada de alto risco. Portanto, implica uma série de obrigações adicionais para as autoridades. Entre eles, transparência, precisão e supervisão humana. Sem dúvida que essa é uma transição que será muito exigente nos primeiros anos.
Aplicação e implementação da Lei de IA nas empresas
Vale a pena notar que a lei deverá entrar em vigor entre maio e junho de 2024. Isto após a conclusão das formalidades finais, incluindo a ratificação pelos países membros da UE. Uma vez oficializadas, as disposições começarão a ser aplicadas em diferentes etapas.
Além disso, as proibições de certos usos de IA considerados inaceitáveis entrarão em vigor seis meses após a entrada desta nova lei. Regulamentos específicos para sistemas gerais de IA, como chatbots, com ativação um ano depois.
Regulador de IA na UE já elaborado
Tendo em conta tudo o que estudamos, instituições da UE concordaram em estabelecer novas infra-estruturas administrativas, incluindo:
- Um Gabinete de IA, que ficará integrado na Comissão e terá a tarefa de supervisionar os modelos de IA mais avançados. Ou seja, contribuindo para a promoção de novas normas e práticas de teste e para fazer cumprir as regras comuns em todos os Estados-Membros da UE. Parece provável que isto se tornará equivalente aos Institutos de Segurança de IA, que foram recentemente anunciados para serem estabelecidos no Reino Unido e nos EUA;
- Um painel científico de especialistas independentes, que aconselhará o AI Office sobre modelos GPAI e sobre o surgimento de modelos GPAI de alto impacto. Assim, contribuirá para o desenvolvimento de metodologias de avaliação das capacidades dos modelos de fundação e monitorizará possíveis riscos de segurança de materiais relacionados com modelos de fundação;
- Um Conselho de IA, composto por representantes dos Estados-Membros da UE, continuará a ser uma plataforma de coordenação e um órgão consultivo da Comissão, contribuindo ao mesmo tempo para a implementação da Lei da IA (por exemplo, elaborando códigos de prática);
- A criação de um fórum consultivo para as partes interessadas para fornecerem conhecimentos técnicos ao Conselho da IA.
Portanto, a referência acima a peritos independentes e fóruns consultivos poderão servir de exemplo para modelos de governação da IA no setor privado. Isto com um envolvimento ativo de partes interessadas externas. Além disso, será interessante ver qual abordagem existirá pelos estados membros para estabelecerem as autoridades locais de IA.
Como esta Lei de IA na UE irá evoluir?
Até para que os empresários possam organizar-se da melhor forma, sabe-se que em meados de 2026, prevê-se que todo o conjunto de regulamentos, incluindo requisitos para sistemas de alto risco, estejam totalmente operacionais. Para garantir a conformidade, cada país da UE criará a sua própria agência de supervisão da IA. Com isto permitindo aos cidadãos apresentarem queixas em caso de potenciais violações. Além disso, a Comissão Europeia criará um Gabinete de IA dedicado à aplicação da lei e à supervisão de sistemas gerais de IA.
Eis um resumo do que esperar desta Lei, já nos próximos meses:
- As violações destes regulamentos podem resultar em multas significativas, até 35 milhões de euros ou 7% do volume de negócios global da empresa infratora.
- Serão introduzidas “sandboxes” regulamentares e testes em ambientes reais a nível nacional, acessíveis especialmente a PME e startups . O objetivo é desenvolver e treinar tecnologias inovadoras de IA antes do lançamento no mercado.
- A lei da IA está alinhada com as sugestões da Conferência sobre o Futuro da Europa. Por conseguinte, centra-se no aumento da competitividade da UE em setores-chave e na promoção de uma sociedade segura.
Da mesma forma, combater a desinformação, garantir a supervisão humana e o uso ético da IA. Além disso, promoverá a inovação digital, estabelecem do medidas de segurança e transparência. Com isto melhorando o acesso à informação para todos, incluindo as pessoas com limitações.
Quais as Conclusões a tirar desta Lei pela sua Empresa?
Enquanto aguarda-se que a Lei da IA seja formalmente adotada (e se torne plenamente aplicável), as Empresas que utilizam ou planeiam utilizar sistemas de IA devem começar a abordar os impactos, mapeando os seus processos e avaliando o nível de conformidade dos seus sistemas de IA com as novas regras. Assim, a Lei da IA é a primeira legislação formal a começar a preencher as lacunas dos princípios éticos e regulamentares aos quais as organizações devem aderir ao implementar a IA.
Logo, a implementação de uma estratégia de governação da IA deve ser o ponto de partida. Ao mesmo tempo, uma estratégia robusta deverá estar alinhada com os objetivos de negócio e identificar áreas dentro do negócio, onde a IA beneficiará mais o objetivo estratégico da organização. Exigirá também o total alinhamento com as iniciativas destinadas à gestão de ativos de dados pessoais e não pessoais, em conformidade com a legislação existente.
Controlo de atividades IA será total
Como consequência, deve ser considerada a implementação de uma estrutura de políticas e processos destinados a garantir que apenas desenvolvedores em conformidade sejam integrados e/ou modelos desenvolvidos ou implantados. Até porque os riscos devem ser devidamente identificados e mitigados, garantindo monitorização e supervisão adequadas ao longo de todo o ciclo de vida do sistema de IA.
Além disso, a aplicação de medidas que vão desde a formação interna até à fiscalização do mercado. Estas podem provavelmente ser desenvolvidas a partir de processos de gestão de riscos existentes – em particular, avaliações de riscos de proteção de dados, due diligence de fornecedores e auditorias.
Como estar o melhor preparado como empreendedor?
Em conclusão a todos estes novos desafios, observe cuidadosamente quais recursos internos e externos são necessários para apoiar as suas atividades. Este marco provavelmente será um “tiro de partida” para a corrida por talentos para profissionais que dominem a “tecnologia deste século”: a IA.
Finalmente, considere a abordagem globalmente. A Lei da IA da UE é pioneira, mas não será a única lei global desenvolvida para abordar os riscos da IA e promover a confiança. Qualquer estratégia verdadeiramente global terá de acomodar os principais requisitos e princípios da Lei da UE sobre IA. Porém, também ser virada para o futuro na forma como outros requisitos regulamentares poderão evoluir.