Nesta que é uma decisão histórica, o Parlamento Europeu votou e aprovou, na passada quarta-feira, dia 13 de março, esmagadoramente, a adoção do primeiro conjunto abrangente de regras destinadas a regulamentarem o setor em rápido desenvolvimento da inteligência artificial. Contudo, o que realmente esta legislação irá representar para pessoas e empresas?
Acima de tudo, esta nova “Lei da IA”, como é reconhecida, estabelece um quadro baseado no risco para regular a utilização de sistemas de IA, em todo o bloco económico de 27 nações, conhecido como a União Europeia. Com 523 votos a favor, 46 contra e 49 abstenções, o Parlamento deu o seu selo final de aprovação à tão esperada legislação. Isto surge na sequência de anos de negociações e de um acordo político provisório alcançado em dezembro entre os co-legisladores da UE.
O que vai mudar com a Legislação de IA na UE?
Com grandes líderes europeus a comentarem abertamente esta decisão, percebe-se que o mercado IA já não será o “velho oeste”, em termos de regulamentação e adoção. “A Europa é agora um criadora de padrões globais em IA”, proclamou Thierry Breton, o Comissário Europeu para o Mercado Interno. Porém, o que realmente tal significa na prática?
Parliament has approved the Artificial Intelligence Act that aims to ensure safety and compliance with fundamental rights, while boosting innovation.
Find out more: https://t.co/zUkjfl49Gg pic.twitter.com/RINidgBwhO
— European Parliament (@Europarl_EN) March 13, 2024
Portanto, entende-se que o objetivo desta “Lei da IA” é de se estabelecer barreiras de proteção, criando um ecossistema de inteligência artificial confiável e que proteja os direitos fundamentais e incentive a inovação. Ao mesmo tempo, esta legislação adota uma abordagem baseada no risco, categorizando os sistemas de IA desde riscos inaceitáveis – que seriam totalmente proibidos. Isto até aplicações de alto risco, que enfrentam requisitos rigorosos, até utilizações de baixo risco com supervisão limitada.
Líderes Políticos já comentaram publicamente decisão histórica
De facto, entretanto, Dragos Tudorache, membro do parlamento da Roménia, comentou:
“A Lei da IA empurrou o futuro da IA numa direção centrada no ser humano. Ou seja, numa direção onde os humanos estão no controlo da tecnologia e onde esta – a tecnologia – ajuda-nos a alavancarmos novas descobertas, o crescimento económico, o progresso social e desbloquear o potencial humano”.
Além disso, diferentes analistas fizeram questão de deixarem as suas opiniões face a esta nova legislação, que as empresas, com sede europeias, terão agora que considerar:
“A adoção da Lei da IA marca o início de uma nova era da IA e a sua importância não pode ser exagerada”, disse Enza Iannopollo, analista da Forrester. “A Lei da IA da UE é o primeiro e único conjunto de requisitos vinculativos do mundo para mitigar-se os riscos de IA”, comentou ainda.
O que a Lei de IA fará em concreto?
Atualmente, certos usos de IA receberam uma avaliação de tão arriscados e antiéticos que esta “Lei da IA “ proíbe-os totalmente. Isto incluem sistemas de IA para vigilância indiscriminada, exploração de grupos vulneráveis como crianças e práticas pseudocientíficas como a frenologia.
Exemplos de Proibição do Uso de IA na UE
Além disso, os sistemas de pontuação social, que avaliam a confiabilidade das pessoas com base no seu comportamento social ou opiniões estabelecidas também fazem parte da lista de proibições. O mesmo se aplica aos sistemas de identificação biométrica remota. Isto em tempo real utilizados em espaços públicos para aplicação da lei. Embora apliquem-se algumas excepções para questões como a prevenção de ataques terroristas ou a localização de crianças desaparecidas.
Diferentes adoções de IA serão limitadas na UE
No outro extremo do espetro, as aplicações de IA consideradas de alto risco devem cumprir requisitos rigorosos, antes de obterem comercialização ou colocadas em utilização. Estes incluem os seguintes exemplos práticos:
- Sistemas automatizados, implantados em áreas como educação, contratação, saúde, transporte Aplicação da lei e gestão de migração
- Práticas em infra-estruturas críticas
Portanto, os desenvolvedores de sistemas de IA de alto risco deverão realizar avaliações rigorosas de riscos e testes de mitigação. Logo, implementarem medidas robustas de supervisão humana, garantindo que os seus dados de treino sejam de alta qualidade e sigam regras, fornecendo instruções de uso claras e muito mais. Ao mesmo tempo, estes sistemas devem ser projetados tendo em mente a segurança e a privacidade desde o seu início.
Qual a Legislação mais abrangente para IA generativa?
Na verdade, um dos focos principais da “Lei de IA” é de esta regular a crescente indústria de IA generativa, que atraiu a atenção global com ferramentas como o ChatGPT. Até porque estas são agora capazes de produzirem texto, imagens, áudio e conteúdo de vídeo semelhantes aos humanos. Isto a partir de simples prompts de texto.
Aliás, o próprio co-relator desta histórica legislação, Dragos Tudorache, garantiu que as disposições que regem os modelos generativos de IA eram partes da legislação fortemente pressionadas. Isto com as empresas a defenderem os requisitos de transparência, em torno dos seus dados de formação e construção de modelos.
Com a IA generativa está incorporada nesta Legislação?
De acordo com estas regras recentemente adotadas, os fornecedores de modelos de IA, de uso geral, deverão divulgar material protegido por direitos de autor. Este que será utilizado para formação e cumprir as leis de direitos de autor da UE. Portanto, os modelos considerados “altamente arriscados” são aqueles que utilizam enorme poder computacional acima de 10^25 FLOPs. Estes enfrentarão requisitos mais rigorosos de avaliação de riscos e mitigação.
Para além disso, algumas estipulações também forçam as empresas a monitorizarem conteúdo gerado por IA, como “deepfakes” de pessoas e eventos reais. Este conteúdo deve ser claramente rotulado como produzido artificialmente.
“… promovemos a ideia de transparência, especialmente para materiais protegidos por direitos autorais. Isto porque pensamos que é a única maneira de dar efeito aos direitos dos autores em tod a parte.”, acrescentou Tudorache.
Quando a Lei de IA será aplicada?
Embora as violações de práticas proibidas de IA possam gerar multas de até 35 milhões de euros ou 7% da receita anual global de uma empresa (o que for maior), a sua aplicação será um próximo passo crucial. Ao mesmo tempo que terá de ser conhecido atempadamente pelas próprias empresas.
The AI Act has been fully adopted! Now on to the important part – implementation. pic.twitter.com/i3kxCeGO0O
— Dragoș Tudorache (@IoanDragosT) March 13, 2024
Assim, cada estado membro da UE estabelecerá um órgão de vigilância nacional da IA. Isto para receber reclamações dos cidadãos e penalizarem as empresas que violem estas regras. Além disso, a Comissão Europeia também criará um Gabinete de IA para policiar as regras. Especificamente para modelos de uso geral de alto risco, como o ChatGPT.
Qual data esta nova Lei de IA na Europa entrará em vigor?
Ao que foi apontado, espera-se que esta legislação entre oficialmente em vigor 20 dias. Após a sua publicação no “Jornal Oficial”, da UE, em maio ou junho. Logo, seguindo etapas processuais como a tradução para todas as línguas da UE.
No entanto, a sua plena implementação não ocorrerá imediatamente, uma vez que a aplicação de muitas destas disposições exigirá o estabelecimento e financiamento de novas instituições, a contratação de pessoal chave e a elaboração de políticas e procedimentos.
Assim sendo, o primeiro subconjunto de disposições, que proíbem sistemas de IA com riscos inaceitáveis, será aplicado seis meses após a entrada em vigor da lei. Enquanto que as regras, que visam especificamente modelos de IA, como o ChatGPT, entrarão em vigor 12 meses depois. Sabendo-se que os requisitos para sistemas de alto risco entrarão em vigor dois anos após a aprovação da legislação. Portanto, até meados de 2027, toda a “Lei da IA” deverá ser totalmente implementada nos países-membros da UE.
Espera-se que os esforços regulatórios de IA tenham apenas começado
De facto, embora esta legislação marque um passo pioneiro, esta “Lei da IA” é somente vista como o início de esforços mais amplos para construir uma governação em torno da inteligência artificial. Isto à medida que a tecnologia evolui rapidamente. De tal forma que estes legisladores reconheceram que o projeto de lei é apenas o começo de uma longa jornada que visa regulamentar uma tecnologia inovadora, com o poder de mudar a sociedade para sempre.
De notar que Brando Benifei, outro co-relator da lei, enfatizou a necessidade de legislação adicional que rege a implantação da IA. Isto incluindo diretivas para o local de trabalho, salientando também a importância de um maior investimento da UE na investigação em IA e no poder computacional, para promover a inovação e a competitividade.
Nova Lei IA irá ter impacto fora da Europa?
Ao que tudo indica, há também apelos a uma maior cooperação internacional e interoperabilidade na gestão da IA entre nações democráticas com ideais e valores semelhantes.
“Ainda temos o dever de tentar ser o mais interoperáveis possíveis. Ou seja, estarmos abertos à construção de uma governação com o maior número de democracias e com o maior número de parceiros que pensam da mesma forma”, insistiu Tudorache. “… a tecnologia é uma só, independentemente do quarto do mundo em que esteja. Portanto, temos que investir na integração deste elemento, numa estrutura que faça sentido.”
Lei de IA demorou 3 anos, apesar dos intensos esforços de lobby
Sabe-se que a Comissão Europeia propôs pela primeira vez a Lei da Inteligência Artificial em abril de 2021, como parte da sua abordagem mais ampla para promover o desenvolvimento de uma IA segura e fiável. Contudo, seguiram-se mais de dois anos de intensas negociações e lobby. Enquanto os legisladores moldavam e alteravam o que se tornaria o primeiro conjunto de regras abrangente do mundo para sistemas de IA.
Concluiu-se agora que este processo revelou tensões entre a promoção da inovação e da competitividade na região neste domínio emergente. Ao mesmo tempo, a defesa dos valores fundamentais do bloco em torno dos direitos humanos, da privacidade, da transparência e da ética. Algumas startups europeias de IA e grandes empresas de tecnologia, como a Microsoft (MSFT) e a Alphabet (GOOG), fizeram forte lobby contra requisitos rigorosos que temiam que pudessem prejudicar o desenvolvimento e a comercialização de IA generativa.
Segundo os testemunhos dos responsáveis por esta legislação, o compromisso final pretendia equilibrar estes interesses através da criação de um quadro escalonado e baseado no risco que visasse a supervisão apenas nas aplicações de IA de maior risco. Deixando ao mesmo tempo ampla margem para inovação em áreas de menor risco.
O que esta Legislação irá indicar-nos no futuro da IA nas Empresas?
De facto, este marco da “Lei da IA” teve construção há anos, aproveitando a contribuição de especialistas de empresas de IA, grupos da sociedade civil, académicos e outros. Portanto, coloca a UE na vanguarda de uma corrida que procura estabelecer padrões de governação global para a IA. Isto à medida que a tecnologia “insere-se” em mais esferas da vida quotidiana. Desde a educação aos transportes, aos cuidados de saúde e muito mais.
Perante a análise dos especialistas, embora esta legislação subestime os desafios, no que diz respeito à implementação e coordenação internacional da lei. Este voto decisivo do Parlamento Europeu marca uma nova era de novas regras pioneiras para garantirem que a inteligência artificia desenvolve-se em conformidade com os princípios democráticos e os valores humanos fundamentais.