A Organização Mundial da Saúde (OMS) está lançando novas orientações sobre ética e governança de inteligência artificial (IA). As orientações são especificamente voltadas para as IAs generativas de rápido crescimento com aplicação nos cuidados de saúde.
A orientação recém-divulgada conta com mais de 40 recomendações. A ideia é considerá-las por governos, empresas de tecnologia e trabalhadores da área da saúde. O objetivo da organização é dar diretrizes para o uso de boas práticas no uso de IA. Com isso, promover a saúde e proteger a população do uso indevido de tecnologia.
As medidas precisam entrar em vigor rapidamente pelos destinatários, especialmente devido ao aumento do uso de IA na área da saúde.
Sobre o uso de IAs na área da saúde
Atualmente, a tecnologia ganhou tanta expressividade que as IAs sevem para quase tudo. A maior parte das ferramentas entra em jogo para tarefas difíceis para os humanos. Atividades que são muito repetitivas e cansativas também são alvo das IAs. Além disso, as ferramentas podem passar por treinamento com diversos tipos de dados e informações. Como, por exemplo, textos, vídeos e imagens.
Ou seja, as IAs são ferramentas capazes de aprender com base nos comandos humanos. As IAs são capazes de executar diversas atividades humanas, como, por exemplo, de imitar a comunicação e executar tarefas para as quais não foram inicialmente programadas. Um dos exemplos mais populares de IA com essas funções são os tipos de ChatGPT. Essas ferramentas fazem parte da OpenAI. Eles aprendem com as perguntas dos usuários e são capazes de dar respostas cada vez mais rápidas e assertivas. O sucesso das ferramentas da OpenAI é tão grande, que até uma loja online está sendo lançada para aumentar o alcance das ferramentas.
No campo da saúde, as IAs generativas são capazes melhorar as rotinas de cuidado, não só para pacientes que já desenvolveram doenças. As ferramentas podem ajudar no cuidado rotineiro, como fomento de hábitos mais saudáveis e prática de exercícios físicos. No entanto, é preciso considerar as questões éticas, assim como, uma gestão transparente na criação e adoção das IAs.
Benefícios esperados com o uso de IA na saúde
Com base nas recomendações da OMS, cinco aplicações são possíveis para o uso de IA na área da saúde. Segundo a organização, essas ferramentas podem ajudar no diagnóstico rápido e agilizar as rotinas nos centros de saúde.
As aplicações são:
- Pesquisa científica voltada para o desenvolvimento de novos medicamentos. Permitindo, inclusive, a identificação de novos compostos medicamentosos;
- Diagnóstico e atendimento clínico, especificamente voltado para o atendimento online, respondendo dúvidas por escrito dos pacientes;
- Ferramentas de educação e atualização médica e de enfermagem, podendo incluir aos estagiários a vivência de prática em realidade virtual;
- Tarefas administrativas em geral, aumentando a produtividade dos profissionais de saúde, que não precisam se preocupar com isso.
As ferramentas recomendadas pela OMS podem aumentar a eficácia dos atendimentos na área da saúde, especialmente em grandes centros. Ou ainda, no caso do SUS, agilizar as rotinas para grandes demandas. No entanto, existem riscos ao considerar o uso de IAs. A OMS também tratou tais riscos nas recomendações recém-publicadas.
Riscos levantados pela OMS
Os riscos previstos nas recomendações da OMS estão ligados à atuação das máquinas de forma automatizada, sem o critério de avaliação humana para casos específicos. Portanto, os riscos maiores são atinentes a documentos, como declarações falsas, tendenciosas ou com informações imprecisas. Com isso, a tomada de decisões por parte dos profissionais de saúde podem ser prejudicadas.
Os custos das ferramentas e do treinamento também podem ser um problema. As IAs são tecnologias novas, portanto, tendem a custar muito para serem implementadas. Além disso, um treinamento mal-executado pode encorajar um “viés de automação”, fazendo com que a ferramenta se torne potencialmente perigosa. Isso pode ser impulsionado por preferências da equipe de saúde, que tendem a treinar efetivamente a máquina com o uso diário.
Além disso, a preocupação com vazamentos de dados também está presente nas recomendações da OMS. Um eventual ataque cibernético ou vazamento intencional de dados pode pôr em risco o tratamento dos pacientes e também da equipe de saúde.
Principais recomendações da OMS
Veja as principais recomendações constantes no documento publicado pela OMS:
- Os estados e desenvolvedores devem investir ou fornecer infraestrutura pública ou sem fins lucrativos, com a inclusão de poder computacional e conjuntos de dados públicos e que seja acessível aos desenvolvedores nos setores públicos. Além disso, devem exigir que os usuários optem por seguir princípios e valores éticos.
- Devem utilizar leis, políticas e regulamentos capazes de garantir que as ferramentas e as aplicações utilizadas nos cuidados de saúde e na medicina cumpram as suas obrigações. Isso vale para questões éticas e os padrões de direitos humanos.
- Os estados devem designar uma agência reguladora existente ou nova para avaliar e aprovar as ferramentas de IA e aplicações destinadas ao uso em cuidados de saúde ou medicina.
- Por fim, devem introduzir auditorias pós-liberação obrigatórias e avaliações de impacto, inclusive para proteção de dados e direitos humanos. As auditorias e as avaliações de impacto precisam ser publicadas e incluir resultados e impactos desagregados por tipo de utilizador, incluindo, por exemplo, por idade, raça ou deficiência.