Limites éticos da Inteligência Artificial na medicina

A regulamentação é importante e muito oportuna considerando o rápido avanço da inteligência artificial em todas as áreas do conhecimento humano, principalmente na área da saúde, possibilitando e facilitando maior precisão nas análises de exames, opção de diagnósticos, organização de prontuários e, de maneira geral, auxiliando decisões clínicas.

Observa-se na referida resolução judicioso cuidado para que o uso da tecnologia não ultrapasse os limites éticos e tampouco substitua os princípios da prática médica.

Dispõe o artigo primeiro que o objetivo da norma é sua utilização em benefício dos pacientes, com estrita observância dos direitos fundamentais nas atividades de pesquisas e desenvolvimento, governança, auditoria, monitoramento e capacitação com responsabilidade para alcançar soluções que adotem modelos, sistemas e aplicações de Inteligência Artificial (IA) na área da medicina,  objetivando promover o desenvolvimento tecnológico e a eficiência dos serviços médicos de modo seguro, transparente, isonômico e ético.

Os princípios bioéticos estão presentes no texto da norma, que dispõe que o uso de modelos, sistemas e aplicações de Inteligência Artificial na medicina devem sempre se orientar pelos princípios da beneficência, da não maleficência, da autonomia, da justiça e da centralidade do cuidado humano.

Merece especial destaque para o princípio da autonomia, estabelecendo a importância do termo de consentimento esclarecido, com o amplo direito do paciente de ser informado, de forma clara e acessível, quando modelos, sistemas e aplicações de IA forem utilizados como apoio relevante em seu cuidado, diagnóstico ou tratamento. E o paciente tem o direito de recusar tratamentos que utilizem sistemas e aplicações de IA.

A utilização de sistemas de Inteligência Artificial pelos médicos está protegida, franqueando seus direitos para empregá-la como instrumento de apoio à prática médica, à decisão clínica, à gestão em saúde, à pesquisa científica e à educação médica continuada.  Também lhe é assegurado o direito de ter acesso a informações transparentes sobre o funcionamento, limitações, riscos e o grau de evidência científica dos sistemas de IA.

A autonomia do médico também está garantida, podendo recusar sistemas de IA que não apresentem validação científica adequada, certificação regulatória pertinente ou que contrariem princípios éticos, técnicos ou legais da medicina.

O médico não poderá ser responsabilizado por falhas atribuíveis exclusivamente a sistemas de IA, desde que comprovado o uso diligente, crítico e ético dessas ferramentas.

Ao lado dos direitos estão os deveres, os muitos deveres que devem ser obedecidos pelo médico, destacando-se entre eles: empregar a IA exclusivamente como ferramenta de apoio; responsabilizar-se pelas decisões finais clínicas, diagnósticas, terapêuticas e prognósticas; exercer julgamento crítico sobre as informações e recomendações fornecidas pela IA, avaliando sua coerência com o quadro clínico, as evidências científicas disponíveis e as boas práticas médicas; manter-se atualizado quanto às capacidades, limitações, riscos e vieses conhecidos dos sistemas de IA utilizados; utilizar apenas sistemas de IA que atendam às normas éticas, técnicas, legais e regulatórias vigentes no território nacional; registrar no prontuário do paciente o uso de sistemas de IA como apoio à decisão médica, dentre outras.

A Resolução CFM nº 2.454/2.026, ao admitir a imprescindibilidade da IA, reconhecer e regulamentar o uso da tecnologia na saúde humana, estabelece um futuro notável de muitas conquistas para a ciência médica.