A expansão da Inteligência Artificial na saúde digital exige uma regulamentação governamental urgente, visto que a ausência de limites claros gera riscos sérios à privacidade, segurança e equidade, inviabilizando a autorregulação do setor. Para empresários e contadores, é crucial compreender que a governança eficaz da IA é indispensável para a conformidade e a proteção de dados e direitos.

A Urgência da Governança na Era da Saúde Digital: Por Que a Regulação da Inteligência Artificial é Inadiável

A inteligência artificial (IA) tem o potencial de transformar a saúde, prometendo diagnósticos mais rápidos, tratamentos personalizados e eficiências operacionais inéditas. No entanto, essa revolução tecnológica não vem sem desafios profundos e riscos significativos. A ausência de um arcabouço regulatório robusto e proativo tem permitido que o avanço tecnológico, por vezes, ultrapasse as fronteiras da ética e da segurança humana, levantando questões cruciais sobre privacidade, equidade e a própria natureza da relação médico-paciente. Exemplos recentes, vindos de diferentes frentes, sublinham a imperatividade de uma governança eficaz para salvaguardar os interesses mais vitais da sociedade.

A Dualidade dos Dados de Saúde: Entre o Progresso e a Vigilância Abusiva

A utilização de dados de saúde por entidades estatais é um terreno fértil para debates éticos e legais, especialmente quando a finalidade desvia do cuidado e bem-estar do cidadão. Nos Estados Unidos, a revelação de que dados sensíveis de saúde de milhões de indivíduos foram empregados por agentes de imigração para localizar e deter imigrantes ilegais ilustra um cenário preocupante. Um aplicativo de IA, desenvolvido por uma grande empresa de tecnologia, integraria registros de saúde com outras bases de dados, criando perfis detalhados e “pontuações de confiança” para auxiliar em operações de patrulhamento.

Essa prática, embora supostamente amparada por interpretações de legislações nacionais que permitem o compartilhamento de informações, gera um precedente perigoso. A coleta e análise massiva de dados pessoais para fins de segurança, sem uma proibição legal explícita para o uso específico de informações de saúde, abre caminho para o autoritarismo e mina a confiança nas instituições de saúde, que deveriam ser santuários de confidencialidade e cuidado. A fragilidade da privacidade médica exposta por tais incidentes clama por limites claros e uma redefinição dos propósitos aceitáveis para o manuseio de dados de saúde em qualquer contexto.

Algoritmos e Preconceito: Quando a Tecnologia Amplifica a Discriminação

A promessa de imparcialidade dos algoritmos é frequentemente desmentida pela realidade dos dados com os quais são treinados. A inclinação para a discriminação racial, social ou econômica é um risco inerente quando os sistemas de IA são construídos sobre conjuntos de dados imperfeitos ou manipulados, ou quando são explorados por intenções maliciosas. Um caso emblemático nos EUA envolveu a utilização indevida de dados genéticos e de desenvolvimento cerebral de mais de 20 mil crianças. Originalmente coletados para um estudo de longo prazo sobre o impacto do DNA no comportamento e em doenças, esses dados sensíveis foram acessados por um grupo de pesquisadores não autorizados.

O resultado foi a publicação de artigos “científicos” que, de forma pseudocientífica, buscavam estabelecer ligações entre raça e inteligência, classificando etnias por QI e sugerindo correlações com o sucesso econômico. Embora esses trabalhos tenham sido veementemente rechaçados por geneticistas renomados, sua mera existência, impulsionada por bots de IA em plataformas de mídia social, conferiu-lhes uma aparência de credibilidade. Este episódio demonstra como a falta de segurança na gestão de dados e a ausência de fiscalização rigorosa podem dar margem à proliferação de preconceitos e à instrumentalização da tecnologia para fins perniciosos, com impactos sociais devastadores.

Automação na Medicina: A Linha Tênue da Supervisão Humana

A automação de tarefas rotineiras é um dos maiores atrativos da IA em diversos setores, e a saúde não é exceção. Contudo, quando essa automação avança para funções críticas, como a prescrição de medicamentos, a questão da supervisão humana torna-se incontornável. Uma empresa de tecnologia na área da saúde nos EUA começou a testar um software de IA que permite a pacientes com doenças crônicas a renovação de receitas médicas sem qualquer interação com um profissional de saúde humano. Por um pequeno valor, o sistema automatizado valida a identidade, processa informações sobre os sintomas e prescreve medicamentos para mais de uma centena de patologias.

A ousadia dessa iniciativa reside em desafiar os limites regulatórios e éticos ao propor que a IA assuma uma tarefa que, embora “repetitiva”, exige discernimento clínico e responsabilidade. No Brasil, por exemplo, o debate sobre a permissão para enfermeiros prescreverem certos medicamentos ainda é intenso; a ideia de uma IA realizando tal função sem supervisão agrava a complexidade. Este caso ressalta a urgência de estabelecer parâmetros claros para a autonomia da IA em contextos médicos, garantindo que a eficiência não comprometa a segurança do paciente e a qualidade do cuidado.

O Mito da Autorregulação e o Preço da Inação Regulatória

O discurso de que a regulação “sufoca a inovação” é um obstáculo frequente para o avanço de marcos legais que visam controlar novas tecnologias. No entanto, os exemplos na saúde digital demonstram que a ausência de regulamentação pode ter custos sociais, éticos e até de segurança inaceitáveis. Deixar que o mercado se autorregule em um campo tão sensível como a saúde, especialmente com uma tecnologia de impacto tão profundo como a IA, é um risco que a sociedade não pode se dar ao luxo de correr.

A inovação, para ser verdadeiramente benéfica, precisa ser guiada por princípios de responsabilidade e pelo compromisso com o bem-estar coletivo. Acreditar que os desenvolvedores de IA e as grandes corporações tecnológicas se autoconterão e priorizarão a segurança e a ética acima do lucro é uma visão ingênua. A história da tecnologia mostra que os limites são frequentemente testados e, por vezes, ultrapassados, até que a sociedade e os governos intervenham.

Princípios Fundamentais para uma Regulação Efetiva da IA

Uma regulação eficaz da IA na saúde não visa proibir a inovação, mas sim impor limites e estabelecer condições que garantam seu desenvolvimento e uso responsáveis. O objetivo é proteger os direitos fundamentais dos indivíduos, assegurando que a tecnologia sirva à humanidade e não o contrário. Tais princípios devem incluir:

• Transparência e Explicabilidade: Os sistemas de IA devem ser compreensíveis em seu funcionamento, permitindo que profissionais e pacientes entendam como as decisões são tomadas.
• Privacidade e Segurança de Dados: Rigorosos padrões de proteção de dados, com consentimento informado e finalidades explícitas, devem ser a base para qualquer uso de informações de saúde.
• Supervisão Humana Significativa: A intervenção humana deve ser mantida em decisões críticas, especialmente aquelas que afetam diretamente a vida e a saúde dos indivíduos.
• Responsabilidade e Auditabilidade: Deve haver clareza sobre quem é responsável por erros ou falhas dos sistemas de IA, e os sistemas devem ser auditáveis para garantir conformidade e corrigir vieses.
• Equidade e Não Discriminação: Os sistemas de IA devem ser projetados para evitar e mitigar vieses que possam levar à discriminação, garantindo acesso equitativo e resultados justos para todos.

Caminhos para uma Governança Responsável da IA na Saúde

Para avançar em direção a uma governança responsável, são necessários esforços coordenados em várias frentes. No nível nacional, a criação de leis específicas para a IA na saúde, inspiradas em modelos internacionais que já contemplam a sensibilidade do setor, é um passo crucial. Além disso, a designação de autoridades regulatórias com expertise técnica e capacidade de fiscalização é fundamental.

A colaboração internacional também desempenha um papel vital, uma vez que a tecnologia não conhece fronteiras. O diálogo entre países pode ajudar a estabelecer padrões globais e a evitar a fragmentação regulatória. A participação da sociedade civil, de profissionais de saúde, de especialistas em ética e direito, e dos próprios pacientes no processo de elaboração dessas políticas é essencial para garantir que as regulamentações reflitam uma ampla gama de perspectivas e valores.

A Imperatividade da Intervenção Estatal na Era Digital

Em última análise, a liberdade de iniciativa, mesmo no campo da inovação tecnológica, possui limites. Esses limites são determinados pela necessidade de assegurar que o exercício dos direitos de um indivíduo ou entidade não prejudique os direitos de outros. Como estabelecido na Declaração dos Direitos do Homem e do Cidadão de 1789, “a liberdade consiste em poder fazer tudo aquilo que não prejudique outrem.” E esses limites, em uma sociedade democrática, são determinados pela Lei.

Diante dos riscos evidentes e dos prejuízos potenciais que o uso desregulado da inteligência artificial na saúde pode causar à privacidade, à segurança, à equidade e à própria vida humana, a intervenção estatal por meio de leis e autoridades regulatórias não é apenas uma opção, mas uma necessidade imperativa. Esperar passivamente que a autorregulação prevaleça é uma aposta arriscada demais para o futuro da saúde e da sociedade.

Converse com seu contador sobre essa oportunidade.

Referência Bibliográfica:

AITH, Fernando. Regulação estatal deve impor limites e condições à IA na saúde digital. JOTA, 30 jan. 2026. Disponível em: https://www.jota.info/opiniao-e-analise/colunas/coluna-fernando-aith/regulacao-estatal-deve-impor-limites-e-condicoes-a-ia-na-saude-digital. Acesso em: 7 de fevereiro de 2026.