O uso de IA no setor demanda uma regulação específica em que transparência, responsabilidade, segurança e eficácia são elementos centrais
A percepção do físico Stephen Hawking de que a inteligência artificial “será a melhor ou a pior coisa que já aconteceu à humanidade” resume as esperanças e preocupações que vêm com a transformação tecnológica em curso. De algoritmos que ajudam os médicos a fazer diagnósticos até a predição de quais tratamentos podem funcionar melhor com um determinado paciente, a saúde é talvez um dos mais promissores campos para a IA, mas parâmetros regulatórios se fazem urgentes.
Publicado pela Abeto, selo de não ficção do Grupo Aboio, o livro “Inteligência Artificial e Saúde: Conexões éticas e regulatórias” discute fundamentos e diretrizes para uma regulação da inteligência artificial (IA) na área. A obra é baseada na pesquisa de doutorado do autor, Daniel Dourado, médico, advogado e pesquisador no Centro de Estudos e Pesquisas de Direito Sanitário (Cepedisa) da USP. “É totalmente diferente entrar no mercado de saúde e entrar no mercado de tecnologia”, afirma Dourado. “O estado tem obrigação de regular produtos que estão na saúde”.
Por essa obrigação, ele lembra que “se o produto é para uso clínico, passa a ser um dispositivo médico, um produto de saúde; e a saúde tem fundamentos próprios”. Assim, estabelece três desses fundamentos: a privacidade dos que alimentam os dados usados para treinar a IA, a ética específica para o desenvolvimento desses produtos (uma mistura de ética para IA e bioética) e os direitos humanos que estabelecem a saúde como direito fundamental.
“Se você quiser pegar três pedaços de madeira, emendar com um prego, serrar e colocar para vender como uma cadeira, você pode, mas se você fala que ela alivia dor nas costas, dor lombar, vai ter que registrar esse produto”, exemplifica.
Para cumprir esses fundamentos, por sua vez, ele elenca três elementos centrais para pensá-los: a transparência de como os dados da IA são utilizados, a responsabilidade no uso dos dados, além de, principalmente, segurança e eficácia dos produtos. Dentro desse último, ele propõe o conceito de equidade ou justiça, pela preocupação dos modelos desenvolvidos, por seus vieses “só acertarem para homem branco ou [norte] americano”, ou seja, não serem seguros para outras populações.
Avanço das discussões
O uso de IA na saúde avança no mundo todo e tem resultados promissores para a análise de exames e predição de doenças hereditárias. Apesar disso, o desenvolvimento de regulação específica para área ainda caminha a passos curtos. Esse atraso tem levado a discussões recentes no mundo, principalmente na Inglaterra, sobre a criação de sandboxes.
O conceito de sandbox é um teste em que a equipe vai avaliar o sistema com os dados que possui em situações reais, mas sem alterar a conduta dos profissionais de saúde. “Por exemplo, se o modelo sugere uma dose diferente de medicamento, o profissional é informado, mas não precisa seguir a recomendação; ele apenas observa o que o modelo indica e, com o tempo, esses dados são comparados para avaliar se o sistema é seguro e se poderia ser usado na prática”, explica Daniel Dourado.
Ele ressalta que a criação desses modelos evita ações judiciais que poderiam atrasar ou complicar a regulação desses produtos. Ele afirma que “é muito melhor ter uma regulação que se faz pelo debate da sociedade e é fundamentada no direito administrativo” do que por ações judiciais fundamentadas em casos particulares.
Fonte: Jornal da USP