MV Experience Fórum fala sobre uso da inteligência artificial na saúde e seus desafios éticos

Segundo dia do evento, que reúne nomes da saúde em São Paulo, aprofundou discussão sobre como a inteligência artificial se relaciona com o setor

SÃO PAULO (SP) — O debate em torno do uso da inteligência artificial na saúde, especialmente em um momento de ascendência do uso das IAs generativas, movimentou o segundo dia do MV Experience Fórum, nesta quinta-feira (5).

Diversos nomes do setor falaram sobre o tema no evento, que reúne 100 palestrantes e mais de mil participantes em São Paulo.

O médico Fábio Gandour, PhD em Ciências da Computação e ex-cientista-chefe da IBM Brasil, abordou o tema em seu keynote de abertura deste segundo dia do MV Experience Fórum 2024.

O especialista palestrou sobre a chamada “caixa-preta da IA”, em uma busca por desvendar as possibilidades fornecidas pela ferramenta.

Para Gandour, é importante entender que o uso das IAs generativas na relação médico-paciente precisa ser acompanhado de cuidados.

“Quando você vai para dentro de um consultório médico, onde você tem que lidar com diagnóstico e tratamento, não dá para confiar nisso. É claro que se tem um doutor que está lá no meio do Brasil, está distante de tudo e vai se orientar de forma superficial para não cometer um dano num paciente, tá bom, vamos usar essa inteligência artificial, mas para coisas profundas, tipo, vamos fazer um plano para o tratamento oncológico desse caso de câncer, espera, vai devagar”, ponderou o médico.

Com quatro décadas de experiência, Fábio Gandour lembrou que, ao longo dos anos, foram feitas várias tentativas de simular o método cognitivo do ser humano, mas todas demonstraram ser um “fracasso retumbante”. 

“Vem evoluindo em várias fases até chegar nessa atual, que é a chamada IA generativa e multimodal. Essa de hoje é o que se aprendeu a duras penas ao longo dessa evolução do final da década de 1940 para cá”, completou Fábio Gandour.

Em relação ao futuro, Gandour espera que a inteligência artificial seja mais usada para auxiliar no ensino dos profissionais de saúde. “É possível usar a IA para estruturar o diálogo entre médico e paciente. Você grava esse diálogo, depois pede para uma IA estruturar”, acrescentou o médico.

Para Fábio Gandour, também é importante ficar atento à “promessa exagerada” da IA. “A tentativa de se prometer uma entrega que não vai poder ser feita, de usar a inteligência artificial como uma panaceia que vai resolver todos os problemas da área de saúde”, fechou.

O MV Experience Fórum é promovido pela MV, multinacional brasileira líder na América Latina no desenvolvimento de softwares para a saúde. Até esta quinta-feira (5), o evento reúne 100 palestrantes e mais de mil participantes para 40 horas de conteúdo sobre as tendências de inovação em tecnologia para a saúde.

Desafios éticos da IA na saúde
O head de Educação, Pesquisa e Inovação nos Hospitais DASA, Victor Gadelha, e o superintendente médico e diretor técnico do Hospital do Coração (HCor), Gabriel Dalla Costa, falaram sobre os desafios éticos do uso da inteligência artificial na saúde. 

Os palestrantes destacaram como é importante abordar a transparência desse uso da IA na assistência médica, bem como o impacto nos vários atores envolvidos no setor de saúde. 

Gabriel Dalla Costa falou sobre os neurodireitos, que versam sobre a proteção à privacidade mental na era das neurotecnologias.

No Brasil, tramita a Proposta de Emenda à Constituição (PEC) nº 29/2023 que busca proteger a integridade e a privacidade dos dados mentais de usuários de equipamentos neurotecnológicos, aqueles métodos ou dispositivos utilizados para registrar ou modificar a atividade cerebral. O Chile, por outro lado, já incorporou na constituição a garantia dos neurodireitos ao cidadão.

"As pessoas têm que ter direito à privacidade, privacidade dos seus dados e saber como esses dados estão sendo utilizados, para que esses dados vão ser utilizados e o direito até que os seus dados eventualmente não sejam utilizados. As corporações têm seus interesses, o governo tem seus interesses, mas será que esses interesses efetivamente são os interesses da população das pessoas e de promover o bem-estar comum o bem comum?", questionou Dalla Costa. 

Outros pontos importantes relacionados aos neurodireitos, elencou o médico, são a garantia da identidade, a autonomia na tomada de decisões, o acesso e os vieses. 

Victor Gadelha corroborou com a ideia e afirmou que é preciso trabalhar os dados relacionados à saúde, que são sensíveis.

"A gente tem todo um tratamento para fazer para poder utilizar no treinamento desse algoritmos. O primeiro ponto que a gente tem que levar em consideração é sobre o termo de consentimento dos pacientes para poder utilizar esse dado, tem que ser muito claro e muito transparente, porque esse dado eventualmente pode ser utilizado para ser feito um algoritmo. O ideal seria sempre tratar esse dado de forma anonimizada, o que que a gente chama a gente tirar qualquer identificador desse paciente para que a gente seja possível voltar para esse paciente caso a gente precise", completou, adicionando que também é importante estar atento a questões de segurança. 

Gadelha ainda lembrou a importância do envolvimento dos profissionais de saúde no tema. Para ele, ainda há muito desentendimento até mesmo no funcionamento básico das ferramentas. 

"É difícil você colocar as pessoas para usarem sem uma educação adequada. Então acho que tem muito nesse âmbito da educação continuada para fazer e aumentar o entendimento dos profissionais de Saúde de qual é o potencial real dessa ferramenta, como é que pode ajudar ele a ser mais produtivo no seu dia a dia", detalhou Victor Gadelha. 

MV Experience Fórum: edição foi um sucesso
A décima edição do MV Experience Fórum bateu os recordes do evento. Segundo o diretor corporativo de mercado e cliente da MV, Jefferson Sadocci, o feedback dos participantes foi positivo. A expectativa para a próxima edição, marcada para 2026, é de promover um fórum ainda maior.

"O evento foi sucesso total. O principal para a gente foi o reconhecimento. Historicamente, [o fórum] sempre foi menor, era um evento que vinham entre 600 ou 800 pessoas e, nesse ano, a gente tomou a decisão de aumentar para encarar o desafio e botamos para 1.500 pessoas. Na véspera da abertura, não tinha mais ingresso nenhum e tinha muito pedido de ingresso e a gente não tinha mais como liberar", falou Sadocci.

Para o diretor, a reunião de integrantes do setor de saúde no MV Experience Fórum é uma oportunidade de conectá-los com questões práticas.

"Nós focamos em trazer para o MEF profissionais que tenham casos práticos de uso de tecnologia, pessoas que já tenham ela na realidade aplicada em funcionamento, testada e homologada. E para quem vem e não usa e ouve uma pessoa que está implementando ou que implementou com muita propriedade e a pessoa sabe dizer o como ela fez, porque o quê todo mundo sabe, todo mundo sabe que precisa implementar a tecnologia, mas como fazer? Muitas pessoas não sabem como fazer, e aí esses casos práticos acho que elucidam a forma de como fazer", completou Jefferson Sadocci.

*O jornalista viajou a convite da MV