IA e saúde, uma combinação de sucesso... ou não, alerta a OMS
Modelos multimodais podem fornecer resultados falsos, imprecisos, tendenciosos ou incompletos
A Inteligência Artificial (IA) generativa poderia revolucionar o cuidado com a saúde, facilitando, por exemplo, o desenvolvimento de medicamentos ou acelerando a detecção de doenças, mas a OMS acredita que é necessário prestar mais atenção aos riscos.
Em um documento publicado nesta quinta-feira (18), a Organização Mundial da Saúde analisou os perigos e benefícios do uso de grandes modelos multimodais (LMM, na sigla em inglês), um tipo de tecnologia de IA generativa em ascensão na área da saúde .
Esses LMM podem utilizar vários tipos de dados, incluindo texto, imagens e vídeos, e gerar resultados que não se limitam ao tipo de dados inseridos no algoritmo.
A organização definiu cinco áreas que poderiam utilizar a tecnologia: triagem, para responder, por exemplo, a interferências por escrito dos pacientes; pesquisa científica e desenvolvimento de medicamentos; para fins de educação na medicina e enfermagem; tarefas administrativas; e uso por parte dos pacientes, por exemplo, para analisar sintomas.
Leia também
• Entenda a Doença X, que pode ser 20 vezes mais mortal que a Covid e será debatida no Fórum Econômico
• INSS adota inteligência artificial para detectar fraudes em auxílio-doença. Tire suas dúvidas
• Inteligência Artificial afetará 60% dos empregos nas economias avançadas, diz FMI
Por trás do grande potencial, entretanto, a OMS alerta que os LMM podem fornecer resultados falsos, imprecisos, tendenciosos ou incompletos.
“À medida que os LMM são cada vez mais utilizados na assistência médica e na medicina, os erros, o mau uso e, portanto, os prejuízos para as pessoas são inevitáveis”, afirmou a OMS.
Gigantes tecnológicos
O documento também apresentou novas diretrizes sobre ética e gerenciamento do LMM, com mais de 40 recomendações para governos, empresas de tecnologia e planos de saúde sobre como se beneficiar dessa tecnologia de maneira segura.
“As tecnologias de IA generativa têm o potencial de melhorar os cuidados de saúde, mas apenas aqueles que desenvolvem, regulam e utilizam essas tecnologias identificam e levamem de forma cabal na supervisão dos riscos associados”, afirma o cientista-chefe da OMS, Jeremy Farrar.
A organização pede a criação de normas de responsabilidade para “garantir que os usuários prejudicados por um LMM sejam devidamente indenizados ou tenham outras formas de recurso”.
A organização também questionou se a LMM estaria cumprindo as regulamentações existentes, especialmente em relação à proteção de dados.
Além disso, o fato de que os grandes modelos multimodais são frequentemente desenvolvidos e implementados por gigantes tecnológicos é preocupante, segundo a OMS, que recomenda a participação de profissionais de saúde e pacientes no processo.
Outro ponto mencionado pela OMS foi a vulnerabilidade desses sistemas frente aos riscos de cibersegurança, que poderia comprometer as informações dos pacientes e até mesmo a segurança da assistência médica.
Por fim, a organização conclui que os governos devem cobrar das autoridades reguladoras de aprovação do uso dos LMM na assistência médica, e pede auditorias para avaliar o impacto dessa tecnologia.
Veja também
Chefe do ELN diz que diálogos na Colômbia podem seguir apesar de confrontos
