menu_open Columnists
We use cookies to provide some features and experiences in QOSHE

More information  .  Close

Responsabilização algorítmica: quem responde quando a IA erra?

14 0
yesterday

Aron Hussid Ferreira — médico, pesquisador e professor da USP

Siga o canal do Correio Braziliense no WhatsApp e receba as principais notícias do dia no seu celular.

Algoritmos de inteligência artificial (IA) já leem exames de imagem, sugerem diagnósticos e organizam filas de atendimento em hospitais brasileiros. Um programa analisa uma tomografia em segundos e sinaliza uma lesão que poderia escapar ao olho cansado de um plantonista na madrugada. É uma promessa que tem encantado gestores e pacientes.

Fique por dentro das notícias que importam para você!

Mas e quando o programa erra? Pense num sistema que classifica como benigno um nódulo que era maligno. O paciente volta meses mais tarde, sem chance de cura. Quem responde por esse desfecho? O médico que confiou na ferramenta? O hospital que a comprou? A empresa que vendeu o código? O programador que treinou o modelo com dados incompletos?

Leia também: Olhos destreinados e um brasiliense extraordinário

Em fevereiro deste ano, o Conselho Federal de Medicina publicou a Resolução nº 2.454, que normatiza o uso da IA na medicina e passa a valer em 26 de agosto. O texto tem muitos méritos. Ele classifica os sistemas de IA por grau de risco e proíbe que se delegue à máquina a comunicação de um........

© Correio Braziliense