Quem é o dono do algoritmo? IA na saúde traz novos desafios sobre dados, propriedade e responsabilidade

Quem é o dono do algoritmo? IA na saúde traz novos desafios sobre dados, propriedade e responsabilidade

A inteligência artificial já ocupa espaço crescente em hospitais, pesquisas biomédicas e ferramentas de apoio ao diagnóstico. Mas, quando uma tecnologia é desenvolvida em parceria e começa a gerar valor, uma pergunta ganha importância: afinal, a quem pertence o algoritmo?

Em artigo publicado no LIDE, Heloisa Papassoni Zangheri, sócia do Arruda Alvim & Thereza Alvim, analisa os desafios jurídicos que acompanham projetos de inovação em saúde envolvendo hospitais, empresas de tecnologia e instituições de pesquisa.

Dados, tecnologia e conhecimento podem ter titulares diferentes

Um projeto de inteligência artificial na saúde pode reunir dados de pacientes e instituições, conhecimento produzido por pesquisadores e universidades e tecnologia desenvolvida por empresas.

Essa combinação torna especialmente importante definir, desde o início da parceria, questões como titularidade, exploração econômica e responsabilidade.

Heloisa chama atenção para um primeiro ponto: dados de saúde são classificados pela LGPD como dados pessoais sensíveis. A legislação admite seu uso para estudos por órgãos de pesquisa, mas estabelece limites específicos para o compartilhamento com finalidade econômica. Assim, uma base utilizada legitimamente em uma pesquisa pode trazer novas questões jurídicas quando o resultado passa a ter finalidade comercial.

Quando o algoritmo falha, quem responde?

A responsabilidade é outro ponto central do artigo.

No caso de softwares utilizados como dispositivos médicos, a regulamentação da Anvisa exige informações sobre os dados utilizados no desenvolvimento da ferramenta. Já as normas profissionais reforçam a necessidade de supervisão humana no uso da inteligência artificial na medicina.

Nesse cenário, hospitais, médicos, desenvolvedores e fabricantes podem estar sujeitos a diferentes responsabilidades. Por isso, definir previamente quem valida o modelo, quem responde perante as autoridades, quem realiza atualizações e como são tratados eventuais danos reduz incertezas quando a tecnologia começa a ser utilizada.

Contratos precisam acompanhar a inovação

Para Heloisa, boa parte desses conflitos pode ser enfrentada ainda na estruturação do projeto.

Em iniciativas de inteligência artificial, o valor não está apenas no código-fonte. Também pode estar na base de dados organizada, no modelo treinado e nas novas versões desenvolvidas ao longo da parceria.

Os contratos, portanto, precisam estabelecer com clareza a titularidade dos ativos, a participação nos resultados, as responsabilidades regulatórias, os custos relacionados às atualizações e o destino dos dados e do próprio modelo caso a parceria chegue ao fim.

O artigo também destaca a importância da escolha do meio adequado para solucionar eventuais disputas. Em conflitos que envolvem tecnologia, propriedade intelectual, regulação sanitária e informações estratégicas, a arbitragem pode ser uma alternativa para permitir a escolha de julgadores com conhecimento específico e procedimentos adequados às particularidades do setor.

Mais do que desenvolver novas tecnologias, inovar na saúde exige pensar antecipadamente em como proteger, explorar e dividir responsabilidades sobre aquilo que está sendo criado.

Leia o artigo completo no LIDE.