A Authors Guild e 17 autores apresentaram recentemente um processo
contra a OpenAI por violação dos direitos de autor das suas obras que foram
utilizadas para treinar o GPT. A queixa afirma que "os arguidos
introduziram os trabalhos protegidos por direitos de autor dos queixosos nos
seus... algoritmos concebidos para produzir respostas de texto com aparência
humana" e que "no centro destes algoritmos está um roubo sistemático
em grande escala". Quão diferente é esta situação dos desenvolvimentos na
medicina, onde os médicos estão a ceder os seus conhecimentos à inteligência
artificial (IA) numa base voluntária e gastam horas do seu valioso tempo de investigação
a partilhar conhecimentos especializados com sistemas de IA. A IA entrou no
campo da medicina de forma tão rápida e discreta que parece que as suas interações
com a profissão foram aceites sem a devida diligência ou consideração. É
evidente que as aplicações de IA estão a ser feitas à velocidade de um
relâmpago e, com base em publicações recentes, torna-se assustadoramente
evidente para onde nos dirigimos e nem tudo é bom. A IA pode ser capaz de um
desempenho espantoso em termos de velocidade, consistência e precisão, mas
todas as suas operações são construídas com base em conhecimentos derivados de
especialistas na matéria. Vejamos o exemplo da patologia renal para ilustrar que
este domínio é apenas um exemplo de outros domínios da medicina.
Numerosos patologistas de todo o mundo estão a anotar amostras de tecidos
para alimentar os algoritmos e não é invulgar que sejam necessárias até 100 000
anotações para que de um algoritmo possa reconhecer subunidades básicas como um
glomérulo.1 Após este enorme esforço, o algoritmo fará o seu
trabalho num instante. Parte-se do princípio de que, em breve, os algoritmos
poderão ser utilizados para realizar tarefas fastidiosas que são consideradas
morosas e não desafiantes do ponto de vista intelectual, poupando tempo
precioso. É concebível que, num futuro próximo, os patologistas não só recebam
lâminas digitalizadas de biópsias renais, mas que estas sejam acompanhadas por
uma lista que inclua dados como o número de glomérulos e a área de fibrose
intersticial. Com estas informações à mão, o patologista só terá de se
concentrar nas lesões mais complexas para chegar a um diagnóstico.
A coloração simboliza uma nova coloração, não utilizada atualmente,
desenvolvida para fins de IA. EM indica microscopia eletrónica; GBM, membrana
basal glomerular; e IF/IH, imunofluorescência/imuno-histoquímica.
A desvantagem desta situação é que, se os patologistas deixarem de ser
obrigados a avaliar eles próprios os elementos histológicos básicos, a
capacidade de o fazer perder-se-á gradualmente. Qual é a desvantagem e por que
razão não seria apenas útil e pouparia tempo fornecer dados em áreas onde
sabemos que os patologistas apresentam, de qualquer forma, um certo grau de
variabilidade interobservador?2 É frequentemente referido que uma
enorme vantagem da utilização de IA para a avaliação de lâminas de tecido é o
seu desempenho consistente e imparcial; no entanto, existem provas que indicam
que os algoritmos de IA também apresentam variabilidade interobservador e
diferentes taxas de desempenho.3 Um risco importante é que, ao
deslocar os elementos básicos da biopsia renal literalmente para fora da vista
do patologista, estes receberão cada vez menos atenção na prática quotidiana da
patologia clínica e, por conseguinte, a verdadeira inteligência da arquitetura
básica do rim diminuirá.
Em particular, nas áreas em que não está disponível um patologista
especializado em rins, os resultados gerados pela IA poderão em breve tornar-se
a norma, acelerando ainda mais o processo da situação de apenas IA. E a
patologia baseada na IA será incrivelmente barata. Uma análise recente refere
que 27 artigos sobre IA em patologia renal foram seguidos do lançamento de
ferramentas de utilização gratuita e que esta prática se está a difundir cada
vez mais.4 A vantagem é um acesso crescente dos utilizadores a
ferramentas que custariam aos patologistas muitas horas de pontuação. Estas
ferramentas podem agora ser utilizadas por qualquer pessoa que delas necessite,
sem encargos adicionais e com disponibilidade imediata. A legislação e os
requisitos regulamentares irão provavelmente abrandar a tendência para a
patologia exclusivamente baseada em IA, mas os aceleradores deste processo
incluem o facto de a patologia baseada em IA estar disponível 24 horas por dia,
7 dias por semana, e gerar dados consistentes que são indiscutíveis, uma vez
que não existem conhecimentos alternativos que possam servir de base a qualquer
contestação.
Com todos estes desenvolvimentos, parece inevitável que estejamos a
caminhar para um mundo médico que se baseia essencialmente em entradas e saídas
(inputs and outpus). No caso da patologia, o input continuará a
ser uma amostra de tecido, embora a preparação mude porque a IA não precisa das
colorações histológicas tradicionais para trabalhar; pode igualmente trabalhar
de forma independente das colorações.5 O output é definido
por medidas clínicas. Uma mudança muito importante na patologia orientada pela
IA em relação à patologia orientada pelo ser humano, baseada numa filosofia de input-output,
é o resultado do desenvolvimento da IA que define áreas de interesse em
amostras de tecido através de estratégias não supervisionadas, nas quais é
verificado um padrão específico de pixels que tem uma certa relação com
o resultado clínico. Uma vantagem pode ser que, enquanto os patologistas estão
limitados por categorias e classes previamente estabelecidas, a abordagem da IA
pode identificar determinados padrões que ainda não são reconhecidos pelos
patologistas. Ao deixar de lado a nomenclatura histológica tradicional e ao
utilizar algoritmos de autoaprendizagem para recolher qualquer tipo de dados
dos tecidos, as observações da IA tornam-se marcadores substitutos de
resultados, transformando um input não definido num output
centrado apenas na tomada de decisões clínicas, sem qualquer conhecimento dos
processos patogénicos intermédios. Só podemos esperar que os seres humanos
consigam acompanhar as construções recentemente definidas, enquanto o
conhecimento da histologia real ainda existir. Para já, é possível que a
estratégia de input-output possa resultar em novas hipóteses sobre os
mecanismos das doenças, talvez até permitindo ensaios clínicos de prova de
conceito. De facto, a era atual pode beneficiar das novas ideias que a IA traz,
porque está literalmente a pensar "fora da caixa" e fornece
construções em que nunca tínhamos pensado antes. Mas o outro lado é que, se não
conseguirmos compreender os processos subjacentes aos novos constructos
definidos gerados pela IA, não será possível desenvolver um tratamento lógico
para alterar o resultado correlativo. A questão que permanece é a de saber que
conceito é provado num ensaio de prova de conceito baseado em construções
histológicas sem qualquer significado. Estudos recentes que utilizaram a
aprendizagem automática não supervisionada identificaram áreas de tecido que
não têm nome na patologia renal tradicional6,7, mas foram feitos
muito poucos esforços para as compreender, questionando se as novas ideias e
hipóteses que a IA traz serão utilizadas com interesse científico ou se serão
apenas tomadas como garantidas.
Devemos ter consciência de que, se permitirmos que isto continue, o futuro
próximo será caracterizado por uma rápida diminuição dos conhecimentos sobre a
patogénese subjacente ao desenvolvimento das doenças. Quando chegarmos a uma
fase em que o resultado é definido na caixa negra que é alimentada pelo input,
e em que esta caixa negra contém construções que já não são consistentes com
entidades previamente definidas, a maior parte do conhecimento atual sobre os
mecanismos da doença será esquecido e seremos governados por sistemas que
apenas se concentram em estratégias de intervenção que proporcionam o melhor
resultado possível.
Esta era revelará uma diminuição dos debates intelectuais entre colegas, um
sinal do tempo para o qual os cientistas informáticos já nos alertaram.
Enquanto os autores de literatura lutam por regulamentos para controlar a
utilização da IA na arte, os médicos devem refletir sobre a forma de tirar
partido dos potenciais benefícios da IA na medicina sem perder o controlo sobre
a sua profissão. Com a emissão de uma ordem executiva histórica8 nos
EUA para garantir que a América lidera a gestão dos riscos da IA e com a UE a
tornar-se o primeiro continente a estabelecer regras claras9 para a
utilização da IA, os médicos devem compreender que manter a IA dentro dos
limites é essencial para a sobrevivência da sua profissão e para um progresso
significativo no diagnóstico e a compreensão dos mecanismos das doenças.
1 Bouteldja N, Klinkhammer BM, Bülow RD, et al. Deep learning-based segmentation and quantification in experimental kidney histopathology. J Am Soc Nephrol. 2021;32(1):52-68.
