O Impacto da Inteligência Artificial na Relação Médico-Doente
Brent Mittelstadt
PONTOS PRINCIPAIS
1. Em resposta a um pedido
do Comité de Bioética (DH-BIO) [Comissão substituída pela
Comissão Executiva para os Direitos Humanos nas áreas da Biomedicina e da Saúde
(CDBIO=Steering Committee for Human rights in the fields of Biomedicine and
Health)] para o elaborar com confiança,
segurança e transparência, este relatório investiga os impactos conhecidos e
potenciais dos sistemas de inteligência artificial (IA) na relação
médico-doente. Este impacto é enquadrado pelos princípios dos direitos humanos
referidos na Convenção Europeia sobre os Direitos Humanos e a Biomedicina (CEDHB)
de 1997, também conhecida como ‘Convenção de Oviedo’ e as suas subsequentes
emendas.
2. A utilização de IA
nos cuidados clínicos continua a ser incipiente. A eficácia clínica foi
estabelecida para relativamente poucos sistemas, quando comparada com a
significativa investigação sobre aplicações de IA em cuidados de saúde. A
investigação, desenvolvimento e testes-piloto muitas vezes não se traduzem em
eficácia clínica comprovada, comercialização ou implantação generalizada. A
generalização para a prática clínica do desempenho obtido nos ensaios permanece
geralmente não comprovada.
3. Uma característica
que define a medicina é a ‘relação de cura’ entre clínicos e doentes. Esta
relação é aumentada com a introdução da IA. Contudo, o papel do doente, os fatores
que levam as pessoas a procurar assistência médica e a vulnerabilidade do doente
não são alterados pela introdução da IA como mediador ou prestador de cuidados
médicos. Pelo contrário, o que muda são os meios de prestação de cuidados, como
podem ser prestados e por quem. A mudança de competências e responsabilidades
de cuidados para os sistemas de IA pode ser perturbadora de muitos modos.
4. O potencial impacto nos
direitos humanos da IA na relação médico-doente pode ser categorizado de acordo
com seis temas: (1) Desigualdade no acesso a cuidados de saúde de alta
qualidade; (2) Transparência para profissionais de saúde e doentes; (3) Risco
de distorção social nos sistemas de IA; (4) Diluição da narrativa do doente
sobre o bem-estar; (5) Risco de viés de automatização, de desqualificação e de
responsabilidade deslocada; (6) Impacto sobre o direito à privacidade.
5. No que diz respeito a
(1), como tecnologia emergente, a implantação de sistemas de IA não será
imediata ou universal em todos os Estados-membros ou sistemas de saúde. A
implantação nas instituições e nas regiões será inevitavelmente inconsistente
em termos de escala, velocidade e estabelecimento de prioridades.
6. Os impactos da IA nos
cuidados clínicos e na relação médico-doente permanecem incertos e seguramente irão
variar em função da aplicação e de cada caso. Os sistemas de IA podem
revelar-se mais eficientes do que os cuidados humanos, mas também proporcionam
cuidados de menor qualidade por haver menos interações presenciais.
7. A expansão
inconsistente de sistemas de IA com impactos incertos sobre o acesso e a
qualidade dos cuidados de saúde representa um risco de criação de novas
desigualdades na saúde nos Estados-membros.
8. O artigo 4.º da
Convenção de Oviedo aborda os cuidados prestados por profissionais de saúde
vinculados a normas profissionais. Ainda não está claro se os criadores,
fabricantes e prestadores de serviços de sistemas de IA estarão vinculados aos
mesmos padrões profissionais.
9. Deve ser dada
especial atenção ao papel pelos profissionais de saúde vinculados por normas
profissionais ao incorporar sistemas de IA que interagem diretamente com os doentes.
10. No que diz respeito a
(2), a transparência e o consentimento informado são valores-chave na relação
médico-doente mediada pela IA. A complexidade da IA levanta uma pergunta: como
devem os sistemas de IA explicar-se, ou ser explicados, aos médicos e aos doentes?
Esta pergunta tem muitos significados possíveis: (i) Como é que um
sistema ou modelo de IA funciona? Como é que um sistema de IA produziu um
resultado específico? (ii) Como foi concebido e testado um sistema de IA?
Como é governado? (iii) Que informação é necessária para investigar o
comportamento dos sistemas de IA? Podem ser necessárias as respostas a cada uma
destas perguntas para se obter o consentimento informado nos cuidados mediados
por IA.
11. Nos casos em que os
sistemas de IA proporcionam alguma forma de competência clínica, por exemplo,
recomendando um diagnóstico específico ou interpretando tomografias, este
requisito para explicar a tomada de decisões seria aparentemente transferido do
médico para sistema de IA ou, pelo menos, para o fabricante do sistema de IA. A
dificuldade de explicar como os sistemas de IA transformam as entradas em
saídas representa um desafio fundamental para o consentimento informado. Para
lá da capacidade de o doente em compreender a funcionalidade dos sistemas de
IA, em muitos casos, os doentes simplesmente não têm níveis suficientes de consciencialização
que tornem possível o consentimento livre e esclarecido. Os sistemas de IA
utilizam volumes sem precedentes de dados para tomar as suas decisões e interpretam
estes dados utilizando técnicas estatísticas complexas, ambas aumentando a
dificuldade e o esforço necessário para se perceber o âmbito total do
processamento de dados e da análise clínica que dá forma ao diagnóstico e
tratamento.
12. Os sistemas de IA que
interagem diretamente com os doentes devem autoidentificar-se como um sistema
artificial. Uma questão mais difícil é saber se a utilização de sistemas de IA
em ambientes de cuidados de saúde deve ser sempre revelada aos doentes pelos clínicos
e pelas instituições de saúde.
13. No que diz respeito a
(3), está amplamente reconhecido que os sistemas de IA sofrem de distorções nas
suas entradas, processamento e saídas. As decisões enviesadas e injustas ocorrem
frequentemente não por razões técnicas ou regulamentares, mas antes por
refletirem os preconceitos e desigualdades sociais subjacentes. Por exemplo, as
amostras de ensaios clínicos e de estudos de saúde têm sido historicamente distorcidas
por excesso de sujeitos masculinos brancos, o que significa que os resultados
são menos suscetíveis de se aplicarem a mulheres e pessoas de cor.
14. Os vieses sociais nos
sistemas de IA podem levar a uma distribuição desigual dos resultados entre
populações de doentes e grupos demográficos protegidos. As sociedades
ocidentais têm sido marcadas há muito tempo por uma desigualdade social
significativa. Estas tendências históricas e contemporâneas influenciam a
formação dos futuros sistemas. Sem intervenção, estes padrões no acesso a
oportunidades e recursos de cuidados de saúde serão aprendidos e reforçados
pelos sistemas de IA.
15. A deteção de vieses
nos sistemas de IA não é simples. Regras tendenciosas de tomada de decisão
podem ser escondidas em modelos de ‘caixa negra’. Anonimizar apenas os dados de
saúde pode não ser uma solução adequada para mitigar os vieses devido à
influência da desigualdade histórica e à existência de fortes substitutos de
atributos protegidos (por exemplo, código postal como substituto da
etnicidade). Os vários desafios oriundos de vieses sociais, discriminação e
desigualdade sugerem que os profissionais e as instituições de saúde enfrentam
uma tarefa difícil para garantirem que a utilização dos sistemas de IA não
promove as desigualdades existentes e não cria novas formas de discriminação.
16. No que diz respeito a
(4), o desenvolvimento da confiança numa relação médico-doente pode ficar
inibido pela mediação tecnológica. Como mediadores colocados entre o médico e o
doente, os sistemas de IA podem inibir no doente a compreensão tácita da sua saúde
e bem-estar e encorajar tanto o clínico como o doente a ver a saúde apenas em
quantidades mensuráveis ou em termos interpretáveis por máquinas.
17. No que diz respeito a
(5), para garantir a segurança dos doentes e substituir a proteção dada pela competência
clínica humana, umas normas robustas de teste e validação deveriam ser um
requisito essencial prévio à implantação de sistemas de IA em contextos de
cuidados clínicos. Ainda não existem provas de eficácia clínica para muitas
aplicações de IA nos cuidados de saúde, o que provou, justificadamente, ser um
obstáculo à implantação generalizada.
18. No que diz respeito a
(6), a IA põe vários desafios únicos ao direito humano de privacidade e aos respetivos
regulamentos de proteção de dados. Estes direitos procuram proporcionar aos
indivíduos uma maior transparência e controlo sobre as formas automatizadas de
tratamento de dados. Sem dúvida que proporcionarão uma proteção valiosa aos doentes
em vários casos de utilização de IA médica.
19. A Convenção de Oviedo
estabelece uma aplicação específica do direito à privacidade (artigo 8.º), reconhecendo a natureza particularmente sensível das informações
pessoais de saúde e estabelecendo o dever de confidencialidade para os
profissionais de saúde.
20. É necessário
desenvolver normas éticas em torno da transparência, imparcialidade,
confidencialidade e eficácia clínica para proteger os interesses dos doentes quanto
ao consentimento informado, igualdade, privacidade e segurança. Tais normas
poderiam servir de base para a instalação de IA nos cuidados de saúde que facilitem
em vez de dificultarem a relação de confiança entre médicos e doentes.
21. Sempre que se possa
observar que a IA tem um claro impacto nos direitos e proteções estabelecidos
na Convenção de Oviedo, é apropriado que o Conselho da Europa produza recomendações
e requisitos vinculativos para os signatários relativamente à forma como a IA é
implantada e governada. As recomendações devem centrar-se no mais elevado
padrão positivo de cuidados no que diz respeito à relação médico-doente, para
garantir que não seja indevidamente perturbada pela introdução da IA em
ambientes de cuidados.
22. O Conselho da Europa
poderia estabelecer normas sobre quais e como devem ser comunicadas ao doente as
informações sobre recomendações de um sistema de IA relativas ao seu diagnóstico
e tratamento. Estas normas deveriam igualmente abordar o papel do médico na
explicação das recomendações de IA aos doentes e como os sistemas de IA podem
ser concebidos para apoiar o médico neste papel.
23. A capacidade da IA de
substituir ou aumentar os conhecimentos clínicos humanos utilizando análises
altamente complexas e volumes e variedades de dados sem precedentes sugere que
o seu impacto na relação médico-doente também pode ser sem precedentes.
24. O grau em que os sistemas
de IA inibem a ‘boa’ prática médica depende do modelo de serviço. Se a IA for
utilizada apenas para complementar a competência dos profissionais de saúde
vinculados pelas obrigações de confiança próprias da relação médico-doente, o
impacto da IA na fiabilidade e na qualidade humana dos encontros clínicos pode
revelar-se reduzido. Simultaneamente, se a IA for utilizada para aumentar ou
substituir fortemente a competência clínica humana, o seu impacto na relação de
cuidados é mais difícil de prever. É inteiramente possível que novas normas
amplamente aceites para ‘bons’ cuidados surjam através de uma maior confiança
nos sistemas de IA, com os clínicos a passarem mais tempo frente a frente com
os doentes e a confiarem fortemente em recomendações automatizadas. O impacto
da IA na relação médico-doente permanece, no entanto, altamente incerto. É
pouco provável que nos próximos cinco anos se assista a uma reconfiguração
radical dos cuidados de saúde no sentido de os conhecimentos humanos serem
completamente substituídos por inteligência artificial.
25. Uma reconfiguração
radical da relação médico-doente do tipo imaginado por alguns comentadores, em
que os sistemas artificiais diagnosticam e tratam os doentes diretamente com o
mínimo de interferência de clínicos humanos, continua a parecer muito distante.
26. Assim, o modelo ideal
de cuidados clínicos e de implantação da IA nos cuidados de saúde é aquele que
utiliza os melhores aspetos da competência clínica humana e do diagnóstico da
IA.
27. A relação médico-doente é a pedra angular da ‘boa’
prática médica e, no entanto, parece estar a ser transformada numa tríplice relação
médico-doente-inteligência artificial. O desafio enfrentado pelos prestadores
de IA, reguladores e decisores políticos é estabelecer normas e requisitos
robustos para este novo tipo de ‘relação de cura’, assegurando que os
interesses dos doentes e a integridade moral da medicina como profissão não
sejam fundamentalmente prejudicados pela introdução da IA.
