Normalizar a transparência: argumentos para exigir
declaração de utilização de Inteligência Artificial Generativa em todos os artigos
— com um pedido de sugestões
Tradução espontânea sem
fins lucrativos da introdução
e conclusão do artigo
1Centro de Ética Biomédica, Universidade Nacional de Singapura, Singapura / 2Centro de Ética Social e Políticas, Universidade de Manchester, Reino Unido / 3Centro de Estudos Avançados em Direito da Inovação em Biociências, Universidade de Copenhaga, Dinamarca / 4Escola de Graduação em Ciências Humanas e Sociais, Universidade de Hiroshima, Japão / 5Faculdade de Medicina de Brighton e Sussex, Brighton, Reino Unido / 6Instituto de Ética Biomédica, Basileia, Suíça
Este editorial aborda uma proposta de política relativa à utilização da inteligência artificial (IA) que poderemos adotar nos próximos meses, dependendo da resposta da nossa comunidade de autores e revisores e dos desenvolvimentos em curso na nossa editora, o Grupo BMJ. Propomos que todos os artigos submetidos ao Journal of Medical Ethics (JME) e ao JME Practical Bioethics (JMEPB) incluam uma secção específica intitulada Declaração de Utilização de IA Generativa no próprio artigo, colocada antes da lista de referências. Este requisito seria aplicável a todas as submissões, independentemente de ter sido, ou não, utilizada IA generativa – tal como definida na Caixa 1. Os autores afirmam que não foram utilizadas ferramentas de IA generativa (Opção A); afirmam que nenhuma foi utilizada para influenciar substancialmente o conteúdo do manuscrito, com exceção da ‘edição de texto’ I realizada com o auxílio da IA em textos escritos por humanos (Opção B); ou afirmam que foram utilizadas ferramentas de IA generativa, indicando quais foram utilizadas, bem como de que forma e para que fins (Opção C). Consulte a Caixa 2 para mais detalhes.
Caixa 1
Uma definição de inteligência artificial generativa (IA generativa) para
facilitar a interpretação desta política: a definição ‘JME’
Por ‘IA generativa’, entendemos sistemas informáticos que
produzem novos conteúdos, ou que transformam ou reveem substancialmente
conteúdos existentes, tais como texto, códigos ou imagens, em resposta a
solicitações do utilizador ou outros fatores. Estes sistemas produzem
resultados ao aprenderem com padrões presentes nos dados de treino e ao
recombiná-los através de extrapolação preditiva. Incluem, entre outros, os
grandes modelos linguísticos. Para efeitos da presente política, não incluem
ferramentas determinísticas, tais como calculadoras, software estatístico
convencional, gestores de referências ou corretores ortográficos ou gramaticais
baseados em regras. Todas as referências a ‘IA’ na presente política
referem-se à IA generativa no sentido aqui descrito.
Nesta declaração, em conformidade com a política
vigente do Grupo BMJ, os autores terão de declarar que deram um contributo
substancial para o trabalho (cuja natureza deverá ser descrita no nosso campo ‘Contributos’,
já em vigor há muito tempo), de acordo com os critérios de autoria do Comité
Internacional de Editores de Revistas Médicas (ICMJE)1. Além disso,
terão de confirmar que pelo menos um dos autores indicados (ou um representante
de confiança, como um assistente de investigação) verificou manualmente a
exatidão e a relevância de cada referência citada no manuscrito. No futuro, o
nosso plano é que todas as referências, no momento da submissão, tenham de
incluir – sob a forma de uma hiperligação clicável – o identificador de objeto
digital, caso exista, ou, em alternativa, uma hiperligação estável e funcional
equivalente, quando disponível. Se não existir uma versão online de uma fonte
ou se esta não puder ser razoavelmente localizada, será adicionada a seguinte
nota de exoneração de responsabilidade: (sem ligação online disponível).
Estamos atualmente em conversações com o Grupo
BMJ sobre a viabilidade de implementar estas alterações. O Grupo BMJ está
também a desenvolver políticas atualizadas relacionadas com a IA em todo o seu
portfólio de revistas, e esperamos que esta proposta contribua para esse debate
mais alargado. Entretanto, solicitamos comentários sobre a política proposta à
nossa comunidade de autores e revisores.
A IA generativa está a afetar cada vez mais todas
as etapas do processo de publicação em bioética – desde autores que
experimentam modelos de linguagem de grande escala (LLM) na redação e edição,
passando por revisores que ditam os seus comentários a uma IA e depois
solicitam que esta resuma as suas observações, até editores e colaboradores do
setor editorial que utilizam a IA para identificar referências inventadas.
Todos temos interesse na forma como estas ferramentas são utilizadas (ou não
utilizadas, ou mal utilizadas), à medida que trabalhamos em conjunto para
construir uma literatura de alta qualidade. Por conseguinte, iremos em breve
lançar um apelo à apresentação de comentários sobre este editorial, e
incentivamos-vos a fazer ouvir a vossa voz.
Queremos deixar claro, desde já, o que esta
política proposta é e o que não é. Não se trata de uma política contra a IA. A
nossa intenção não é penalizar os autores por utilizarem, muito menos por
declararem que utilizaram, ferramentas de IA generativa nos seus textos. Pelo
contrário, o nosso objetivo é normalizar e desestigmatizar as declarações de
utilização da IA – tornando-as rotineiras e esperadas –, contribuindo assim
para garantir que, caso sejam utilizadas ferramentas de IA generativa, os
riscos específicos associados à sua utilização possam ser geridos de forma
adequada.
Devemos também salientar que não consideramos o
recurso à IA generativa na escrita académica como algo intrinsecamente
problemático. Pelo contrário, acreditamos que, quando utilizada de forma
responsável, a IA generativa pode potencialmente acrescentar valor ao trabalho
académico nas áreas da ética médica e da bioética. Por exemplo, pode ser
utilizada para assinalar ambiguidades gramaticais, falhas de lógica e/ou
problemas estruturais que exijam uma análise humana mais aprofundada. Pode
ajudar autores de diversas origens a traduzir os seus trabalhos e/ou a
expressar as suas ideias de forma mais precisa, utilizando a linguagem padrão
da área. Pode realizar pesquisas preliminares na literatura, permitindo aos
autores verificar a originalidade da contribuição que pretendem apresentar. E,
no caso de artigos empíricos, pode ser utilizada para apoiar a análise de
dados, por exemplo, mediante a elaboração de programas para a realização de
testes estatísticos – embora estes devam, evidentemente, ser verificados
manualmente pelos autores (ou por um membro da sua equipa) que possuam os
conhecimentos especializados necessários.
Mas cada uma destas utilizações, entre outras,
acarreta também riscos para a qualidade e a integridade da investigação
académica. Em vez de detetar de forma fiável lacunas lógicas, por exemplo, a IA
generativa por vezes provoca-as. Além disso, pode ‘disfarçar’ retoricamente
esses problemas com uma verborreia que soa plausível, mas que, em última
análise, é incoerente ou enganadora, cujas insuficiências são cognitivamente
fáceis de ignorar.2 Em vez de ‘aperfeiçoar’ ligeiramente o inglês de
alguém para realçar as suas ideias originais com maior clareza, pode também
uniformizar o seu estilo, transformando expressões encantadoramente
idiossincráticas numa ‘linguagem académica’ genérica e sem vida.³ Pode ainda ‘introduzir
sub-repticiamente’ as ideias de outra pessoa sem lhes atribuir o devido crédito
– o chamado problema da ‘proveniência’, discutido mais adiante.4 No
que diz respeito às pesquisas bibliográficas, embora as ferramentas de IA
possam identificar rapidamente referências relevantes, também podem ‘inventar’
citações que não existem – um problema aparentemente generalizado que, de
acordo com uma estimativa recente,5 provavelmente afetou dezenas de
milhares de artigos publicados só em 2025. II Por fim, em vez de se limitar a
melhorar de forma simples ou direta a investigação empírica, a IA generativa
pode, entre outras considerações, permitir que os investigadores produzam
códigos funcionais que talvez não tenham os conhecimentos necessários para
compreender na íntegra, ao mesmo tempo que oculta escolhas analíticas
importantes (por exemplo, com operações do tipo ‘caixa preta’), o que pode
comprometer a reprodutibilidade.6
É claro que a probabilidade e a magnitude destes
riscos variam consoante o nível de competência do utilizador e o(s) modo(s)
específico(s) de utilização, e cada um deles pode, com os conhecimentos
adequados, ser substancialmente mitigado (ver tabela 1 e caixa 4 para exemplos
selecionados). Estes riscos não tornam a IA generativa categoricamente
inutilizável. No entanto, tornam-na significativa de formas que exigem maior
atenção, diligência e cuidado, não só por parte do utilizador, mas também por
parte daqueles que têm a responsabilidade de avaliar o trabalho resultante.
Uma ferramenta capaz de, simultaneamente,
introduzir erros lógicos disfarçando-os numa prosa fluente, ‘ajustar
automaticamente’ a voz distintiva, mas eficaz, de um autor, ocultar a fonte
original de um argumento ou conceito, inventar referências inexistentes e/ou
tornar os métodos opacos é uma ferramenta cuja utilização – e de que forma – os
revisores e editores precisam de saber, para que possam direcionar a sua
atenção em conformidade. Isto, por sua vez, é um pré-requisito para a
capacidade de realizar uma avaliação devidamente calibrada em termos de risco,
ajudando assim a garantir que quaisquer questões relacionadas com a IA sejam
abordadas antes da publicação. Não só isto aumentará, como é de esperar, a
qualidade e a fiabilidade do registo académico, como também deverá reduzir a
probabilidade de os autores passarem por situações embaraçosas desnecessárias
(por exemplo, se os erros pós-publicação relacionados com a utilização ou uso
indevido da IA exigirem a retratação ou correção do manuscrito).
Nas secções seguintes, aprofundamos a
fundamentação subjacente às alterações propostas, com especial destaque para a
exigência de uma secção separada dedicada à divulgação da utilização de IA em
todos os artigos submetidos. Respondemos também a algumas possíveis objeções à
política (por exemplo, que esta possa contribuir para o viés de revisores) e
explicamos como a declaração funcionaria na prática.
CONCLUSÃO
Não
temos qualquer ilusão de que uma declaração obrigatória sobre a utilização de
IA eliminará a utilização não divulgada destas ferramentas. Esta política
proposta deve ser entendida mais como uma tentativa de criar expectativas
profissionais do que como uma intervenção comprovada. Se for implementada,
iremos monitorizar os seus efeitos, ouvir os comentários dos autores e
revisores e rever a nossa abordagem conforme necessário. No entanto, podemos
afirmar com alguma confiança que a situação atual – em que o uso da IA é
provavelmente generalizado, mas a divulgação é rara, e em que aqueles que são
honestos quanto às suas práticas correm o risco de ficar em desvantagem em
relação aos que não o são – é insustentável. Convidamos-vos a enviar os vossos
comentários críticos e feedback sobre esta proposta, enquanto
continuamos a investigar como esta, ou uma versão melhorada da mesma com base
nas vossas sugestões, poderá ser implementada futuramente da melhor forma. <
Para ler o artigo original, clicar AQUI
[I] Adotamos a definição utilizada pelas revistas do portfólio da Nature: ‘Melhorias realizadas com o auxílio da IA em textos gerados por humanos, com vista a melhorar a legibilidade e o estilo e a garantir que os textos estejam isentos de erros gramaticais, ortográficos, de pontuação e de tom. Estas melhorias realizadas com o auxílio da IA podem incluir alterações na formulação e na formatação dos textos, mas não incluem trabalho editorial generativo nem a criação autónoma de conteúdos’.18 Como apontam Hosseini e colegas 14, ao utilizarem a abreviatura ‘GenAI’ para designar a IA generativa: ‘pode-se argumentar que a diferença entre a assistência à escrita e a criação de texto é gradual, e que a primeira poderia… transformar-se na segunda, [mas] ainda é possível distinguir entre as duas.’ ‘Isto deve-se ao facto de a GenAI fornecer aquilo que os utilizadores solicitam. Se os utilizadores pedirem à GenAI para melhorar a gramática, o estilo e a legibilidade [de um texto que tenham redigido manualmente], esse será o resultado gerado; mas se pedirem à GenAI para criar novas frases ou expandir o texto existente, é isso que irão obter’ (p. 729). No entanto, Hosseini et al referem também que, mesmo no caso da revisão ajudada por IA, ‘podem ainda surgir vieses e erros, sendo da responsabilidade dos autores verificar se o texto revisto é exato, preciso e relevante’ (p. 734).
[I] Não obstante, reconhecemos que a
identificação estilométrica de textos influenciados pela IA não é, em geral,
fiável.19 E embora não encorajemos especificamente a utilização de
ferramentas de IA para editar e/ou gerar texto em manuscritos submetidos às
revistas da família JME, também não proibimos tal utilização – desde que sejam
respeitadas as condições indicadas na Caixa 4. Por estas razões, não apoiamos,
nem temos planos de adotar, a utilização de ferramentas editoriais cujo
objetivo principal seja simplesmente ‘detetar’ conteúdo gerado por IA, como se
tal fosse, por si só, proibido.













