Declaração de uso de IA

Normalizar a transparência: argumentos para exigir declaração de utilização de Inteligência Artificial Generativa em todos os artigos — com um pedido de sugestões

 Brian D Earp¹, Lucy Frith², Sebastian Porsdam Mann³, Tsutomu Sawai⁴, Arianne Shahvisi⁵, Tenzin Wangmo⁶

Tradução espontânea sem fins lucrativos da introdução e conclusão do artigo

Normalising transparency: an argument for requiring generative AI use declarations in all manuscripts - with a call for commentaries

¹Centro de Ética Biomédica, Universidade Nacional de Singapura, Singapura / ²Centro de Ética Social e Políticas, Universidade de Manchester, Reino Unido / ³Centro de Estudos Avançados em Direito da Inovação em Biociências, Universidade de Copenhaga, Dinamarca / ⁴Escola de Graduação em Ciências Humanas e Sociais, Universidade de Hiroshima, Japão / ⁵Faculdade de Medicina de Brighton e Sussex, Brighton, Reino Unido / ⁶Instituto de Ética Biomédica, Basileia, Suíça

Este editorial aborda uma proposta de política relativa à utilização da inteligência artificial (IA) que poderemos adotar nos próximos meses, dependendo da resposta da nossa comunidade de autores e revisores e dos desenvolvimentos em curso na nossa editora, o Grupo BMJ. Propomos que todos os artigos submetidos ao Journal of Medical Ethics (JME) e ao JME Practical Bioethics (JMEPB) incluam uma secção específica intitulada Declaração de Utilização de IA Generativa no próprio artigo, colocada antes da lista de referências. Este requisito seria aplicável a todas as submissões, independentemente de ter sido, ou não, utilizada IA generativa – tal como definida na Caixa 1. Os autores afirmam que não foram utilizadas ferramentas de IA generativa (Opção A); afirmam que nenhuma foi utilizada para influenciar substancialmente o conteúdo do manuscrito, com exceção da ‘edição de texto’ ^I realizada com o auxílio da IA em textos escritos por humanos (Opção B); ou afirmam que foram utilizadas ferramentas de IA generativa, indicando quais foram utilizadas, bem como de que forma e para que fins (Opção C). Consulte a Caixa 2 para mais detalhes.

Caixa 1 Uma definição de inteligência artificial generativa (IA generativa) para facilitar a interpretação desta política: a definição ‘JME’

Por ‘IA generativa’, entendemos sistemas informáticos que produzem novos conteúdos, ou que transformam ou reveem substancialmente conteúdos existentes, tais como texto, códigos ou imagens, em resposta a solicitações do utilizador ou outros fatores. Estes sistemas produzem resultados ao aprenderem com padrões presentes nos dados de treino e ao recombiná-los através de extrapolação preditiva. Incluem, entre outros, os grandes modelos linguísticos. Para efeitos da presente política, não incluem ferramentas determinísticas, tais como calculadoras, software estatístico convencional, gestores de referências ou corretores ortográficos ou gramaticais basea­dos em regras. Todas as referências a ‘IA’ na presente política referem-se à IA generativa no sentido aqui descrito.

Nesta declaração, em conformidade com a política vigente do Grupo BMJ, os autores terão de declarar que deram um contributo substancial para o trabalho (cuja natureza deverá ser descrita no nosso campo ‘Contributos’, já em vigor há muito tempo), de acordo com os critérios de autoria do Comité Internacional de Editores de Revistas Médicas (ICMJE)¹. Além disso, terão de confirmar que pelo menos um dos autores indicados (ou um representante de confiança, como um assistente de investigação) verificou manualmente a exatidão e a relevância de cada referência citada no manuscrito. No futuro, o nosso plano é que todas as referências, no momento da submissão, tenham de incluir – sob a forma de uma hiperligação clicável – o identificador de objeto digital, caso exista, ou, em alternativa, uma hiperligação estável e funcional equivalente, quando disponível. Se não existir uma versão online de uma fonte ou se esta não puder ser razoavelmente localizada, será adicionada a seguinte nota de exoneração de responsabilidade: (sem ligação online disponível).

Estamos atualmente em conversações com o Grupo BMJ sobre a viabilidade de implementar estas alterações. O Grupo BMJ está também a desenvolver políticas atualizadas relacionadas com a IA em todo o seu portfólio de revistas, e esperamos que esta proposta contribua para esse debate mais alargado. Entretanto, solicitamos comentários sobre a política proposta à nossa comunidade de autores e revisores.

A IA generativa está a afetar cada vez mais todas as etapas do processo de publicação em bioética – desde autores que experimentam modelos de linguagem de grande escala (LLM) na redação e edição, passando por revisores que ditam os seus comentários a uma IA e depois solicitam que esta resuma as suas observações, até editores e colaboradores do setor editorial que utilizam a IA para identificar referências inventadas. Todos temos interesse na forma como estas ferramentas são utilizadas (ou não utilizadas, ou mal utilizadas), à medida que trabalhamos em conjunto para construir uma literatura de alta qualidade. Por conseguinte, iremos em breve lançar um apelo à apresentação de comentários sobre este editorial, e incentivamos-vos a fazer ouvir a vossa voz.

Queremos deixar claro, desde já, o que esta política proposta é e o que não é. Não se trata de uma política contra a IA. A nossa intenção não é penalizar os autores por utilizarem, muito menos por declararem que utilizaram, ferramentas de IA generativa nos seus textos. Pelo contrário, o nosso objetivo é normalizar e desestigmatizar as declarações de utilização da IA – tornando-as rotineiras e esperadas –, contribuindo assim para garantir que, caso sejam utilizadas ferramentas de IA generativa, os riscos específicos associados à sua utilização possam ser geridos de forma adequada.

Devemos também salientar que não consideramos o recurso à IA generativa na escrita académica como algo intrinsecamente problemático. Pelo contrário, acreditamos que, quando utilizada de forma responsável, a IA generativa pode potencialmente acrescentar valor ao trabalho académico nas áreas da ética médica e da bioética. Por exemplo, pode ser utilizada para assinalar ambiguidades gramaticais, falhas de lógica e/ou problemas estruturais que exijam uma análise humana mais aprofundada. Pode ajudar autores de diversas origens a traduzir os seus trabalhos e/ou a expressar as suas ideias de forma mais precisa, utilizando a linguagem padrão da área. Pode realizar pesquisas preliminares na literatura, permitindo aos autores verificar a originalidade da contribuição que pretendem apresentar. E, no caso de artigos empíricos, pode ser utilizada para apoiar a análise de dados, por exemplo, mediante a elaboração de programas para a realização de testes estatísticos – embora estes devam, evidentemente, ser verificados manualmente pelos autores (ou por um membro da sua equipa) que possuam os conhecimentos especializados necessários.

Mas cada uma destas utilizações, entre outras, acarreta também riscos para a qualidade e a integridade da investigação académica. Em vez de detetar de forma fiável lacunas lógicas, por exemplo, a IA generativa por vezes provoca-as. Além disso, pode ‘disfarçar’ retoricamente esses problemas com uma verborreia que soa plausível, mas que, em última análise, é incoerente ou enganadora, cujas insuficiências são cognitivamente fáceis de ignorar.² Em vez de ‘aperfeiçoar’ ligeiramente o inglês de alguém para realçar as suas ideias originais com maior clareza, pode também uniformizar o seu estilo, transformando expressões encantadoramente idiossincráticas numa ‘linguagem académica’ genérica e sem vida.³ Pode ainda ‘introduzir sub-repticiamente’ as ideias de outra pessoa sem lhes atribuir o devido crédito – o chamado problema da ‘proveniência’, discutido mais adiante^.4 No que diz respeito às pesquisas bibliográficas, embora as ferramentas de IA possam identificar rapidamente referências relevantes, também podem ‘inventar’ citações que não existem – um problema aparentemente generalizado que, de acordo com uma estimativa recente,⁵ provavelmente afetou dezenas de milhares de artigos publicados só em 2025. ^II Por fim, em vez de se limitar a melhorar de forma simples ou direta a investigação empírica, a IA generativa pode, entre outras considerações, permitir que os investigadores produzam códigos funcionais que talvez não tenham os conhecimentos necessários para compreender na íntegra, ao mesmo tempo que oculta escolhas analíticas importantes (por exemplo, com operações do tipo ‘caixa preta’), o que pode comprometer a reprodutibilidade.⁶

É claro que a probabilidade e a magnitude destes riscos variam consoante o nível de competência do utilizador e o(s) modo(s) específico(s) de utilização, e cada um deles pode, com os conhecimentos adequados, ser substancialmente mitigado (ver tabela 1 e caixa 4 para exemplos selecionados). Estes riscos não tornam a IA generativa categoricamente inutilizável. No entanto, tornam-na significativa de formas que exigem maior atenção, diligência e cuidado, não só por parte do utilizador, mas também por parte daqueles que têm a responsabilidade de avaliar o trabalho resultante.

Uma ferramenta capaz de, simultaneamente, introduzir erros lógicos disfarçando-os numa prosa fluente, ‘ajustar automaticamente’ a voz distintiva, mas eficaz, de um autor, ocultar a fonte original de um argumento ou conceito, inventar referências inexistentes e/ou tornar os métodos opacos é uma ferramenta cuja utilização – e de que forma – os revisores e editores precisam de saber, para que possam direcionar a sua atenção em conformidade. Isto, por sua vez, é um pré-requisito para a capacidade de realizar uma avaliação devidamente calibrada em termos de risco, ajudando assim a garantir que quaisquer questões relacionadas com a IA sejam abordadas antes da publicação. Não só isto aumentará, como é de esperar, a qualidade e a fiabilidade do registo académico, como também deverá reduzir a probabilidade de os autores passarem por situações embaraçosas desnecessárias (por exemplo, se os erros pós-publicação relacionados com a utilização ou uso indevido da IA exigirem a retratação ou correção do manuscrito).

Nas secções seguintes, aprofundamos a fundamentação subjacente às alterações propostas, com especial destaque para a exigência de uma secção separada dedicada à divulgação da utilização de IA em todos os artigos submetidos. Respondemos também a algumas possíveis objeções à política (por exemplo, que esta possa contribuir para o viés de revisores) e explicamos como a declaração funcionaria na prática.

 […]

 CONCLUSÃO

Não temos qualquer ilusão de que uma declaração obrigatória sobre a utilização de IA eliminará a utilização não divulgada destas ferramentas. Esta política proposta deve ser entendida mais como uma tentativa de criar expectativas profissionais do que como uma intervenção comprovada. Se for implementada, iremos monitorizar os seus efeitos, ouvir os comentários dos autores e revisores e rever a nossa abordagem conforme necessário. No entanto, podemos afirmar com alguma confiança que a situação atual – em que o uso da IA é provavelmente generalizado, mas a divulgação é rara, e em que aqueles que são honestos quanto às suas práticas correm o risco de ficar em desvantagem em relação aos que não o são – é insustentável. Convidamos-vos a enviar os vossos comentários críticos e feedback sobre esta proposta, enquanto continuamos a investigar como esta, ou uma versão melhorada da mesma com base nas vossas sugestões, poderá ser implementada futuramente da melhor forma. <

 

Para ler o artigo original, clicar AQUI

 

[I] Adotamos a definição utilizada pelas revistas do portfólio da Nature: ‘Melhorias realizadas com o auxílio da IA em textos gerados por humanos, com vista a melhorar a legibilidade e o estilo e a garantir que os textos estejam isentos de erros gramaticais, ortográficos, de pontuação e de tom. Estas melhorias realizadas com o auxílio da IA podem incluir alterações na formulação e na formatação dos textos, mas não incluem trabalho editorial generativo nem a criação autónoma de conteúdos’.¹⁸ Como apontam Hosseini e colegas ¹⁴, ao utilizarem a abreviatura ‘GenAI’ para designar a IA generativa: ‘pode-se argumentar que a diferença entre a assistência à escrita e a criação de texto é gradual, e que a primeira poderia… transformar-se na segunda, [mas] ainda é possível distinguir entre as duas.’ ‘Isto deve-se ao facto de a GenAI fornecer aquilo que os utilizadores solicitam. Se os utilizadores pedirem à GenAI para melhorar a gramática, o estilo e a legibilidade [de um texto que tenham redigido manualmente], esse será o resultado gerado; mas se pedirem à GenAI para criar novas frases ou expandir o texto existente, é isso que irão obter’ (p. 729). No entanto, Hosseini et al referem também que, mesmo no caso da revisão ajudada por IA, ‘podem ainda surgir vieses e erros, sendo da responsabilidade dos autores verificar se o texto revisto é exato, preciso e relevante’ (p. 734).

[I] Não obstante, reconhecemos que a identificação estilométrica de textos influenciados pela IA não é, em geral, fiável.¹⁹ E embora não encorajemos especificamente a utilização de ferramentas de IA para editar e/ou gerar texto em manuscritos submetidos às revistas da família JME, também não proibimos tal utilização – desde que sejam respeitadas as condições indicadas na Caixa 4. Por estas razões, não apoiamos, nem temos planos de adotar, a utilização de ferramentas editoriais cujo objetivo principal seja simplesmente ‘detetar’ conteúdo gerado por IA, como se tal fosse, por si só, proibido.