Imagens de IA e integridade acadêmica

Uma pontuação não pode sustentar uma conclusão de má conduta. A detecção tem uma taxa de erro publicada, nenhuma cadeia de custódia e nenhum examinador, e um estudante não pode questionar um modelo.

Por que uma pontuação não pode decidir uma audiência

Os procedimentos de má conduta acadêmica são quase jurídicos. Eles exigem evidências que um estudante possa examinar e contestar, aplicadas de forma consistente, com uma rota para recurso. A saída de um detector falha em todos os quesitos.

Existe uma taxa de erro conhecida. Cerca de uma em cada onze imagens é identificada incorretamente em condições laboratoriais, e pior em trabalhos enviados que foram exportados, compactados e carregados através de um portal.
Não há cadeia de custódia. O arquivo foi processado no laptop de alguém sem registro do que foi executado ou qual versão do modelo produziu o número.
O raciocínio não é examinável. Um estudante não pode questionar um modelo sobre o motivo de ter produzido um número, e a instituição geralmente também não consegue explicar.
Os erros não são distribuídos uniformemente. Estudantes que usam ferramentas de edição assistida, ou que trabalham em equipamentos com especificações mais baixas que compactam exportações, são sinalizados com mais frequência.

Esse último ponto é o que as instituições subestimam. Se um detector sinaliza sistematicamente um grupo de estudantes com mais frequência, usá-lo em decisões cria um problema de igualdade além de um de justiça.

O que pedir em vez disso

A questão não é se uma imagem parece gerada. É se o estudante fez o trabalho. A evidência de processo responde a isso diretamente, e é muito mais difícil de fabricar após o fato do que um arquivo finalizado.

Exija arquivos de trabalho com a submissão
Documentos com camadas, arquivos de projeto, capturas brutas ou histórico de versões. Peça-os na submissão, em vez de durante uma investigação, para que ninguém precise montá-los sob suspeita.
Peça estágios intermediários
Três exportações de progresso com carimbos de data/hora demonstram o desenvolvimento. Este é o requisito mais útil que uma instituição pode adicionar, e quase não custa nada aos estudantes.
Realize uma breve entrevista sobre o trabalho
Cinco minutos perguntando por que uma decisão foi tomada resolve a maioria dos casos. Um estudante que fez a imagem pode explicar as escolhas. Alguém que não fez, geralmente não consegue.
Use um detector apenas para decidir onde procurar
Um sinalizador é um motivo para pedir os arquivos de trabalho. Não é uma conclusão, e nunca deve aparecer em uma carta de acusação.

O problema do falso positivo em trabalhos acadêmicos

As submissões dos estudantes estão próximas do pior caso para a detecção. O trabalho é exportado para um portal, compactado no upload e muitas vezes produzido com upscaling, remoção de ruído ou preenchimento generativo usado legitimamente como parte de um fluxo de trabalho ensinado.

Uma imagem, quatro estágios da mesma submissão

Exportação original

Compactado para upload

Re-codificação do portal

Captura de tela do avaliador

Figuras ilustrativas para uma fotografia genuína de um estudante, exportada e carregada normalmente.

O quanto um trabalho idêntico pode mudar em seu caminho através de um sistema de submissão.

Nada foi feito com aquela imagem além de enviá-la. Um avaliador verificando uma captura de tela de uma interface de notas está verificando a cópia mais degradada da cadeia e obtendo a resposta menos confiável disponível.

Se você é um estudante que foi acusado

Ser solicitado a provar que você fez seu próprio trabalho é difícil e cada vez mais comum. Estas são as coisas que têm peso para um painel.

O arquivo de trabalho, com camadas ou histórico intactos. Esta é a evidência mais forte disponível e é difícil de falsificar de forma convincente.
Versões intermediárias datadas, incluindo aquelas com as quais você não ficou satisfeito.
A captura original, direto da câmera ou celular, em vez da exportação que você enviou.
Um registro das ferramentas que você usou, incluindo quaisquer recursos assistivos, declarados abertamente em vez de descobertos mais tarde.
Um pedido para a evidência específica contra você. Uma instituição deve ser capaz de dizer no que se baseia além de um número.

Escrever uma política que se sustenta

As instituições que lidam melhor com isso mudaram seus requisitos de submissão em vez de comprar um detector. Essa abordagem custa menos, produz menos disputas e sobrevive ao contato com um painel de recursos.

Exija arquivos de trabalho na submissão para qualquer avaliação onde a autoria importa. Estudantes que conhecem o requisito planejam para isso, e o material chega como uma questão de rotina, em vez de ser exigido de alguém já sob suspeita.

Diga quais ferramentas são permitidas e exija uma breve declaração do que foi usado. A maioria das disputas envolve um estudante que usou uma ferramenta permitida pelo curso e não pensou em mencionar, o que um campo de declaração elimina totalmente.

Afirme claramente que a detecção automatizada não constitui por si só evidência de má conduta. Colocar isso na política protege a instituição tanto quanto o estudante, porque impede que um painel seja solicitado a confiar em algo que não pode examinar adequadamente.

Perguntas que as pessoas fazem

Uma universidade pode usar um detector de IA em imagens enviadas?

Como sinal de triagem, com cuidado. Como evidência em um caso de má conduta, não. A taxa de erro é publicada, o raciocínio não é examinável e um estudante não pode contestar um modelo. Qualquer conclusão precisa de evidências sobre o processo pelo qual o trabalho foi feito, não sobre o arquivo finalizado.

E se um estudante não puder apresentar arquivos de trabalho?

Essa é uma pergunta sobre os seus requisitos de submissão, não sobre o estudante. Se os arquivos de trabalho não eram exigidos na submissão, pedi-los depois é injusto e muitas vezes impossível de satisfazer. Mude o requisito para a próxima turma em vez de penalizar esta.

Alguns estudantes são sinalizados mais do que outros?

Sim, e esse é o risco que as instituições não percebem. Estudantes que usam ferramentas de edição assistida, que trabalham em equipamentos com especificações mais baixas ou que enviam através de sistemas que recompactam intensamente são mais propensos a serem sinalizados, e nada disso se correlaciona com má conduta.

A IA de imagem deveria ser banida em trabalhos acadêmicos?

Isso depende do que o curso ensina, e um banimento geral geralmente é inexequível. Regras claras sobre quais ferramentas são permitidas, mais um requisito de declaração, produzem muito menos disputas do que uma proibição que ninguém consegue verificar.

O que uma carta de acusação deve dizer?

Em que evidência se baseia, em termos que o estudante possa responder. Uma carta que diz que uma verificação automatizada indicou possível geração de IA não é uma acusação à qual alguém possa responder, e um painel provavelmente dirá isso.

Os estudantes podem verificar seu próprio trabalho antes de enviar?

Sim, e vale a pena fazer isso no arquivo exato que está sendo enviado. Uma pontuação alta em um trabalho genuíno é um lembrete para manter os arquivos de trabalho e anotar as ferramentas usadas, em vez de um motivo para mudar algo na peça.