Escreve as tuas próprias palavras

Resumo

Há dois anos, o ChatGPT foi lançado e popularizou a IA como ferramenta para criar coisas. Os grandes modelos de linguagem geram texto a partir de instruções e produzem palavras difíceis de distinguir das escritas por uma pessoa. Os benefícios a curto prazo são claros, mas desconfio que muita gente subestima os custos a longo prazo.

Texto completo

Desde que a OpenAI lançou o ChatGPT, tenho trabalhado ativamente com esta nova tecnologia para perceber o que ela consegue fazer. Já programei com IA, aprendi com IA e ensinei pessoas a trabalhar com IA. Voltei à universidade para atualizar os meus conhecimentos sobre as tecnologias por trás da IA. Escrevi um artigo de blogue com ar verdadeiro feito com IA. Mas, acima de tudo, tenho pensado no impacto da IA na nossa sociedade.

É uma ferramenta poderosa, capaz de coisas incríveis, como detetar cancro em imagens de ressonância magnética ou estruturar e documentar código para o tornar reutilizável. Toda a gente pode usar IA, e é aí que está um problema potencial, sobretudo na criação de conteúdos.

Unicamente humano

Se todos usarmos as mesmas ferramentas para gerar conteúdos, com o tempo tudo vai começar a parecer igual. Corremos o risco de perder diversidade. Sobretudo porque os novos modelos informáticos estão a ser treinados com conteúdos acabados de gerar. É um ciclo recursivo que faz os conteúdos novos parecerem cada vez mais semelhantes aos existentes.

Já se vê este problema nos resultados de pesquisa do Google. As pessoas notaram que os resultados estão a piorar. Isto atribui-se muitas vezes a uma quantidade crescente de conteúdo otimizado para motores de busca, mas de baixa qualidade. Vale a pena ver este estudo de Bevendorff Et Al. com uma investigação longitudinal sobre o spam de SEO nos motores de busca. O conteúdo de baixa qualidade, mas com bom aspeto, empurra para longe o conteúdo realmente valioso.

O que podemos fazer? Com certeza que quem faz os modelos informáticos vai criar filtros inteligentes para excluir material de baixa qualidade do treino. Espero que passe a haver um prémio para o conteúdo que não é gerado por IA. Tal como o antigo aço de baixo fundo é valorizado por não estar contaminado com os vestígios de precipitação nuclear presentes no aço moderno.

Detetar conteúdo de IA

Foi a IA que escreveu isto? Em que difere a escrita do ChatGPT da dos humanos? Investigadores da Preply procuraram sinais para detetar textos escritos por IA para determinar a origem de ensaios de estudantes. Analisaram 12 000 ensaios e fizeram uma análise das palavras, expressões e erros mais frequentes, tanto em textos escritos por humanos como gerados por computador. Estas são algumas das principais conclusões:

• Os textos escritos por humanos tinham muito mais probabilidade de conter erros: 78% dos textos tinham pelo menos um erro, contra apenas 13% dos ensaios de IA
• Os erros de pontuação mais comuns nos textos humanos eram vírgulas em falta, erros com hífenes e espaços em falta
• O ChatGPT usa menos 35% de vocabulário único do que os humanos, com apenas 7308 palavras únicas no total, contra 11 248 palavras únicas nos textos escritos por humanos
• Os humanos tendem a usar substantivos e verbos comuns como 'um' ou 'pessoas', enquanto o ChatGPT prefere termos complexos e especializados como 'cultural' ou 'económico'.

Arte em vez de artificial

Se te importas com o conteúdo, devias considerar vê-lo como arte: pode haver nele uma qualidade humana que determina o seu significado para outros humanos. Numa comparação detalhada, a Gold Penguin compara arte criada por humanos com arte gerada por IA. As principais conclusões para identificar conteúdo criado por IA são:

• Uso excessivo de padrões: as máquinas lidam mal com entropia ou dados aleatórios, por isso os geradores de IA tendem a repetir certos padrões que são proeminentes noutras imagens
• Complexidade: a IA tem dificuldade em reproduzir os elementos únicos ou invulgares com que os artistas humanos mais experimentam.
• Falta de emoção: embora por vezes seja visualmente melhor, a arte de IA não tem a profundidade emocional e concetual da arte humana.
• Erros: Já viste uma obra de arte e simplesmente sabes que é falsa, mesmo sem saberes explicar porquê? É o vale da estranheza. Costuma manifestar-se em pequenos pormenores e não em algo mesmo à frente do nariz. Seis dedos, pupilas que escorrem, objetos mal agarrados, e a lista continua.

Entendo que nem todos os textos são igualmente importantes e que alguns não merecem ser elevados a obras de arte. Há casos de uso muito bons para os geradores de IA, incluindo traduções ou resumos. Não sou contra os grandes modelos de linguagem em geral, defendo apenas que devem ser vistos como uma ferramenta com vantagens e desvantagens.

Conclusão

Quanto mais poderosa é uma ferramenta, maior o mal que pode fazer: cabe a quem a manuseia usá-la bem. Embora os grandes modelos de linguagem sejam poderosos na capacidade de gerar textos com bom aspeto, o seu valor é, no fim, determinado pelo significado que os humanos lhe atribuem. Se os museus cheios de arte são alguma indicação, espero que haja sempre apreço pelas coisas feitas à mão. Podemos começar por simplesmente ligar um pouco mais às coisas que criamos, por exemplo escrevendo as nossas próprias palavras.