Scrivi con le tue parole

Riassunto

Due anni fa è arrivato ChatGPT, che ha reso popolare l'IA come strumento per creare cose. I grandi modelli linguistici generano testi a partire dai prompt, con parole difficili da distinguere da quelle scritte da una persona. I vantaggi a breve termine sono evidenti, ma sospetto che molti sottovalutino i costi a lungo termine.

Testo completo

Da quando OpenAI ha lanciato ChatGPT, lavoro attivamente con questa nuova tecnologia per capire che cosa sa fare. Ho programmato con l'IA, ho imparato con l'IA e ho insegnato alle persone a lavorare con l'IA. Sono tornato all'università per rispolverare le competenze sulle tecnologie alla base dell'IA. Ho scritto un articolo di blog dall'aspetto credibile con l'IA. Ma soprattutto ho riflettuto sull'impatto dell'IA sulla nostra società.

È uno strumento potente, capace di fare cose incredibili, come individuare il cancro nelle immagini di risonanza magnetica o strutturare e documentare il codice per poterlo riutilizzare. Tutti possono usare l'IA, ed è qui che sta un possibile problema, soprattutto per la creazione di contenuti.

Unicamente umano

Se usiamo tutti gli stessi strumenti per generare contenuti, alla fine tutto comincerà ad assomigliarsi. Rischiamo di perdere la diversità. Soprattutto perché i nuovi modelli vengono addestrati su contenuti generati da poco. È un ciclo ricorsivo che fa sembrare i nuovi contenuti sempre più simili a quelli esistenti.

Questo problema si vede già nei risultati di ricerca di Google. La gente ha notato che i risultati peggiorano. Spesso se ne dà la colpa alla quantità crescente di contenuti ottimizzati per i motori di ricerca ma di bassa qualità. Dai un'occhiata a questo studio di Bevendorff Et Al, che indaga nel tempo lo spam SEO nei motori di ricerca. I contenuti di bassa qualità ma belli da vedere spingono via quelli davvero preziosi.

Cosa possiamo fare? Di sicuro chi sviluppa i modelli troverà filtri intelligenti per escludere il materiale di bassa qualità usato per l'addestramento. Mi aspetto che ci sarà un valore aggiunto per i contenuti non generati dall'IA. Come l'acciaio a basso fondo di radioattività, quello vecchio, che ha valore perché non è contaminato dalle tracce di ricadute nucleari presenti nell'acciaio moderno.

Riconoscere i contenuti dell'IA

L'ha scritto un'IA? Come scrive ChatGPT rispetto agli esseri umani? I ricercatori di Preply hanno cercato segnali per riconoscere i testi scritti dall'IA per stabilire l'origine di alcuni saggi di studenti. Hanno analizzato 12.000 saggi e compilato un'analisi delle parole, delle frasi e degli errori più frequenti, sia nei testi scritti da persone sia in quelli generati da computer. Ecco alcune delle conclusioni principali:

• I testi scritti da persone contenevano molti più errori: il 78% aveva almeno un errore, contro il 13% soltanto dei saggi dell'IA
• Gli errori di punteggiatura più comuni nei testi umani erano virgole mancanti, errori nei trattini e spazi mancanti
• ChatGPT usa il 35% di vocabolario unico in meno rispetto agli umani, con solo 7.308 parole uniche in totale, contro le 11.248 parole uniche dei testi scritti da persone
• Gli umani usano più spesso nomi e verbi comuni come "uno" o "gente", mentre ChatGPT preferisce termini complessi e specialistici come "culturale" o "economico".

Arte invece di artificiale

Se ti importano i contenuti, prova a vederli come arte: può esserci in loro una qualità umana che determina il significato che hanno per gli altri esseri umani. In un confronto dettagliato Gold Penguin mette a paragone l'arte creata dagli umani con quella generata dall'IA. Ecco cosa hanno scoperto su come riconoscere i contenuti creati dall'IA:

• Uso eccessivo di schemi: le macchine non se la cavano bene con l'entropia o con i dati casuali, quindi i generatori di IA tendono a ripetere certi schemi molto presenti in altre immagini
• Complessità: l'IA fatica a replicare gli elementi unici o insoliti con cui gli artisti umani sono più propensi a sperimentare.
• Mancanza di emozione: a volte può essere visivamente migliore, ma l'arte dell'IA non ha la profondità emotiva e concettuale dell'arte umana.
• Errori: ti è mai capitato di vedere un'opera d'arte e di capire al volo che è falsa, senza saper dire perché? È la cosiddetta valle perturbante. Di solito si manifesta in piccoli dettagli, non in qualcosa che salta subito all'occhio. Sei dita, pupille che sanguinano, oggetti tenuti in modo sbagliato: la lista continua.

Capisco che non tutti i testi siano ugualmente importanti e che alcuni non valgano la pena di essere elevati a opere d'arte. Ci sono ottimi casi d'uso per i generatori di IA, tra cui traduzioni e riassunti. Non sono contrario in generale ai grandi modelli linguistici, sostengo solo che vadano visti come uno strumento con i suoi pro e i suoi contro.

Conclusione

Più uno strumento è potente, più danni può fare: sta a chi lo maneggia usarlo bene. I grandi modelli linguistici sono potenti nel generare testi dall'aspetto credibile, ma il loro valore dipende in definitiva dal significato che gli esseri umani gli attribuiscono. Se i musei pieni di arte sono un indizio, mi aspetto che ci sarà sempre apprezzamento per le cose fatte a mano. Cominciamo semplicemente a preoccuparci un po' di più delle cose che creiamo, scrivendo per esempio con le nostre parole.