Uomo o macchina? GPTZero scopre i testi dell'intelligenza artificiale

Scrivere un saggio, comporre una poesia o evocare un saggio dal nulla in pochi secondi? Dalla fine di novembre, questo è possibile grazie al chatbot alimentato dall'intelligenza artificiale (AI) "ChatGPT".

Mentre scolari, studenti o impiegati sono felici di questo utile strumento, uno studente di informatica dell'Università di Princeton negli Stati Uniti, Edward Tian, ne vede il potenziale pericolo. Nel corso del nuovo anno ha quindi creato un programma che riconosce se un testo proviene da ChatGPT o da un umano. Si chiama GPTZero.

"C'è tanto clamore intorno a ChatGPT. Questo e quello vengono scritti dall'intelligenza artificiale? Noi esseri umani meritiamo di sapere!" ha scritto il 22enne su Twitter. Soprattutto nel contesto della scuola, dice, questo è importante. "Gli insegnanti delle scuole superiori vogliono che gli studenti usino ChatGPT per scrivere i loro saggi di storia? Probabilmente no", spiega ancora Tian.

Dall'inizio di gennaio, gli interessati possono utilizzare la versione beta dell'app. Sia direttamente tramite il sito web di Tian, sia tramite la piattaforma open-source Streamlit.

Come funziona GPTZero

. Per l'analisi, gli utenti alimentano il campo di testo di GPTZero con del testo. Dopo pochi secondi, l'app risponde con una valutazione basata su un punteggio. Se il numero è relativamente alto, è probabile che il testo provenga da un umano.

GPTZero utilizza due criteri per valutare se un testo è stato scritto da un'IA o meno: "Perplexity" e "Burstiness". La perplessità misura la casualità di una frase. GPTZero analizza come è costruita la frase e se la sua struttura è insolita o sorprendente. Se lo è, indica che la frase è umana.

La burrosità guarda alla casualità all'interno dell'intero testo. Gli strumenti di intelligenza artificiale tendono a scrivere testi con complessità costantemente bassa. Gli esseri umani, invece, sono più propensi a scrivere una frase più complessa in un momento e una più semplice in un altro.

Tian "completamente sopraffatto" dall'enorme interesse

Dal suo rilascio, c'è stata una grande corsa a GPTZero. "Sono completamente sopraffatto dal supporto che questa applicazione ha ricevuto", afferma Tian su Substack. Questo dopo che, in un messaggio precedente, si era ancora scusato per il crash del sito web. Nel frattempo è crollato a causa dell'elevata domanda.

Nonostante il grande entusiasmo, ci sono anche voci più critiche come questa verso GPTZero. Su Twitter, fanno notare a Tian che la sua app non sarà utile a lungo. Questo perché pensano che ChatGPT supererà questi programmi in futuro.

Potrebbe GPTZero essere ingannato rapidamente?

Lo pensa anche Sandro Luck, Machine Learning Engineer di Digitec Galaxus. Tuttavia, non esclude immediatamente la nuova app di intelligenza artificiale. "Sospetto che GPTZero probabilmente scoprirà lunghi testi di ChatGPT", dice. "Questo perché OpenAI, l'azienda che sta dietro a ChatGPT, non ha alcun interesse a nascondere che ChatGPT è un'IA". Ma una volta che gli sviluppatori puntano a ingannare strumenti come GPTZero, ciò avviene "molto rapidamente".

Tian vuole assolutamente concentrarsi sull'espansione di GPTZero nei prossimi mesi, scrive lo studente su Substack. Vuole migliorare le capacità di modellazione e concentrarsi sulla scalabilità dell'applicazione. Inoltre, lui spera di pubblicare presto i suoi risultati con il programma in un articolo scientifico.

Potrebbero interessarti anche questi articoli