AI Text Classifier: ecco il tool che riconosce i testi scritti con l’intelligenza artificiale

OpenAI ha lanciato AI Text Classifier, uno strumento in grado di riconoscere i testi scritti sfruttando l’intelligenza artificiale generativa di software come ChatGPT. Il tool, attualmente accessibile a tutti, è molto semplice da utilizzare.

AI Text Classifier arriva in un momento molto delicato: poche settimane fa le scuole di New York City avevano bandito ChatGPT, per paura che gli studenti lo usassero per imbrogliare e come scusa per non studiare.

L’arrivo di questo nuovo software può far tirare un sospiro di sollievo a molti sospettosi: adesso avranno un alleato in più scongiurare questo tipo di minacce. Non è tutto oro ciò che luccica però, vediamo con precisione come funziona il software e quali limiti ha attualmente.

leggi anche

ChatGPT: abbiamo bisogno di nuove regole?

AI Text Classifier: come funziona

Secondo la descrizione riportata sulla pagina principale del sito, AI Text Classifier è uno strumento in grado di affermare il grado di probabilità con cui un testo può essere stato scritto sfruttando l’intelligenza artificiale generativa di software come ChatGPT.

Per provarlo è sufficiente cercarlo su un qualsiasi motore di ricerca, selezionarlo e scorrere in basso fino a dove si trova lo spazio per inserire il testo e scriverne uno, anche breve.

Qualora vogliate prima vedere come funziona, potete sfruttare gli «Examples»: se premete su Human-written, AI-Generated oppure Misclassified Human-Written, vedrete comparire tre testi diversi che hanno caratteristiche altrettanto diverse.

• Il primo testo è scritto da una persona reale, il sistema quindi lo rileverà come tale.
• Il secondo testo è scritto da ChatGPT, quindi il sistema probabilmente lo riconoscerà come generato dall’AI.
• Nel terzo caso, il sistema inserisce un testo in una lingua diversa dall’inglese, il sistema quindi produrrà un giudizio errato.

Se non volete provare questi esempi potete procedere oltre. Scegliete un testo, scritto dall’intelligenza generativa o da voi stessi e premete «Submit» a quel punto il sistema emanerà un giudizio. Se altrimenti volete ricominciare potete cancellare tutto, oppure premere su «Clear».

I giudizi emanati da AI Text Classifier possono essere:

• molto improbabile che sia stato scritto usando l’intelligenza artificiale generativa;
• improbabile che sia stato scritto usando l’intelligenza artificiale generativa;
• non chiaro se sia stato scritto usando l’intelligenza artificiale generativa;
• possibile che sia stato scritto usando l’intelligenza artificiale generativa;
• probabile che sia stato scritto usando l’intelligenza artificiale generativa.

leggi anche

GPT: cosa può fare veramente l’AI e perché non siamo ancora pronti

AI Text Classifier: i limiti attuali

Per utilizzare AI Text Classifier è necessario inserire un testo che sia lungo almeno 1.000 caratteri (circa 200-250 parole). I contenuti che gli fornite, poi, dovrebbero essere scritti da adulti e in lingua inglese, poiché sono queste le caratteristiche dei testi con cui la sua intelligenza artificiale è stata «addestrata». Qualora il testo inserito sia in un’altra lingua o scritto da un bambino, è probabile che il modello emetta un giudizio errato.

Attualmente è inoltre molto semplice ingannare il modello: è sufficiente modificare leggermente il testo fornito dall’intelligenza artificiale generativa per fare in modo che il sistema non ne riconosca la provenienza «illecita».

Attualmente, infine, non è chiara l’efficacia con cui AI Text Classifier rileva i testi scritti in collaborazione tra l’uomo e l’intelligenza artificiale generativa.