ChatGPT Maker OpenAI rilascia uno strumento per verificare se il testo è stato scritto da un essere umano

Scritto da Jane Nguyen tramite The Epoch Times (sottolineatura nostra),

OpenAI, il produttore del chatbot ChatGPT, ha annunciato martedì di aver rilasciato un nuovo strumento software per aiutare a rilevare se qualcuno sta cercando di far passare il testo generato dall'intelligenza artificiale come qualcosa che è stato scritto da una persona.

Lo strumento, noto come classificatore, arriva due mesi dopo il rilascio di ChatGPT, un chatbot che genera risposte simili a quelle umane in base all'input che riceve. Le scuole si sono affrettate a limitare l'uso di ChatGPT per timore che potesse alimentare la disonestà accademica e ostacolare l'apprendimento, poiché gli studenti hanno utilizzato il chatbot per creare contenuti che spacciano per propri.

I ricercatori di OpenAI hanno affermato che mentre era "impossibile rilevare in modo affidabile tutto il testo scritto dall'IA", i buoni classificatori potevano rilevare i segni che il testo è stato scritto dall'IA. Hanno affermato che lo strumento potrebbe essere utile nei casi in cui l'intelligenza artificiale è stata utilizzata per "disonestà accademica" e quando i chatbot di intelligenza artificiale sono stati posizionati come esseri umani.

In uncomunicato stampa , OpenAI avverte che la modalità beta pubblica dell'annuncio è "non completamente affidabile", affermando che mira a raccogliere feedback e condividere metodi migliorati in futuro.

L'azienda ha ammesso che il classificatore ha identificato correttamente solo il 26% dei testi in inglese scritti da AI. Ha anche etichettato erroneamente il testo scritto dall'uomo come scritto dall'intelligenza artificiale il 9 percento delle volte.

Il classificatore ha anche diverse limitazioni, inclusa la sua inaffidabilità sul testo inferiore a 1.000 caratteri, oltre a identificare erroneamente del testo scritto dall'uomo come scritto dall'IA. Inoltre, per ora funziona solo in inglese, poiché funziona "significativamente peggio in altre lingue ed è inaffidabile sul codice". Infine, secondo OpenAI, il testo scritto da AI può essere modificato per eludere il classificatore.

" Non dovrebbe essere utilizzato come strumento decisionale primario, ma invece come complemento ad altri metodi per determinare la fonte di un pezzo di testo", ha affermato OpenAI.

ChatGPT è un programma gratuito che genera testo in risposta a un prompt, inclusi articoli, saggi, barzellette e persino poesie.

Da quando ChatGPT ha debuttato nel novembre 2022 e ha guadagnato ampia popolarità tra milioni di utenti, alcuni dei più grandi distretti scolastici degli Stati Uniti hanno bandito il chatbot AI per timore che gli studenti utilizzino il generatore di testo per imbrogliare o plagiare.

Dopo l'ondata di attenzione, la scorsa settimana Microsoft ha annunciato un investimento multimiliardario in OpenAI, una startup di San Francisco orientata alla ricerca, e ha affermato che avrebbe incorporato i modelli di intelligenza artificiale della startup nei suoi prodotti per consumatori e aziende.

Reuters ha contribuito a questo rapporto.