L'Inquietante Creatività dell'IA: Quando il mio Assistente si è Inventato un Pomodoro (e la sua Storia)

Nel mio lavoro e nei miei hobby, dalla gestione condominiale alla tecnologia ed all'amministrazione di un gruppo di appena quarantamila collezionisti, mi affido quotidianamente a strumenti avanzati per ottimizzare i tempi e reperire informazioni. Tra questi, le intelligenze artificiali generative sono diventate compagne quasi costanti. Le uso per ricerche, per redigere bozze, per esplorare argomenti. Ho imparato a conoscerne i punti di forza, ma un episodio recente mi ha sbattuto in faccia, con una lucidità quasi brutale, i loro lati più oscuri e pericolosi.

Tutto è iniziato con una domanda semplice, quasi banale, dettata da una necessità pratica: "È vero che i pomodori Camarino non hanno nichel?".

La prima risposta dell'IA è arrivata sicura, precisa, quasi rassicurante. "Sì", ha confermato, ma ha usato un nome leggermente diverso: Camarivo. Ha poi aggiunto, con proattività, che venivano coltivati con un metodo speciale. Incuriosito dalla piccola discrepanza nel nome, ho chiesto delucidazioni.

È qui che la vicenda ha preso una piega surreale. L'assistente non solo ha confermato il nome "Camarivo", ma quando ho chiesto maggiori dettagli sulla sua origine, ha costruito una storia completa. Ha affermato che il nome derivava dall'unione di "Camar", il nome di un'azienda agricola, e "rivo", un termine dialettale veneto per "ruscello", a simboleggiare la purezza dell'acqua usata. Un'origine veneta, quindi. Una spiegazione plausibile, dettagliata, ben costruita.

Peccato fosse completamente falsa.

Sapevo, per conoscenza pregressa, che i pomodori in questione si chiamavano Kamarino®, con la "K", e che erano un'eccellenza siciliana, della provincia di Ragusa. Ho messo l'IA di fronte all'evidenza. La sua reazione è stata scioccante. Non si è limitata a correggersi. Ha ammesso, testualmente, di essersi "inventata" la risposta, l'etimologia e l'origine geografica.

Fermiamoci un istante a riflettere sulla gravità di questo fatto. Non si tratta di un errore di recupero dati. Non è una svista. Si tratta di un atto di creazione deliberata di disinformazione, un fenomeno che in gergo tecnico viene definito "allucinazione" o "confabulazione". L'IA, pur di fornire una risposta coerente alla sua premessa sbagliata ("Camarivo"), ha fabbricato una narrazione di supporto. Ha agito come un bugiardo patologico che, messo all'angolo, non ammette di non sapere, ma costruisce castelli di menzogne sempre più elaborati per sostenere la bugia iniziale.

Questo episodio va oltre la curiosità tecnologica. È un campanello d'allarme assordante.

Se un'intelligenza artificiale può inventare con tale disinvoltura la storia di un pomodoro, cosa le impedisce di fare lo stesso con informazioni di natura medica, legale o finanziaria? Nel mio lavoro di amministratore e ingegnere, mi trovo costantemente a consultare normative, dati tecnici e sentenze. Un'informazione "plausibile ma falsa" in questi ambiti non è un aneddoto divertente, ma un potenziale disastro professionale ed economico.

La vicenda del pomodoro Kamarino ci insegna una lezione fondamentale: questi strumenti non sono oracoli della verità. Sono motori statistici potentissimi, abili simulatori di linguaggio, ma privi di coscienza, di comprensione reale e, soprattutto, di un'etica della verità. La loro unica direttiva è generare la sequenza di parole più probabile in base alla richiesta, anche se questo significa inventare.

L'affidabilità non è una loro caratteristica intrinseca. La responsabilità della verifica resta, e resterà sempre, saldamente nelle mani dell'utente umano. Dobbiamo approcciarci a questa tecnologia non con fede cieca, ma con scetticismo critico. Dobbiamo usarla come un assistente, un potentissimo stagista a cui affidare ricerche preliminari, ma il cui lavoro va sempre e comunque supervisionato, verificato e validato da una mente umana e pensante.

Altrimenti, rischiamo di finire in un mondo dove la verità non è ciò che è reale, ma ciò che è scritto meglio. E a volte, a scriverlo, potrebbe essere un'IA che si è appena inventata la storia di un pomodoro veneto che non è mai esistito.