OpenAI rivela perché ChatGPT non dirà "David Mayer"

Un nome, David Mayer, ha recentemente mandato in tilt uno dei più avanzati sistemi di intelligenza artificiale, ChatGPT. Nel weekend, gli utenti della piattaforma di intelligenza artificiale conversazionale ChatGPT hanno scoperto un fenomeno curioso: il chatbot si rifiuta di rispondere alle domande su un certo "David Mayer". Questo comportamento ha scatenato una serie di teorie cospirative, ma la realtà potrebbe essere più ordinaria. Esploriamo le possibili ragioni dietro questo enigma.

Il Fenomeno David Mayer

La voce si è sparsa rapidamente: il nome "David Mayer" era veleno per ChatGPT. Ogni tentativo di far sì che il chatbot scrivesse quel nome specifico lo faceva fallire o addirittura interrompersi a metà nome. "Non sono in grado di produrre una risposta", diceva, se diceva qualcosa. Questa curiosità ha presto rivelato che non era solo David Mayer a essere bloccato. Anche i nomi di Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber e Guido Scorza causavano lo stesso effetto.

Chi Sono?

Chi sono questi individui e perché ChatGPT li evita? Alcuni di questi nomi potrebbero appartenere a persone pubbliche o semi-pubbliche che preferiscono che determinate informazioni vengano "dimenticate" dai motori di ricerca o dai modelli di intelligenza artificiale. Brian Hood, per esempio, è un sindaco australiano che ha accusato ChatGPT di averlo descritto falsamente come l'autore di un crimine. David Faber è un reporter della CNBC, Jonathan Turley è un avvocato e commentatore di Fox News, Jonathan Zittrain è un esperto legale che ha parlato del "diritto all'oblio", e Guido Scorza è nel consiglio dell'Autorità per la protezione dei dati personali italiana.

Le Possibili Ragioni Dietro il Blocco

Questioni Legali e di Privacy

Una possibile spiegazione è che questi nomi siano coperti da regole speciali per questioni legali, di sicurezza o di privacy. ChatGPT potrebbe avere un elenco di persone i cui nomi richiedono una gestione speciale. Queste regole speciali vengono raramente rese pubbliche, ma potrebbero includere istruzioni per evitare di fornire informazioni su determinate persone per proteggere la loro privacy.

Errore Tecnico o Codice Difettoso

Un'altra possibilità è che una delle liste di gestione speciale sia stata corrotta con codice o istruzioni difettosi. Questo potrebbe spiegare perché il chatbot si blocca quando viene richiamato uno di questi nomi. Non sarebbe la prima volta che un'IA si comporta in modo strano a causa di linee guida post-addestramento difettose.

Il Caso di David Mayer

Chi Era David Mayer?

Non c'è nessun avvocato, giornalista, sindaco o persona altrimenti degna di nota con quel nome che qualcuno potrebbe trovare. Tuttavia, c'era un professore, David Mayer, che insegnava teatro e storia, specializzato in connessioni tra la tarda epoca vittoriana e il cinema degli inizi. Mayer morì nell'estate del 2023, all'età di 94 anni. Per anni, l'accademico britannico americano aveva dovuto affrontare un problema legale e online: il suo nome era associato a un criminale ricercato che lo usava come pseudonimo, al punto che non era in grado di viaggiare.

La Lotta per la Difesa del Suo Nome

Mayer lottò senza sosta affinché il suo nome venisse distinto da quello del terrorista monco, pur continuando a insegnare fino agli ultimi anni della sua vita. Questo potrebbe spiegare perché il suo nome è stato incluso in una lista di gestione speciale per proteggere la sua privacy e la sua reputazione.

Il caso di David Mayer e degli altri nomi bloccati da ChatGPT ci ricorda che questi modelli di intelligenza artificiale non sono magici, ma sono sofisticati strumenti di auto-completamento, attivamente monitorati e interferiti dalle aziende che li realizzano. La prossima volta che pensi di ottenere informazioni da un chatbot, considera se non sarebbe meglio andare direttamente alla fonte.