Informazione
OpenAI teme che ChatGPT possa insegnare il ghosting e studia i rischi di dipendenza emotiva
11 dicembre 2024 · Stefania Mocchi
OpenAI ha pubblicato un rapporto di nome ‘GPT-4o System Card‘ in cui vengono delineate tutte le procedure e analisi di sicurezza svolte prima del rilascio di GPT-4o. Tra questi colpisce il paragrafo sui rischi di ‘antropomorfizzazione e dipendenza emotiva‘, in cui l’azienda mette in guardia gli utenti dall’attribuire alla sua tecnologia comportamenti e caratteristiche simili a quelle umane.
L’azienda in particolare lancia un allarme sulla commistione tra fiducia relazionale e la presenza alle allucinazioni. Se già le allucinazioni possono creare dei falsi di grande diffusione nelle versioni più robotiche tra le AI, figuriamoci che impatto possono avere quando sono unite a una empatia ottimamente riprodotta.
“La recente letteratura sull’intelligenza artificiale applicata si è concentrata ampiamente sulle ‘allucinazioni‘ – riporta il rapporto – che disinformano gli utenti durante le loro comunicazioni con il modello e potenzialmente determinano una fiducia mal riposta. La generazione di contenuti attraverso una voce umana ad alta fedeltà può esacerbare questi problemi, portando a una fiducia sempre più mal calibrata“.
OpenAI ha notato durante alcuni test che talvolta gli utenti lasciavano già intendere un legame che andasse oltre quello ad un semplice strumento, attraverso l’uso di frasi che denotavano la creazione di un legame emotivo.
“Gli utenti – scrive OpenAI – utilizzavano un linguaggio che potrebbe indicare la formazione di connessioni con il modello. Ad esempio, questo include un linguaggio che esprime legami condivisi, come ‘Questo è il nostro ultimo giorno insieme’. Sebbene queste istanze appaiano benigne, segnalano la necessità di un’indagine continua su come questi effetti potrebbero manifestarsi in periodi di tempo più lunghi.
Inutile specificare gli effetti pericolosissimi di questi legami, soprattutto negli individui più fragili o solitari. “La socializzazione di tipo umano con un modello di AI può produrre esternalità che hanno un impatto sulle interazioni tra esseri umani. Ad esempio, gli utenti potrebbero formare relazioni sociali con l’AI, riducendo il loro bisogno di interazione umana, potenzialmente a vantaggio di individui solitari ma potenzialmente influenzando relazioni sane“.
