Nei giorni scorsi è emerso un bel problema, in parte annunciato, e già in corso di remediation da parte di Open AI.
Si tratta di milioni di conversazioni (prompt e risposte di ChatGPT) esposte anonimamente da ChatGPT e indicizzate dai motori di ricerca del Web.
Ho scoperto la situazione grazie a un post di Matt Both, Solution Architect di Rapid Circle, che ha condiviso la propora esperienza attraverso LinkedIn.
Il problema
Ricercando su Google o su Bing (specificando la source “site:chatgpt.com/share” per evidenziare il contesto), si ottenevano i contenuti delle conversazioni scambiate dagli utenti con ChatGPT!
Questo era quanto restituiva una ricerca su Google (oggi è stata “oscurata”):
e questo è quello che restituisce Bing (almeno oggi non è ancora stato oscurato):
Se poi un utente ha inserito, all’interno dei propri prompt, anche qualche link a propri documenti salvati su Drive (o altrove)… anche quei contenuti saranno stati indicizzati dai motori di ricerca, rendendoli fruibili a chiunque.
Ma qui il problema è chiaramente culturale, dove le persone condividono link ai propri documenti (anonimamente) con eccessiva confidenza e leggerezza.
La motivazione?
Le ragioni di questo comportamento sono legate alla caratteristica, configurabile da parte dell’utente, di rendere condivise le proprie conversazioni con ChatGPT.
Oggi OpenAI è corsa ai ripari, rimuovendo questa opzione:
Naturalmente le informazoni fin qui esposte anonimamente sono state “potenzialmente” già grabbate ed analizzate da motori di ricerca ed altri strumenti di AI.
Ad esempio, il sito GetAISO permette di consultare (e acquistare) oltre 2.1M di conversazioni reali di utenti su ChatGPT, Perplexity, Google AI, Claude ed altri.
Considerazioni
Questo “episodio” ha messo in luce due aspetti critici:
- La scarsa consapevolezza di molti utenti, che utilizzando spesso strumenti di Generative AI con leggerezza in termini di privacy e riservatezza dei contenuti condivisi con sistemi che -dichiaramente- sfrutteranno le informazioni per alimentare l’apprendimento dei propri LLM.
- Alcuni strumenti (in questo caso è stato ChatGPT, ma farei un discorso ben più ampio) approcciano il tema della privacy degli utenti con eccessiva leggerezza, affidandosi a disclaimer poco comprensibili (dai più).
Le soluzioni?
Qualcuno potrebbe semplificare e dire: usate Copilot, che come è noto si impegna a non esporre dati e ad utilizzare le nostre informazioni per far apprendere il proprio LLM.
Ma io preferisco tornare agli aspetti culturali e di eduzione delle persone. Del resto non lasciamo guidare automobile senza aver conseguito una patente di guida o lasciamo acquistare armi a chi non possiede un porto d’armi…
Quindi, non trascuriamo le iniziative di informazione e formazione, condivisione di esperienze in community e corresponsabilità dei rischi che si corrono a diffondere informazoni riservate.