Platforma vytvára viditeľný obsah, o ktorom mnohí používatelia pravdepodobne považovali za súkromný. V niektorých prípadoch sú dotazy prepojené s celými menami, profilovými obrázkami alebo inými identifikačnými údajmi. Príklady zahŕňajú zverejnenie prebiehajúcich zdravotných problémov, plánovaných operácií, adresy bydliska alebo právnych obáv — od žiadostí o šablóny ukončenia nájmu až po otázky týkajúce sa možných daňových podvodov.
Niektorí používatelia idú až k zdieľaniu podrobností o iných jednotlivcoch, ako sú členovia rodiny alebo kolegovia. V niekoľkých prípadoch bol chatbot požiadaný, aby pomohol vypracovať vyhlásenia pre súdne konanie, pričom odhalil osobne identifikovateľné informácie o používateľovi aj predmete vyšetrovania.
Obavy súvisiace so zdravím sú častou témou - pokrývajúcou tráviace problémy, kožné vyrážky alebo problémy po chirurgickom zákroku - často sprevádzanou vekom a povolaním používateľa. Mnohé z týchto interakcií sú vysledovateľné na verejných profiloch sociálnych médií.
Podľa spoločnosti sú rozhovory predvolene nastavené na súkromné, pokiaľ používatelia aktívne neprechádzajú viacstupňovým procesom, aby ich zverejnili v informačnom kanáli Discover. Zostáva však nejasné, ako dobre používatelia rozumejú tomuto nastaveniu alebo či sú niektoré príspevky výsledkom úmyselného trollingu sledujúceho pozornosť médií.
Odborníci na ochranu osobných údajov vyjadrili obavy z neúmyselného odhalenia objemu citlivých údajov. Mnohí sa domnievajú, že používatelia stále nerozumejú tomu, ako fungujú platformy AI a do akej miery môžu byť ich vstupy verejne prístupné.
Napriek varovaniam vývoj takýchto nástrojov AI pokračuje rýchlym tempom. Spoločnosť nedávno uviedla, že jej asistent AI má teraz jednu miliardu používateľov na svojich platformách a údajne buduje nové laboratórium zamerané na vývoj pokročilých systémov AI.
Medzitým sa stále objavujú verejné otázky, ktoré spochybňujú riziká samotnej platformy. Systém AI často reaguje uznávaním možnosti, že používatelia neúmyselne zdieľajú súkromné informácie a odkazuje na dostupné nástroje na správu súkromia. Kritici sa však pýtajú, či sú tieto opatrenia skutočne dostatočné.
