Platforma tak zpřístupňuje obsah, který by za jiných okolností uživatelé pravděpodobně považovali za soukromý. V některých případech jsou dotazy spojené s plnými jmény, profilovými fotografiemi či dalšími identifikujícími údaji. Lze narazit na sdělení o probíhajících zdravotních komplikacích, plánovaných operacích, adresách bydliště nebo právních záležitostech – včetně dotazů souvisejících s možnými daňovými podvody či žádostí o vzor výpovědi nájemní smlouvy.
Někteří uživatelé zadávají i dotazy, které odhalují osobní informace o jiných osobách, například příbuzných nebo spolupracovnících. V několika případech se objevily i žádosti o pomoc s formulací prohlášení pro soudní řízení, které zahrnovaly konkrétní identifikační údaje o údajně obviněné osobě.
Častým tématem jsou také zdravotní problémy – od zažívacích obtíží až po kožní vyrážky – často doplněné věkem a profesí tazatele. U mnoha z těchto případů lze dohledat vazbu na veřejný profil na sociálních sítích.
Podle vyjádření společnosti jsou konverzace v aplikaci nastaveny jako soukromé, pokud se uživatel nerozhodne je výslovně sdílet prostřednictvím několika kroků. Přesto však zůstává otázkou, nakolik jsou uživatelé obeznámeni s tím, jaký obsah se může objevit ve veřejném výpisu. Není také zřejmé, zda některé z těchto dotazů nejsou výsledkem záměrného „trollování“ poté, co se platforma dostala do hledáčku médií.
Odborníci na ochranu soukromí vyjádřili obavy ohledně toho, jaké množství citlivých údajů se touto formou dostává na veřejnost. Podle nich mnozí lidé stále nerozumějí tomu, jakým způsobem funguje komunikace s nástroji využívajícími umělou inteligenci, ani jaká rizika přináší jejich použití.
Navzdory těmto varováním pokračuje vývoj podobných technologií rychlým tempem. Podle posledních oznámení dosahuje asistent s umělou inteligencí od této společnosti miliardy uživatelů napříč jejími platformami a zároveň vzniká nové vývojové centrum zaměřené na pokročilé formy AI.
Mezitím se i nadále objevují veřejně přístupné dotazy, které se zabývají samotnými riziky spojenými s touto funkcí. Odpovědi automatizovaného systému obvykle připouštějí možnost, že lidé sdílejí důvěrné informace nevědomky, a odkazují na dostupné nástroje pro správu soukromí. Podle kritiků však zůstává zásadní otázkou, zda jsou tato opatření dostatečná.
