OpENAI执行长Sam Altman针对在敏感情境下使用ChatGPT提出重大隐私疑虑。 在与喜剧演员Theo Von的播客对谈中，Altman强调，用户与AI聊天机器人的互动缺乏像心理治疗师或律师等专业人士对话的法律保护。 Altman指出：「人们向ChatGPT倾诉极度私密的事务」，显示用户日益将该工具视为人类指导的替代品。
由于OPEnAI可能被迫根据法院命令披露聊天记录，缺乏保密机制可能导致法律风险。 Altman称此漏洞具有潜在问题，主张AI对话应享有与特权通讯同等的隐私保护。 此议题浮现之际，OpenAI正面临要求提供用户数据的诉讼，考验AI在个人咨询情境中的角色界限。
市场观察家认为，未解决的隐私挑战可能阻碍AI在需要保密性的领域成为主流。 此发展正值监管机构对区块链与AI融合领域的数据实践加强审查。
