OPENAGiám đốc điều hành Sam Altman đã nêu ra những lo ngại nghiêm trọng về quyền riêng tư khi sử dụng ChatGPT trong các tình huống nhạy cảm. Trong cuộc trò chuyện podcast với diễn viên hài Theo Von, Altman nhấn mạnh rằng các tương tác của người dùng với trợ lý AI thiếu sự bảo vệ pháp lý như khi trò chuyện với các chuyên gia như nhà tâm lý trị liệu hoặc luật sư. Altman chỉ ra: "Mọi người chia sẻ những điều cực kỳ riêng tư với ChatGPT", cho thấy người dùng ngày càng coi công cụ này như một sự thay thế cho sự hướng dẫn của con người.
Do OpenAI có thể bị buộc phải tiết lộ nhật ký trò chuyện theo lệnh tòa, sự thiếu cơ chế bảo mật có thể dẫn đến rủi ro pháp lý. Altman cho rằng lỗ hổng này là có vấn đề, và ủng hộ việc các cuộc trò chuyện AI nên được bảo vệ quyền riêng tư tương đương với thông tin liên lạc được đặc quyền. Vấn đề này nổi lên khi OpenAI đang phải đối mặt với các vụ kiện yêu cầu cung cấp dữ liệu người dùng, thử thách ranh giới vai trò của AI trong các bối cảnh tư vấn cá nhân.
Các nhà phân tích thị trường cho rằng những thách thức về quyền riêng tư chưa được giải quyết có thể cản trở việc AI trở thành xu hướng chính trong các lĩnh vực yêu cầu tính bảo mật. Sự phát triển này diễn ra trong bối cảnh các cơ quan quản lý đang tăng cường kiểm tra các thực hành dữ liệu trong lĩnh vực hội tụ blockchain và AI.
