1. ChatGPT 사용자 개인 대화가 갑자기 Google 검색에 나타났습니다.
최근 ChatGPT 사용자들은 인공지능 모델과의 채팅 기록이 구글 검색 결과에 표시되는 것을 보고 충격을 받았습니다. 일부 사용자는 구글에서 "site:chatgpt.com/share"를 검색하여 낯선 사람과 인공지능 비서 간의 수천 건의 대화를 찾을 수 있었습니다.
Fast Company는 수요일에 개인정보 보호 문제를 폭로하며, 구글 검색 결과에서 4,500건의 ChatGPT 대화가 발견되었으며, 그중 다수에는 개인 정보나 식별 정보가 포함되어 있지 않았다고 보도했습니다. 구글이 모든 대화를 색인하지 않을 수 있으므로 이 데이터는 완전하지 않을 수 있습니다. 이러한 대화는 "수백만 명의 사용자에게 공개되는" 채팅의 일부에 불과할 가능성이 높습니다.
Fast Company는 사용자가 "공유" 버튼을 적극적으로 클릭하여 생성된 ChatGPT 링크를 기본적인 Google 사이트 검색을 통해 Google이 색인화했다는 사실을 발견했습니다. 이렇게 노출된 대화에는 고유한 개인적 경험과 건강에 대한 사적인 세부 정보 등 매우 개인적인 정보가 대량 포함되어 있었습니다 . 아이러니하게도 일부 사용자는 AI 모델이 자신을 감시하고 있을지도 모른다는 우려를 표명하기도 했습니다. ChatGPT는 사용자의 신원을 공개하지 않지만, 일부 사용자는 채팅 중에 매우 구체적인 개인 정보를 공유함으로써 신원을 노출했을 가능성이 있습니다.
예를 들어, 검색 결과 중에는 도움을 요청하는 사람들이 있습니다. 한 사용자는 ChatGPT에 수동적 공격적인 파트너를 찾는 데 도움을 요청했고, 최근 전역한 한 사용자는 "외로움, 스트레스, 어려움을 겪고 있다"고 말하며 ChatGPT에 지역 지원 그룹에 대해 문의했습니다.
또 다른 사용자는 파트너와의 관계와 외국에서 겪은 불행한 경험을 자세히 설명하며, 외상 후 스트레스 장애(PTSD)를 겪고 있으며 도움을 요청하고 있다고 밝혔습니다. 또한 가족력과 친척 및 친구들과의 관계도 자세히 설명했습니다.
또 다른 대화에서는 어린이의 정신병적 행동이 얼마나 흔한지와 이러한 행동이 나타나는 나이에 대해 논의했고, 다른 사용자는 심리적 프로그래밍에서 살아남은 생존자이며, 자신이 느낀 트라우마를 완화하기 위해 자기 역프로그래밍을 모색하고 있다고 밝혔습니다.
OpenAI의 최고 정보 보안 책임자인 데인 스터키는 X에서 채팅 로그가 노출된 모든 사용자는 채팅 로그 공유를 선택한 후 상자를 클릭하여 채팅 로그를 색인화하도록 선택했다고 설명했습니다.
Fast Company는 사용자들이 WhatsApp에서 채팅을 공유하거나 나중에 보기 위해 링크를 저장하는 경우가 많다고 지적합니다. 하지만 Fast Company의 설명에 따르면, 텍스트 형식이 오해의 소지가 있기 때문에 사용자들이 채팅을 공유할 수 있습니다.
사용자가 "공유"를 클릭하면 "이 채팅을 검색 가능하게 설정"이라는 상자를 선택할 수 있는 옵션이 표시됩니다. 상자 아래에는 작고 밝은 글씨로 채팅이 검색 엔진 결과에 나타날 수 있다는 경고가 표시됩니다.
이미지 출처: X-Sharing Box의 Dane Stuckey를 통한 ChatGPT
목요일 Fast Company 보도에 따르면, OpenAI는 처음에는 이 라벨이 "충분히 명확해서" 눈에 띄었다고 주장했습니다. 그러나 Stuckey는 "결국 이 기능이 사용자들이 의도치 않게 콘텐츠를 공유할 기회를 너무 많이 제공한다고 판단하여 삭제하기로 결정했습니다."라고 밝혔습니다. "또한 관련 검색 엔진에서 색인된 콘텐츠를 삭제하기 위해 노력하고 있습니다. 이 변경 사항은 내일 아침 모든 사용자에게 적용될 예정입니다."
Fast Company에 따르면, 여기에는 약물 사용, 성생활, 정신 건강 및 트라우마 경험에 대한 대화가 포함되었습니다.
옥스퍼드 대학교의 AI 윤리학자인 카리사 벨리즈는 Fast Company에 구글이 "이처럼 극도로 민감한 대화"를 녹음한다는 사실에 "깜짝 놀랐다"고 말했습니다.
벨리즈는 이것이 대형 IT 기업들이 개인정보 보호에 대해 취할 접근 방식을 예고하는 것이라고 우려합니다. "이는 OpenAI가 신뢰할 수 있는 기업이 아니며, 그들이 무슨 말을 하든 개인정보 보호를 중시하지 않는다는 것을 보여주는 또 다른 증거입니다."라고 그녀는 말했습니다. "중요한 것은 그들이 무엇을 하느냐입니다."
이전에는 ChatGPT 사용자 채팅 기록이 Google 검색 결과에 나타나 큰 관심을 받았습니다. 이제 이 기능의 역사와 이후 진행 상황에 대한 더 많은 정보가 공개되면서 사용자 개인정보 보호 문제에 대한 논의가 더욱 활발해졌습니다.
OpenAI는 최소 2023년 5월부터 ChatGPT에서 공유 링크 기능을 제공해 왔습니다. 당시 OpenAI는 자사 문서에서 공유 링크가 "검색 엔진에 의해 인덱싱되지 않는다"고 명시적으로 밝혔습니다. 그러나 올해 초, 해당 문서는 "링크를 통해 기사를 공유하거나 검색 엔진에 의해 인덱싱되도록 할 수 있습니다"라고 명시하도록 변경되었습니다.
OpenAI는 문서 변경 시점에 대한 설명 요청에 즉시 응답하지 않았습니다.
OpenAI의 검색 결과 정리 작업이 진행 중인 것으로 보이지만 아직 완료되지는 않았습니다. Google에서 "site:chatgpt.com/share"를 검색하면 색인된 공유 채팅 목록이 더 이상 표시되지 않습니다. 그러나 Bing 검색에서는 여전히 수천 개의 결과가 표시되고, DuckDuckGo와 Brave에서도 대량 결과가 표시되며, 그중 상당수는 개인 정보를 포함하고 있습니다 .
2. OpenAI 대변인은 "이것은 사용자 자신의 문제입니다"라고 암시했습니다.
스터키는 이 기능을 OpenAI가 "사람들이 유용한 대화를 찾을 수 있도록 돕기 위해" 시작한 "단기 실험"이라고 불렀습니다. 그는 금요일 아침, 이 기능 삭제 결정에는 "관련 검색 엔진에서 색인된 콘텐츠를 삭제하는 것"도 포함된다고 확인했습니다.
구글은 Fast Company의 보도에 응답하지 않았으며, 이로 인해 채팅 콘텐츠가 검색 결과에 나타나는 방식에 구글이 어떤 역할을 하는지는 불분명합니다. 그러나 언론과의 접촉에 응한 구글 대변인은 OpenAI가 색인 생성에 대한 전적인 책임을 진다며 " 구글이나 다른 어떤 검색 엔진도 웹에서 어떤 페이지가 공개적으로 제공되는지 통제할 수 없습니다. 해당 페이지의 게시자는 검색 엔진의 색인 생성 여부에 대한 전적인 통제권을 가집니다. "라고 밝혔습니다.
OpenAI는 채팅 로그 삭제의 전적인 책임을 지고 있는 것으로 보이며, 가장 빠른 방법은 Google에서 제공하는 도구를 사용하여 해당 페이지가 검색 결과에 나타나지 않도록 차단하는 것입니다. 하지만 이 도구는 다른 검색 엔진에서 해당 페이지가 색인되는 것을 막지는 못하므로, 채팅 로그가 다른 검색 엔진보다 Google 검색 결과에서 더 빨리 사라질 수 있습니다.
ChatGPT 사용자 Velis는 Fast Company에 이와 같은 "단기" 실험조차도 "불안하다"고 말하며, " 기술 회사들이 일반인을 실험 대상으로 삼고 " 새로운 AI 제품으로 많은 사용자를 유혹하고 침습적 설계 선택에 대한 결과가 무엇인지 지켜보고 있다고 지적했습니다.
윌리스는 " 그들은 누군가 불평하는지 보기 위해 대중에게 시험해보기로 했습니다 ."라고 말했습니다.
개인 채팅이 여전히 색인되는지 확인하려면 Fast Company의 설명에 따르면 공유 링크에 여전히 액세스할 수 있는 사용자는 "누군가가 ChatGPT에서 '공유'를 적극적으로 클릭하여 대화를 발견했을 때 생성된 링크의 일부"를 입력해 볼 수 있으며, 해당 링크는 여전히 Google에서 발견될 수 있습니다.
OpenAI는 Ars의 논평 요청을 거부했지만, Stuckey의 성명은 회사가 실수 이후 신뢰를 회복해야 한다는 사실을 알고 있음을 시사합니다.
스터키는 "보안과 개인정보 보호는 우리에게 가장 중요한 일이며, 우리는 제품과 기능에서 이를 극대화하기 위해 계속 노력할 것입니다."라고 말했습니다.
특히, 이 스캔들은 OpenAI가 삭제된 모든 채팅을 "무기한"으로 보존하라는 법원 명령에 맞서 싸우겠다고 맹세한 뒤에 발생했는데, 이는 이전에 임시 및 삭제된 채팅이 저장되지 않을 것이라고 보장받았던 ChatGPT 사용자들에게 우려를 안겨주었습니다.
OpenAI는 지금까지 이 싸움에서 패소했으며, 해당 채팅은 곧 소송에서 검색 가능해질 것으로 예상됩니다. OpenAI CEO 샘 알트만은 사용자의 가장 사적인 채팅이 검색 가능해질 가능성을 "폭발"이라고 했지만, Fast Company는 알트만이 OpenAI가 사용자의 사적인 채팅을 구글 및 기타 검색 엔진에 노출시킬 가능성이 있다는 점을 공개적으로 비판한 것으로 보이지 않는다고 지적했습니다.
3. 네티즌들은 어떻게 생각하나요?
OpenAI가 해당 기능을 제거하겠다고 약속했지만 Hacker News, Reddit, X 등의 플랫폼에서 이 사건에 대한 논의는 계속해서 뜨거워지고 있습니다.
일부 사용자는 OpenAI의 모델이 매우 강력한데도 왜 OpenAI가 이 문제를 피할 수 없는지 의문을 제기했습니다.
"AI가 그렇게 강력하다면, 대화에서 공유되는 데이터가 있는지 감지해서 영구적으로 비활성화하거나, 대화별로 설정을 할 수 없는 건 왜 안 되는 걸까요? AI에 대한 온갖 과대광고와 모순되는 것 같습니다."
일부 네티즌들은 ChatGPT가 이 기능을 사용하기 전에 사용자에게 간단한 경고를 해야 한다고 주장하기도 했습니다. 이는 대규모 모델에 적용하기 어려운 작업이 아니기 때문입니다.
또한 일부 네티즌들은 개인정보 문제가 제대로 처리되지 않으면 아무리 기술이 발전해도 무용지물이라고 지적했습니다. 신뢰가 깨지면 사용자들이 떠나기 때문입니다.
이 사건은 AI에 대한 근본적인 진실을 드러냅니다. 신뢰가 한 번 깨지면 다시 쌓기가 매우 어렵다는 것입니다. OpenAI의 신속한 대응 덕분에 즉각적인 피해는 제한적일 수 있지만, 이 사건은 개인정보 보호 실패가 기술적 성과를 빠르게 가릴 수 있다는 점을 다시 한번 일깨워줍니다.
우리의 업무 및 생활 방식을 혁신할 준비가 된 산업에 있어 사용자 신뢰 유지는 선택 사항이 아니라 생사의 문제입니다. AI 역량이 지속적으로 확장됨에 따라, 책임감 있는 혁신을 보여주고 사용자 개인 정보 보호 및 보안을 제품 개발 프로세스의 핵심에 두는 기업이 성공할 것입니다.
이제 문제는 AI 산업이 이번 개인정보 보호 위기에서 교훈을 얻을 수 있을지, 아니면 유사한 스캔들에 계속해서 휘말릴지 여부입니다. 가장 유용한 AI를 구축하기 위한 경쟁에서 사용자 안전을 소홀히 하는 기업은 홀로 싸우게 될 수 있기 때문입니다.
SocialProof Security의 사이버 보안 분석가이자 CEO인 레이첼 토박(Rachel Tobac)은 "사람들은 ChatGPT와 같은 도구를 완전히 비공개로 사용할 수 있다고 생각하지만, 실제로 많은 사용자는 이러한 플랫폼의 기능이 어떻게 자신의 가장 사적인 질문, 이야기, 두려움을 부주의하게 노출시킬 수 있는지 완전히 깨닫지 못하고 있습니다."라고 말했습니다.
사실, OpenAI만의 문제가 아닙니다. 이 사건이 발생하기 훨씬 전부터 구글과 메타 같은 기술 기업들도 로봇 유출 소식을 접했습니다. 그렇다면 일반인으로서 개인정보 유출을 어떻게 방지할 수 있을까요?
Aufgesang GmbH의 공동 창립자이자 최고 업무 개발 책임자, SEO, 콘텐츠 책임자인 올라프 코프는 조언을 제공했습니다. 그는 LinkedIn에서 색인된 대화가 수천 건에 불과하지만, ChatGPT에서 공유되는 공개 채팅방에서 상호작용하지 말라고 경고했습니다.
참조 링크:
https://www.fastcompany.com/91376687/google-indexing-chatgpt-conversations
https://fastcompanyme.com/technology/google-could-be-reading-your-chatgpt-conversations-concerned-you-should-be/
https://searchengineland.com/google-indexing-shared-chatgpt-conversations-459839
본 기사는 WeChat 공개 계정 "InfoQ"(ID: infoqchina) 에서 발췌하였으며, 저자는 Dongmei이고, 36Kr에서 게시 허가를 받았습니다.
