중국의 DeepSeek AI가 하룻밤 사이에 센세이션을 일으켰지만, TikTok과 같은 보안 검토를 받게 될까요?

헤지펀드 High-Flyer가 소유하고 중국 항저우에 본사를 둔 이 회사는 이미 투명성과 중국 정부의 잠재적 영향력에 대한 우려로 비판을 받고 있습니다. 소셜미디어 사용자들은 DeepSeek의 AI 모델이 중국 정부와 시진핑 주석에 대한 정치적 질문에 답변을 거부한다고 비판하고 있습니다.

시진핑이 곰돌이 푸와 닮았는지, 또는 천안문 광장에서 장보는 가방을 든 사람이 탱크 앞에 서 있는 유명한 사진이 무엇인지 물어보면, 공개 모델과 앱에 연결된 채팅봇은 "죄송합니다. 이는 현재 범위를 벗어납니다. 다른 주제에 대해 이야기해 봅시다."라고 답변합니다.

High-Flyer는 2019년 AI 연구원 Liang Wenfeng이 설립했는데, 그는 초기에 이 기술을 이용해 주식 시장을 분석했습니다.

흥미롭게도 그의 석사 논문은 AI를 이용해 비디오 감시를 강화하는 것에 초점을 맞추고 있습니다. "저비용 PTZ 카메라 기반 대상 추적 알고리즘 연구"에서는 PTZ 카메라를 사용하여 움직이는 대상을 추적하는 알고리즘을 개발했습니다.

지능형 비디오 감시에서 PTZ 시스템 기반 자동 대상 추적 알고리즘은 매우 중요합니다. 이러한 알고리즘은 장면 내 움직이는 물체를 자동으로 감지하고 지속적으로 추적할 수 있게 하여 기존 감시 방법을 향상시킵니다. 소셜미디어 사용자들은 잠재적 위험에 대해 우려하고 있습니다.

DeepSeek가 사용자를 감시하고 있는지 여부는 알 수 없습니다. 사용자의 질문과 데이터가 비밀로 유지되는지 물어보면 모델은 "회사는 사용자 데이터 보안과 프라이버시 보호에 전념하고 있습니다. 어떤 형태의 무단 감시도 하지 않습니다."라고 답변합니다.

하지만 보안 전문가들은 이 문제에 대해 아직 판단을 내리지 않고 있습니다.

"DeepSeek의 개인정보 보호 정책이 불분명하고 웹 애플리케이션의 통제 기능이 잘 알려지지 않았습니다. 그들은 데이터를 어떻게 다루고, 어디로 보내며, 얼마나 오래 보관하는지 등 중요한 질문들이 있습니다."라고 사이버 보안 기업 SlashNext의 J. Stephen Kowski 현장 CTO가 Decrypt에 말했습니다.

실제로 Kowski는 DeepSeek의 급성장 일부를 OpenAI의 ChatGPT, Google의 Gemini, Anthropic의 Claude AI와 같은 미국 경쟁업체들이 겪고 있는 강도 높은 검토의 부족 때문이라고 설명했습니다.

인프라 취약점으로 인해 DeepSeek에 대한 우려가 더욱 높아졌습니다. Kowski는 플랫폼 코드의 잠재적 약점을 강조했습니다.

"이미 검증된 취약점, 예를 들어 크로스 사이트 스크립팅(XSS) 및 프롬프트 주입 공격 등이 존재하며, 이를 통해 웹 세션 중 사용자 세션을 탈취할 수 있습니다. 제가 읽은 바로는 그들의 코드가 무단 명령을 실행하도록 조작될 수 있습니다."

그러나 사용자는 인터넷에 연결하지 않고 자신의 컴퓨터에 DeepSeek 버전을 다운로드하여 실행할 수 있다는 점과 악성 코드가 포함되어 있다는 보고는 없다는 점을 주목해야 합니다.

한편 월요일에 DeepSeek는 자신의 보안 문제를 인정했습니다. 대규모 사이버 공격으로 인해 새로운 사용자들이 플랫폼에 접속하지 못하게 되었습니다.

"DeepSeek 서비스에 대한 대규모 악의적인 공격으로 인해 지속적인 서비스 제공을 위해 일시적으로 등록을 제한하고 있습니다. 기존 사용자는 평소와 같이 로그인할 수 있습니다. 이해와 지원에 감사드립니다."라고 DeepSeek 상태 페이지에 게시되었습니다.

편집: Andrew Hayward