3월 17일, 중국 국가안전부는 최근 인기를 얻고 있는 오픈소스 AI 에이전트 도구인 오픈클로(별칭 "랍스터") 사용에 대한 경고를 발표했습니다. 경고문에서는 이러한 고권한 AI 에이전트가 효율성을 향상시킬 수 있지만, 호스트 제어, 데이터 유출, 정보 오용 등의 보안 리스크 초래할 수 있다고 밝혔습니다. 따라서 사용자들은 이러한 도구를 현명하게 사용하고 보안을 강화해야 한다고 강조했습니다.
설명에 따르면 "랍스터"는 방대한 언어 모델과 높은 권한의 시스템 접근 기능을 갖춘 통신 소프트웨어를 통합하여 사용자의 명령을 직접 실행하고 작업을 완료할 수 있도록 함으로써 "제안 제공"에서 "자동 실행"으로 전환했습니다. 또한 플러그인 시스템은 파일 관리, 이메일 작성, 일정 관리, 웹 브라우징 등 다양한 기능을 지원하며 장기 기억 및 능동적인 작업 실행 기능을 갖추고 있어 일부 사용자들은 이를 "랍스터를 기르는 것"에 비유하기도 합니다.
보안 기관들은 지능형 에이전트의 부적절한 구성이 다음과 같은 여러 리스크 초래할 수 있다고 경고합니다. 높은 권한으로 실행되어 원격으로 장치를 탈취하거나, 민감한 데이터를 도용하거나, 소셜 미디어 계정을 악용하여 허위 정보를 유포하거나, 악성 플러그인을 통해 시스템을 공격하는 경우 등이 이에 해당합니다.
리스크 완화하기 위해 사용자는 최소 권한 원칙에 따라 지능형 에이전트를 실행하고, 민감한 데이터를 암호화하며, 가상 머신이나 샌드박스와 같은 격리된 환경에 배포하는 것이 좋습니다. 동시에 핵심 장치가 공용 네트워크 환경에 직접 노출되지 않도록 플러그인 출처, 접근 권한 및 시스템 로그를 정기적으로 확인해야 합니다.
