중국 국가안전부가 안전한 바닷가재 양식에 관한 지침서를 발표했습니다.

마스 파이낸스에 따르면, 중국 국가안전부는 3월 17일 최근 인기를 얻고 있는 오픈소스 AI 에이전트 도구인 오픈클로(별칭 "랍스터") 사용에 대한 경고를 발표했습니다. 경고문에서는 이러한 고권한 AI 에이전트가 효율성을 높일 수 있지만, 호스트 제어, 데이터 유출, 정보 오용 등의 보안 리스크 초래할 수 있다고 지적했습니다. 따라서 사용자는 신중하게 사용하고 보안 조치를 강화해야 합니다. 경고문은 "랍스터"가 통신 소프트웨어와 대규모 언어 모델을 통합하고 높은 권한의 시스템 접근 기능을 통해 사용자 명령을 직접 실행하여 작업을 완료할 수 있으므로, 단순한 "제안 제공"을 넘어 "자동 실행"으로 변모한다고 강조했습니다. 또한, 플러그인 시스템을 통해 파일 관리, 이메일 작성, 일정 관리, 웹 브라우징 등 다양한 기능을 지원하고, 장기 기억 및 능동적인 작업 실행 기능을 갖추고 있어 일부 사용자들이 "랍스터 키우기"에 비유하기도 한다고 덧붙였습니다. 보안 기관에서는 부적절한 구성으로 인해 다음과 같은 여러 리스크 ​​발생할 수 있다고 경고합니다. 높은 권한으로 원격 장치를 탈취하거나, 민감한 데이터를 도용하거나, 소셜 미디어 계정을 악용하여 허위 정보를 유포하거나, 악성 플러그인을 통해 시스템을 공격하는 등의 문제가 발생할 수 있습니다. 리스크 완화하기 위해 사용자는 최소 권한 원칙에 따라 지능형 에이전트를 실행하고, 민감한 데이터를 암호화하며, 가상 머신이나 샌드박스와 같은 격리된 환경에 배포하는 것이 좋습니다. 또한, 핵심 장치가 공용 네트워크 환경에 직접 노출되지 않도록 플러그인의 출처, 접근 권한 및 시스템 로그를 정기적으로 확인해야 합니다.