만약 여러분의 AI가 누군가 지켜보고 있어도 "모든 것에서 부정행위를 할 수 있도록" 도와줄 수 있다면 어떨까요?
이는 면접과 시험 중 부정행위를 모니터링하고 탐지하는 감독 소프트웨어를 조용히 우회하도록 설계된 데스크톱 어시스턴트인 클루리(Cluely)의 실제 전제입니다.
"저는 코딩 면접에서 부정행위를 위한 AI인 인터뷰 코더를 만들어 콜롬비아 대학에서 퇴학당했습니다. 이제 저는 문자 그대로 모든 것에서 부정행위를 할 수 있는 도구인 클루리를 만들기 위해 530만 달러를 모금했습니다," CEO 로이 리는 어제 링크드인에서 말했습니다.
4월에 출시된 클루리는 고위험 화상 통화 중에 ChatGPT의 실시간 응답을 사용자에게 제공하는 OpenAI 기반 오버레이입니다.
맥(Mac)용으로 제공되는 이 프로그램은 배경에서 조용히 실행되며, 사용자가 시험에서 부정행위를 도울 수 있는 탭을 열지 못하도록 하는 탐지 시스템을 우회하는 데 도움을 줍니다. 윈도우 버전도 개발 중입니다.
"아마존 면접 중 제가 이를 사용하는 영상을 게시한 후 폭발적인 반응을 얻었습니다," 리는 디크립트(Decrypt)에 말했습니다. "사용하는 동안 사용자 경험이 정말 흥미롭다는 것을 깨달았습니다. 화면을 보고, 오디오를 듣고, 컴퓨터의 두 번째 플레이어처럼 행동하는 반투명 화면 오버레이라는 아이디어를 아무도 탐구하지 않았습니다."
학교와 기업은 특히 원격 환경에서 학문적, 고용 무결성을 보존하기 위해 감독 소프트웨어를 사용합니다.
이러한 도구들은 웹캠 감시, 브라우저 제한, AI 기반 행동 추적을 통해 부정행위의 징후를 모니터링합니다. 기관들은 이러한 조치가 공정성과 책임성을 보장하는 데 필수적이라고 주장합니다.
그러나 클루리는 이러한 안전장치를 조용히 우회하도록 설계되었습니다.
원래 사람들이 탐지되지 않고 AI를 사용할 수 있도록 설계된 이 프로젝트는 이후 브랜드를 재정립하고 더욱 야심찬 - 그리고 더욱 논란의 여지가 있는 방향으로 성장했습니다. "우리는 사람들이 부정행위를 하도록 돕습니다"라는 슬로건으로 마케팅되는 클루리는 부분적으로 바이럴 스턴트이자 선언문이지만, 매우 실제적인 비즈니스입니다.
"세상은 이를 부정행위라고 부를 것입니다. 하지만 계산기도 그랬고, 맞춤법 검사기도 그랬으며, 구글도 그랬습니다," 클루리의 웹사이트는 선언했습니다. "기술이 우리를 더 똑똑하게 만들 때마다 세상은 공포에 질립니다. 그러다 적응하고, 잊어버립니다. 그리고 갑자기 그것은 정상이 됩니다."
리는 지난달 말 "인터뷰 코더" 생성과 관련된 것으로 보이는 징계 청문회의 세부 사항을 기록하고 배포한 것과 관련하여 콜롬비아 대학에서 사실상 퇴학당했습니다.
일요일에 클루리의 한 클립이 바이럴되었는데, 한 남성이 데이트 중에 클루리를 사용하여 응답을 생성하고 데이트 상대의 소셜 미디어에서 정보를 추출하는 영상이었습니다. 리는 이것이 진정한 목적이 아니라고 말했지만, 사람들의 관심을 끌었습니다.
"완전히 의도치 않았습니다," 리는 말했습니다. "영상에는 컴퓨터 화면을 나타내기 위한 발광 테두리가 있었는데, 사람들이 이를 시각적 디자인의 일부로 인식할 것이라고 생각했습니다."
리는 이것이 기술 면접을 조작하는 것만이 아니라고 주장합니다. 그의 말에 따르면 클루리의 진정한 목표는 윤리적으로 편안하게 느껴지는 경계에서 시작하여 기계와 상호작용하는 방식을 재정의하는 것입니다.
"회사의 핵심 테제가 몇 가지 있는데, 가장 중요한 것은 분배가 최종 방어선이라는 것입니다," 그는 말했습니다. "AI가 우리가 예상하는 대로 발전한다면, 경쟁자와 차별화할 수 있는 지속적인 기술적 이점은 없을 것입니다. 중요한 것은 가장 많은 사람들의 관심을 얻을 수 있는 사람입니다."
"우리에게 그것은 가능한 한 바이럴하게 되는 것을 의미하며 - 감옥에 가지 않도록 노력하는 것입니다," 그가 덧붙였습니다.
편집: 세바스찬 싱클레어
