개발자가 아닌 AI를 조금씩 사용해 보는 친구들과 이야기를 나누다 보니, 그들이 왜 그렇게 많은 토큰을 소비하고 한도를 빨리 소진하는지 알게 되었습니다. - 그들은 모든 기능을 같은 채팅창에서 사용하기 때문에 채팅창 규모가 계속 커지고, 그만큼 더 많은 컨텍스트 정보를 전송하게 됩니다. 프로젝트를 계획할 때는 더 작은 기능들로 나누어야 합니다. 각 기능은 그 자체로 하나의 개발 과제가 될 수 있습니다. 예를 들어, OpenCode에서는 `/new` 명령어를 사용하여 새 세션을 시작합니다. OpenCode 자체는 현재 디렉토리에서 어디를 찾아야 하는지 스스로 판단할 만큼 똑똑합니다. 어떤 사람들은 Cursor를 사용하면서 요청당 90만에서 300만 토큰을 소비하는 것을 봤습니다. 정말 엄청난 양입니다! 저는 전체 채팅창에서 컨텍스트 정보를 처리하는 데 15만 토큰도 채 사용하지 않았습니다. 각 채팅창을 프로젝트가 아닌 하나의 기능으로 생각하세요. 프로젝트 전체를 생각하면 개발에 필요한 토큰은 줄어들지만, 토큰 사용량이 특정 임계값을 넘어서면 모델의 신뢰성이 점점 떨어질 수 있습니다.