알렉스 핀의 맥 스튜디오는 초당 20개의 토큰을 처리하는데, 이는 여러분이 사용하는 어떤 모델보다 10배나 느리고, 스웜(Swarm) 물론이고 단일 에이전트가 유용한 작업을 수행하기에도 너무 느립니다. 그는 당신과의 약혼으로 한 달에 1만 달러 정도를 벌어들이는 거예요. 그냥 게임을 하고 있는 거죠. 집에서 아기를 키우는 방법을 배울 수 있으면 좋겠지만 아직은 없네요.

제가 원하는 건 합리적인 가격에 집에서 기본적인 작업을 처리하고 스마트 홈을 제어하며, 더 복잡한 작업은 제가 자는 동안 자동으로 처리해주는 가정용 하드웨어입니다. 개발자분들이 이런 제품을 만들어주실 수 있을까요?

완전 똑같아요. Tiny corp/George Hotz 프로젝트 보셨어요? 돈이 많고 비용 최적화가 문제가 아니라면 이걸 사용하거나 더 작은 NVIDIA DGX 박스를 사용할 수 있어요. 중요한 건 맥도 통합 메모리 덕분에 돌아가긴 하지만 NVIDIA 제품이 훨씬 빠르다는 거예요.

맞아요, 사실 클라우드에서 키미를 하루에 20달러 정도면 돌릴 수 있어요. 규모의 경제는 진짜예요 😭😭

맞아요, 그리고 전 그게 너무 싫어요

저는 에이전트를 로컬에서 실행해서 모든 데이터를 제공하고 에이전트가 처리하도록 하고 싶습니다.

먼저 베드락 버전에서 클로드 설정을 세밀하게 조정해 보세요. 클로드에게 요청하면 기본적으로 모든 걸 알아서 처리해 줄 겁니다.