작성자: J1N, Techub News
서론
오늘 필자가 소개하는 Kuzco는 LLM 대형 언어 모델 컴퓨팅 파워 채굴 네트워크를 전문적으로 서비스하는 곳입니다. 올해 a16z가 뉴욕에서 시작한 Crypto Startup Accelerator(CSX) 가을 가속기 프로그램에 선정되었으며, 이 프로그램에 선정된 프로젝트들은 8주 내에 a16z로부터 최소 50만 달러의 투자를 받고 a16z 운영팀의 지도와 지원을 받게 됩니다. 현재 이 프로그램이 종료되기까지 약 2주 남았습니다.
Kuzco 프로젝트는 아직 초기 단계에 있으며, io.net과 같은 GPU 컴퓨팅 파워 네트워크 분야에 속하지만 다른 발전 방향을 가지고 있습니다. 반면 io.net은 강력한 자금 지원과 배경을 가지고 있어 Kuzco보다 더 일찍 사용자 에어드랍을 완료했고 바이낸스, 코인베이스, 바이비트 등 주요 암호화폐 거래소에 상장되어 더 큰 시장 노출을 얻었습니다.
필자는 실제로 io.net의 채굴에 참여했었는데, 솔직히 말하면 그 과정은 마치 "GPU를 놔두기만 해도 돈을 벌 수 있는" 것 같았습니다. GPU만 연결해 두면 자동으로 수익이 발생하고 전기세도 거의 들지 않았습니다. 각 채굴기당 하루 전력 소비는 1.2kWh에 불과했고, 3개월 동안 총 10.8달러의 전기세만 들었습니다. 중고 GPU의 감가상각비와 인터넷 비용을 더해도 100~200달러의 비용으로 4,000달러의 수익을 얻을 수 있었죠. 이는 마치 "공중 누각"과 같은 느낌이었습니다.
이후 토큰 가격 폭락으로 이러한 점이 입증되었습니다. 또한 필자는 가격이 70% 폭락한 이유: AI 컴퓨팅 파워 임대 버블은 어떻게 붕괴되었나?라는 제목의 기사를 작성했는데, 이 기사는 AI 컴퓨팅 파워 시장의 버블을 더욱 잘 보여줍니다. 임대 시장 가격 하락이든 프로젝트 토큰 가격 하락이든, 이는 모두 이러한 프로젝트의 실제 가치를 시장이 조정하는 과정이며, 이러한 가격 조정은 시장 규칙에 부합하는 것으로, 향후 더 합리적인 방향으로 발전할 것으로 보입니다.
Kuzco의 채굴 메커니즘은 이전 인기 프로젝트 io.net과 크게 다릅니다. io.net은 "공중 누각"으로, GPU만 연결해 두면 쉽게 수십 배의 수익을 얻을 수 있었지만 실제 지원되는 가치는 명확하지 않았습니다. 반면 Kuzco는 보다 현실적이며 a16z의 지원을 받고 있습니다. 필자는 몇 주 동안 다양한 구성의 채굴기를 실제로 테스트해 보았고, 단일 GPU, 다중 GPU, 다양한 시스템 구축 등을 경험했습니다. 이러한 실제 운영 경험을 통해 사용자에게 실질적인 가치를 제공하는 채굴 프로젝트에 대해 소개하고자 합니다.
LLM 대형 언어 모델 컴퓨팅 파워 채굴 네트워크 전문
Kuzco는 솔라나 생태계의 탈중앙화 GPU 네트워크로, 개인 사용자의 유휴 GPU 자원을 활용하여 Llama3, Mistral, Phi3 등 대형 언어 모델에 효율적이고 저렴한 컴퓨팅 파워를 제공하는 것을 목표로 합니다. 사용자는 OpenAI 호환 API를 통해 이러한 모델을 사용할 수 있습니다. Kuzco의 분산형 아키텍처는 유휴 컴퓨팅 자원을 통합하여 대형 언어 모델을 실행할 수 있으며, 동시에 채굴 보상 메커니즘을 통해 컴퓨팅 파워를 제공하는 마이너를 유인합니다.
프로젝트 운영 현황
10월 21일 기준, Kuzco 프로젝트에는 2,000대의 GPU 채굴기가 온라인 상태이며, 최대 6,000대까지 운영된 적이 있습니다. 가장 많이 사용되는 GPU 모델은 3090, 3060 등입니다. 현재 마이너들은 KZO Point 보상을 받고 있지만, 이 포인트는 아직 현금화할 수 없으며 프로젝트도 토큰 경제 모델을 공개하지 않았습니다. 필자는 a16z 가속기 프로그램 진행에 따라 Kuzco 프로젝트에 더 많은 진전과 업데이트가 있을 것으로 예상합니다.
배포 방법
공식 하드웨어 요구사항
Kuzco 프로젝트는 Mac, Windows, Linux 운영 체제에서 실행할 수 있으며 다양한 하드웨어 구성을 지원합니다. 최소 시스템 요구사항은 16GB 메모리, 30GB 디스크 공간, 10Mbps 이상의 네트워크 대역폭입니다. Kuzco는 최소 8GB 비디오 메모리를 가진 NVIDIA(N 카드) 및 AMD(A 카드) 그래픽 카드를 지원하며, 일반 사용자의 경우 최소 GTX750 N 카드를 사용해야 합니다. 전문 컴퓨팅 GPU 대부분이 지원됩니다.
그러나 필자는 A 카드를 채굴에 사용하는 것은 권장하지 않습니다. AMD 그래픽 카드의 호환성이 좋지 않으며, 특히 AI 작업에서의 성능이 N 카드에 미치지 못합니다. A 카드를 사용하려면 공식 호환성 지원 목록을 확인해야 합니다. AI 분야에서 필자는 단호히 "AMD, NO!"라고 말씀드립니다.
필자의 5 GPU 플랫폼, 메인보드는 ASUS Z490
필자는 몇 가지 하드웨어의 채굴 효율을 테스트했지만, 네트워크 변동으로 인해 효율이 변동될 수 있습니다.
GTX1070: 20 tok/s
RTX2060: 30 tok/s
RTX2070S: 40 tok/s
RTX3080: 80 tok/s
RTX4060Ti: 50 tok/s
RTX4070S: 70 tok/s
M2: 20 tok/s
M3: 30 tok/s
단위: Avager Tokens / Second (초당 평균 토큰 계산량)
채굴기 실시간 모니터링
배포 방식
Kuzco는 클라이언트 애플리케이션을 제공하여 사용자가 다운로드하여 채굴을 시작할 수 있지만, 이 방식은 때때로 불안정하고 연결이 끊길 수 있으며 자동으로 재시작되지 않습니다. 따라서 필자는 Linux 시스템이나 Windows의 WSL(Windows Subsystem for Linux) 환경에서 CLI(Command Line Interface) 또는 Docker 컨테이너를 사용하는 것이 더 안정적이라고 제안합니다. 다중 GPU를 사용하려면 Linux에서 Docker 컨테이너를 통해 특정 GPU를 지정할 수 있습니다. 예를 들어 "docker run --rm --runtime=nvidia --gpus '"device=0"' -d kuzcoxyz/worker:latest --worker <workerid> --code <code>"와 같이 GPU0을 지정할 수 있습니다.
다중 GPU 채굴 시 하드웨어 장치 측면에서 다음 사항에 유의해야 합니다:
전원 공급 장치: 전원 공급 장치는 핵심 요소이므로 절대 아끼지 마세요. "1 위안 = 1 와트" 기준으로 구매하고 가능한 골드 등급 전원 공급 장치를 사용하세요. 채굴 시 GPU 수에 따라 1,500W~2,000W 전원 공급 장치를 선택하거나 여러 개의 전원 공급 장치를 사용하되, 이 경우 메인보드에 추가 시동 케이블을 연결해야 합니다. 그렇지 않으면 정상적으로 부팅되지 않습니다.
전력 소비 정보
케이블: 고전력 환경에서는 전원 케이블이 쉽게 손상될 수 있으므로 고품질 전원 케이블을 사용하는 것이 좋습니다. 또한 브랜드별로 모듈 전원 공급 장치의 케이블 인터페이스가 다르므로 호환되지 않습니다. 따라서 전원 공급 장치 브랜드와 동일한 케이블을 사용해야 합니다. 그렇지 않으면 장치가 손상되거나 고장날 수 있습니다.
전원 케이블 노후화 및 손상
메인보드: 메인보드의 각 채널(x1, x8, x16)은 하나의 그래픽 카드만 지원합니다. 즉, 채널 수만큼 그래픽 카드를 장착
젊은이들은 i9를 사야 합니다. e5를 위해 돈을 쓸 필요는 없습니다.
그래픽 카드: 한 개의 Docker 프로세스는 약 6GB의 VRAM을 사용합니다(공식 문서에는 8GB라고 되어 있지만, 실제로는 6GB로도 실행 가능합니다). 12GB VRAM이 있는 그래픽 카드라면 두 개의 Docker 프로세스를 실행할 수 있습니다. 채굴 시 그래픽 카드 사용률은 50%에서 90% 사이이며, 온도는 85도 이내를 유지해야 합니다.
PCIE 어댑터: x1 to x16 PCIE 어댑터 사용을 권장합니다. x1을 메인보드에, x16을 그래픽 카드에 연결하세요. 40 시리즈 그래픽 카드를 사용할 경우 x16 확장 케이블이 필요합니다.
네트워크 연결 품질: 네트워크 연결 품질은 채굴 효율에 큰 영향을 미칩니다. 싱가포르 노드에서 받은 작업량이 홍콩 노드보다 더 많다는 것을 확인했습니다. 즉, 더 나은 네트워크 노드를 선택하면 채굴 효율을 높일 수 있습니다.
채굴 중 오류가 발생하면 먼저 메인보드와 소프트웨어 상태를 확인해야 합니다. 소프트웨어 문제라면 터미널 오류 메시지를 통해 메모리 오류 등을 확인할 수 있으며, 이 경우 컴퓨터를 재부팅하거나 노드를 변경하고 코드를 업데이트하면 해결할 수 있습니다.
실행 오류
하드웨어 문제의 경우, 채굴기가 부팅되지 않으면 먼저 메인보드의 고장 표시등을 확인하세요. 예를 들어 ASUS 메인보드에서 흰색 VGA 표시등이 켜지면 그래픽 카드 전원 문제일 수 있으니 PCIE와 그래픽 카드 전원 케이블을 다시 연결해 보세요. 하지만 때로는 흰색 표시등이 켜져 있어도 정상적으로 작동할 수 있습니다.
요약
필자는 io.net을 '공중 누각'이라고 불렀는데, 이는 시가총액이 과도하게 높게 평가되었다는 의미입니다. 하지만 io.net은 4천만 달러의 투자를 유치하는 데 성공했습니다. 그러나 io.net 출시 후 많은 포크 프로젝트가 등장했는데, 이들 프로젝트의 제품과 투자자들은 검증되지 않아 io.net의 성공을 쉽게 복제할 수 없다는 것을 보여줍니다.
이러한 관찰을 바탕으로 필자는 더 실질적인 가치를 가진 채굴 프로젝트를 찾아왔습니다. 그리고 Kuzco를 발견했습니다. Kuzco는 a16z의 인큐베이팅과 지원을 받아 신뢰성과 잠재력이 높습니다. 또한 Kuzco의 채굴 메커니즘은 GPU를 통해 실제 계산 능력을 제공합니다.
더 중요한 것은, 거대 언어 모델(LLM)이 현재 가장 널리 사용되는 AI 제품이며 전 세계적으로 매일 수많은 사람들이 이러한 모델을 사용하고 있고, 이를 위해서는 막대한 컴퓨팅 파워가 필요하다는 점입니다. 따라서 이러한 거대한 수요에 컴퓨팅 파워를 제공하는 Kuzco는 의미 있고 실질적인 상업적 가치를 가지고 있다고 봅니다.
또한 GPU 컴퓨팅 네트워크 참여 비용이 낮으며, 특히 40 시리즈 그래픽 카드의 중고 가격이 안정적이어서 감가상각 비용이 낮습니다. 다만 렌탈 카드는 구매 비용보다 훨씬 높으므로 피하는 것이 좋습니다. 또한 Kuzco의 에어드랍 인센티브가 명확하지 않아 대규모 렌탈에는 높은 리스크가 있습니다.
채굴기 자체도 높은 실용성을 가지고 있어, Kuzco 채굴 외에도 다른 GPU 프로젝트 채굴이나 블록체인 노드 운영 등에 활용할 수 있습니다. 따라서 Kuzco 채굴을 그만둘 경우에도 채굴기를 계속 활용할 수 있습니다.
마지막으로 많은 사람들이 하루 채굴 수익에 대해 문의하는데, 이에 대한 명확한 답변은 없습니다. 프로젝트 측이 아니라면 최종 수익을 정확히 예측할 수 없습니다. 채굴 수익은 불확실성이 크며, 높은 수익을 얻을 수도 있지만 기대에 미치지 못할 수도 있습니다.
