Laughing🪁

Laughing🪁

14,089명의 트위터 팔로워

팔로우하기

亚太主厨👨🏻‍🍳 @GoKiteAI | Prev: CMO @WeirdoGhostGang @outaxyz PDSA @AlibabaGroup Researcher @BlockBeatsAsia | 记录所思所感所想，观点仅代表个人

포스팅

저처럼 @GroqInc의 모델을 즐겨 사용하는 분들이 얼마나 될지 궁금하네요. 장점은 다음과 같습니다. 1️⃣ 매우 빠른 추론 속도 제 경험상, 프롬프트가 전송되는 즉시 화면에 답변이 거의 즉시 표시되며, 초당 수백 개의 토큰을 처리하는 속도를 보입니다. 채팅이나 에이전트 실행이 마치 실제 사람과 즉각적인 대화를 나누는 것처럼 느껴집니다. 한 번 사용해 보면 다시는 이전으로 돌아갈 수 없을 겁니다. 플레이그라운드에서 직접 사용해 보실 수 있습니다. console.groq.com/playground 제가 직접 개발한 AI 음성 입력 도구는 Groq의 Whisper 모델을 사용하는데, 인식 속도가 Typeless보다도 빠른 것 같습니다. 이처럼 빠른 속도는 Groq가 LLM 추론 작업에 최적화된 ASIC 칩을 사용하여 극도로 낮은 지연 시간과 매우 높은 결정적 속도를 구현했기 때문입니다. 관심 있는 분들은 직접 관련 정보를 찾아보실 수 있습니다. 2️⃣ 정확도는 원본 모델과 거의 동일하며, 속도와 안정성은 훨씬 뛰어나 사용하기 매우 편리합니다. 3️⃣ 무료 할당량이 매우 매력적입니다. 카드 연동 없이 라마, 퀀과 같은 다양한 모델을 무료로 얻을 수 있습니다.

사실, @vergex_ai가 Minimax를 인수했고, 강변 전망이 멋진 2000제곱미터 규모의 사무실까지 매입해서 수백 명의 직원들이 열심히 일하고 있다고 해요. @Tintinx2021의 앵무새가 비밀리에 저에게 알려줬어요. twitter.com/0xLaughing/status/...

클로드 코드 앱이 업데이트되어 새로운 사고 깊이 조절 기능이 추가되었습니다. 일상적인 사용에는 중간 수준을 유지하고, 어려운 문제에는 높음 또는 최대 수준을 선택하세요. 단, 이 기능 구현 전에는 프롬프트 키워드를 사용하여 더 깊은 사고를 유도할 수 있습니다. '열심히 생각하기' / '더 깊이 생각하기' (더 깊은 사고) '초심리적 사고' (더 깊은 사고, 약 32,000개의 사고 토큰 소모) 프롬프트 키워드는 현재 라운드에만 적용되며 사용 후 자동으로 원래대로 돌아갑니다.

대학원 시절에는 컴퓨터 비전을 연구했습니다. 당시에는 자세 감지 연구를 하고 논문을 발표하는 사람들이 많았지만, 대부분은 그냥 보여주기식 연구였죠. 주요 상업적 응용 분야는 스마트 피트니스 미러(레캉이나 몇몇 소규모 브랜드 같은 것들)였습니다. 그런데 지금은 집에서 직접 만들 수 있는 것까지 포함해서 할 수 있는 일이 정말 많아진 것 같아요.

Loading..