avatar
Ye Zhang 📜
15,114명의 트위터 팔로워
팔로우하기
Cofounder @Scroll_ZKP. Doing research about zero-knowledge proof, system, and hardware.
포스팅
avatar
Ye Zhang 📜
03-15
스레드
ChatGPT에서 제가 가장 좋아하는 기능은 바로 이것입니다. 현재 대화를 새로운 채팅으로 분기하면서 원래의 맥락을 유지할 수 있다는 점이죠. 제 학습 패턴은 보통 이렇습니다. 새로운 것을 배우다가 생소한 개념이 나와서 더 깊이 파고들고 싶을 때가 있죠. 하지만 메인 채팅에서 바로 그런 작업을 하면 원래의 맥락이 흐려질 수 있습니다. 분기 기능이 바로 그 문제를 해결해 줍니다. 별도의 채팅에서 궁금한 점들을 탐구한 후 다시 메인 대화로 돌아올 수 있죠. 하지만 저는 보통 질문이 너무 많아서 분기가 계속 이어지다 보니 관리하기가 어려워지곤 합니다. 제 생각에 학습에 최적화된 채팅 앱은 트리 구조를 가져야 합니다. 여러 분기에서 새로운 개념을 계속 탐구하면서도 모든 내용과 맥락을 시각적으로 쉽게 관리할 수 있어야 하죠. 저도 이런 기능을 직접 코딩해 보고 싶었지만, 너무 귀찮기도 하고, 이미 ChatGPT에 모든 내용이 저장되어 있기도 하고, API를 사용하는 것보다 구독 서비스를 활용하는 게 낫다고 생각해서 아직 실행에 옮기지는 않았습니다. 하지만 저처럼 심도 있게 학습하는 사람들에게는 이런 기능이 정말 필요하다고 생각합니다. 또 하나 필요한 것은 대화가 엉뚱한 방향으로 흘러가지 않도록 별도의 스레드를 통해 대화를 모니터링하는 것입니다. 왜냐하면 사용자(저) 혼자서 전체 대화를 이끌어 나가고 있기 때문입니다...(지난 트윗에서 언급한 문제와 비슷하게, 저는 계속해서 엉뚱하고 산만한 질문을 던지고, 전체적인 맥락을 파악하여 제가 같은 자리에 갇히지 않도록 도와줄 "조언자"가 필요합니다). @sama @ChatGPTapp @JustinBleuel
STUCK
0%
avatar
Ye Zhang 📜
03-04
@originalmaderix는 Apple의 Neural Engine을 사용하여 추론뿐 아니라 학습까지 가능하게 만들었습니다. 그는 비공개 ANE 스택을 역설계하여 ANE에서 직접 순방향 전파와 역전파를 실행했습니다. (이전에는 Apple이 주로 Core ML을 통해 ANE를 제공했으며, ANE에 대한 공개 학습 API/문서를 제공하지 않았습니다.) 이 기술이 확장된다면 로컬 미세 조정과 상시 실험을 저렴하고 조용하며 비공개적으로 수행할 수 있게 될 것입니다. 아직 초기 개념 증명(PoC) 단계이며, 단일 레이어 데모, 일부 CPU 대체(dW/Adam), 그리고 오류가 발생할 수 있는 비공개 API가 있습니다. 하지만 효율성 향상 가능성은 매우 크고 기대되는 부분입니다!
NEURAL
2.21%
avatar
Ye Zhang 📜
02-28
오늘날 앤트로픽은 충분히 규모가 커서 거절할 수 있습니다. 하지만 대부분의 사람들은 영향력 있는 기업이 아닌 이상 사실상 "선택권"이 없습니다. 서비스 약관은 기본적으로 수락 또는 탈퇴라는 이진 선택지입니다. 그리고 서비스가 필요한 경우, "탈퇴"는 현실적이지 않습니다. 만약 모든 주요 LLM(법률 자원 관리) 플랫폼이 기본적으로 사용자의 데이터를 수집한다면, 실제로 데이터 수집을 거부할 수 있는 사람은 얼마나 될까요? (네, 개인정보 보호 모델은 존재합니다. 하지만 그러한 모델들이 훨씬 취약하다면 진정한 대안이 될 수 없습니다. 또한 많은 기업들이 데이터를 동력으로 활용하지 못해 도산합니다. 오랫동안 살아남아야만 비로소 자신들의 가치에 대해 논의할 기회를 얻을 수 있습니다.) 정보와 유통이 소수의 손에 집중되면 기업은 단순히 제품을 만드는 데 그치지 않고 규칙을 정하게 됩니다. 나머지는 모두 그에 맞춰 변화할 뿐입니다. 이거 예전에 올라왔던 트윗이 생각나네요. 제미니(Gemini) 사용하려면 기본적으로 활동 데이터 수집이 필수였는데, 안 그러면 AI가 모든 대화를 잊어버린다는 내용이었죠. 👇
Ye Zhang
@yezhang1998
12-21
Gemini has gotten way better technically, but its privacy model is still a hard no for me. You're forced into this tradeoff: • Activity ON → Keep chat history, but chats can train Google's models • Activity OFF → No training use, but history deleted after 72 hours That's
ANTHROPIC
19.52%
avatar
Ye Zhang 📜
12-21
최근 제 타임라인에서 많은 사람들이 Gemini로 갈아타기 시작했습니다. 하지만 저는 Gemini가 Claude + GPT보다 훨씬 낫다고 생각하지 않으며, 데이터 수집 및 개인정보 보호 설정은 도저히 용납할 수 없다고 생각합니다. Gemini에서는 다음 두 가지 옵션 중 하나를 선택해야 합니다. 1. 데이터 수집을 완전히 비활성화 (즉, 모든 채팅 기록이 72시간 동안만 보관됨) 2. 데이터 수집을 완전히 활성화 (즉, 채팅 기록이 Google의 향후 학습에 사용됨) Grok, GPT, Claude와 같은 다른 대형 모델들은 대화 데이터를 보관하되 학습에 사용하지 않도록 선택할 수 있게 해줍니다. Google만 의도적으로 이렇게 하지 않습니다. 72시간 동안의 채팅 기록 보관은 그다지 유용하지 않기 때문에 이는 매우 제한적이라고 생각합니다. Google은 Gmail, Drive, YouTube 등 수많은 채팅 데이터를 보유하고 있으므로 훌륭한 성능을 보여줄 것입니다. 그들은 분명 발전하겠지만, 언젠가 여러분의 정보 대부분이 모델의 사전 학습에 직접적으로 활용되는 날을 상상해 보세요. 얼마나 끔찍한 일이겠습니까? 게다가 모두가 사용자에게 데이터 제출을 강요하는 이러한 치열한 경쟁에 뛰어든다면, 전체 생태계는 더욱 악화될 뿐입니다.
Ye Zhang
@yezhang1998
12-21
Gemini has gotten way better technically, but its privacy model is still a hard no for me. You're forced into this tradeoff: • Activity ON → Keep chat history, but chats can train Google's models • Activity OFF → No training use, but history deleted after 72 hours That's
loading indicator
Loading..