Andrej Karpathy

Andrej Karpathy

628,606명의 트위터 팔로워

팔로우하기

YouTuber, Blogger, Influencer :D. Previously Director of AI at Tesla, OpenAI, CS231n, PhD @ Stanford. I like to train large deep neural nets 🧠🤖💥

포스팅

Andrej Karpathy

- 블로그 게시글 초안 작성 - LLM을 활용하여 4시간 동안 논리를 꼼꼼하게 다듬었습니다. - 와, 정말 설득력 있네요! 기분 최고예요! - 재밌는 아이디어네요. 반대되는 주장을 해달라고 해볼까요? - LLM이 제 주장을 완전히 반박하고 정반대가 사실이라고 저를 설득했습니다. - ㅋㅋㅋ LLM은 질문을 받으면 의견을 제시할 뿐 아니라 거의 모든 방향으로 논리를 전개하는 데 매우 능숙합니다. 실제로 자신만의 의견을 형성하는 데 매우 유용한 도구이지만, 다양한 방향으로 질문을 하고 아첨은 조심해야 합니다.

Andrej Karpathy

모든 LLM에서 개인화와 관련된 공통적인 문제점은 모델이 기억에 너무 집착한다는 것입니다. 예를 들어, 두 달 전에 했던 특정 주제에 대한 질문이 마치 제가 깊은 관심을 가지고 있는 것처럼 계속해서 반복적으로 언급되는 경우가 있습니다. 마치 지나치게 애쓰는 것처럼 느껴집니다.

Andrej Karpathy

사라님, 감사합니다! 팟캐스트에 출연하게 되어 기쁩니다. 댓글로 더 많은 질문과 답변을 나눌 수 있으면 좋겠네요.

Caught up with @karpathy for a new @NoPriorsPod: on the phase shift in engineering, AI psychosis, claws, AutoResearch, the opportunity for a SETI-at-Home like movement in AI, the model landscape, and second order effects 02:55 - What Capability Limits Remain? 06:15 - What

Andrej Karpathy

예상: IDE 시대는 끝났다 현실: 더 큰 IDE가 필요할 것이다 (내 생각에는) 단지 사람들이 이제 더 높은 수준에서 프로그래밍을 하기 때문에 모습이 많이 달라졌을 뿐이다. 관심의 기본 단위는 파일이 아니라 에이전트다. 여전히 프로그래밍이다.

Andrej Karpathy

tmux grids are awesome, but i feel a need to have a proper "agent command center" IDE for teams of them, which I could maximize per monitor. E.g. I want to see/hide toggle them, see if any are idle, pop open related tools (e.g. terminal), stats (usage), etc.

Andrej Karpathy

당시 존재했던 신경망 아키텍처 검색은 이것에 비해 너무나 취약한 버전이라서, 비교해 보면 완전히 쓸모없는 수준에 속합니다. 이것은 임의의 코드를 작성하고, 이전 실험에서 학습하며, 인터넷에 접속할 수 있는 *진짜* LLM입니다. 비교 대상조차 되지 않습니다.

Andrej Karpathy

아, 맞다. 오토리서치 링크를 걸었어야 했는데. (직접 "사용"하는 게 아니라, 그냥 레시피/아이디어일 뿐이에요. 에이전트에게 주고 본인이 관심 있는 분야에 적용해 보세요.) 그리고 주말에 좀 더 자세한 맥락을 담은 트윗이 있었는데, 그것도 살짝 바이럴됐어요. (오타 수정)

Andrej Karpathy

코덱스는 알려진 문제입니다 :( 현재 설정 방식으로는 자동 연구와 제대로 연동되지 않습니다. github.com/karpathy/autoresear...… OpenAI에 있는 친구에게 연락해서 뭔가 할 수 있는지 알아봤습니다. 예를 들어 /loop와 같은 기능이 필요하거나 비슷한 게 있는지 말이죠. 더 나아가, 저는 에이전트를 "헤드리스"로 실행하는 -p + ralph 루프 방식이 정말 마음에 안 듭니다. tmux 환경에서 실행되는 보기 좋고 상호작용적인 세션을 원합니다. 그래야 에이전트가 뭘 하는지 보고, 의견을 제시하고, 이더리움 클래식(ETC) 수 있으니까요.

Loading..