15일, 한 연구자가 OpenAI에 합류한다는 소식이 많은 사람들의 관심을 끌었다.
이 연구자의 이름은 James Campbell로, 그는 2024년 CMU에서 컴퓨터 과학 박사 학위를 취득할 예정이었다. 현재, 그는 갑자기 박사 과정을 포기하고 OpenAI에 합류하기로 결정했다.
소셜 미디어 X에서 그는 OpenAI에서의 연구 중점이 "AGI와 ChatGPT의 기억 + 인격"이며, 기억이 인간과 기계 지능 간의 관계를 근본적으로 변화시킬 것이라고 언급했다. 그는 이를 올바르게 구현하기 위해 열심히 노력할 것이라고 밝혔다.
그의 합류에 OpenAI 공동 창립자이자 사장인 Greg Brockman도 환영의 뜻을 표했다.
또한 어떤 이는 "왜 이렇게 오래 걸려서 OpenAI에 합류하기로 결정했느냐"고 물었다.
그렇다면, 이 사람은 대체 누구이며, 왜 그의 합류가 이렇게 많은 관심을 받았을까? 그의 이력을 살펴보자.
그는 코넬 대학교에서 수학과 컴퓨터 과학을 전공하여 학사 학위를 취득했다. 학부 시절, 그는 LLM의 설명 가능성과 진실성 연구에 전념했으며, 《표현 공학》과 《Llama에서 거짓말 위치 파악》이라는 두 편의 논문의 주요 저자였다.
첫 번째 논문은 AI 투명성에 대한 하향식 접근 방식인 표현 공학을 연구했고, 두 번째 논문은 Llama에서 거짓말 위치 파악: 프롬프트, 탐색, 수정을 통해 참/거짓 문제에서의 불성실한 지시를 이해하는 것을 연구했다.
- 논문 1: 표현 공학: AI 투명성에 대한 하향식 접근, https://arxiv.org/abs/2310.01405
- 논문 2: Llama에서 거짓말 위치 파악: 프롬프트, 탐색, 수정을 통한 참/거짓 문제에서의 불성실한 지시 이해, https://arxiv.org/abs/2311.15131
그는 또한 Gray Swan AI(AI 안전 회사)에서 대항 강건성과 평가 분야에서 일했으며, 계산 신경 과학, 물리학, 딥러닝 이론 분야에서도 일한 경력이 있다. 그는 ProctorAI(사용자의 작업 상태를 모니터링하는 멀티모달 AI 시스템), AI-Timeline.org의 창립자이자 AidanBench(AI 모델 벤치마크 테스트 작업)의 공동 저자이기도 하다.
그중 ProctorAI는 광범위한 논의를 불러일으켰는데, 이 시스템은 사용자의 화면을 모니터링하다가 지연이 발견되면 사용자에게 알림을 보낸다. 작동 원리는 몇 초마다 컴퓨터 화면을 캡처하고 Claude 3.5 Sonnet, GPT-4o, LLaVA 1.5 등 멀티모달 대규모 모델에 입력하는 것이다. 사용자의 주의가 산만하다고 판단되면 화면을 제어하고 개인화된 메시지로 알림을 보낸다.
프로젝트 주소: https://github.com/jam3scampbell/ProctorAI
2024년, 그는 CMU에 입학하여 박사 과정을 시작했으며, 연구 중점은 범용 지능의 구성 요소를 이해하고 이러한 요소들의 안전성을 보장하는 것이었다.
이제 그는 OpenAI에 합류하여 산업계에서의 탐색을 시작했다.
사실, James Campbell의 합류에는 이유가 있었다. 며칠 전 OpenAI가 모델 행동 연구팀 구성을 발표한 게시물 아래에서 이미 둘은 상호작용을 시작했다.
더 이전에 James Campbell은 ChatGPT의 기억에 대한 몇 가지 견해를 발표했다.
그는 ChatGPT의 기억과 이로 인해 발생하는 더 강력한 환각 문제를 연구해야 한다는 데 동의했으며, 컨텍스트 오염과 모드 붕괴가 실제로 존재하지만 현재 이에 대한 연구는 많지 않다고 생각했다. 각 프롬프트에 수천 개의 토큰 기억을 삽입하면 더욱 활성화될 것이라고 주장했다.
보기에 James Campbell의 합류는 양방향으로 이루어진 것 같다.
본 기사는 위챗 공식 계정 "기계의 마음"(ID: almosthuman2014)에서 작성되었으며, 작성자는 두웨이, 36kr의 허가를 받아 게시되었다.
