Google의 DeepMind 개발자는 ' Promptbreeder(PB): 가속화된 진화를 통한 자기 참조적 자기 개선'을 출시했습니다. ” 이 선구적인 개발은 가속화된 진화의 힘을 활용하여 LLM(대형 언어 모델)의 기능을 향상시키는 새로운 접근 방식을 약속합니다.
이 혁신의 핵심에는 대규모 언어 모델의 지능이 수신하는 텍스트 단서의 품질과 밀접하게 연관되어 있다는 인식이 있습니다. 본질적으로, 단서가 더 똑똑할수록 모델의 반응은 더 지능적이고 정확해집니다. 결과적으로, 당면한 중요한 작업은 이러한 모델을 효과적으로 안내하기 위한 최적의 힌트 전략을 만드는 것입니다.
일련의 사고나 계획 및 결정 접근 방식과 같은 기존의 프롬프트 전략은 LLM의 추론 능력을 확실히 향상시켰습니다. 그러나 종종 수동으로 고안된 이러한 전략은 최적의 성능에 미치지 못할 수 있습니다.
Promptbreeder는 진화 메커니즘을 사용하여 힌트 전략을 반복적으로 개선하는 솔루션입니다. PB의 차별점은 새로운 세대마다 힌트뿐만 아니라 자체 힌트 강화 기능도 향상시키는 놀라운 능력입니다.
Promptbreeder 진화 체계의 작동 방식은 다음과 같습니다.
- LLM의 지도에 따라 Promptbreeder는 각각 2개의 "솔루션 힌트"와 1개의 "돌연변이 힌트"로 구성된 진화 단위 집단을 생성합니다.
- 그런 다음 바이너리 토너먼트 유전자 알고리즘을 사용하여 훈련 세트를 기반으로 이러한 돌연변이의 적합성을 평가하고 더 나은 성능을 보이는 돌연변이를 식별합니다.
- 이 순환 프로세스는 지속적으로 1단계로 되돌아가며 궁극적으로 "힌트 솔루션" 세대의 진화로 이어집니다.
여러 세대에 걸쳐 Promptbreeder는 5가지 다른 클래스의 돌연변이 연산자를 사용하여 "솔루션 힌트"와 "돌연변이 힌트"를 모두 변경합니다. 이 계획의 뛰어난 점은 이러한 돌연변이 "힌트 솔루션"이 점차 지능화된다는 사실에 있습니다. "변이 힌트"는 여기서 중추적인 역할을 하며 "솔루션 힌트"를 향상시키기 위해 변형하는 방법에 대한 지침을 제공합니다.
본질적으로 Promptbreeder는 자연어 영역 내에서 작동하는 자기 개선, 자기 참조 시스템입니다. 결정적으로 신경망을 복잡하게 미세 조정할 필요가 없습니다. 대신, 특정 애플리케이션에 세심하게 최적화된 맞춤형 힌트를 생성합니다.
초기 실험에서는 유망한 결과가 나왔습니다. Promptbreeder는 증오심 표현 식별을 포함하여 수학적, 논리적, 상식적 작업 및 언어 분류 분야에서 다른 모든 최신 힌트 방법보다 성능이 뛰어났습니다.
앞으로 Promptbreeder는 전체 사고 프로세스를 구축하는 데 있어 실행 가능성에 대해 엄격한 테스트를 받고 있습니다. 여기에는 힌트가 조건부로 적용되는 N-힌트 전략을 탐색하여 적대적인 소크라테스식 대화에 참여하는 LLM 정책을 위한 사전 프로그램 개발을 위한 길을 닦는 것이 포함됩니다.
Promptbreeder는 인간 사고 과정의 광범위한 특성과 비교할 때 여전히 한계가 있습니다. 힌트 토폴로지는 고정된 상태로 유지되며 Promptbreeder는 힌트 알고리즘 자체가 아닌 주로 힌트 내용을 조정합니다. 인간의 사고는 언어를 넘어 억양, 이미지, 다중 모드 시스템 등 Promptbreeder가 아직 보유하지 못한 다양한 측면을 포괄합니다.
더 많은 관련 주제를 읽어보세요:
- Hippocratic AI, 5천만 달러 자금 지원으로 안전 중심 언어 모델 공개
- 26억 달러 규모의 EU 독점금지 벌금에 대한 Google의 최종 입장, 유럽 최고 법원으로 향함
구글이 인간보다 수십억 배 더 빠르게 진화하는 최초의 자체 개선 AI 모델 Promptbreeder를 발표한 게시물이 Metaverse Post 에 처음 등장했습니다.
