언어 모델을 사용한 조작 저항성 예측 시장 파생 상품

이 작업으로 이어진 심도 있는 토론에 참여해 준 Diego 에게 감사드립니다.
피드백과 리뷰를 해주신 Sam Hart , David Crapis , Swapnil , Jorik 에게도 감사드립니다.

TL;DR: LLM 기반 예측 파생 상품은 기존 예측 시장 파생 상품의 조작 위험에 대한 새로운 솔루션을 제공하며, 예측 시장 내에서 잠재적으로 더 풍부한 이벤트 환경을 지원하는 새로운 기본 요소를 제공합니다. 언어 모델을 사용하여 지수 가격을 생성함으로써 이 접근 방식은 파생 상품을 조작 가능한 현물 시장에서 분리합니다. 수학적 증명은 솔루션의 견고성을 뒷받침하는 반면, 시스템 신뢰성을 강화하는 추가 전략이 제안됩니다.

슈퍼_포캐스터 1024×1024 332KB

예측 시장은 효과적으로 정보를 집계하고 이벤트를 예측합니다. 그러나 파생 상품 예측 시장은 파생 상품의 지수 가격을 결정하는 기초 "현물" 시장의 조작이라는 새로운 위험을 초래합니다.

Polymarket에 대한 최근의 실패한 공격이 이 벡터의 예입니다. 2024년 9월 6일, 공격자는 다음을 통해 2024년 미국 대선 파생상품 시장을 표적으로 삼았습니다.

1. 파생상품 시장에서 대규모 지위를 확보합니다.
2. 약 700만 달러를 지출하여 "현물" 시장에서 가격을 낮추려고 시도했습니다.
3. 성공하면 150만 달러의 보상이 지급됩니다.

이 시도는 실패했지만, Mango Markets 와 같이 유사한 시장 구조를 가진 대출 시장에서 유사한 취약성이 성공적으로 악용되었습니다. 이러한 사건은 파생 상품 예측 시장에 내재된 주요 체계적 위험을 강조합니다.

LLM 기반 파생상품

영구 계약의 핵심 구성 요소는 다음과 같습니다.

• 마크 가격, 즉, 퍼프가 거래되는 가격
• 지수 가격, 즉 퍼프로가 추적하는 기초 자산의 가격
• 시장 가격이 지수 가격에서 멀어짐에 따라 롱 포지션과 숏 포지션 간에 교환되는 자금 조달 비율
• 포지션을 열기 위해 필요한 담보

영구적 선물은 예측 시장에서 거래되는 'YES' 토큰의 중간 가격을 추적할 수 있으므로 예측 시장 파생 상품이 됩니다.

예측 시장에 내생적인 정보를 사용하여 지수 가격을 생성하는 대신 대규모 언어 모델(LLM)을 사용할 것을 제안합니다. 파생 상품을 현물 시장에서 분리하고 다양하고 신뢰할 수 있는 출처를 활용함으로써 이 접근 방식은 모든 참여자가 가격에 영향을 미칠 수 있는 기존 예측 시장보다 조작에 대한 저항력이 더 강할 수 있습니다.

LLM은 변화하는 질적 공공 정보를 상품화하는 메커니즘으로 해석될 수 있습니다. 현재 정보 환경을 확률로 집계함으로써 거래 가능한 도구를 구축할 수 있는 가격을 설정할 수 있습니다. 이러한 퍼프의 구조에 대한 보다 정확한 설명은 다음과 같습니다.

• 지수 가격은 LLM이 계산한 확률의 이동 평균입니다.
• 롱 베팅은 이벤트의 가능성이 증가할 것에 베팅합니다.
• 단기 투자자는 사건의 가능성이 감소할 것이라고 베팅합니다.
• 자금 조달 비율은 파생상품 시장에서 LLM(LLM에서 얼마나 많은 정보가 숨겨져 있는지)과 비교하여 배당률을 어떻게 책정하는지에 따라 지급됩니다.

최근의 연구는 LLM의 예측 능력을 뒷받침합니다. Halawi 등이 수행한 "언어 모델을 통한 인간 수준 예측 접근" 연구에서 미세 조정된 LLM은 일부 시나리오에서 Polymarket 이벤트에 대한 인간 예측자와 거의 일치하고 더 나은 성과를 보였으며, "슈퍼 예측자"가 될 가능성이 있음을 발견했습니다. 이는 LLM이 지수 가격에 대한 오라클 역할을 효과적으로 수행할 수 있음을 시사하며, 얇거나 존재하지 않는 현물 시장이 있는 이벤트에서 파생 상품을 생성할 수 있습니다.

정보 집계

LLM은 공개적으로 이용 가능한 정보를 집계하고 자동으로 통합하는 계산 에이전트 역할을 합니다. 반면 트레이더는 거래 활동을 통해 비공개 정보를 제공합니다.

시스템의 조작 저항은 LLM의 소스 가중치 메커니즘에 의해 강화됩니다. 이는 단일 정보 소스를 조작하는 영향을 LLM이 할당한 가중치로 제한합니다. 결과적으로 개별 소스의 가중치가 다른 소스에 비해 낮을수록 시스템은 해당 소스를 대상으로 하는 조작 시도에 더 저항하게 됩니다.

S S가 LLM에서 사용하는 모든 소스의 집합이라고 하자. LLM이 모든 소스의 확률의 가중 평균으로 확률 P P를 생성하고 모든 소스가 독립적인 간단한 모델을 고려한다. P=\sum_{j \in S}(w_j*p_j) P = ∑ j ∈ S ( w j ∗ p j ) . 이는 독립적인 데이터에 대한 여러 LLM 추론의 앙상블 확률에 효과적으로 대응한다. 그러나 LLM은 P P를 다르게 생성할 수 있으며 소스에 종속성이 있을 수 있다.

정리 1 ( 가중치 조정 소스의 조작 저항 ) : 위의 모델에서 P P는 이벤트에 대한 LLM 생성 확률이고 P_i P i는 소스 i 가 조작된 경우 생성될 확률입니다. 그러면:

여기서 w_i w i는 LLM이 소스 i i 에 할당한 가중치이고 \sum w_i=1 ∑ w i = 1 입니다.

• 증거
  S_{-i} S − i는 i i를 제외한 모든 소스의 집합입니다.
  소스 i i가 조작되면 새로운 확률 P_i P i는 다음과 같습니다.

  P_i=w_i*p_i'+\sum_j \in S_{-i}}(w_j*p_j)
  P i = w i ∗ p ′ i + ∑ j ∈ S − i ( w j ∗ p j )

  여기서 p_i' p ′ i는 소스 i i 에서 조작된 확률입니다.

  P P 와 P_i P i 의 차이는 다음과 같습니다.

  |P-P_i|=|w_i*(p_i-p_i')|
  | P − P i | = | w i ∗ ( p i − p ′ i ) |

  p_i p i 와 p_i' p ′ i 사이의 가능한 최대 차이는 1 1 입니다. 따라서,

  |P-P_i| \약 w_i
  | P − P i | ≤ w i

  \블랙스퀘어 ■

이 정리는 LLM에서 사용하는 소스 가중치와 직접 연결된 조작 저항의 정량적 측정을 제공합니다. 정보 소스 간의 독립성을 가정하면, LLM 기반 예측 파생물이 개별 소스에 할당된 가중치가 0에 가까워질수록 조작에 대한 저항성이 점점 더 커진다는 것을 보여줍니다.

추론 1 ( 동일 가중치 소스의 조작 저항 ) : LLM이 최소 n n개의 동일 가중치 독립 소스를 사용하는 경우:

여기서 P P 는 LLM에서 생성된 이벤트에 대한 확률이고 P_i P i는 소스 i 가 조작된 경우 생성되는 확률입니다.

• 증거

  소스의 가중치가 동일하면 w_i=\frac{1}{n} w i = 1 n 모든 나 나 .

  따라서 정리 1에서:

  |P-P_i|\leq w_i=\frac{1}{n}
  | P − P i | ≤ w i = 1 n

  \블랙스퀘어 ■

이 추론은 동등하게 가중치가 부여된 소스의 수를 늘리면 단일 소스를 조작하는 영향이 줄어든다는 것을 보여줍니다. 직관적으로, 사용 가능한 정보 소스의 수는 이벤트가 해결에 가까워질수록 증가하는 경향이 있어 시스템의 조작 저항력이 더욱 강화됩니다.

LLM 기반 예측 Perpetuals

우리는 전통적인 시장 대신 LLM이 지수 가격을 생성하는 이벤트 확률에 대한 영구 상품을 공식적으로 도입했습니다.

P P를 LLM 생성 확률로 두자. 따라서 영구 확률은 다음에 의해 지배된다.

P P 는 확률이므로 분모에 1을 곱하여 분자와의 단위 일관성을 보장합니다.

자금 조달 비율 메커니즘은 거래 가격(마크)을 LLM에서 생성된 확률(지수)과 일치시키며, 그 격차는 직관적으로 LLM에 숨겨진 정보의 양에 비례합니다.

정보 수집: 정보 대체물

LLM 집계 메커니즘의 다른 모델은 LLM이 수신된 개별 신호에 대한 공통 사전에 베이지안 업데이트를 수행하는 것으로 구성됩니다. 모든 신호가 동시에 제공되면 이를 단일 확률 추정치로 집계할 수 있습니다. 그러면 확률 P_t P t는 마지막 신호 세트에 대한 가장 최근 베이지안 업데이트의 결과가 됩니다.

형식적으로 LLM은 공통 사전 P_{LLM} P L L M을 추정합니다. 시장을 뒷받침하는 이진 결과에 해당하는 변수를 Y 로 표시합니다 . Y. LLM이 n n개의 서로 다른 신호 \{x_1, \dots, x_n\} { x 1 , … , x n } 를 수신하면 가격 P = P_{LLM}(Y=1|x_1, \dots, x_n) P = P L L M ( Y = 1 | x 1 , … , x n ) 을 출력합니다 .

두 신호는 기준 진실을 감안할 때 조건부로 독립적이면 정보 대체물로 간주됩니다. 이는 인센티브 호환성을 보장하는 예측 시장 문헌에서 중요한 조건입니다.

이러한 모델을 사용하면 여러 대체 가능한 신호를 집계하는 단일 LLM 추론이나 대체 가능한 신호에 대한 연속적인 LLM 추론의 경우를 연구할 수 있습니다. 한 신호는 정보 소스 집합에 해당할 수 있습니다.

정리 2 ( 정보 대체 조건 하에서 LLM의 조작 저항성 ): 정보 구조에 대한 합리적인 가정 하에, LLM이 정보 대체물인 충분한 수의 신호에 접근할 수 있다면, 신호를 조작하려는 악의적인 에이전트는 최종 가격을 최대 \epsilon ϵ 만큼만 편향시킬 수 있습니다.

• 증거

  이 결과는 Srinivasan et al.의 " 검증 불가능한 결과에 대한 자체 해결 예측 시장 "의 보조정리 1 과 정리 1을 재해석한 데서 비롯되었습니다.

  우리는 악의적인 에이전트가 변조하여 수정된 신호 \tilde{x_t} ~ x t를 생성하는 특정 신호 t t를 고려합니다. LLM은 또한 x_r x r 로 간단히 표시되는 다른 정보 소스 집합 x_{-t} x − t 에 액세스할 수 있습니다. 여기서 \Omega_r Ω r은 기본 신호 공간의 구조에 해당합니다. LLM은 진짜 신호 x_t x t 를 수신하면 가격 P_{LLM}(Y=1 | x_t) P L L M ( Y = 1 | x t )을 생성합니다.

  우리는 조작하는 동안 에이전트가 이 정보 세트에 접근할 수 없다고 결정적으로 가정합니다. 이 가정은 LLM이 수많은 소스에서 즉시 업데이트되는 경우(에이전트가 접근할 시간이 없음) 또는 각 신호를 특정 시간 t t 와 연관된 것으로 간주하는 경우에 성립합니다. 그런 다음 LLM은 먼저 \tilde{x_t} ~ x t 에 번들로 묶인 다른 공개 소스의 신호와 함께 조작된 신호를 수신하고 얼마 후에 조작되지 않은 소스에서 x_r x r 로 업데이트를 수신합니다. 후자는 소스가 시간이 지남에 따라 빠르게 업데이트되는 경우 특히 흥미로울 수 있습니다.

  앞서 언급한 보조정리에 따르면 다음과 같은 결과가 나옵니다.

  P_{LLM}(Y=1 | x_r, x_t) | x_t] = P_{LLM}(Y=1 | x_t) + \델타(\오메가_r, x_t, x_t)
  E [ P L L M ( Y = 1 | x r , ~ x t ) | x t ] = P L L M ( Y = 1 | x t ) + Δ ( Ω r , ~ x t , x t )

  이 방정식은 악의적인 에이전트가 x_r x r 하에 다른 정보 소스를 집계한 후 LLM의 가격에 대한 기대가 거짓 보고 \tilde{x_t} ~ x t 에 따라 달라지는 오류 항목의 영향을 받는다는 것을 나타냅니다. 오류 항목이 클수록 가격 조작 가능성이 커집니다.

  정리 1은 \Omega_r Ω r 이 정보 대체 신호로 구성될 경우, 오차 항은 대체 신호의 개수 k k 가 증가함에 따라 최소화될 수 있음을 보여줍니다.

  \블랙스퀘어 ■

이 정리는 LLM이 정보 대체물인 정보 소스에 접근할 때 악의적인 에이전트가 최종 가격을 조작하는 능력이 상당히 제한됨을 보여줍니다. 정리 1 1 은 대체 가능한 신호에 대한 여러 추론을 앙상블할 수 있기 때문에 보완적 가치가 있을 수 있습니다.

시장 효율성

이 파생상품은 LLM이 공공 정보를 빠르게 통합하고 거래 활동이 비공개 정보를 통합함에 따라 새로운 형태의 효율성을 달성할 수 있습니다.

정리 3 ( LLM 기반 예측 영구 채권의 효율성 ) : P_t P t를 시간 t t 에서 LLM에서 생성된 확률로 하고, M_t M t를 시간 t t 에서 영구 채권의 시장 가격이라고 하며, I_t I t를 시간 t t 에서 사용 가능한 공개 정보 집합이라고 합니다. 비공개 정보의 도입과 관련된 시장 가격의 가격 점프에 해당하는 델타-디랙 함수를 \delta_t δ t 로 표시합니다. 그러면 다음과 같습니다.

1. |E[P_t|I_t]-P_t|\leq \epsilon_{\text{LLM}} | E [ P t | I t ] − P t | ≤ ϵ LLM ( LLM 효율성 )
2. 개인 정보의 도착 외에 P_t \approx M_t P t ≈ M t ( 평균 반전 )
3. \delta_t δ t 가 양수가 되고 시장 가격이 뛰면 이완 시간 P_t 이후 P t 도 뛰게 됩니다( LLM과 시장 사이의 피드백 루프 )

• 증거

  1. LLM 효율성: 설계상 LLM은 사용 가능한 모든 공개 정보 I_t I t를 처리하여 P_t P t를 생성합니다. 경계 \epsilon_{\text{LLM}} ϵ LLM은 이 프로세스의 최대 오류를 나타냅니다.

  2. 시간 t t 에서의 자금 조달 비율을 f(t)=k(M_t-P_t) f ( t ) = k ( M t − P t ) 로 하고, 여기서 1>k>0 1 > k > 0 은 상수입니다. M_t>P_t M t > P t 이면, f(t)>0 f ( t ) > 0이 되어 거래자들이 매도하도록 유도하고 M_t M t 를 낮춥니다. M_t<P_t M t < P t 이면, f(t)<0 f ( t ) < 0 이 되어 거래자들이 매수하도록 유도하고 M_t M t 를 높입니다. 이는 일반화된 Ornstein-Uhlenbeck 프로세스를 생성합니다.

     dM_t = \알파(P_t-M_t)dt + \시그마 d W_t
     d M t = α ( P t − M t ) d t + σ d W t

     여기서 \alpha>0 α > 0 은 조정 속도이고, \sigma σ 는 변동성이고, W_t W t 는 위너 프로세스입니다.
     우리는 P_t P t가 느리게 변화하는 확률 변수라고 가정합니다. 뉴스 환경은 갑자기 변하지 않기 때문에 이는 현실적인 가정입니다. 그런 다음 [t_0,t_1] [ t 0 , t 1 ] 기간 동안 P_t(\omega) \approx P(\omega) P t ( ω ) ≈ P ( ω ) 가 됩니다. 위의 SDE는 다음을 제공합니다.

     |E[M_t]-P(\오메가)|=|P(\오메가)-M_{t_0}|e^{-k(t-t_0)}
     | E [ M t ] − P ( ω ) | = | P ( ω ) − M t 0 | e − k ( t − t 0 )

     따라서 우리는 정상적인 시장 조건에서 지수 평균 반전과 P_t \approx M_t P t ≈ M t를 봅니다. 또한 공개 정보를 집계하는 데 있어서 오차 한계가 전적으로 LLM에 달려 있다는 점도 알 수 있습니다.
     이제 우리는 개인 정보를 설명하기 위해 위의 SDE에 \delta_t δ t를 도입합니다.

     dM_t = \알파(P_t-M_t)dt + \eta\delta_tdt + \시그마 d W_t
     d M t = α ( P t − M t ) d t + η δ t d t + σ d W t

     우리는 ]t(\omega), t(\omega) + \epsilon(\omega)[ ] t ( ω ) , t ( ω ) + ϵ ( ω ) [ 의 외부에서 \delta=0 δ = 0 이라고 가정합니다. 여기서 t t 및 \epsilon ϵ 는 확률 변수이고, 구간 내에서는 \delta_t>0 δ t > 0 이고, \int_{\mathbb{R}} \delta_t =1 ∫ R δ t = 1 입니다 . 항 \eta(\omega) η ( ω ) 는 점프의 크기를 정량화하는 확률 변수이며, \pm \eta ± η 와 같을 수 있습니다. t^*=t(\omega) t ∗ = t ( ω ) 이전에 M_t\approx P_t M t ≈ P t 였으므로 시간 \epsilon(\omega) ϵ ( ω ) 동안 다음이 성립한다고 가정하는 것이 합리적입니다.

     dM_t = \eta\delta_tdt + \sigma d W_t
     d M t = η δ t d t + σ d W t

     따라서 평균 가격 상승은 \eta η 입니다. 따라서 t<t^* t < t ∗ 의 경우 M_t= M_{t_0} M t = M t 0 이고 t > t^* + \epsilon(\omega) t > t ∗ + ϵ ( ω ) 의 경우 M_t = M_{t_0} + \eta M t = M t 0 + η 라는 단순화된 가정을 할 수 있습니다. 여기서 t_0 < t^* t 0 < t ∗ 입니다. 간략하게 하기 위해 나머지 증명은 생략하지만 위의 두 번째 SDE를 풀고 t>>t^* t > > t ∗ 에 대한 점근 분석을 통해 다음을 찾을 수 있습니다.

     M_{t_0} + \eta \대략 P(\오메가)[1-e^{-k(tt^*)}]
     M t 0 + η ≈ P ( ω ) [ 1 − e − k ( t − t ∗ ) ]

     따라서 큰 t t 에 대해 P_t \approx M_{t_0} + \eta P t ≈ M t 0 + η 가 있어야 하며 LLM은 초기 점프를 따라야 합니다.
     \블랙스퀘어 ■

이 정리는 LLM 기반 예측 파생 상품의 준강력 효율성의 새로운 형태를 공식화하여 LLM 정보 처리와 시장 가격 발견을 결합합니다.

더욱 견고함을 보장하다

LLM의 설계는 누락이나 불일치와 같은 오류에 대해 회복성이 있어야 합니다. 신뢰할 수 있고 조작에 강한 정보 소스에 의존해야 하며 최대한의 관찰 가능성을 위해 노력해야 합니다.

시스템 안정성을 높이고 조작을 방지하기 위해 다음과 같은 전략이 더 있습니다.

• 검증된 정보 검색: 분산형 LLM 운영에 중요한 정보 파이프라인 무결성을 보장하기 위해 특정 웹사이트에서 LLM의 데이터 검색을 인증합니다(예: TLSNotary 사용).
• 허용 목록: 권한과 관련성을 보장하기 위해 LLM 소스를 제한합니다.
• 적응형 검색: 이벤트 유형(예: 스포츠 대 우주 비행)에 따라 우선 순위, API 모듈 및 허용 목록을 사용자 지정합니다.
• 계약 가격 추적: LLM 피드백 루프를 구현하여 지수 가격과 시장 가격 간 수렴을 촉진하고, 자금 조달 비율과 가격을 0 0 또는 1 1 로 수렴시킵니다.
• LLM 예측 앙상블: 여러 예측을 결합하여 변동과 불일치를 줄입니다.
• 포함 목록 메커니즘: LLM이 내부 검색 결정에 관계 없이 특정 데이터를 검토하도록 요구합니다.
• 데이터 기반 모델 식별: 이 논문 에서 설명한 대로 LLM 예측을 벤치마킹하기 위해 복잡한 온톨로지를 구현합니다.
• 다중 LLM 평균화: 여러 경쟁 LLM을 대상으로 "실리콘 군중의 지혜" 접근 방식을 통해 LLM 특정 편향(예: 잘못된 교정, 과신)을 완화합니다.
• TEE를 사용한 허가 없는 메커니즘: LLM 가중치는 미리 커밋될 수 있으며 누구나 LLM을 다시 실행하여 출력을 검증할 수 있습니다. 또한 최종 프롬프트는 다양한 참여자로부터 나올 수 있습니다(이러한 메커니즘에 대한 일반적인 논의는 이 논문 참조).

이벤트 환경 확장

예측 시장은 여전히 매우 제한된 시장 집합을 지원합니다. "과학"과 같은 광대한 도메인은 Polymarket에서 약 30개의 시장만 포함합니다. 초기 자본이 필요 없이 새로운 정보가 제공될 때 업데이트되는 동적 가격을 생성함으로써 LLM은 신뢰할 수 있는 정보 소스에 액세스할 수 있는 한 사실상 모든 시장을 지원할 수 있습니다.

이 연구 보고서 에서 제안하는 것처럼, '슈퍼 질문자'(슈퍼 예측자'와 대칭적인 역할)를 통해 가능한 사건의 공간을 효율적으로 탐색하는 것은 가장 중요한 '실존적' 질문을 이해하는 데 중요할 수 있습니다.

마무리 생각

우리는 LLM이 공개 정보를 확률로 집계하는 데 있어 어느 정도 고유한 효율성을 가질 수 있다고 가정했습니다. 또한 그러한 예측 LLM이 위에서 설명한 조작 범위 내에 현실적으로 있을 수 있다고 가정했습니다. LLM에 제시된 정보 구조가 충분히 풍부하다면 그럴 것으로 예상합니다.

이러한 가정 하에 LLM을 지수 가격으로 사용하여 예측 시장 파생 상품을 구축하는 것이 가능하고 효율적이라는 핵심 주장은 자금 조달 비율이 평균 회귀를 진실한 해결 방향으로 이끌 수 있다는 것을 보장하는 위에 제시된 마지막 결과에 달려 있습니다. 첫 번째 결과는 \epsilon_{LLM} ϵ L L M을 충분히 작게 선택할 수 있다는 주장을 뒷받침합니다.

일반적인 직감에 따르면 P_t P t 는 공개 신호를 집계하는 대리이고 M_t M t 는 공개 및 비공개 신호를 집계하는 대리이며, 자금 조달 비율은 시간이 지남에 따라 파생 상품 가격을 올바른 방향으로 이끈다.

LLM 기반 예측 파생 상품은 파생 상품 예측 시장에서 주요 조작 위험에 대한 새로운 솔루션을 제공합니다. 잠재적으로 조작 가능한 현물 시장에서 분리함으로써 이 접근 방식은 이벤트 확률을 위한 파생 상품 시장을 개발하는 데 있어 주요 장애물을 제거하는 것을 목표로 합니다. 이 솔루션은 특히 해당 현물 예측 시장이 유동성이 없거나 존재하지 않는 시나리오에서 예측 시장 파생 상품에 대한 실험을 장려할 것으로 기대합니다.

더욱이 그러한 원시적인 방식은 현재 Polymarket에서 볼 수 있는 것보다 훨씬 더 광범위한 시장에서 효율성을 보장하여 새로운 형태의 정보 집계가 가능할 것입니다.