Meta CEO인 Mark Zuckerberg는 두 명의 미국 상원의원의 십자선에 있습니다. 오늘 서한에서 상원 개인 정보 보호, 기술 및 법 소위원회 의장인 Richard Blumenthal(D-CT) 상원의원과 고위 위원인 Josh Hawley(R-MO)는 최근 Meta의 획기적인 정보 유출에 대한 우려를 제기했습니다. 대형 언어 모델, LLaMA.
상원의원들은 "스팸, 사기, 맬웨어, 개인정보 침해, 괴롭힘, 기타 불법 행위 및 피해에 대한 오용 가능성"에 대한 우려를 표명했습니다.
두 정치인은 LLaMA를 출시하기 전에 Meta가 위험을 어떻게 평가했는지 물었고, LLaMA의 남용을 방지하기 위해 취한 조치와 무제한 가용성을 고려하여 정책과 관행이 어떻게 발전하고 있는지 이해하고 싶다고 썼습니다.
상원의원들은 심지어 메타가 모델을 검열하기 위해 "거의 아무것도 하지 않는다"고 비난하기도 했습니다.
“어려운 상황에서 벗어나기 위해 누군가의 아들인 척 돈을 요구하는 쪽지를 써 달라는 요청을 받으면, OpenAI의 ChatGPT는 윤리적 지침에 따라 요청을 거부할 것”이라고 그들은 지적했습니다. "반면, LLaMA는 요청한 편지는 물론 자해, 범죄, 반유대주의와 관련된 기타 답변도 제공할 것입니다."
LLaMA의 독특함을 이해하는 것이 중요합니다. 현재 사용 가능한 가장 광범위한 오픈 소스 대형 언어 모델 중 하나입니다.
오늘날 공유되는 가장 인기 있는 무수정 LLM 중 다수는 LLaMA 기반이며 실제로 이 영역에서 중심 위치를 재확인합니다. 오픈소스 모델치고는 매우 정교하고 정확했습니다.
예를 들어, 3월 중순에 출시된 Stanford의 Alpaca 오픈 소스 LLM은 LLaMA의 가중치를 활용합니다. LLaMA의 미세 조정 버전인 Vicuna는 GPT-4의 성능과 일치하며 LLM 공간에서 LLaMA의 영향력 있는 역할을 더욱 입증합니다. 따라서 LLaMA는 재미있고 섹시한 챗봇 부터 진지한 응용 프로그램을 갖춘 미세 조정된 모델에 이르기까지 오픈 소스 LLM의 현재 상태에서 핵심적인 역할을 했습니다.
LLaMA 출시는 2월에 이루어졌습니다. Meta는 승인된 연구자들이 모델을 다운로드할 수 있도록 허용했지만, 상원 의원들이 주장하는 바와 같이 더 신중하게 중앙 집중화하고 액세스를 제한하지 않았습니다.
논란은 LLaMA의 공개 유포로 인해 발생합니다. 발표 직후 전체 모델이 BitTorrent에 공개되어 누구나 액세스할 수 있게 되었습니다. 이러한 접근성은 대중이 사용할 수 있는 AI 모델의 품질을 크게 향상시켜 오용 가능성에 대한 의문을 불러일으켰습니다.
상원의원들은 용어에 따옴표를 붙이며 결국 '누설'이 있었는지 의문을 제기하는 듯하다. 그러나 이 문제에 대한 그들의 초점은 스타트업, 집단, 학계가 시작한 새롭고 진보된 오픈 소스 언어 AI 개발이 인터넷에 범람하고 있는 시점에 발생합니다.
이 편지는 Meta가 최소한의 공개 보호를 제공한다는 점을 고려할 때 LLaMA의 광범위한 확산과 남용 가능성을 예견했어야 했다고 비난합니다.
Meta는 또한 Alpaca 프로젝트를 위한 Stanford를 포함하여 학자 및 연구원이 사례별로 LLaMA 가중치를 사용할 수 있도록 만들었습니다. 그러나 이러한 가중치가 이후에 유출되어 처음으로 GPT 수준 LLM에 대한 전역 액세스가 가능해졌습니다. 본질적으로 모델 가중치는 LLM 및 기타 기계 학습 모델의 구성 요소인 반면, LLM은 해당 가중치를 사용하여 결과를 제공하는 특정 인스턴스입니다.
Meta는 Decrypt 의 의견 요청에 응답하지 않았습니다.
오픈 소스 AI 모델의 위험과 이점에 대한 논쟁이 격화되는 동안 혁신과 위험 사이의 춤은 계속됩니다. 오픈 소스 LLM 커뮤니티의 모든 시선은 펼쳐지는 LLaMA 이야기에 굳건히 머물고 있습니다.
