머스크를 비롯한 수천 명의 사람들이 "거대 AI 실험 중단"이라는 제목의 공개 서한에 서명했습니다. 더 자세한 정보는 https://futureoflife.org/open-letter/pause-giant-ai-experiments/ 에서 확인하세요.
인간과 유사한 지능을 가진 AI 시스템이 사회와 인류에 심각한 리스크 초래할 수 있다는 가능성은 대량 연구[1]를 통해 확인되었으며, 주요 AI 연구실[2]의 지지도 받고 있습니다. 널리 인정받는 아실로마 AI 원칙(Asilomar Principles for AI)에서 명시하듯이, 고도화된 AI는 지구 생명의 역사에 중대한 변화를 가져올 수 있으며, 이에 상응하는 관심과 자원을 투자하여 계획하고 관리해야 합니다. 안타깝게도 최근 몇 달 동안 AI 연구실들은 개발자조차 이해, 예측 또는 안정적으로 제어할 수 없는 점점 더 강력해지는 디지털 지능을 개발하고 배포하기 위한 치열한 경쟁에 휘말렸음에도 불구하고, 이러한 수준의 계획과 관리는 아직 이루어지지 않았습니다.
현대 AI 시스템이 이제 일반 작업에서 인간과 경쟁할 수 있게 되면서[3] 우리는 스스로에게 다음과 같은 질문을 던져야 합니다. 기계가 우리의 정보 채널에 선전과 허위 정보를 쏟아붓도록 내버려 두어야 할까요? 만족스러운 일자리를 포함한 모든 직업을 자동화해야 할까요? 궁극적으로 우리를 능가하고 대체할 수 있는 비인간적 지능을 개발해야 할까요? 문명에 대한 통제력을 잃을 리스크 해야 할까요? 이러한 결정은 선출되지 않은 기술 리더들에게 맡겨서는 안 됩니다. 강력한 AI 시스템 개발은 그 영향이 긍정적이고 리스크 관리할 수 있다는 확신이 있을 때에만 이루어져야 합니다. 이러한 확신은 충분한 근거가 있어야 하며 시스템의 잠재적 영향과 함께 커져야 합니다. OpenAI는 최근 일반 AI에 대한 성명에서 "어느 시점에 미래 시스템 훈련을 시작하기 전에 독립적인 검토가 필요할 수 있으며, 최첨단 훈련 노력은 새로운 모델을 만드는 데 사용되는 컴퓨팅 증가 속도에 대한 제한에 합의해야 합니다."라고 밝혔습니다. 우리는 동의합니다. 바로 지금이 그때입니다.
따라서 우리는 모든 AI 연구실이 GPT-4보다 강력한 AI 시스템의 학습을 최소 6개월간 중단할 것을 즉시 촉구합니다. 이 중단은 공개적이고 검증 가능해야 하며, 모든 주요 참여자가 포함되어야 합니다. 이러한 중단이 신속하게 시행되지 않을 경우, 정부가 개입하여 금지 조치를 취해야 합니다.
AI 연구실과 독립 전문가들은 이 일시 중단 기간을 활용하여 AI 설계 및 개발을 위한 일련의 첨단 공유 안전 프로토콜을 공동 개발하고 구현해야 하며, 이 프로토콜은 독립적인 외부 전문가의 엄격한 감사 및 감독을 받아야 합니다. 이러한 프로토콜은 이를 준수하는 시스템이 합리적인 의심의 여지 없이 안전함을 보장해야 합니다.[4] 이는 AI 개발의 일시 중단을 의미하는 것이 아니라, 새로운 기능을 갖춘 더 크고 예측 불가능한 블랙박스 모델을 개발하려는 위험한 경쟁에서 한 걸음 물러서는 것을 의미합니다.
AI 연구 및 개발은 오늘날의 강력하고 최첨단 시스템을 더욱 정확하고, 안전하고, 설명 가능하고, 투명하고, 견고하고, 일관되고, 신뢰할 수 있고, 충실하게 만드는 데 다시 집중해야 합니다.
동시에 AI 개발자들은 정책 입안자들과 협력하여 AI 거버넌스 시스템 개발을 크게 가속화해야 합니다. 여기에는 최소한 다음이 포함되어야 합니다. AI 전담의 새롭고 역량 있는 규제 기관, 고성능 AI 시스템과 대량 컴퓨팅 파워에 대한 감독 및 추적, 실제 데이터와 합성 데이터를 구분하고 모델 유출을 추적하는 데 도움이 되는 출처 및 워터마킹 시스템, 강력한 감사 및 인증 생태계, AI로 인한 피해에 대한 책임 소재 규명, AI 기술 안전 연구를 위한 충분한 공적 자금 지원, 그리고 AI가 특히 민주주의 제도에 미치는 심각한 경제적·정치적 혼란을 해결하기 위한 충분한 자원을 갖춘 기관.
인류는 AI와 번영하는 미래를 함께할 수 있습니다. 강력한 AI 시스템을 성공적으로 구축한 우리는 이제 "AI 여름"을 만끽할 수 있습니다. 그 여름 동안 우리는 노동의 결실을 거두고, 모두에게 확실한 혜택을 제공하며, 사회가 적응할 기회를 제공할 수 있습니다. 사회는 이미 사회에 재앙적인 영향을 미칠 수 있는 다른 기술들에 대해 일시 정지 버튼을 눌렀습니다.[5] 우리도 마찬가지입니다. 준비 없이 가을로 뛰어들기보다는 긴 AI 여름을 만끽합시다.
