비탈릭 부테린은 새로운 AI 연구소들이 인류 복지 증진을 핵심 사명으로 삼고, 자율적인 의사 결정 시간이 1분을 넘는 시스템 개발을 지양해야 한다고 촉구했다.
이더리움 창시자는 초자율 인공지능을 추구하는 추세가 확산되고 있는 반면, 인간의 인공지능을 보완하는 프로젝트는 드물다고 경고하며, 소스 코드를 최대한 공개해야 한다고 제안했습니다.
- 우선순위는 인공지능이 인류를 향상시키는 데 기여하는 것이지, 인공지능의 완전한 자립이 아닙니다.
- 자체적으로 결정을 내리는 데 1분 이상 걸리는 시스템은 피하십시오.
- 해당 프로젝트는 가능한 한 오픈소스로 진행하는 것을 권장합니다.
부테린은 시간이 지남에 따라 AI의 자율성을 제한하고자 합니다.
비탈릭 부테린은 새로운 AI 연구소들이 자율적인 의사 결정 시간이 1분을 넘는 시스템을 구축하는 것을 피해야 한다고 말했습니다.
그는 인공지능 연구소의 근본적인 임무는 인류를 향상시키는 것이어야 하며, 장기적으로 시스템이 자율적으로 작동하도록 하는 것보다는 인간의 역량을 강화하는 데 초점을 맞춰야 한다고 강조했습니다.
1분이라는 시간 제한은 자율성 정도를 제한하여 인공지능이 인간의 직접적인 개입이나 감독 없이 장시간에 걸쳐 결정을 내리는 위험을 줄이기 위한 설계 제약 조건으로 명시되어 있습니다.
인공지능 경쟁에 대한 우려와 오픈소스에 대한 요구
부테린은 완전 자율형 초인공지능(슈퍼 AI)을 추구하는 기업은 흔해지고 있지만, 인간의 능력을 향상시키는 AI는 여전히 드물다고 주장합니다.
그는 인공지능 안전성을 둘러싼 모든 논란이 근거 없는 것으로 판명되더라도 완전 자율 시스템 개발은 여전히 활발하게 진행될 것이며, 반대로 인간의 뇌를 대체할 로봇을 만드는 것과 같은 증강 인공지능 분야는 발전이 더딜 것이라고 주장했다.
부테린은 생태계를 투명성과 검증 가능성 방향으로 이끌기 위해 이러한 유형의 프로젝트들이 가능한 한 오픈 소스로 운영되어 커뮤니티가 시간이 지남에 따라 테스트, 재사용 및 위험 평가를 수행할 수 있도록 해야 한다고 촉구했습니다.
