인공지능 안전장치 책임자가 사임하고, 인공지능 안전 위기 심화에 대해 경고했다.

이 기사는 기계로 번역되었습니다
원문 표시

앤트로픽에서 안전장치 연구를 이끌었던 므리난크 샤르마는 어제 AI 회사에서 사임하고 사임서를 공개했습니다.

X에게 보낸 서한에서 샤르마는 AI 조직과 사회 전반에서 표방하는 원칙과 실제 결정 사이의 격차가 커지고 있다는 점에 대한 우려가 제기되었다고 언급했습니다. 그는 윤리적 약속과 운영상의 현실 사이의 괴리가 심화되고 있다고 지적했습니다.

오늘이 앤트로픽에서의 마지막 근무일입니다. 사직했습니다.

동료들에게 보낸 제 결정 설명 편지입니다. pic.twitter.com/Qe4QyAFmxL

— mrinank (@MrinankSharma) 2026년 2월 9일

샤르마는 "이제 다음 단계로 나아갈 때가 왔다는 것이 분명하다"라고 썼다.

샤르마는 클로드 개발사에서 2년간 근무하며 AI 기반 생물학적 위협에 대한 방어, 내부 책임 도구, AI 안전 조치 문서화를 위한 초기 프레임워크 개발에 참여했습니다. 또한 챗봇이 사용자의 편견을 강화하고 인간의 판단력을 점진적으로 변화시키는 방식에 대해서도 연구했습니다.

해당 연구원은 전 동료들의 기술력과 윤리적 기준을 칭찬했지만, 기업 AI 연구에서 벗어날 것임을 시사했다. 그는 앞으로 글쓰기, 개인 코칭, 그리고 시 창작 분야의 대학원 진학을 계획하고 있다고 발표했다.

그의 사임은 주요 AI 개발자들이 내부 갈등을 어떻게 관리하고, 위험을 어떻게 공개하며, 신속한 기능 향상과 안전성 연구 사이의 균형을 어떻게 맞추는지에 대한 관심이 고조된 시기에 이루어졌습니다.

출처
면책조항: 상기 내용은 작자의 개인적인 의견입니다. 따라서 이는 Followin의 입장과 무관하며 Followin과 관련된 어떠한 투자 제안도 구성하지 않습니다.
라이크
69
즐겨찾기에 추가
19
코멘트