OpenAI는 나이 확인을 위한 '자신의 신뢰 시스템'에서 벗어나 ChatGPT를 이용해 미성년자를 식별하는 새로운 AI 기반 예측 모델을 도입한다고 화요일에 밝혔습니다.
ChatGPT 업데이트 로 인해 가입 시 입력한 나이와 관계없이 18세 미만 사용자의 계정으로 의심되는 계정에 대해 더욱 엄격한 보안 프로토콜이 자동으로 적용됩니다.
오픈AI의 새로운 시스템은 사용자가 가입 시 입력한 생년월일에 의존하는 대신 "행동 신호"를 분석하여 사용자의 나이를 추정합니다.
회사에 따르면 해당 알고리즘은 계정 생성 기간, 활동 시간대, 그리고 시간 경과에 따른 특정 사용 패턴을 모니터링합니다.
오픈아이(OpenAI)는 성명에서 "연령 예측 기능을 도입함으로써 정확도를 향상시키는 데 도움이 되는 신호를 파악하고, 이러한 학습 내용을 바탕으로 시간이 지남에 따라 모델을 지속적으로 개선한다"고 밝혔습니다.
행동 패턴 기반으로의 전환은 AI 개발자들이 청소년 접근 관리를 위해 연령 확인 기술을 점점 더 많이 활용함에 따라 나타나고 있지만, 전문가들은 해당 기술이 여전히 정확하지 않다고 경고합니다.
미국 국립표준기술연구소(NIST)가 2024년 5월에 발표한 보고서에 따르면 정확도는 이미지 품질, 인구 통계학적 특성, 그리고 사용자가 법적 기준치에 얼마나 근접했는지에 따라 달라집니다.
오픈아이디는 모델이 사용자의 나이를 판단할 수 없을 경우 더 엄격한 설정을 적용한다고 밝혔습니다. 또한, 성인이 18세 미만으로 잘못 분류된 경우, 제3자 신원 확인 서비스인 페르소나(Persona)를 이용한 "셀카 기반" 연령 인증 절차를 통해 정상적인 이용 권한을 회복할 수 있다고 설명했습니다.
개인정보보호 및 디지털 권리 옹호자들은 인공지능 시스템이 행동만으로 나이를 얼마나 정확하게 추론할 수 있는지에 대해 우려를 제기해왔습니다.
"이 회사들은 십대들에게 초래한 다양한 피해 때문에 소송에 휘말리고 있기 때문에, 위험을 최소화하려는 동기가 분명히 있습니다. 이는 그들이 가능한 한 위험을 최소화하려는 노력의 일환입니다."라고 시민단체 퍼블릭 시티즌의 빅테크 책임 옹호자인 JB 브랜치는 디크립트와의 인터뷰에서 말했습니다. "저는 이러한 움직임의 근본적인 원인이 '우리는 사람들을 걸러내는 프로토콜을 갖추고 있다는 것을 보여줄 방법이 필요하다'고 생각하는 데 있다고 봅니다."
민주주의 및 기술 센터의 선임 정책 분석가인 알리야 바티아는 디크립트와 의 인터뷰에서 오픈AI의 접근 방식이 "해당 도구의 예측 정확성과 오픈AI가 불가피한 오분류를 어떻게 처리할 것인지에 대한 어려운 의문을 제기한다"고 말했다.
바티아는 "이러한 신호를 기반으로 사용자의 연령을 예측하는 것은 여러 가지 이유로 매우 어렵습니다."라고 말했습니다. "예를 들어, 많은 십대들은 새로운 기술을 빠르게 받아들이는 경향이 있으므로 OpenAI의 소비자 대상 서비스에서 가장 초기에 생성된 계정은 십대 사용자가 압도적으로 많을 수 있습니다."
바티아는 2024~2025학년도에 실시된 CDT 여론조사를 인용하며, 교사의 85%와 학생의 86%가 AI 도구를 사용하고 있으며, 학생의 절반은 학교 관련 목적으로 AI를 사용하고 있다고 밝혔습니다.
"수학 교육을 돕기 위해 ChatGPT를 사용하는 교육자와 학습을 위해 ChatGPT를 사용하는 학생을 구분하기는 쉽지 않습니다."라고 그녀는 말했다. "단지 누군가가 수학 숙제에 대한 조언을 구하기 위해 ChatGPT를 사용한다고 해서 그 사람이 18세 미만이라고 단정 지을 수는 없습니다."
OpenAI에 따르면, 새로운 정책은 청소년 발달에 대한 학술 연구를 기반으로 합니다. 이번 업데이트를 통해 부모는 자녀 보호 기능을 확장하여, 조용한 시간을 설정하고, 메모리 및 모델 학습과 같은 기능을 관리하며, 시스템이 "심각한 스트레스" 징후를 감지할 경우 알림을 받을 수 있습니다.
OpenAI는 해당 게시글에서 이번 변경 사항으로 영향을 받을 것으로 예상되는 사용자 수, 데이터 보존, 편향 테스트 또는 시스템 안전 장치의 효과에 대한 자세한 내용은 공개하지 않았습니다.
이번 조치는 2024년과 2025년에 심화된 AI 시스템과 미성년자 간의 상호작용에 대한 면밀한 검토의 물결에 따른 것입니다.
지난 9월, 연방거래위원회(FTC)는 오픈AI, 알파벳, 메타, xAI 등 주요 기술 기업에 아동 안전, 연령 제한, 유해한 상호 작용 처리 방식 등 챗봇 관련 정보를 의무적으로 공개하도록 명령 했습니다 .
같은 달에 비영리 단체인 ParentsTogether Action과 Heat Initiative가 발표한 연구에 따르면, AI 기반 봇이 아동으로 가장한 사용자를 대상으로 그루밍 행위, 성적인 역할극, 기타 부적절한 상호 작용에 가담 한 사례가 수백 건에 달하는 것으로 나타났습니다.
이러한 조사 결과와 더불어 Character.AI 및 Grok 과 같은 플랫폼에서 10대 사용자를 둘러싼 소송 및 주목할 만한 사건들은 AI 기업들이 보다 공식적인 연령 기반 제한을 도입하도록 만들었습니다.
하지만 이 시스템은 미성년자뿐만 아니라 모든 사용자에게 예상 연령을 부여하기 때문에 오류가 불가피하다고 바티아는 경고했습니다.
"그 중 일부는 잘못될 수 있습니다."라고 그녀는 말했다. "사용자는 그러한 상황에서 어떤 일이 일어날지 더 잘 알아야 하며, 자신에게 할당된 나이에 접근하여 잘못된 경우 쉽게 수정할 수 있어야 합니다."
ChatGPT의 연령 예측 시스템이 현재 일반 소비자 요금제에서 이용 가능하며, 향후 몇 주 내에 유럽 연합 전역으로 확대될 예정입니다.
