Google의 제미니(Gemini) 모델은 역사적으로 부정확하고 인종적으로 편향된 이미지를 생성하여 AI 시스템의 편견에 대한 우려를 다시 불러일으켰습니다.
이 논란은 인종적으로 다양한 나치, 흑인 중세 영국 왕, 기타 있을 법하지 않은 시나리오를 묘사한 사진을 생성한 제미니(Gemini) 의 사례로 소셜 미디어 플랫폼의 사용자가 피드를 넘치면서 발생했습니다.
구글 제미니(Gemini) 이미지 생성 모델이 '깨졌다'는 비판을 받고 있다.
— 다로샴(@Darosham_) 2024년 2월 22일
제미니(Gemini) 역사적으로 특정한 프롬프트에 대해 다양한 이미지를 생성하여 정확성과 포괄성에 대한 논쟁을 촉발했습니다. pic.twitter.com/YKTt2YY265
한편 비평가들은 제미니가 원주민의 감수성을 존중하기 위해 백인, 샌프란시스코의 교회, 1989년 천안문 광장과 같은 민감한 역사적 사건을 묘사하는 것을 거부한 점을 지적했습니다.
반발에 대응하여 Google 제미니(Gemini) Experiences의 제품 책임자인 Jack Krawczyk는 문제를 인정하고 시정하겠다고 약속했습니다. Krawczyk는 소셜 미디어 플랫폼 X를 활용하여 사용자를 안심시켰습니다.
우리는 제미니(Gemini) 일부 역사적 이미지 생성 묘사에서 부정확성을 제공하고 있다는 것을 알고 있으며, 이 문제를 즉시 수정하기 위해 노력하고 있습니다.
— 잭 크로치크(@JackK) 2024년 2월 21일
AI 원칙 (https://t.co/BK786xbkey) 의 일환으로 우리는 글로벌 사용자 기반을 반영하도록 이미지 생성 기능을 설계하고…
현재 구글은 사람들의 이미지 생성을 일시중지하고 있다고 밝혔습니다.
우리는 이미 Gemini의 이미지 생성 기능과 관련된 최근 문제를 해결하기 위해 노력하고 있습니다. 그동안 인물 이미지 생성을 잠시 중단하고 곧 개선된 버전을 다시 출시할 예정입니다. https://t.co/SLxYPGoqOZ
— Google 커뮤니케이션(@Google_Comms) 2024년 2월 22일
AI 생성 콘텐츠의 다양성을 다룰 필요성을 인정하면서도 일부에서는 Google의 대응이 과잉 수정이었다고 주장합니다.
Netscape와 a16z의 공동 창립자인 Marc Andreessen은 최근 문제가 있는 것으로 간주되는 질문에 답변을 거부하는 Goody-2 LLM 이라는 "엄청나게 안전한" 패러디 AI 모델을 만들었습니다. Andreessen은 상업용 AI 시스템에서 검열과 편견이 점점 더 커지는 추세에 대해 경고하면서 그러한 발전의 잠재적인 결과를 강조합니다.
전문가들은 광범위한 의미를 다루면서 AI 모델이 몇몇 주요 기업에 집중되어 있다는 점을 강조하고 다양성을 촉진하고 편견을 완화하기 위한 오픈 소스 AI 모델 개발을 옹호합니다.
Meta의 수석 AI 과학자인 Yann LeCun은 자유롭고 다양한 언론의 필요성과 마찬가지로 AI 모델의 다양한 생태계를 육성하는 것이 중요하다고 강조했습니다.
매우 다양한 전문 모델 세트를 그 위에 구축할 수 있도록 오픈 소스 AI 기반 모델이 필요합니다.
— Yann LeCun(@yleun) 2024년 2월 21일
자유롭고 다양한 언론이 필요한 것과 같은 이유로 우리에게는 자유롭고 다양한 AI 비서가 필요합니다.
언어, 문화의 다양성을 반영해야 합니다… https://t.co/9WuEy8EPG5
Abacus.AI의 CEO인 Bindu Reddy는 오픈 소스 모델의 건강한 생태계 없이 권력이 집중되는 것에 대해 비슷한 우려를 갖고 있습니다.
오픈 소스 LLM이 없으면 기록은 독점 LLM에 의해 완전히 왜곡되고 난독화됩니다.
— Bindu Reddy(@bindureddy) 2024년 2월 21일
우리는 이미 자신의 생각을 말하는 것이 허용되지 않는 매우 위험하고 검열된 세상에 살고 있습니다.
검열과 권력집중은 바로 권력의 정의이다.
AI의 윤리적, 실용적 의미에 대한 논의가 계속되면서 투명하고 포괄적인 AI 개발 프레임워크의 필요성이 점점 더 분명해지고 있습니다.
(사진: Matt Artz, Unsplash )
참고: Reddit은 AI 훈련용 데이터를 판매하고 있는 것으로 알려졌습니다.
업계 리더로부터 AI 및 빅데이터에 대해 자세히 알아보고 싶으십니까? 암스테르담, 캘리포니아, 런던에서 열리는 AI & 빅데이터 엑스포를 확인해보세요. 종합 이벤트는 BlockX , Digital Transformation Week , Cyber Security & Cloud Expo 를 포함한 다른 주요 이벤트와 함께 개최됩니다.
여기에서 TechForge가 제공하는 기타 향후 엔터프라이즈 기술 이벤트와 웹 세미나를 살펴보세요.
Google이 Gemini의 부정확하고 편향된 이미지 생성을 수정하겠다고 약속한 게시물이 AI News 에 처음 게재되었습니다.
