"OpenAI 후드티를 입고 있는 모습이 보입니다. 좋은 선택입니다."(OpenAI 후드티를 입고 있는 모습이 보입니다. 좋은 선택입니다.)
인위적인 억양과 졸졸 흐르는 여성 목소리는 OpenAI가 출시한 새로운 플래그십 모델 GPT-4o의 데모 영상에서 따왔습니다. 사진 속 GPT-4o는 카메라 시각 인식을 통해 연구원의 복장에 대해 마치 오랫동안 만나지 못한 지인처럼 댓글을 달았다.
이에 네티즌들은 "이거 카다시안 말투 아니냐? 너무 인간적으로 들리는데 진짜 무섭다"는 반응을 보였다.
사실 GPT의 최신 사운드를 좋아하지 않는 사람들도 꽤 있습니다. Bloomberg에 따르면 일부 사용자는 GPT-4o를 사용해 본 후 불편함을 느꼈고 그 목소리가 너무 섹시하고 도발적이라고 생각했습니다 . 그런데 내가 좋아하는 사람은 인간과 사랑에 빠지는 것이 섹시한 목소리의 AI와 바람을 피우는 것만큼 좋지 않다고 생각하며 그것에 깊이 관여한다.
이와 관련하여 지나치게 의인화 된 AI 목소리는 다음과 같은 질문을 제기합니다. 기계가 감정을 표현하기 시작하면 겁이 날까요?
AI도 감정 조작에 참여할 수 있나요?
직장에서는 상사의 비트코인 피하고 PUA를 NO라고 말할 수 있지만, AI가 놓은 감정의 함정에 필연적으로 빠지는 사람들도 있습니다.
시드니 대학의 마르셀 샤스(Marcel Scharth) 교수는 의인화된 음성 비서가 기계와의 상호 작용으로 인해 사람들 이 감정적으로 해를 입을 수 있다고 지적했습니다. 친구와 마찬가지로 음성 어시스턴트에 대한 감정적인 애착을 갖게 된다면 말이죠. 그러나 네트워크나 서버 문제로 인해 우리의 요구 사항을 충족하지 못할 경우 실망하거나 심지어 상처를 받을 수도 있습니다. 예를 들어, OpenAI에 의존하는 사용자는 충돌이 발생하면 온라인에서 "중세로 돌아갔다"고 불평할 것입니다.
시드니 대학의 Marcel Scharth가 학교 잡지에 게재한 관점 기사 "ChatGPT는 이제 인간의 감정을 가장하는 데 더 능숙합니다."
게다가 GPT-4o의 채팅에는 신중한 생각이 담겨 있습니다. PConline은 4o가 대화를 확장하기 위해 사용자로부터 지속적인 답변을 받기를 희망하면서 계속 질문할 것이라는 점을 알아냈습니다. 그러나 이런 '돌봄'은 단순한 동료애가 아니라 플랫폼 뒤에 숨은 세심한 생각이다. 사용자는 GPT3.5의 음성 기능을 무료로 사용할 수 있지만, 우리가 제공하는 모든 대화와 데이터는 여전히 OpenAI에서 AI 훈련의 자본으로 사용됩니다. 그 이면에는 사업 전략이 숨어 있다. 즉, AI는 감정적 연결과 대화(대화 말미에 끊임없이 질문하는 등)를 통해 사용자 데이터를 교환하고, 이후 지속적으로 의인화 능력을 향상시켜 수익의 순환을 형성하지만, 본질적으로 사용자 감정을 이용하는 메커니즘입니다.
감정 조작 외에도 GPT-4o와 관련된 또 다른 논란은 과도한 의인화로 인한 불쾌한 계곡 효과입니다.
불쾌한 골짜기 효과는 인간과 매우 비슷하면서도 미묘한 차이가 있는 것에 혐오감을 느끼는 심리적 현상이다. 예를 들어 영화 '엑스 마키나'와 '애나벨'은 시각적인 불쾌한 계곡 효과를 이용해 공포감을 조성한다.
음성 어시스턴트는 지나치게 의인화된 목소리로 인해 청중에게 불쾌한 계곡 효과를 경험할 수 있습니다. 이러한 부정적인 경험은 기술 발전으로 인해 의인화된 요소가 많아졌지만, 역효과를 피하기 위해 디자인에서는 여전히 사용자의 심리적 반응을 신중하게 고려해야 함을 보여줍니다.
또한 지나치게 의인화된 음성에는 '딥페이크' 기술과 같은 저작권 개인정보 보호 문제가 포함될 수 있습니다. 얼마 전 배우 스칼렛 요한슨(Scarlett Johansson)이 자신의 목소리 표절 여부를 두고 오픈AI(OpenAI)와 법적 공방을 벌인 바 있다. 이러한 사건으로 인해 진짜와 가짜를 구별하기 어려운 딥페이크(Deepfake) 기술에 대한 사용자들의 두려움이 촉발되었습니다. 315 기간 동안 국가에서는 직원에게 186만 위안을 속인 '가짜 상사', 어머니에게 80만 위안을 속인 '가짜 딸' 등 심층 사기 사기를 여러 차례 단속했습니다.
소리가 좋은 사업을 숨긴다고요?
물론 의인화된 AI 음성이 장점이 없는 것은 아닙니다. 공감 가능한 표현은 사용자 신뢰를 높이고 교육 모델을 혁신하며 브랜드 인지도를 향상시킵니다 .
우선, 의인화 된 목소리의 장점은 사용자 경험과 신뢰도를 향상시키는 것 입니다. 연구에 따르면 사람들은 사회적 특성을 지닌 기계와 상호 작용할 가능성이 더 높으며 기계를 신뢰할 수 있는 친구로 여깁니다.
ACM Transactions on Computer-Human Interaction에 발표된 논문에 따르면 음성 비서가 공감과 이해를 보여줄 때 사용자는 협력하려는 욕구를 보여줄 가능성이 더 높습니다. 서비스를 받는 것과 마찬가지로 우리는 좋은 정서 가치에 대해 비용을 지불하는 것을 선호하며 그 반대의 경우도 마찬가지입니다. 음성 비서 디자인의 친근함과 예의는 실제로 사용자에게 정서 가치를 제공합니다.
"인간-컴퓨터 상호 작용에 관한 미국 컴퓨터 협회의 거래"에 게재된 "장기적인 대인 관계 구축 및 유지"에 관한 연구 논문
둘째, 의인화된 음성 어시스턴트는 교육 분야 에 새로운 가능성을 가져올 수도 있습니다. 연구에 따르면 사회적 특성을 지닌 챗봇은 학생들이 숙제, 학습 지원, 맞춤형 학습 경험에서 적극적인 역할을 하는 데 도움이 될 수 있습니다. AI 맞춤형 튜터링이 더욱 배려하겠습니다.
예를 들어, 구글은 지루한 물리학 지식을 학생들에게 생생하고 흥미로운 형태로 제공할 수 있는 의인화 음성 도우미를 기반으로 한 물리학 수업 교육 모델을 시연했습니다. 튜터로서의 AI 음성 어시스턴트는 기술이 풍부할 뿐만 아니라 교육과 오락도 가능하다는 것을 알 수 있습니다.
마지막으로, 의인화된 음성은 사용자 접착성과 브랜드 인지도를 향상시킬 수도 있습니다. 독특한 음성 스타일을 사용하면 사용자가 더 쉽게 기억할 수 있으므로 사용자 충성도와 브랜드 영향력이 높아집니다. Siri의 표준적이고 기계적인 미국 영어는 Apple 브랜드의 독특한 상징 중 하나가 되었습니다.
친구인가, 적인가?
음성 비서의 경우 Apple의 Siri는 당연히 없어서는 안될 요소입니다. 현재 관점에서 Siri의 의인화는 ChatGPT보다 뒤떨어져 있습니다. 실제로 이는 두 가지의 기능적 속성과 디자인 개념이 다르기 때문입니다.
Siri는 도구에 더 가깝고 "당신의" 집사입니다. 주로 지시와 작업을 수행하는 데 사용되며 사용자의 정보 요청 처리, 알람 설정, 음악 재생 및 일정 관리에 능숙합니다 . 개발자는 효율적인 언어 처리 및 작업별 알고리즘에 더 중점을 두고 있으며, 대신 음성의 기계적인 특성을 통해 사용자는 어시스턴트와 감정적인 연결을 설정하기보다는 작업 자체를 완료하는 데 집중할 수 있습니다.
GPT-4o는 "사람"에 가깝습니다. 이 새로운 유형의 인공 지능은 사회적 상호 작용과 대화 참여를 위해 만들어졌습니다 . 고급 자연어 처리(NLP) 기능을 활용하여 복잡한 질문을 이해하고 답변하며 개방형 대화를 나누고 감정을 표현하기도 합니다. 사용자 밀착성을 높이기 위해 사운드 디자인도 사용자의 감정과 사회적 연결을 촉발하는 경향이 있습니다.
고주파 상호작용을 위한 사용자 포털로서 AI 비서의 음성은 필연적으로 사용자 경험에 영향을 미칠 것입니다. 이는 단순한 비즈니스 결정이 아닙니다. 어떤 목소리를 사용할지 결정할 때 대상 사용자의 심리적 요구, 잠재적인 윤리적 문제 및 상업적 이익을 고려해야 합니다. 결국 더 나은 사용자 경험을 제공할 수 있지만, 감정적 반발, 정보 보안 등의 리스크 도사리고 있습니다.
퓨 리서치 센터(Pew Research Center) 연구에 따르면 미국인 중 52%가 인공 지능 사용 증가에 대해 기대하기보다는 걱정하고 있는 것으로 나타났습니다. 이는 새로운 것에 대한 대부분의 사람들이 갖는 공통된 정서 이며, 새로운 기술의 발명은 그것에 대한 저항에서 익숙해짐에 이르기까지 온갖 종류의 패닉을 동반하는 경우가 많으며, 게임으로 가득 차 있습니다.
가까운 미래에는 인공지능 기술이 계속 발전하면서 인간과 기계의 관계는 더욱 복잡해질 것입니다. 영화 '어벤져스 2'에서 자비스가 마인드 젬 을 장착하고 자아 인식을 상징하며 선과 악을 동시에 지닌 인공 존재인 울트론과 비전으로 변신했을 때처럼 말이죠. 그러나 많은 시청자들은 Jarvis가 자신의 제작자인 Iron Man의 모든 결정을 항상 믿고 실행하기 때문에 그에게 애착을 갖고 있습니다.
이 기사는 WeChat 공개 계정 "PConline Pacific Technology"(ID: pconline_cn)에서 가져온 것입니다. 작성자: Pacific Technology, 36Kr 승인을 받아 공개되었습니다.
