다음은 근무 중 즐길 수 있는 작은 재미있는 방해물입니다: 구글로 이동해 아무렇게나 만든 문구를 입력하고 "의미"라는 단어를 추가한 후 검색해보세요. 놀랍게도! 구글의 AI 개요는 여러분의 횡설수설이 실제 말인 것처럼 확인해줄 뿐만 아니라 그 의미와 유래까지 알려줄 것입니다.
이는 정말 재미있으며, 소셜 미디어에서 많은 예시를 찾을 수 있습니다. AI 개요의 세계에서 "풀려난 개는 서핑하지 않는다"는 "무언가가 일어날 가능성이 없거나 잘 되지 않을 것이라는 장난스러운 표현"입니다. 만들어낸 문구 "와이어드는 와이어드대로 한다"는 "누군가의 행동이나 특성이 그들의 본질적인 성격이나 '배선'의 직접적인 결과"라는 관용구를 의미합니다.
모든 것이 흔들림 없는 자신감으로 완벽하게 그럴듯하게 들립니다. 구글은 심지어 때때로 참조 링크까지 제공하여 응답에 더욱 권위를 부여합니다. 하지만 이는 잘못된 것입니다. 적어도 개요가 이러한 문구들이 흔한 표현이 아니라 무작위로 던져진 단어들이라는 인상을 만들어낸다는 점에서 그렇습니다. "절대 푸들을 돼지에게 던지지 마라"가 성경적 유래를 가진 속담이라고 AI 개요가 생각하는 것은 어리석지만, 동시에 생성형 AI의 한계를 간결하게 요약하고 있습니다.
모든 AI 개요 하단의 면책 조항에 따르면, 구글은 결과를 제공하기 위해 "실험적인" 생성형 AI를 사용합니다. 생성형 AI는 다양한 정당한 실용적 응용 프로그램을 가진 강력한 도구입니다. 하지만 이러한 만들어진 문구를 설명할 때 두 가지 특징이 작용합니다. 첫째, 궁극적으로 확률 기계라는 점입니다. 대규모 언어 모델 기반 시스템이 생각이나 감정을 가진 것처럼 보일 수 있지만, 기본적으로는 단순히 가장 가능성 높은 단어를 하나씩 배치하는 것입니다. 이는 이러한 문구가 만약 의미가 있다면 어떤 의미일지에 대한 설명을 만들어내는 데 매우 능숙합니다.
존스홉킨스 대학의 컴퓨터 과학자 지앙 샤오는 "다음 단어 예측은 방대한 훈련 데이터를 기반으로 합니다"라고 말합니다. "하지만 많은 경우, 다음 일관된 단어가 정확한 답변으로 이어지지는 않습니다."
다른 요인은 AI가 사람들을 기쁘게 하려 한다는 점입니다. 연구에 따르면 챗봇은 종종 사람들이 듣고 싶어 하는 말을 합니다. 이 경우에는 "너는 오소리를 두 번 핥을 수 없다"가 통용되는 표현이라는 말을 그대로 받아들입니다. 다른 맥락에서는 사용자 자신의 편견을 반영할 수 있습니다.
샤오는 "이 시스템이 모든 개별 쿼리나 사용자의 유도 질문을 고려하는 것은 매우 어렵습니다"라고 말합니다. "이는 흔하지 않은 지식, 콘텐츠가 크게 부족한 언어, 소수자의 관점에 대해 특히 어렵습니다. 검색 AI는 매우 복잡한 시스템이기 때문에 오류가 연쇄적으로 발생합니다."
이러한 문제를 더욱 악화시키는 것은 AI가 답을 모른다는 것을 인정하기를 꺼린다는 점입니다. 의심스러울 때는 무언가를 만들어냅니다.
구글 대변인 메건 파른스워스는 이메일 성명에서 "사람들이 비sensical 또는 '잘못된 전제' 검색을 할 때, 우리 시스템은 제한된 웹 콘텐츠를 기반으로 가장 관련성 높은 결과를 찾으려 할 것입니다"라고 말했습니다.
구글은 이러한 모든 쿼리에 대해 AI 개요 결과를 반환하지는 않을 것입니다. 인지과학자이자 저자인 게리 마커스는 "약 5분간 실험해본 결과 매우 일관성이 없었고, 이는 생성형 AI의 특성으로, 훈련 세트의 특정 예시에 매우 의존하고 추상적이지 않습니다"라고 말합니다.
이 특정 AI 개요의 특이점은 궁극적으로 무해해 보이며, 다시 한번 말하지만 시간을 보내기에 재미있는 방법입니다. 하지만 자신 있게 실수를 내뱉는 동일한 모델이 다른 AI 생성 쿼리 결과의 배경이라는 점을 명심하는 것이 도움이 됩니다. 소금 한 알과 함께 받아들이세요.
