채팅 GPT인가, 아니면 치트 GPT인가?

ChatGPT는 미국 학생들이 부정행위를 하기 위한 "블랙 테크놀로지"가 되었고, OpenAI는 시장 점유율을 확대하기 위해 ChatGPT 텍스트 인식 도구를 숨겼습니다!

WSJ에 따르면 미국에서는 고등학생의 약 40%, 대학생의 약 50%가 AI를 이용해 부정행위를 하고 높은 점수를 받고 있으며, 일부 학교에서는 부정행위가 만연하고 비도덕적이라고 합니다!

점점 더 많은 미국 학생들이 ChatGPT와 같은 AI 소프트웨어를 비밀리에 사용하여 숙제를 완료하고 좋은 성적을 받고 있지만, 이들의 부모와 교사는 이를 감지하기 어렵고 이에 대해 거의 알지 못합니다.

AI가 '부정행위'를 하는 경우가 얼마나 흔한가요?

뉴저지주에 사는 17세 고등학생이 작년에 영어, 수학, 역사 수업에서 AI를 이용해 부정행위를 했다고 자백했습니다.

이 학생의 경험은 생성적 AI 기술이 미국의 교육 시스템에 깊숙이 침투하여 이 세대의 학생들이 방대한 지식을 갖춘 AI 소프트웨어에 학습 과제를 쉽게 '아웃소싱'할 수 있다는 것을 보여줍니다.

하이테크 치트시트 | 이미지 출처: Alexandra Citrin-Safadi/WSJ

교육자들은 AI가 교실에서 가치가 있다는 것을 인정합니다.

하지만 학생들이 기술을 오용해 학습을 회피하는 것을 방지하는 방법은 교사와 학부모가 스스로 알아내야 합니다.

AI 도구를 제공하는 기술 회사(기술 거대 기업인 Google이나 AI 스타트업 OpenAI 등)는 이와 관련해 실질적인 도움을 거의 제공하지 않았습니다.

AI가 학생의 비밀 무기가 될 수 있는 방법

17세 여학생은 작년에 수십 개의 과제에 AI를 사용한 이유를 CNN에 설명했습니다.

가끔은 숙제가 너무 지루하거나 너무 어렵기 때문이에요

때로는 더 나은 결과를 추구하기 위해서입니다

미루는 습관은 숙제를 끝내지 못하게 만든다

그녀는 영감과 검토를 위해 OpenAI의 ChatGPT와 Google의 Gemini를 사용하는데, 이는 많은 교사가 허용하는 활용법입니다.

하지만 대부분의 경우 그녀는 AI가 그녀의 숙제를 직접 하도록 둡니다. 쌍둥이 자리는 그녀가 수학 숙제를 풀도록 도울 뿐만 아니라, 숙제 시험에서 높은 점수를 받기도 합니다.

ChatGPT는 과학 실험을 위한 데이터 계산을 완료하고 그녀를 위해 역사 논문의 어려운 부분을 써주었습니다. 나중에 그녀는 표절 감지를 피하기 위해 내용을 다시 썼습니다.

Google의 AI 숙제 도우미 소개

그녀는 이런 사기 사건 중에 단 한 번만 적발됐습니다.

중학생 40%, 대학생 50%가 AI 활용해 숙제

AI는 이메일 초안 작성, 프레젠테이션 작성, 이미지 생성 등 사무직 업무의 모든 측면을 변화시키고 있습니다.

일부 전문가들은 이로 인해 이미 일자리를 잃었으며, 많은 회사 CEO들은 향후 채용 계획을 조정하기 시작했습니다.

OpenAI에 따르면 ChatGPT의 주간 활성 사용자는 4억 명입니다. 4억명은 지구 전체 인구의 5%에 해당합니다.

그 중에서도 주요 사용자는 학생이다.

ChatGPT 월간 활성 사용자 증가

OpenAI의 목표는 학생들이 평생 ChatGPT를 사용하여 질문에 답하는 습관을 들이도록 하는 것입니다. 이를 통해 약 30년 동안 정보 질의를 위한 선호 플랫폼이라는 지위를 유지해 온 Google의 위치를 ​​대체할 것입니다.

Impact Research가 작년에 실시한 조사에 따르면 교사의 허락 없이 AI를 사용한 학생 중 중고등학생의 약 40%가 숙제를 위해 AI를 사용했다고 인정했습니다.

대학생 중에서는 이 비율이 50%에 가깝습니다.

OpenAI의 내부 분석에 따르면 대학생들이 ChatGPT를 사용하여 논문을 쓰는 경우가 많다는 사실이 확인되었습니다.

성인의 감독이 없는 디지털 세계에서 학생들은 높은 점수를 얻는 데 도움을 주는 AI 도구를 사용할지 여부를 스스로 결정해야 합니다. AI 회사에서 정한 연령 제한은 명목상일 뿐이며 쉽게 우회할 수 있습니다.

이러한 상황은 이전 세대가 처음으로 소셜 미디어를 접했을 때와 유사합니다. AI가 학생 학습에 미치는 장단점, 특히 부정행위를 촉진할 수 있는 가능성에 대한 연구가 아직 부족합니다.

AI는 교육에 도움이 될까, 아니면 도움이 안 될까?

미시시피 대학 학술 혁신 부소장인 마크 왓킨스는 "이것은 누구의 동의도 없이 시작된 거대한 사회 실험입니다."라고 말했습니다.

뉴저지 출신의 한 학생은 작년에 모든 과목을 성공적으로 통과했지만, 실제로는 배운 것이 너무 적었다고 인정합니다.

고등학교 3학년이 되자 그녀는 AI를 부적절하게 사용하는 것을 멈췄습니다. 그녀는 "저는 한 걸음 물러나서 다시 뇌를 사용하기로 결심했습니다."라고 말했습니다.

폴 그레이엄은 작년 10월 블로그 게시물에서 한 가지 시나리오를 예측했습니다. AI가 등장한 후 사람들은 '작가'와 '비작가'의 두 가지 유형으로 나뉘게 될 것이라는 것입니다.

학문적 부정행위에 대해 AI가 책임을 져야 하는지 여부에 대해 AI 기업들은 다소 무관심한 태도를 보입니다.

OpenAI의 교육팀 멤버인 시야 라지 푸로히트는 "OpenAI가 부정행위를 발명한 것이 아닙니다. 부정행위를 하고 싶어하는 사람은 항상 방법을 찾을 것입니다."라고 말했습니다.

시야 라지 푸로히트

그러나 많은 교육자들은 AI 챗봇의 편리성으로 인해 더 많은 학생들이 어려운 학습 과제를 피하게 될까봐 우려합니다.

교육: AI는 교육에 도움이 되지 않는다

AI 기술의 급속한 발전으로, 능숙하게 활용한다면 작품 속에서 AI의 흔적을 찾기는 어렵다.

작년 10월 교육 기술 컨퍼런스에서 뉴욕 주립대 시스템 총장이자 전 미국 교육부 장관인 존 B. 킹 주니어는 "초등학교 학생부터 대학생까지 대량 학생들이 어젯밤 ChatGPT를 사용하여 숙제를 마쳤지만 아무것도 배우지 못했을 가능성이 매우 높습니다. 이 상황은 우려스럽습니다."라고 말했습니다.

킹이 컨퍼런스에서 이러한 우려를 표명했을 때, 그와 같은 무대에 있었던 푸로히트는 논란의 여지가 있는 관점 제기했습니다.

아마도, 그녀는 AI를 좋은 일에 활용하는 능력을 비판적 사고와 의사소통 능력의 척도로 사용해야 할 것이라고 말했습니다.

그녀는 최근 워튼 교수와의 토론을 인용하며 반어적으로 "AI 시대에 글쓰기의 가치는 무엇인가?"라고 물었다.

버지니아 대학의 인지 심리학자 다니엘 윌링햄은 다음과 같이 대답했습니다.

글쓰기는 다른 형태의 연습으로 대체할 수 없는 사고방식을 만들어낼 수 있습니다.

설명할 때는 글을 쓰면 더 철저하게 설명하게 되고, 주장할 때는 글을 쓰면 더 포괄적으로 주장하게 됩니다.

사우스 캐롤라이나주의 8학년 영어 교사인 조디 스톨링스는 학생들에게 하퍼 리의 《앵무새 죽이기》를 읽도록 과제를 냈습니다.

그는 매 수업을 시작할 때마다 학생들에게 읽은 내용을 바탕으로 질문에 답하도록 요구했습니다.

스톨링스는 이러한 글쓰기 연습이 학생들이 책의 내용에 대해 심도 있게 생각할 수 있게 할 뿐만 아니라, 글쓰기를 통해 자신의 생각을 다듬을 수 있게 해준다고 말했습니다.

앵무새를 죽이는 법 1판 표지

기술: AI가 교육을 혁신하고 있습니다

하지만 기술 지지자들은 여전히 ​​AI가 교육의 질을 근본적으로 개혁하고 개선할 수 있다고 굳게 믿고 있습니다.

작년에 OpenAI의 CEO인 알트만은 미래 교육에 대한 아름다운 비전을 다음과 같이 설명했습니다. "미래에 우리 아이들은 모든 과목에 대해 모든 언어로, 각 아이의 개인화된 속도에 맞춰 전문적인 지도를 제공할 수 있는 가상의 지능형 튜터를 갖게 될 것입니다."

OpenAI의 교육 담당 부사장인 리아 벨스키는 학교에서 부정행위 문제를 해결하기 위해 AI를 거부하지 말고 교실에서 AI를 적극적으로 도입하라고 조언합니다.

Leah Belsky: AI를 받아들이고 사고방식을 바꾸세요

그녀는 "교육자들이 AI를 수업과 숙제에 제대로 활용할 수 있다면 AI는 학생들이 몰래 사용하는 도구에서 학습 과정에서 중요한 보조 수단으로 전환될 수 있다"고 말했다.

현재, 많은 교육기관과 회사에서 AI 지능형 튜터링 시스템을 출시하여 교사가 없이도 학생에게 학습 지도를 제공하는 것을 목표로 하고 있습니다.

동시에 일부 교사는 수업 계획 작성, 과제 설계, 학부모 공지 사항 초안 작성 등을 돕기 위해 AI 도구를 사용하기 시작했습니다.

뉴저지의 고등학교 영어 교사인 샌디 망가렐라는 AI 챗봇이 수업 내용을 개선하고 새로운 교실 활동을 설계하는 데 도움이 되었다고 말했습니다.

그녀는 "언제든지 이야기를 나눌 수 있는 동료가 한 명 더 있는 것 같은 느낌이다"고 말했다.

교육부, 주 정부, 비영리 단체, OpenAI를 포함한 기술 회사는 교사들이 AI를 책임감 있게 사용하는 방법에 대한 지침을 발표하면서, AI가 생성하는 정보가 항상 정확하지 않을 수 있다고 지적했습니다.

AI는 부도덕하게 사기를 친다

그러나 이러한 지침 문서의 대부분은 부정행위 문제를 간략하게 언급하거나 완전히 무시합니다.

앨라배마주 쿠사 카운티의 고등학교 영어 교사인 제이콥 문은 수업에서 부정행위가 적발되는 경우가 거의 없다고 말했습니다.

하지만 그는 이번 학년만 해도 약 20명의 학생이 에세이를 포함한 과제에 AI를 사용하는 것을 보았습니다.

문 씨는 걱정스러운 듯이 말했다. "교사로서 제가 가장 걱정되는 건 이 학생들이 대학과 직장에 들어갔을 때 어떻게 될까 하는 거예요."

이 학교 2학년인 크리스 프로웰은 반 친구들이 숙제를 하기 위해 종종 AI를 사용하지만, 자신은 대학 공부에 영향을 미칠까봐 걱정되어 결코 AI를 사용하지 않는다고 밝혔습니다.

그는 무제한적인 AI 부정행위는 " 진정으로 노력하는 사람들에게 매우 불공평하다 "고 말했습니다.

일부 교육자들은 학생들이 집에서 독립적인 과제를 완수할 때 AI를 정기적으로 사용할 수 있을지 회의적입니다.

캘리포니아주 소노마 카운티의 한 고등학교에서 영어 교사로 일하는 조슈아 알라드-하웰스는 작년에 AI 부정행위가 학생들 사이에서 들불처럼 퍼졌다고 말했습니다.

이를 위해 그는 새로운 조치를 취했습니다. 학생들이 수업 시간에 직접 초안을 쓰도록 요구하고 전자 기기를 가져오거나 사용하는 것을 엄격히 금지했습니다.

그는 이러한 변화가 예상치 못한 효과를 가져왔다고 말했습니다. 학생들이 글쓰기를 진지하게 받아들이기 시작했고, 그들의 작품은 더 진실하고 개인적이 되었습니다.

이 방법의 단점은 모든 숙제를 취소해야 한다는 것입니다.

그는 무기력하게 말했다: " 숙제가 주어진다면 학생들은 AI를 이용해서 부정행위를 할 겁니다 ."

AI 고스트라이터는 어디에나 있다

현재 수십 개의 회사가 AI를 사용하여 논문과 과제를 완료할 수 있다고 주장하는 앱을 홍보하고 있으며, "아무도 눈치채지 못하게" 할 수 있다고 합니다.

예를 들어, 올해 7월 페이스북 광고에는 백팩을 메고 헤드폰과 교정기를 착용한 마케팅 학생이 나와 있었고, 다음과 같은 캡션이 있었습니다.

You의 연구 보조원을 이용하여, 참고문헌을 포함해서 몇 분 만에 논문을 완성했습니다 .

이 검색 연구 도구는 거의 10억 달러의 투자 가치를 받았습니다.

이번 학년 초, 에스토니아 회사 Aithor는 Facebook과 Instagram에서 자사의 글쓰기 도우미를 대대적으로 홍보했습니다.

광고에는 졸업모자 이모티콘 두 개가 등장하며 "한 번의 클릭으로 완벽한 논문을 만들어낸다"는 약속이 담겨 있습니다.

이에 대해 Aithor의 최고 마케팅 책임자인 Anatoly Terentyev는 이메일에서 "사실, 우리는 기본적인 프레임 만 제공하고 있으며, 학생들은 여전히 ​​콘텐츠를 다듬고 개인화해야 합니다."라고 말했습니다.

그는 회사가 광고 언어를 검토하고 있다고 말했다.

또 다른 AI 회사인 Caktus의 슬로건은 훨씬 더 직설적이다. " 선생님들은 우리를 싫어한다 ."

이 표현은 변화에 저항하는 교사를 지칭한다고 해리슨 레너드 CEO는 설명합니다.

그는 대학생들이 이미 글쓰기 능력을 갖추고 있다고 믿고, Caktus AI는 그들이 미래 작업에 대비하여 AI를 사용하는 방법을 배우도록 도울 뿐입니다. 그는 이것이 부정행위 도구가 아니라고 강조했다.

하지만 소셜 미디어에서의 Caktus AI의 성과는 상당히 다릅니다. 미국 포럼인 Reddit에 게시된 글에서 다음과 같이 말했습니다.

저는 지난 3년 동안 명문 학교에서 축구를 했는데, 숙제를 하거나 연습에 가는 일이 너무 귀찮아요. 그래서 저는 모든 논문을 즉시 생성하고, 모든 숙제를 즉시 풀 수 있는 소프트웨어를 개발했습니다.

노트르담 대학의 전 축구 선수인 레너드는 이 게시물에 대해 언급을 거부하며 이전에 "학생들이 이 플랫폼을 어떻게 사용하는지 통제할 수 없습니다."라고 말했습니다.

애리조나 주립 대학의 영어학 교수인 패트리샤 웹은 자신의 수업에서 AI를 사용하는 것은 금지되어 있다고 말합니다.

하지만 그녀는 글쓰기 스타일을 기준으로 볼 때, 학생 중 20~40%가 아직도 비밀리에 글쓰기 과제에 AI를 사용하고 있다고 추정합니다.

하지만 그녀는 확실한 증거 없이 학생들을 상대로 소송을 제기하는 게 어렵다고 말했습니다.

웹은 "증거 없이 처벌을 부과할 수는 없습니다."라고 말했습니다.

이로 인해 그녀는 AI가 쓴 것이라고 거의 확신하는 과제에 합격점을 주어야 했습니다 .

이를 위해 그녀는 해결책을 채택했습니다. 즉, AI가 쓰기에 더 어려운 개인적 경험에 대해 쓰거나 인터뷰를 진행하는 숙제를 내주는 것입니다.

OpenAI 눈 숨기기 감지 도구

조사 결과, OpenAI는 ChatGPT에서 생성된 텍스트를 정확하게 식별할 수 있는 도구를 개발했지만 해당 회사는 이를 출시하지 않기로 결정한 것으로 나타났습니다.

내부 조사에 따르면 이러한 감지 기능이 출시되면 약 30%의 사용자가 ChatGPT 사용을 줄일 것으로 나타났습니다.

일부 교사는 타사 AI 감지 도구를 사용하기도 했습니다.

하지만 이러한 소프트웨어는 종종 신뢰할 수 없습니다. 때로는 AI가 생성한 콘텐츠를 학생의 원본 작업으로 오인하기도 하고, 때로는 학생의 실제 작업을 AI가 생성한 것으로 오인하기도 합니다.

가장 널리 사용되는 탐지 도구는 Turnitin입니다.

Turnitin은 학생들이 독창적인 작품을 쓰도록 영감을 준다고 주장합니다.

이 회사의 최고 제품 책임자인 애니 체치텔리는 해당 도구가 AI가 생성한 텍스트를 85%의 정확도로 식별할 수 있으며, 학생들의 원본 작업을 AI가 생성한 것으로 오분류하는 경우가 거의 없다고 주장합니다.

하지만 해당 회사는 자사 제품의 정확도 테스트를 거부했습니다.

2023년 맥스 스페로는 팡그램 랩스를 설립했는데, 이 회사의 초기 목표는 AI가 생성한 가짜 제품 리뷰를 식별하도록 기업을 돕는 것이었습니다.

Pangram Labs는 정확도가 99.98% 이상이라고 주장합니다.

놀랍게도 고객 중 다수가 교사들이었습니다.

한 테스트에서 기자는 ChatGPT에 "파리대왕"의 주제를 분석하는 9학년 수준의 에세이를 쓰라고 요청했습니다.

Pangram Labs의 탐지 소프트웨어로 분석한 결과, 이 기사는 거의 확실히 AI가 생성한 것으로 판명되었습니다.

다음으로, 연구원들은 해당 기사를 HumanizeAI.pro에 입력했습니다.

이는 "AI가 생성한 콘텐츠를 자연스럽고 진짜 인간의 글쓰기 스타일로 변환"할 수 있다고 주장하는 애플리케이션입니다.

흥미롭게도 Pangram Labs의 탐지 결과는 새롭게 처리된 버전에 대해 주저하게 되었습니다.

첫 번째 감지 과정에서 시스템은 " AI가 작성한 콘텐츠를 포함하고 있을 수 있음 "을 나타냈습니다.

하지만 같은 텍스트를 두 번째 테스트에 사용했을 때, 그것은 "완전히 인간이 쓴 것 "이라는 결론이 도출되었습니다.

이에 대해 스페로는 팡그램 랩스가 "이러한 위장 도구를 무력화할" 새로운 기술을 개발하기 위해 노력하고 있다고 밝혔습니다.

텍사스 주 휴스턴 교외의 고등학교 영어 교사인 카터 라이트는 자신의 어려움을 공유했습니다.

그는 AI의 부정행위를 추적하기 위해 수많은 시간을 투자했다고 말했습니다. 다양한 탐지 소프트웨어의 무료 버전을 사용해보고 학생들의 Google Docs에서 수정 기록을 주의 깊게 확인했습니다.

그러나 학생들은 항상 한발 앞서 나가기 위해 새로운 방법을 생각해내는 듯합니다.

라이트는 무기력하게 말했다. "이러한 기술을 완전히 비활성화하지 않는 한 부정행위를 완전히 근절하는 것은 거의 불가능합니다."

참고문헌:

https://www.wsj.com/tech/ai/chatgpt-ai-cheating-students-97075d3c?mod=tech_lead_pos2

본 기사는 위챗 공개 계정 "신지위안" 에서 발췌한 것이며, 저자는 신지위안이고, 편집자는 KingHZ Dinghui이며, 36Kr.의 허가를 받아 출판되었습니다.