논문 작성을 위해 AI 컨퍼런스에서 금지된 ChatGPT 및 AI 언어 도구

The Verge에서 8년 동안 AI, 로봇공학 등을 취재한 선임 기자 James Vincent의 글입니다.

세계에서 가장 권위 있는 기계 학습 컨퍼런스 중 하나는 저자가 ChatGPT와 같은 AI 도구를 사용하여 과학 논문을 작성하는 것을 금지하여 학계에서 AI 생성 텍스트의 역할에 대한 논쟁을 촉발시켰습니다.

ICML(International Conference on Machine Learning)은 이번 주 초 "ChatGPT와 같은 대규모 언어 모델(LLM)에서 생성된 텍스트를 포함하는 논문은 생성된 텍스트가 논문의 실험적 분석." 이 소식은 AI 학계와 연구자들이 이 정책을 옹호하고 비판하는 등 소셜 미디어에서 광범위한 토론을 촉발시켰습니다. 회의 주최자들은 그들의 생각을 설명하는 더 긴 성명을 발표함으로써 이에 대응했습니다. (ICML은 The Verge의 의견 요청에 응답하여 동일한 성명을 안내했습니다.)

ICML에 따르면 지난 11월 웹에서 출시된 범용 AI 챗봇인 ChatGPT와 같은 공개적으로 접근 가능한 AI 언어 모델의 등장은 그럼에도 불구하고 "예기치 못한 결과 [및] 답할 수 없는 질문"이 따르는 "흥미로운" 발전을 나타냅니다. ICML은 여기에는 그러한 시스템의 출력을 누가 소유하는지에 대한 질문(일반적으로 동의 없이 수집되고 때로는 이 정보를 그대로 역류하는 공개 데이터에 대해 훈련됨)과 AI가 생성한 텍스트와 이미지가 "새로운 또는 단순한 것으로 간주되어야 하는지"에 대한 질문이 포함된다고 말합니다. 기존 작업의 파생물입니다."

AI 글쓰기 도구는 단지 보조자이거나 그 이상입니까?

후자의 질문은 저자에 대한 까다로운 논쟁, 즉 AI가 생성한 텍스트를 누가 "쓰는가", 즉 기계인가 아니면 인간 컨트롤러인가에 대한 까다로운 논쟁과 연결됩니다. ICML이 AI에 의해 "완전히 생성된" 텍스트만 금지한다는 점을 고려하면 이는 특히 중요합니다. 컨퍼런스 주최자는 "저자가 작성한 텍스트를 편집하거나 다듬기 위해" ChatGPT와 같은 도구의 사용을 금지하지 않는다고 밝혔으며 많은 저자가 이미 이러한 목적으로 문법 교정 소프트웨어 Grammarly와 같은 "반자동 편집 도구"를 사용했다는 점에 주목했습니다.

"이러한 대규모 생성 모델이 더 널리 채택됨에 따라 시간이 지남에 따라 이러한 질문과 더 많은 질문에 대한 답이 나올 것이 확실합니다. 그러나 우리는 아직 이러한 질문에 대한 명확한 답변을 얻지 못했습니다."라고 컨퍼런스에 썼습니다. 주최자.

결과적으로 ICML은 AI 생성 텍스트에 대한 금지가 내년에 재평가될 것이라고 밝혔습니다.

그러나 ICML이 다루고 있는 문제는 쉽게 해결되지 않을 수 있습니다. ChatGPT와 같은 AI 도구의 가용성은 많은 조직에 혼란을 야기하고 있으며, 그 중 일부는 자체 금지 조치로 대응했습니다. 작년에 코딩 Q&A 사이트인 Stack Overflow에서는 사용자가 ChatGPT로 생성된 응답을 제출하는 것을 금지했으며, 뉴욕시 교육부는 이번 주에만 네트워크에 있는 모든 사람의 도구에 대한 액세스를 차단했습니다.

AI 언어 모델은 본질적인 사실감이 없는 자동 완성 도구입니다.

각각의 경우 AI 생성 텍스트의 유해한 영향에 대한 우려가 다릅니다. 가장 일반적인 것 중 하나는 이러한 시스템의 출력이 단순히 신뢰할 수 없다는 것입니다. 이러한 AI 도구는 주어진 문장에서 다음 단어 뒤에 오는 단어를 예측하도록 훈련된 방대한 자동 완성 시스템입니다. 따라서 그들은 끌어낼 수 있는 하드코딩된 "사실" 데이터베이스가 없으며 단지 그럴듯하게 들리는 진술을 작성할 수 있는 능력만 있을 뿐입니다. 이는 주어진 문장이 그럴듯하게 들리는지 여부가 사실성을 보장하지 않기 때문에 잘못된 정보를 진실인 것처럼 제시하는 경향이 있음을 의미합니다.

AI 생성 텍스트에 대한 ICML의 금지의 경우, 또 다른 잠재적인 과제는 AI에 의해서만 "정리"되거나 "편집"된 글과 이러한 도구에 의해 "완전히 생성된" 글을 구별하는 것입니다. 어떤 시점에서 여러 개의 작은 AI 기반 수정이 더 큰 재작성을 구성합니까? 사용자가 AI 도구에 자신의 논문을 간결한 초록으로 요약해 달라고 요청하면 어떻게 될까요? 이것은 새로 생성된 텍스트(텍스트가 새롭기 때문에)로 간주됩니까, 아니면 단순한 다듬기(작성자가 쓴 단어의 요약이기 때문에)로 간주됩니까?