이앤아이 CMS

# AI 심사 조작 논란: KAIST 등 세계 대학의 '숨겨진 프롬프트' 파문

안녕하세요, 여러분! 오늘은 여러분과 함께 최근 학계에서 큰 반향을 일으키고 있는 일련의 사건에 대해 이야기해보려고 합니다. 바로 KAIST를 비롯한 여러 세계 유수의 대학들이 논문 심사 과정에서 AI를 의식한 '숨겨진 프롬프트'를 사용했다는 논란입니다. 이 사건은 단순한 논문 심사 조작을 넘어 AI 윤리와 공정성에 대한 문제를 강하게 제기하고 있습니다.

먼저, 사건의 배경을 좀 더 살펴볼까요? 닛케이 아시아에 따르면, 한국과 일본, 중국 등 8개국의 14개 학술기관에서 작성된 17편의 논문에서 이러한 AI 도구에 긍정적인 평가를 유도하는 프롬프트가 발견되었다고 합니다. 이들 논문은 아직 공식적인 동료 평가를 받기 전인 아카이브(arXiv) 플랫폼에 등록된 상태였습니다. 이 프롬프트들은 AI 심사자가 논문을 긍정적으로 평가하도록 유도하는 역할을 했다고 하네요.

하지만 여기서 중요한 점은, 이러한 프롬프트가 과연 학문의 윤리적 기준을 위반한 것인지, 아니면 단순한 기술적 시도로 볼 수 있는지에 대한 논의입니다. KAIST의 한 교수는 이러한 조작이 부적절하다고 판단하여 국제심리학회(ICML)에서 논문을 철회할 예정이라고 밝혔습니다. 반면, 몇몇 연구자들은 이는 AI 심사자들에 대한 '양어적 조치'라고 주장하며, AI가 점점 더 많은 심사 과정에 사용되는 상황에서 검증 수단으로의 프롬프트의 필요성을 강조하고 있습니다.

이 사건은 학계 내에서 큰 파장을 불러일으키고 있습니다. 특히, AI가 심사 과정에서 실제로 사용되는 사례가 늘어나고 있는 상황에서, 이러한 방식은 AI의 판단을 의도적으로 조작하려는 시도로 간주될 수 있다는 우려가 있습니다. 이와 관련하여, 한 위싱턴대 교수는 '현재 너무 많은 심사가 AI에 맡겨지고 있다'며 경고의 메시지를 던졌습니다.

출판사 간의 입장도 다양합니다. 스프링어 네이처는 AI 사용을 어느 정도 허용하는 입장을 취하고 있는 반면, 월드사이언스는 AI 사용을 절대 금지하는 입장을 고수하고 있습니다. 이러한 차이는 학계의 AI 사용에 대한 논의를 더욱 복잡하게 만들고 있습니다.

결론적으로, 이번 사건은 AI와 인간 사이의 경계를 어떻게 설정할 것인지에 대한 새로운 과제를 우리에게 던져주고 있습니다. 기술의 발전이 윤리적 기준을 어떻게 변화시킬 수 있는지, 그리고 그 변화에 우리가 어떻게 대응해야 할지를 고민해볼 시점입니다.

여러분은