이앤아이 CMS

환각과 편향을 고치지 않고 제출한 비율, 그리고 ‘인지적 외주화’가 던지는 경고

안녕하세요. 디지털에이전시 이앤아이입니다.

생성형 AI로 글을 쓰는 일이 일상이 됐습니다. 보고서 초안, 회의록 정리, 보도자료 문장 다듬기까지 속도가 압도적이니까요. 그런데 ‘빠르게 완성’되는 만큼, 우리가 실제로는 생각을 덜 하고 있는 건 아닐까요. 최근 한국언론진흥재단이 진행한 ‘과제 기반 생성형 AI 활용 양상 조사’는 이 질문을 꽤 구체적인 수치로 보여줍니다.

조사는 만 20세 이상 생성형 AI 이용자 210명에게 하나의 글쓰기 과제를 주고, 생성 과정과 결과물을 함께 살펴보는 방식이었습니다. 주제는 청소년 심리 위기 원인과 해결책을 자기결정성이론(Self-Determination Theory) 관점에서 제안하라는 칼럼형 과제였죠. 연구진은 일부러 AI가 그럴듯하게 만들기 쉬운 ‘환각 정보’와 ‘편향적 해석’이 섞이도록 사전 설계한 뒤, 참여자들이 이를 얼마나 걸러내는지 확인했습니다.

결과는 생각보다 차가웠습니다. 사전 설계된 편향적 해석을 수정한 경우는 10.0%에 그쳤고, 명백한 환각 정보(자기결정성이론의 구성 요소를 틀리게 제시한 내용)를 수정한 경우는 6.7%로 더 낮았습니다. 쉽게 말해, 많은 사람이 AI가 만든 문장을 ‘검토’하기보다 ‘채택’했습니다.

대화 기록 분석에서도 비슷한 흐름이 확인됐습니다. 결과물을 만들 때 논리적 사고 단계를 밟은 경우는 25.7%였고, 추가 자료나 다른 해석을 묻는 질문은 7.6%에 불과했습니다. 사실관계를 확인하는 질문은 3.8%로 매우 낮았습니다. AI의 답을 한 번 더 의심하고 확인하는 ‘두 번째 질문’이 거의 없었다는 뜻입니다. 상호작용을 통해 내용을 보완하는 ‘성찰적 개입’도 18.1% 수준에 머물렀습니다.

더 인상적인 대목은 과제 직후 기억 테스트였습니다. “자기결정성이론의 세 가지 욕구 중 무엇을 중심으로 썼는가”라는 질문에 49.5%가 기억하지 못하거나 틀리게 답했습니다. 연구진은 이를 두고, 상당수가 AI가 만든 내용을 자세히 읽지 않고 제출했을 가능성이 크다고 봤습니다. 여기서 나온 개념이 ‘인지적 외주화 현상’입니다. 생각과 판단, 점검을 내가 하는 대신 AI에 “대행”시키는 습관이 굳어지는 상황을 경계한 것이죠.

이 문제는 학생 과제에만 국한되지 않습니다. 기업 실무에서 기획서, 제안서, 보고서 작성에 AI가 들어오면 비슷한 일이 반복될 수 있습니다. 문장은 그럴듯한데 근거가 약하고, 특정 관점을 은근히 밀어주고, 용어 정의가 틀린 상태로 문서가 확정되는 순간 리스크가 됩니다. 특히 대외 공지나 정책·안전·의료 같은 분야는 작은 오류가 신뢰 하락으로 이어질 수 있어 더 조심해야 합니다.

그렇다면 조직에서는 무엇부터 바꿔야 할까요. 핵심은 ‘AI를 쓰지 말자’가 아니라 ‘검토가 포함된 워크플로우’를 기본값으로 만드는 겁니다. AI가 만든 초안은 초안으로 두고, 사실 확인과 관점 점검을 위한 체크 단계가 반드시 따라오게 해야 합니다. 예를 들어 첫째, 핵심 주장과 근거를 분리해 적게 하고, 둘째, 출처가 필요한 문장은 표시해 재검증하며, 셋째, 편향 가능성이 있는 문장은 반대 관점을 붙여 균형을 맞추는 방식입니다. 마지막으로 최종 책임자는 “내가 이 문장에 동의하는가”를 확인해야 하고요. 결국 AI 리터러시는 도구 사용법이 아니라, 비판적으로 읽고 질문하는 습관에 가깝습니다.

생성형 AI는 분명 좋은 동료가 될 수 있습니다. 다만 ‘생각까지 맡기는 순간’부터는 일이 빨라지는 대신, 우리의 판단력이 조용히 약해질 수 있습니다. 이번 조사가 던진 경고는 단순합니다. AI가 써준 글을 그대로 제출하기 전에, 한 번 더 읽고 한 번 더 묻는 사람이 결과적으로 더 멀리 간다는 것. 이앤아이도 고객사의 콘텐츠와 웹서비스에 AI를 접목할 때, 속도만큼이나 검증과 책임의 흐름을 함께 설계하는 방향을 계속 고민하겠습니다.

메타 설명: 한국언론진흥재단 조사에 따르면 생성형 AI 글쓰기에서 환각 정보와 편향을 수정한 비율이 6.7~10%로 낮았고, 절반가량은 작성 내용을 기억하지 못했다. ‘인지적 외주화’를 줄이기 위한 AI 리터러시와 검증 중심 워크플로우가 필요하다.

이앤아이와 함께 더 나은 웹 환경을 만들어 나가요!

#생성형AI #AI리터러시 #인지적외주화 #환각정보 #편향 #업무자동화 #콘텐츠검증 #프롬프트전략 #디지털전환 #웹콘텐츠 #이앤아이 #디지털에이전시 #대학교홈페이지 #병원홈페이지 #AI전문기업