이앤아이 CMS

안녕하세요. 디지털에이전시 이앤아이입니다.

요즘은 고객 상담 기록, VOC, 커뮤니티 후기처럼 ‘사람의 감정이 담긴 텍스트’를 AI로 분석하는 일이 흔해졌습니다. 문제는 AI가 “이 글은 불안”, “이 표현은 방어기제”라고 판단했을 때, 그 결론이 어디서 왔는지 납득하기가 어렵다는 점입니다. 학습 데이터가 어떻게 만들어졌는지, 라벨이 어떤 기준으로 붙었는지 불투명하면 결과를 검증하기도 힘들고요. 특히 브랜드 평판, 고객 민원, 직원 심리 케어처럼 민감한 영역일수록 “정확도”만큼이나 “설명 가능성”이 중요해집니다.

최근 프랑스 라이언 리서치 연구소(RRI) 김상백 박사팀은 이런 고민에 답을 주는 합성 데이터 생성 프레임워크 ‘DefMoN’을 발표했습니다. 핵심은 심리학 이론을 바탕으로 데이터 생성부터 라벨링까지의 판단 근거를 추적 가능하게 설계했다는 점입니다. 연구진은 바이런트(Vaillant)의 방어기제 체계와 플루칙(Plutchik)의 동기 정서 이론을 기반으로, AI가 어떤 논리 구조를 따라 결론을 내리는지 가이드라인을 명확히 나눴습니다. 말 그대로 “AI가 심리를 맞히는 것”에서 한 걸음 더 나아가 “그 AI가 어떤 기준으로 맞혔는지”를 사람도 재현하고 점검할 수 있게 만든 셈입니다.



또 하나 눈여겨볼 부분은 데이터 품질관리(QC)입니다. 심리학적 개념에서 벗어나는 ‘구성개념 이탈’이나, 특정 단어 때문에 정답이 새어 나오는 ‘라벨 누출’을 막는 절차를 거쳤다고 합니다. 더 신뢰를 주는 대목은 실험 기록, 스크립트, 시드 번호까지 공개해 재현 가능성을 높였다는 점입니다. “좋은 결과가 나왔다”가 아니라 “누구나 같은 방식으로 검증할 수 있다”에 초점을 맞춘 접근이죠.

성능도 인상적입니다. Macro F1 기준으로 한국어 0.96, 영어 0.97을 기록했고, 영어 데이터로 학습한 모델을 한국어에 바로 적용하는 제로샷 환경에서도 0.81을 보였습니다. 합성 데이터만으로 학습한 AI가 실제 사람 글을 분석했을 때는 0.62였지만, 클래스당 64개 수준의 실제 데이터를 조금 더하자 0.76까지 올라갔습니다. 합성 데이터가 ‘현실 데이터를 대체’한다기보다, 실제 환경 적응을 빠르게 돕는 탄탄한 바닥재가 될 수 있다는 힌트를 줍니다.

이 흐름은 웹과 서비스 운영에도 바로 연결됩니다. 기업·기관 사이트에서 상담 챗봇, 민원 분류, 리뷰 분석, 내부 게시판 모니터링 등 정서 분석이 들어가는 기능이 늘어날수록 “근거를 제시할 수 있는 AI”가 요구될 가능성이 큽니다. 특히 고객 응대나 민감한 의사결정에 AI를 쓰는 조직이라면, 앞으로는 모델 성능표뿐 아니라 데이터 생성·라벨링·검증 프로세스까지 함께 준비해야 신뢰를 얻을 수 있습니다.

이앤아이와 함께 더 나은 웹 환경을 만들어 나가요!

#DefMoN #정서분석AI #합성데이터 #설명가능한AI #데이터라벨링 #심리학기반AI #방어기제 #플루칙감정이론 #제로샷학습 #AI신뢰성 #이앤아이 #디지털에이전시 #대학교홈페이지 #병원홈페이지 #AI전문기업