연세대학교 전기전자공학과 학부생이 인공지능(AI) 협업의 한계를 실증적으로 규명한 연구로 국제 최고 권위 자연어처리 학회에서 성과를 거뒀다.
연세대는 박민준(전기전자공학과 4학년) 학생이 제1저자로 참여한 논문 ‘PAC-BENCH: Evaluating Multi-Agent Collaboration under Privacy Constraints’가 전산언어학회(ACL 2026) Findings 트랙에 채택됐다고 밝혔다. ACL은 자연어처리 분야에서 가장 영향력 있는 학회 중 하나로, 올해는 총 1만2148편의 논문이 제출돼 Main 트랙 19%, Findings 트랙 18%만이 채택됐다. 전체 채택률은 약 37% 수준이다.
해당 논문은 AI 간 협업이 보편화되는 미래 환경을 가정하고, 각 AI가 개인 또는 기업의 민감한 정보를 보유한 상황에서 협업이 어떻게 이루어지는지를 분석했다. 특히 “정보를 완전히 공유할 수 없는 조건에서도 AI 협업이 가능한가”라는 현실적인 문제를 정량적으로 검증했다는 점에서 주목된다.
연구 결과에 따르면, 프라이버시 제약이 존재할 경우 AI 협업 성능은 크게 저하되는 것으로 나타났다. 정보 공유가 자유로운 환경과 비교했을 때 협업 효율이 유의미하게 감소했으며, 이는 실제 산업 환경에서 AI 도입 시 중요한 제약 요인으로 작용할 수 있음을 시사한다.
또한 협업의 성패는 ‘대화를 누가 먼저 시작하느냐’에 크게 좌우되는 것으로 분석됐다. 초기 발화를 수행한 AI가 전체 협업 결과에 더 큰 영향을 미치는 경향이 확인됐으며, 이는 다중 에이전트 시스템 설계에서 초기 상호작용 전략의 중요성을 강조한다.
특히 주목할 점은 협업 실패의 대부분이 초반에 집중된다는 사실이다. 연구에 따르면 전체 실패 사례의 약 75%가 대화 시작 후 3턴 이내에 발생했으며, 초기 상호작용 단계에서의 설계가 협업 성능을 결정짓는 핵심 요인으로 드러났다.
연구팀은 AI 협업 실패 패턴도 세 가지로 체계화했다. ▲초기 단계에서 과도한 정보가 노출되는 ‘프라이버시 침해’ ▲정보를 지나치게 숨겨 협업 자체가 불가능해지는 경우 ▲잘못된 정보를 생성하는 ‘환각(hallucination)’ 현상이다.
이번 연구는 총 1500여 개의 협업 시나리오를 기반으로 진행됐다. 100개의 인간 검증 시나리오와 1476개의 추가 실험 데이터를 통해 다양한 상황에서의 AI 상호작용을 분석함으로써 결과의 신뢰도를 높였다.
박민준 학생은 “AI가 현실 세계에서 협업하기 위해서는 단순한 성능 향상을 넘어, 정보 공유와 프라이버시 간의 균형을 고려한 설계가 필요하다”며 “이번 연구가 향후 안전하고 효율적인 다중 AI 시스템 개발에 기여하길 기대한다”고 밝혔다.
이번 성과는 학부 단계에서 수행된 연구라는 점에서도 의미가 크다. 전문가들은 “대규모 데이터 기반 실험과 이론적 분석을 동시에 수행한 점에서 완성도가 높다”며 “향후 AI 협업 및 프라이버시 연구 분야에서 중요한 기준점이 될 것”이라고 평가했다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}