UNIST, 챗GPT가 AI팀 ‘소통 전술’ 짠다

- 대형언어모델(LLM) 기반 다중 에이전트 통신 기술 개발

- 필요한 정보만 골라 공유해 AI 협업 효율 높여

연구진 사진. 왼쪽부터 한승열 교수와 배상준 연구원. (자료제공: UNIST)

LMAC 프레임워크의 전체 구조. (자료제공: UNIST)

드론 여러 대가 같이 산불을 끄거나 자율주행차들이 서로 충돌을 피하려면, 각 인공지능(AI)이 혼자 똑똑한 것만으로는 부족하다. 서로에게 필요한 정보를 제때 전달하는 소통 능력도 함께 중요한데, 챗GPT와 같은 대형언어모델(LLM)을 이용해 AI 간의 소통 규칙을 자동으로 설계하는 기술이 나왔다.

UNIST(총장 박종래)는 인공지능대학원 한승열 교수팀이 대형언어모델의 추론 능력을 이용해 다중 에이전트 강화학습의 통신 방식을 설계하고 개선하는 ‘LMAC(LLM-driven Multi-Agent Communication)’ 기술을 개발했다고 7월 13일 밝혔다.

LMAC은 드론 군집이나 협동 로봇, 자율주행차처럼 각 장치가 전체 상황의 일부만 볼 수 있는 환경에서, 각 AI가 수집한 정보 가운데 무엇을 어느 팀원에게 전달해야 할지를 규칙으로 정해주는 기술이다.

이 소통의 규칙을 강력한 추론 능력을 지닌 대형언어모델이 만들게 된다. 임무의 목표와 각 AI의 역할, 관측할 수 있는 정보의 의미를 자연어로 입력하면, 대형언어모델이 이를 분석해 필요한 정보를 골라 전달하는 통신 함수를 코드로 작성해 낸다.

처음 만들어진 통신 규칙은 과거 강화학습 데이터를 바탕으로 자동 보완되게 설계됐다. 평가 프로그램이 메시지를 받은 AI가 임무에 필요한 상황을 얼마나 정확히 파악했는지와 팀원 사이의 정보 격차를 찾아 피드백을 만들면, 대형언어모델이 이를 반영해 부족한 정보를 추가하고 통신 코드를 수정한다.

예를 들어 정찰 역할의 AI만 목표물의 위치를 볼 수 있는데 다른 AI들이 정찰 AI의 위치를 모른다면, “목표물이 내 오른쪽에 있다”는 정보만으로는 목표물의 위치를 알아낼 수 없다. 평가 프로그램이 문제를 찾아내면, 대형언어모델은 정찰 AI의 위치와 이동 정보, 팀원 식별 정보, 공통 기준 좌표 등을 추가하도록 통신 코드를 자동으로 수정하는 방식이다.

연구팀은 전달된 메시지를 강화학습에 효과적으로 활용하는 학습 구조도 함께 설계했다. 각 AI는 받은 정보를 그대로 사용하지 않고 협력에 필요한 내용만 압축하며, 자신이 파악한 정보가 얼마나 믿을 만한지도 함께 배우게 된다.

또 실제 학습 단계에서 대형언어모델이 매 순간 호출되는 방식이 아니라, 완성된 코드가 각 AI의 관측값을 받아 필요한 메시지를 만들기 때문에, 매 순간 대형언어모델을 사용하는 방식보다 비용과 연산 부담을 줄일 수 있다.

제1저자인 배상준 연구원은 “기존 다중 에이전트 통신 연구는 메시지를 어떻게 학습할지에 집중했지만, 어떤 정보가 협력에 본질적으로 필요한지를 의미적으로 판단하는 데는 한계가 있었다”며 “LMAC은 대형언어모델이 과제 설명을 이해하고, 상태와 관측 정보 사이의 관계를 추론해 통신 프로토콜을 설계하는 데다 이 규칙을 데이터 기반 피드백으로 보완하고, 실제 임무에서는 LLM을 계속 호출하지 않아 실행 효율도 높였다”고 설명했다.

스타크래프트Ⅱ에서 적을 볼 수 있는 정찰 유닛인 오버시어(Overseer) 1기와 적을 볼 수 없는 공격 유닛인 베인링(Baneling) 10기가 협력하는 과제로 LMAC의 성능을 검증한 결과, 96.2%의 승률을 기록했다. 같은 학습 구조에 기존 통신 방식인 SMS와 TarMAC의 메시지를 적용했을 때는 승률이 각각 59.0%, 25.2%에 그쳤다.

한승열 교수는 “향후 자율 드론, 로봇 군집, 스마트 팩토리, 자율주행 협력 시스템처럼 여러 AI가 제한된 정보 속에서 함께 판단해야 하는 실제 환경에 중요한 기반 기술이 될 것”이라고 기대했다.

연구 결과는 기계학습 분야 최고 권위 학회인 ‘International Conference on Machine Learning(ICML)’에 채택됐다. ICML은 2026년 7월 6일부터 12일까지 서울에서 개최됐다.

연구 수행은 과학기술정보통신부와 정보통신기획평가원(IITP)의 ‘자율 드론 실용화를 위한 목적지향 강화학습 핵심기술 개발’, ‘AI Star-Fellowship Program(UNIST)’, ‘인공지능대학원지원(UNIST)’ 사업과 과학기술정보통신부 및 한국연구재단(NRF)의 ‘LLM 기반 End-to-End 대규모 자율 군집 제어를 위한 다중 에이전트 강화학습’ 사업의 지원으로 이뤄졌다.

[Ceramic Korea (세라믹뉴스)=이광호 ]