오존 냄새와 눅눅한 커피 향이 코를 찔렀다. 인공지능의 까다로운 quirks(독특한 버그나 특성)와 씨름하느라 밤샘을 밥 먹듯 한 사람이라면 익숙할 풍경이다.
모든 ML 엔지니어가 공포에 질릴 순간이다. 수주 동안 공들여 만든 AI 에이전트가 처참하게 실패한다는 것을 서서히 깨닫는 순간 말이다. 시장 붕괴나 에너지 그리드 장애를 예측할 수 있는 50단계 시계열 데이터를 들이밀면, 에이전트는 충실하게 이를 직렬화한다. 즉, 풍부한 수치 시퀀스를 평범하고 특징 없는 텍스트 토큰으로 변환하는 것이다. 그러고 나서 노벨상 수상자에게나 어울릴 법한 심오한 자신감으로, 마지막 관측값만 반복해서 뱉어낸다. 이건 버그가 아니라 근본적인 아키텍처의 결함이다. 어제 발표된 새로운 논문은 이 문제가 어떤 프롬프트 엔지니어링 트릭으로도 해결할 수 없는 훨씬 더 깊은 문제라고 주장한다.
벗어날 수 없는 병목: 왜 언어만으로는 부족한가
냉혹한 현실은 이렇다. 오늘날 대부분의 정교한 AI 에이전트 시스템은 근본부터 언어 기반으로 구축되어 있다. 복잡한 분자 구조부터 방대한 테이블 데이터셋까지, 이러한 에이전트는 원시 데이터를 원본 그대로 처리하지 않는다. 대신 텍스트로 변환(직렬화)한다. 언어 모델에게는 편리한 과정이지만, 이는 심각한 정보 손실을 유발한다. 단어만으로 일몰의 정확한 색감이나 실크의 미묘한 질감을 전달하려고 애쓰는 모습을 상상해 보라. 본질, 뉘앙스, 생생한 경험은 희석되거나 완전히 사라질 것이다.
UIUC 논문의 연구진은 이를 정보 이론적 제약으로 공식화한다. 직렬화는 본질적으로 정보를 추가할 수 없으며, 텍스트 형식이 표현할 수 있는 것만 보존할 수 있을 뿐이다. 이는 직렬화된 과학 데이터를 처리하는 언어 전용 에이전트의 성능이 본질적으로 제한될 수밖에 없다는 의미다. 아무리 복잡한 추론이나 기발한 프롬프트를 동원해도 직렬화 단계에서 버려진 정보를 복구할 수는 없다. 이는 명백하고 증명 가능한 한계다.
한편, 전문화된 파운데이션 모델은 조용히 뛰어난 성과를 내고 있다. 시계열 데이터에는 Chronos, 테이블 데이터에는 TabPFN, 단백질 구조에는 AlphaFold, 날씨에는 GraphCast 등이 있다. 이 모델들은 각 도메인의 ‘원어’를 구사한다. 주식 시장 신호를 토큰으로 번역할 필요가 없다. 원래 의도된 대로 직접 처리한다. 문제는? 이 전문가들은 종종 범용 언어 인터페이스가 부족하다는 것이다. AlphaFold에게 장기적인 신약 개발 전략의 맥락에서 단백질 접힘 예측 결과를 설명해달라고 요청할 수 없다. 이들은 뛰어난 전문가지만, 대화 상대는 아니다. 이로 인해 우리는 ‘LLM은 추론할 수 있지만 충실하게 계산하지는 못하고, 전문 모델은 계산할 수 있지만 광범위하게 소통하지는 못하는’ 좌절스러운 이분법에 직면하게 된다.
Eywa: AI 전문가들 간의 신경망 연결을 잇다
여기서 UIUC 논문, Heterogeneous Scientific Foundation Model Collaboration(이종 과학 파운데이션 모델 협업)이 진가를 발휘한다. 연구진은 제임스 카메론의 영화 <아바타>에 나오는 상호 연결된 생명력의 이름을 딴 ‘Eywa’라는 프레임워크를 제안하며 이 문제에 정면으로 맞선다. 그들의 영감은? 판도라의 다양한 동식물의 고유한 능력과 공유된 상징 언어 없이도 조율할 수 있게 하는 나비족의 ‘Tsaheylu‘, 즉 신경망 결합이다.
Eywa는 이 개념을 AI에 적용한다. 논문이 씨름하는 핵심 질문은 이종 파운데이션 모델들이 에이전트 시스템 내에서 효과적으로 협업할 수 있는가이다. 그들이 제안하는 답은 ‘그렇다’이다. 언어 모델이 모든 것을 제한적인 텍스트 파이프라인을 통해 강제하지 않고 추론을 안내할 수 있는 인터페이스, 즉 디지털 Tsaheylu가 있다면 말이다.
이 프레임워크는 전문가가 전문가의 작업을 수행하도록 유지하고, LLM이 이를 조정할 수 있도록 추론 인터페이스를 제공해야 한다고 제안합니다.
이는 매우 우아한 해결책이다. 모든 AI를 언어 모양의 상자에 억지로 욱여넣으려 하는 대신, Eywa는 전문화된 모델들이 자신의 강점에 집중하도록 옹호한다. 언어 모델은 지휘자 역할을 하여 이러한 전문가들을 조율하고, 전문적인 계산을 지시하며, 그 결과를 일관되고 이해할 수 있는 출력으로 통합한다. 이것은 도메인 전문 지식을 LLM의 유창함으로 대체하는 것이 아니다. 각 구성 요소가 진화적 이점을 발휘하는 공생 관계를 가능하게 하는 것이다.
이러한 아키텍처 변화는 신약 발견, 기후 모델링, 첨단 재료 과학과 같이 데이터가 풍부하고, 이질적이며, 종종 비언어적인 분야에서 엄청난 영향을 미칠 것으로 예상되는 새로운 세대의 AI 에이전트를 가능하게 할 것이다. 오늘날의 취약하고 텍스트에 얽매인 에이전트에서 벗어나 AI 시스템이 세상의 데이터를 원본 그대로 진정으로 협업할 수 있는 미래로 나아가는 것이다.
제 일자리를 대체할까요?
Eywa의 아키텍처는 AI 에이전트가 자율적인 의사 결정자라기보다는 고도로 숙련된 협력자처럼 될 미래를 시사한다. 일자리를 대체하기보다는 연구원과 분석가에게 복잡한 데이터와 상호 작용할 수 있는 더 강력한 도구를 제공함으로써 업무를 보강할 수 있다. 업무는 반복적인 작업 수행에서 인간의 감독이 여전히 중요한 고차원 전략 및 해석으로 이동한다.
AI에서의 직렬화란 무엇인가?
AI에서의 직렬화는 이미지, 시계열, 분자 그래프와 같은 복잡한 데이터 구조를 언어 모델이 처리할 수 있는 선형 토큰 시퀀스로 변환하는 과정을 의미한다. 이는 일반적으로 대규모 언어 모델(LLM)이 본질적으로 텍스트 기반이 아닌 데이터를 “이해”하고 추론할 수 있도록 하기 위해 수행된다. 그러나 이 변환은 종종 정보와 뉘앙스의 손실을 초래한다.
Eywa 프레임워크는 기존 LLM 에이전트와 어떻게 다른가?
기존 LLM 에이전트는 주로 복잡한 데이터를 처리하기 전에 모든 입력 데이터를 텍스트로 직렬화하는 데 의존한다. 이는 비텍스트 기반의 복잡한 과학 데이터를 정확하게 처리하는 능력을 제한한다. 생물학적 신경망 결합에서 영감을 받은 Eywa 프레임워크는 전문화된 파운데이션 모델(예: 시계열, 화학, 물리학용)이 LLM과 직접 협업할 수 있는 인터페이스를 만든다. 이는 도메인별 모델이 텍스트 직렬화를 통한 정보 손실 없이 자체 데이터를 처리할 수 있도록 하는 동시에, LLM이 여전히 그들의 행동을 안내하고 해석하여 더 강력하고 정확한 AI 에이전트를 만들 수 있도록 한다.
🧬 관련 인사이트
- 더 읽어보기: 클로드 미소스, 27년 된 OpenBSD 버그 발견
- 더 읽어보기:
