에이전트 메모리

개요

에이전트 메모리는 대화나 작업 실행 중에 얻은 사실을 다음 세션에서도 다시 꺼내 쓸 수 있도록 저장하는 계층이다. 컨텍스트 창이 아무리 길어져도 세션이 끝나면 사라진다는 한계는 그대로이므로, 장기적으로 쓸모 있는 사실만 골라 압축·저장하고 필요할 때 되불러오는 별도의 메커니즘이 필요하다.

압축과 손실의 긴장

가장 흔한 접근은 대화를 요약해서 저장하는 것이다. 문제는 압축을 반복할수록 원문에는 없던 내용이 섞여 들어가거나, 숫자·날짜 같은 세부 정보가 뭉개지는 현상이다. 요약본만 저장하는 방식은 저장 공간은 아끼지만 정확도를 갉아먹고, 원문을 통째로 보존하는 방식은 정확하지만 검색과 관리 비용이 커진다. 최근에는 원문 스니펫을 요약과 함께 보존하는 하이브리드 저장이 대안으로 제시되고 있다 — 요약으로 빠르게 훑고, 필요하면 원문으로 내려가 확인하는 이중 경로다.

이식성 문제

메모리 포맷이 벤더마다 다르면 에이전트를 바꿀 때 쌓아 둔 기억을 그대로 옮길 수 없다는 문제도 있다. 여러 프레임워크가 함께 참여해 공통 초안 포맷을 논의하는 것은 이 이식성 문제를 표준화로 풀어 보려는 시도다. 표준이 자리 잡으면 특정 벤더의 에이전트에 기억이 갇히는 종속 관계가 줄어들고, 사용자는 메모리를 잃지 않고 도구를 교체할 수 있게 된다.

이 두 문제 — 압축 손실과 벤더 이식성 — 은 서로 독립적이면서도 자주 함께 논의된다. 저장 방식을 잘 설계해도 포맷이 폐쇄적이면 결국 특정 제품에 기억이 갇히기 때문이다.