
이번에 구글에서 '코끼리-금붕어 모델(EGM)' 플러그인을 공개했다.
EGM은 두 종류의 AI 세션을 활용한다. '코끼리(Elephant)'는 프로젝트 전체의 구조와 개발 맥락, 이전 의사결정을 기억하는 장기 세션이다. 코드를 직접 작성하지 않고 개발자와 논의하며 요구사항과 기술적 선택을 정리하고, 구체적인 구현 계획이 담긴 마크다운 명세서를 작성한다.
'금붕어(Goldfish)'는 이전 대화 이력이 없는 독립적인 하위 에이전트다. 같은 AI가 설계와 검토를 모두 맡으면 초기의 잘못된 가정을 그대로 받아들일 수 있다. 금붕어는 이전 대화 대신 명세서와 참조 파일만 전달받아 설계의 문제점을 독립적으로 찾아낸다. 여러 금붕어 에이전트가 서로 다른 관점에서 잠재적인 오류와 예외 상황, 숨겨진 의존성을 검토하고 결과를 코끼리 세션에 전달하는 것이다.
명세 시스템을 보완한다는 것이고, 이걸 바탕으로 병렬 에이전트를 돌려야한다는 사람들이 많다.
말은 좋지만, 나는 AI 에이전트를 병렬로 다루는 것이 좋은가에 대해서 그다지 좋게 생각하지 않는다.
인과관계의 연속성이 파괴되기때문이다.

개인적으로 AI 코드는 이 그림과 같은 문제라고 항상 생각한다. 위 그림은 정말 잘 그린듯 보이지만, 실수들이 꽤 있다. 엄지손가락이 없거나, 총의 모양이 이상하거나 같은 문제가 있다.
AI 코드도 매한가지다. 자세히 보지 않으면 알아채기 어려운 오류가 있고, 한 번에 많은 정보량이 들어올 때는 그 오류를 알아채기가 쉽지 않다. 병렬 에이전트는 바로 이 지점에서 위험하다. 서로 다른 관점의 검토는 오류를 줄일 수 있지만, 여러 갈래의 구현물이 동시에 쏟아지면 개발자의 검토 부채도 함께 병렬화된다.

AI코드는 이 총 그림과 같은 경우가 있다. 자세히 보지 않으면 이 총의 입구 구조가 잘 못된 것을 알아채지만, 한번에 많은 정보량이 들어올때는 알아채기가 쉽지 않다.
충분히 좋은 명세와 UML과 SPEC을 주면 AI는 좋은 구현을 해준다고 사람들은 믿는다.
그리고 이제 점점 개인이 다뤄야할 인지적인 코드 수도 늘어나고 있기에 AI는 필수적이다. 현실적으로 말하자면, 원래 개인 개발자는 4~6만 줄 정도 암기했다. 그다음 작업하다가 잊거나 인지적 한계로 잊거나 했다. 그 안에서 흐름을 체크하는 편인데, AI 코드를 쓰면 그보다는 좀 더 크게 10만 줄 언저리까지는 작업할 수 있다.
이런 지식의 압축은 사실 익숙해지면 자주 발생한다. 가령 멱등성을 학술적으로 기억은 못하지만, 어떤 코드가 멱등성을 만족하는가?와 같은 것은 얼추 기억하는 게 있다.
실제로 프로그래밍 대부분은 이런 식이다. 처음 몇번에는 어떤 개념인가를 모르지만, 몇번 예제 코드를 짜보고 사고 치다보면 아, 이게 이런 코드고, 이런 형태여야 하는구나와 같은 경험이 형성된다.
경험과 짬을 먹어가면 결국 자기만의 재활용 코드 블록을 만들고, 그 블록을 믿으면서, 점점 큰 프로그램을 만든다.
점점 코드 구현을 잊어가면서 대충 이런 코드 모양과 이런 흐름은 어떤 것을 만족하는가가 남는 것이다. 그리고 이 과정에서 코드 모양과 흐름을 보는 능력을 잃는다. 하지만 또 다른 능력이 발달한다. 나는 사람의 인지적인 한계가 있다고 믿는 사람이다.
그래도, 단일 에이전트의 경우에는 인간이 타이핑하고, 그때그때 작은 작업 내에서 어떤 프롬프트를 입력했는지에 대한 일관된 연속성 위에서 작업을 한다. 그러니까 적어도 흐름의 감각은 남는다.
문제는 병렬 에이전트의 감각은 이런 정보 흐름을 파악하는 것조차 방해한다.
코드를 직접 타이핑하지 않아도 10만 줄의 시스템을 통제할 수 있는 이유는, 최소한 그 코드들이 '단일한 시간축'과 '하나의 일관된 맥락' 위에서 생성되었기 때문이다. 내가 세부 구현은 잊었더라도 "이 데이터는 저 파이프라인을 타고 흘러가서 여기서 변환된다"는 거시적인 물줄기, 즉 '위상(Topology)'만큼은 내 머릿속에 남는 것이다. 세밀한 문법 감각을 잃는 대신, 적어도 그 형태 자체는 머릿속에 얼핏 그릴 수 있다.
그런데 병렬 에이전트와 소프트웨어 팩토리는 이러한 보루인 '인과관계의 연속성'을 토막낸다.
나는 AI가 인간보다 코드 블록을 잘짠다고 나는 생각한다. 모두보다는 잘 짜진 않겠지만, 대부분의 사람보다 작은 코드 블록에서 훨씬 잘 짠다고 나는 생각한다.
하지만 그렇게 잘 짠 코드 블록을 조합한다고 프로그램이 되는 것도 아니고, 결국 프로그램은 인간을 위한 것이다. AI 에이전트가 조합해 낸 결과가 과연 인간에게 맞을 것인가? 나는 잘 모르겠다.
AI의 코드는 너무 명시적이고, 묵시적으로 인간이 그럴 것이다라고 생각하는 가정마저 보여주는 경우가 많다. UI 같은 경우에도 보통 인간이라면 당연하겠지라고 감추는 것도 AI로 짜면 보기 싫어도 드러낸다. AI 코드는 인간 코드에 비해서 보여주는 정보량이 훨씬 많다. 그런 코드를 전부 병렬로 돌리게 된다면 이해할 수 있을까? 명세만으로도 프로그램을 다 안다고 할 수 있을까?
다시 EGM으로 돌아가서, EGM은 이론상으로는 훌륭하다. 금붕어 다섯 마리가 동시에 명세서를 받아서 각자 다른 관점에서 검토를 하고, 코끼리에게 결과를 돌려준다. 코끼리는 그 다섯 개의 피드백을 종합해서 구현 방향을 수정한다. 여기까지는 그럴듯하다.
그런데 그 '종합'의 순간, 개발자의 머릿속에서 무엇이 일어나는가.
나는 원래 A라는 파이프라인을 생각하고 있었다. 데이터가 들어가서 변환되고, 나가야 할 곳으로 나가는 그 물줄기. 단일 에이전트와 작업할 때는 내가 "여기서 이 필드를 추가해줘"라고 말하면, 에이전트가 그 물줄기 위에서 한 뼘을 고쳐준다. 나는 그 한 뼘이 전체 흐름에 어떤 영향을 주는지, 적어도 직관적으로는 추적할 수 있다.
그런데 금붕어 세 마리가 동시에 "이 지점에서 예외 처리가 빠져 있다", "이 의존성 순환이 위험하다", "이 인터페이스는 향후 확장을 막는다"라고 각각 다른 방향의 경고를 던지면, 코끼리는 그 세 가지를 동시에 반영한 수정안을 내놓는다.
그럼 그것이 내가 따라간 프로그램인가?
세 가지 수정이 서로 간섭하지 않는다는 보장이 없다. 하나가 고쳐지면 다른 하나의 전제가 흔들린다. 그런데 나는 그 세 가지가 각각 어떤 인과 경로로 그 결론에 도달했는지를 모른다. 금붕어는 이전 대화 이력이 없으니까. 코끼리가 "종합했다"고 말해주는 결과만 본다.
검토자를 늘리면 새로운 문제를 더 많이 발견할 수 있지만, 그 문제들을 해결하는 과정에서 발생하는 새로운 상호작용까지 자동으로 검증되는 것은 아니니까.
결국 나는 완성된 명세를 받고, "아, 이게 왜 이렇게 됐지?"를 역추적해야 한다. 단일 에이전트였으면 내가 프롬프트를 치는 순간순간 쌓아올린 맥락이 있으니까 "아, 아까 그 요청 때문에 이렇게 됐구나"가 즉각 된다. 병렬에서는 그게 안 된다. 다섯 개의 원인이 하나의 결과로 수렴하는 지점에서, 나는 원인을 복원할 수 없다.
애초에 명세가 완벽하면 AI를 완벽히 다룰 수 있다는 것도 나는 허상이라 생각한다.
내가 10만 줄을 다룰 수 있는 이유는, 그 10만 줄을 짜기 위한 명세가 내 머릿속에 존재하기 때문이 아니다. 그냥 10만줄이 만들어지는 과정을 겪었기때문이다.
처음에 빈 파일에서 시작했다. 이 모듈이 왜 필요했는지 기억한다. 저 인터페이스를 왜 그렇게 짰는지, 그때 어떤 버그를 만나서 방향을 틀었는지 기억한다. 코드의 형태가 아니라, 코드가 그렇게 형성된 시간을 기억하는 것이다.
경험과 짬이라는 게 결국 이것이다. 멱등성의 정의를 학술적으로 외우는 게 아니라, "이 코드 모양은 재호출해도 안전하다"는 형태적 직관을 몸에 새기는 것이며, 그 직관은 단일한 작업 축 내에서만 존재할 수 있다.
충분히 커지는 프로젝트의 개발자들은 특정 모듈에 핵심 메인 기여자를 두어 체크할 수 있지만, 개인 개발자들은 그럴 수가 없다. 거기에 더해서 AI 개발에서 어떻게 원인과 결과 전부를 추적할 수 있는가? 커뮤니티 프로젝트라면 커뮤니티 구성원이 그 정보를 가지고 합칠 수 있지만, 그것이 AI 프로젝트라면 그럴 수가 없다.
나는 생산성에 대한 집착을 이해할 수가 없다. 생산성에 대한 과잉 집착이야말로 악의 근본이다. 생산 한다는 것은 소비와 연결되어야한다. 소비는 여유에서 나온다.
그리고 소비에서 인간으로써 필요한 결핍을 찾는다. 사용하지 않으면, 왜 생산해야하는 지를 알 수가 없다. 배가 고프니까 식량을 생산 하는 것이고, 내가 불편하고 남이 불편하다는 것을 보니까 그걸 개선하려고 하는 것이다.
지금 소프트웨어가 정말 부족한 시대인가? 아니다. 오히려 개인 개발자조차도 너무 많은 기능을 넣고 있다.
AI 코드를 읽고 소비할 시간이 없는데, 어떻게 다음 층을 찾는단 말인가?
생산성의 가장 큰 문제는 소비를 생각하지 않게 한다는 것이다. 그리고 소비는 시간을 요구한다. AI가 뱉은 코드를 읽고, 의심하고, "이게 왜 이렇게 됐지"를 역추적하는 시간. 그 시간은 병렬화되지 않는다. 금붕어를 다섯 마리 돌려도, 코끼리가 그 다섯을 잘 종합해도, 그 종합을 소화하는 일은 여전히 한 사람의 직렬적인 시간 위에서 일어난다.
명세라는 것이 무엇인지 종종 생각한다. 좋은 명세란 무엇인가, 좋은 프로그램이란 무엇인가. 내 경험상 좋은 명세라도 어차피 프로그램을 써보면 백퍼센트 문제점이 발견되고, 가정이 깨진다. 결국 명세는 중요하지만, 또 가장 많이 바뀌어야하는 것이기도 하다. 내가 조합하지 않으면, 그 이후의 변경 사항에 대비할 수가 없어진다. 그럼, 그것을 좋은 프로그램이라 할 수 있는가?
나는 단일 에이전트로도 내 소비를 감당할 수 없는데, 병렬을 하라는 사람들의 말을 이해를 하지 못하겠다. 내가 머리가 나쁜건지 세상이 너무 빨리 변하는건지.