AI 에이전트 코드의 98.4%는 하네스다

AI 에이전트 코드의 98.4%는 하네스다.
나머지 1.6%만 모델이 담당한다.
Claude Code의 유출 소스코드를 분석한 논문이 이걸 밝혔다.

하네스가 뭐냐.
권한 관리, 컨텍스트 압축, 에러 복구, 도구 연결 같은 인프라다.
모델을 감싸서 안전하게 작동시키는 코드 전부.
핵심 루프는 while-true에 도구 호출뿐이다.
모델은 추론만 하고,
나머지 전부를 하네스가 처리한다.
논문은 이 설계를
"minimal scaffolding, maximal operational harness"
라고 부른다.

왜 이런 설계를 했는가.
Anthropic의 전제:
모델이 똑똑해질수록 모델을 제약하는 프레임워크보다,
모델이 자유롭게 작동할 수 있는 환경을 만드는 게 낫다.
LangGraph처럼 상태 그래프로 모델의 행동을 제한하는 방식과 정반대다.
의사결정 스캐폴딩을 최소화하고,
운영 인프라를 극대화한다.

보안 설계도 직관에 반한다.
사용자의 93%가 권한 요청을 승인한다는 내부 데이터가 나왔다.
Anthropic의 대응:
경고를 더 보여주는 게 아니라 경계를 재설계했다.
사람이 확인 안 해도 안전한 구조를 만든다.
7개의 독립적인 안전 레이어를 쌓았다.
하나가 뚫려도 나머지 6개가 막는다.
사용자의 주의력에 안전을 의존하지 않는다.

가장 도발적인 발견은 논문 끝에 있다.
Anthropic 내부 조사:
AI 과의존이 감독 역량을 위축시키는 "감독의 역설".
독립 연구: AI를 쓰는 개발자의 코드 이해도가 17% 낮다.
EEG 연구:
AI 사용자의 신경 연결성이 AI를 끊은 뒤에도 약화 지속.
AI가 단기 생산성을 올리는 건 데이터로 확인됐다.
문제는 장기 영향을 측정할 도구 자체가 아직 없다는 것이다.

논문은 이걸 "6번째 설계 가치"로 만들지 않았다.
분석 관점으로만 둔다.
현재 아키텍처에 장기 역량 보존을 위한 메커니즘이 없다는 걸 인정하면서도, 어떤 메커니즘이 필요한지 아직 모른다고 솔직하게 밝힌다.
도구가 인간을 증강하는가, 대체하는가.
이 질문에 아키텍처 수준의 답은 아직 없다.