본 글은 하네스 엔지니어링 with 클로드 코드 기반으로 작성되었습니다. 해당 책을 같이 보시면 이해에 도움이 됩니다
https://product.kyobobook.co.kr/detail/S000220048885

Part 02. 하네스 구성하기: 에이전트 · 스킬 · 오케스트레이터의 책임 분리

Chapter 03. 3대 핵심 요소와 책임 분리

한 장의 종이에 모든 걸 적으면 생기는 일

학급 규칙을 정할 때 한 장의 종이에 "반장의 역할, 청소도구 사용법, 지각생 벌점 기준, 축제 준비 순서"를 빽빽하게 다 적어두면 어떻게 될까요? 청소당번이 자기 할 일을 찾으려다가 축제 준비 규칙을 읽고 헷갈려 엉뚱한 행동을 하게 됩니다.

AI도 마찬가지입니다. 프롬프트 하나에 페르소나(성격), 사용할 도구 목록, 전체 작업 순서를 한꺼번에 다 적어두면 AI의 머릿속이 복잡해져서 도구를 엉뚱한 곳에 쓰거나 거짓말(환각)을 하기 시작합니다. 그래서 우리는 일을 셋으로 엄격하게 쪼개야 합니다.

3대 핵심 요소의 명확한 역할

  • 에이전트 (Agent - 사람): "나는 누구인가?"를 정합니다. 성격, 말투, 전문 분야, 그리고 절대 넘지 말아야 할 규칙을 담습니다.
  • 스킬 (Skill - 도구): "어떤 연장을 쓸 수 있는가?"를 정합니다. 계산기, 인터넷 검색기, 사전처럼 필요할 때 손에 쥐여주는 도구 사용법입니다.
  • 오케스트레이터 (Orchestrator - 진행자): "누가 언제 나설 차례인가?"를 정합니다. 1번 주자가 끝나면 2번 주자에게 신호를 주는 '신호등' 역할만 맡습니다.

Chapter 04. 에이전트(Agent) 정의와 가드레일

에이전트에게 명확한 신분증 만들어주기

에이전트를 만들 때는 "너는 똑똑한 조수야"라고 뭉뚱그려 말하면 안 됩니다. 학생증처럼 이름표와 맡은 과목을 정확히 적어주어야 합니다.

  • 이름: 수학 채점관
  • 목표: 풀이 과정에서 덧셈/뺄셈 기호가 틀렸는지만 찾아낸다.

'절대 하지 말아야 할 일'을 먼저 정하기

에이전트가 똑똑하게 일하게 만드는 진짜 비결은 "무엇을 해라"보다 "이것만큼은 절대 하지 마라"를 정해두는 것입니다. 이를 가드레일(안전 울타리)이라고 부릅니다.

  • "틀린 문제를 네가 직접 다시 풀어주지 마라." (채점만 할 것)
  • "학생에게 친절한 위로의 말을 덧붙이지 마라." (결과만 건넬 것)

이런 금지선을 명확히 그어두지 않으면, 에이전트는 친절함을 발휘하려다 정작 중요한 채점 규칙을 어기게 됩니다.


Chapter 05. 스킬(Skill) 설계와 점진적 공개(Progressive Disclosure)

AI는 도구의 '이름'이 아니라 '설명'을 보고 고른다

필통 속에 여러 자루의 펜이 들어있을 때, 펜 뚜껑에 'Pen_01'이라고 적혀 있으면 어떤 펜을 써야 할지 알 수 없습니다. "이것은 빨간색 채점용 펜입니다"라는 설명표가 붙어 있어야 알맞게 집어 듭니다.

AI에게 도구를 줄 때도 마찬가지입니다. 도구 이름보다 "이 도구는 언제, 왜 써야 하는지"를 명확한 문장으로 적어주는 것(Description)이 핵심입니다.

도서관 책 찾기: 점진적 공개

도서관에 가서 책을 찾을 때 처음부터 10만 권의 책을 다 꺼내서 바닥에 펼쳐놓지 않습니다.

  1. 먼저 컴퓨터 검색창(목차)에서 책이 어느 서가에 있는지 위치만 확인합니다.
  2. 그 서가로 걸어가서 필요한 책 딱 1권만 꺼내 읽습니다.
  3. 다 읽었으면 책을 제자리에 꽂아두고 빈손으로 나옵니다.

AI 시스템도 똑같습니다. 처음부터 수십 개의 도구 매뉴얼을 다 읽히지 않고, 목차만 보여주었다가 진짜 필요한 순간에만 도구 설명서를 쥐여주는 방식을 써야 머리가 복잡해지지 않고 요금도 절약됩니다.


Chapter 06. 오케스트레이터와 통신 프로토콜

반장은 모든 숙제를 대신 검사하는 사람이 아니다

팀 프로젝트를 할 때 제일 나쁜 반장은 모든 조원들의 숙제를 자기가 중간에서 일일이 받아 읽고, 수정해서 다음 친구에게 전달하는 반장입니다. 반장은 지쳐 쓰러지고, 중간에 전달을 잘못해서 숙제가 엉망이 됩니다.

훌륭한 오케스트레이터는 '신호등' 역할만 합니다.

  • 글쓴이 AI가 초안을 다 썼으면, 오케스트레이터는 "초안 작성 완료 신호"만 확인합니다.
  • 내용을 직접 읽어서 고치지 않고, "자, 이제 검토자 AI 차례야. 파일 확인해"라고 순서만 넘겨줍니다.

도저히 못 푸는 문제는 선생님 바구니(manual-queue)로

아무리 훌륭한 AI라도 사람이 보기에 애매하거나 위험한 3%의 예외 문제는 생기기 마련입니다.

이때 AI가 억지로 답을 지어내게 내버려두면 대형 사고가 납니다. AI가 처리할 수 있는 범위를 벗어났다면 즉시 "사람 확인 필요 바구니(manual-queue)"에 그 작업을 쏙 집어넣고 빠져야 합니다. 3%의 까다로운 문제는 사람이 직접 검토하게 분리하는 것이 전체 시스템을 가장 안전하게 지키는 방법입니다.

반응형