대부분의 AI 어시스턴트는 무언가를 물을 때까지 대기합니다. 질문을 입력하면 답하고 다시 기다립니다. 무역 규정 준수에서 이 모델에는 근본적인 문제가 있습니다. 위험은 누군가 질문할 때까지 기다리지 않습니다.
Atlas Verified는 누구도 프롬프트를 입력하지 않아도 일정에 따라 공급망을 지속적으로 모니터링하고 정부 데이터베이스를 확인하며 규정 준수 위험을 찾아내는 자율 클라우드 에이전트 시스템을 구축했습니다. 플랫폼의 모든 조직에서 백그라운드로 실행되며 체계적인 인텔리전스를 대시보드에 직접 제공합니다.
이 글에서는 상시 가동 AI 에이전트의 엔지니어링을 다룹니다. 대화형 AI와의 차이, 정형 출력이 중요한 이유, 대규모 자율 에이전트 운영의 통합 실행 과제를 살펴봅니다.
반응형에서 선제형으로
대화형 AI는 본질적으로 반응형입니다. 사용자가 질문하면 모델이 추론하고 도구를 호출하고 답변합니다. 이는 비정기적인 조사와 문서 분석에는 적합하지만 규정 준수 모니터링에는 선제적인 인텔리전스가 필요합니다.
이런 상황을 생각해 보세요. 공급업체의 유기농 인증이 밤사이 USDA에 의해 정지됩니다. 그 공급업체의 화물은 이미 운송 중입니다. 새로운 OFAC 지정으로 운송 주선업체가 제재 목록에 추가됩니다. 현재 수입 중인 원자재에 FDA 수입 경보가 발령됩니다.
어느 사건도 규정 준수 담당자가 로그인하여 적절한 질문을 할 때까지 기다리지 않습니다. 누군가 확인할 생각을 할 때쯤이면 선제적으로 조치할 기회가 닫혔을 수 있습니다. 제품은 항만에 있고 서류는 제출되었으며 책임 노출은 현실입니다.
클라우드 에이전트는 관계를 뒤집어 이를 해결합니다. 사용자가 AI를 움직이는 대신 AI가 일정에 따라 스스로 작동하며 중요한 모든 것을 확인하고 조사 결과를 사용자에게 전달합니다.
사분면별 에이전트 아키텍처
처음 클라우드 에이전트 시제품을 만들 때는 규제 변경, 공급업체 상태, 화물 추적, 문서 처리를 모두 담당하는 단일 에이전트를 시도했습니다. 초점이 없고 장황한 출력이 나왔습니다. 에이전트는 흥미로운 주제 하나를 따라가면서 인텔리전스 범주 전체를 무시하곤 했습니다.
해결책은 문제 영역을 사분면이라 부르는 집중된 분야로 나누는 것이었습니다.
인텔리전스. 규제 경보, 시장 동향, 여러 영역에 걸친 위험입니다. 이 에이전트는 새로운 FDA 수입 경보, OFAC 목록 업데이트, 관세 변경, 유기농 인증 상태 변경 등 조직에 영향을 주는 변화를 정부 데이터베이스에서 모니터링합니다.
공급업체. 공급업체 네트워크의 건전성입니다. 이 에이전트는 공급업체 검증 상태, 규정 준수 공백, 인증 만료, 네트워크 집중 위험을 검토합니다. 유기농 공급의 80%가 한 인증기관에서 나오면 이를 표시합니다.
화물. 진행 중인 화물 모니터링입니다. 이 에이전트는 선박 위치를 추적하고 경로 이탈을 모니터링하며 지연을 확인하고 화물 문서가 완전한지 검증합니다. 예상보다 항만에 오래 머무는 컨테이너나 신고 경로를 벗어나는 선박 같은 문제를 찾아냅니다.
작업 공간. 운영 건전성입니다. 이 에이전트는 문서 처리 상태, 대기 중인 검증, 팀 활동, 플랫폼 사용 패턴을 검토합니다. 처리가 실패하여 조치가 필요한 문서나 너무 오래 대기 중인 검증 같은 사항을 찾아냅니다.
각 에이전트는 집중된 시스템 프롬프트와 해당 분야에 관련된 제한된 도구 집합으로 실행됩니다. 전문팀이 한 명의 범용 전문가보다 뛰어난 이유와 같은 이유, 즉 깊이 있는 집중으로 인해 하나의 전지적인 에이전트보다 훨씬 좋은 출력을 생성합니다.
채팅 에이전트와 도구 계층 공유
가장 중요한 아키텍처 결정 중 하나는 클라우드 에이전트가 대화형 채팅 에이전트와 완전히 동일한 도구 계층을 사용하도록 한 것입니다. 같은 OFAC 심사, USDA 조회, 선박 추적, 무역 데이터 질의, 문서 분석 도구가 두 시스템을 지원합니다.
이는 상당한 엔지니어링 이점을 제공합니다.
도구 중복 없음. 새 데이터 출처를 추가하거나 기존 어댑터를 개선하면 채팅 에이전트와 클라우드 에이전트가 모두 즉시 혜택을 받습니다. 구현도 하나, 테스트 집합도 하나, 유지보수 대상도 하나입니다.
일관된 결과. 클라우드 에이전트가 실행하는 제재 확인과 사용자가 채팅에서 실행하는 제재 확인은 같은 논리의 같은 함수를 호출합니다. 결과를 직접 비교하고 교차 대조할 수 있습니다.
과제는 대화형 사용을 위해 설계된 도구가 일괄 처리 맥락에서는 항상 같은 방식으로 작동하지 않는다는 것입니다. 채팅 에이전트는 질의가 모호하면 사용자에게 설명을 요청할 수 있지만 클라우드 에이전트는 할 수 없습니다. 더 구체적인 프롬프트와 더 높은 재귀 한도를 제공하여 이를 처리합니다. 실시간으로 응답을 기다리는 사람이 없으므로 스스로 수정할 시간이 더 많습니다.
정형 출력: 자유 텍스트에서 대시보드 카드로
여기서 클라우드 에이전트와 채팅 에이전트의 차이가 가장 뚜렷합니다. 채팅 에이전트는 때때로 정형 카드를 포함하는 서술형 텍스트를 생성합니다. 클라우드 에이전트는 대시보드에 직접 표시되는 정형 출력만 생성해야 합니다.
각 에이전트 실행은 인텔리전스 카드 배열을 생성합니다. 각 카드에는 정해진 유형과 스키마가 있습니다.
집계 카드 는 진행 중인 전체 화물, 인증 만료가 다가오는 공급업체, 대기 중인 검증 등 주요 지표를 동향 표시와 함께 보여줍니다.
위험 표시 는 인증이 정지된 공급업체, 제재 대상 일치, FDA 수입 경보 등 조치가 필요한 구체적인 규정 준수 우려를 강조합니다.
알림 은 규제 변경, 새로운 OFAC 지정, 진행 중인 화물에 영향을 주는 관세 업데이트 등 시간에 민감한 정보를 전달합니다.
차트와 표 는 화물 물량 동향, 무역 경로 분포, 검증 완료율 등 분석 데이터를 제시합니다.
지도 는 선박 위치, 항만 활동, 공급업체 분포 등 지리적 인텔리전스를 보여줍니다.
엔지니어링 과제는 LLM이 유효한 정형 출력을 일관되게 생성하도록 제한하는 것입니다. 언어 모델은 서술하고 싶어 하며 설명하고 조건을 덧붙이고 싶어 합니다. 올바른 유형, 필드, 데이터가 있는 깔끔한 카드 JSON 배열을 생성하게 하려면 신중한 프롬프트 엔지니어링과 출력 검증이 필요합니다.
에이전트 출력이 예상 카드 스키마와 일치하지 않으면 실행 전체를 실패시키는 대신 가능한 부분을 파싱하고 잘못된 형식의 카드는 버립니다. 부분적인 인텔리전스가 없는 것보다 낫습니다.
맞춤형 에이전트: 사용자 정의 자율 모니터
네 개의 시스템 에이전트 외에도 사용자는 자신만의 클라우드 에이전트를 만들 수 있습니다. 맞춤형 에이전트에는 이름, 사용자가 작성한 시스템 프롬프트, 일정이 있습니다. 같은 도구 계층을 사용하고 같은 카드 유형을 생성하지만 중점은 전적으로 사용자가 정합니다.
사용자는 특정 무역 경로의 중단을 모니터링하는 에이전트를 만들 수 있습니다. 특정 공급업체 집합을 매일 제재 목록과 대조하는 에이전트나 무역 데이터 출처로 특정 원자재의 가격 변동을 추적하는 에이전트도 만들 수 있습니다. 가능성은 도구 계층이 접근할 수 있는 것에 의해서만 제한됩니다.
이를 안전하고 유용하게 만들기 위해 몇 가지 엔지니어링 결정이 필요했습니다.
조직별 범위 설정. 각 맞춤형 에이전트는 조직에 속하며 해당 조직의 데이터에만 접근할 수 있습니다. 사용자 프롬프트가 시도하도록 해도 에이전트는 조직 경계를 넘을 수 없습니다.
도구 기능 필터링. 맞춤형 에이전트는 시스템 에이전트와 같은 검증 및 조사 도구에 접근하지만 조직의 권한 경계를 상속합니다. 사용자가 채팅 인터페이스에서 직접 접근할 수 없는 도구나 데이터에는 맞춤형 에이전트도 접근할 수 없습니다.
일정 관리. 맞춤형 에이전트는 사용자 정의 일정에 따라 실행되지만 플랫폼 제약 내에서 작동합니다. 이를 통해 한 조직이 수십 개 에이전트를 매시간 실행하도록 예약하여 과도한 연산 자원을 소비하는 것을 방지합니다.
대규모 통합 실행
여러 조직에서 자율 에이전트를 매일 일정에 따라 실행하면 채팅 기반 시스템에는 없는 통합 실행 과제가 생깁니다.
중복 제거. 스케줄러가 실행되었을 때 조직 A의 에이전트가 중복 제거 기간 내에 이미 실행되었다면 건너뜁니다. 이를 통해 재시도, 겹치는 일정, 스케줄러의 일시적 문제로 인한 이중 실행을 방지합니다. 각 에이전트와 조직의 조합은 고유한 예약 실행 단위로 취급됩니다.
실패 격리. 도구 오류, LLM의 파싱 불가능한 출력, 의존 서비스 중단 때문에 한 조직의 에이전트가 실패하더라도 다른 조직의 에이전트 실행에 영향을 주어서는 안 됩니다. 각 실행은 독립적인 작업입니다. 실패를 로그에 기록하고 실행을 실패로 표시한 뒤 스케줄러는 다음으로 진행합니다.
카드 생애주기. 인텔리전스 카드에는 유효 기간이 있습니다. 오래된 카드는 만료되고 에이전트가 다시 실행되면 교체됩니다. 이를 통해 오래된 조사 결과가 누적되는 대신 대시보드에 항상 최신 인텔리전스가 표시됩니다. 에이전트가 새 카드를 생성하면 해당 사분면의 이전 카드가 원자적으로 교체됩니다.
자원 예산 관리. 에이전트 실행은 LLM 토큰, 외부 API 호출, 데이터베이스 연결을 소비합니다. 비용을 관리하고 과도한 자원을 소비하는 에이전트를 식별하기 위해 실행별 및 조직별 토큰 사용량을 추적합니다. 10번이면 충분할 때 50번의 도구 호출을 하는 통제되지 않는 에이전트는 표시됩니다.
Cloud Agents와 채팅 연결
클라우드 에이전트와 채팅 에이전트는 분리된 시스템이 아닙니다. 피드백 루프를 형성합니다.
채팅 에이전트는 클라우드 에이전트 출력을 조회할 수 있습니다. 사용자가 "내 에이전트가 무엇을 발견했나요?" 또는 "알아야 할 규정 준수 위험이 있나요?"라고 물으면 최신 인텔리전스 카드를 가져와 대화 형식으로 제시합니다. 위험 표시를 설명하고 추가 맥락을 제공하거나 조사 결과에 대해 사용자가 조치하도록 도울 수 있습니다.
이는 자연스러운 워크플로를 만듭니다. 클라우드 에이전트가 밤사이 문제를 찾아내고 사용자는 아침에 대시보드를 검토하며 조사 결과를 더 깊이 살펴보고 싶으면 채팅 대화를 엽니다. 채팅 에이전트는 클라우드 에이전트가 발견한 내용을 이미 알고 있으므로 그 지점에서 이어갈 수 있습니다.
반대 방향도 작동합니다. 사용자 채팅 상호작용에서 나타나는 패턴은 클라우드 에이전트 프롬프트 조정에 활용됩니다. 클라우드 에이전트가 찾아내지 못하는 특정 유형의 위험을 사용자가 자주 묻는다면 에이전트의 중점을 조정해야 한다는 신호입니다.
배운 교훈
자율 AI 에이전트를 구축하면서 대화형 에이전트를 만들 때는 명확하지 않았던 교훈을 얻었습니다.
정형 출력은 자유 텍스트보다 어렵습니다. LLM이 유효하고 스키마에 부합하는 JSON을 일관되게 생성하게 하는 것은 좋은 문단을 쓰게 하는 것과 상당히 다른 과제입니다. 모델은 설명하고 싶어 하므로 그 분석 에너지를 정형 필드로 이끌어야 합니다.
범위가 전부입니다. 명확한 분야에 집중하는 에이전트는 모든 것에 접근하는 광범위한 에이전트보다 더 좋은 인텔리전스를 생성합니다. 사분면별 에이전트 아키텍처는 당사가 이룬 가장 큰 단일 품질 개선이었습니다.
부분적인 결과가 실행 실패보다 낫습니다. 일괄 처리 시스템에서는 문제가 생겼을 때 사용자에게 무엇을 할지 물을 수 없습니다. 생성할 수 있는 카드를 생성하고 공백을 명시하는 점진적인 기능 축소가 필수적입니다.
사용자는 통제를 원합니다. 맞춤형 에이전트는 가장 많이 요청받는 기능 중 하나로 드러났습니다. 규정 준수 전문가는 어떤 범용 시스템보다 자신의 구체적인 위험을 잘 압니다. 자연어로 자율 모니터를 프로그래밍할 수 있게 하자 상당한 가치가 창출되었습니다.
피드백 루프가 중요합니다. 클라우드 에이전트와 채팅 에이전트는 각각 단독으로 있을 때보다 함께 있을 때 더 가치가 있습니다. 선제적인 인텔리전스가 의제를 정하고 대화형 AI가 깊이를 제공합니다. 처음부터 이 양방향 흐름을 고려한 설계는 두 시스템을 모두 개선했습니다.
앞으로의 방향
클라우드 에이전트는 규정 준수에서 AI를 바라보는 방식의 근본적인 전환을 나타냅니다. 질문은 "요청받았을 때 AI가 무엇에 답할 수 있는가"가 아니라 "요청받지 않아도 AI가 무엇을 확인해야 하는가"입니다.
더 많은 데이터 출처로 도구 계층을 확장하고 규제 환경이 더 복잡해질수록 자율 모니터링의 가치는 커집니다. 규정 준수 전문가의 하루는 여섯 개 정부 데이터베이스와 세 개 추적 서비스를 수동으로 확인하는 것으로 시작해서는 안 됩니다. 밤사이 정확히 무엇이 바뀌었고 무엇에 주의를 기울여야 하는지 알려주는 대시보드로 시작해야 합니다.
클라우드 에이전트가 제공하는 것이 바로 이것입니다. 이를 신뢰할 수 있고 확장 가능하며 유용하게 만드는 엔지니어링 과제는 당사가 다루는 가장 보람 있는 문제 중 하나입니다.
Atlas Verified의 클라우드 에이전트는 공급망을 자율적으로 모니터링하고 정부 데이터베이스를 확인하며 규정 준수 위험을 찾아내므로 규정 준수 전문가는 데이터 수집 대신 결정에 집중할 수 있습니다.