에이전트를 운영하고 통제하는 레이어입니다
- Agent OS는 여러 에이전트의 작업을 등록, 정의, 승인, 검증, 기록하는 운영 레이어입니다.
- 일곱 기능은 처음에 한 번 하는 에이전트 등록과, 작업마다 거치는 여섯 단계(작업 정의, 모델 선택, 도구 연결, 권한·승인, 결과 검증, 감사 기록)입니다.
- 에이전트 등록, 권한·승인, 감사 기록부터 시작합니다. 컴퍼니 브레인이 완성되기를 기다리지 않습니다.
Agent OS는 조직의 에이전트를 운영하고 통제하는 레이어입니다. 컴퍼니 브레인(Company Brain) 위에서 작동합니다.
이 가이드의 명칭입니다. 업계 표준 용어는 아직 없습니다.
에이전트 하나를 혼자 쓸 때는 필요하지 않습니다. 여러 사람이 여러 에이전트에게 업무를 맡기면 작업 기준, 권한, 기록을 한곳에서 관리해야 합니다.
모델이 아닙니다
모델은 Agent OS가 작업마다 선택하는 엔진입니다.
에이전트 앱이 아닙니다
헤르메스나 AI 브라우저는 에이전트 하나가 실행되는 환경입니다.
지식 저장소가 아닙니다
회사의 지식과 규칙은 컴퍼니 브레인에 있습니다.
같은 개념의 다른 이름 (McKinsey, Microsoft, OpenAI, Anthropic)
| 기관 | 명칭 | 핵심 기능 |
|---|---|---|
| McKinsey | Agentic AI mesh | 에이전트 목록, 자산 등록소, 관측, 인증·권한, 평가, 피드백, 컴플라이언스 |
| Microsoft | Control plane (Agent 365) | 에이전트 등록 목록, 접근 통제, 활동 기록, 위험 에이전트 차단 |
| OpenAI | Enterprise platform (Frontier) | 업무 데이터를 묶은 시맨틱 레이어, 에이전트별 ID와 권한 |
| Anthropic | Claude Managed Agents | 세션 로그, 샌드박스, MCP 도구 연결, 완료 기준 평가. Claude 에이전트 전용 |
AIOS, MemGPT 같은 논문의 Agent OS는 에이전트 하나를 실행하는 런타임입니다. 이 페이지의 Agent OS와 다른 개념입니다.
레이어 네 개와 양옆의 두 요소
가운데 네 레이어는 위에서부터 업무 수행, 운영, 지식, 기존 시스템입니다.
- 범용 LLM
- 도메인 특화 LLM
- 사내 모델
- 활동 기록 수집
- 사람·에이전트 가동
- 비용·성과
- 이상 감지·중단
점선은 연결, Control Tower에서 Agent OS로 향하는 화살표는 중단 지시입니다.
- Hybrid Workforce 사람과 에이전트가 함께 일하는 업무 현장입니다. 작업을 요청하고 결과를 받습니다.
- Agent OS 작업을 시작하기 전과 진행하는 동안의 규칙을 적용합니다. 이 페이지의 주제입니다.
- Company Brain 판단 기준(업무 절차, 업무 규칙)을 제공하고, 작업 결과를 자산으로 쌓습니다.
- Control Tower 실행 기록을 모아 실시간으로 보고, 이상이 생기면 작업을 중단시킵니다.
| 연결 대상 | 받는 것 | 전달하는 것 |
|---|---|---|
| Hybrid Workforce | 사람과 에이전트의 작업 요청 | 검증을 통과한 결과, 승인 요청 |
| Company Brain | 업무 절차, 업무 규칙, 정제 데이터, 메타데이터, 의사결정 기록 | 작업 결과와 판단 근거 (도식의 "쌓이는 자산") |
| LLM | 모델의 응답 | 작업마다 지정한 모델로 보내는 요청 |
| Legacy Systems | 업무 시스템의 데이터 | 도구 연결을 거친 조회와 입력 |
| Control Tower | 이상 감지에 따른 중단 지시 | 실행 기록 (도식의 "에이전트 로그") |
등록 한 번, 작업마다 여섯 단계
에이전트 등록은 일을 시작하기 전에 한 번 합니다. 나머지 여섯 기능은 작업 하나가 진행되는 순서입니다.
에이전트 등록
모든 에이전트를 목록에 올리고 고유 ID와 서명 키를 부여합니다. 목록에 없거나 폐기된 에이전트는 회사 업무에 접근할 수 없습니다.
결과 검증
결과물을 완료 기준과 대조합니다. 규칙, 의미, 사람의 세 층으로 나눠 검증하고, 통과한 결과만 다음 단계로 전달합니다.
감사 기록
작업마다 에이전트 ID, 지시자, 모델과 도구, 승인자를 기록합니다. 기록은 Control Tower로 전달됩니다.
일곱 기능을 같은 틀(정하는 것, 판단 기준, 흔한 실패, 연결)로 설명합니다.
- 정하는 것
- 에이전트 목록, 에이전트마다 고유 ID와 서명 키, 책임지는 사람과 용도.
- 판단 기준
- 목록만 보고 에이전트마다 누가 책임지고 무엇에 쓰는지 답할 수 있습니까?
- 흔한 실패
- 직원 개인 계정이나 공유 API 키로 에이전트를 실행해서, 누가 실행했는지 구분하지 못합니다.
- 연결
- 04 도구 연결(접근 경로), 07 감사 기록(기록의 주체)
에이전트 신원 프로토콜(Agent Identity Protocol)은 에이전트에게 위조할 수 없는 신원을 부여하고, 호출할 때마다 그 신원을 확인하는 규약입니다. 사람 직원의 사번과 출입증에 해당합니다.
등록소가 고유 ID와 서명 키를 발급합니다. 책임지는 사람이나 조직을 함께 기록합니다.
에이전트는 도구를 호출할 때마다 서명을 붙입니다. 중간 확인 장치가 서명, 등록 상태, 재사용 여부를 검사합니다.
에이전트별로 쓸 수 있는 도구와 작업을 정합니다. 위험한 작업은 사람 승인으로 넘깁니다.
등록을 폐기하면 다음 호출부터 거부됩니다. 허용과 거부 판정을 모두 기록합니다.
Agent Identity Protocol이라는 이름을 쓰는 IETF 개인 초안이 세 건이고, 어느 것도 작업반에 채택되지 않았습니다. 인용할 때는 문서 이름과 판 번호를 함께 적습니다.
- 에이전트끼리 API 키를 공유하지 않습니다.
- 모든 에이전트에 책임지는 사람을 연결합니다.
- 자격 증명은 짧은 유효 기간으로 발급하고, 폐기 절차를 미리 정합니다.
표준 현황 보기 (IETF 초안, OpenID Foundation 백서)
| 문서 | 작성 | 상태 | 핵심 |
|---|---|---|---|
| OpenA2A Agent Identity Protocol | OpenA2A | 국제 인터넷 표준화 기구(IETF) 개인 초안, 04판(2026년 10월) | 에이전트마다 서명 키 쌍을 두고, 확인 요청에 서명으로 응답합니다. 신원 발급 내역은 수정할 수 없는 로그로 보관합니다. |
| Agent Identity Protocol: Agentic Authentication and Authorized Policy Enforcement | 개인 저자(NVIDIA 공동) | IETF 개인 초안, 2026년 3월, 만료 | 등록소와 중간 확인 장치의 두 층입니다. 도구 호출마다 서명 토큰과 에이전트별 정책을 확인합니다. |
| AI Identity Management System | IETF 워크로드 신원 작업반(WIMSE) | 작업반 초안, 01판(2026년 11월) | 새 프로토콜을 만들지 않고 기존 신원·위임 표준을 조합합니다. 고정 API 키 사용은 피해야 할 방식으로 규정합니다. |
| Identity Management for Agentic AI | OpenID Foundation | 백서, 2025년 10월 | 에이전트가 사용자를 사칭하지 않고, 위임받은 권한으로 일해야 한다고 권고합니다. |
- 정하는 것
- 맡길 범위와 맡기지 않을 범위, 입력 자료의 출처, 합격 조건을 문장으로 쓴 완료 기준.
- 판단 기준
- 다른 사람이 같은 정의로 지시해도 같은 결과가 나옵니까?
- 흔한 실패
- "보고서 정리해 줘"처럼 완료 기준 없이 맡겨서, 검증 단계에서 판정할 근거가 없습니다.
- 연결
- 컴퍼니 브레인의 업무 절차, 06 결과 검증(완료 기준)
- 정하는 것
- 데이터 보안 등급별로 허용하는 모델 목록, 업무 난이도별 기본 모델, 모델을 바꿀 때 다시 검증할지 여부.
- 판단 기준
- 사내 데이터가 승인 목록 밖의 모델로 전송되지 않습니까?
- 흔한 실패
- 직원이 개인 계정의 모델에 사내 자료를 붙여 넣습니다.
- 연결
- 07 감사 기록(사용한 모델을 기록), Liner Router API(사례)
- 정하는 것
- 연결할 시스템 목록, 시스템별 읽기·쓰기 구분, 연결마다 책임질 담당자.
- 판단 기준
- 읽기만으로 충분한 업무에 쓰기 권한을 주지 않습니다(최소 권한).
- 흔한 실패
- 공유 API 키로 연결해서, 에이전트를 폐기한 뒤에도 접근 경로가 남습니다.
- 연결
- 01 에이전트 등록(누가 접근하는가), 05 권한·승인(쓰기 작업의 승인)
- 정하는 것
- 승인 대상 작업(결제, 대외 발송, 삭제처럼 되돌릴 수 없는 작업), 작업별 승인권자, 금액이나 건수 한도.
- 판단 기준
- 되돌릴 수 없는 작업입니까? 회사 밖으로 나가는 작업입니까?
- 흔한 실패
- 승인 대상을 너무 넓게 잡아 요청이 쌓이고, 승인권자가 내용을 보지 않고 승인합니다. 대상은 적게, 한도는 숫자로 정합니다.
- 연결
- 컴퍼니 브레인의 업무 규칙, 07 감사 기록(승인자 기록). 결과가 맞는지 보는 일은 06의 사람 확인입니다.
- 정하는 것
- 검증 층(규칙, 의미, 사람)과 층마다 판정 기준, 불합격일 때 재작업 경로.
- 판단 기준
- 작업 정의의 완료 기준으로 합격과 불합격을 판정할 수 있습니까?
- 흔한 실패
- 결과를 만든 모델과 같은 방식의 모델에게만 검증을 맡겨, 같은 유형의 오류를 놓칩니다.
- 연결
- 02 작업 정의(완료 기준), 컴퍼니 브레인의 업무 규칙(규칙 검증의 기준)
LLM이 만든 결과를 같은 방식의 LLM이 검증하면 같은 유형의 오류를 놓칠 수 있습니다. 규칙으로 판정할 수 있는 항목은 기호 추론에 맡기고, 나머지는 LLM 비평가와 사람이 확인합니다.
판정 같은 입력에 항상 같은 판정을 내리고, 위반한 규칙을 지목합니다.
규칙 검증이 읽는 기준입니다. 문서화된 규칙이 없으면 자동 검증을 할 수 없습니다.
판정 확률적으로 판정합니다. 비평가를 여럿 두어 편차를 줄입니다.
판정 최종 책임을 집니다. 영향이 큰 결과에만 둡니다. 실행 전 승인은 기능 05가 맡습니다.
- 규칙으로 쓸 수 있는 항목만 판정합니다. 보고서의 논리나 전략의 타당성은 규칙으로 표현할 수 없습니다.
- 규칙의 형식화가 병목입니다. 자연어 규칙을 논리식으로 옮기는 단계도 LLM이 맡으므로, 이 단계에서 오류가 생길 수 있습니다.
- 정확도 수치는 공급사 발표입니다. AWS가 밝힌 "검증 정확도 최대 99%"는 독립 검증을 거치지 않았습니다. AWS Automated Reasoning checks는 영어만 지원하고 프롬프트 인젝션은 막지 못합니다.
뉴로 심볼릭(neuro-symbolic)의 유래 보기 (1943~2025년, 열한 항목)
뉴로 심볼릭은 신경망과 기호 추론을 결합한 방식입니다. 신경망은 데이터에서 패턴을 학습하고, 기호 추론은 규칙과 논리로 판정합니다. 두 방식은 인공지능 연구 초기부터 따로 발전했습니다.
- 1943신경세포의 수학 모델
워런 매컬럭(Warren McCulloch, 1898~1969)과 월터 피츠(Walter Pitts, 1923~1969)가 신경세포를 논리 회로로 표현했습니다.
- 1956논리 이론가(Logic Theorist)
앨런 뉴얼(Allen Newell, 1927~1992)과 허버트 사이먼(Herbert A. Simon, 1916~2001)이 기호와 규칙으로 수학 정리를 증명하는 프로그램을 공개했습니다.
- 1958퍼셉트론
프랭크 로젠블랫(Frank Rosenblatt, 1928~1971)이 데이터에서 학습하는 신경망을 발표했습니다.
- 1970~1980년대전문가 시스템
전문가의 지식을 ‘~이면 ~이다’ 형식의 규칙으로 옮긴 시스템이 기업에 보급됐습니다. 규칙을 사람이 직접 작성해야 해서 확장에 한계가 있었습니다.
- 2005신경-기호 학습·추론 워크숍
두 방식을 결합하는 연구가 매년 국제 학회의 정규 워크숍으로 열리기 시작했습니다.
- 2008Z3
마이크로소프트 리서치(Microsoft Research)가 논리식이 참이 될 수 있는지 자동으로 판정하는 엔진(SMT 솔버)을 발표했습니다. 소프트웨어 검증에 널리 쓰이며, 지금은 MIT 라이선스 오픈소스입니다.
- 2013Lean
마이크로소프트 리서치에서 시작한 증명 보조기입니다. 수학 증명이 맞는지 기계가 한 단계씩 검사합니다. 2023년부터 비영리 조직 Lean FRO가 개발을 이끕니다. 2024년 구글 딥마인드의 AlphaProof가 Lean으로 증명을 검증했습니다.
- 2020The Third AI Summer
미국 인공지능학회(AAAI) 기념 강연에서 신경망과 기호 추론을 결합하는 방식을 유형별로 정리했습니다.
- 2024AlphaGeometry
구글 딥마인드가 네이처(Nature)에 발표했습니다. 언어 모델이 보조선을 제안하고 기호 추론 엔진이 증명합니다. 국제수학올림피아드 기하 문제 30개 중 25개를 풀었습니다(기존 최고 기록 10개).
- 2024Azure AI Content Safety 근거성 검사
마이크로소프트가 답변이 사용자가 제공한 원문에 근거하는지 판정하는 기능을 발표했습니다. 형식 검증이 아니라 의미 검증 층에 해당하는 도구입니다.
- 2025AWS Automated Reasoning checks
생성형 AI의 답이 업무 정책에 맞는지 형식 검증으로 판정하는 기능을 정식 출시했습니다.
- 정하는 것
- 기록 항목(에이전트 ID, 지시자, 모델, 도구, 승인자, 결과), 보관 기간, 기록을 조회할 수 있는 사람.
- 판단 기준
- 사고 한 건을 기록만으로 지시부터 결과까지 재구성할 수 있습니까?
- 흔한 실패
- 도구마다 기록이 따로 남아서 한 작업의 진행 과정을 추적하지 못합니다.
- 연결
- Control Tower(실시간 관제와 중단), 컴퍼니 브레인(결과와 판단 근거 축적)
에이전트 도구와 Agent OS를 구분하는 다섯 가지 기준
에이전트 도구는 에이전트가 실행되는 환경이고, Agent OS는 그 에이전트들을 운영하는 레이어입니다.
| 기준 | 에이전트 도구 | Agent OS |
|---|---|---|
| 적용 단위 | 한 사람의 작업 환경 | 조직의 모든 에이전트 |
| 판단 기준의 출처 | 사용자가 매번 입력하는 지시와 개인 기억 | 컴퍼니 브레인의 업무 절차와 규칙 |
| 일곱 기능 | 도구마다 한두 가지를 각자의 방식으로 제공 | 일곱 가지를 한곳에서 같은 기준으로 관리 |
| 기록이 남는 곳 | 도구마다 별도 저장 | Control Tower와 컴퍼니 브레인 |
| 선택할 때의 질문 | 에이전트를 어디에서 실행하는가 | 누가 정의하고, 승인하고, 검증하고, 기록하는가 |
등록, 권한·승인, 감사 기록부터 시작합니다
세 기능은 컴퍼니 브레인 없이도 시작할 수 있습니다. 작업 정의와 결과 검증은 업무 절차와 규칙이 있어야 자동화되므로, 컴퍼니 브레인을 정리하면서 붙입니다.
에이전트 목록, 승인 대상 작업, 기록 형식을 정합니다. 사내 데이터를 보내도 되는 모델 목록도 이때 함께 정합니다.
컴퍼니 브레인에 업무 절차와 규칙을 정리하고, 완료 기준과 규칙 검증을 붙입니다.
맡기는 업무와 연결 시스템이 늘어나면 업무별 기본 모델과 접근 경로를 한곳으로 모읍니다.
컴퍼니 브레인의 구축 방법은 컴퍼니 브레인이란에 있습니다.
답하지 못한 항목이 지금 조직에 없는 기능입니다.
Agent OS 아래 레이어의 구조와 사례 가이드 에이전트 도구 안내
여덟 도구와 일곱 기능 판정표 가이드 헤르메스 사용 사례
Hybrid Workforce 레이어의 사례 가이드 Liner Router API
모델 선택 기능의 사례 가이드 Seizing the agentic AI advantage
McKinsey · 2025년 6월 · agentic AI mesh의 설계 원칙 다섯 가지와 역량 일곱 가지 보고서 The agentic organization
McKinsey · 2025년 9월 · 실시간 거버넌스, 통제 에이전트, 에이전트 수명 주기 관리 보고서 Practices for Governing Agentic AI Systems
OpenAI · 2023년 12월 · 승인 요구, 자동 모니터링, 귀속성, 중단 가능성 등 실천 원칙 일곱 가지 백서 Introducing OpenAI Frontier
OpenAI · 2026년 2월 · 기업용 시맨틱 레이어, 에이전트별 ID와 권한, 성능 평가 발표 Our framework for developing safe and trustworthy agents
Anthropic · 2025년 8월 · 사람의 통제, 투명성, 보안 등 원칙 다섯 가지 발표 Microsoft Agent 365 overview
Microsoft · 에이전트 등록 목록, 접근 통제, 활동 기록, 위험 에이전트 차단 문서 Guardian agents 전망
Gartner · 2025년 6월 · 에이전트를 감시하고 차단하는 에이전트 발표 Visibility into AI Agents
Chan 외 · ACM FAccT 2024 · 에이전트 식별자, 실시간 모니터링, 활동 기록 논문 AIOS: LLM Agent Operating System
Mei 외 · COLM 2025 · 에이전트 실행 런타임 수준의 운영체제 논문 Solving olympiad geometry without human demonstrations
Trinh 외 · Nature 2024 · AlphaGeometry 논문 The Third AI Summer
AI Magazine 2022 · 미국 인공지능학회 기념 강연(2020) 정리 논문 Automated Reasoning checks 정식 출시
AWS · 2025년 8월 · 형식 검증으로 생성형 AI 답 판정 발표 Automated Reasoning checks 사용 안내
AWS · 지원 언어와 제약 문서 Z3 프로젝트
Microsoft Research · 2008 · 논리식 판정 엔진(SMT 솔버) 프로젝트 Lean FRO 소개
Lean FRO · 2013년 시작, 2023년 비영리 조직 설립 소개 AI achieves silver-medal standard solving IMO problems
Google DeepMind · 2024년 7월 · AlphaProof의 Lean 검증 발표 Announcing new tools in Azure AI
Microsoft · 2024년 3월 · 근거성 검사 발표 발표 Groundedness detection 문서
Microsoft Learn · 원문 근거 판정 방식과 제약 문서 OpenA2A Agent Identity Protocol (AIP)
IETF 개인 초안 · 04판 2026년 10월 초안 Agent Identity Protocol: Agentic Authentication and Authorized Policy Enforcement
IETF 개인 초안 · 2026년 3월 · 만료 초안 AI Identity Management System
IETF WIMSE 작업반 초안 · 01판 2026년 11월 초안 Identity Management for Agentic AI
OpenID Foundation 백서 · 2025년 10월 백서
다음 단계
점검 질문에 답한 뒤, 사용 중인 도구가 어떤 기능을 제공하는지 판정표에서 확인합니다.