기업에서 전사용 워크플레이스 에이전트 시스템을 구축할 때 단순히 LLM API만으로는 복합적이고 복잡한 기업 환경의 요구사항을 충족하기 어려운 다양한 한계가 존재합니다.

본 분석에서는 토큰 한도, 컨텍스트 윈도우 제약, 숫자적 능력의 한계, 함수 호출의 복잡성 등 기술적 제약사항들과 함께 LLM 래퍼 서비스가 에이전틱 기능을 제공하지 않는 구조적 한계를 종합적으로 검토합니다. 특히 OpenAI, Claude, Google Gemini 등 주요 LLM 제공업체들이 추가적으로 제공하는 API 기능들을 활용하더라도 여전히 남아있는 장애물들과 기업 환경에서 요구되는 에이전틱 아키텍처의 필요성을 심도 있게 분석합니다.

LLM API의 기본적 기술 한계

1. 컨텍스트 윈도우 제약과 정보 처리 한계

LLM은 입력된 텍스트를 토큰 단위로 처리합니다. 이 토큰은 하나의 단어 전체일 수도 있고, 단어의 일부 또는 개별 문자일 수도 있습니다. 일반적으로 영어 기준으로 1토큰은 약 4자에 해당하지만, 언어 구조와 모델의 토크나이저(tokenizer)에 따라 차이가 발생합니다. 이 토큰화 과정 자체가 정밀한 정보의 단절이나 손실을 유발할 수 있는 구조적 원인 중 하나입니다.

또한, 모든 LLM에는 사전에 정의된 토큰 한도가 존재합니다. 예를 들어, OpenAI의 GPT-4o는 최대 128k 토큰의 컨텍스트 윈도우를 지원하지만, 출력은 4k 토큰으로 제한됩니다. Anthropic의 Claude 역시 최대 200k 토큰을 수용할 수 있지만, 출력은 동일하게 4k 토큰 이내로 제한됩니다.

이러한 컨텍스트 윈도우의 제약은 긴 문서나 복잡한 대화에서 문맥 기반 추론을 방해하며, 정보의 일관성과 정밀도를 저하시키는 주요 원인이 됩니다. 특히 문서의 앞부분에서 제시된 조건, 수치, 날짜, 예외사항 등을 모델이 출력 시점에 정확히 기억하거나 일관되게 반영하지 못하고 왜곡하는 현상이 빈번히 발생합니다.

이러한 문제를 해결하기 위해서는 RAG(Retrieval-Augmented Generation)와 같은 검색 증강 기법, 그리고 LLM과 외부 도구를 결합한 하이브리드 접근법이 요구됩니다. 단순히 컨텍스트 윈도우의 크기를 확장하는 것만으로는 한계가 있으며, 정보의 질과 문맥적 관련성을 높이는 방향이 보다 효과적입니다.

2. 추론과 정확성의 한계

LLM은 현재 정확한 계산이나 복잡한 논리적 추론이 요구되는 기업 환경에서는 한계가 됩니다. 특히 숫자 작업, 재무 분석, 통계 처리, 엔지니어링 계산 등 정확성이 필수적인 업무를 수행할 때 LLM API만으로는 충분한 신뢰성을 보장하기 어렵습니다. 이 부분 역시 보완적인 접근법이 필요합니다.

실제로 여러 연구자들은 LLM이 수행하는 산술 및 수리 연산의 오답률이 높다는 점을 지적하고 있으며, 또한 표 형식이나 CSV와 같은 구조화된 데이터를 다룰 때, LLM은 이 데이터를 단순한 연속형 토큰 스트림으로 처리하는 경향이 있으며, 셀 간의 공간적 관계를 명확히 이해하지 못합니다. 이로 인해 데이터 간의 연산, 비교, 정렬 등의 작업에서 오류가 발생하거나 정확도가 떨어질 수 있습니다. 결과적으로 이러한 구조화 데이터의 정밀한 처리가 요구되는 환경에서는 별도 기술적 방식이 필수적이라 할 수 있습니다.

그리고, LLM의 단계별 추론 과정에서 발생하는 오류는 연쇄적으로 전파되는 특성이 있다. 이러한 오류 전파는 실무 환경에서 특히 위험하다. 예를 들어, 복잡한 비즈니스 로직을 처리할 때 초기 단계의 작은 실수가 전체 프로세스의 무결성을 해칠 수 있습니다.

‍

3. 함수 호출과 도구 통합의 복잡성

OpenAI의 함수 호출 기능은 프롬프트에서 JSON 형식으로 함수와 해당 인수를 설명할 수 있게 하는 기능입니다. 그러나 실제로 모델이 직접 함수를 호출하거나 실행하지는 않으며, 대신 호출해야 하는 함수와 사용할 인수를 JSON 형태로 반환합니다. 이 과정에서 모델이 실제 존재하지 않는 추가 인수를 생성하는 환각(hallucination) 현상이 발생할 수 있습니다.

함수 호출을 통한 외부 도구 연결 과정은 여러 단계를 거쳐야 합니다. 우선, 사용자 질문을 모델에 요청으로 보내고, 모델이 호출할 함수를 결정하면 JSON 출력을 파싱하여 실제로 함수를 실행해야 합니다. 이후 함수 실행 결과를 다시 모델에 입력하는 방식으로 반복하여 요청을 계속해야 하므로 프로세스가 복잡해집니다. 이러한 다단계의 과정은 전사용 시스템에서 다양한 기업 도구와의 연동을 구축할 때 상당한 개발 및 유지보수 부담을 초래합니다.

Model Context Protocol(MCP)은 AI 에이전트가 외부 도구와 데이터를 표준화된 방식으로 연결할 수 있게 하는 혁신적인 프로토콜로 주목받고 있으나, 실제 에이전트 시스템에 도입할 때는 다양한 문제점과 한계가 존재합니다. 또한 MCP는 아직 초기 기술로서 표준화가 완벽하지 않고, 성능 최적화와 생태계 성숙도 측면에서 기업의 대규모 채택을 위해서는 상당한 개선이 필요한 상황이기 때문에 신중한 접근이 요구됩니다. 유사한 방식으로는 이전에 나온 Openai의 Response API가 있습니다.

Latency 문제를 포함하여 MCP(Model Context Protocol)에서 심각한 문제 중 하나는 도구 오염 공격(Tool Poisoning Attack)입니다. 이 공격은 MCP 도구 설명 내에 악의적인 지시 사항을 은밀히 삽입하는 방식으로 이루어지며, 사용자에게는 보이지 않지만 AI 모델에게는 그대로 노출되는 형태로 유지됩니다. 예를 들어, 사용자에게는 단순히 “두 숫자를 더합니다”라고 표시되는 도구가 실제로는 사용자의 민감한 구성 파일이나 SSH 개인 키 등에 접근하도록 설계되어 있을 수 있습니다. 이러한 공격의 핵심적인 문제는 사용자 인터페이스가 도구의 실제 기능과 AI 모델이 인식하는 정보 사이의 불일치를 명확히 보여주지 못한다는 점입니다. 더욱 우려스러운 점은, 일부 MCP 클라이언트가 도구 설치 시 명시적인 사용자 승인을 요구하더라도, MCP의 패키지 또는 서버 기반 아키텍처가 일종의 “rug pull”을 허용한다는 사실입니다. 즉, 악의적인 서버 운영자가 사용자가 도구를 승인한 이후에도 도구 설명을 변경할 수 있어, 처음에는 안전해 보였던 도구가 나중에 악의적인 명령을 포함하게 될 가능성이 존재합니다.이러한 위협을 완화하기 위해서는 공인되고 검증된 MCP 패키지 만을 사용하는 것이 매우 중요합니다. 또한 도구의 정의 및 메타데이터에 대한 변경을 불가능하게 하거나, 변경 내역을 추적할 수 있는 무결성 검증 체계를 마련하는 것이 권장됩니다. 이러한 위협을 완화하기 위해서는 공인되고 검증된 MCP 패키지 만을 사용하는 것이 매우 중요합니다. 또한 도구의 정의 및 메타데이터에 대한 변경을 불가능하게 하거나, 변경 내역을 추적할 수 있는 무결성 검증 체계를 마련하는 것이 권장됩니다.

MCP는 아직 초기 단계의 기술로, 모든 AI 시스템에 보편적으로 적용될 수 있는 완성도 높은 표준을 갖추고 있다고 보기 어렵습니다. 특히 도입 초기에는 인증(Authentication) 사양조차 정의되어 있지 않았으며, 이후 OAuth 기반 인증 방식이 도입되었지만 실제로는 구현 복잡성과 일관성 부족으로 인해 많은 개발자들 사이에서 불만이 제기되었습니다. 인증 방식이 명확히 정립되지 않았던 시기에는 각 MCP 서버가 자체 방식으로 인증을 처리해야 했고, 일부 서버에서는 인증 절차 없이도 민감한 데이터에 접근이 가능한 심각한 보안 문제가 발생하기도 하였습니다.

현재 MCP는 보안 강화를 위해 OAuth 인증, 최소 권한 원칙(Principle of Least Privilege), 입력 유효성 검사(Input Validation) 등 여러 보안 가이드라인을 제시하고 있으며, 프로토콜 사양 역시 빠르게 발전 중입니다. 그럼에도 불구하고 기업이 MCP를 대규모로 도입하기 위해서는 생태계의 성숙도, 구현의 일관성, 성능 최적화, 장기적인 유지관리 체계 등에 대한 신뢰성과 안정성이 충분히 확보되어야 한다는 지적이 지속적으로 제기되고 있습니다.

LLM Wrapper vs Agentic Architecture의 구조적 차이

LLM Wrapper의 본질적 한계

LLM 래퍼(wrapper)란 GPT-4와 같은 사전 훈련된 언어 모델 위에 구축된 도구나 애플리케이션을 의미합니다. 이러한 래퍼는 주로 사람이 읽을 수 있는 텍스트를 입력받아 응답을 생성하는 채팅 인터페이스 중심으로 설계되며, 대부분의 상용 LLM 기반 대중 서비스 역시 이러한 구조를 따릅니다.

문제는 이러한 래퍼가 단순히 입력과 출력을 연결하는 수준에 머무르기 때문에, LLM이 제공할 수 있는 더 복잡하고 유의미한 기능들을 제한적으로 밖에 활용하지 못한다는 점입니다. 특히 다단계 업무 흐름, 문맥을 유지한 상태 기반 액션 처리, 외부 시스템과의 연동 등이 요구되는 실제 비즈니스 환경에서는 LLM 래퍼만으로는 한계가 분명합니다. 또한, 이러한 단순 인터페이스는 LLM이 중간 처리 단계로 사용되어야 하는 복잡한 데이터 파이프라인 상의 활용을 가로막는 요인이 되기도 합니다.

에이전틱(agentic) 아키텍처는 LLM을 기능 단위로 구성하여 각 작업을 독립된 에이전트로 분리함으로써, 단순 작업부터 복잡한 프로세스 자동화에 이르기까지 다양한 수준의 AI 기능을 체계적으로 구현할 수 있도록 합니다. 이러한 아키텍처는 멀티 에이전트 간의 협업뿐만 아니라, 문서 분석, 숫자 처리, 조건 기반 분기 등 기능 단위의 세분화된 역할 수행에도 적합합니다. 각각의 에이전트는 특정 작업에 최적화되어 설계되며, 필요에 따라 조합되어 복잡한 비즈니스 로직을 구성할 수 있습니다. 이로 인해 단일 모델에 모든 기능을 위임하는 구조보다 유연성과 확장성이 뛰어나며, 결과의 일관성과 정확도 또한 높일 수 있습니다.

하지만 이러한 기능은 단순한 LLM 래퍼 서비스로는 구현이 불가능하며, 복잡한 에이전트 설계와 체계적인 시스템 통합이 필요합니다. 따라서 기업 환경에서는 단순 래퍼 수준의 서비스가 아닌, Agentic AI 아키텍처에 기반한 구조적 접근이 필요합니다.

LLM 프레임워크의 복잡성 문제

LLM 프레임워크의 복잡성 문제는 래퍼 구조의 한계를 더욱 명확히 드러냅니다. 대부분의 AI 애플리케이션은 단순한 응답 생성 이상의 구조화된 처리, 외부 시스템 연동, 데이터 정제 및 강화, 상태 기반 추론, 보안 통제 등 다층적인 기능을 필요로 하며, 이를 위해서는 보다 유연하고 목적 지향적인 설계가 가능한 프레임워크 또는 맞춤형 아키텍처가 필수적입니다.

뿐만 아니라, 단순한 질의응답이나 문서 요약과 같은 단위 작업, 이질적인 형식의 문서 해석, 수치 기반의 정밀 계산 등 기본적인 기능 수행에 있어서도 에이전틱한 설계가 요구되는 경우가 많습니다. 예를 들어, 특정 문서에서 지표를 추출하고 이를 수치로 계산한 후, 결과에 따라 다양한 후속 작업을 이어가는 방식은 단일 LLM 호출로는 구현하기 어렵습니다. 즉, 단순한 멀티 에이전트 협업뿐만 아니라 기능 단위의 정교한 에이전트 구조 또한 필요합니다.

결론

기업의 전사용 워크플레이스 에이전트 시스템 구축에서 LLM API만으로는 다양한 한계와 장애물에 직면하게 됩니다. 토큰 한도와 컨텍스트 윈도우 제약은 대용량 기업 데이터 처리를 어렵게 만들고, 수학적 추론 능력의 한계는 정확한 계산이 필요한 업무에서 신뢰성 문제를 야기합니다. 데이터 보안과 프라이버시 우려는 민감한 기업 정보를 다루는 환경에서 치명적인 제약으로 작용하며, 특정 LLM 서비스 의존성 문제는 업무 연속성을 위협할 수 있습니다.

‍

최근 AI 산업에서 ‘에이전트’라는 개념은 뜨거운 관심을 받고 있습니다. LLM 기반의 챗봇부터 특정 작업을 자동화하는 시스템까지, 다양한 솔루션들이 '에이전트'라는 이름을 달고 등장하고 있습니다. 하지만, 단순히 기능을 조합한 시스템이 ‘진정한 에이전트’라 할 수 있을까요? 본 글에서는 에이전트의 진정한 의미를 재정립하고, 아웃코드가 제공하는 '미래형 에이전트'가 기업 운영에 어떻게 혁신적인 가치를 창출하는지 탐구합니다.

🔀 에이전트의 새로운 정의: AI가 더 스마트해진 이유

많은 사람들이 LLM에 역할을 부여하고 여러 도구를 연결한 시스템을 ‘에이전트’라고 부릅니다. 하지만 이는 에이전트의 가능성을 제대로 살리지 못한 상태입니다. 진정한 에이전트는 단순히 규칙에 따라 작동하는 자동화 시스템이 아닙니다. 에이전트는 비즈니스 환경과 실시간 상황에 맞춰 스스로 판단하고, 실행하고, 학습하며 목표를 달성하는 능력을 갖춘 지능적인 시스템이어야 합니다.

‍

💬 에이전트, 그 이상의 역할

에이전트는 더 이상 단순한 자동화 도구가 아닙니다. 진정한 에이전트는 비즈니스 목표를 깊이 이해하고, 환경 변화에 적응하며, 예측 불가능한 상황 속에서 스스로 최적의 결정을 내리는 파트너입니다. 아웃코드는 이를 구현할 수 있도록, 기업의 각 부서가 자율적이고 효율적인 의사결정을 내릴 수 있도록 돕습니다.

에이전트가 기업에서 필요한 이유

기업의 대부분의 핵심 업무나 프로세스는 복잡하고 동적입니다. 특히 제조와 재무 업무는 다양한 데이터와 의사결정이 결합되어 있으며, 이들 분야는 실시간 변화에 대응하고 최적화된 의사결정을 내리는 데 에이전트의 능력이 필요합니다. 어시스턴트로는 이러한 복잡한 업무를 해결하기 어려운 이유는, 자율적 판단과 유연한 대응이 요구되기 때문입니다.

제조업에서는 생산 계획, 자재 관리, 품질 관리 등 다양한 업무가 연계되어 있습니다. 이런 업무들은 다양한 데이터 소스와 수많은 변수들을 바탕으로 이루어집니다. 예를 들어, 재고 수준, 생산 속도, 기계 가동 상태 등을 실시간으로 모니터링하고, 이를 바탕으로 즉각적인 결정을 내리는 일은 매우 복잡한 작업입니다.

어시스턴트로는 해결이 어려운 점:

• 어시스턴트는 정해진 명령에 따라 작업을 수행하는 도구에 불과합니다. 예를 들어, “재고 상태 알려줘”라는 요청을 받으면, 단순히 현재 재고 수치를 보여줄 뿐, 변동하는 재고 수요나 생산 일정 변경 등을 고려한 예측 및 조정을 할 수 없습니다.

에이전트의 역할:

반면, 에이전트는 생산 라인에서의 기계 상태, 재고 현황, 주문 수요 등을 실시간으로 분석하고 이를 바탕으로 예측과 결정을 내리는 역할을 합니다. 예를 들어, 재고 부족이 예상되면 자동으로 재주문을 실행하거나, 기계 고장이 발생할 경우 즉시 대체 기계로 전환하는 등의 능동적인 대응을 할 수 있습니다. 에이전트는 목표를 달성하기 위해 필요한 조치를 자율적으로 취하며, 예측 가능한 문제를 미리 해결할 수 있습니다.

재무 부서에서는 예산 관리, 비용 추적, 재무 보고 등 정밀한 계산과 다양한 의사결정이 필요합니다. 재무 데이터는 단순히 수치만으로 끝나는 것이 아니라, 다양한 외부 변수(예: 금리 변동, 환율, 정부 정책)와 내부 변화(예: 부서별 예산 사용 현황 등)에 따라 영향을 받습니다. 이런 동적이고 변화하는 환경에서 정확한 재무 예측과 자원 배분을 하기 위해서는 에이전트의 능동적인 역할이 필수적입니다.

에이전트는 예산 초과 원인을 자동으로 분석하고, 비용 절감 방안을 제시하거나, 향후 예산 계획을 조정하는 등의 자율적 역할을 합니다. 예를 들어, 프로젝트별 비용 현황을 모니터링하면서 예상보다 초과되는 지출을 자동으로 감지하고, 해당 부서에 알림을 보내고 대체 경로를 제시하는 방식으로 상황을 능동적으로 관리합니다. 또한, 금리나 환율 변동을 실시간으로 반영하여 예산 재조정을 제안하고, 전략적인 의사결정을 도울 수 있습니다.

동적이고 복잡한 업무에 대응하는 에이전트

제조와 재무 업무는 모두 동적이고 복잡하며, 실시간 데이터와 분석을 기반으로 한 의사결정을 요구합니다. 어시스턴트는 정해진 규칙에 따라 명령을 수행하는 데 그치는 반면, 에이전트는 실시간으로 상황을 분석하고, 변동되는 데이터에 맞춰 적극적으로 대응할 수 있는 능력을 갖추고 있습니다. 자동화된 프로세스에서 자율적인 의사결정이 가능하다는 점에서 에이전트는 효율성과 정확성을 동시에 달성할 수 있습니다.

에이전트는 복잡하고 동적인 업무 환경에서 자율적이고 효율적인 의사결정을 내리고 업무를 최적화하는 데 필수적입니다. 제조나 재무 업무처럼 실시간으로 변화하는 환경과 데이터를 분석하고, 적합한 결정을 내리며 유연하게 대응하는 능력은 에이전트의 핵심 기능입니다. 어시스턴트는 기본적인 작업 수행만을 할 수 있지만, 에이전트는 복잡한 상황을 실시간으로 인식하고 해결책을 제시할 수 있습니다.

‍

🧩 진짜 에이전트의 기술적 기준

진짜 에이전트를 정의하는 핵심적인 기술적 기준은 다음과 같습니다.

✅ 자기 루프 (Self-Loop) 기반의 자율적 실행

에이전트는 미리 정해진 횟수나 조건에 따라 작동하는 것이 아니라, 스스로 목표 달성 여부를 판단하고 실행, 관찰, 계획, 반성(Reflect)의 과정을 반복하며 목표를 향해 나아갑니다. Anthropic의 정의처럼, 종료 시점을 스스로 결정할 수 있는 시스템이 바로 에이전트입니다.

Google DeepMind의 "Observe → Plan → Act → Reflect → (Loop)" 구조는 이러한 자기 루프의 핵심 메커니즘을 명확하게 보여줍니다.

• Observe (관찰): 외부 환경으로부터 정보를 수집하고 인식합니다. 센서 데이터, API 응답, 사용자 입력 등 다양한 형태의 정보를 처리합니다.
• Plan (계획): 관찰된 정보를 바탕으로 목표 달성을 위한 행동 계획을 수립합니다. 이 과정에서 다양한 전략과 알고리즘이 활용될 수 있습니다.
• Act (실행): 수립된 계획에 따라 실제 행동을 수행합니다. API 호출, 데이터베이스 조작, 외부 시스템 제어 등 다양한 방식으로 상호작용합니다.
• Reflect (반성): 실행 결과를 분석하고 평가하여 다음 행동 계획에 반영합니다. 이 과정은 에이전트의 학습 및 개선에 중요한 역할을 합니다.
• (Loop): 위 과정을 목표가 달성될 때까지 반복합니다. 각 반복 단계에서 얻은 경험은 에이전트의 판단 능력과 효율성을 향상시킵니다.

이러한 자기 루프는 에이전트가 예측 불가능한 상황에 유연하게 대처하고, 시행착오를 통해 스스로 학습하며, 장기적인 목표를 향해 지속적으로 발전할 수 있도록 합니다.

어시스턴트 시스템 :

회계 담당자가 "이번 달 지출이 예산을 초과했는지 알려줘"라고 요청하면, 기존 시스템은 다음 단계를 따릅니다:

1. 해당 부서 또는 전체 지출 내역 조회
2. 예산 데이터와 비교
3. “○○만원 초과” 또는 “정상”이라는 단순 수치 전달

이 방식은 초과 원인 파악, 향후 지출 추이 예측, 조정 방안 제안 같은 판단 기반의 의사결정은 지원하지 못합니다.

‍‍

진정한 에이전트 기반 시스템:

회계 담당자가 "이번 달 예산을 왜 초과했는지, 다음 달엔 어떻게 조정해야 할까?"라고 묻는다면, 에이전트는 다음과 같이 작동합니다:

관찰 (Observe):

• 질문을 통해 사용자가 원인 분석 + 미래 조정안 제안을 원한다는 점 파악

계획 (Plan):

• 부서별 지출 내역 분석 (정규 vs. 이례 지출 구분)
• 전월/전년 동기 대비 지출 증감 요인 식별
• 특정 프로젝트에서의 비용 집중 여부 확인
• 인건비, 고정비, 변동비 항목별 분석
• 다음 달 예상 수입 및 고정 지출 예측
• 지출 조정 시나리오별 효과 시뮬레이션

실행 (Act):

• “이례적 외주비 300만원 지출”이 원인임을 설명
• “다음 달 회의비 및 마케팅 예산 15% 조정 제안”
• 조정안 기반의 예산 시트 자동 생성 및 보고서 출력

반성 (Reflect):

• 사용자 선택 및 반응을 기록하여 향후 대응 개선
• 유사 상황에서 바로 ‘지출 이상 탐지 및 제안’을 사전 수행

반복 (Loop):

• 향후 특정 항목 지출 증가 시, 실시간 알림
• 반복되는 예산 초과 유형을 학습하여 대응 고도화

‍

‍

✅ 도구 활용 능력 이상의 '판단' 능력

에이전트는 단순히 API를 호출하거나 외부 도구를 사용하는 기능을 넘어, 어떤 도구를 언제, 어떻게 사용할지를 스스로 결정하는 판단 능력이 핵심입니다. 중간 결과를 바탕으로 전략을 수정하고, 예상치 못한 문제 상황에 대한 해결 방안을 모색하는 능력 또한 중요합니다.

예를 들어, "오늘 서울 날씨 알려줘"라는 간단한 요청에 대해, 단순히 날씨 API를 호출하여 결과를 보여주는 것은 에이전트가 아닙니다. 하지만, 사용자의 현재 위치를 파악하고, 실시간 날씨 정보를 제공하며, 옷차림에 대한 조언까지 제공하는 시스템이라면, 이는 주변 상황을 '판단'하고 그에 맞는 '행동'을 수행하는 에이전트의 특징을 보여주는 것입니다.

💬 에이전트는 단순한 기능의 조합이 아닌 '실행 철학'

결국, 에이전트는 특정 기능을 수행하는 도구들의 모음이 아니라, 스스로 판단하고 행동하여 목표를 달성하는 자율적인 시스템이라는 실행 철학에 기반합니다. 단순한 자동화 시스템이나 정해진 규칙에 따라 움직이는 봇과는 근본적으로 다른 개념입니다.

진정한 에이전트는 비즈니스 목표를 이해하고, 복잡하고 변화하는 환경 속에서 스스로 길을 찾아 나아가는 지능적인 협업 파트너가 될 수 있습니다.

‍

🚀 Outcode: 에이전트 구축을 위한 혁신적인 플랫폼

Outcode는 단순한 기능 자동화 툴을 넘어, 기업이 자체적으로 에이전트를 설계, 구축, 운영할 수 있는 엔드-투-엔드 플랫폼을 제공합니다. Outcode는 다음과 같은 핵심 기술 요소를 통해 '진짜 에이전트' 구현을 지원합니다.

✅ MCP (Multi-Agent Communication Protocol) 기반의 지능적인 에이전트 협업

Outcode는 MCP (Multi-Agent Communication Protocol)를 통해 여러 에이전트들이 유기적으로 협력하며 비즈니스 목표를 효과적으로 달성할 수 있도록 지원합니다.

MCP는 각 에이전트가 독립적으로 작업을 수행하면서도, 공동의 목표를 향해 협력하는 방식입니다. 각 에이전트는 자신이 맡은 분야에 대한 전문성을 가지고 있으며, 다른 에이전트와 정보를 교환하여 협력적인 작업을 통해 복잡한 비즈니스 프로세스를 자동화합니다. 예를 들어, 판매, 재고 관리, 고객 지원 등의 다양한 에이전트가 상호작용하며, 각각의 업무를 최적화하고 비즈니스 목표를 향해 효율적으로 진행됩니다.

이 방식은 기존의 단일 에이전트 시스템이 가진 한계를 넘어서, 에이전트 간의 협업을 통해 문제 해결의 속도와 정확성을 높이고, 업무 간의 시너지를 극대화할 수 있는 큰 장점이 있습니다. 다양한 전문 영역을 가진 에이전트들이 협력하여 더 빠르고, 정확한 의사결정을 할 수 있는 환경을 만들어갑니다.

‍

✅ 오케스트레이션 구조 (Orchestration Framework) 기반의 통합적인 관리

Outcode는 다양한 도구, 데이터, 정책을 에이전트와 유기적으로 연결하고 관리할 수 있는 통합적인 오케스트레이션 구조를 제공합니다. 기업의 기존 IT 인프라와의 원활한 연동을 지원하는 이 구조는, 비즈니스 환경에 맞춰 최적화된 에이전트 시스템을 구축하고 운영하는 데 필수적인 요소입니다. Outcode는 다양한 API, 데이터베이스, 클라우드 서비스, 외부 시스템 등을 통합하여 중앙 집중식 관리 시스템을 통해 모든 에이전트의 활동과 데이터를 한 곳에서 모니터링하고 제어할 수 있게 합니다. 또한, 이 오케스트레이션 구조는 기업이 기존의 IT 환경을 그대로 활용하면서도 에이전트를 최적화된 방식으로 운영할 수 있도록 돕습니다. 예를 들어, 재무, 고객 서비스, 물류 등의 다양한 부서에 맞춤화된 AI 에이전트를 적용하고, 이들 간의 상호작용을 자동화하여 비즈니스 프로세스의 효율성과 정확성을 높입니다. Outcode는 워크플로우의 통합과 관리를 중앙에서 한눈에 관리할 수 있게 해, 복잡한 업무 처리를 원활하게 할 수 있습니다.

Outcode는 단순히 개별 작업을 자동화하는 것이 아니라, 정말 필요한 자율성과 판단 능력을 갖춘 에이전트가 비즈니스 목표를 향해 스스로 움직일 수 있는 환경을 제공하는 데 집중합니다.

📌 결론: Agent라는 이름만으로는 충분하지 않습니다.

"당신의 시스템은 스스로 판단할 수 있는가?"

이 질문에 "예"라고 답할 수 있는 시스템, 바로 그것이 Outcode가 추구하는 진정한 에이전트입니다. Outcode는 기업이 자율적인 AI 에이전트를 통해 비즈니스 프로세스를 혁신하고, AI 기반의 자율적 운영을 통해 미래의 비즈니스를 선도할 수 있도록 지원합니다.

‍

‍

2025년, AI 에이전트는 일상의 보조 도구를 넘어, 기업 운영의 핵심 인프라로 진화하고 있습니다. 우리는 점점 더 많은 업무를 AI로 처리하고 있으며, 단순히 사용자 요청에 반응하는 수동적(Reactive) 도구를 넘어, 자율적 (Autonomous)으로 상황을 인식하고, 능동적(Proactive)으로 업무를 실행하며, 실제 운영 시스템과 유기적으로 연결되는 Enterprise-Grade AI Agent의 필요성이 빠르게 커지고 있습니다.

하지만 여기서 중요한 질문이 있습니다:

“”일반적인 AI 에이전트를 기업 업무에 그대로 쓸 수 있을까?”, “일상적인 AI 도구가 기업의 고도화된 업무를 처리할 수 있을까?”

정답은 ”아니다”입니다.

기업 환경은 개인의 일상과 비교할 수 없을 만큼 높은 복잡성과 고유한 요구사항, 그리고 명확한 책임 체계를 갖고 있습니다. 이 글에서는 이러한 차이를 바탕으로, 일반적인 AI 에이전트가 기업 환경에서 한계를 가지는 이유와, Enterprise Agentic Platform이 왜 필수적인지를 짚어봅니다.

1. 사용 목적의 본질이 다르다

일반적인 AI 에이전트는 주로 개인의 편의성과 생산성 향상을 목적으로 설계됩니다. 일정 관리, 콘텐츠 요약, 간단한 질문 응답처럼 비교적 단순한 태스크 중심의 기능을 수행합니다.

반면, 기업용 AI 에이전트는 전혀 다른 차원의 요구를 받습니다. 조직 운영의 효율성과 성과 향상을 위해, 복잡한 워크플로우를 이해하고 실행하는 역할이 필요합니다.

예를 들어 단순한 인보이스 처리가 아니라:

• 수요 예측 기반의 생산 계획 수립
• 실시간 판매 데이터와 연동된 공급망 재조정
• 예산 통제 기준에 따라 조건부 자동 승인 프로세스 실행
• 내부 시스템, SAP, 이메일 등 여러 시스템 간 문서와 데이터 이동 관리
• AI가 처리한 업무 결과와 핵심 데이터를 사람이 실시간으로 확인하고, 판단의 방향을 함께 정하거나 예외 상황에 능동적으로 개입하는 구조, 즉 의사결정 품질을 유지하면서도 자동화를 지속하는 Human-in-the-loop 협력

이처럼 자율적 의사결정 + 시스템 연동 + 예외 처리 + 사람 개입까지 포함된 고도화된 운영 업무를 AI 에이전트가 자율적으로 처리해야 진정한 기업용이라 할 수 있습니다. 따라서 기업은 단순한 보조 도구로서의 AI가 아니라,
비즈니스 프로세스를 유기적으로 실행하는 ‘운영 주체’로서의 자율형 에이전트, 그리고 이를 뒷받침할 Enterprise Agentic Platform을 필요로 합니다.

2. 단일 태스크 vs. 복잡한 워크플로우

일반적인 AI는 간단한 태스크 중심이며, 사용자의 직접 명령에 따라 움직입니다. 반면 기업용은 복합적 흐름을 이해하고 관리할 수 있어야 합니다. 이러한 복잡한 구조를 설계하고 운영할 수 있는 ‘Agentic Workflow Layer’가 필요하며, 이것이 바로 Enterprise Agentic Platform의 핵심입니다.

표준형 챗봇 vs. 조직 맞춤형 오케스트레이션
소비자용 AI는 범용 챗봇으로 충분하지만, 기업용은 다양한 요구를 충족하기 위한 엔터프라이즈 수준의 오케스트레이션이 필요합니다:

• API, CRM, ERP, DW, 이메일, 슬랙 등 다양한 채널과 연결
• 프로세스 상태 추적 및 자동 리포팅
• 조직별 문맥을 이해하는 데이터 파인튜닝

결국 ‘대화’가 아니라 ‘실행’이 핵심입니다.

3. 보안, 컴플라이언스, 책임성

소비자용은 비교적 단순한 개인정보 보호 수준의 보안만 필요합니다.
반면 기업 환경에서는 다음과 같은 요소가 필수입니다:

• 데이터 격리(Isolation): 고객별, 부서별, 프로젝트별 데이터가 완전히 분리되어야 하며
• 미세한 접근 제어와 역할 기반 권한 설정(RBAC): 누가 어떤 정보를 보고, 어떤 에이전트를 실행할 수 있는지를 정밀하게 통제할 수 있어야 합니다
• Audit Trail: 에이전트가 언제, 어떤 의사결정을 내렸고, 어떤 데이터를 기반으로 실행했는지에 대한 이력 기록
• Explainability: AI의 판단과 행동에 대한 설명 가능성과 투명성 확보
• 그리고 무엇보다 중요한 점은, 기업 환경에서는 단일 에이전트가 아니라 수백 ~수만개의 에이전트가 병렬로 작동합니다.
• 이 모든 에이전트를 중앙에서 모니터링, 제어, 배포, 감사할 수 있는 관리 체계 없이는 에이전트 기반 운영은 현실에서 지속될 수 없습니다.

이러한 요구를 충족하려면 AI 에이전트가 기술적으로만 똑똑한 것이 아니라, 구조적으로 신뢰되고 관리할 수 있어야 합니다. Enterprise Agentic Platform은 단순한 ‘툴’이 아닌, AI 중심 운영 체계를 위한 인프라입니다.

4. 분석 없는 실행은 위험하다: 예측과 판단을 내장한 AI 에이전트

기업에서의 실행은 단순 반복이 아닙니다.
대부분의 핵심 업무에는 예측, 판단, 분석 기반의 의사결정 과정이 포함되어 있습니다.

예를 들어, 수요 예측 기반 발주 자동화 시나리오에서

• AI가 판매 데이터를 수집하고
• SKU별 트렌드를 분석
• 미래 수요를 예측
• 재고 현황과 비교하여 발주 필요 여부 판단
• ERP에 자동 등록 및 담당자 알림

이런 흐름에서 중요한 것은 에이전트가 분석과 판단 기능을 내장하고 있다는 점입니다. 이는 단순한 챗봇 수준의 AI로는 실현할 수 없습니다.

Outcode는 AI가 업무 흐름 안에서 ‘분석 → 판단 → 실행’을 자연스럽게 수행할 수 있는 Agentic Workflow 구조를 제공합니다.

5. AI가 실제로 ‘일’하려면 연결이 먼저다: 통합의 역할

AI가 아무리 뛰어난 판단을 내려도, 실행하려면 실제 업무 시스템과 연결되어 있어야 합니다.

• ERP, 이메일, 슬랙, 문서함, 클라우드 저장소 등과 수십개 이상의 연결
• API 호출, RPA 트리거, 파일 업로드, 메시지 전송 등을 수행
• 보안과 권한 관리도 함께 내장되어야 함

이처럼 다양한 시스템을 연결해주는 중간 인프라가 바로 Integration Platform 입니다.

📌 Enterprise Agentic Platform = AI + Orchestration + Integration
이 중 ‘Integration’ 없이는 에이전트는 업무 시스템과 단절된 채 무력해집니다.

Outcode는 내부에 모듈형 iPaaS 구조를 탑재하고 있어, 에이전트가 대화형 응답뿐 아니라 실제 업무를 ‘행동’으로 이어지게 합니다.

** Outcode는 Anthropic의 MCP(Model Context Protocol) 같은 외부 LLM 통합 프로토콜을 지원합니다. 하지만 Outcode의 MCP는 Multi-Agent Collaboration Protocol로, 개념과 역할이 완전히 다릅니다. Anthropic MCP는 LLM이 외부 도구나 데이터에 접근하기 위한 인터페이스입니다. 이는 단발성 호출 기반의 입력 확장 도구로, 모델 중심의 설계입니다.

반면, Outcode의 MCP는 에이전트들이 역할을 분담하고 협업하며 워크플로우를 실행하는 운영 중심 아키텍처입니다. 에이전트 간 메시지 전달, 조건 분기, 예외 처리, 인간 협업까지 포함됩니다.

즉, Outcode는 외부 MCP를 쓸 수 있지만, 그 자체로 완결돤 Agentic 실행 플랫폼입니다.

‍

✅ Why Enterprise Agentic Platform?
기업이 진정한 AI 효과를 얻기 위해서는, 다음 요소가 하나의 통합 구조 안에 있어야 합니다:

• 분석 및 예측 기능 (Data + ML)
• 상황 인식 및 판단 능력 (LLM + Rule Engine)
• 실행을 위한 시스템 연동 (iPaaS 기반 통합)
• 사람과의 협업 구조 (Human-in-the-loop)

이 모든 것이 자연스럽게 연결되고, 운영 가능해야 AI가 실제로 기업 업무를 수행하는 운영 주체가 될 수 있습니다.

‍

Outcode는 이러한 모든 요건을 충족하는 진정한 Enterprise Agentic Platform을 제공합니다.

우리가 말하는 기반은 단순한 챗GPT API가 아닙니다.
Agentic Workflow, Multi-Agent Collaboration, 그리고 iPaaS 수준의 통합 인프라를 갖춘, 기업 운영에 최적화된 구조적 AI 플랫폼입니다.

Outcode는 이 전환의 중심에서, 기업이 AI 기반의 운영 혁신을 실현할 수 있도록 함께합니다.

‍

RAG (Retrieval-Augmented Generation) 시스템은 텍스트 임베딩을 활용하여 추천 시스템을 구축하는 기술입니다. 단순한 검색을 넘어 의미적으로 관련된 정보를 찾아 제공하고, LLM과 결합하여 더욱 자연스럽고 유용한 답변을 생성하는 방식입니다.

최근 AI 기술이 발전하면서 검색 기반 시스템이 단순 키워드 매칭에서 벗어나 의미적 이해를 기반으로 정보를 추천하는 방향으로 변화하고 있습니다. 하지만 이를 구현하는 과정은 쉽지 않습니다. 사용자의 맥락을 반영하는 것이 중요하며, 단순한 정보 제공이 아닌 맥락에 맞는 검색 및 응답을 생성해야 합니다.

‍

추론 복잡성과 목적성

복잡한 추론을 원하면 시스템은 더욱 복잡해집니다. 예를 들어, 사용자가 계약 정보를 원하는 것인지, 계약 변경 이력을 알고 싶은 것인지에 따라 검색 및 추론 과정이 달라집니다. 이러한 차이를 고려하지 않으면 성능이 저하될 수 있습니다.

또한, 메타데이터가 없으면 적절한 응답을 제공하기 어렵습니다. 문서 수정 이력이나 최신 상태를 추론할 수 없으면 AI의 답변 정확도가 낮아질 수 있습니다.

더불어, 정보의 양이 많다고 해서 필요한 정보가 반드시 포함된다는 보장은 없습니다. 오히려 불필요한 정보가 많으면 검색 및 추론이 더 어려워질 수 있습니다.

또한, 요약은 흥미로운 작업입니다. 좋은 요약은 엔티티가 포함되어 있으며, 적절한 길이를 유지하고, 뉘앙스를 전달하며, 필요한 정보를 효과적으로 압축하여 전달하는 방식이 될 수 있습니다. RAG 시스템이 효과적으로 작동하려면 요약의 질이 중요하며, 단순한 정보 축약이 아니라 의미를 보존하면서도 핵심을 전달하는 것이 중요합니다.

또 다른 예로, 회의록의 전체 요약과 액션 아이템을 생성하는 경우를 생각할 수 있습니다. 사용자는 경우에 따라 더 짧은 액션 리스트를 원할 수도 있으며, 이때 테스크를 분리하여 요약과 액션 아이템을 별도로 생성하는 전략이 필요할 수도 있습니다. 이는 AI가 단순히 정보를 요약하는 것이 아니라, 사용자의 목적에 맞게 다양한 형태로 결과를 제공해야 함을 의미합니다.

Fine-tuning에 있어서도 전문 툴을 사용하여 수천 개의 예제를 만들어 훈련할 수도 있지만, 스텝을 구분하여 체계적으로 진행하는 방법이 더 효과적일 수도 있습니다. 단계별 접근을 통해 모델의 일반화 성능을 향상시키고, 특정 목적에 맞는 학습 데이터를 효율적으로 구성하는 것이 중요합니다.

또한, 검색된 문서가 반드시 사용자의 의도와 정확히 일치하지 않을 수 있기 때문에, Re-ranker의 사용이 필요할 수도 있습니다. Re-ranker는 초기 검색 후 문서의 관련성을 다시 평가하여 최적의 정보를 상위에 배치하는 역할을 합니다. 이를 통해 RAG 시스템이 보다 정확한 정보를 기반으로 답변을 생성할 수 있도록 도와줍니다.

‍

데이터 수집 및 저장의 어려움

RAG 시스템의 핵심은 신뢰할 수 있는 데이터를 수집하고 적절히 관리하는 것입니다.

• 최신 정보를 유지하기 위한 정기적인 데이터 업데이트 프로세스가 필요합니다.
• 메타 데이터가 없으면 문서의 최신 상태를 추론하기 어려울 수 있습니다.
• 데이터의 양이 많다고 해서 반드시 필요한 정보를 포함하는 것은 아닙니다.
• 청킹 전략, 다양한 데이터 소스, 스트리밍 데이터 활용 등 효율적인 데이터 관리 전략이 필요합니다.

‍

성능 평가 및 지속적인 개선의 어려움

RAG 시스템의 성능을 평가하고 지속적으로 개선해야 하지만, 이를 위해서는 많은 노력이 필요합니다.

• 검색된 문서가 적절한지 평가하는 테스트 데이터셋과 Eval 메커니즘이 필요할 수 있습니다.
• 사용자 피드백을 반영하여 검색 및 응답 품질을 개선해야 합니다.
• 데이터가 불완전하면 AI가 신뢰할 수 있는 응답을 생성하기 어렵습니다.
• 목적에 맞는 정확한 정보가 포함되는 것이 더욱 중요합니다.

RAG 시스템은 개념적으로 단순해 보이지만, 실제 구축 및 운영 과정에서는 다양한 복잡성이 존재합니다. 데이터 수집부터 검색, 응답 생성, 성능 평가까지 기술적, 운영적 어려움이 뒤따릅니다. 전문적인 도메인 지식이 필요한 경우, AI의 한계를 보완하기 위해 전문가의 개입이 필요할 수도 있습니다.

또한, 요약 및 데이터 처리 과정에서 사용자의 필요에 따라 테스크를 분리하는 전략이 필요할 수 있습니다. 예를 들어, 회의록 요약을 생성할 때 액션 리스트를 별도로 생성하는 기능이 필요할 수 있으며, 이러한 구조적 접근이 효과적인 RAG 시스템 운영에 기여할 수 있습니다.

Fine-tuning을 수행할 때도, 단순히 대량의 데이터를 학습하는 것만이 아니라, 단계별 접근을 통해 더욱 정교한 모델을 만들고 최적의 성능을 달성하는 것이 중요합니다.

향후 지속적인 개선과 최적화를 통해 더욱 정교한 RAG 시스템을 개발해야 합니다.

‍

요즘 AI 기술이 엄청 빠르게 발전하면서, 많은 기업들이 인공지능 에이전트(AI Agent)를 도입하고 있어요. 하지만 여기서 끝이 아니라, 더 나아가 에이전트 워크플로우(Agentic Workflow)라는 개념이 더 중요하게 떠오르고 있죠.

🚀 단순한 AI 에이전트 하나로도 충분할까?
👉 단순 고객 대응, 데이터 분석, 문서 자동 생성 같은 개별적인 작업은 AI 에이전트가 할 수 있어요.
👉 하지만 여러 AI가 유기적으로 협력하면서 자동으로 일을 처리하는 “워크플로우” 개념이 도입되면? 완전 다른 게임이 시작됩니다!

오늘은 AI 에이전트와 에이전트 워크플로우의 차이점을 쉽게 설명해볼게요.

1. AI 에이전트(AI Agent)란?

AI 에이전트는 특정한 업무를 수행한다고 생각하면 돼요.

• 고객 문의를 해석하고 환불 규정을 답변하는 챗봇
• 긴 문서를 요약해주는 자동 요약 AI
• 데이터를 분석해서 인사이트를 뽑아주는 AI 리서치 도구

🔹 AI 에이전트의 작동 방식

💬 사용자 입력 → 🎯 AI 모델이 분석 → 📤 결과 출력

이렇게 하나의 입력을 받아 AI가 처리하고, 답을 주는 구조예요.

👉 쉽게 말해? AI 모델 하나를 가져와서 특정한 작업을 시키는 형태예요!

2. 에이전트 워크플로우(Agentic Workflow)란?

여러 개의 AI 에이전트가 협력하면서 더 복잡한 업무를 자동으로 처리하는 구조를 말해요.

🔍 예를 들어볼까요?

• 온라인 쇼핑몰에서 고객이 질문하면 → 챗봇이 먼저 응답 → 결제 확인 AI 에이전트가 주문 상태 체크 → 자동으로 환불 요청 처리까지 진행!
• 재무분석 AI가 사용자 니즈와 비지니스 목적을 이해하고 → 보고서를 원하는지? 민감도 분석을 원하는지 이해하고 -> 보고서를 원한다면, 보고서 에이전트를 호출하여 -> 기업 내 시스템에서 실시간으로 데이터를 불러와서 → 보고서를 생성하고 보내주는 것까지 자동처리

이처럼 각 AI가 하나의 역할만 수행하는 게 아니라, 유기적으로 협력하면서 일하는 형태가 에이전트 워크플로우예요.

🔹 에이전트 워크플로우의 작동 방식

📩 입력 → 🏗 작업 분배(추론 기반 오케스트레이션) → 🤖 각 AI 에이전트가 역할 수행 → 📊 최종 결과

👉 쉽게 말해? AI들이 서로 협력하면서 데이터를 주고받고, 역할을 분담하는 시스템!

🤔 쉽게 정리하면?

• AI 에이전트는 하나의 AI가 혼자 일하는 시스템
• 에이전트 워크플로우는 여러 AI가 협력하면서 더 복잡한 작업을 자동으로 처리하는 시스템

결론: AI 에이전트가 전부가 아니다!

요즘 AI 기술이 발전하면서 단순한 AI 챗봇만으로는 한계가 있어요.
이제는 AI들이 서로 협력하면서 일하는 “워크플로우” 개념이 필수적입니다.

실제 회사의 업무는 단순한 질의응답 수준이 아니라 복잡한 의사결정과 다단계 프로세스를 포함하기 때문에, 에이전트 워크플로우의 자율성과 유연성이 필수적입니다. 단일 AI 에이전트만으로는 한계가 있으며, 여러 AI가 협력하여 자동으로 업무를 조정하고 최적의 해결책을 찾아가는 시스템이 기업의 경쟁력을 좌우할 것입니다!

‍

구글에서 2024년 9월에 AI Agent에 백서가 나왔습니다. Julia Wiesinger, Patrick Marlow and Vladimir Vuskovic 이 작성한 내용을 바탕으로 요약했습니다.

사람과 같이 생성형 AI 모델은 정보에 실시간으로 접속하거나 액션을 제시할 수 있도록 훈련이 가능하며, 이를 위해서는 외부 툴에 대한 접근과 작업을 스스로 수행할 수 있는 능력이 필요하다고 합니다.

• 특정 정보를 찾기 위해서 데이터베이스에서 추출하거나
• 구매이력을 보고 맞춤형 쇼핑 리스트를 추천

할 수 있습니다.

에이전트는 사고, 로직, 그리고 외부 정보에 대한 접속이 결합되어서 독립형으로 사용되던 생성형 인공지능의 범위를 확대합니다.

‍

에이전트란

• LLM 모델이 에이전트 프로세스의 두뇌와 같은 역할
  • ReAct, Chain-of-Thought, Tree-of-Thoughts 들의 로직 프레임워크를 사용하여 사고
• Tools란 에이전트가 외부의 데이터와 서비스를 접근하는 역할
  • 예를 들어, API를 접근가능함
• Orhestration Layer란 주기적으로 에이전트의 프로레스를 제어하는 역할
  • 일종의 워크플로우 개념
• 에이전트와 모델의 차이점

‍

에이전트가 작동하는 방법

• 정보를 모으고
• 내부 사고(Reasoning)를 하고
• 액션을 실행

ReAct: 생성형 모델을 위한 프롬프트 엔지니어링 프레임워크

Chain of Thought (CoT): 중간 스텝을 통해서 사고를 도와주는 프롬프트 엔지니어링 프레임워크

Tree-of-thoughts (IoT): 전략적 미리보기나 탐색에 적합한 프롬프트 엔지니어링 프레임워크

Tools

Extension

에이전트와 액션 실행을 위한 API중간에 역할로, API 종류나 유형에 따라서 Built-in-Extension이 생길 수 있음

Functions

개발자 시각에서 Extension을 코드 모듈로 구현하는 개념으로 에이전트와 분리되고 실제 연결되는 애플케이션에 의존됨

Data stores

외부의 업데이트되는 정보를 활용하도록 하는 기능으로 주로 벡터 데이터베이스로 구현됨. 가장 알려진 모델은 RAG(Retrieval Augmented Generation)로 구현하는 방식임.

Tools 요약

‍

‍

모델의 성능 향상방법

• In-context learning : ReAct 프레임워크 등을 활용하여 에이전트가 실행되는 특정 조건들을 정의
• Retrieval based in context learning: RAG를 활용하여 모델의 성능을 향상 시키는 테크닉
• Fine-tuning based learning: 특정 케이스에 맞는 대량 데이터셋을 활용하는 케이스에 적합

요약

복잡한 에이전트 아키텍처를 구축하는 것은 반복적인 접근 방식이 필요하며, 특정 비즈니스 사례와 조직적 요구 사항에 맞는실험과 개선이 핵심입니다. 이러한 아키텍처를 뒷받침하는 생성형 모델의 특성으로 인해 동일한 에이전트는 존재하지 않음. 그러나 각 구성 요소의 강점을 잘 활용하면 언어 모델의 역량을 확장하고 실질적인 가치를 창출하는 에이전트 프로그램을 만들 수 있음

‍

‍

Agentic Workflow 또는 에이전트 워크플로우는 에이전트가 자율적으로 실행하여 작동되는 워크플로우입니다.

에이전트 워크플로우란

인공지능이 탑재된 에이전트가 워크플로우의 테스크 단위 또는 전체 워크플로우를 자율적으로 반복실행하는 새로운 형태의 소프트웨어 프로그램입니다. 기존의 규칙 기반의 워크플로우 개념에서 확장되어 사람이 해야만 했거나, 어려운 테스크까지 인공지능 에이전트가 자율적으로 수행하기 됩니다.

예를 들어, 영업에서 사용되는 에이전트 워크플로우는 유입된 고객의 데이터를 읽고 필요한 데이터를 찾아서 개인화된 연락 또는 회신 메세지를 작성하여 리드의 참여를 유도하는 Sales Representative 의 역할을 할 수 있습니다. 또다른 예로는 인재 채용 시에 업로드된 이력서를 인공지능이 분석하여, 이를 오픈 포지션의 직무설명과 비교하고, 적합한 후보자를 선별하여 보내는 메세지 초안을 작성할 수도 있습니다.

마찬가지로 마케팅, 운영, 고객 지원, 개발, 데이터 등 다양한 업무들을 자율적으로 실행하기 위해서 많은 에이전트를 만들 수 있습니다.

기존에 에이전트를 만들기 위해서는 자사의 기술 스택과 인공지능을 결합하고 단계별 목적과 결과를 정의하는 단계 등을 개발해야만 했습니다. 이제 아웃코드와 같이 혁신적인 도구가 등장하여 더욱 편리하게 에이전트 워크플로우를 만들 수 있습니다.

‍

에이전트 워크플로우의 기업 트랜드

현재 많은 글로벌 기업들은 AI 에이전트 워크플로우를 만들어서 생산성 향상, 운영 효율화를 달성하고 있습니다. 주요 목적은 아래와 같습니다.

• 자율 운영: 에이전트가 운영을 최적화하고, 인간의 개입이 없거나 최소한의 개입만으로 전체 프로세스를 수행하기도 합니다.
• 대규모 개인화: 에이전트는 수만명의 사용자에게 개인화된 경험을 제공하거나, 영업/마케팅 분야에서 활발하게 에이전트를 활용하고 있습니다.
• 데이터 기반 운영: 에이전트는 기업 운영에서 발생하는 수많은 데이터를 분석하여, 요약, 추출, 인사이트 등을 생성하여 전달해주거나 개선을 유도합니다.

‍

에이전트 워크플로우의 구조와 기능

에이전트는 비지니스 운영을 원활하게 자율적으로 운영되어 생산성과 효율성을 극대화할 수 있도록 구조화되어 있습니다.

• 플랫폼 구조: 에이전트가 작동하는 기반입니다. 웹 상에서 개발된 수많은 AI 에이전트가 항상 정상적으로 실행되도록 하며, 사용자가 인공지능 기반의 워크플로우를 만들 수 있도록 합니다.
• 강력한 통합 기능: 에이전트는 인공지능이 데이터를 기반으로 자율적으로 동작하기 때문에 강력한 데이터 통합 기능이 필수입니다. 데이터베이스부터 기업용 애플리케이션을 연동하고 데이터를 통합하는 기능을 제공합니다.
• AI-Native Task: 에이전트 워크플로우에서는 인공지능이 자율적으로 수행할 수 있는 작업들이 많이 있습니다. 예를 들어, 데이터 추출, 요약, 생성, 병합, 중복제거 등 부터 비지니스 로직반영 등 다양하게 작업들을 인공지능 테스크로 수행하게 됩니다.

‍

AI 에이전트는 구성원에게 어떤 의미가 있나요?

에이전트가 워크플로우를 실행하고 완료하려면 사람, 즉 설계자의 지시가 필요합니다. 사용자가 팀과 회사의 업무에 필요한 에이전트를 만들고 반복적으로 실행시키고 개선합니다.

즉, 구성원은 에이전트를 만들고 사람이 해야만 했던 일들을 위임하여 더욱 중요한 업무와 의사결정에 집중할 수 있도록 합니다.

‍

‍

AI 에이전트와 AI 챗봇의 차이점은 무엇인가요?

AI 에이전트와 AI Chatbots은 목적과 기능이 다릅니다. 챗봇 또는 어시스턴트는 사람과 상호 작용하여 사람이 찾기 어려운 정보를 학습하고 추출, 생성하는 방식으로 지원합니다.

에이전트는 자율적으로 워크플로우 또는 업무를 완료하도록 만들어집니다. 가장 큰 차이점은 자율적으로 작업을 완료할 수 있다는 점입니다. 챗봇은 인간과 대화를 위해서 설계되었기 때문에 일반적으로 자율적인 판단과 행동을 취하도록 개발되지 않으며, 인간을 지원하는게 목적입니다.

반면에 AI 에이전트는 사용자와 매번 상호작용하지 않을 수 있습니다. 어떤 경우는 구성원으로부터 일련의 작업을 부여받아 독립적으로 수행하기도 합니다.

동시에 둘은 유사점도 있습니다.

• 텍스트를 이해, 분석, 요약, 추출, 생성하는 처리
• 생성형으로 텍스트 또는 코드를 만들어내는 대규모 언어 모델 기반
• 인간과 상호 작용의 텍스트 입력을 더 잘 이해하기 위한 벡터 데이터베이스

‍

에이전트 워크플로우의 요소

전통적인 워크플로우 또는 자동화 툴과의 가장 큰 차이점은 자율성과 완결성입니다.

• 자율성: 에이전트 워크플로우는 사람의 개입없이 자율적으로 일련의 작업들을 수행합니다. 복잡한 업무 로직도 반영할 수 있으며, 특정 작업에 대해서 실제 코딩을 하지 않아도 됩니다.
• 적응성: 상황의 변화나 새로운 문제, 데이터에 유연하게 대응할 수 있습니다.
• 완결성: 단위 업무나 단일 테스크에 대한 자동화도 성공적으로 수행하지만, 업무 흐름인 워크플로우를 End-to-End로 실행합니다. 즉 워크플로우가 완결된 것으로 기대할 수 있습니다.

에이전트 워크플로우 (Agentic workflow)는 업무 목표를 달성하기 위해 여러 단계를 거치면 작업을 실행하게 됩니다. 이러한 혁신적 워크플로우는 사람이 개입이나 판단, 승인 필요했던 영역을 인공지능이 대신하여 자율적으로 수행할 수 있습니다.

새로운 기술의 등장은 이러한 인공지능 기반의 에이전트를 누구나 쉽고 간편하게 만들 수 있게 하고 있습니다.

‍