← 모든 프로젝트

고객 업무에 AI를 연결하는 설계와 구현

계열사 A.X 전환

삼성제약과 젬백스앤카엘의 분산된 요청과 문서 업무를 AI 시스템으로 연결하는 프로젝트입니다. LangGraph 슈퍼바이저와 블랙보드의 설계·구현을 주도하고, 자체 문서 분석 API와 Kubernetes 운영 기반을 구축했습니다.

  • Python
  • FastAPI
  • LangGraph
  • Kubernetes
  • Keycloak
  • Istio
  • Argo CD
기간
2026.04 — 2026.08
역할
AI 아키텍처 · 핵심 개발 · 기술 리딩
팀
전체 16명 · 개발자 10명
규모
약 20억 원

답변을 확인하고, 다음 질문을 이어가는 실제 채팅 화면

  • 구조화된 답변 확인

    제목·목록·강조를 사용해 답변의 판단 기준과 결론을 읽을 수 있는 채팅 인터페이스입니다.

  • 같은 대화에서 이어지는 질문

    앞선 답변을 확인하고 중요한 내용을 다시 묻는 장면입니다. 아래의 슈퍼바이저 실행 구조가 연결되는 사용자 화면을 보여줍니다.

실제 서비스 캡처에서 답변과 후속 질문 영역을 발췌했습니다. 화면 속 텍스트와 UI는 그대로 유지했습니다.

답변을 확인하고, 다음 질문을 이어가는 실제 채팅 화면

원본 열기 ↗
AIME 채팅에서 합성 데이터 평가 흐름을 정리한 AI 답변과 가장 중요한 내용을 묻는 사용자의 후속 질문

업무 요청을 처리하는 구조

사용자의 업무 요청

슈퍼바이저근거를 확인하고 다음 작업을 선택
  • 문서 검색RAG
  • 업무 시스템ERP · 그룹웨어
  • 문서 처리분석 · 번역
검증된 결과 공유블랙보드에 쌓아 다음 작업의 근거로 전달

슈퍼바이저가 전체 목표의 완료 여부를 확인합니다.

34.8%
Document Insight 처리 시간 단축
7.22MB·380페이지 PDF 기준
12
슈퍼바이저 연결 서브 에이전트
계획 기반 복수 실행
10명
개발팀 기술 리딩
전체 프로젝트 인원 16명
9분 16초
배포 파이프라인
테스트·이미지·SBOM 포함

어떤 문제였나요?

영업 관련 요청과 정보는 카카오톡, 이메일 등 여러 채널로 들어왔고 담당자가 이를 수기로 취합해야 했습니다. 채널에서 받은 데이터는 다시 Excel로 정리해 월별로 저장했으며, 흡수율과 이상치는 별도 프로그램을 실행한 뒤 육안으로 비교했습니다.

해결할 과제는 분산된 채널과 수기 업무를 하나의 데이터 흐름으로 통합하는 것이었습니다. 고객의 기존 ERP·그룹웨어와 연결하면서, AI가 데이터를 해석·적재·검색·출력할 수 있는 업무 시스템을 목표로 삼았습니다.

사업 조건상 A.X 에이전트를 반드시 구현·활용해야 했습니다. 대화 상태를 갱신하는 흐름만으로는 여러 에이전트의 결과를 다음 업무로 이어가기 어려웠습니다. 검증된 정보를 공용 블랙보드에 축적하고, 슈퍼바이저가 이를 근거로 다음 작업을 결정하는 구조를 선택했습니다.

A.X 필수 활용 조건과 복합 업무의 연결

A.X 에이전트를 실행 단위로 유지하면서 ERP, 그룹웨어, 문서 검색·요약·번역의 결과를 블랙보드에 모았습니다. 슈퍼바이저가 채택된 근거를 다음 작업에 전달해 하나의 요청을 끝까지 처리하도록 설계했습니다.

상용화하기 어려운 문서 분석 속도

SKT DI가 동일 문서를 처리하는 데 59분 47초가 걸리는 병목을 확인했습니다. 외부 데이터 전송과 추가 비용이라는 제약을 고려해 Azure API 구조와 호환되는 자체 Document Insight를 설계·구현하고 처리 시간을 비교했습니다.

설치 문서가 부족한 플랫폼 구축

Keycloak 권한 구성을 로그와 실행 결과로 역추적하고, 인증·배포·관측·로그·트래픽까지 전체 플랫폼을 직접 연결했습니다.

어떻게 연결했나요?

사용자 화면

Vue · React · 통합 챗봇 · 문서함

애플리케이션

Python · FastAPI · LangGraph 슈퍼바이저

결과 공유

Run 단위 Blackboard · 검증된 근거 축적 · 다음 작업에 전달

AI 플랫폼

Agent Gateway · Model Gateway · Knowledge

데이터

PostgreSQL · Milvus · OpenSearch · Airflow

인증과 권한

Keycloak · UMA · 정책 · 권한

배포

GitLab CI · Harbor · Argo CD · SBOM

실행 환경

Kubernetes · Istio · Vault · Phoenix

검증된 결과가 다음 작업의 근거가 됩니다.

슈퍼바이저는 사용자 요청과 블랙보드의 근거를 읽고 필요한 작업을 선택합니다. A.X 에이전트의 원본 결과는 보존하고, 서버 검사와 결과 검토를 통과한 근거만 블랙보드에 추가합니다. 개별 에이전트의 성공과 전체 요청의 완료를 구분해 마지막까지 확인합니다.

  1. 01다음 작업 판단

    사용자 목표·대화 문맥·채택된 근거 확인

  2. 02A.X 에이전트 실행

    필요한 근거와 하위 작업을 전달

  3. 03검증 후 축적

    검토를 통과한 결과만 블랙보드에 추가

  4. 04전체 목표 확인

    미완료 시 다음 작업, 완료 시 최종 답변 검토

실제 슈퍼바이저 실행 흐름

  • 결과를 쌓고, 필요한 근거를 전달

    요약 결과를 채택한 뒤 번역 에이전트에 넘기는 식입니다. 에이전트끼리 저장소를 직접 조회하지 않고, 슈퍼바이저가 검토된 내용을 다음 입력에 담습니다.

  • 원본과 채택된 근거를 구분

    원본 결과는 보존합니다. 형식·권한·안전·출처 검사와 작업 결과 검토를 거쳐 채택된 내용만 공용 근거에 추가해 오류의 전파를 막습니다.

  • 에이전트 성공과 요청 완료를 구분

    Completion Gate가 사용자 목표 전체를 확인합니다. 정보나 승인이 부족하면 대기하고, 응답을 저장한 뒤 같은 Run에서 재개합니다.

2026.10.15 정리한 실행 흐름도입니다. 하단 DOC-1의 채팅 연결과 DOC-2/3·DOC-4/5는 미연결·예정 상태로 표기되어 있으며, 완료 성과에 포함하지 않습니다.

실제 슈퍼바이저 실행 흐름

원본 열기 ↗
요청 접수부터 에이전트 실행, 결과 검증, 블랙보드 축적, 전체 목표 확인과 최종 답변까지 이어지는 슈퍼바이저 흐름도

AI 플랫폼을 기존 업무 시스템에 연결했습니다.

  • 세 업무 시스템과 연결

    ERP·그룹웨어·클라우디움의 조직·사용자 정보를 AI 플랫폼과 연결하는 구조입니다.

  • 부서와 사용자의 소속·직책

    계정만 연결하는 데 그치지 않고, 부서 정보와 사용자의 부서·직책까지 연동 범위에 포함했습니다.

  • 새벽 1회 동기화·대사

    ERP와는 정보를 동기화하고, 그룹웨어·클라우디움에서는 AI 플랫폼으로 단방향 대사하는 경로를 구성했습니다.

삼성제약 조직·사용자 연동 구조입니다. 슈퍼바이저의 AI 실행 흐름과 별도로, 기존 업무 시스템의 정보를 AI 플랫폼에 연결하는 범위를 보여줍니다.

AI 플랫폼을 기존 업무 시스템에 연결했습니다.

원본 열기 ↗
AI 플랫폼과 ERP의 조직·사용자 정보 동기화, 그룹웨어와 클라우디움에서 AI 플랫폼으로 향하는 단방향 대사를 새벽 1회 수행하는 삼성제약 연동 구조도
동일 7.22MB · 380페이지 PDF 처리 시간
SKT Document Insight59분 47초
자체 Document Insight38분 57.9초

동일 문서 기준 처리 시간 34.8% 단축

연결된 서브 에이전트
12
블랙보드 근거 공유 범위
Run 단위
다음 작업으로 전달하는 기준
검증 후 채택

무엇을 선택했나요?

A.X 필수 활용 조건을 블랙보드 구조로 풀었습니다.

상황
사업 요구상 A.X 에이전트를 반드시 구현해야 했지만, Agent Builder만으로 여러 업무의 결과를 이어받아 계획·실행·검토하는 통합 경험을 만들기는 어려웠습니다.
선택
LangGraph 슈퍼바이저에 약 12개의 A.X 서브 에이전트를 연결하고 블랙보드 아키텍처를 적용했습니다. 대화 상태 중심의 분기보다 검증된 업무 결과의 축적을 중심에 두어, 다음 에이전트가 필요한 근거를 이어받도록 했습니다.
트레이드오프
A.X 활용 조건을 충족하면서 복합 업무의 실행 순서를 유연하게 구성할 수 있었습니다. 그 대가로 Run별 근거 격리, 원본 보존, 결과 채택 기준과 전체 목표 완료 판정을 별도로 설계해야 했습니다.

외부 SaaS 대신 자체 Document Insight를 만들었습니다.

상황
기존 DI는 느렸고 Azure Document Intelligence는 추가 비용과 외부 데이터 전송이라는 제약이 있었습니다.
선택
VLM 질의를 3~10개까지 병렬 처리해 테이블, 헤더, 이미지를 분석하는 자체 호환 API를 구현했습니다.
트레이드오프
문서는 VLM 한계로 한 번에 하나씩 처리하지만, 동일 데이터 처리 시간을 59분 47초에서 38분 57.9초로 줄였습니다.

기술 지원을 기다리기보다 설정을 역추적했습니다.

상황
상세 설치 문서 없이 이미지 저장소를 전달받아 기존 Keycloak 설정과 권한 모델을 알 수 없었습니다.
선택
가능한 설정과 로그를 반복 검증해 Realm, Client, Group, Policy, Permission 관계를 복원하고 플랫폼 개발팀에 확인받았습니다.
트레이드오프
초기 탐색 비용은 컸지만 외부 답변에 종속된 일정 위험을 줄이고 사내 설치·운영 역량을 남겼습니다.

제가 맡은 일과
남긴 결과입니다.

직접 책임진 범위

  • Python·FastAPI 기반 LangGraph 슈퍼바이저와 블랙보드 설계·구현 주도
  • A.X Agent Builder 기반 서브 에이전트 5개 직접 구성
  • 자체 Document Insight API 설계·개발과 동일 문서 성능 비교
  • 전체 아키텍처와 A.X API 연동 방향 수립
  • Kubernetes 플랫폼 설치와 Keycloak 인증·권한 설정 분석
  • 초기 프로젝트 구조·AI 개발 하네스 구성과 개발 규칙 문서화
  • 개발자 10명 기술 리딩, GitLab Merge Request 리뷰와 최종 품질 승인

프로젝트의 결과

  • 삼성제약 조직원 90명 중 초기 활성 사용자 14명 확보
  • 동일 7.22MB·380페이지 PDF의 처리 시간 34.8% 단축
  • 사내 최초 Kubernetes 기반 A.X 플랫폼 설치·운영 역량 확보
  • SKT 컨소시엄을 통한 제약 분야 후속 사업 공동 제안
  • AI 개발 규칙을 Markdown과 하네스로 문서화해 팀 지식으로 축적

성과는 2026년 8월 고객 검수·초기 확산 단계의 기록을 기준으로 합니다. 처리 시간은 동일한 7.22MB·380페이지 PDF를 비교한 결과입니다. E2E 자동화는 당시 구축 범위에 포함하지 못했습니다.

다음 프로젝트

Multi-LLM 솔루션
이력서 보기