← 모든 프로젝트

AI 제품 기획부터 출시까지

Multi-LLM 솔루션

AI 사업 제안에서 실제 제품으로 개발 역량을 보여줄 필요가 있었습니다. 사용자 흐름과 모델 병렬 호출·평가, 인증·결제 구조를 설계하고 핵심 개발을 맡아 4명 개발팀으로 가입·결제 가능한 웹 서비스를 출시했습니다.

  • OpenAI
  • Claude
  • Gemini
  • MSA
  • Kafka
  • Keycloak
  • KG이니시스
기간
2026.01 — 2026.04
역할
PM · 아키텍처 설계 · 핵심 개발
팀
본인 포함 4명 개발팀
규모
아이디어 → 출시

여러 모델의 답변을 비교하는 구조

선택한 1~5개 모델에 병렬 요청

  • OpenAI
  • Claude
  • Gemini
답변 평가 · 선택Evaluator가 응답을 비교해 최종 답변 선택
최종 답변 전달실제 토큰 사용량에 따라 크레딧 정산

약 30개 모델 중 사용자가 직접 선택합니다.

~30
선택 가능한 AI 모델
3개 모델 패밀리
1—5
동시 병렬 모델 호출
사용자 선택
3개월
기획부터 출시까지
2026.03.27 출시
4명
제품 개발팀
본인 포함 · 개발자 3명 리딩

어떤 문제였나요?

AI 사업 제안은 계속 들어왔지만 회사가 실제로 AI 제품을 설계하고 개발할 수 있는지 보여줄 근거가 부족했습니다. 제안서가 아니라 누구나 직접 사용할 수 있는 제품을 회사 홈페이지에 공개하는 것이 목표였습니다.

일반적인 단일 Agent 챗봇 대신 여러 모델의 답변을 병렬로 비교·선택하는 구조를 제품의 차별점으로 정했습니다. 사용자가 품질, 비용, 모델 선호를 직접 조절하면서 HTML과 파일까지 생성할 수 있는 브라우저 기반 제품으로 구체화했습니다.

아이디어를 판매 가능한 제품으로

간단한 초기 기획만 있는 상태에서 사용자 흐름, 기능 범위, 결제 정책, 디자인을 정의하고 4명 개발팀의 실행 계획으로 전환했습니다.

모델의 품질과 스타일 편향

OpenAI, Claude, Gemini 계열 약 30개 모델 중 1~5개를 병렬 호출하고 평가 모델이 최종 답변 하나를 선택하도록 구성했습니다.

처음 구축하는 결제와 크레딧

KG이니시스 단건 결제를 연동하고 실제 토큰 비용을 크레딧으로 차감하는 유료 서비스 구조를 설계했습니다.

어떻게 연결했나요?

인증과 사용자

Keycloak · UMA

게이트웨이

외부 요청 진입점과 라우팅

플랫폼

웹 제품 공통 기능

에이전트

AI 작업과 파일 생성

LLM 코어

모델 연결 · 병렬 호출 · 비용 계산

결제

KG이니시스 · 크레딧 원장

이벤트

REST API · Kafka

모델 병렬 호출부터 답변 선택과 사용량 정산까지 연결했습니다.

사용자가 고른 모델들을 동시에 호출하고 품질 점수가 가장 높은 모델이 평가 역할을 맡습니다. 반복 생성 대신 선택 구조로 응답 비용과 대기 시간을 통제했습니다.

  1. 01모델 선택

    약 30개 모델 중 1~5개 선택

  2. 02병렬 호출

    OpenAI · Claude · Gemini 동시 요청

  3. 03답변 평가

    내부 점수 기반 최상위 모델이 답변 선택

  4. 04사용량 정산

    실제 토큰 비용을 크레딧에서 차감

공식 소개 자료에 담긴 아키텍처

  • 서비스 경계

    접근 계층·오케스트레이션·모델 서빙·데이터 계층을 나누어 소개합니다.

  • 운영 구성

    관측과 배포 영역까지 포함한 회사의 공개 아키텍처 개요입니다.

  • 직접 맡은 설계

    이 사례에서는 MSA 경계, 모델 병렬 호출·평가, 인증·결제 구조를 설계하고 핵심 개발을 담당했습니다.

회사에서 공개한 기업용 AI 플랫폼의 아키텍처 개요입니다. 공개 자료에 포함된 전체 기능과 이 프로젝트에서 직접 설계·구현한 범위는 구분해 기술했습니다.

출처: 포니링크 공식 홈페이지 2026.10.16 확인

공식 소개 자료에 담긴 아키텍처

원본 열기 ↗
접근 계층, 오케스트레이터, 모델 서빙, 데이터 계층, 관측과 배포로 구성된 포니링크 Multi LLM 공식 아키텍처

모델 선택부터 답변 확인까지, 실제 제품 화면

  • 사용자가 선택하는 모델

    사용할 모델을 고르는 인터페이스를 실제 화면에서 확인할 수 있습니다.

  • 질문과 결과를 하나의 화면에서

    질문 입력, 모델 선택, 답변 확인으로 이어지는 제품 경험을 보여줍니다.

  • 회사 솔루션으로 공개

    포니링크 홈페이지의 AIoT 분류에서 Multi LLM 제품 소개와 함께 공개된 화면입니다.

포니링크 공식 소개 자료에 실린 모델 선택·대화 화면입니다.

출처: 포니링크 공식 홈페이지 2026.10.16 확인

모델 선택부터 답변 확인까지, 실제 제품 화면

원본 열기 ↗
여러 AI 모델의 선택 목록, 질문 입력창과 생성된 답변을 보여주는 Multi LLM 대화 화면
사용자 선택 병렬 호출
1—5
모델 패밀리
3개
최종 선택 추가 시간
+1—2초

무엇을 선택했나요?

비용과 대기 시간을 고려해 병렬 생성·선택 구조를 설계했습니다.

상황
반복 개선은 결과를 높일 수 있지만 출력 토큰과 사용자의 대기 비용도 함께 늘어납니다.
선택
선택한 1~5개 모델을 한 번 병렬 호출하고, 내부 품질 점수가 가장 높은 평가 모델이 최종 답변을 선택하게 했습니다.
트레이드오프
반복 개선은 포기했지만 비용 예측 가능성과 응답 속도를 확보하고, 사용자에게 모델 선택권을 제공했습니다.

크레딧을 사용자보다 결제 도메인에 두었습니다.

상황
크레딧은 사용자 잔액인 동시에 구매·취소·환불과 함께 움직이는 금전성 자산이었습니다.
선택
사용자 원장은 Keycloak이 소유하게 두고, 애플리케이션이 통제해야 하는 크레딧은 결제 도메인이 책임지도록 경계를 정했습니다.
트레이드오프
사용자 조회 시 서비스 간 통신이 필요하지만 결제와 크레딧의 정합성 책임은 한 도메인에 모을 수 있었습니다.

상시 운영보다 제안 자산으로 전환했습니다.

상황
제품은 출시됐지만 외부 활성 사용자와 매출을 확보하지 못했습니다.
선택
상시 서버는 종료하고 필요할 때 데모 환경을 열어 AI 사업 제안의 기술 증빙으로 활용했습니다.
트레이드오프
소비자 서비스 성장은 검증하지 못했지만, 회사의 AI 설계·개발 역량을 보여주는 재사용 가능한 자산을 확보했습니다.

제가 맡은 일과
남긴 결과입니다.

직접 책임진 범위

  • 제품 핵심 기능 구현과 개발자 3명 기술·업무 리딩
  • Multi-LLM 병렬 호출·답변 평가 구조와 MSA 도메인 경계 설계
  • Keycloak 인증, 결제·크레딧의 책임 범위와 전체 아키텍처 설계
  • 사업 제안에 활용할 제품의 기능 범위와 사용자 흐름 정의
  • AI로 생성한 UI 디자인 검토와 수정
  • 가입·결제·크레딧을 포함한 출시 추진

프로젝트의 결과

  • 2026년 3월 27일 가입·결제 가능한 자체 AI 제품 출시
  • 포니링크 공식 홈페이지의 AIoT 분류에 Multi LLM 솔루션으로 소개
  • 여러 AI 사업 제안에서 제품 데모와 기술 증빙으로 활용
  • OpenAI·Claude·Gemini 계열을 아우르는 모델 선택 경험 제공
  • 4명 개발팀으로 약 3개월 내 기획·인증·결제·AI 기능을 갖춘 제품 완성

2026년 8월 기록 기준, 외부 매출과 활성 사용자는 확보하지 못했습니다. 상시 서버를 종료하고 필요한 시점에 데모 환경을 열어 사업 제안에 활용했습니다.

다음 프로젝트

SKT AI 플랫폼 에이전트 고도화
이력서 보기