도입에서 끝내지 않고,
운영까지 책임집니다.
전략 수립, 구축, 인프라, 운영 이관을 나눠 맡기지 않아도 됩니다. 한 팀이 처음부터 끝까지 들어갑니다.
- 01진단업무를 보고 AI가 들어갈 자리와 순서를 정합니다.
- 02구축검증한 과제를 사내 시스템에 붙여 실제로 돌립니다.
- 03인프라계정과 보안, GPU와 비용 구조를 함께 잡습니다.
- 04운영배포 이후를 이어받아 모니터링하고 계속 다듬습니다.
- 01AX Consulting
AX 컨설팅
업무를 먼저 뜯어봅니다. AI를 어디에 넣어야 효과가 있는지, 무엇부터 손대야 하는지 순서를 정해 문서로 남깁니다.
업무 진단 · 적용 지점 정의 · 로드맵 · PoC 설계 - 02AX Engineering
AX 구축
- 03Cloud Operations
클라우드 운영
AWS 계정 설계와 보안, 비용 관리를 맡습니다. 구축에서 끝내지 않고 운영을 이어받습니다. GPU 자원은 Voltra(GPU as a Service)로 제공합니다.
계정 설계 · 보안 · 비용 최적화 · GPU 운영 - 04LLMOps
LLMOps
필요한 GPU를
서비스처럼 받아 씁니다.
필요한 순간에, 필요한 만큼의 GPU를 서비스처럼 받아 씁니다. 즉시 유형 GPU는 바로 시작해 쓴 만큼만 내고, 서버급 GPU는 캘린더로 예약합니다. 모든 사용은 크레딧으로 계산되어 팀 예산 안에서 움직이고, 자동 중지 타이머가 방치된 인스턴스로 새는 비용을 막습니다.


전담 엔지니어가
팀에 합류합니다.
프로젝트마다 FDE(Forward Deployed Engineer)가 배정됩니다. 비즈니스와 기술을 각각 맡은 두 축이 같이 들어가, 진단부터 운영 이관까지 한 사이클을 함께 끌고 갑니다.
업무를 먼저 봅니다. 어디에 AI를 넣어야 효과가 있는지, 무엇부터 손대야 하는지 정리하고 도입 범위와 우선순위를 함께 정합니다.
만드는 쪽을 맡습니다. 아키텍처 설계와 구축, GPU와 클라우드 인프라, 모델 운영까지 실제로 돌아가게 합니다.
구축과 운영 절차를
문서로 공개합니다.
사전 준비물부터 문제 해결까지 같은 순서로 정리했습니다. 상단 검색창에서 전체 문서를 한 번에 찾을 수 있습니다.
현장에서 배운 것을
각자의 이름으로 씁니다.
엔지니어들이 구축과 운영 현장에서 겪은 문제와 시도한 방법을 기록합니다. 필진 이름을 누르면 그 사람의 글만 모아 볼 수 있습니다.
류명재(Jay)사내 CI 구성하기조직이 같이 쓰는 깃 액션 무료 시간이 한 번 바닥난 일에서 시작해, ARC로 빌드 러너를 저희 EKS로 가져온 과정을 정리했습니다. Karpenter 위에서 빌드를 옮길 수 없는 워크로드로 다룬 규칙, 13분을 3분 40초로 되돌린 커스텀 러너 이미지, 대시보드로 확인한 실사용량까지 담았습니다.읽기
김현민(Jayden)결정 모델(Jev)의 쓸모는 정답률보다 모를 때 물러서는 방식에 있다글을 쓰지 않고 판단만 돌려주는 결정 모델 jev를 분류 과제 120건에서 추론형 LLM과 나란히 돌려 봤습니다. 정답률은 LLM에 조금 못 미쳤지만 모를 때 물러서는 모양이 좋았고 같은 입력에는 같은 답을 내서, LLM을 대신하는 자리보다 LLM 앞에 세우는 자리가 맞았습니다.읽기
김현민(Jayden)Langfuse v3에서 v4로 올리기: 셀프호스팅 무중단 마이그레이션EKS·ArgoCD·ClickHouse Cloud 환경에서 Langfuse를 v3에서 v4로 무중단 업그레이드한 기록입니다. 다섯 단계로 쪼갠 이유, 공식 가이드가 다루지 않는 Helm 차트 v2 전환과 ClickHouse Cloud GRANT 보정, 직접 밟은 함정과 정합성 검증 쿼리를 정리했습니다.읽기

