용어집
이 가이드와 화면에서 쓰는 말들.
크레딧
크레딧 (C) Voltra의 유일한 화폐 단위. GPU 시간, 예약, LLM 토큰이 전부 이것으로 계산된다. 기본 단가는 ₩500/C이고 Super Admin이 바꿀 수 있다.
센티크레딧 내부 저장 단위. 1/100 C. 부동소수점 오차를 없애려고 정수로만 다룬다.
원장 (ledger) 크레딧 변동 기록. 추가만 되고 수정·삭제되지 않는다. 잘못된 기록은 지우지 않고 반대 기록을 더한다. 잔액은 이 기록의 합이다.
잔여 / 가용 지금 새로 쓸 수 있는 금액. 총 잔액 − 선점이다. 화면의 잔여는 이 값이다.
선점 (hold) 실행 중인 세션이 미리 잡아둔 금액. 실제로 빠진 것은 아니지만 다른 데 쓸 수 없다. 세션이 끝나면 실사용분은 확정되고 나머지는 돌아온다.
확정 (capture) 선점 중 실제로 쓴 만큼을 잔액에서 빼는 것.
미할당 풀 조직이 갖고 있지만 아직 어느 팀에도 주지 않은 크레딧. 팀 예산은 여기서 나간다.
멱등키 같은 요청이 두 번 도착해도 한 번만 처리되게 하는 키. 네트워크가 끊겨 재시도해도 이중 차감이 없다.
자원
노드 조직 AWS 계정의 실제 EC2 인스턴스. Super Admin이 수동으로 등록한다. Voltra는 노드를 새로 만들지 않는다.
인스턴스 팀이 다루는 실행 단위. 노드에 배정되어 시작·중지된다. 노드 하나에 인스턴스 하나가 대응한다.
노드 유형 GPU 사양과 시간당 단가를 묶은 것. 단가표에서 관리한다.
등급 (tier) 유형이 즉시 실행용인지 예약 전용인지.
| 등급 | 뜻 |
|---|---|
즉시 | 승인 없이 바로 시작. 쓴 만큼 과금 |
서버급·예약 | 승인 필요. 선불 확정 차감 |
조직 노드 풀 그 조직이 가진 노드 전체. 팀들이 여기서 나눠 쓴다.
세션 인스턴스가 실행되는 한 구간. 시작부터 중지까지. 과금 단위이자 워크플로우 단위다.
자동 중지 (auto stop) 켜두고 잊어버리는 것을 막는 타이머. 기본 4시간이고 30분~24시간 사이에서 조정한다. 예약 인스턴스는 예약 종료 시각으로 고정된다.
Capacity Block AWS에서 GPU 물량을 기간 단위로 미리 확보하는 것. 서버급 예약이 선불·취소 불가인 이유다. 화면에는 이 용어를 노출하지 않고 기간 규칙만 안내한다.
롤
Super Admin 플랫폼 운영자. 조직을 만들고 크레딧을 팔고 노드를 등록하고 예약을 승인한다. 조직에 속하지 않는다.
Org Admin 조직 관리자. 팀을 만들고 예산을 나누고 서버리스 키를 발급한다. 자기 조직 안만 본다.
팀 사용자 실제로 GPU를 쓰는 사람. 인스턴스를 띄우고 예약을 신청하고 LLM을 호출한다.
팀 코드 팀에 가입할 때 한 번 쓰는 코드. Org Admin이 발급하고 초기화할 수 있다. 로그인에는 쓰지 않는다.
서버리스
서버리스 GPU를 띄우지 않고 LLM API만 쓰는 것. OpenAI 호환 인터페이스다.
키 (API key) 서버리스 호출에 쓰는 인증 수단. Org Admin이 발급하고 팀이 수령하면 활성화된다. 비밀 키는 수령 화면에서 한 번만 보인다.
수령 (claim) 발급된 키의 비밀을 팀이 받아가는 것. 이때 비밀이 생성되고 1회만 표시된다. Org Admin에게는 보이지 않는다.
키 예산 그 키로 쓸 수 있는 상한. 발급 시 팀 크레딧에서 선불 차감된다. 미리 사둔 지갑에 가깝다.
TPM / RPM 분당 토큰 수 / 분당 요청 수 상한. 예산과는 별개 게이트다.
게이트웨이 서버리스 호출이 통과하는 관문. 키·팀 잠금·예산·모델·속도를 순서대로 검사한다.
예약
서버급 예약 승인이 필요한 자원의 사용 신청. 승인 순간 전액 선불 차감되고 취소·환불이 없다.
조정안 (adjustment) 요청 그대로 줄 수 없을 때 Super Admin이 조건을 바꿔 회신하는 것. 사용자가 수락하면 재승인 없이 확정된다.
자동 반려 승인은 눌렀지만 크레딧이 부족해 확정 차감이 실패한 경우. 가용 노드 부족이 아니다.
노드 추가 요청 풀에 노드가 모자랄 때 증설을 요청하는 것. 예약과는 별개 트랙이다.
운영
워크플로우 오래 걸리는 작업을 관리하는 실행 단위. 세션·예약·팀 잠금·정합성 점검 등이 각각 하나의 워크플로우로 돈다. 중간에 프로세스가 죽어도 이어서 실행된다.
고아 (orphan) 워크플로우가 사라졌는데 인스턴스만 남은 상태. 10분 주기 정리 작업이 실제 상태를 확인해 수렴시킨다.
수렴 (reconcile) 기록과 실제가 어긋난 것을 실제 상태에 맞추는 것. Voltra에서는 이 판단을 하나의 정리 작업에만 맡긴다.
감사 로그 누가 언제 무엇을 했는지의 기록. 시스템이 한 일도 행위자로 남는다.
BYOC (Bring Your Own Cloud) 조직이 자기 AWS 계정을 쓰는 방식. Voltra는 IAM 역할을 맡아 그 계정의 인스턴스를 다룬다.
ExternalId BYOC 역할을 만들 때 쓰는 확인 값. 조직 생성 시 발급된다.
상태 배지
| 배지 | 대상 | 뜻 |
|---|---|---|
가용 | 노드 | 배정 가능 |
사용 중 | 노드 | 세션이 점유 중 |
비활성 | 노드 | 배정에서 제외됨 |
실행 중 | 인스턴스 | running |
중지됨 | 인스턴스 | stopped. 볼륨은 남아 있다 |
승인 대기 | 예약 | submitted |
조정 회신 | 예약 | adjusted. 사용자 응답 대기 |
수령 대기 | 서버리스 키 | pending_claim |
차단 | 서버리스 키 | blocked. 예산 소진 |
잠김 | 팀 | 크레딧 소진 |