생성형 AI 비용 게이트

생성형 AI로 파이프라인을 짜면 비용이 예상과 다른 곳에서 터집니다. 텍스트 생성은 싸지만 이미지·영상 생성은 자릿수가 다릅니다. AI 영상 자동화 팩토리를 만들며 우리가 마주한 문제도 같았습니다. 마음에 들지 않는 결과물에 비싼 생성비가 계속 새어 나갔죠. 이 글은 생성형 AI 비용을 값비싼 단계 앞에 사람 검수 게이트를 두어 구조적으로 통제한 방법입니다.

생성형 AI 비용은 가장 비싼 단계에서 터진다

우리 파이프라인의 단계별 비용은 크게 차이가 납니다. 코드에 기록된 비용 상수와 리서치 추정치(Nano Banana 2 가격, PiAPI Kling 가격)를 기준으로 대략적인 상대 크기를 보면 이렇습니다.

숫자 자체보다 중요한 건 구조입니다. 영상 변환이 이미지 생성보다 몇 배 비싼데, 영상은 이미지를 입력으로 받습니다. 즉 나쁜 이미지에 영상비를 태우는 건 순수한 낭비입니다. 그렇다면 답은 분명합니다. 영상 생성 전에, 이미지를 사람이 먼저 본다.

비용 게이트, 비싼 생성 전에 값싼 산출물을 검수한다

핵심 아이디어는 단순합니다. 값싼 중간 산출물을 사람이 검수해, 통과한 것만 비싼 다음 단계로 넘긴다. 우리 파이프라인에서는 이미지 생성 직후, Kling 영상 변환 직전에 "이미지 비용 승인 게이트"를 둡니다.

이미지가 마음에 들지 않으면 여기서 잡을 되돌립니다. 그러면 그 잡에는 영상 변환 비용이 한 푼도 들지 않습니다. 사람이 검수하는 대상은 이미 생성된(그리고 값싼) 이미지뿐이므로, 검수 자체의 비용도 거의 없습니다. 이 게이트가 어떻게 구현됐는지(콜백으로 워크플로를 일시정지하고 대시보드가 결정을 POST)는 AI 콘텐츠를 완전 자동으로 올리면 안 되는 이유에서 자세히 다룹니다.

판정에는 싼 모델을 쓴다, 모델 티어링

비용 통제는 사람 게이트만으로 끝나지 않습니다. "판정"에는 값싼 모델을 쓰는 것도 같은 원리입니다. 예를 들어 의료 팩트체크는 대본을 생성하는 모델(Sonnet)이 아니라 훨씬 싼 분류 모델(Haiku)로 통과/차단만 판정합니다. 생성은 비싼 모델로, 판정은 싼 모델로 나누는 이 티어링은 판정 호출이 잦을수록 이득이 큽니다. 배경은 LLM 트레이드오프: 정확도 vs 지연 vs 비용에서, 의료 팩트체크 적용은 AI가 만든 의료 콘텐츠 팩트체크에서 이어집니다.

아예 호출하지 않는 게 가장 싸다, 사전 차단

가장 확실한 비용 절감은 "싸게 호출하기"가 아니라 "호출하지 않기"입니다. 우리 파이프라인은 대본을 생성하기 전에 주제 블랙리스트를 먼저 확인합니다. 과거에 성과가 나빴던 주제 키워드가 걸리면 대본 생성 자체를 건너뛰어, 값비싼 생성 모델 호출을 애초에 발생시키지 않습니다. 이 블랙리스트가 어떻게 채워지는지는 터진 영상·망한 영상을 자동 분석하는 성과 피드백 루프에서 다룹니다.

비용을 보이게 만든다, 잡 단위 추적

통제의 전제는 측정입니다. 우리 파이프라인은 각 잡이 어느 단계에서 얼마를 썼는지를 잡 단위로 누적합니다. 이미지 생성비, 영상 변환비, 더빙비, 대본·판정 모델 호출비가 각각 기록되고, 대시보드의 비용 요약에서 영상당 원가를 볼 수 있습니다. 예를 들어 영상 변환비는 생성한 클립 수에 클립 단가를 곱해 그 잡의 비용에 더해집니다. 비용이 숫자로 보여야 "어느 단계가 비싼가"를 알고 게이트를 정확한 지점에 둘 수 있습니다. 보이지 않는 비용은 통제할 수 없습니다.

정리하면 비용 통제는 세 층입니다. ① 비싼 생성 전에 사람 게이트로 걸러내고, ② 판정은 싼 모델로 내리고, ③ 불필요한 호출은 아예 발생시키지 않는다. 여기에 잡 단위 비용 추적이 더해져, 어디에 게이트를 둘지가 데이터로 정해집니다. 파이프라인 전체 그림은 AI 영상 파이프라인이란과 AI 영상 자동화 팩토리에서 볼 수 있습니다.

자주 묻는 질문

생성형 AI 비용은 왜 통제하기 어렵나요?

단계마다 비용 차이가 크고, 가장 비싼 단계(영상 생성)가 값싼 단계(이미지 생성)의 결과물을 입력으로 받기 때문입니다. 앞 단계의 품질을 확인하지 않고 다음 단계로 넘기면, 쓸모없는 산출물에 비싼 생성비가 계속 새어 나갑니다.

비싼 AI 호출 전에 비용 게이트를 두려면 어떻게 하나요?

값싼 중간 산출물을 사람이 먼저 검수하고, 통과한 것만 비싼 다음 단계로 넘기면 됩니다. 우리는 이미지 생성 직후·영상 변환 직전에 이미지 승인 게이트를 두어, 마음에 들지 않는 이미지는 영상 생성 전에 되돌립니다. 그러면 그 잡에는 영상비가 들지 않습니다.

사람이 일일이 검수하면 그 자체가 비용 아닌가요?

검수 대상은 이미 생성된 값싼 이미지뿐이라 검수 비용은 낮고, 대신 그보다 훨씬 비싼 영상 생성비를 막습니다. 판단이 꼭 필요한 지점에만 사람을 두고 나머지는 자동화하므로, 사람 개입이 오히려 전체 비용을 낮춥니다.

모델을 나눠 쓰면 얼마나 절약되나요?

정확한 절감액은 워크로드에 따라 다르지만, 원리는 명확합니다. 생성은 비싼 상위 모델로, 통과/차단 같은 판정은 값싼 하위 모델로 나누면 판정 호출이 잦을수록 이득이 커집니다. 여기에 사전 차단(블랙리스트)까지 더하면 불필요한 호출 자체가 사라집니다. 결국 같은 품질의 결과를 더 적은 비용으로 얻는 것이 목표이고, 그 열쇠는 "어디에 무엇을 태울지"를 단계마다 정확히 정하는 데 있습니다.