하임덱스 고객 사례: Air Cloud로 GPU 인프라 다각화해 비용을 낮추다
- 7월 22일
- 5분 분량
최종 수정일: 7월 24일
크레딧 이후에도 지속 가능한 AI 인프라
- 하임덱스가 Air Cloud로 클라우드 벤더 다각화를 시작한 이유
영상 AI 서비스를 운영하려면 모델 성능만큼이나 이를 뒷받침하는 GPU 인프라가 중요합니다.
연구 단계에서는 다양한 알고리즘과 모델을 반복적으로 실험해야 하고, 서비스 단계에서는 고객 데이터를 빠르게 인덱싱하고 트래픽 변화에 맞춰 GPU 자원을 확장해야 합니다. 그러나 GPU 사용량은 일정하지 않기 때문에, 필요한 성능을 확보하면서 비용까지 예측 가능하게 관리하는 일은 쉽지 않습니다.
하임덱스(HEIMDEX)는 AI가 영상의 장면과 의미를 분석해 방대한 영상 콘텐츠를 검색·요약·관리할 수 있도록 지원하는 영상 인텔리전스 기업입니다. 사용자는 긴 영상을 직접 모두 확인하지 않고도 사람, 장소, 대사, 감정과 같은 단어만으로 필요한 장면을 찾을 수 있습니다.
이번 인터뷰에서는 하임덱스 공동창업자 이장원 CEO와 개발팀이 Air Cloud를 도입하게 된 배경과 실제 활용 방식, 그리고 AI 기업이 장기적으로 고민해야 할 클라우드 벤더 다각화에 관한 이야기를 들어봤습니다.
Q. 하임덱스와 담당하고 계신 업무를 소개해 주세요.
안녕하세요. 하임덱스 공동창업자 겸 CSO 강희조입니다. 하임덱스는 AI가 영상의 내용을 이해하고, 사용자가 필요한 장면을 자연어로 검색할 수 있도록 지원하는 영상 인텔리전스 서비스를 개발하고 있습니다.
영상에는 대사뿐 아니라 얼굴, 객체, 장소, 행동, 감정 등 다양한 정보가 담겨 있습니다. 하임덱스는 이러한 정보를 AI로 분석하고 의미 단위로 인덱싱해, 기업이 보유한 영상 데이터를 검색하고 재활용할 수 있는 자산으로 전환하는 것을 목표로 합니다.
저는 하임덱스의 기술과 서비스 운영 전반을 담당하고 있으며, 고객별 컨테이너 배포와 GPU 인프라 구성, 워크로드 확장 방식 등을 함께 관리하고 있습니다.
Q. AI 서비스를 운영하면서 어떤 인프라 문제를 고민하셨나요?
하임덱스의 GPU 워크로드는 크게 연구·실험과 실제 서비스 운영으로 나뉩니다.
리서치 단계에서는 SSH로 서버에 접속해 알고리즘과 모델을 반복적으로 비교합니다. 서비스 운영 단계에서는 고객별 워커를 배포하고, 환경변수를 통해 고객마다 다른 설정을 적용합니다. 특히 신규 고객의 영상 데이터를 처음 인덱싱할 때는 단기간에 많은 GPU 자원이 필요합니다. 반면 초기 인덱싱이 끝나면 필요한 자원은 다시 줄어듭니다. 항상 같은 수의 GPU 서버를 유지하면 불필요한 비용이 발생하고, 필요할 때마다 서버를 수동으로 구축하면 고객 대응 속도가 떨어집니다. 따라서 하임덱스에는 필요한 순간에 빠르게 자원을 확보하고, 작업량이 줄어들면 다시 축소할 수 있는 유연한 인프라가 중요했습니다.
Q. AWS 크레딧을 활용할 수 있는데도 다른 클라우드를 검토한 이유는 무엇인가요?
스타트업에 제공되는 AWS 크레딧은 초기 인프라 비용을 줄이는 데 큰 도움이 됩니다. 하지만 크레딧은 영구적인 비용 절감 수단이 아닙니다. 서비스가 성장하고 GPU 사용량이 늘어나면 언젠가는 크레딧이 종료된 이후의 비용 구조를 고려해야 합니다. 특정 클라우드에 모든 워크로드를 의존하면 이후에 비용이나 운영 조건이 달라졌을 때 선택지가 제한될 수도 있습니다.
이장원 CEO는 다음과 같이 설명했습니다.
“AWS 크레딧은 초기 비용 부담을 줄이는 데 분명 도움이 됩니다. 하지만 결국 중요한 것은 크레딧이 끝난 뒤에도 서비스를 지속가능하게 운영할 수 있느냐는 점입니다. 서비스가 성장하면 비용 구조와 확장성을 함께 봐야 하고, 어느 시점에는 클라우드 벤더 다각화에 대한 고민이 필요합니다.”
하임덱스에게 벤더 다각화는 단순히 비용이 저렴한 클라우드를 추가하는 일이 아닙니다. 특정 벤더에 대한 의존도를 낮추면서도 서비스 운영의 안정성과 확장성을 높이는 전략입니다. Air Cloud는 빠른 실험과 PoC부터 고객 서비스 배포와 대규모 인덱싱까지 연결할 수 있어, 하임덱스의 지속가능한 AI 인프라를 구성하는 핵심 선택지가 됐습니다
Q. Air Cloud를 처음 사용했을 때의 인상은 어땠나요?
하임덱스 팀은 기존에 RunPod을 비롯한 여러 GPU 클라우드를 사용해 본 경험이 있습니다. Air Cloud에 SSH 기능이 추가된 이후에는 리서처가 기존 GPU 클라우드에서 수행하던 반복 실험을 큰 불편 없이 진행할 수 있었습니다. 가입부터 콘솔 진입까지의 과정도 복잡하지 않았습니다. 특히 조직, 프로젝트, 엔드포인트로 이어지는 구조가 AWS보다 단순하게 구성돼 있어, 처음 GPU 클라우드를 사용하는 개발자도 필요한 기능을 빠르게 찾을 수 있었다고 평가했습니다. 하임덱스 개발팀은 다음과 같이 설명했습니다.
“AWS는 기능이 많아서 처음 사용하는 입장에서는 어디로 들어가야 하는지 파악하는 데 시간이 걸립니다. Air Cloud는 구조가 상대적으로 단순하고 직관적이어서 프로젝트와 컨테이너를 이해하기 쉬웠습니다.”
환경변수와 컨테이너 설정을 한 화면에서 확인할 수 있다는 점도 배포 담당자에게는 편리한 요소였습니다.
Q. 비용 측면에서는 어떤 장점을 느끼셨나요?
Air Cloud의 가격 경쟁력은 특히 연구와 실험 단계에서 체감됐습니다. 연구팀은 여러 모델과 알고리즘을 비교하기 위해 GPU 환경을 반복적으로 생성하고 종료합니다. 운영 서버처럼 항상 실행할 필요는 없지만, 실험할 때는 충분한 GPU 성능이 필요합니다.
하임덱스의 류효정 시니어 개발자 겸 리서처는 다음과 같이 말했습니다.
“실험 목적으로 사용할 때는 기존 GPU 클라우드 비용이 상당히 높게 느껴졌습니다. Air Cloud는 실험할 때 확실히 더 저렴하다는 점을 체감할 수 있었습니다.”
이장원 CEO 역시 Air Cloud의 강점을 빠른 실험과 PoC 구축에서 찾았습니다.
“간단한 실험이나 PoC를 진행할 때는 인프라를 얼마나 빨리 준비할 수 있는지가 중요합니다. Air Cloud는 복잡한 클라우드 기능을 일일이 설정하지 않아도 필요한 GPU 환경을 빠르게 만들 수 있습니다. 오토스케일링을 통한 확장성까지 고려하면, 이러한 워크로드에서는 AWS보다 직관적이고 저렴하다는 확실한 장점이 있습니다.”
Q. 현재 Air Cloud를 어떻게 활용하고 있나요?
하임덱스는 팀원의 역할에 따라 Air Cloud를 다르게 활용하고 있습니다.
리서처는 SSH로 접속해 알고리즘과 모델을 반복적으로 비교하고, 배포 담당자는 고객 서비스에 필요한 워커와 컨테이너를 관리합니다. 같은 이미지를 사용하더라도 고객별 환경변수를 다르게 설정해 각 고객 환경을 분리하고 있습니다.
신규 고객의 데이터를 처음 인덱싱할 때는 GPU 사용량이 일시적으로 크게 늘어납니다. 하임덱스는 현재 워크로드 상황에 따라 API로 컨테이너 수를 조절하면서, 오토스케일링 기능의 고도화도 Air Cloud 팀과 함께 검증하고 있습니다.
작업량이 증가할 때 여러 컨테이너를 빠르게 실행하고, 작업이 끝나면 자원을 축소할 수 있는 구조는 하임덱스처럼 고객별 초기 인덱싱 작업이 많은 서비스에 특히 중요합니다.
Q. 오토스케일링에서 가장 중요하게 생각하는 것은 무엇인가요?
하임덱스가 오토스케일링에서 중요하게 생각하는 가치는 단순한 응답 속도만이 아닙니다. 편의성과 비용 최적화가 함께 작동해야 합니다.
“신규 고객 데이터를 처음 인덱싱할 때는 짧은 시간 동안 많은 GPU가 필요합니다. 반대로 작업이 끝난 뒤에도 컨테이너가 계속 실행되면 비용이 발생합니다. 필요한 순간에는 빠르게 늘어나고, 사용하지 않을 때는 자동으로 줄어드는 것이 중요합니다.”
예를 들어 밤사이 대규모 인덱싱을 진행하는 경우, 작업이 끝날 때까지 운영자가 계속 상태를 확인하고 컨테이너를 직접 종료해야 한다면 클라우드 도입으로 얻을 수 있는 운영 효율이 줄어듭니다. 하임덱스는 컨테이너 증감 알림과 작업 종료 후 자동 축소 등 오토스케일링 기능이 더욱 고도화되면 비용과 운영 부담을 동시에 줄일 수 있을 것으로 기대하고 있습니다.
Q. Air Cloud를 사용하며 인상적이었던 지원 경험이 있었나요?
하임덱스 팀은 기능 자체뿐 아니라 개선 요청에 대한 대응 속도도 중요하게 평가했습니다.
초기에는 Air Cloud에 SSH 기능이 없어 기존 GPU 클라우드와는 목적이 다른 서비스라고 생각했지만, SSH가 추가된 이후에는 연구와 실험 환경으로도 자연스럽게 사용할 수 있게 됐습니다. 환경변수 입력 과정에서 발견된 문제 역시 Air Cloud 기술팀이 빠르게 대응했습니다. 현재도 하임덱스는 빌드 로그, 문서, 비용 관리, 컨테이너 검색과 같은 실제 운영 의견을 전달하고 있으며, Air Cloud는 이를 제품 개선에 반영하고 있습니다.
고객의 워크로드를 직접 확인하고 제품을 함께 개선하는 과정은 완성된 인프라를 일방적으로 제공받는 것과는 다른 장점입니다.
Q. 어떤 기업에 Air Cloud를 추천하고 싶으신가요?
AWS 크레딧을 사용하고 있지만, 크레딧 종료 이후의 GPU 비용을 함께 고민하고 있는 AI 스타트업에 추천하고 싶습니다. 모든 인프라를 한 번에 이전할 필요는 없습니다. 우선 새로운 모델을 검증하는 실험 환경이나 고객 PoC처럼 작게 분리할 수 있는 워크로드부터 Air Cloud에서 테스트해 볼 수 있습니다.
특히 다음과 같은 팀에 적합합니다.
AI 모델을 반복적으로 실험하는 개발팀
신규 고객 도입 시 단기간에 많은 GPU가 필요한 서비스
영상 분석, 생성형 AI, 검색·인덱싱 워크로드를 운영하는 기업
GPU 비용을 낮추면서 클라우드 벤더를 다각화하려는 스타트업
복잡한 인프라 설정보다 빠른 PoC와 제품 검증에 집중하고 싶은 팀
이장원 CEO는 다음과 같이 정리했습니다.
“클라우드 선택은 당장 사용할 수 있는 크레딧만으로 결정하기보다, 서비스가 성장한 이후에도 감당할 수 있는 비용인지 함께 봐야 합니다. Air Cloud는 작은 실험부터 시작해 실제 서비스 운영으로 확장할 수 있다는 점에서 좋은 선택지가 될 수 있습니다.”
크레딧보다 오래가는 AI 인프라를 설계하세요
클라우드 크레딧은 스타트업의 시작을 도울 수 있지만, 서비스의 지속가능성까지 보장하지는 않습니다.
하임덱스는 연구·실험과 고객 데이터 인덱싱 등 워크로드의 특성을 나누고, 각 작업에 적합한 인프라를 선택하는 방식으로 클라우드 벤더 다각화를 준비하고 있습니다. Air Cloud는 빠른 GPU 환경 구축, 직관적인 컨테이너 관리, 실험 단계에서 체감되는 비용 경쟁력과 확장 가능한 구조를 통해 AI 스타트업이 크레딧 이후의 인프라까지 설계할 수 있도록 지원합니다.
GPU 인프라 비용이나 복잡한 클라우드 구축 때문에 AI 서비스의 실험과 출시가 늦어지고 있다면, 실제 워크로드를 기반으로 Air Cloud를 검토해 보세요.
🙋♀️ 하임덱스의 사례에 공감한다면?
