GPU를 사놓고 5%만 씁니다 2026년 4월, 기업 Kubernetes 클러스터의 평균 GPU 활용률이 5~30%에 머문다는 데이터가 나왔습니다. 시간당 $2 ~ $15(저가형 GPU와 고성능 GPU 평균치)를 소비하는 GPU가 대부분의 시간 동안 아무것도 하지 않고 있습니다. Cast AI 보고서는 사실 더 직접적입니다. 이 보고서에 따르면, 기업들은 실제 필요한 GPU 비용보다 평균 20배를 더 지출하고 있습니다. AI 경쟁에서 밀리지 않으려고 확보한 자원이 확보한 것만으로 비용이 쌓이고 있습니다. Kubernetes 클러스터 자원 활용률 현황 (출처: CAST AI) 그렇다면 왜 GPU는 놀고 있을까? 문제는 기술이 아니라 구조입니다. Kubernetes는 기본적으로 GPU를 분할 없이 할당합니다. 어떤 팀이 GPU를 예약하면, 그 팀이 쓰든 안쓰든 다른 팀은 접근할 수 없습니다. 모델 학습은 하루에 몇 시간이지만 GPU는 24시간 점유됩니

AI를 잘 활용한다는 것은, 누구나 필요할 때 원하는 만큼 AI를 사용할 수 있는 인프라에서 출발합니다. AI에 대한 관심이 높아지는 만큼, 이를 뒷받침하는 인프라 시장 역시 폭발적인 성장을 지속하고 있습니다. 글로벌 시장에서는 다양한 플레이어들이 각자의 방식으로 인프라 경쟁을 하고 있고 AIEEV도 그 흐름 속에 있습니다. 다만 저희는 기존의 중앙화된 데이터센터 중심 모델에서 벗어나 유휴 자원을 연결하는 분산 클라우드로 시장에 뛰어들었습니다. 오늘은 이 구조가 실제로 어느 정도의 비용 절감을 만들어내는지 주요 공급사들과의 가격 비교를 통해 살펴보겠습니다. Part 1: Air API 가격 비교 몇 달 전, 사용자의 명령만으로 컴퓨터에서 실제 작업까지 수행하는 AI 에이전트 'OpenClaw'가 등장했습니다. 이후 Hermes와 같은 새로운 AI 에이전트가 시장에 등장했고 Claude Code와 Codex는 기능을 빠르게 고도화하면서, 이른바 '잠

분산형 GPU(그래픽처리장치) 인프라 기술을 개발하는 스타트업 에이아이브(대표 박세진)가 최근 LG유플러스의 AI(인공지능) 오픈이노베이션 프로그램 'SHIFT(쉬프트)' 참여 기업으로 선정됐다고 1일 밝혔다. 쉬프트는 기술 기반 스타트업을 발굴, 사업화를 지원하는 프로그램이다. 에이아이브는 올해 삼성전자 'C랩 아웃사이드' 및 SK텔레콤 'AI 스타트업 액셀러레이터 프로그램'에도 선정된 바 있다. 이번 쉬프트 합류로 국내 주요 기술·통신 기업이 운영하는 스타트업 육성 프로그램에 잇따라 발탁됐다. 회사 측은 분산형 GPU 인프라라는 기술적 차별성, AI 추론 비용 절감 관련 문제 해결 가능성, 데이터센터 의존도를 낮추는 효율성 등을 연속 선정 배경으로 꼽았다. 에이아이브는 유휴 GPU·NPU(신경망처리장치) 리소스를 글로벌 네트워크로 묶어 클라우드 스택을 구성하고, AI 추론을 빠르고 저렴하게 수행하는 분산형 클라우드 플랫폼 'Air Cloud(에