AI 엔지니어링 리드에게 요즘 가장 골치 아픈 게 뭐냐고 물으면, 의외로 모델 자체를 꼽는 경우는 거의 없습니다. 진짜 문제는 그 아래 인프라, 정확히는 "GPU 용량을 대체 얼마나 확보해둬야 하는가"입니다. 2026년 3월 Akamai가 AI 실무자 200명을 대상으로 진행한 설문에서 이 감각이 숫자로 확인됐습니다. AI 네이티브 팀의 65.9%가 GPU 용량 계획(capacity planning)을 스케일링 과정에서 가장 어려운 과제로 꼽았고, 이는 설문에 포함된 다른 모든 (레이턴시, 비용까지 포함한) 운영 이슈를 제친 1위였습니다. [1] 이건 소수가 겪는 특수한 고충이 아닙니다. 응답자의 75.5%가 엔지니어, 아키텍트, DevOps 실무자였고, 응답자의 76%가 기업의 예산과 방향을 정하는 의사결정권자였습니다. 즉, 실무자와 리더 모두가 공통으로 꼽은 문제라는 뜻입니다. 흥미롭게도, 같은 현상을 다른 곳에서도 확인할 수 있습니다. 202