안녕하세요. AIEEV 개발팀에서 AI 인프라 연구개발을 담당하고 있는 조용래입니다. Air API에 Qwen3.8-27B-BF16 모델이 새롭게 추가됐습니다. 현재 Air API의 Playground에서 테스트 환경을 제공하고 있어, 별도의 인프라나 서빙 엔진을 준비하지 않고도 지금 바로 실제 업무 데이터와 프롬프트로 성능을 시험해 볼 수 있습니다. 이번 글에서는 Qwen3.8-27B의 주요 특징과 공개 벤치마크를 먼저 살펴봅니다. 이어 단일 GPU 환경에서 측정한 처리량과 응답시간, 메모리 사용 특성을 공유하고, 이러한 결과를 실제 서비스의 모델 선택과 검증에 어떻게 활용할 수 있는지 정리하겠습니다. Qwen3.8-27B은 어떤 모델인가요? Qwen3.8-27B는 대화와 문서 이해, 코드 작성부터 여러 단계에 걸친 복잡한 작업까지 폭넓게 수행할 수 있는 멀티모달 AI 모델입니다. Alibaba Group의 Qwen Team이 2026년 8

최근 한 주 사이 AI에 관심을 두고 계셨다면, 다음 중 하나 이상의 소식은 이미 접하셨을 겁니다. 기업공개를 준비 중인 앤트로픽이 30조 달러가 넘는 잠재 시장 규모를 투자자들에게 제시하는 방안을 검토하고 있다는 소식 AI가 기존 소프트웨어 산업을 무너뜨릴 것이라는 ‘소프트웨어 종말론’과 이를 둘러싼 반론 엔비디아가 78 TOPS의 연산 성능을 갖춘 엔트리급 엣지 AI 모듈을 공개했다는 소식 자본시장, 소프트웨어, 클라우드 인프라, 엣지 하드웨어. 언뜻 보면 서로 다른 분야에서 나온 이야기입니다. 하지만 나란히 놓고 보면 모두 하나의 질문으로 모입니다. 앞으로 늘어나는 AI 연산을 어디에서, 어떤 구조로 처리할 것인가. 결국 클라우드 전략에 관한 질문입니다. 지난 10년간 컴퓨팅은 한 방향으로만 움직였습니다. 흩어져 있던 서버는 데이터센터로 모였고, 데이터센터는 다시 몇 개의 하이퍼스케일 리전으로 모였습니다. 규모의 경제가 확실하게 작동했으니 자

AIEEV Dev Team 김진범 님의 이야기 오픈소스에 기여한다고 해서 실력이 곧바로 늘어나는 것은 아닙니다. 문제를 재현하고, 코드의 흐름과 설계 배경을 들여다보고, 그 과정을 다른 사람도 이해할 수 있게 정리해야 비로소 기술이 손에 남습니다. AIEEV Dev Team의 김진범 님은 이 과정을 직접 실천해 온 개발자입니다. 지난 7월 4일, AWS Student Community Day 2026의 Career 트랙에서 "주니어가 회사의 기술을 이해하는 가장 빠른 방법: OSS에 기여하기"라는 주제로 첫 커뮤니티 발표를 진행했습니다. 오픈소스 활동을 시작하게 된 계기부터, AI 시대를 살아가는 주니어 개발자의 고민, 그리고 이번 발표에 담고 싶었던 메시지까지. 입사 3개월만에 회사를 가장 빠르게 이해해 나간 진범님의 이야기를 직접 들어봤습니다. 👋 안녕하세요, 진범 님. 간단한 소개 부탁드립니다. AWS Community Day 2026

1편에서는 AI 에이전트가 왜 기존 서빙 시스템의 가정을 무너뜨리는 '프로그램형 워크로드'인지, 그리고 세계 최고 시스템 학회들이 이 문제를 어떻게 다루고 있는지 살펴봤습니다. CacheBlend 사례에서 확인했듯, 그 답의 상당 부분은 GPU 메모리 바깥의 자원, 즉 소비자용 PC가 가진 DRAM과 SSD를 어떻게 활용하느냐에 달려 있었습니다. 이제 비용 이야기로 돌아와, 그 흐름이 왜 "소비자용 GPU 클라우드"라는 그림으로 수렴하는지 이어가 보겠습니다. 4. 그 많은 호출, 전부 초거대 모델이어야 할까: SLM이라는 답 NVIDIA Research는 지난해 "Small Language Models are the Future of Agentic AI"라는 도발적인 제목의 논문을 내놓았습니다 [1]. 요지는 이렇습니다. 에이전트 루프에서 실제로 발생하는 일의 상당수는 검색 결과 요약, tool 호출용 JSON 생성, 문서에서 정형 필드 추출,

안녕하세요. AIEEV 개발팀에서 AI 인프라 연구개발을 담당하고 있는 조용래입니다. 분산 시스템 성능 확장성 및 신뢰성을 주제로 컴퓨터 공학과 박사 학위를 받았으며, 지금은 Air Cloud 위에서 LLM 서빙의 효율과 신뢰성, 그리고 AI 에이전트 기술 연구개발에 관심을 두고 일하고 있습니다. AI 에이전트처럼 한 번의 요청에 모델을 수십, 수백 번씩 호출하는 서비스가 늘어날수록, 추론 비용 청구서는 예상보다 훨씬 빠르게 불어납니다. 회사에서 에이전트 기능을 붙여 보신 분이라면 한 번쯤 겪어보셨을 겁니다. AIEEV가 줄곧 붙들고 있는 문제의식도 바로 여기서 출발합니다. 이 글은 그 문제를 연구자의 시선으로 끝까지 파고든 기록입니다. 2부로 나눠, 1편에서는 AI 에이전트가 서빙 인프라에 던지는 도전이 무엇인지 세계 최고 시스템 학회들의 최신 연구로 짚어보고, 2편에서는 그 흐름이 왜 "아주 많은 소비자용 GPU 위에서 돌아가는 작은 모델들"

Colab Pro와 AirCloud의 요금·GPU·데이터 보존·AI 어시스턴트 차이를 실제 수치로 비교합니다.

에이아이브 김현경 사업리드의 이야기 좋은 기술이 곧 좋은 사업이 되는 것은 아닙니다. 기술이 고객의 문제를 해결하고, 실제 현장에 도입되고, 지속 가능한 매출로 이어지기까지는 수많은 빈칸을 채우는 사람이 필요합니다. AIEEV의 김현경 리드는 그 빈칸을 찾아 끝까지 연결하는 사람입니다. 통신사 B2B 현장과 AI 반도체 기업의 사업개발을 거쳐, 지금은 분산형 AI 클라우드라는 새로운 시장을 만들고 있습니다. 파트너 미팅부터 제품 기획, 고객 제안, 정부과제, 해외 사업, 운영 체계까지 업무에는 선명한 경계가 없습니다. 기술을 고객의 언어로 번역하고, 가능성을 다음 실행으로 바꾸는 현경님의 이야기를 들어봤습니다. 안녕하세요. 간단한 자기소개 부탁드립니다. 안녕하세요. AIEEV에서 사업을 맡고 있는 김현경입니다. 😊 저를 한 문장으로 소개한다면 ‘기술이 실제 사업이 되도록 연결하는 사람’이라고 말하고 싶어요. KT에서 B2B 영업과 IT 컨설팅을

크레딧 이후에도 지속 가능한 AI 인프라 - 하임덱스가 Air Cloud로 클라우드 벤더 다각화를 시작한 이유 영상 AI 서비스를 운영하려면 모델 성능만큼이나 이를 뒷받침하는 GPU 인프라가 중요합니다. 연구 단계에서는 다양한 알고리즘과 모델을 반복적으로 실험해야 하고, 서비스 단계에서는 고객 데이터를 빠르게 인덱싱하고 트래픽 변화에 맞춰 GPU 자원을 확장해야 합니다. 그러나 GPU 사용량은 일정하지 않기 때문에, 필요한 성능을 확보하면서 비용까지 예측 가능하게 관리하는 일은 쉽지 않습니다. 하임덱스(HEIMDEX)는 AI가 영상의 장면과 의미를 분석해 방대한 영상 콘텐츠를 검색·요약·관리할 수 있도록 지원하는 영상 인텔리전스 기업입니다. 사용자는 긴 영상을 직접 모두 확인하지 않고도 사람, 장소, 대사, 감정과 같은 단어만으로 필요한 장면을 찾을 수 있습니다. 이번 인터뷰에서는 하임덱스 공동창업자 강희조 CSO와 개발팀이 Air Cloud를 도

안녕하세요. AIEEV Biz & Strategy Team입니다. 사업이 성장하면 매출만 늘어나는 것은 아닙니다. 고객사별 제안과 계약이 늘고, 견적서와 거래명세서를 작성하는 횟수도 많아집니다. 세금계산서 발급일과 입금 여부를 확인하고, 발행한 파일을 다시 찾아 전달하는 일도 함께 늘어납니다. AIEEV도 B2B 프로젝트와 Air Cloud 플랫폼 사업이 함께 성장하면서 비슷한 변화를 겪었습니다. 고객사와 진행하는 PoC, 구축 프로젝트, 플랫폼 이용 건이 동시에 늘었고, 시기에 따라 한 달에 약 10~30건의 세금계산서를 작성하고 관리해야 할 정도로 매출 관련 업무가 많아졌습니다. 관리하고 있는 과제도 10건을 초과하여, R&D PM의 업무가 과중되고 있는 상황이었습니다. 사업이 잘되고 있다는 반가운 신호였지만, 관리 방식은 여전히 여러 엑셀과 Word 문서, 로컬 폴더에 나뉘어 있었습니다. 여기에 국책과제 예산과 증빙 문서까지 더해지면서 “어떤

한여름, 에어컨을 하루 종일 켜놓고 외출한 적 있으신가요? 돌아와서 시원해진 집을 느낄 때는 아무 생각이 없다가, 전기요금 고지서를 받아보고서야 정확히 얼마를 냈는지 알게 됩니다. 그리고 고지서를 들여다보며 "내가 진짜 이만큼 썼나..." 라는 의구심이 듭니다 😅 지금 많은 기업의 인프라 담당자들이 AI 비용 청구서를 보며 똑같은 생각을 하고 있습니다. 다른 점이 있다면 청구서 액수가 훨씬 크다는점이 되겠네요. 2년 전만 해도 이 질문은 몇몇 앞서가는 팀만의 고민이었습니다. FinOps 팀 중 AI 지출을 관리 대상에 포함한 비율은 2024년 31%에 불과했습니다. 그런데 올해는 98%입니다. 거의 모든 조직이 이 청구서를 유심히 들여다보기 시작했다는 뜻입니다. 무엇이 이렇게 짧은 시간에 모두를 청구서 앞으로 불러모았을까요. 그리고 청구서를 유심히 보기 시작한 조직들은, 정말 자신이 얼마나 썼는지 정확히 알게 됐을까요. 이 글에서는 이 두 가지

2026년 6월, AirCloud가 더욱 편리해졌습니다. 이번 업데이트는 단순히 새로운 기능을 추가하는 데 그치지 않았습니다. 처음 AirCloud를 사용하는 개발자부터 여러 프로젝트를 매일 운영하는 팀까지, 더 빠르고 직관적으로 AI 개발과 GPU 클라우드 환경을 사용할 수 있도록 사용자 경험 전반을 개선하는 데 집중했습니다. 콘솔 화면을 새롭게 구성하고 실시간 알림을 추가했으며, 영구 볼륨 기능도 오토스케일링 환경까지 확장했습니다. 이번 글에서는 2026년 6월 AirCloud 정기 업데이트의 주요 내용을 소개해 드립니다. 더 자세한 사용 방법과 상세 기능은 Docs를 확인해주세요 😊 1. 더 쉽고 빨라진 콘솔 이번 업데이트에서는 원하는 작업을 더 적은 클릭으로 수행할 수 있도록 자주 사용하는 화면들의 디자인을 개선했습니다. 컨테이너 생성이 더 간단해졌습니다 템플릿으로 즉시 생성 기존에는 템플릿 배포와 커스텀 이미지 배포가 동일한 생성 흐름을

안녕하세요. 개발팀의 DevOps/SRE를 담당하고 있는 이창윤(CY Lee)입니다. 일전에 ClawHub 플러그인 이야기로 한 번 찾아뵀었는데, 이번엔 서비스 알림 때문에 생긴 고민과 그 해결 과정을 공유드리러 다시 돌아왔습니다. 여러분의 팀에는 하루에 알림이 몇 개나 쌓이나요? 유저 피드백, 결제 이벤트, 가입 이벤트, 그리고 SigNoz가 감지한 500 에러까지. 처음에는 이런 알림들이 각각 다른 Slack 채널로 들어오고 있었습니다. 채널이 유형별로 나뉘어 있으면 알림을 구분해서 보기에는 편했지만, 정작 지금 우리 서비스에 무슨 일이 일어나고 있는지 전체 상황을 한눈에 파악하기는 어려웠습니다. 그래서 흩어져 있던 알림을 하나의 Slack 채널로 모았습니다. 고객 이벤트와 시스템 알림을 한곳에서 볼 수 있게 되자 흐름을 파악하기는 한결 편해졌습니다. 그런데 정작 궁금한 건 따로 있었습니다. 급하게 대응해야 하는 알림이 정말 제대로 처리되고 있

여러분이 어릴 때 상상했던 미래 도시는 어떤 모습이었나요? 로봇이 아파트 단지의 쓰레기를 수거하고, 자율주행 차량이 도로를 달리며, 아이언맨의 자비스 같은 비서가 대신 일을 해주는 세상일 수도 있습니다. 영화 <월-E>에서는 사람들이 거대한 우주선 안 이동 의자에 앉아 가상세계 속에서 대부분의 일상을 보내기도 합니다. 미래 도시를 그린 수많은 상상 속 장면들은 서로 달라보이지만 한 가지 공통점을 가지고 있습니다. 바로 AI 입니다. 여러분이 이동을 할 때도, 누군가와 이야기를 할 때도, 업무를 할 때도 AI가 녹아들어 있습니다. 그런 점에서 미래 도시는 결국 수많은 AI 서비스가 동시에 작동하는 거대한 운영체제(OS)와도 같습니다. 최근에 이런 개념을 바탕으로 AI 시티, Agentic 시티라는 새로운 도시 비전이 등장하게 된 이유죠. 그런데 미래 도시의 AI 인프라는 어디서 어떻게 돌아가고 있을지 상상해보셨나요? 많은 사람들이 AI 시티를 이야기

유휴 GPU를 API Capacity로 바꾸는 Distributed GPU Cloud 이야기, 그리고 Ray 💡 핵심 메시지 "아무리 좋은 GPU도 API로 전환되지 않으면 가치가 없습니다." Aircloud는 인프라 하드웨어가 실제 서비스 레이어로 도달할 수 있도록 런타임부터 플랫폼 계층까지의 모든 파이프라인을 연결합니다. 들어가며 요즘 AI 인프라를 이야기하면 가장 먼저 나오는 키워드는 GPU shortage입니다. H100을 얼마나 확보했는지, B200 수급은 어떤지, 데이터센터 전력은 충분한지 같은 이야기가 자연스럽게 따라옵니다. 하지만 실제 서비스를 만들고 운영하다 보면, 문제는 단순히 “GPU가 부족하다”에서 끝나지 않습니다. GPU가 부족한 것도 맞지만, 동시에 이미 존재하는 GPU가 항상 잘 활용되고 있는 것도 아닙니다. 어떤 GPU는 요청이 몰려 과부하 상태이고, 어떤 GPU는 비어 있습니다. 평균 GPU utilization은