AWS ‘CPU 효율화’ 논란…AI 인프라 수요, GPU 넘어 클라우드 운영으로 확산

아마존웹서비스(AWS)가 내부 엔지니어들에게 사용률이 낮은 EC2 자원을 줄이도록 요구했다는 보도가 나왔다. AWS는 오래전부터 시행해 온 비용·용량 관리일 뿐 새로운 공급 부족 조치는 아니라고 반박했다. 이번 사례만으로 AWS 전반의 CPU 부족을 단정하기는 어렵지만, AI 서비스 확대가 GPU뿐 아니라 범용 CPU와 클라우드 운영 역량의 수요도 끌어올리고 있다는 점은 주목할 만하다.

톰스하드웨어가 8월 7일 인용 보도한 내용에 따르면 AWS 경영진은 지난 5월 내부 엔지니어들에게 유휴 인스턴스를 회수하고 CPU 사용 효율을 높이라는 메시지를 전달했다. 일부 엔지니어는 개발용 서버를 확보하는 데 종전의 몇 시간보다 긴 수일이 걸렸다고 전했다.

다만 제약이 주로 확인된 영역은 AWS의 남는 컴퓨팅 용량을 할인된 가격에 제공하는 ‘스팟 인스턴스’였다. 스팟 인스턴스는 비용을 크게 줄일 수 있지만, 필요한 용량이 없거나 AWS가 자원을 회수하면 작업이 중단될 수 있다. 보도에 인용된 컨설턴트는 사전에 계약한 용량에서는 같은 부족 현상이 나타나지 않았다고 설명했다. 따라서 이번 상황을 일반 EC2 고객 전체의 서비스 차질로 확대해 해석하는 것은 무리가 있다.

AWS도 보도 내용에 선을 그었다. 회사 측은 EC2를 포함한 서비스 수요가 강하게 늘고 있지만 내·외부 고객의 컴퓨팅 요구 대부분을 계속 충족하고 있다고 밝혔다. 유휴 인스턴스 회수, 적정 규모 조정, 수요에 따른 확장과 축소는 기존에도 시행해 온 운영 방식이며, 이를 새로운 용량 제약의 증거로 보는 것은 부정확하다는 입장이다.

한편 아마존이 공개한 수치에서는 전반적인 컴퓨팅 수요 압력이 확인된다. 앤디 재시 아마존 최고경영자는 2026년 1분기 AWS의 AI 관련 연환산 매출이 150억 달러를 넘었다고 밝혔다. AWS는 2025년에 전력 용량 3.9기가와트를 추가했으며 2027년 말까지 전체 전력 용량을 두 배로 확대할 계획이다. 2025년 4분기에도 용량 제약으로 충족하지 못한 수요가 있었고, 대형 고객 두 곳은 AWS의 Arm 기반 범용 CPU인 그래비톤의 2026년 인스턴스 용량 전체를 구매할 수 있는지 문의한 것으로 전해졌다.

CPU 수요가 다시 부각되는 배경에는 ‘AI 에이전트’의 확산이 있다. AI 에이전트는 질문에 답하는 데 그치지 않고 여러 소프트웨어와 데이터베이스를 호출해 작업 순서를 정하고 결과를 확인한다. 언어모델 계산은 주로 GPU나 AI 전용 칩이 맡지만, 데이터 검색과 전처리, 외부 도구 호출, 작업 조율, 보안 검사에는 CPU와 일반 서버가 함께 필요하다. AI 사용량이 늘면 GPU만 추가하는 방식으로는 전체 시스템의 처리량과 비용을 관리하기 어려워질 수 있다는 의미다.

보스턴권의 AI·바이오·로보틱스 스타트업에는 클라우드 용량과 가격이 모델 개발 속도뿐 아니라 현금 소진 속도와 제품 원가에 연결되는 문제다. 대규모 실험을 스팟 인스턴스에 의존하는 팀이라면 작업 중단을 전제로 체크포인트와 자동 재시작을 설계하고, 여러 리전과 인스턴스 유형을 사용할 수 있는지 점검할 필요가 있다. 중단이 어려운 업무는 온디맨드 용량, Savings Plans 같은 장기 사용 할인, 용량 예약의 비용을 각각 비교하는 편이 현실적이다.

채용시장에서는 모델 개발자와 함께 플랫폼 엔지니어, 사이트 신뢰성 엔지니어(SRE), 분산시스템 운영, 용량 계획, 클라우드 비용관리(FinOps) 인력의 역할이 커질 가능성이 있다. FinOps는 재무팀과 엔지니어링팀이 클라우드 사용량과 비용을 함께 관리하는 업무다. AWS가 7만1천여 고객을 분석한 자료에 따르면 대형 고객 가운데 Savings Plans와 서버 적정 규모 조정을 함께 활용한 그룹은 할인 구매만 활용한 그룹보다 비용 효율 점수를 네 배 빠르게 개선하는 경향을 보였다.

취업 준비생과 유학생은 이력서에서 단순한 ‘AWS 경험’보다 운영 성과를 구체적으로 보여주는 편이 도움이 된다. 유휴 인스턴스를 정리해 비용을 줄인 사례, 자동 확장과 장애 복구를 설계한 경험, x86 서비스를 그래비톤으로 이전한 결과, GPU와 CPU 작업을 분리해 처리량을 개선한 기록 등이 해당한다. 비자 스폰서십은 기업 정책과 직무 예산에 따라 달라지므로 채용 공고와 담당자의 최신 안내를 별도로 확인해야 한다.

현직자는 비용 절감만을 목표로 서버를 축소하기보다 지연시간, 장애 위험, 고객 수요를 함께 측정해야 한다. 비운영 환경의 유휴 자원부터 정리하고 CPU·메모리 사용량을 서비스 비용과 연결해 보는 접근이 비교적 안전하다. 장기 할인 구매도 과도하게 배정된 기존 용량을 그대로 고정하지 않도록 적정 규모 조정 이후 검토할 필요가 있다.

이번 논란은 AWS 전체의 CPU 공급 위기를 확인한 사건이라기보다, AI 확산 과정에서 범용 서버와 운영 규율의 가치가 다시 커지고 있음을 보여주는 제한적인 사례에 가깝다. 앞으로는 AWS의 실제 용량 확대 속도와 함께 스팟 인스턴스 확보 시간·중단 빈도, 그래비톤 공급, 기업들의 AI 서비스 운영비가 주요 관전 포인트가 될 전망이다.