Groq, 3억5천만달러 추가 조달…AI 인프라 경쟁축 ‘칩’에서 ‘추론 클라우드’로

AI 인프라 기업 Groq가 3억5천만달러를 추가로 조달하며 35억달러의 기업가치를 인정받았다. 2025년 엔비디아와 기술 라이선스 계약을 체결하고 핵심 경영진과 인력이 이동한 뒤, 자체 칩 개발 중심에서 AI 추론용 클라우드 운영사로 사업을 재편하는 과정에 투입되는 자금이다.

블룸버그와 Axios가 8월 17일 보도한 이번 투자는 댈러스 소재 투자회사 Disruptive가 주도했으며 엔비디아도 참여할 예정이다. Groq가 2025년 9월 7억5천만달러를 조달할 당시 인정받은 기업가치는 69억달러였다.

표면적으로는 평가액이 약 절반으로 낮아졌다. 다만 엔비디아와의 계약을 거치며 기술 자산의 활용 구조와 경영진·인력 구성이 달라진 만큼, 같은 회사를 연속해서 평가한 일반적인 ‘다운라운드’와는 구분해 볼 필요가 있다. Groq도 이번 평가액은 엔비디아 거래 이후 남은 사업을 기준으로 새롭게 산정한 것이라는 입장이다.

Groq는 지난 6월에도 Disruptive와 Infinitum이 주도한 6억5천만달러 규모의 성장 자금 조달을 발표했다. 두 차례를 합치면 올해 확보한 자금은 10억달러다. 회사는 이를 데이터센터 용량 확충, 경영·기술 인력 재구축, AI 모델 실행 서비스를 제공하는 추론 클라우드 확대에 투입하고 있다.

추론은 이미 학습된 AI 모델이 사용자의 질문이나 요청을 처리해 결과를 생성하는 단계다. 모델을 처음부터 훈련하는 작업보다 개별 요청에 필요한 연산량은 작을 수 있지만, 이용자가 늘면 응답 지연시간과 전력 효율, 서비스 안정성, 건당 처리비용이 경쟁력을 좌우한다.

Groq는 2025년 12월 엔비디아와 비독점 기술 라이선스 계약을 체결했다. 이후 창업자이자 최고경영자였던 조너선 로스와 사장 서니 마드라를 비롯한 주요 인력이 엔비디아로 이동했고, Groq는 사업의 중심을 자체 AI 가속기 개발에서 추론 클라우드 운영으로 옮겼다. 회사 발표에 따르면 현재 북미·유럽·중동·아시아태평양 지역에서 13개 데이터센터를 운영하며 500만명 이상의 개발자에게 서비스를 제공하고 있다.

이번 재편은 AI 인프라 시장의 경쟁 단위가 반도체 한 종류에서 데이터센터 운영 전체로 넓어지고 있음을 보여준다. 빠른 칩을 확보하는 것에 더해 전력과 네트워크, 장비 배치, 개발 도구, 보안, 사용량 기반 과금 체계를 하나의 서비스로 제공해야 하기 때문이다.

Groq가 집중하는 ‘네오클라우드’는 AI 연산에 특화된 신생 클라우드 사업자를 뜻한다. 아마존웹서비스, 마이크로소프트 애저, 구글 클라우드처럼 다양한 기업용 서비스를 제공하는 종합 클라우드와 달리 AI 모델 실행에 범위를 좁혀 속도와 비용 효율로 차별화를 시도한다. 반면 데이터센터와 장비에 선제적으로 자본을 투입해야 하고, 확보한 용량을 고객 사용량과 반복 매출로 전환해야 한다는 부담도 크다.

보스턴권에서는 이 변화가 채용 직무의 이동이라는 측면에서 중요하다. 지역 내 클라우드 소프트웨어, 반도체, 네트워크, 로보틱스, 바이오 AI 기업이 연구 결과를 실제 고객 환경에 배포하려면 모델 연구자뿐 아니라 분산시스템 엔지니어, 데이터센터 운영 인력, 성능 최적화 전문가, 보안·컴플라이언스 담당자가 필요하다. AI가 일부 업무를 자동화하는 흐름과 함께 서비스 장애, 비용, 데이터 통제와 품질을 관리하는 역할도 늘어날 수 있다.

CompTIA가 미국 노동통계를 분석한 결과, 7월 기술기업 고용은 전월보다 3,700명 증가했다. 증가 분야에는 클라우드·호스팅, 정보처리, 데이터, 반도체 제조가 포함됐다. 다만 전 산업에 걸친 기술직 고용은 같은 달 약 2만6천명 감소해, 기술 고용시장 전체가 고르게 회복됐다고 보기는 어렵다. AI 투자와 직접 연결된 인프라 분야에 수요가 집중되는 선택적 채용에 가깝다.

취업 준비생과 이직자는 이력서에서 막연한 ‘AI 경험’보다 운영 성과를 구체적으로 제시하는 편이 유용하다. 모델 응답시간을 줄인 사례, 클라우드 비용을 측정·최적화한 경험, GPU나 AI 가속기 자원을 안정적으로 배분한 프로젝트, 검색 및 데이터 파이프라인의 품질을 관리한 실적 등이 해당한다. 쿠버네티스, 분산 추론, 관측성, 데이터 거버넌스처럼 모델을 실제 서비스로 연결하는 역량도 주목할 부분이다.

유학생이나 취업비자 지원이 필요한 구직자는 투자 규모만으로 채용 여력을 판단하기 어렵다. 데이터센터와 장비 확충에는 많은 자본이 필요하지만 투자액이 같은 비율의 사무직 채용으로 이어지지는 않는다. 지원 전 실제 공고의 근무지와 직무 지속성, 고용주의 비자 스폰서십 방침을 별도로 확인할 필요가 있다. 비자 관련 판단은 개인의 신분과 일정에 따라 달라질 수 있어 학교 담당 부서나 자격을 갖춘 전문가의 안내를 함께 참고하는 것이 적절하다.

반대로 하드웨어 검증, 인프라 소프트웨어, 고객 현장에 AI 시스템을 설치하고 조정하는 포워드 디플로이드 엔지니어처럼 연구와 운영을 함께 이해해야 하는 직무는 채용 수요를 살펴볼 만하다. AI가 대체하는 업무만큼 AI 서비스를 안정적으로 배포하고 비용과 보안을 관리하는 역할이 어떻게 늘어나는지도 함께 볼 필요가 있다.

창업 관심자에게는 자체 모델이나 칩을 모두 보유하지 않더라도 특정 산업의 추론 비용, 응답속도, 보안 문제를 해결하면 사업 기회를 찾을 수 있다는 사례다. 다만 클라우드 사업은 설비투자 부담과 대형 고객 의존 위험이 있다. 회사의 총조달액뿐 아니라 유료 고객 수, 데이터센터 가동률, 반복 매출, 주요 고객 집중도를 함께 확인해야 사업의 지속성을 판단할 수 있다.

Groq의 다음 시험대는 추가 조달 자체보다 확보한 클라우드 용량을 얼마나 안정적으로 매출로 전환하느냐다. 이번 거래는 AI 인프라에 자금이 계속 유입되고 있음을 보여주는 동시에 기술 자산과 핵심 인력이 이동한 뒤 시장이 기업가치를 다시 산정하는 현실도 드러낸다. 보스턴의 구직자와 기업에는 모델 개발뿐 아니라 배포, 비용, 보안과 신뢰성을 책임지는 운영 역량의 중요성이 커지고 있다는 점이 더 실질적인 변화다.