엔비디아 대안 노리는 AI 칩 스타트업 MatX, 5억달러 Series B…훈련(Training) 인프라 ‘대체재’ 경쟁 재점화
AI 칩 스타트업 MatX가 5억달러 규모의 Series B 투자를 유치했다. 이번 라운드는 트레이딩·기술 기업으로 알려진 Jane Street와, 전 OpenAI 연구원 Leopold Aschenbrenner가 설립한 투자사 Situational Awareness가 공동 주도했으며, Marvell 등 전략 투자자와 일부 벤처·개인 투자자들이 참여한 것으로 전해졌다.
MatX가 개발 중인 ‘MatX One’은 대규모 언어모델(LLM) 훈련과 추론 워크로드에서 엔비디아 GPU 대비 더 높은 처리량과 낮은 지연시간을 목표로 한다. 회사는 핵심 설계로 △분할 가능한(splittable) systolic array △SRAM-first 설계 요소와 HBM을 결합한 메모리 전략을 제시했다. 또한 테이프아웃(tapeout)을 1년 내 진행하고, TSMC 생산을 통해 2027년 출하를 목표로 한다는 계획을 밝혔다.
이번 딜의 포인트는 ‘추론(Inference)’ 중심 최적화 경쟁만이 아니라, 다시 ‘훈련(Training) 인프라 대체재’에 대한 자본시장 베팅이 커졌다는 신호에 가깝다. 보스턴권(캠브리지·서머빌 포함) AI 생태계 관점에서는 “곧바로 GPU를 대체한다”기보다, 2026~2027년을 바라보는 인프라 조달·운영 전략이 한 단계 복잡해질 가능성을 시사한다.
현장에서 자주 보이는 병목은 단순히 “GPU가 부족해서”라기보다 “GPU는 있는데 효율적으로 못 쓰는” 상황에서 발생한다. 클러스터 스케줄링, 데이터 파이프라인, 분산 학습 튜닝, 관측(옵저버빌리티)과 비용 통제가 대표적이다. 새 실리콘이 일정대로 나오고 소프트웨어 스택이 성숙해지면, 조직들은 ‘엔비디아 일변도’ 조달에서 벗어나 멀티 벤더 운영(혹은 최소한 벤더 락인 완화)을 검토할 유인이 커진다. 다만 이 전환은 칩 성능 발표만으로 결정되지 않고, 실제 양산 안정성·공급 물량·툴체인/컴파일러 성숙도·프레임워크 호환·운영 인력의 경험치가 함께 맞물릴 때 현실화되는 경향이 있다.
보스턴권에서 예상되는 변화는 ‘하드웨어 선택지 확대’보다 ‘운영 역량의 가치 상승’에 더 가깝다. 예를 들어 (연구실/랩) 학기 단위로 GPU 할당을 받는 MIT·하버드·NEU 인근 랩들은 새 칩을 당장 투입하기 어렵더라도, 2026년부터는 “어떤 프레임워크/커널 최적화·분산 학습 역량이 있으면 하드웨어 변화에 덜 흔들리는가”를 기준으로 과제와 인력을 재정렬하려는 흐름이 강화될 수 있다. (초기 스타트업) 시드/시리즈A 단계 팀은 대규모 훈련을 내재화하기보다 모델 선택·데이터·평가·서빙 최적화로 승부하는 경우가 많아, GPU 가격·수급 변동이 곧 런웨이 리스크로 연결된다. 이런 팀일수록 2026년 이후 조달 계획에서 “대체 HW가 실제로 등장할 수 있는 구간”을 고려해 계약 유연성(짧은 커밋, 옵션 조항, 멀티 클라우드/코로케이션 혼합)을 확보하려는 접근이 현실적이다.
유학생·구직자 관점에서의 체크포인트도 ‘칩 이름’보다 ‘인프라 역량의 범위’로 이동하는 분위기다. 하드웨어 세대 교체기에는 특정 벤더의 단일 스택 경험보다, 성능·비용·재현성·운영 안정성을 함께 다루는 능력이 면접과 실무에서 더 자주 평가된다.
실행 항목(현실적 체크리스트) 1) 채용 공고 키워드를 넓혀 읽기: CUDA만이 아니라 분산 학습(NCCL 계열 포함), 컴파일러/커널 최적화, 프로파일링, 비용·성능 관측(옵저버빌리티), 데이터 파이프라인 경험이 ‘멀티 벤더’ 국면에서 더 잘 통한다. 2) 인터뷰 설명축을 바꾸기: “모델 성능”만이 아니라 “단가(달러/토큰, 달러/학습 스텝)와 재현성(실험 관리·로그·버전)”으로 성과를 정리해두면, 하드웨어가 바뀌어도 성과를 설명하기 쉬워진다. 3) 프로젝트 선택 기준 세우기: 랩/스타트업 인턴·RA를 노린다면, 특정 GPU에만 묶이지 않는 데이터 파이프라인·서빙 아키텍처·배치/온라인 혼합 워크로드 설계처럼 ‘벤더 락인 회피’ 과제가 포트폴리오로 남기 좋다. 4) 비자/스폰서 관점 메모(확정 단정은 피함): 하드웨어·인프라 직무는 역할 정의가 넓어질수록 직무기술서(JD)와 실제 업무 범위의 정합성이 중요해질 수 있다. 오퍼 단계에서 팀이 다루는 스택과 본인 역할 범위를 문서로 정리해두는 습관은 리스크 관리에 도움이 된다.
MatX의 이번 자금 조달은 “새 칩 발표” 자체보다, 훈련 인프라의 대체재 탐색이 계속된다는 신호에 가깝다. 보스턴권 조직과 개인에게는 2026년을 ‘GPU 최적화 역량을 다지면서, 멀티 벤더 운영을 가정한 준비(툴링·관측·비용 관리)를 병행하는 기간’으로 해석하는 편이 실무적으로 안전한 접근이다.