엔비디아 Vera 양산, AI 경쟁은 GPU 밖 데이터센터 인프라로 넓어진다
엔비디아가 AI 에이전트용 데이터센터 CPU인 Vera를 풀 프로덕션 단계에 올렸다고 밝혔다. 공식 자료에서 엔비디아는 Anthropic, OpenAI, SpaceXAI, ByteDance, CoreWeave, Oracle Cloud Infrastructure 등이 Vera 도입을 계획하거나 검토 중인 고객으로 거론됐다고 설명했다. 이번 발표는 AI 경쟁의 중심이 모델 성능과 GPU 확보를 넘어, 실제 업무를 처리하는 서버 인프라 전반으로 확장되고 있음을 보여준다.
Vera는 일반 소비자용 PC 칩이 아니라 데이터센터에서 AI 에이전트 업무를 처리하도록 설계된 CPU다. 여기서 AI 에이전트는 단순히 질문에 답하는 챗봇을 넘어, 코드 실행, 데이터 조회, 외부 도구 호출, 결과 검증 같은 여러 단계를 이어서 수행하는 소프트웨어를 뜻한다. 엔비디아는 Vera가 88개 자체 설계 Olympus 코어와 최대 1.2TB/s 메모리 대역폭을 갖췄고, 에이전트형 작업에서 기존 x86 CPU보다 작업 완료 속도를 1.8배 높이는 것을 목표로 한다고 밝혔다.
숫자만 보면 이번 발표는 반도체 제품 출시처럼 보이지만, 취업시장 관점에서는 AI 인프라 수요가 어디로 이동하는지 보여주는 신호에 가깝다. 지난 2년간 AI 투자의 중심은 대형 언어모델 훈련과 GPU였다. 하지만 기업이 실제 업무에 AI를 붙이기 시작하면 모델 자체보다 데이터 파이프라인, 권한 관리, 코드 실행 환경, 비용 통제, 장애 대응, 보안 검증 같은 운영 문제가 중요해진다. CPU와 메모리, 네트워크, 스토리지가 함께 주목받는 이유다.
보스턴권과도 연결점이 있다. 매사추세츠 AI Hub는 Holyoke의 Massachusetts Green High Performance Computing Center와 함께 AI 컴퓨팅 자원 구축을 추진해 왔고, Cambridge Computer, Dell Technologies, NVIDIA, VAST 등이 관련 파트너로 언급돼 있다. 또 IBM·Red Hat과 함께 기업용 AI 스타트업을 겨냥한 Open Accelerator도 시작했다. 보스턴의 강점인 대학 연구, 바이오·헬스케어, 로보틱스, 금융·교육 기술 분야는 대규모 모델을 직접 만드는 곳만큼이나 AI를 안전하게 업무에 적용하는 수요가 크다.
유학생과 취업 준비생에게는 AI를 배웠다는 표현만으로는 부족해지는 흐름이다. 채용 공고에서 agentic AI, inference, MLOps, distributed systems, Kubernetes, observability, data governance 같은 키워드가 자주 보인다면, 이는 모델을 만드는 직무뿐 아니라 모델을 안정적으로 운영하는 직무가 늘고 있다는 뜻이다. 포트폴리오도 단순 챗봇 데모보다 회사 데이터와 업무 도구를 연결하고, 오류를 추적하며, 비용과 보안을 고려한 프로젝트가 더 설득력을 가질 수 있다.
현직자에게는 업무 자동화 자체보다 AI가 들어간 업무 흐름을 누가 설계하고 검증하느냐가 중요해진다. 제품 매니저는 AI 기능의 성과 지표를 정의해야 하고, 엔지니어는 에이전트가 호출하는 도구와 실행 환경을 안전하게 묶어야 한다. 데이터·보안 담당자는 민감정보와 접근 권한을 관리해야 한다. AI가 일부 반복 업무를 줄이는 동시에 시스템 신뢰성, 평가, 거버넌스 역할을 키우는 방향도 함께 봐야 한다.
비자 스폰서십이 필요한 독자는 이번 발표를 곧바로 채용 증가로 해석하기보다 회사 유형을 나눠 보는 편이 현실적이다. 대형 클라우드, 데이터센터 인프라, 엔터프라이즈 소프트웨어, 규제 산업용 AI 기업은 AI 운영 역량에 예산을 배정할 가능성이 있지만, 채용 과정은 여전히 보수적일 수 있다. 지원 단계에서는 직무의 핵심 기술, 스폰서십 경험, 팀의 예산 지속성, 원격근무 가능 범위를 함께 확인하는 것이 좋다. 이민 관련 판단은 개인 상황에 따라 달라질 수 있어 일반 정보와 개별 상담을 구분해야 한다.
창업 관심자에게도 메시지는 분명하다. AI 에이전트 제품은 데모를 빨리 만들 수 있지만, 실제 고객이 비용을 지불하려면 속도, 보안, 감사 가능성, 기존 시스템 연동이 따라와야 한다. 특히 보스턴의 헬스케어·바이오·교육·공공 분야 고객을 겨냥한다면 모델 성능보다 데이터 처리 절차와 책임 소재를 설명할 수 있는지가 사업화의 핵심이 될 수 있다.
단기적으로 모든 기업이 Vera 기반 시스템을 바로 도입하는 것은 아니다. 실제 확산 속도는 가격, 클라우드 제공 일정, 고객사의 보안 검토, 기존 인프라와의 호환성에 따라 달라진다. 다만 방향은 비교적 분명하다. AI 경쟁은 모델을 누가 더 크게 만들 것인가에서, 그 모델을 누가 더 안정적이고 비용 효율적으로 업무에 붙일 것인가로 이동하고 있다. 보스턴의 한인 기술직과 유학생에게는 AI 자체보다 AI를 운영 가능한 시스템으로 바꾸는 역량을 차분히 준비해야 한다는 신호다.