AI 모델 가격 경쟁 본격화, 보스턴 테크 인력에게 ‘비용 감각’이 더 중요해졌다
AI 모델 사용료를 둘러싼 가격 경쟁이 본격화하고 있다. 기업들이 생성형 AI를 업무에 더 넓게 붙이면서 비용 부담이 커졌고, 동시에 더 효율적인 모델과 새 AI 반도체 인프라가 확산되면서 OpenAI와 Anthropic 같은 선두 업체에도 가격 인하 압력이 커지고 있다.
이번 변화의 핵심은 ‘토큰’ 가격이다. 토큰은 AI 모델이 문장과 코드를 잘게 나눠 처리하고 요금을 매기는 기본 단위다. AI를 한두 번 시험해 보는 단계에서는 잘 보이지 않던 비용이, 고객지원 자동화나 코드 리뷰, 문서 요약처럼 매일 반복되는 업무에 들어가면 곧바로 예산 문제로 바뀐다.
Business Insider는 6월 12일 Nvidia의 Blackwell 기반 시스템 확산과 더 효율적인 모델 등장으로 AI 토큰 가격이 크게 낮아질 가능성을 보도했다. 이 매체가 인용한 SemiAnalysis 비교에 따르면 Nvidia의 새 GB300 NVL72 시스템은 이전 Hopper HGX 200보다 토큰 처리량과 전력 효율이 크게 개선됐다. 이전 시스템은 GPU당 초당 90개 토큰을 생성한 반면, 새 Blackwell 시스템은 6,000개를 생성한 것으로 분석됐다. 전력 기준 처리량도 초당 5만4,000개 토큰에서 280만 개 토큰으로 늘었고, 100만 토큰 생성 비용은 4.20달러에서 0.12달러 수준으로 낮아지는 것으로 제시됐다.
가격 압력은 공개 가격표에서도 확인된다. OpenAI의 API 가격표에서 GPT-5.5는 입력 100만 토큰당 5달러, 출력 100만 토큰당 30달러로 제시돼 있다. Anthropic의 Claude Fable 5는 입력 100만 토큰당 10달러, 출력 100만 토큰당 50달러다. Wall Street Journal은 기업 고객들이 고가의 최상위 모델만 쓰기보다 작업별로 저렴한 모델과 고성능 모델을 섞어 쓰는 방식으로 비용을 낮추고 있다고 전했다. 일부 AI 보조 업무에서는 비용이 최대 95% 줄어든 사례도 언급됐다.
이 흐름은 단순히 AI가 싸진다는 의미에 그치지 않는다. 지난 2년간 기업들은 생성형 AI 도입을 서둘렀지만, 실제 업무 효율이나 매출 개선으로 이어지는지에 대해서는 계속 검증을 요구받아 왔다. 이제 경쟁의 초점은 가장 똑똑한 모델 하나를 고르는 일에서, 주어진 업무를 안정적으로 처리하면서 비용을 관리할 수 있는 조합을 찾는 쪽으로 옮겨가고 있다.
보스턴권의 바이오테크, 헬스케어, 로보틱스, 금융·보험, 대학 연구실 기반 스타트업에도 이 지점은 중요하다. 많은 조직이 자체 AI 모델을 처음부터 만들기보다 외부 모델을 가져와 내부 데이터와 업무 흐름에 붙이는 방식으로 AI를 활용한다. 이 경우 모델 성능만큼 중요한 것이 사용량, 보안, 응답 품질, 실패율, 그리고 한 번의 작업을 끝내는 데 들어가는 실제 비용이다.
유학생과 취업 준비자에게는 AI 도구 사용 경험만으로 차별화하기 어려워진다는 신호다. 기업이 더 많이 보게 될 역량은 어떤 모델을 써봤다는 사실보다, 어떤 기준으로 모델을 골랐는지, 비용과 정확도를 어떻게 비교했는지, 민감한 데이터를 어떻게 다뤘는지에 가깝다. 예를 들어 고객지원 자동화, 실험 데이터 요약, 코드 리뷰, 임상 문서 정리 같은 프로젝트에서도 고가 모델을 붙였다는 설명보다 작업별로 모델을 나누고, 실패율과 비용을 측정했다는 설명이 더 실무적으로 설득력을 가질 수 있다.
현직자에게도 변화가 있다. AI가 일부 반복 업무를 줄이는 흐름은 이어지겠지만, 동시에 AI 사용량을 관리하고 품질을 검증하는 역할은 더 중요해진다. 엔지니어는 모델 라우팅, 평가 자동화, 로그 분석, 보안 검토를 이해해야 하고, 제품·운영 직무는 AI 기능이 실제 고객 문제를 줄이는지 비용 대비 효과를 설명할 수 있어야 한다. 보스턴의 헬스케어·바이오 분야처럼 규제와 개인정보 이슈가 큰 산업에서는 정확도뿐 아니라 감사 가능성, 데이터 보관, HIPAA 등 컴플라이언스 감각도 함께 요구된다.
이직자와 비자 스폰서십을 고민하는 독자는 가격 하락을 채용 확대 신호로만 해석하기보다 회사의 AI 투자 성격을 함께 봐야 한다. API 비용이 내려가면 작은 팀도 AI 기능을 시험하기 쉬워지지만, 모든 회사가 곧바로 인력을 늘리는 것은 아니다. 오히려 비용 절감과 생산성 개선을 동시에 요구하는 분위기에서는 채용 문턱이 더 구체화될 수 있다. H-1B, OPT, STEM OPT를 고려하는 경우에도 개별 회사의 스폰서십 정책, 직무의 장기 필요성, 팀의 예산 상황을 따로 확인하는 것이 현실적이다. 이는 일반 정보이며, 개인별 이민 판단은 학교 국제학생 오피스나 전문 변호사와 확인해야 한다.
창업 관심자에게는 기회와 부담이 함께 있다. API 가격이 낮아지면 초기 제품을 만들 때 월 현금 소진 속도인 burn rate를 줄이고, 확보한 자금으로 버틸 수 있는 기간인 runway를 늘리는 데 도움이 된다. 다만 누구나 비슷한 모델을 저렴하게 쓸 수 있다면, 경쟁력은 모델 접근 자체가 아니라 독자 데이터, 고객 업무 이해, 배포 채널, 규제 대응 능력에서 갈린다. 보스턴권의 연구 기반 창업팀이라면 기술 데모를 넘어 실제 병원, 연구소, 제조 현장에서 비용과 시간을 얼마나 줄이는지 보여주는 지표가 더 중요해질 가능성이 크다.
지금 확인할 포인트는 비교적 분명하다. AI 프로젝트를 포트폴리오나 업무 성과로 설명할 때는 정확도뿐 아니라 1회 작업당 비용, 처리 시간, 실패 시 대응 방식을 함께 정리하는 편이 좋다. OpenAI·Anthropic 같은 단일 모델 사용 경험에 머물기보다 오픈소스 모델, 클라우드 모델, 경량 모델을 비교해 본 경험도 도움이 된다. 데이터 보안과 비용 모니터링은 제품 설계 후반이 아니라 초기 단계부터 넣어야 할 요소로 바뀌고 있다.
AI 가격 경쟁은 보스턴 테크 시장에 곧바로 대규모 채용 증가를 뜻하지는 않는다. 그러나 AI가 더 싸지고 넓게 쓰일수록 기업은 AI를 쓸 줄 아는 사람보다 AI를 업무와 비용 구조 안에 맞게 배치할 줄 아는 사람을 더 찾게 된다. 앞으로 볼 변수는 실제 가격 인하 속도, Blackwell 등 새 인프라 공급 안정성, 기업의 AI 투자 대비 성과 검증, 그리고 헬스케어·금융처럼 규제가 강한 산업에서의 채택 속도다.