마이크로소프트의 멀티모델 AI 전략, 보스턴 기업에는 비용·보안 관리 숙제로 다가온다
마이크로소프트가 기업용 AI 전략에서 하나의 고성능 모델에만 의존하기보다, 업무 목적과 비용 구조에 따라 여러 모델을 조합하는 방향을 더 분명히 하고 있다. Axios는 마이크로소프트가 기업 업무용 AI 도구인 Copilot Cowork에 사용량 기반 과금을 적용하고, 저비용 모델 옵션으로 Microsoft가 호스팅하는 DeepSeek 계열 모델을 검토하고 있다고 보도했다.
이번 변화의 핵심은 AI 기능 자체보다 ‘어떤 업무에 어떤 모델을 쓰고, 그 비용과 데이터 통제를 어떻게 관리할 것인가’에 있다. 보스턴권의 바이오테크, 병원, 대학 연구소, 금융·보험, SaaS 기업처럼 민감한 데이터와 Microsoft 365·Azure 인프라를 함께 쓰는 조직에는 특히 실무적인 의미가 크다.
확인된 내용부터 보면, Copilot Cowork는 사용자가 여러 단계의 업무를 맡길 수 있는 에이전트형 AI 도구다. 에이전트형 AI는 문서 작성, 자료 정리, 코드 작업, 일정 조율처럼 복수의 단계를 처리하면서 모델을 반복 호출한다. 한두 번 질문하는 챗봇보다 컴퓨팅 사용량이 커질 수 있고, 그만큼 기업 입장에서는 AI 사용 비용을 더 세밀하게 봐야 한다.
Axios 보도에 따르면 마이크로소프트는 Copilot Cowork 이용 기업이 사용한 컴퓨팅 양에 따라 비용을 내는 구조로 이동하고 있다. 또 현재 Copilot Cowork에 쓰이는 OpenAI와 Anthropic 모델 외에, 더 낮은 비용의 오픈소스 모델 또는 DeepSeek V4의 조정 버전을 검토하고 있으며, 선택될 경우 고객 데이터는 중국 서버가 아니라 Microsoft Azure 안에 머물도록 설계하겠다는 설명을 내놓았다. 마이크로소프트가 2025년 DeepSeek R1을 Azure AI Foundry와 GitHub에서 제공한다고 밝힌 점도, DeepSeek 계열 모델이 Azure 생태계 안에서 이미 시험대에 올라와 있음을 보여준다.
배경에는 기업 AI 시장의 비용 압박이 있다. 생성형 AI 초기에는 누가 가장 성능이 높은 대형 모델을 쓰느냐가 관심사였다. 하지만 실제 업무에 적용해 보니 반복 업무까지 모두 최고가 모델에 맡기는 방식은 비용 부담이 커질 수 있다. 그래서 기업들은 문서 초안, 분류, 요약, 내부 검색처럼 상대적으로 표준화된 일에는 저렴한 모델을 쓰고, 법무 검토, 복잡한 연구 해석, 고위험 고객 의사결정처럼 정확도와 책임 소재가 중요한 업무에는 더 강한 모델을 쓰는 식의 조합을 검토하고 있다.
오픈소스 AI 모델은 모델의 핵심 구성 요소를 공개해 기업이 내려받거나 자체 환경에 맞게 운영할 수 있는 방식이다. 비용과 통제 면에서는 장점이 있지만, 어느 회사가 만들었는지, 어떤 국가의 법과 규제를 받는지, 데이터가 실제로 어디를 거치는지 확인해야 하는 부담도 따른다. Axios가 인용한 OpenRouter 데이터에 따르면, 상위 50개 모델 기준 중국계 모델의 토큰 사용 비중은 2025년 1월 약 7%에서 2026년 6월 50% 이상으로 커졌다. 이는 개발자와 기업이 가격과 성능을 이유로 중국계 오픈 모델을 빠르게 받아들이고 있음을 보여주는 신호다.
보스턴권 독자에게 이 이슈는 빅테크 전략 뉴스로만 보기 어렵다. 케임브리지와 보스턴의 생명과학 기업, 병원, 대학 연구기관은 임상 데이터, 연구 노트, 지식재산, 환자·고객 정보를 다룬다. 금융·보험·전문서비스 기업도 규제와 감사 요구가 높은 데이터를 다룬다. 이런 조직에서 AI 모델 선택은 단순한 생산성 도구 선택이 아니라, 비용 관리, 데이터 위치, 보안 통제, 계약 리스크, 규제 대응이 함께 묶인 운영 문제다.
현직 직장인에게는 AI를 잘 쓰는 능력만으로는 충분하지 않은 상황이 오고 있다. 앞으로는 어떤 업무에 어떤 모델을 배치할지, 민감한 자료를 어떤 환경에서 처리할지, 결과를 어떻게 검증할지 설명할 수 있는 역량이 더 중요해질 수 있다. 예를 들어 모든 문서 요약을 최고가 모델에 맡기는 것보다, 공개 자료 요약은 저비용 모델에 맡기고 고객 정보나 연구 데이터가 포함된 작업은 승인된 보안 환경에서 처리하도록 나누는 운영 감각이 실무 가치로 평가될 수 있다.
유학생과 취업 준비생에게도 시사점이 있다. AI 연구자나 모델 개발자만 수요가 생기는 것이 아니다. 모델 평가, 프롬프트 운영, 데이터 거버넌스, 클라우드 비용 관리, 보안 검토, 산업별 AI 적용을 이해하는 인력의 역할이 커질 수 있다. 특히 보스턴의 바이오·헬스케어 분야에서는 HIPAA 같은 개인정보 규제, 임상·연구 데이터 관리, 내부 지식재산 보호를 이해하면서 AI 도구를 업무에 연결해 본 경험이 차별화 요소가 될 수 있다.
취업비자나 스폰서십 문제는 회사별 채용 계획, 직무 요건, 예산, 개인의 이력에 따라 달라지므로 일반화하기 어렵다. 다만 기업이 AI 투자에 대해 더 엄격하게 비용과 리스크를 따지기 시작하면, 단순히 AI 도구 사용 경험을 말하는 것보다 ‘이 도구가 어떤 업무 비용을 줄였고, 어떤 보안·품질 기준 안에서 운영됐는지’를 설명할 수 있는 직무가 더 명확하게 보일 가능성이 있다.
이직을 준비하는 독자는 회사가 어떤 AI 도구를 쓰는지만 보기보다, AI 사용 정책이 얼마나 성숙한지 함께 살펴볼 필요가 있다. 모델 제공사가 누구인지, 데이터가 어느 클라우드와 지역에 머무는지, 오픈소스 모델을 쓰는 경우 대체 계획이 있는지, AI 비용을 누가 모니터링하는지, 사용 로그와 감사 체계가 있는지 같은 질문은 앞으로 실무 면접과 내부 프로젝트에서 더 자주 등장할 수 있다.
창업 관심자와 중소 비즈니스 운영자에게도 같은 흐름이 적용된다. 저비용 오픈 모델은 작은 팀에도 AI 자동화 기회를 넓혀 주지만, 고객 데이터나 결제 정보, 의료·교육 관련 자료를 다루는 경우에는 가격만 보고 선택하기 어렵다. AI 도입 비용을 줄이는 것과 데이터 책임을 관리하는 것은 별개의 문제가 아니며, 초기부터 모델 선택과 데이터 흐름을 문서화해 두는 편이 이후 고객사 계약이나 투자 검토에서 설명하기 쉽다.
실무적으로는 세 가지를 볼 필요가 있다. 첫째, 모델별 비용·정확도·응답 속도·보안 조건을 비교하는 능력이다. 둘째, Azure, Microsoft 365, 데이터 거버넌스, 접근 권한, 로그 관리처럼 기업 환경에서 AI를 운영하는 기본 인프라 이해다. 셋째, AI 결과를 그대로 쓰지 않고 업무 맥락에 맞게 검증하는 절차다. 이 역량들은 개발자뿐 아니라 제품관리자, 데이터 분석가, 보안 담당자, 운영·전략 직무에도 연결된다.
장기적으로 기업 AI 시장은 ‘가장 똑똑한 모델 하나’를 고르는 경쟁에서 ‘여러 모델을 안전하고 경제적으로 조합하는 운영 능력’으로 넓어지고 있다. 보스턴의 한인 직장인과 유학생에게 중요한 질문도 AI가 일자리를 대체하느냐에만 머물지 않는다. 각 산업이 AI를 실제 업무 체계 안에 넣으면서 어떤 관리, 검증, 통합 역할을 새로 만들고 있는지 보는 것이 더 현실적인 관전 포인트다.