매사추세츠 상원, 대형 AI 모델 독립감사 추진…보스턴 기업엔 ‘검증 역량’이 새 변수

매사추세츠주 상원이 대형 인공지능 모델 개발사에 독립적인 안전감사를 요구하는 경제개발 법안을 통과시켰다. 아직 최종 법률로 확정된 것은 아니지만, 보스턴권 AI 기업과 투자자에게 모델 성능뿐 아니라 위험을 시험하고 기록하는 능력도 사업 경쟁력의 일부가 될 수 있다는 신호다.

주 상원은 7월 23일 총 5억7,540만 달러 규모의 경제개발 패키지를 승인했다. 7월 24일 공개된 상원 발표에 따르면, 본회의에서 채택된 수정안 471은 ‘대형 프런티어 개발사’에 독립적인 제3자 안전감사를 요구한다. 프런티어 모델은 막대한 컴퓨팅 자원으로 훈련한 고성능 범용 AI를 뜻한다.

수정안에는 해당 개발사가 4개월마다 독립적인 심층 안전시험을 받아 남아 있는 재난적 위험을 확인하도록 하는 내용도 포함됐다. 별도의 안전조항은 대형 개발사가 중대한 안전사고를 줄이기 위한 관리체계를 마련하도록 하고, 의무 위반 시 주 검찰총장이 민사소송을 제기할 수 있게 한다.

적용 대상은 일반 소프트웨어 기업이나 소규모 AI 스타트업 전체가 아니라 법안에서 정하는 대형 모델 개발사다. 따라서 외부 AI 모델을 이용해 챗봇이나 업무용 서비스를 만드는 보스턴 기업에 같은 감사 의무가 곧바로 적용된다고 보기는 어렵다. 대상 기업을 가르는 계산량 등의 기준과 세부 의무, 시행 시점은 양원 협상과 최종 문안을 확인해야 한다.

이번 상원안은 위험관리와 산업 투자를 함께 배치했다. 패키지는 AI 개발·응용에 7,500만 달러, 로보틱스 연구개발에 2,500만 달러를 승인한다. 대형 모델의 위험 통제는 강화하는 한편, 대학과 기업이 응용 AI와 로보틱스를 개발할 기반에는 자금을 투입하겠다는 구도다. 대학과 연구기관, 클라우드 기업, 의료·바이오 AI 회사가 밀집한 보스턴과 캠브리지에는 두 정책 모두 직접적인 이해관계가 있다.

다만 상원안이 현재 형태로 시행되는 단계는 아니다. 주 하원은 7월 8일 5억6,100만 달러 규모의 별도 경제개발 법안을 통과시켰으며, 상원은 자체 수정안을 가결한 뒤 법안을 하원으로 돌려보냈다. 서로 다른 조항을 조정한 합의안이 양원을 통과하고 주지사가 서명해야 법률이 된다. 기업이 당장 운영 절차를 바꿔야 한다기보다, 제3자 감사 조항의 존속 여부와 최종 적용 기준을 살펴볼 시점에 가깝다.

보스턴권 스타트업에는 직접 규제보다 간접적인 시장 변화가 먼저 나타날 수 있다. 병원과 금융회사, 정부기관처럼 오류의 비용이 큰 고객은 대형 모델을 직접 개발하지 않는 공급업체에도 모델 평가 결과, 데이터 처리 방식, 로그 보존, 사고 대응 절차를 요구할 수 있다. 투자 실사에서도 정확도와 매출 성장뿐 아니라 외부 모델 의존도, 안전시험 비용, 규제 대응 계획이 점검 항목으로 다뤄질 가능성이 있다.

규모가 작은 기업에는 이런 준비가 비용 부담이다. 반대로 의료·바이오·금융 등 신뢰가 중요한 시장에서는 시험 결과를 재현하고 고객에게 설명할 수 있는 체계가 수주 경쟁력을 높이는 요소가 될 수 있다. 지금 당장 모든 스타트업에 법정 감사가 생기는 것과, 장기적으로 고객과 투자자의 검증 요구가 강화되는 것은 구분해서 볼 필요가 있다.

채용시장에서도 AI가 줄이는 업무만큼 AI 도입과 함께 늘어나는 역할을 살펴볼 만하다. 모델의 취약점을 찾는 레드팀, 출력의 정확도와 편향을 측정하는 평가 엔지니어, 데이터와 모델 변경 이력을 관리하는 MLOps, 시스템 이상을 추적하는 관측성 담당자, 보안·감사 자료를 만드는 거버넌스 및 제품 규정준수 인력이 대표적이다. 단순히 AI 모델을 호출하는 코드를 작성하는 능력보다 어떤 위험을 어떻게 시험했고 그 결과를 재현할 수 있는지 설명하는 역량의 가치가 커질 수 있다.

유학생과 이직 준비자는 채용공고에서 ‘AI safety’, ‘model evaluation’, ‘observability’, ‘incident response’, ‘governance’ 같은 표현을 확인할 수 있다. 여기에 의료·금융·생명과학 등 보스턴의 주요 산업 지식을 결합하면 응용 분야에서 선택지를 넓히는 데 도움이 된다. 다만 관련 직무 수요가 늘더라도 비자 스폰서십을 의미하는 것은 아니므로, 지원 과정에서는 고용 형태와 스폰서 정책을 별도로 확인해야 한다. 이는 일반적인 취업 준비 정보이며 개인별 비자 판단은 학교 담당 부서나 자격을 갖춘 전문가의 안내가 필요하다.

앞으로 볼 핵심 변수는 양원 협상에서 제3자 감사와 4개월 주기 시험 조항이 유지되는지, 그리고 어떤 기업과 모델이 규제 대상에 포함되는지다. 최종 기준이 확정될 경우 보스턴 AI 생태계의 경쟁 기준은 개발 속도와 성능에 더해 안전성을 측정하고 고객에게 입증하는 실행력까지 점차 넓어질 수 있다.