OpenAI, 미 국방부 분류망 AI 계약 ‘가드레일’ 공개…대규모 국내 감시·자율살상·고위험 자동판단 배제
미국 인공지능 기업 오픈AI(OpenAI)가 미 국방부와의 ‘분류(기밀) 클라우드 네트워크’ 적용 합의에서 어떤 용도를 배제하고 어떤 통제장치를 두겠다고 했는지 공개했습니다. 핵심은 “AI를 어디까지 쓰지 않을 것인가”를 선명하게 적시했다는 점입니다.
로이터에 따르면 오픈AI는 국방부 분류망 배포와 관련한 합의에 대해 추가 안전장치(가드레일)가 포함돼 있다고 밝혔습니다. 오픈AI는 회사 발표를 통해 세 가지 ‘레드라인(금지선)’을 제시했는데, △미국 내 대규모 국내 감시(mass domestic surveillance) △자율 무기체계의 표적 지정·살상 결정을 지시하는 용도 △인명·권리 등 중대한 결과에 영향을 주는 고위험 자동 의사결정(high-stakes automated decisions)에 자사 기술을 사용하지 못하도록 한다는 내용입니다.
오픈AI는 이 레드라인을 지키기 위한 방식으로 ‘다층적 접근’을 언급했습니다. 회사는 안전 스택(safety stack)에 대한 통제권을 유지하고, 클라우드 방식으로 배포하며, 보안 인가를 받은 오픈AI 인력이 과정에 관여하고, 계약상 보호조항을 둔다고 설명했습니다. 또한 정부 측이 합의를 위반할 경우 계약 종료로 이어질 수 있다는 점도 회사가 밝힌 내용에 포함됩니다. 다만 이는 언론 보도 및 회사의 성명·관계자 발언을 통해 전해진 ‘원칙과 방향’으로, 계약 전문이 공개돼 조항이 전면 검증된 형태로 확인된 것은 아닙니다.
이번 이슈에서 독자가 특히 혼동하기 쉬운 지점은 ‘분류망(기밀) 적용’과 ‘비분류(unclassified) 업무용 배포’가 서로 다른 트랙이라는 점입니다. 오픈AI는 별도로 GenAI.mil에 맞춘 커스텀 ChatGPT를 배포하겠다고도 밝혔는데, 이 발표는 “국방부의 비분류 업무(unclassified work)”를 대상으로 한다고 명시돼 있습니다. 즉, 분류망 합의에서의 통제장치 논의와 GenAI.mil 배포 발표는 모두 ‘정부 환경에서의 안전한 사용’을 다루지만, 적용되는 시스템 등급과 사용 범위가 같다고 단정하기는 어렵습니다.
또 하나의 맥락은 ‘Department of War’ 표기입니다. 로이터 기사와 오픈AI 발표에는 ‘Department of War(전쟁부)’라는 표현이 등장하지만, 이는 트럼프 행정부가 국방부를 그렇게 부르거나 그렇게 바꿨다고 언급된 사례로 전해진 것입니다. 법적·제도적으로 ‘국방부(Department of Defense)’의 공식 명칭이 어디까지, 어떤 절차로 변경됐는지까지를 이 표현만으로 확정해 해석하긴 어렵습니다. 독자 입장에서는 해당 표현을 ‘행정부가 사용하는 대체/보조 명칭’ 수준으로 받아들이는 편이 혼란을 줄입니다.
보스턴 지역 한인 유학생·교민에게 연결되는 현실적 포인트는 크게 세 가지입니다.
첫째, 매사추세츠는 대학 연구와 스타트업, 방산·사이버보안 생태계가 밀집해 있어 ‘국방·공공 부문 생성형 AI’ 관련 인턴십·채용·산학 프로젝트가 늘어날수록, 상용 환경과 정부 환경(비분류/분류)의 운영 기준이 더 또렷하게 나뉠 가능성이 있습니다.
둘째, 연구실·기업 데이터가 정부·국방 프로젝트와 결합되는 경우, 접근 권한(보안 인가), 기록 관리, 계정·기기 분리 등 절차가 촘촘해질 수 있습니다. 특히 “어떤 데이터를 어떤 시스템에 입력할 수 있는가”가 프로젝트 초반부터 중요해질 수 있습니다.
셋째, 해외 국적자(유학생 포함)가 참여 가능한 역할과 제한되는 역할이 프로젝트 성격(분류/비분류)에 따라 더 명확히 구분될 수 있습니다. 지원 단계에서 업무가 ‘비분류 업무용 플랫폼’인지, ‘분류망 적용’인지에 따라 요구 요건이 달라질 수 있습니다.
독자 행동 포인트(간단 체크)
- 국방·정부 과제와 연계된 인턴/RA·계약직을 고려한다면, 공고의 ‘보안 인가(클리어런스) 필요 여부’와 ‘접근 시스템 범위(비분류/분류)’를 먼저 확인하는 것이 도움이 됩니다.
- 소속 랩/회사에 생성형 AI 사용 지침이 있다면, 입력 금지 데이터(개인정보·민감정보·대외비)와 정부 환경과 상용 환경의 분리 원칙을 한 번 더 점검해 두는 편이 안전합니다.