OpenAI·세레브라스, GPT-5.6 ‘울트라패스트’ 공개…기업 AI 경쟁에 응답속도 부상

OpenAI가 세레브라스(Cerebras)의 전용 AI 칩을 활용해 GPT-5.6 Sol의 응답 속도를 최대 14배 높인 ‘울트라패스트(Ultrafast)’ 모드를 공개했다. 아직 일부 기업을 대상으로 한 제한적 시험 서비스지만, 기업용 AI의 평가 기준이 모델 성능과 가격을 넘어 실제 업무의 대기시간까지 확대되고 있음을 보여준다.

OpenAI와 세레브라스는 8월 13일 울트라패스트가 초당 최대 750개의 출력 토큰을 생성한다고 발표했다. 토큰은 AI가 문장을 처리하고 생성하는 기본 단위다. 회사 측 측정으로는 표준 처리 방식보다 최대 14배 빠르다. 동일한 GPT-5.6 Sol 모델을 사용하기 때문에 응답속도를 높이기 위해 더 작고 단순한 모델로 교체할 필요가 없다는 것이 양사의 설명이다.

초기 활용 분야로는 시스템 장애 대응, 금융 조사와 이상거래 탐지, 음성 고객지원, 전자상거래, 실시간 연구가 제시됐다. 서비스 장애가 발생했을 때 로그와 최근 코드 변경 내역을 분석해 다음 점검 항목을 제안하거나, 상담 통화가 진행되는 동안 여러 내부 시스템을 조회해 답변을 만드는 업무가 대표적이다. 다만 OpenAI는 장애 대응 과정에서도 최종 판단과 실제 배포 책임은 엔지니어에게 있다고 명시했다.

이번 발표의 핵심은 단순히 문장이 빨리 출력된다는 데 있지 않다. AI의 응답 지연이 줄어들면 사람이 질문하고 결과를 확인한 뒤 다시 조건을 수정하는 작업을 같은 업무 흐름 안에서 여러 차례 반복할 수 있다. 전날 밤 실행한 분석을 다음 날 검토하는 방식에서, 근무시간 중 결과를 확인하고 후속 실험까지 이어가는 방식으로 업무 설계가 달라질 수 있다는 의미다.

울트라패스트 공개는 세레브라스의 사업구조 변화와도 맞물린다. 회사의 2026년 2분기 클라우드 및 기타 서비스 매출은 1억2,599만달러로 전년 동기보다 281% 증가했다. 반면 하드웨어 매출은 7,030만달러에서 5,412만달러로 감소했다. 전체 매출은 1억8,011만달러로 74% 늘었다. 고객에게 AI 장비를 직접 판매하는 사업보다 자체 인프라에서 연산 능력을 서비스 형태로 제공하는 사업의 비중이 커진 것이다.

이 모델은 반복적인 서비스 매출을 만들 수 있지만 상당한 선행 투자가 필요하다. 세레브라스는 2027년 말까지 가동하거나 계약한 데이터센터 용량을 600메가와트 이상으로 확대했다고 밝혔다. 2분기 일반회계기준 순손실은 약 4억5,053만달러였으며, 상장에 따라 반영된 주식보상 비용의 영향이 컸다. 빠르게 늘어난 수요가 지속적인 수익으로 이어질지는 데이터센터 가동률과 전력비, 구축비용, 모델별 사용량을 함께 살펴볼 필요가 있다.

보스턴에서는 바이오 연구, 병원 운영, 금융, 로보틱스처럼 정확성뿐 아니라 응답 시점이 중요한 산업과 연결성이 크다. 연구자가 실험 결과를 받은 당일 후속 분석을 반복하거나, 로봇과 음성 시스템이 주변 상황에 맞춰 즉시 반응해야 하는 제품에서는 처리속도가 기능 자체를 바꿀 수 있다. 반대로 밤새 수행해도 되는 문서 요약이나 정기 보고 업무라면 고속 처리에 추가 비용을 지불할 경제성이 낮을 수 있다.

기업 입장에서는 모든 업무를 가장 빠른 서비스로 옮기기보다 지연시간이 실제 매출, 고객 경험 또는 장애 복구시간에 영향을 주는 작업을 선별하는 과정이 중요해진다. 모델의 초당 토큰 수만 비교하기보다 첫 응답까지 걸리는 시간, 전체 업무 완료시간, 정확도, 오류 발생 시 복구 방식과 비용을 함께 측정해야 한다.

채용 측면에서 이번 발표를 보스턴 지역 일자리의 즉각적인 증가 신호로 해석하기는 이르다. 다만 세레브라스의 채용 분야에는 추론 플랫폼, 사이트 신뢰성 엔지니어링(SRE), 성능 측정, 클라우드 품질, 네트워크와 데이터센터 운영 등이 포함돼 있다. SRE는 온라인 서비스를 안정적으로 운영하고 장애를 줄이는 직무다. 이는 AI와 함께 늘어나는 역할이 모델 연구자에 한정되지 않고, 고속 서비스를 안정적으로 운영하며 비용 대비 효과를 검증하는 업무까지 넓어지고 있음을 보여준다.

취업 준비생과 현직자는 포트폴리오에서 AI 응용프로그램 인터페이스(API)를 연결했다는 설명에 그치기보다 응답 지연, 정확도, 비용과 장애 대응을 어떻게 측정하고 개선했는지 제시하는 편이 실무 수요에 가깝다. 주목할 역량도 모델 개발뿐 아니라 분산시스템, 클라우드 운영, 성능 벤치마킹, 네트워크 최적화, 데이터센터 인프라와 AI 품질평가로 확장되고 있다.

유학생이나 취업비자 스폰서십이 필요한 지원자는 기술 수요와 고용 조건을 구분해 확인해야 한다. 채용공고에 표시된 근무지와 원격근무 범위, 신입 지원 가능 여부, 비자 지원 정책을 개별적으로 살펴보는 것이 현실적이다. 특정 기술 분야의 채용이 진행된다는 사실만으로 해당 기업이 모든 직무와 지원자에게 스폰서십을 제공한다고 볼 수는 없다. 비자와 체류 자격에 관한 판단은 개인 상황과 시점에 따라 달라질 수 있다.

울트라패스트는 현재 선택된 고객에게만 제공되며, OpenAI는 처리 용량이 확보되는 대로 접근 범위를 확대할 계획이다. 당장 확인할 변수는 실제 가격과 일반 이용 가능 시점이다. 장기적으로는 표준 모드와 비교한 업무 완료시간의 개선 폭, 서비스 안정성, 기업이 고속 처리에 드는 추가 비용을 정당화할 수 있는지가 관건이다.

기업용 AI 경쟁에서 모델의 최고 성능만큼 ‘필요한 순간에 얼마나 빠르고 안정적으로 답하는가’가 중요한 운영 지표로 자리 잡고 있다. 보스턴의 기업과 연구기관에도 모든 업무를 고속화하는 문제보다 속도가 새로운 제품이나 더 짧은 연구 주기를 만드는 지점을 구체적으로 찾는 일이 우선 과제가 될 것으로 보인다.