• 배스트 AI OS와 백엔드닷에이아이 통합으로 소버린 AI 기반 제공
• 성능 병목을 해소하고 초거대규모 모델 학습 기반 마련해 국가 AI 인프라 고도화 지원 나서

백엔드닷에이아이(Backend.AI)의 개발사이자, 정부 주도 ‘독자 AI 파운데이션 모델’의 핵심 참여 기업인 래블업(Lablup Inc.)은 오늘 AI 운영 시스템 기업 배스트 데이터(VAST Data)와의 전략적 협업을 발표했다. 양사는 AI 기술의 자립성을 목표로 하는 국가 AI 컨소시엄이 대규모 언어 모델(LLM)을 전적으로 국내 인프라에서 학습·배포할 수 있도록 고성능·확장형 데이터 기반을 공동 구축했다.

백엔드닷에이아이는 GPU 및 CPU 자원을 아우르는 AI 모델 학습, 배포, 추론 환경을 통합적으로 제공한다. 배스트 AI 운영체제가 통합된 기반을 통해 래블업을 비롯한 고객들은 학습 데이터, 모델 체크포인트, 다양한 아티팩트를 압도적인 처리량과 높은 복원력으로 관리할 수 있으며, 모델 개발부터 실시간 서비스에 이르기까지 끊김 없는 데이터 흐름을 확보할 수 있다.

래블업은 AI 워크로드가 커짐에 따라 기존의 전통적 스토리지 인프라로는 초거대 모델 학습에 필요한 처리량과 동시성을 지원하는 것이 어렵다고 판단했다. 이에 배스트 데이터를 통해 데이터 레이어를 현대화하고, 멀티 테넌트 연구 환경에서 요구되는 신뢰성과 통제력을 유지하면서 성능 병목을 제거했다.

SK텔레콤의 소버린 AI 클러스터에서 구동되는 백엔드닷에이아이와 배스트 AI OS 통합 환경은 고성능 GPU 전반에 걸쳐 모델 학습을 자동화·가속화하며, 국내 다양한 연구 기관에 훈련 및 향후 추론까지 아우르는 통합형 AI 컴퓨팅 환경을 제공한다.

래블업 창업자이자 CEO인 신정규 대표는 “래블업은 개방적이고 효율적이며 확장 가능한 기술을 통해 AI 인프라를 민주화하는데 노력해 왔다. 백엔드닷에이아이 환경에 배스트의 AI 운영체제를 통합함으로써 개발자와 기업은 현대적인 AI가 요구하는 신뢰성과 고성능을 유지하면서도 대규모 데이터셋과 복잡한 워크로드를 처리할 수 있게 됐다. AI 컴퓨팅 역량을 극대화함과 동시에 주권성과 데이터 보안을 보장하는 기술적 시너지를 입증한 사례이다”라고 말했다.

백엔드닷에이아이는 배스트 AI OS와의 통합을 통해 대규모 학습 워크로드를 위한 고처리량 데이터 액세스를 원활하게 제공한다. 배스트의 DASE(Disaggregated, Shared-Everything/분리형 공유) 아키텍처를 기반으로 래블업은 컴퓨팅 환경과 스토리지를 독립적으로 확장함과 동시에 단일 글로벌 네임스페이스인 ‘배스트 데이터스페이스(VAST DataSpace)’를 통해 연구자들이 체크포인트, 데이터셋, 모델 출력을 프로젝트 간 빠르게 공유할 수 있도록 한다.

소버린 AI 전략을 뒷받침하는 배스트 AI 운영체제와 백엔드닷에이아이는 대규모 모델 학습부터 실시간 오케스트레이션을 아우르며 다음과 같은 기능을 제공한다.

• 소버린 데이터 통제(Sovereign Data Control): AI 주권은 데이터 인프라에서 시작해 인프라로 완성된다. 래블업의 백엔드닷이에이아이는 배스트 데이터스페이스와 제로트러스트(Zero Trust) 아키텍처를 통해 소버린 AI 환경 전반에서 데이터 레지던시, 접근 통제, 규제 준수 요구사항을 충족한다. 정부, 연구기관, 규제 대상 기업들은 AI 라이프사이클 전반에 걸쳐 데이터가 어디에 위치하는지뿐 아니라 어떻게 보호·관리·감사되는지까지 보장할 수 있다.
• 고성능 데이터 인프라: 백엔드닷에이아이는 배스트 데이터스토어(VAST DataStore)와 통합돼 RDMA 및 GPU-직접 데이터 경로를 통해 고성능 학습 데이터셋과 모델 아티팩트에 고처리량으로 접근한다. 이는 CPU 병목을 없애고 SK텔레콤 소버린 AI 클러스터 내 모든 GPU에서 일관된 성능을 확보해 국가 규모의 모델 사전-트레이닝과 파인 튜닝을 가속한다.
• 원활한 협업을 위한 단일 글로벌 네임스페이스: 백엔드닷에이아이는 배스트의 DASE 아키텍처를 기반으로 모델 학습·검증·배포 전 과정에 걸쳐 단일 네임스페이스를 제공한다. 연구자들은 체크포인트, 데이터셋, 아웃풋을 중복 및 지연 없이 즉시 공유할 수 있어 국가 컨소시엄 내부 협업을 대폭 간소화할 수 있다.
• 보안 기반 멀티테넌트 확장성: 래블업은 배스트 데이터엔진(DataEngine)과 데이터스페이스를 활용해 공유 GPU 클러스터 전체의 데이터·연산 관리 환경을 통합한다. 배스트의 쿼터 모델과 백엔드닷AI의 사용자 기반 접근 제어의 긴밀한 통합으로 테넌트 간 격리와 일관적 성능을 보장한다. 정부·학계·기업 등 사용자 각각은 연산능력과 스토리지를 독립적으로 확장하는 동시에 안정적이고 예측 가능한 서비스 품질을 누릴 수 있다.
• 추론 및 에이전틱 AI 시대를 대비한 기반: 소버린 AI 프로젝트가 학습 단계에서 서비스 단계로 확장됨에 따라 백엔드닷에이아이와 배스트 AI OS의 통합은 차세대 추론 및 에이전틱 AI 워크로드 기반을 제공한다. 배스트 데이터엔진은 대규모 데이터셋을 대상으로 실시간 오케스트레이션과 추론을 가능하게 하며, 이를 통해 래블업 고객들은 고정형 모델 학습을 넘어 지속적으로 학습·적응·서비스하는 지능형 시스템으로 나아갈 수 있다.

배스트 AI OS는 래블업 자체 인프라에 대해서도 AI 인프라 개발, 최적화 테스트, 모델 서비스 오케스트레이션을 지원한다. 이를 통해 엔지니어들은 새로운 AI 모델을 더욱 효율적으로 테스트·배포할 수 있으며, 실시간으로 모델 웨이트를 교체하는 동시에 다운타임 없이 운영이 가능하다. 양사는 초기 단계에서의 지연(latency) 문제를 공동 엔지니어링을 통해 해결했으며, 그 결과 학습과 연구 운영을 위한 안정적이고 고처리량의 확장 가능한 시스템이 구축되었다.

업스테이지가 주도하고 국내 주요 연구 기관들이 참여하는 한국형 파운데이션 모델 컨소시엄 내에서 백엔드닷에이아이와 배스트 AI 운영체제는 초거대규모의 데이터를 처리해 대형의 사전 트레이닝과 파인 튜닝을 수행하며 국내 AI 개발 역량을 한 단계 끌어올리고 있다.

배스트 데이터 공동 창업자이자 CTO인 알론 호레브(Alon Horev)는 “래블업과의 협업으로 확장을 고려해 설계된 현대적 AI 인프라의 실질적인 형태를 구현할 수 있게 됐다. GPU 집약적 환경이나 소버린 AI를 고려하지 않은 기존 레거시 스택은 이러한 요구를 수용하기 어렵다. 배스트 AI OS를 통해 컴퓨트 오케스트레이션과 데이터 인텔리전스를 통합함으로써 병목을 제거하고 한국과 같이 국가가 AI 혁신을 스스로 소유하고, 통제하는 한편 가속할 수 있는 단일 패브릭을 구축했다. 백엔드닷에이아이와 배스트데이터의 조합은 엔터프라이즈와 연구기관이 유연성·효율성·신뢰성을 모두 갖춘 새로운 고성능 AI 인프라의 청사진을 제시한다”라고 말했다.

과학기술정보통신부가 주도하는 소버린 AI 이니셔티브는 전적으로 국내 기술로 구축된 글로벌 경쟁력이 높은 기초 모델을 개발하여 해외 클라우드 및 소프트웨어 공급자에 대한 의존도를 낮추는 것을 목표로 한다. 배스트 데이터와 래블업은 이를 가능케 하는 데이터 및 연산 인프라를 공동으로 제공함으로써, 스타트업, 기업 및 연구 기관이 국가 내에서 안전하게 AI를 훈련하고 확장할 수 있도록 지원한다. 이번 협력은 백엔드닷AI의 분산형 컨테이너 오케스트레이션과 에이전트형 AI 시대를 위한 통합 기반인 배스트 AI 운영체제 간의 기술적 시너지가 확대되고 있음을 반영한다.

래블업에 대하여 래블업은 확장 가능하고 고성능의 GPU 컴퓨팅 운영 모델을 제공함으로써 현대적인 AI 시스템의 구동 방식을 재정의하고 있다. 래블업의 플래그십 플랫폼인 Backend.AI는 소프트웨어 정의 GPU 가상화, 초고속 컨테이너화 환경, 지능형 워크로드 오케스트레이션을 결합하여 이종 클러스터 전반에서 성능, 활용도 및 효율성을 극대화한다.

2015년 설립된 래블업은 글로벌 기술 선도 기업, 연구 기관 및 주요 대학과 협력하여 전 세계적으로 AI 인프라를 발전시키고 데이터 기반 혁신을 가속화하고 있다. 자세한 내용은 lablup.com 에서 확인할 수 있으며, LinkedIn에서 Lablup을 팔로우할 수 있다.

VAST Data에 대하여 VAST Data는 AI 운영 시스템(AI Operating System) 기업으로, AI의 잠재력을 최대한 발휘할 수 있도록 특별히 제작된 통합 소프트웨어 인프라 스택을 통해 차세대 지능형 시스템을 지원한다.

VAST AI OS는 기본적인 데이터 및 컴퓨팅 서비스와 에이전트 실행을 하나의 확장 가능한 플랫폼으로 통합하여, 조직이 AI 에이전트를 배포하고 에이전트 간 통신을 촉진하며, 실시간 데이터를 기반으로 추론하고, 복잡한 워크플로우를 전 세계적 규모로 자동화할 수 있도록 한다. 성능, 확장성, 단순성, 복원력 중 어느 것도 타협하지 않는 세계 최초의 진정한 병렬 분산 시스템 아키텍처인 VAST는 획기적인 DASE(Disaggregated, Shared-Everything) 아키텍처를 기반으로 최신 인프라를 추론 AI를 위한 글로벌 패브릭으로 변화시킨다. 더 자세한 정보는 vastdata.com에서 확인할 수 있으며, LinkedIn, YouTube, X에서 VAST Data를 팔로우할 수 있다.