김준기 CTO "소프트웨어가 AI 경쟁력 결정"

실적 안정성 확보…IPO로 외연 넓힌다

GPU 활용률 25→95% 엔비디아 넘어선 범용성

래블업, 2026년 정보통신 유공 정부포상 대통령 표창 수상

Backend.AI 관련 기사

![래블업 신정규 대표(왼쪽에서 여섯 번째)가 '2026년 과학·정보통신의 날 기념식'에서 과학기술·정보통신 분야 유공자로 대통령표창을 수상한 뒤 수상자들과 함께 기념 촬영을 하고 있다.](https://cdn.lablup.com/2026_53d65ab335.jpg)

래블업 주식회사(대표 신정규)가 2026년 4월 21일 한국과학기술회관에서 개최된 과학기술정보통신부 주관 '2026년 과학·정보통신의 날 기념식'에서 '2026년 정보통신 유공 정부포상' 대통령 표창을 수상했다.

정보통신 유공 정부포상은 정보통신의 날을 맞아 정보통신 산업 발전에 기여한 단체 및 개인에게 수여하는 정부 포상이다. 래블업은 독자 AI 인프라 운영 플랫폼 기술을 통해 AI 기술의 개발·보급과 양질의 일자리 창출에 기여한 공로를 인정받았다.

래블업은 2015년 설립 이후 세계 120여개 기업, 기관에서 운용중인 AI 인프라 오케스트레이션 플랫폼 백엔드닷에이아이(이하 Backend.AI)를 개발해 왔다. Backend.AI는 NVIDIA, AMD, Intel 및 국산 NPU를 포함한 이종 AI 반도체를 단일 플랫폼에서 통합 관리한다. 여기에 NVIDIA GPU에는 컨테이너 수준 GPU 분할가상화(Container-level GPU Virtualization, 하나의 GPU를 여러 컨테이너에 분할해 동시 할당하는 기술)를 적용해 GPU 활용률을 끌어올린다. 또한 주요 고성능 스토리지와 연동해 기업·기관이 보유한 인프라 전반을 효율적으로 운용하도록 돕는다.

래블업은 2024년 신정규 대표의 산업포장 수훈에 이어 올해 법인 단체 명의로 대통령 표창을 수상하게 됐다. 이번 수상을 계기로 국내 AI 생태계 기술 저변 확대와 글로벌 AI 운영 플랫폼 시장 공략에 더욱 속도를 낼 계획이다.

래블업 신정규 대표는 "지난 11년간 Backend.AI를 함께 만들어 온 팀과, 이 플랫폼을 믿고 써 준 고객이 같이 받은 상이라고 생각한다"며 "AI 전환은 결국 모델과 가속기를 엮어 내는 기반 소프트웨어 위에서 일어난다. 누구나 AI를 쉽게 쓰고 필요한 만큼 자유롭게 확장할 수 있도록, Backend.AI를 더 많은 산업 현장에서 쓰일 플랫폼으로 키워 가겠다"고 말했다.

 래블업, 2026년 정보통신 유공 정부포상 대통령 표창 수상

**\- 73일간 B200 60노드 이상 클러스터 운영, 기존 대비 평균 장애 복구 시간 47% 단축**

**\- 업스테이지 Solar Open 100B 학습 인프라 파트너로서 쌓은 실전 운영 전략 발표**

**\- Backend.AI Continuum 모델 라우트 기능, NVIDIA DGX Spark 기반 Backend.AI:GO 체험형 시연 운영**

AI 인프라 전문 기업 래블업 주식회사(대표 신정규)가 3월 16~19일 미국 산호세에서 열리는 NVIDIA GTC 2026에서 NVIDIA B200 GPU 504대 규모의 소버린 AI(Sovereign AI, 국가·기관이 독자적으로 구축·운영하는 AI) 학습 인프라 운영 경험을 공개한다. 3월 18일(현지시간) GTC Theater Session에서 래블업은 73일간의 클러스터 운영에서 쌓은 내결함성 스케줄링 전략과 장애 복구 기법을 발표하며, 전시장에서는 Backend.AI Continuum의 장애 자동 복구 체험과 DGX Spark 기반 Backend.AI:GO 시연도 함께 진행한다.

**래블업, Sovereign AI 구축 위한 100B 모델 학습 과정에서의 인프라 운영 사례 발표**

신정규 대표는 세션 'Building Sovereign AI: Scaling 100B+ Model Training on NVIDIA Blackwell Infrastructure'에서 B200 60노드 이상(GPU 504대) 클러스터로 1,000억 파라미터급 모델을 처음부터 학습시킨 과정을 발표한다. 이 프로젝트는 과학기술정보통신부·정보통신산업진흥원(NIPA) 주관 '독자 AI 파운데이션 모델 개발' 과제의 일환으로, 래블업은 업스테이지 컨소시엄의 인프라 파트너로서 업스테이지의 Solar Open 100B 학습을 뒷받침했다.

래블업은 GPU 오류, NCCL(GPU 간 집합 통신 라이브러리) 타임아웃 등 대규모 분산 학습에서 반복적으로 발생하는 장애를 자동 감지하고 복구하는 내결함성 스케줄링 구조를 구축했다. 기존 대비 평균 장애 복구 시간을 47% 줄였고, 프로세스 재시작까지 3초 이내로 단축했다. NFS 드라이버 설정 오류 하나가 성능을 10분의 1로 떨어뜨린 사례를 추적·해결한 과정도 공유한다. 이 밖에 MXFP8(8비트 부동소수점) 정밀도에서의 학습 안정성 확보, RoCE(RDMA over Converged Ethernet) 및 InfiniBand 환경에서의 NCCL 튜닝 등 Blackwell 세대에 맞춘 최적화 기법도 다룬다.

**Backend.AI Continuum의 자동 복구와 Backend.AI:GO의 로컬 AI 환경, GTC2026서 공개**

NVIDIA GTC2026 관람객을 위해 기술 시연도 준비했다. 래블업 (243번 부스)을 방문하면 관람객들은 Backend.AI Continuum의 모델 라우트 기능을 직접 체험할 수 있다. 관람객이 네트워크 케이블을 뽑아 장애 상황을 만들면, 추론 요청이 다른 경로로 자동 전환되는 과정을 실시간으로 확인할 수 있다. 클라우드 접속이 끊겨도 로컬 자원으로 즉시 전환해 API 호출을 유지하는 Continuum의 내결함성을 관람객이 손으로 직접 확인하는 방식이다.

NVIDIA DGX Spark에서 구동되는 Backend.AI:GO도 함께 선보인다. Backend.AI:GO는 개인 노트북이나 데스크톱뿐 아니라 DGX Spark처럼 128GB 통합 메모리를 갖춘 AI 전용 장비에서도 동작하며, 장비의 성능을 온전히 끌어내 사용자에게 로컬 AI 환경을 제공한다.

래블업 신정규 대표는 "504대의 B200을 73일간 운영하면서 대규모 분산 학습이 실전에서 어떻게 무너지고, 어떻게 다시 세우는지를 체계화할 수 있었다"며 "이번 GTC에서는 그 경험을 그대로 공유하고, 이를 바탕으로 국가와 산업이 독자적으로 AI를 운용할 수 있는 소버린 AI 인프라 구축의 비전을 제시하겠다"고 말했다.

래블업, NVIDIA GTC 2026에서 B200 GPU 500대 규모 소버린 AI 학습 인프라 운영 경험 공개

*   Backend.AI 플랫폼, 아시아·북미에 이어 유럽·중동·아프리카로 유통 확대

AI 인프라 전문 기업 래블업 주식회사(대표 신정규)는 3월 2일(현지시간) 스페인 바르셀로나 Fira Gran Via에서 열리고 있는 MWC 2026에서 영국 고성능 컴퓨팅(HPC) 전문 기업 Boston Limited와 Backend.AI 플랫폼의 EMEA(유럽·중동·아프리카) 지역 유통 및 판매를 위한 전략적 파트너십을 체결했다.

이번 파트너십에 따라 Boston Limited는 EMEA 지역에서 Backend.AI 클라우드 서비스(SaaS)와 온프레미스 소프트웨어 라이선스를 최종 고객에게 직접 판매하며, 설치·구성·자문 등 전문 서비스도 함께 제공한다. 양사는 Boston Limited가 보유한 EMEA 지역의 광범위한 고객 네트워크와 HPC 인프라 유통 역량을 활용해 현지 영업과 기술 지원 체계를 구축할 계획이다.

Backend.AI는 래블업이 개발한 소프트웨어 정의 AI 인프라 플랫폼으로, NVIDIA, AMD, Intel, 국산 NPU를 포함한 이종 AI 반도체를 단일 플랫폼에서 통합 관리한다. GPU·NPU 종류에 관계없이 클러스터 전체를 하나의 자원 풀로 운영할 수 있으며, 컨테이너 수준 GPU 분할가상화 기술과 자체 개발한 소코반(Sokovan) 오케스트레이터를 통해 엔터프라이즈 환경의 AI 인프라 도입 비용과 운영 복잡성을 낮춘다.

30년 이상 유럽 시장에서 HPC 인프라를 공급해 온 Boston Limited는 연구기관, 대학, 엔터프라이즈, 공공 부문 고객에게 서버, 스토리지, GPU 클러스터 등 맞춤형 고성능 컴퓨팅 솔루션을 공급하며, Supermicro·NVIDIA·Intel·AMD 등 주요 IT 인프라 기업과 긴밀한 파트너십을 유지하고 있다.

래블업은 2025년 미국 산호세에 현지 법인을 설립하며 북미 시장에 진출한 바 있다. 이번 파트너십 체결로 Backend.AI의 유통 범위가 아시아·북미에 이어 유럽·중동·아프리카까지 확대된다. 양사는 Boston Limited가 보유한 EMEA 지역의 광범위한 고객 네트워크와 HPC 인프라 유통 역량을 활용해 현지 영업과 기술 지원 체계를 구축할 계획이다.

래블업 김정묵 CRO(Chief Revenue Officer)는 "Backend.AI의 유통 범위를 아시아·북미에 이어 EMEA까지 확장하기 위해서는 현지 시장을 깊이 이해하고 있는 파트너가 필수적이었다"며 "30년 이상 EMEA 지역에서 HPC 인프라를 공급해 온 Boston Limited의 광범위한 고객 네트워크와 기술 영업 역량은 Backend.AI가 이 시장에 안착하는 데 가장 적합한 파트너라고 판단했다. 양사가 긴밀히 협력해 현지 고객들에게 최상의 기술 지원 체계를 구축해 나가겠다"고 말했다.

Boston Limited 마노즈 나이(Manoj Nayee) 매니징 디렉터(Managing Director)는 "AI 워크로드가 급증하면서 고객들이 GPU 자원을 효율적으로 관리할 수 있는 소프트웨어 플랫폼을 요구하고 있다"며 "당사가 공급하는 HPC·AI 인프라에 Backend.AI가 더해지면서 하드웨어부터 소프트웨어 관리까지 아우르는 엔드투엔드 솔루션을 EMEA 고객들에게 제공할 수 있게 되었고, 여러 벤더의 GPU를 운용하는 고객들의 인프라 투자 효율을 높이는 데 실질적으로 기여할 수 있을 것으로 기대한다"고 말했다.

![MWC_2026_BOSTON_PARTNERSHIP_VERTICAL.jpg](https://cdn.lablup.com/MWC_2026_BOSTON_PARTNERSHIP_VERTICAL_7377c1942c.jpg)

래블업의 김정묵 CRO(왼쪽)와 Boston Limited의 Manoj Nayee(오른쪽)가 MOU를 체결하고 있다.

---

### 래블업 주식회사 (Lablup Inc.) 소개

래블업 주식회사(Lablup Inc.)는 2015년 설립된 AI 인프라 전문 기업으로, 이종 GPU·NPU 클러스터를 하이퍼스케일 멀티테넌시 환경에서 통합 오케스트레이션하는 소프트웨어 정의 AI 인프라 플랫폼 Backend.AI를 개발하고 있습니다. 컨테이너 수준 GPU 분할가상화 기술로 학습·추론·배포 전반의 가속기 활용률을 극대화합니다. 서울 본사와 미국 산호세 법인을 기반으로 전 세계 110여 개 사이트에서 16,000대 이상의 GPU를 관리하고 있으며, Backend.AI는 NVIDIA DGX-Ready Software로 검증되었습니다. 자세한 내용은 lablup.com에서 확인할 수 있습니다.

### Boston Limited 소개

Boston Limited는 30년 이상의 업력을 바탕으로 전 세계 40개국 이상에서 사업을 운영하고 있는 글로벌 IT 시스템 전문 기업입니다. 차세대 지능형 인프라를 구현하는 공동 설계(co-designed)·맞춤형(custom)·인증(certified) IT 시스템을 제공하며, 엣지 디바이스, 데스크톱, 서버, 스토리지, 클러스터, 레퍼런스 아키텍처에 이르는 폭넓은 포트폴리오를 보유하고 있습니다. 엔지니어링 중심의 고객 맞춤형 서비스 모델을 통해 솔루션을 제공합니다. 부품 유통에서 부가가치 시스템 통합(SI)을 거쳐, 오늘날 데이터·고성능 컴퓨팅(HPC)·AI 솔루션 분야의 선도 기업으로 끊임없이 진화해 왔습니다. Boston Limited는 미국 SourceCode, LLC의 계열사입니다. 자세한 내용은 boston.co.uk에서 확인할 수 있습니다.

래블업, 영국 Boston Limited와 EMEA 지역 전략적 파트너십 체결

AI 인프라 운영 플랫폼 기업 래블업 주식회사(대표 신정규, 이하 래블업)는 VAST Data의 기술 얼라이언스 파트너 프로그램 VAST Cosmos에 Technology Alliance Partner로 합류했다.

이번 파트너십을 통해 양사는 Backend.AI와 VAST AI Operating System 간 검증된 통합 환경을 구축하고, 데이터센터, 클라우드, 엣지 환경 전반에서 AI 인프라 솔루션을 공동으로 구축, 검증, 확장할 수 있게 된다.

래블업은 Backend.AI와 VAST AI OS를 연동하여 학습부터 배포, 추론까지 AI 워크로드를 오케스트레이션할 수 있는 환경을 구현한다. VAST DataStore 기반의 RDMA 및 GPU-direct 데이터 경로를 통해 학습 데이터셋과 모델 아티팩트에 대한 고처리량 접근이 가능하며, 이종 컴퓨팅 환경에서의 데이터 접근을 간소화하고 지연 시간을 줄여 GPU 활용률을 극대화한다.

Backend.AI의 GPU 오케스트레이션 및 워크로드 관리 역량과 VAST의 DASE(Disaggregated Shared-Everything) 아키텍처 및 통합 데이터 서비스를 결합한 검증된 솔루션을 통해 고객은 검증된 아키텍처 기반으로 AI 파이프라인의 구현 복잡성을 줄이고 배포를 가속하고, 고처리량 데이터 액세스와 GPU-direct 연결을 통해 지속적인 워크로드 환경에서 안정적인 성능을 확보하며, AI 학습·추론·배포 환경의 확장 시 운영 부담을 줄이는 방향으로 인프라를 통합 관리할 수 있게 된다.

래블업과 VAST Data는 대한민국 소버린 AI 파운데이션 모델 프로젝트의 인프라 구축에서도 협력하고 있으며, 이번 Cosmos 파트너십은 프로덕션 수준의 AI 인프라 솔루션을 제공하려는 공동 노력을 한층 강화한다.

래블업 신정규 대표는 "래블업은 접근 가능하고 효율적이며 확장 가능한 기술을 통해 AI 인프라의 대중화에 기여하고 있다"며 "Backend.AI와 VAST AI OS의 통합으로 개발자와 기업 고객은 대규모 데이터셋과 복잡한 워크로드를 높은 안정성과 성능으로 처리할 수 있게 되었다. 스토리지 인프라는 AI 워크로드를 관리하는 오케스트레이터만큼이나 중요하며, 래블업은 이 두 영역을 자연스럽게 통합하는 환경을 제공하는 데 주력하고 있다"고 말했다.

VAST Data 글로벌 기술 얼라이언스 부문 부사장 John Mao는 "엔터프라이즈는 신뢰할 수 있는 검증된 통합 환경을 기반으로, 보다 간결하고 일관된 프로덕션 AI 배포 방식을 찾고 있다"며 "래블업이 VAST Cosmos에 합류한 것을 환영하며, VAST AI Operating System 위에 구축되는 업계 선도 솔루션 생태계를 확장하고 데이터 경로부터 애플리케이션 계층까지 AI 배포의 통합 리스크를 줄일 수 있게 되었다"고 말했다.

래블업, VAST Cosmos 합류로 AI 학습·추론 통합 인프라 가속

AI 인프라 전문 기업 래블업(Lablup Inc.)이 3월 2일부터 5일까지 스페인 바르셀로나 피라 그란비아(Fira Gran Via)에서 열리는 MWC 바르셀로나 2026에 참가해 개인용 AI 플랫폼 Backend.AI:GO를 유럽 시장에 선보인다. 행사 기간 중에는 영국 AI 인프라 전문 기업 Boston Limited와의 파트너십 체결 세레모니도 진행하며, 유럽 시장 본격 진출에 나선다.

Backend.AI:GO는 올해 1월 CES 2026에서 정식 출시된 무료 데스크톱 애플리케이션으로, 클라우드 연결 없이 개인 PC에서 소형언어모델(SLM)을 직접 실행할 수 있다. 모델을 한 번 내려받으면 이후에는 완전히 오프라인으로 작동하며, 문서 분석이나 이미지 이해, 코드 리뷰 같은 작업을 외부 전송 없이 처리한다. macOS, Windows, Linux를 지원하고, Apple Silicon 환경에는 자체 추론 엔진 MLxcel로 네이티브 최적화를 제공한다.

로컬 자원만으로 처리하기 어려운 작업이 생기면 조직 내 Backend.AI Core 클러스터나 OpenAI, Google 등 클라우드 API로 자동 전환하는 하이브리드 버스팅 기능도 갖추고 있다. 여러 대의 GO 기기를 Mesh Mode로 연결해 컴퓨팅 자원을 통합하는 것도 가능해, 개인 워크스테이션 한 대로는 다루기 어려운 규모의 모델도 분산 추론으로 실행할 수 있다.

출시 이후에도 빠르게 기능을 확장하고 있는데, 2월 초 공개된 v1.1에서는 Stable Diffusion 기반 이미지 생성, TXT·MD·DOCX·PDF 및 이미지 OCR을 지원하는 문서 번역, 서버 환경에 단독 배포할 수 있는 헤드리스 서버 모드가 추가됐다. 최근 출시된 v1.2에서는 에이전트 프로필을 검색하고 내려받을 수 있는 에이전트 마켓플레이스, 여러 에이전트가 폴더 권한과 자동 승인 규칙 아래 협업하는 Cowork 모드가 추가됐다.

**데스크톱에서 모바일로 이어지는 AI**

래블업은 Backend.AI:GO의 다음 단계로, 데스크톱이나 노트북, 서버, NVIDIA DGX Spark 등에서 실행 중인 AI 모델을 모바일 기기에서 원격으로 호출하고 제어하는 기능을 개발하고 있다. GO가 설치된 어떤 기기든 개인 AI 서버가 되고, 스마트폰에서 해당 모델에 접속해 대화하거나 작업을 요청할 수 있는 구조다. 엔터프라이즈 AI 인프라에서 축적해 온 오케스트레이션 기술이 개인 사용자의 기기까지 확장되는 셈이다.

래블업 신정규 대표는 "Backend.AI:GO는 데이터센터에서만 돌릴 수 있었던 AI 워크로드를 개인 기기로 가져오는 첫 단계였고, 이제 그 개인 기기가 모바일과 연결되는 그림을 그리고 있다"며 "AI를 사용하기 위해 특정 장소나 특정 기기에 묶여야 할 이유가 없다는 것이 Backend.AI가 처음부터 추구해 온 방향"이라고 말했다.

래블업은 MWC 바르셀로나 2026 Hall 7, 부스 #7A62-01에서 만나볼 수 있다.

**래블업 주식회사 (Lablup Inc.) 소개**

래블업 주식회사(Lablup Inc.)는 2015년 설립된 AI 인프라 전문 기업으로, 이종 GPU·NPU 클러스터를 하이퍼스케일 멀티테넌시 환경에서 통합 오케스트레이션하는 소프트웨어 정의 AI 인프라 플랫폼 Backend.AI를 개발하고 있습니다. 컨테이너 수준 GPU 분할가상화 기술로 학습·추론·배포 전반의 가속기 활용률을 극대화합니다. 서울 본사와 미국 산호세 법인을 기반으로 전 세계 110여 개 사이트에서 16,000대 이상의 GPU를 관리하고 있으며, Backend.AI는 NVIDIA DGX-Ready Software로 검증되었습니다.

래블업, MWC 바르셀로나 2026서 개인용 AI 플랫폼 'Backend.AI:GO' 유럽 시장에 선보여

*   엔터프라이즈 AI 인프라를 개인 PC까지 확장… 중앙 관리 체계 그대로 유지
*   클라우드 버전 'Backend.AI:DOL'도 정식 출시, AI PC부터 하이퍼스케일까지 풀스택 체제 완성

![Lablup CES 2026](https://cdn.lablup.com/Lablup_CES_2026_caefa5ca4d.jpg)

AI 인프라 플랫폼 기업 래블업(대표 신정규)이 2026년 1월 6일부터 9일까지 미국 라스베이거스 컨벤션센터에서 개최되는 CES 2026에 4년 연속으로 참가한다. 래블업은 이번 행사에서 클라우드 서버 없이 개인 PC에서 SLM(소형언어모델)을 직접 구동하는 데스크탑 애플리케이션, 'Backend.AI:GO(백엔드닷에이아이:고)'를 정식 출시한다. 

Backend.AI:GO의 'GO'는 'Generative On-device'의 약자다. 온프레미스 환경에서 로컬 자원을 활용해 AI 추론을 가속한다. 모델을 다운로드받은 이후부터는 클라우드를 거치지 않아 인터넷 연결 없이도 작동하고, 사용자가 입력한 데이터도 외부 서버로 전송되지 않는다. 사용자는 개인 컴퓨터에서 보안 우려 없이 손쉽게 모델을 다운로드받아 사내 문서 분석, 이미지 이해 및 생성, 코드 리뷰 등에 자유롭게 활용할 수 있으며, 하이퍼파라미터(초매개변수)와 자원 할당량을 조절하여 모델의 응답 특성과 자원 사용량을 원하는대로 변경할 수 있다.

Backend.AI:GO의 핵심 차별점은 래블업의 AI 인프라 운영 플랫폼 'Backend.AI'와의 연동성에 있다. 여러 대의 Backend.AI:GO를 연결하거나, 이미 구축한 Backend.AI 환경 및 OpenAI, Google 등의 클라우드 AI 들과 연동하면 초거대 AI 들과 로컬 PC의 자원을 통합해서 활용할 수 있다. 수천 대 GPU 클러스터를 운영하던 방식 그대로 AI PC까지 관리 범위를 확장, 중앙 관리 콘솔에서 모델 사용, 버전 관리, 사용량 모니터링까지 통합하여 편리하게 사용할 수 있다.

한편, AI Infra Summit에서 베타 버전으로 최초 공개돼 큰 관심을 받은 클라우드형 제품인 'Backend.AI:DOL(백엔드닷에이아이:돌)'도 CES에서 정식 출시할 예정이다. 'Deployable Omnimedia Lab'의 약자로, 브라우저를 통해 다양한 공개형 모델을 불러와 사용할 수 있다. Backend.AI:GO가 온디바이스를, Backend.AI:DOL이 클라우드를 담당하면서 래블업은 AI PC부터 하이퍼스케일 GPU 클러스터까지 모든 구간을 일관적으로 커버하는 풀스택 AI 인프라에 이어 응용 시스템까지도 아우르는 체제를 갖추게 됐다. 

신정규 래블업 대표는 "AI PC 시대가 본격화되면서 온디바이스 환경에서 LLM을 직접 구동하려는 엔터프라이즈 수요가 빠르게 늘고 있다"며 "Backend.AI:GO와 DOL을 통해 개인 PC 한 대부터 수천 대 GPU 클러스터까지 규모와 환경에 관계없이 일관된 경험으로 AI 인프라를 운영할 수 있는 환경을 제공하겠다"고 밝혔다.

이어 "래블업은 4년 연속 CES에 참가하며 글로벌 AI 인프라 시장에서 입지를 넓혀왔다"며 "이번 CES에서 온디바이스와 클라우드를 아우르는 풀스택 AI 인프라 솔루션을 선보이며 AI 인프라 운영의 새로운 기준을 제시하겠다"고 덧붙였다.

래블업은 CES LVCC North Hall 9529번 부스에서 만날 수 있다.

 래블업, CES서 클라우드 없이 개인용 컴퓨터에서 LLM 돌리는 'Backend.AI:GO' 공개

- 3년 연속 SC 시리즈 참가…AI 인프라 관리 혁신을 위한 청사진 제시
- 국내외 주요 기업·대학 운영 사례 공개...Backend.AI를 이용한 AI 인프라 구축의 중요성 강조
- 글로벌 AI 인프라 파트너사와의 기술 세션…인텔 이노베이션 패스 2년 연속 참여

![SC25_LABLUP_BOOTH_3102.jpg](https://cdn.lablup.com/SC_25_LABLUP_BOOTH_3102_87eaf8008c.jpg)

AI 인프라 플랫폼 기업 래블업(대표 신정규)은 11월 16일부터 21일까지 미국 세인트루이스에서 열리는 세계 최대 슈퍼컴퓨팅 컨퍼런스 ‘SC25(Supercomputing 2025)’에 3년 연속 참가한다고 밝혔다. 래블업은 이번 행사에서 ‘Backend.AI’ 플랫폼을 중심으로 글로벌 AI 인프라 구축 사례와 최신 기술 동향을 공개한다.

**□ Backend.AI를 통해 AI 인프라 관리와 서비스, 연구를 혁신하는 사례 공개**

래블업은 이번 전시에서 다수의 기업과 학교, 기관이 Backend.AI를 활용하여 AI 인프라와 교육, 연구 환경을 혁신하는 주요 사례를 소개한다.  ▲대한민국 정부 주도 ‘독자 AI 파운데이션 모델’ 프로젝트에 참여하는 업스테이지 컨소시엄은 래블업의 Backend.AI를 통해 500여장 이상의 최신 GPU 클러스터를 관리하고 있으며, ▲미국 서던 캘리포니아 대학교 (USC)는 캠퍼스 전체 GPU 자원을 통합 관리하는 시스템을 구축했다. ▲팀리부뜨는 Backend.AI FastTrack 3를 활용하여 무역 품목분류코드 입력을 자동화하는 솔루션에 탑재된 LLM을 미세조정했다. 

▲KIST CJLab은 Backend.AI Cloud를 사용하여 연구자들이 쉽고 빠르게 시뮬레이션을 수행할 수 있는 환경을 제공하고 있으며, ▲국민대학교는 보유한 GPU 자원을 활용하여 다수의 구성원들이 머신러닝을 동시에 실습할 수 있는 환경을 구축했다. ▲성균관대학교는 Backend.AI를 이용하여 한국 최초로 구축된 대학 수준의 슈퍼컴퓨팅 센터를 성공적으로 운영하고 있다. 이러한 운영 사례를 기반으로 슈퍼컴퓨팅 행사에 참여한 관람객들은 Backend.AI의 기능과 가치를 더욱 쉽게 이해할 수 있다.

**□ AI 가속기, 고속 스토리지, 클라우드 플랫폼... 글로벌 AI 인프라 선도기업들과의 공동 발표**

래블업은 #3102 부스 내 마련된 발표 공간에서 HYPER ACCEL, WEKA, VAST Data, Vultr 등 글로벌 AI 인프라 선도 기업들과 함께 기술 세션을 개최한다. 발표 기업들은 AI 가속기와 고속 스토리지, 클라우드 플랫폼이 각각 AI 인프라에서 담당하는 역할을 강조함과 동시에 효율적인 AI 운영을 위한 인프라 최적화 방안을 모색할 예정이다. 

**□ 인텔과의 파트너십 강화... 2년 연속 이노베이션 패스 파트너 참가**

인텔의 이노베이션 패스 프로그램에서도 작년에 이어 올해도 래블업을 만날 수 있다. 인텔 이노베이션 패스는 SC25 참가자들이 인텔 및 파트너사 부스를 방문하며 QR 코드를 스캔해 포인트를 적립하고, 경품 추첨에 참여할 수 있는 체험형 프로그램이다. 관람객들은 래블업 부스를 방문하여 인텔 가우디 3 AI 가속기 위에서 구동되는 Backend.AI 플랫폼의 데모를 체험하고, QR 코드 스캔으로 포인트를 적립하며 경품 추첨에 참여할 수 있다. 래블업은 이번 행사를 통해 인텔과의 협력을 강화하고, 글로벌 HPC 커뮤니티와의 교류를 확대할 계획이다.

래블업 신정규 대표는 "이번 SC25는 Backend.AI가 교육기관부터 국가 프로젝트까지 다양한 환경에서 이뤄낸 성과를 보여주는 자리"라며 "래블업은 글로벌 파트너들과 함께 AI 인프라의 복잡성을 해결하고, 누구나 AI를 쉽게 활용할 수 있는 환경을 만들어가고 있다"고 밝혔다.


인공지능 인프라의 미래 제시…래블업, SC25서 글로벌 협력 강화

- 배스트 AI OS와 백엔드닷에이아이 통합으로 소버린 AI 기반 제공
- 성능 병목을 해소하고 초거대규모 모델 학습 기반 마련해 국가 AI 인프라 고도화 지원 나서

![laublup and vast powering sovereign ai.jpg](https://cdn.lablup.com/laublup_and_vast_powering_sovereign_ai_543fa55c4b.jpg)

백엔드닷에이아이(Backend.AI)의 개발사이자, 정부 주도 ‘독자 AI 파운데이션 모델’의 핵심 참여 기업인 래블업(Lablup Inc.)은 오늘 AI 운영 시스템 기업 배스트 데이터(VAST Data)와의 전략적 협업을 발표했다. 양사는 AI 기술의 자립성을 목표로 하는 국가 AI 컨소시엄이 대규모 언어 모델(LLM)을 전적으로 국내 인프라에서 학습·배포할 수 있도록 고성능·확장형 데이터 기반을 공동 구축했다. 

백엔드닷에이아이는 GPU 및 CPU 자원을 아우르는 AI 모델 학습, 배포, 추론 환경을 통합적으로 제공한다. 배스트 AI 운영체제가 통합된 기반을 통해 래블업을 비롯한 고객들은 학습 데이터, 모델 체크포인트, 다양한 아티팩트를 압도적인 처리량과 높은 복원력으로 관리할 수 있으며, 모델 개발부터 실시간 서비스에 이르기까지 끊김 없는 데이터 흐름을 확보할 수 있다. 

래블업은 AI 워크로드가 커짐에 따라 기존의 전통적 스토리지 인프라로는 초거대 모델 학습에 필요한 처리량과 동시성을 지원하는 것이 어렵다고 판단했다. 이에 배스트 데이터를 통해 데이터 레이어를 현대화하고, 멀티 테넌트 연구 환경에서 요구되는 신뢰성과 통제력을 유지하면서 성능 병목을 제거했다.

SK텔레콤의 소버린 AI 클러스터에서 구동되는 백엔드닷에이아이와 배스트 AI OS 통합 환경은 고성능 GPU 전반에 걸쳐 모델 학습을 자동화·가속화하며, 국내 다양한 연구 기관에 훈련 및 향후 추론까지 아우르는 통합형 AI 컴퓨팅 환경을 제공한다. 

래블업 창업자이자 CEO인 신정규 대표는 “래블업은 개방적이고 효율적이며 확장 가능한 기술을 통해 AI 인프라를 민주화하는데 노력해 왔다. 백엔드닷에이아이 환경에 배스트의 AI 운영체제를 통합함으로써 개발자와 기업은 현대적인 AI가 요구하는 신뢰성과 고성능을 유지하면서도 대규모 데이터셋과 복잡한 워크로드를 처리할 수 있게 됐다. AI 컴퓨팅 역량을 극대화함과 동시에 주권성과 데이터 보안을 보장하는 기술적 시너지를 입증한 사례이다”라고 말했다.

백엔드닷에이아이는 배스트 AI OS와의 통합을 통해 대규모 학습 워크로드를 위한 고처리량 데이터 액세스를 원활하게 제공한다. 배스트의 DASE(Disaggregated, Shared-Everything/분리형 공유) 아키텍처를 기반으로 래블업은 컴퓨팅 환경과 스토리지를 독립적으로 확장함과 동시에 단일 글로벌 네임스페이스인 ‘배스트 데이터스페이스(VAST DataSpace)’를 통해 연구자들이 체크포인트, 데이터셋, 모델 출력을 프로젝트 간 빠르게 공유할 수 있도록 한다.

소버린 AI 전략을 뒷받침하는 배스트 AI 운영체제와 백엔드닷에이아이는 대규모 모델 학습부터 실시간 오케스트레이션을 아우르며 다음과 같은 기능을 제공한다.
- 소버린 데이터 통제(Sovereign Data Control): AI 주권은 데이터 인프라에서 시작해 인프라로 완성된다. 래블업의 백엔드닷이에이아이는 배스트 데이터스페이스와 제로트러스트(Zero Trust) 아키텍처를 통해 소버린 AI 환경 전반에서 데이터 레지던시, 접근 통제, 규제 준수 요구사항을 충족한다. 정부, 연구기관, 규제 대상 기업들은 AI 라이프사이클 전반에 걸쳐 데이터가 어디에 위치하는지뿐 아니라 어떻게 보호·관리·감사되는지까지 보장할 수 있다. 
- 고성능 데이터 인프라: 백엔드닷에이아이는 배스트 데이터스토어(VAST DataStore)와 통합돼 RDMA 및 GPU-직접 데이터 경로를 통해 고성능 학습 데이터셋과 모델 아티팩트에 고처리량으로 접근한다. 이는 CPU 병목을 없애고 SK텔레콤 소버린 AI 클러스터 내 모든 GPU에서 일관된 성능을 확보해 국가 규모의 모델 사전-트레이닝과 파인 튜닝을 가속한다.
- 원활한 협업을 위한 단일 글로벌 네임스페이스: 백엔드닷에이아이는 배스트의 DASE 아키텍처를 기반으로 모델 학습·검증·배포 전 과정에 걸쳐 단일 네임스페이스를 제공한다. 연구자들은 체크포인트, 데이터셋, 아웃풋을 중복 및 지연 없이 즉시 공유할 수 있어 국가 컨소시엄 내부 협업을 대폭 간소화할 수 있다. 
- 보안 기반 멀티테넌트 확장성: 래블업은 배스트 데이터엔진(DataEngine)과 데이터스페이스를 활용해 공유 GPU 클러스터 전체의 데이터·연산 관리 환경을 통합한다. 배스트의 쿼터 모델과 백엔드닷AI의 사용자 기반 접근 제어의 긴밀한 통합으로 테넌트 간 격리와 일관적 성능을 보장한다. 정부·학계·기업 등 사용자 각각은 연산능력과 스토리지를 독립적으로 확장하는 동시에 안정적이고 예측 가능한 서비스 품질을 누릴 수 있다. 
- 추론 및 에이전틱 AI 시대를 대비한 기반: 소버린 AI 프로젝트가 학습 단계에서 서비스 단계로 확장됨에 따라 백엔드닷에이아이와 배스트 AI OS의 통합은 차세대 추론 및 에이전틱 AI 워크로드 기반을 제공한다. 배스트 데이터엔진은 대규모 데이터셋을 대상으로 실시간 오케스트레이션과 추론을 가능하게 하며, 이를 통해 래블업 고객들은 고정형 모델 학습을 넘어 지속적으로 학습·적응·서비스하는 지능형 시스템으로 나아갈 수 있다.

배스트 AI OS는 래블업 자체 인프라에 대해서도 AI 인프라 개발, 최적화 테스트, 모델 서비스 오케스트레이션을 지원한다. 이를 통해 엔지니어들은 새로운 AI 모델을 더욱 효율적으로 테스트·배포할 수 있으며, 실시간으로 모델 웨이트를 교체하는 동시에 다운타임 없이 운영이 가능하다. 양사는 초기 단계에서의 지연(latency) 문제를 공동 엔지니어링을 통해 해결했으며, 그 결과 학습과 연구 운영을 위한 안정적이고 고처리량의 확장 가능한 시스템이 구축되었다.

업스테이지가 주도하고 국내 주요 연구 기관들이 참여하는 한국형 파운데이션 모델 컨소시엄 내에서 백엔드닷에이아이와 배스트 AI 운영체제는 초거대규모의 데이터를 처리해 대형의 사전 트레이닝과 파인 튜닝을 수행하며 국내 AI 개발 역량을 한 단계 끌어올리고 있다.

배스트 데이터 공동 창업자이자 CTO인 알론 호레브(Alon Horev)는 “래블업과의 협업으로 확장을 고려해 설계된 현대적 AI 인프라의 실질적인 형태를 구현할 수 있게 됐다. GPU 집약적 환경이나 소버린 AI를 고려하지 않은 기존 레거시 스택은 이러한 요구를 수용하기 어렵다. 배스트 AI OS를 통해 컴퓨트 오케스트레이션과 데이터 인텔리전스를 통합함으로써 병목을 제거하고 한국과 같이 국가가 AI 혁신을 스스로 소유하고, 통제하는 한편 가속할 수 있는 단일 패브릭을 구축했다. 백엔드닷에이아이와 배스트데이터의 조합은 엔터프라이즈와 연구기관이 유연성·효율성·신뢰성을 모두 갖춘 새로운 고성능 AI 인프라의 청사진을 제시한다”라고 말했다.

과학기술정보통신부가 주도하는 소버린 AI 이니셔티브는 전적으로 국내 기술로 구축된 글로벌 경쟁력이 높은 기초 모델을 개발하여 해외 클라우드 및 소프트웨어 공급자에 대한 의존도를 낮추는 것을 목표로 한다. 배스트 데이터와 래블업은 이를 가능케 하는 데이터 및 연산 인프라를 공동으로 제공함으로써, 스타트업, 기업 및 연구 기관이 국가 내에서 안전하게 AI를 훈련하고 확장할 수 있도록 지원한다. 이번 협력은 백엔드닷AI의 분산형 컨테이너 오케스트레이션과 에이전트형 AI 시대를 위한 통합 기반인 배스트 AI 운영체제 간의 기술적 시너지가 확대되고 있음을 반영한다. 

**래블업에 대하여**
래블업은 확장 가능하고 고성능의 GPU 컴퓨팅 운영 모델을 제공함으로써 현대적인 AI 시스템의 구동 방식을 재정의하고 있다. 래블업의 플래그십 플랫폼인 Backend.AI는 소프트웨어 정의 GPU 가상화, 초고속 컨테이너화 환경, 지능형 워크로드 오케스트레이션을 결합하여 이종 클러스터 전반에서 성능, 활용도 및 효율성을 극대화한다.

2015년 설립된 래블업은 글로벌 기술 선도 기업, 연구 기관 및 주요 대학과 협력하여 전 세계적으로 AI 인프라를 발전시키고 데이터 기반 혁신을 가속화하고 있다. 자세한 내용은 lablup.com 에서 확인할 수 있으며, [LinkedIn](www.linkedin.com/company/lablup)에서 Lablup을 팔로우할 수 있다.

**VAST Data에 대하여**
VAST Data는 AI 운영 시스템(AI Operating System) 기업으로, AI의 잠재력을 최대한 발휘할 수 있도록 특별히 제작된 통합 소프트웨어 인프라 스택을 통해 차세대 지능형 시스템을 지원한다.

VAST AI OS는 기본적인 데이터 및 컴퓨팅 서비스와 에이전트 실행을 하나의 확장 가능한 플랫폼으로 통합하여, 조직이 AI 에이전트를 배포하고 에이전트 간 통신을 촉진하며, 실시간 데이터를 기반으로 추론하고, 복잡한 워크플로우를 전 세계적 규모로 자동화할 수 있도록 한다. 성능, 확장성, 단순성, 복원력 중 어느 것도 타협하지 않는 세계 최초의 진정한 병렬 분산 시스템 아키텍처인 VAST는 획기적인 DASE(Disaggregated, Shared-Everything) 아키텍처를 기반으로 최신 인프라를 추론 AI를 위한 글로벌 패브릭으로 변화시킨다. 더 자세한 정보는 vastdata.com에서 확인할 수 있으며, [LinkedIn](https://www.linkedin.com/company/vast-data/), [YouTube](https://www.youtube.com/vastdata), [X](https://x.com/VAST_Data)에서 VAST Data를 팔로우할 수 있다.

래블업, 배스트 데이터와 협력해 독자 AI 파운데이션 모델 지원

### 래블업, 복잡한 GPU 인프라 운영을 단순화하는 대규모 GPU 인프라 운영 기술 선보여

AI 인프라 전문 기업 래블업(Lablup Inc.)은 쿠버네티스 10주년을 기념하여 미국 애틀란타에서 개최되는 KubeCon + CloudNativeCon North America 2025에 오는 11월 10일부터 13일까지 실버 스폰서로 참가한다고 7일 밝혔다. 래블업은 이번 행사에서 독자 개발한 GPU 오케스트레이터 소코반(Sokovan)과 쿠버네티스(Kubernetes)의 통합 기술을 중심으로, 대규모 AI 인프라 운영의 새로운 방향을 제시한다.

래블업의 Backend.AI는 다양한 기업과 연구기관이 사용하는 클라우드 네이티브 기반 AI 인프라 운영 플랫폼이다. 플랫폼의 핵심에는 GPU 오케스트레이션 엔진 ‘소코반’이 있으며, 이는 수천 개의 GPU 노드에서 워크로드 스케줄링과 자원 관리를 수행하는 고성능 기술로 평가받고 있다. 소코반은 다양한 가속기 지원, 실시간 장애 복구, 자원 자동 할당 등 AI 워크로드 운영에 필요한 기능을 통합 제공해, 대규모 인프라 환경에서도 안정적 운영을 가능하게 한다.

### 쿠버네티스 통합으로 클라우드 네이티브 AI 인프라 확장 기반 마련

래블업은 이번 행사에서 Backend.AI와 쿠버네티스의 통합 기술을 중심으로, AI 인프라 운영 효율성을 극대화하는 방향을 제시한다. Backend.AI의 쿠버네티스 네이티브 확장은 GPU 기반 AI 워크로드를 보다 유연하게 관리할 수 있도록 돕고, 클라우드 네이티브 환경에서도 Backend.AI의 GPU 최적화 기능을 그대로 활용할 수 있게 한다. 이를 통해 데이터 과학자와 엔지니어는 인프라 설정에 대한 부담 없이 모델 개발에 집중할 수 있으며, 시스템 관리자는 대규모 배포 환경의 모니터링 및 제어 효율을 높일 수 있다.

래블업은 다양한 기관의 GPU 인프라 운영을 Backend.AI로 지원하고 있다. 최근에는 국가 파운데이션 모델 개발 프로젝트에서 500장 규모의 NVIDIA HGX B200 GPU를 운영하며 Backend.AI와 소코반의 안정성과 확장성을 검증했다. 래블업은 이 과정에서 자동 복구 및 워크로드 재배치 기능을 통해 장애 발생 시에도 운영 중단 시간을 최소화하는 등, 대규모 GPU 클러스터 운영의 신뢰성을 확보했다.

이번 KubeCon + CloudNativeCon NA 2025 참가를 계기로 래블업은 글로벌 클라우드 네이티브 커뮤니티와의 기술 협력 네트워크를 강화할 예정이다. 특히 쿠버네티스 생태계 내에서 GPU 자원 운영의 새로운 표준을 제시하며, AI 인프라 산업 전반의 기술 발전 방향을 함께 모색할 계획이다. 래블업은 ‘인류를 위한 지능의 민주화(Democratizing intelligence for humanity)’라는 미션 아래, 글로벌 AI 인프라 시장에서 지속적인 혁신을 이어가고 있다.

김준기 래블업 최고기술책임자(CTO)는 “대규모 GPU 환경에서는 장애가 불가피하지만, Backend.AI와 소코반을 통해 중단 시간을 최소화하고 시스템 안정성을 높이고 있다”고 밝혔다. 이어 “쿠버네티스 통합을 통해 AI 워크로드의 유연성과 생태계 확장성을 결합, 클라우드 네이티브 환경에서도 안정적인 인프라 운영이 가능하게 될 것”이라며 “AI 인프라 산업은 이제 에너지와 국가 인프라 차원의 접근이 필요한 시점”이라고 강조했다.

---

## 래블업(Lablup Inc.) 소개

래블업은 AI 인프라 관리 플랫폼 ‘Backend.AI’를 개발·운영하는 기술 기업으로, “Democratizing intelligence for humanity (인류를 위한 지능의 민주화)”를 미션으로 한다. Backend.AI는 전 세계 기업과 연구기관에서 사용되고 있으며, GPU를 비롯한 이기종 가속기 자원을 효율적으로 관리할 수 있는 클라우드 네이티브 플랫폼으로 자리매김하고 있다.

래블업, KubeCon + CloudNativeCon North America 2025 실버 스폰서 참가

![DSC03604.jpg](https://cdn.lablup.com/DSC_03604_24ec8bde2f.jpg)

*   **9월 24일 양재 aT센터에서 다섯번째 연례 기술 컨퍼런스 개최**
*   **추가적인 안정성과 폭넓은 확장성에 방점을 둔 Backend.AI 25.14 공개**
*   **MLOps 플랫폼 FastTrack의 세번째 업데이트와 함께 AI:DOL 등 차세대 제품 발표**

AI 인프라 플랫폼 전문기업 래블업이 24일 양재 aT센터에서 연례 기술 컨퍼런스 'lab | up > /conf/5'를 개최했다. 올해로 5회차를 맞는 'lab | up > /conf/5'는 래블업의 기술적 성과와 새로운 제품군을 공유하고, AI 업계의 리더와 실무자들이 모여 기술적 고민과 해결책을 나누는 자리다.

'Make AI Composable with Lablup'을 주제로 열린 이번 컨퍼런스에는 리벨리온, 모레, kt cloud, 하이퍼엑셀, 롯데이노베이트, 미라콤아이엔씨, Microsoft, 테디노트, 에임인텔리전스, SKT, 노타, NHN Cloud, 네이버클라우드, ETRI, 모두의연구소 등 다양한 기업의 연사들이 함께한다. 이외에도 외부 부스에서 Backend.AI 25.14 버전, AI:DOL, Backend.AI FastTrack 3 등의 래블업의 신규 업데이트 제품군을 체험해보는 자리도 마련했다.

### AGI 시대 대비한 AI 인프라 방향성 제시

신정규 래블업 대표는 'AAA: Agentic, Autonomous, Adaptive Intelligence'를 주제로 한 오프닝 키노트에서 "AI 분야가 AGI의 초입을 내다보며 질주하는 상황에서, 이를 뒷받침하기 위한 혁신적 변화가 모든 층위에 걸쳐 필요하다"고 설명했다. 특히 이제는 지능을 측정할 수 있는 새로운 방법, '지능의 계량화' 개념을 소개하며, 래블업의 새로운 비전, '지능 수요를 정량적으로 공급하는 기업으로의 변혁'을 강조했다. 신 대표는 내결함성 기반의 LLM 및 멀티모달 모델 운영을 자동화하는 Backend.AI Continuum 프로젝트를 소개하고, 새로운 앱프록시 시스템, Backend.AI Artifact, Lablup AI:DOL로 이어지는 기술 변화를 발표했다.

김준기 CTO는 'Composable AI, Composable Software' 기조 연설에서 "다양한 목적에 최적화된 AI 모델들을 적재적소에 활용하는 것이 생산성 향상의 핵심"이라며 "물리적 하드웨어부터 이를 추상화하고 관리하는 소프트웨어, AI 모델에 이르기까지 컴퓨팅 산업의 모든 역량을 총집결해야 한다"고 설명했다.

### AI:DOL, 자연어로 AI를 설계하고 배포하는 차세대 플랫폼

**AI:DOL**은 Backend.AI에 배포된 모델을 활용해 내부·외부 클라이언트에게 서비스를 제공하려는 기업과 개인 개발자를 위한 플랫폼이다. Backend.AI Continuum이 제공하는 온프레미스·클라우드 AI의 자연스러운 통합과 자동 장애 전환 기능을 기반으로 AI 초보부터 전문가까지 손쉽게 프로토타이핑을 하고, 창작을 지원한다.

개발을 주도한 문현경 연구원은 'Backend.AI Continuum을 이용한 대화형 AI Product 개발하기' 세션에서 AI:DOL의 핵심 기능을 시연했다. AI:DOL은 채팅 기반 인터페이스로 단순화되어 있으며, 자연어로 AI를 설계하고 배포할 수 있는 것이 특징이다. 사용자는 웹 서비스에서 채팅을 통해 문서·코드 등의 아티팩트를 생성할 수 있으며,  향후 이미지·영상·AI 코딩 등 다양한 생성 기능으로 확장할 계획이라고 밝혔다.

### Backend.AI FastTrack 3, 모든 워크플로우를 자동화하는 MLOps 플랫폼 업데이트

이날 공개된 **Backend.AI FastTrack 3**는 대규모 GPU 자원을 하나처럼 묶어 초거대 모델의 훈련과 서빙을 책임지는 인프라 엔진인 Backend.AI 위에서 작동하는 워크플로우 플랫폼이다.

FastTrack 3의 업데이트를 발표한 황은진, 강정석 연구원은 'Take the FastTrack 2: A Backend.AI approach to LLMOps' 세션에서 한국의 얼을 담은 언어모델을 개발하기 위한 독자 AI 파운데이션 모델 프로젝트를 소개하고, Backend.AI와 FastTrack 3이 언어모델 개발 과정에 어떻게 기여하는지 실제 데모와 함께 시연했다.

### Backend.AI, 클라우드 네이티브 AI 인프라의 중심

래블업의 핵심 제품인 Backend.AI는 GPU 가상화 및 컨테이너 기반의 클라우드 네이티브 AI 개발 플랫폼으로, 대규모 GPU 클러스터를 효율적으로 관리하고 다양한 AI 프레임워크를 통합 지원한다. 특히 이번에 공개된 Backend.AI 25.14 버전은 래블업의 'Hardening' 과정을 거쳐 더욱 안정적으로, 더욱 큰 스케일의 AI 워크로드를 담당할 수 있도록 설되었다.

### Composable AI가 만드는 새로운 가능성

이번 컨퍼런스는 'Composable AI'라는 주제 하에 AI 기술의 조합성과 확장성에 주목했다. 필요에 따라 선택하고 조합할 수 있는 모듈형 AI 아키텍처를 통해, 독립적으로 진화하는 AI 컴포넌트들이 하나의 생태계로 작동하는 새로운 가능성을 제시했다.

신정규 대표는 "래블업은 AI 분산시스템의 혁신을 이끌며 2024년부터 2025년까지 다양한 변화를 추진하고 있다"며 "이번에 공개한 AI:DOL과 Backend.AI FastTrack 3, 그리고 Backend.AI를 통해 더 나은 미래를 만들어가는 플랫폼 기술 기업으로서의 비전을 실현하겠다"고 밝혔다.

래블업, lab | up > /conf/5 개최... 'Make AI Composable' 비전 제시

![[래블업] AI Infra Summit 2025_AIDOL-F.png](https://cdn.lablup.com/AI_Infra_Summit_2025_AIDOL_F_6457ca839a.png)

**\- 래블업, 오는 9월 미국에서 열리는 AI Infra Summit 2025 참가** 

**\- AI 네이티브 플랫폼 ‘AI:DOL’ 베타 버전 첫 공개, 포괄적 AI 생태계 구축 비전 제시** 

**\- 소형 에지 디바이스부터 초대형 GPU 데이터센터까지 확장 가능한 Backend.AI 운영 역량 시연** 

**\- 국가 AI 프로젝트 ‘한국형 소버린 AI’ 참여, 글로벌 경쟁력 강화** 

**\- 모든 조직의 AI 인프라 운영 장벽을 낮추는 PaaS 전략 발표** 

**래블업, AI 네이티브 플랫폼 ‘AI:DOL’ 공개…에지부터 하이퍼스케일 데이터센터·국가 AI 프로젝트까지 확장** 

AI 인프라스트럭처 운영 플랫폼 Backend.AI를 개발하는 래블업(Lablup)은 오는 9월 미국에서 열리는 AI Infra Summit 2025에 참가해 AI 네이티브 시대를 선도할 차세대 기술을 선보인다. AI Infra Summit 2025는 전 세계 3,500여 명의 AI 전문가와 100여 개 파트너사가 모여 AI 하드웨어, 데이터센터, 엣지 컴퓨팅까지 아우르는 글로벌 최대 AI 인프라 행사다. 래블업은 #620 부스에서 AI 네이티브 플랫폼 AI:DOL 베타 버전을 공개하고, 소형 AI 디바이스부터 초대형 GPU 데이터센터에 이르는 Backend.AI의 운영 역량을 현장에서 직접 시연한다. 

**◇ 다양한 오픈모델을 활용하여 나만의 서비스를 만드는 Lablup AI:DOL 베타 버전 공개** 

래블업은 자사의 AI 네이티브 플랫폼 'AI:DOL (AI Deployable Omnimedia Lab)' 베타 버전을 공개한다. AI:DOL은 Backend.AI Core와 PALI 기반 백엔드 서비스를 결합한 생성형 AI 개발 플랫폼으로, 별도 설치 없이 웹 브라우저에서 접근해 초보자부터 숙련 개발자까지 로우코드 환경에서 다양한 오픈 모델을 활용할 수 있도록 설계됐다. 특히 Backend.AI Continuum을 통한 온프레미스와 클라우드 자원의 완전한 통합을 지원해, 사용자가 직접 서빙하는 모델을 바탕으로 내부와 외부 클라이언트 대상의 AI 앱을 손쉽게 개발·배포할 수 있다. 현재는 채팅 중심의 기능을 제공하지만, 향후 이미지·비디오 생성, AI 코딩 등 다양한 아티팩트 제작 기능을 확대해 단순한 프롬프트 실험부터 실제 서비스 구축까지 아우르는 포괄적 AI 개발 생태계로 발전해 나갈 계획이다. 

**◇ 소형 에지부터 1500여대 GPU에 달하는 대형 데이터센터까지 Backend.AI의 관리 능력 선보여** 

래블업은 NVIDIA Jetson Orin Nano 기반 미니 AI 팩토리를 통해 소형 에지 디바이스부터 GPU 1,500여 대 규모의 하이퍼스케일 데이터센터까지 동일한 Backend.AI 플랫폼으로 관리·운영할 수 있는 확장성을 선보인다. 방문객들은 모듈러 컴퓨팅 기반으로 손쉽게 확장되는 Backend.AI의 스케일 아웃 기능을 직접 체험할 수 있으며, 이기종 AI 가속기 관리 능력과 더불어 래블업이 특허를 보유한 GPU 분할 가상화 기술을 통해 한 장의 GPU를 다수의 가상 GPU로 나누고, 각 분할 단위에서 다양한 AI 모델을 실행하는 과정도 확인할 수 있다. 

**◇ 모든 조직에 AI 인프라 운영 장벽 낮춘다** 

래블업은 AI Infra Summit 2025 참가를 계기로 글로벌 AI 시장에서 입지를 강화하고, 기업 고객들이 AI 사업을 자신 있게 확장할 수 있도록 Backend.AI와 다양한 생태계 기능을 선보일 예정이다. 래블업 신정규 대표는 “미국을 비롯한 글로벌 시장에서 AI 주권에 대한 관심이 높아지며 AI 인프라 수요가 급격히 확대되고 있지만, 다양한 하드웨어를 안정적으로 연동·운영하는 데는 여전히 큰 어려움이 있다”며, “Backend.AI는 이러한 도전을 해결하는 AI 인프라 운영 플랫폼으로서, 소규모에서 초대규모까지 유연한 확장성과 높은 운영 효율성을 제공한다”고 밝혔다. 

**◇ Backend.AI 기반 인프라로 한국형 파운데이션 모델 훈련 지원**  

한편, 래블업은 과학기술정보통신부가 주관하는 독자 AI 파운데이션 모델 프로젝트에도 참여해 업스테이지 컨소시엄 내에서 AI 인프라스트럭처와 핵심 기술을 담당하고 있다. SK텔레콤의 해인 클러스터에서 Backend.AI를 기반으로 NVIDIA B200 GPU 인프라를 운영하며, 업스테이지·NVIDIA·SK텔레콤과 함께 대규모 파운데이션 모델 훈련의 안정성과 가속 기술을 공동 연구·적용하고 있다. 이를 통해 래블업은 정부가 추진하는 ‘한국형 소버린 AI’ 생태계 구축에 기여하는 동시에, 대규모 AI 훈련 관련 기술을 공개하여 글로벌 경쟁력 확보에도 앞장서고 있다.

래블업, AI Infra Summit 2025 참가… AI 인프라 운영의 미래 제시 

![ISC2025.jpg](https://cdn.lablup.com/ISC_2025_9a09a64c5b.jpg)

래블업 주식회사(대표 신정규)가 오는 6월 10일부터 12일까지 독일 함부르크에서 개최되는 세계 최대 규모의 고성능 컴퓨팅(HPC) 컨퍼런스 'ISC High Performance 2025'에 참가한다. 래블업은 C52 부스에서 자사의 핵심 제품 'Backend.AI Enterprise'를 중심으로 유럽 AI 인프라스트럭처 소프트웨어 시장 진출의 발판을 마련할 계획이다. 

이번 전시에서 래블업은 NVIDIA Jetson Nano 마이크로 클러스터에서 동작하는 Backend.AI를 통해 엣지 컴퓨팅 환경부터 대규모 데이터센터까지 다양한 규모의 인프라스트럭처를 효과적으로 관리할 수 있는 Backend.AI의 유연성과 확장성을 강조한다. 또한 Backend.AI를 활용해 AI 모델을 훈련시키고 추론하는 과정을 시연하며, GPU 분할 가상화 등의 기능을 통해 한정된 하드웨어 자원을 최대한 활용하면서도, AI 모델을 개발하고 학습시키는 과정을 안정적으로 관리할 수 있는 Backend.AI의 특징과 장점을 유럽 시장에 소개한다. 

행사 첫 날인 6월 10일에는 래블업 박종현 연구소장이 래블업의 제품과 비전을 소개하는 발표에 나선다. 이 자리에서 래블업의 기술 역량과 글로벌 AI 시장에서의 비전을 제시한다. 

래블업은 ISC 2025 기간 동안 유럽 내 다수의 기술 파트너, 세일즈 파트너, 연구소 등과의 미팅을 진행하며, 새로운 파트너 계약 체결도 예정되어 있다. 이를 통해 유럽 AI 인프라스트럭처 소프트웨어 시장에서의 입지를 보다 확고히 다질 전망이다. 

래블업의 Backend.AI는 수십 대에서 수천 대에 이르는 GPU 자원을 자동으로 분산·관리하며, 개발자가 복잡한 환경 설정이나 리소스 최적화 없이도 빠르게 AI 및 HPC 연구·개발을 진행할 수 있도록 지원한다. 클라우드, 온프레미스, 하이브리드, 그리고 폐쇄망 환경까지 환경에 구애받지 않고 폭넓게 적용할 수 있는 강점을 갖추고 있다. Backend.AI는 이미 삼성전자, KT, 현대모비스 등 국내외 다양한 기업과 기관에서 대규모로 운영되고 있으며, AI와 HPC의 융합이 가속화되는 글로벌 시장에서 혁신적인 솔루션으로 주목받고 있다. 

래블업 신정규 대표는 “국내외 다양한 고객들에게 검증된 Backend.AI Enterprise는 이번 ISC 2025를 기점으로 유럽 시장에 적극적으로 진출할 계획”이라며, “우리의 핵심 철학인 AI 민주화를 전 세계로 확산시키기 위해 노력하겠다. 특히 독일을 비롯한 유럽은 제조업과 연구 분야에서 HPC 수요가 높아 큰 시너지를 기대하고 있다”고 밝혔다.

래블업 주식회사의 Backend.AI Enterprise, 독일 ISC 2025서 글로벌 HPC 소프트웨어 시장 공략

**\- 미국 법인 설립 이후 첫 북미 전시회 참가, 글로벌 AI 인프라 시장 본격 공략**

![gtc25-social-drmk-orangic-exhibitor-reg-now-li-1200x628.jpg](https://cdn.lablup.com/gtc25_social_drmk_orangic_exhibitor_reg_now_li_1200x628_7dbc9fe7d1.jpg)

AI 인프라 플랫폼 기업 래블업이 오는 3월 17일부터 21일까지 미국 새너제이에서 열리는 '엔비디아 GTC 2025'에 참여한다고 밝혔다. 올해 초 미국 법인 'Lablup USA Inc.'을 설립한 래블업은 이번 GTC 2025를 북미 시장 진출의 신호탄으로 삼고, 백엔드닷에이아이(이하 Backend.AI) v25.3 업데이트와 함께 클라우드 내결함성 솔루션 'Backend.AI Continuum'을 정식으로 선보인다.

래블업은 2023년부터 글로벌 시장 진출을 위한 준비를 본격화했으며, 올해 초 미국 실리콘밸리에 현지 법인을 설립하며 해외 진출을 가속화했다. GTC 2025는 미국 법인 설립 이후 래블업이 참가하는 첫 북미 지역 전시회로, 이번 행사를 통해 래블업은 글로벌 AI 인프라 시장 공략을 위한 핵심 제품들을 집중적으로 소개할 예정이다.

'Backend.AI Continuum'은 클라우드 API 기반 서비스를 이용하는 기업들이 네트워크 장애나 서비스 중단 상황에도 중요 업무를 지속할 수 있게 해주는 혁신적인 솔루션이다. 이 기술은 평상시 클라우드와 온프레미스 환경 사이에서 지능형 중개 역할을 수행하다가, 클라우드 접속 장애 발생 시 자동으로 로컬 자원으로 전환해 API 호출과 처리를 끊김 없이 유지한다. 이를 통해 클라우드의 유연성을 간직하며 온프레미스의 안정성을 동시에 확보할 수 있다.

스마트 시티와 같은 환경에서 Backend.AI Continuum의 가치는 더욱 빛난다. 인터넷 연결 장애로 클라우드 API 접근이 불가능해져도, 교통 관제, 보안 모니터링, 비상 대응 시스템이 로컬 환경에서 중단 없이 작동한다. 이는 기존 클라우드 전용 솔루션과 비교해 복구 시간을 획기적으로 단축하고 서비스 안정성을 크게 높인 혁신이다. 실시간성과 안정적인 동작, 정확한 제어가 보장되어야 하는 ▲로보틱스 분야, 서비스 결함이 치명적인 영향을 미칠 수 있는 ▲금융 분야 ▲헬스케어 분야 ▲공공 안전 분야와 같은 영역에서도 Backend.AI Continuum이 안정적인 서비스를 제공할 수 있다는 것이 래블업의 설명이다.

특히, 글로벌 기업들이 클라우드 서비스 의존도가 높은 만큼, Backend.AI Continuum은 북미 시장 공략의 핵심 제품으로 자리매김할 전망이다. 래블업은 현재 미국 내 여러 잠재 고객들과 파일럿 프로젝트를 진행 중이며, 금융 및 헬스케어 산업을 중심으로 빠른 시장 확대를 기대하고 있다.

또한 래블업은 이번 GTC 2025에서 엔비디아 가속 컴퓨팅으로 구동되는 개인 슈퍼컴퓨터용 Backend.AI를 소개한다. 엔비디아 'DGX 스파크 (DGX Spark)'와 같은 개인용 슈퍼컴퓨터 제품 또는 '젯슨 오린 나노 (Jetson Orin™ Nano)' 시리즈 모듈 기반 엣지 컴퓨팅 장치에서 실행되는 경량 버전의 Backend.AI는 기존 Backend.AI의 핵심 기능을 소비자 책상 위에서 사용할 수 있도록 최적화한 제품으로, 에지 AI 컴퓨팅 환경에서도 고밀도·고집적 생성형 인공지능(Gen AI) 성능을 제공한다.

개인 슈퍼컴퓨터용 Backend.AI는 뛰어난 확장성과 성능에 더불어 사용자 친화적인 인스톨러와 WebUI Neo 인터페이스를 탑재, AI 서비스를 처음 사용·개발하는 초보자부터 전문가까지 편리하게 설치·사용할 수 있는 것이 특징이다. 래블업은 이 제품을 통해 북미의 개인 개발자 및 중소기업 시장도 적극 공략할 계획이다.

래블업은 GTC 2025 기간 동안 부스(#547)에서 Backend.AI Continuum과 개인 슈퍼컴퓨터용 Backend.AI의 라이브 데모를 진행하며, 특별 세션을 통해 엔비디아 생태계 내에서의 통합 사례를 발표한다. 또한 미국 현지 잠재 고객 및 파트너사를 대상으로 한 프라이빗 미팅도 다수 진행한다.

신정규 래블업 대표는 "GTC 2025를 통해 Backend.AI Continuum과 개인 슈퍼컴퓨터용 Backend.AI를 선보이게 되어 기쁘다"며 "Continuum은 클라우드 API 중단 상황에서도 AI 서비스의 연속성을 보장하는 UPS와 같은 역할을 하며, 개인 슈퍼컴퓨터용 Backend.AI는 엔비디아의 최신 에지 컴퓨팅 플랫폼을 활용한 AI 민주화에 기여할 것이다. 이 두 혁신을 통해 래블업은 클라우드부터 엣지까지 끊김 없는 AI 인프라 경험을 제공하는 글로벌 리더로 자리매김할 것"이라고 밝혔다.

이어 "미국 법인 설립은 래블업의 글로벌 확장 전략의 첫 단계로, 북미를 시작으로 유럽과 아시아 태평양 지역으로 비즈니스를 확대해 나갈 계획"이라며 "한국에서 검증된 AI 인프라 기술로 글로벌 시장에서도 래블업의 기술력과 혁신성을 인정받을 것으로 자신한다"고 덧붙였다.

래블업, 엔비디아GTC 2025에서 'Backend.AI Continuum' 및 개인 슈퍼컴퓨터용 Backend.AI 공개

![Lablup_KT MOU-01.jpg](https://cdn.lablup.com/Lablup_KT_MOU_01_9b3a9ab2ac.jpg)

원문: [KT, 래블업과 GPU 구독 서비스 협력…"AI 생태계 확장"](https://www.yna.co.kr/view/AKR20250227043700017)

(서울=연합뉴스) 조성미 기자 = KT\[030200\]가 인공지능(AI) 분야 스타트업 래블업과 그래픽처리장치(GPU) 클라우드 서비스(GPUaaS) 사업을 추진한다고 27일 밝혔다.

두 회사는 최근 세계적인 AI 전환 상황에서 수요가 높아진 GPUaaS 서비스를 공동 개발하고 조속한 시일 내에 서비스를 출시하기로 했다.

래블업은 AI 인프라 운영 관리 플랫폼을 개발하는 기업으로, 대표 상품인 백엔드닷에이아이 설루션은 아시아 태평양 지역에서 유일하게 엔비디아 DGX 시스템을 사용하기 위한 소프트웨어 검증을 받았다.

KT는 래블업이 고성능 컴퓨팅이 필요한 기업에 GPU 자원을 빌려주는 GPUaaS 서비스 사업을 함께 추진하기에 최적의 파트너라고 설명했다.

신정규 래블업 대표는 "운영 체제 단계부터 서비스까지 AI 설루션을 제공하는 자사 기술과 KT의 노하우를 결합해 기업 고객의 AI 전환을 지원하겠다"라고 말했다.

송승호 KT 전략·사업컨설팅부문 SPA본부장은 "기업 고객의 AI 전환을 도와줄 설루션을 위해 다수 파트너사와 협력하고자 한다"라며 "래블업과 힘을 모아 GPU가 필요한 많은 기업에 GPUaaS 서비스를 지원하겠다"고 말했다.

csm@yna.co.kr

KT, 래블업과 GPU 구독 서비스 협력…"AI 생태계 확장"

> \- 클라우드 연결 장애 시 자동 로컬 전환 통한 AI 서비스 연속성 확보 기술 선보여  
> \- 금융, 헬스케어, 공공 안전 등 미션 크리티컬 분야 서비스 안정성 대폭 강화

AI 인프라 플랫폼 기업 래블업이 오는 3월 3일부터 6일까지 스페인 바로셀로나에서 열리는 세계 최대 이동통신 전시회 모바일 월드 콩그레스(MWC) 25에 3년 연속으로 참가한다고 밝혔다. 래블업은 이번 전시회에서 자사의 대표 제품 Backend.AI의 차세대 버전(v25.3)을 공개하며, 특히 클라우드 API 서비스의 연속성을 보장하는 '분산 내결함성' 기술을 핵심 혁신 기능으로 선보인다.

Backend.AI v25.3에 탑재된 새로운 분산 내결함성 기술은 클라우드 API 기반 서비스를 이용하는 기업들이 네트워크 장애나 서비스 중단 상황에도 중요 업무를 지속할 수 있게 해준다. 이 기술은 평상시 클라우드와 온프레미스 환경 사이에서 지능형 중개 역할을 수행하다가, 클라우드 접속 장애 발생 시 자동으로 로컬 자원으로 전환해 API 호출과 처리를 끊김 없이 유지한다. 이를 통해 클라우드의 유연성과 온프레미스의 안정성을 동시에 확보할 수 있게 됐다.

스마트 시티와 같은 환경에서 이 기술의 가치는 더욱 빛난다. 인터넷 연결 장애로 클라우드 API 접근이 불가능해져도, 교통 관제, 보안 모니터링, 비상 대응 시스템이 로컬 환경에서 중단 없이 작동한다. 이는 기존 클라우드 전용 솔루션과 비교해 복구 시간을 획기적으로 단축하고 서비스 안정성을 크게 높인 혁신이다.

이 외에도 서비스 중단이 치명적인 ▲금융 거래 시스템 ▲의료 모니터링 ▲공공 안전 분야 등에서 Backend.AI의 분산 내결함성 기술은 큰 가치를 발휘할 전망이다. 래블업은 내부 테스트를 통해 이 기술이 시스템 안정성을 대폭 향상시키는 것을 확인했으며, 현재 여러 기업들과 검증을 진행 중이다.

래블업은 **3홀(K-AI 얼라이언스 전시관)** 과 **7홀(#7A62)** 에서 클라우드 접속 장애 상황을 실시간으로 시뮬레이션하는 시연을 진행한다. 관람객들은 클라우드 서비스 연결이 끊겼을 때 Backend.AI가 즉시 로컬 환경으로 전환되어 서비스가 계속 운영되는 모습을 직접 체험할 수 있다.

이와 함께 딥러닝 모델 배포 솔루션 '빨리(PALI, Performant AI Launcher for Inference)'도 선보인다. 지난해 9월 공개된 PALI는 Backend.AI의 분산 내결함성 기술과 결합되어 인퍼런스 서비스의 안정성을 한층 강화했다.

래블업의 신정규 대표는 "Backend.AI v25.3의 새로운 분산 내결함성 기술은 클라우드 서비스 의존성에 따른 불안정성이라는 근본적인 문제를 해결하는 혁신"이라며 "클라우드와 로컬 환경을 지능적으로 연계하는 이 기술로 미션 크리티컬한 산업에서도 안심하고 클라우드 AI 기술을 활용할 수 있는 길이 열렸다"고 강조했다. 또한 "이번 MWC를 통해 글로벌 시장에 Backend.AI v25.3의 새로운 가치를 알리고, 향후 국내외 파트너십을 확대해 나갈 계획"이라고 덧붙였다.

래블업, MWC 2025에서 클라우드 API 서비스 연속성 보장하는 Backend.AI 신기술 공개

![PALI-demo-screenshot-1.png](https://cdn.lablup.com/PALI_demo_screenshot_1_2ceed51650.png)

래블업이 내년 1월 7~10일(현지시간) 미국 라스베이거스에서 열리는 세계 최대 IT·가전 전시회 CES 2025에 참가한다고 밝혔다. 전 세계 158개국 4300여개 기업들이 참여하는 CES에 2023년부터 3년 연속 참가한 래블업은 이번 행사에서 LVCC, North Hall, #9528에 부스를 마련하고 딥 러닝 모델을 쉽고 빠르게 서비스할 수 있는 토탈 인퍼런스 솔루션 PALI (Performant AI Launcher for Inference)를 선보인다.

PALI의 핵심 장점은 ▲NVIDIA NIM, Hugging Face, Kaggle 등 다양한 소스의 딥 러닝 모델 지원 ▲앱처럼 쉽게 실행하는 언어 모델, 이미지 생성 모델 등 최신 생성 AI 모델 ▲온프레미스 및 에어갭 환경에서도 쉬운 시스템 구축 및 운영 ▲Backend.AI의 강력한 기술력으로 NVIDIA GPU 하드웨어 성능 극대화 ▲직관적인 사용자/관리자 인터페이스로 편의성 제공 ▲어플라이언스 하드웨어 기반으로 유연한 확장성 보장 등으로, 고객은 PALI를 이용하여 최신 AI 모델을 비즈니스에 신속하게 적용할 수 있다.

이미 일본 시장에 판매되고 있는 PALI 제품군은 최신 AI 모델을 비즈니스에 신속하게 적용하고자 하는 기업들에게 이상적이다. PALI를 도입하면 개발자들은 모델 서빙에 필요한 복잡한 인프라 구축 과정 없이도 곧바로 AI 서비스 개발에 집중할 수 있으며, Backend.AI 플랫폼 위에서 압도적인 GPU 가속 성능과 유연한 확장성을 바탕으로 대규모 사용자를 대상으로 하는 고성능 AI 서비스를 손쉽게 구현할 수 있다.

래블업의 신정규 대표는 "AI 기술의 발전과 함께 다양한 규모와 분야에서 AI 서비스 및 어플리케이션 수요가 급증하고 있다." 며, "래블업의 이미 검증된 Backend.AI 의 기술력을 바탕으로 고성능, 고효율 인퍼런스 분야에서도 최상의 플랫폼 솔루션을 제공함으로서 AI 프로젝트 성공을 적극 지원하고자 한다. 앞으로도 래블업은 최첨단 AI 기술 개발과 제품 고도화를 통해 업계를 선도하는 AI 전문기업으로 성장해 나갈 것" 이라고 밝혔다.

![PALI-demo-screenshot-2.png](https://cdn.lablup.com/PALI_demo_screenshot_2_766d7ef839.png)

![PALI-demo-screenshot-3.png](https://cdn.lablup.com/PALI_demo_screenshot_3_1cf6194685.png)

![PALI-demo-screenshot-4.png](https://cdn.lablup.com/PALI_demo_screenshot_4_af331e36de.png)

래블업 CES 2025 3년 연속 참여, AI 확장성 강조한 신제품 PALI 선보인다

![lablup-sc24](https://cdn.lablup.com/lablup_sc24_719c153b8c.jpg)

인공지능 개발을 위한 올인원 엔터프라이즈 개발 및 서비스 플랫폼 기업인 래블업이 11월 17일부터 23일까지 미국 애틀랜타에서 열리는 슈퍼컴퓨팅 2024 (Supercomputing 2024, SC24)에 참가한다고 밝혔다.

SC24는 미국 컴퓨터 학회(ACM)와 IEEE 컴퓨터 학회가 1988년부터 매년 개최하는 최대 규모의 슈퍼 컴퓨팅 학회로 고성능 컴퓨팅(HPC),네트워킹, 스토리지 및 분석 분야의 최신 연구 및 기술을 공유하는 자리이다.

작년에 이어 두 번째로 해당 전시에 참가하는 래블업은 이번 행사에서 자사 AI 인프라 플랫폼 Backend.AI의 최신 버전인 24.12를 공개한다. 또한 Backend.AI 24.12 기반의 인퍼런스 솔루션 PALI를 다양한 AI 반도체에 최적화한 데모를 선보인다. 래블업은 2021년 엔비디아의 Grace CPU가 공개된 이후 곧바로 Grace 아키텍처에 대응한 새로운 Backend.AI 버전을 공개했으며, GH200 Grace Hopper 슈퍼칩에 대한 검증과 함께 엔비디아가 2024년 공개한 Blackwell 플랫폼에 대한 대응도 마쳤다. 또한 인텔과 파트너십을 맺고 6개월간의 협업을 통해 Backend.AI가 Intel Gaudi 2 및 Intel Gaudi 3 AI 가속기 플랫폼의 성능을 최대한 이끌어내도록 최적화했다. 래블업은 이번 SC24를 통해 PALI 기반으로 Intel Gaudi 2와 Intel Gaudi 3 AI 가속기 플랫폼 및 NVIDIA Grace Hopper 슈퍼칩에서 AI 모델을 운영하고 개발하는 데모를 선보이며, 동시에 PALI로 대규모 인퍼런스 서비스를 운영, 최적화 및 관리하는 기반 기술을 다양한 부스 세션을 통해 파트너사들과 함께 소개한다.

신정규 대표는 "래블업은 컴퓨팅을 가속하는 회사다. 막대한 컴퓨팅을 요구하는 AI 분야는 슈퍼컴퓨팅과 긴밀하게 결합되고 있다" 며, "AI, 가속 컴퓨팅, 스토리지, 네트워크, 양자컴퓨터 등 컴퓨팅의 최전선이 펼쳐지는 SC24에서 래블업의 앞선 기술력을 전세계와 나누고 오겠다" 고 포부를 밝혔다.

래블업, SC24에서 대규모의 GPU 및 AI 가속기 클러스터 관리 기능 강화 발표

![webui-neo](https://cdn.lablup.com/webui_neo_a6025850d5.jpg)

래블업이 11월 12일부터 15일까지 미국 솔트레이크시티에서 열리는 '쿠버콘+클라우드 네이티브콘 노스 아메리카 2024' (KubeCon+CloudNativeCon North America 2024)에 참가한다. 이 자리에서 래블업은 Backend.AI의 최신 버전인 24.09와 함께 Backend.AI를 위한 새로운 그래픽 유저 인터페이스(GUI)인 WebUI Neo를 선보인다.

Backend.AI 24.09 버전은 대규모의 GPU 및 AI 가속기 클러스터 관리 기능을 강화한다. Cloud Native 접근 방식을 통해 시스템 가시성을 크게 향상하고, 다양한 기능 지원을 추가한다. 이번 업데이트를 통해 추가되는 Prometheus 형식의 메트릭 출력을 통해 사용자는 Grafana와 같은 대시보드 솔루션에 Backend.AI의 다양한 메트릭을 손쉽게 연동할 수 있으며, Cilium의 채택을 통해 Docker 네트워크 스택의 한계를 해결하여 Docker 의존도를 줄이는 동시에, 컨테이너 간 네트워크 안정성과 처리 속도를 크게 향상시킨다. 이같은 Backend.AI 24.09 변화를 통해 사용자는 시장의 다양한 컨테이너 런타임 요구에 유연하게 대응할 수 있게 된다.

Backend.AI WebUI Neo는 기존 Backend.AI에서 사용하던 WebUI를 업그레이드한 버전이다. 사용자를 최우선으로 고려하여 UI를 설계했으며, 직관적이고 논리적으로 기능을 재배치한 것이 특징이다. 특히 WebUI Neo는 다양한 색상을 활용하여 각 클러스터의 상태 표시를 명확하게 보여주는 등 사용자 피드백 요소를 강화하여 접근성을 높였다. Backend.AI WebUI Neo는 올해 말 공식 출시될 예정이다.

래블업은 2025년을 목표로 Backend.AI를 정밀한 쿠버네티스 제어를 통합, 클라우드 네이티브 생태계를 온전히 아우르는 'Acceleration-first, Container-based' AI 인프라 운영체제로 확장할 계획이다. 쿠버콘 래블업 부스(R27)에서는 Cloud Native 생태계와 통합되는 Backend.AI를 체험할 수 있으며, 가속기 중심의 컨테이너 기반 AI 인프라 운영 체제로서 Backend.AI의 장점을 직접 확인할 수 있다.

래블업의 신정규 대표는 “이번 쿠버콘에서 Backend.AI의 현재와 미래, 그리고 쿠버네티스와의 호환성을 통한 잠재력과 WebUI Neo가 제공하는 향상된 사용자 경험을 소개하게 되어 기쁘다"며 "Backend.AI가 AI 클러스터를 얼마나 효율적으로 관리할 수 있는지 직접 확인해 보시길 바란다”라고 전했다.

![Backend.AI package(Kubecon 2024)](https://cdn.lablup.com/Backend_AI_package_Kubecon_2024_4f643a6656.jpg)

래블업, 쿠버콘에서 Backend.AI 24.09와 WebUI Neo 공개

![nvidia-ai-summit-jp-speakers](https://cdn.lablup.com/nvidia_ai_summit_jp_speakers_bb41639d48.png)

인공지능(AI) 플랫폼 기업 래블업은 일본 도쿄에서 개최되는 '[엔비디아 AI 서밋](https://www.nvidia.com/ja-jp/events/ai-summit/fireside-chat-en/)'에 참가한다고 밝혔다. 엔비디아 AI 서밋은 AI와 가속 컴퓨팅 기술의 최신 동향을 비롯한 실제 활용 사례를 소개하며, 과학, 헬스케어, 지속 가능성 등 다양한 분야의 전문가들과 업계 리더들이 모여 AI의 미래와 영향력에 대해 논의하는 자리로, 올해는 워싱턴 D.C와 인도, 그리고 마지막으로 일본에서 개최된다.

이번 엔비디아 AI 서밋 재팬에는 엔비디아 창업자이자 CEO인 젠슨 황, 일본 소프트뱅크의 손정의 회장이 AI와 가속 컴퓨팅이 변화시킬 산업에 대한 대담을 진행한다. 3000여명이 넘는 사람들이 참가신청한 이번 행사는 12일 워크샵을 필두로 생성형 AI, 산업 디지털화, 로보틱스, 거대 언어 모델(LLM)을 주제로 50여개 이상의 다양한 세션과 라이브 데모가 진행된다.

총 62개사가 참여하는 이번 행사에서 래블업은 자사의 하이퍼스케일 AI 플랫폼, Backend.AI 및 인퍼런스 솔루션인 PALI를 엔비디아 GH200 Grace Hopper 슈퍼칩 위에서 구동, NIM(엔비디아 인퍼런스 마이크로서비스)을 통해 AI 기술을 효과적으로 활용하는 방법에 대한 데모를 선보인다.

2021년부터 아시아태평양 지역에서 최초이자 유일하게 엔비디아 DGX-Ready Software로 인증받은 Backend.AI는 DGX 시스템 클러스터를 비롯해 가장 최신의 엔비디아 Grace CPU 슈퍼칩에서까지 대규모 AI 및 가속 컴퓨팅 애플리케이션을 위한 컴퓨팅 자원을 최적화하고 관리하며, GPU의 사용성을 끌어올려 주는 AI 플랫폼이다.

래블업의 신정규 대표는 "이번 엔비디아 AI 서밋을 통해 래블업이 엔비디아와 함께 Backend.AI 기반의 초거대 AI 모델 개발뿐 아니라 PALI, PALANG으로 생성AI 서비스 운영의 효율을 극대화하는 사례를 소개하게 되었다" 며, "PC 및 중소 규모 기관의 자체 AI 활용부터 GPU 하이퍼스케일러의 AI 서비스 운영까지 다양한 스케일에 모두 대응하는 AI 인프라 운영 시스템 Backend.AI의 강점을 널리 알리고자 한다" 고 밝혔다.

![nvidia-ai-summit-jp](https://cdn.lablup.com/2024_11_10_8_54_18_93c5d55e2e.png)

래블업, 엔비디아 AI 서밋 재팬 참가

 ![](https://cdn.lablup.com/lablup_intel_6f980e65b3.jpg) 

**서울, 대한민국 —** 래블업은 SuperComputing 2024에서 Backend.AI가 인텔® Gaudi® 2 및 인텔® Gaudi® 3 AI 가속기를 지원한다고 발표했습니다. Backend.AI가 지원하고 있는 NVIDIA, Rebellions, FuriosaAI, AMD 등의 AI 가속기 공급업체 라인업에 인텔을 추가함으로써, 래블업은 시장에서 가장 다양한 AI 가속기와 GPU를 고객에게 제공하게 되었습니다. 래블업은 이를 통해 Backend.AI 플랫폼의 경쟁력을 강화하고 고객들에게 더욱 폭넓은 선택권을 부여하게 되었습니다.

*2024년 11월 현재, Backend.AI는 인텔® Gaudi® 2 AI 가속기를 지원하고 있습니다. 

*인텔® Gaudi® 3 AI 가속기에 대한 지원은 2025년 상반기에 예정되어 있습니다.


래블업과 인텔은 인텔® Gaudi® 2 및 인텔® Gaudi® 3 AI 가속기가 보여줄 수 있는 최상의 성능을 Backend.AI에서 제공하기 위해 긴밀히 협력해 왔으며, 이러한 협력의 결과로 Backend.AI의 인텔® Gaudi® 2 및 인텔® Gaudi® 3 AI 가속기 지원을 발표합니다.

### Backend.AI의 Sokovan™을 통한 강력한 컨테이너 오케스트레이션
Sokovan™은 멀티테넌트 및 멀티노드 확장 시나리오에 적합한 독립 실행형 오픈소스 컨테이너 오케스트레이터입니다. Sokovan™은 최신 하드웨어 가속 기술에 최적화되어 있으며, 사용자가 정의할 수 있는 작업 스케줄링 및 노드 할당 정책을 통해, AI 성능 저하 없이 단일 클러스터에서 인터랙티브, 배치, 그리고 서비스 워크로드가 혼합된 형태의 하이브리드 환경까지도 지원합니다.

### AI 가속기를 최대치로 활용하고, 여러분의 잠재력을 실현하세요.
복잡한 비즈니스에서는 탁월한 AI 성능과 우수한 관리 용이성이 성공의 열쇠입니다. 인텔의 최신 제품인 인텔® Gaudi® 3 AI 가속기는 강력한 AI 성능과 기능을 제공합니다. 서비스형 플랫폼인 Lablup Backend.AI는 엔터프라이즈급 AI 환경에 최적화된 다양한 기능을 제공합니다.

### 인텔® Gaudi® 2 및 3 플랫폼과 깊숙이 결합된 우리의 기술 혁신
이미 비즈니스 환경에 인텔® Gaudi® 2 AI 가속기 또는 인텔® Gaudi® 3 AI 가속기를 도입한 고객과 향후 인텔® Gaudi® 2 & 3 플랫폼을 도입할 고객 모두 래블업 Backend.AI가 인텔® Gaudi®에 대해 지원하는 다양한 혜택을 누릴 수 있습니다. 인텔® Gaudi® 2 & 3 플랫폼과 함께 동작하는 Backend.AI 기능의 일부를 확인해 보세요.

#### 카드 레벨 가속기 할당 (Card-level accelerator allocation)
사용자가 의도한 만큼의 실제 가속기를 제공하여 인텔® Gaudi® 2 & 3 AI 가속기 클러스터 워크로드를 극대화합니다. 예를 들어, 고객은 기존에 선호하는 플랫폼에서 모델을 실행 및 훈련한 다음 인텔® Gaudi® 2 및 3 플랫폼에서 서비스를 제공하거나 그 반대의 경우도 가능합니다.
#### 외부 스토리지 할당 (External storage allocation)
통합 스토리지 솔루션을 최대한의 성능으로 활용하세요. 사용자의 개입 없이 공급업체별 파일 시스템 가속 기능을 활용하세요. Backend.AI는 Dell PowerScale, VAST Data, WEKA, NetApp 등과 같이 널리 사용되는 주요 플랫폼을 지원합니다.
#### 멀티스케일 워크로드 (Multi-scale workloads)
소규모 모델을 실행할 수 있는 단일 카드 AI 워크로드부터 대규모 모델을 실행할 수 있는 멀티 노드 멀티 카드 AI 워크로드까지, 어떤 환경에서도 Backend.AI는 최고의 성능을 보장합니다. 11월 1일 현재, Backend.AI는 단일 카드 AI 워크로드와 단일 노드, 다중 카드 AI 워크로드를 실행할 준비가 되었습니다. 다중 노드, 다중 카드 AI 워크로드 지원은 올해 마무리될 예정입니다. 
#### 추론 통계 데이터 관리 (Inference statistics management)
AI 프레임워크에서 제공하는 성능에 대한 최신의 상세한 지표를 모니터링하세요. Backend.AI는 하드웨어의 정보뿐만 아니라 소프트웨어의 통계 데이터를 가져올 수 있기 때문에, 관리자가 메트릭을 심층적으로, 쉽게 분석할 수 있도록 만들어줍니다.
#### 규칙 기반 추론 레플리카 자동 스케일링 (Rule-based inference replica auto scaling)
시스템이 리소스 사용량을 스스로 최적화할 수 있습니다. 다양한 하드웨어 및 소프트웨어 수치 모니터링을 통해, 관리자의 수동 개입 없이도 다양한 사용자의 사용 패턴에 대응합니다.

*현재 개발 중(2024년 12월 개발 완료 목표)

#### NUMA 인식(NUMA-aware) 리소스 할당 
CPU 소켓이 여러 개 있고 각 소켓마다 여러 개의 가속기가 있는 경우 단일 노드 내에서 CPU 간 및 PCIe 버스 오버헤드를 제거하여 베어메탈에 가까운 성능을 달성할 수 있습니다. 

#### 유저 및 프로젝트 기반의 스토리지 할당량 관리 
사용자 또는 단일 프로젝트당 데이터 스토리지 할당량을 제한하여 예산 효율적이고 간편하게 데이터 공간을 관리할 수 있습니다. 

#### Hugepage 메모리 할당 지원
주소 변환 (Address Translation)의 오버헤드를 줄이기 위해 더욱 큰 메모리 페이지 (Hugepage)를 사용하되, 그 수를 줄여 AI 가속기를 사용할 때의 CPU 오버헤드를 최소화합니다. 해당 기능에 대한 Backend.AI의 지원은 올해 안에 마무리 될 예정입니다.
#### 이외에도 더 많은 기능들이 기다리고 있습니다
래블업은 인텔과 지속적으로 소통하며 Backend.AI의 가능성을 넓혀가고 있습니다. 더 많은 기능이 아직 개발 중이며, 곧 선보여질 예정입니다. Backand.AI와 인텔® Gaudi® 3 AI 가속기를 활용하여 여러분의 클러스터 활용도를 높여보세요.

### 인텔® Gaudi® 3 AI 가속기의 성능을 Backend.AI에서 누리세요
 ![](https://cdn.lablup.com/2024_11_06_141836_9836bea9c4.png) 
Backend.AI는 인텔® Gaudi® 3 AI 가속기의 성능을 최대로 끌어낼 수 있도록 설계되었습니다. 인텔® Gaudi® 3 AI 가속기는 기본적인 컴퓨터 비전 및 NLP 모델, 심지어는 거대언어모델 및 멀티모달 모델까지 최첨단의 (state-of-the-art) 모델을 학습하고, 실행할 수 있도록 합니다. 인텔® Gaudi® 3 AI 가속기는 가격 대비 훌륭한 성능과 운영 효율성을 제공합니다. 클라우드, 혹은 데이터 센터 그 어디에서도 효율적인 확장성을 제공하도록 설계된 인텔® Gaudi® 3 AI 가속기는 AI 업계에 그 어느 때보다 필요한 선택지를 제공합니다.

### 여러분의 작업을 최고 수준의 사용자 인터페이스에서
다른 시스템과 달리, Backend.AI는 시스템 관리자가 최대한 쉽게 시스템을 제어할 수 있도록 설계되었습니다. 사용자 친화적인 인터페이스 덕분에 관리자는 몇 번의 클릭과 입력만으로 시스템을 관리할 수 있습니다. Backend.AI WebUI는 다양한 산업 환경에서 검증된 고객들이 널리 사용하고 있으며, 고객들은 CLI(명령줄 인터페이스)를 사용하지 않고도 GUI를 통해 수행할 수 있는 다양한 기능에 만족하고 있습니다. 

### Backend.AI를 통해 인텔® Gaudi® 2 및 인텔® Gaudi® 3 AI 가속기를 '관리하기 쉬운' 플랫폼으로 만들어보세요.
래블업은 과학자, 연구원, DevOps, 기업 및 AI 애호가들이 AI 서비스를 효율적이고, 확장 가능한 형태로 사용할 수 있도록 하기 위해 최선을 다하고 있습니다. 우리는 인텔과 함께 오늘날 널리 사용되고 있는 생성 AI 및 딥 러닝 기반 서비스의 성공을 위해 긴밀히 협력하고 있습니다. 다양한 고객들로부터 검증된 래블업의 기술을 통해, 인텔® Gaudi® 2 및 인텔® Gaudi® 3 플랫폼과 Backend.AI는 하드웨어 수준 통합을 제공하기 위해 노력하고 있습니다.


### 인텔® Gaudi® 3 AI 가속기 소개
검증된 MLPerf 벤치마크 성능을 갖춘 고효율 인텔® Gaudi® 플랫폼을 기반으로 하는 인텔® Gaudi® 3 AI 가속기는 까다로운 훈련 및 추론을 처리하도록 설계되었습니다.

데이터 센터 또는 노드부터 메가 클러스터에 이르는 클라우드에서 대규모 언어모델, 멀티 모달 모델, 엔터프라이즈 RAG와 같은 AI 응용 프로그램을 지원하며, 이미 보유하고 있을 가능성이 있는 이더넷 인프라에서 모두 실행됩니다. 단일 가속기가 필요하든 수천 개의 가속기가 필요하든, 인텔® Gaudi® 3는 AI 성공에 중요한 역할을 할 준비가 되어 있습니다.

인텔® Gaudi® 3에 대해 자세히 알아보려면, [intel.com](https://intel.com/gaudi3)을 방문하세요.

### 래블업 Backend.AI 소개
Backend.AI는 여러분의 AI 비즈니스를 극대화시키기 위해 시중의 다양한 GPU와 AI 가속기를 지원하고 있으며, 사용자들이 편리하게 사용할 수 있도록 직관적인 사용자 인터페이스를 제공하고 있습니다. 고객은 가장 작은 수준의 언어 모델부터 거대 언어모델까지 AI 모델의 크기에 구애받지 않고 AI 모델을 효과적으로 구축, 학습, 제공할 수 있어 서비스 개발과 운영의 비용, 복잡성을 크게 줄일 수 있습니다. Backend.AI는 생성형 AI와 가속 컴퓨팅의 잠재력을 최대한 이끌어내 최첨단 기술을 통해 여러분의 비즈니스를 혁신할 수 있는 열쇠가 되어가고 있습니다.

Backend.AI®에 대해 자세히 알아보려면, [backend.ai](https://www.backend.ai/)를 방문하세요.


래블업-인텔, Backend.AI에서 인텔® Gaudi® 2 및 인텔® Gaudi® 3 AI 가속기에 대한 지원 발표

![lablup-conf-4](https://cdn.lablup.com/lablup_conf_4_a3b94c6250.avif)

인공지능(AI) 플랫폼 기업 래블업은 자사의 정기 기술 컨퍼런스인 ‘lab | up > /conf/4’를 24일 양재 aT센터에서 개최한다고 밝혔다. 이번 행사에는 AI 전문가들과 기업 관계자들이 참석하여 참가자들에게 유익한 강연을 제공할 계획이다.

지난 세 번의 ‘lab | up > /conf’는 ‘Make AI Accessible’을 주제로 인공지능의 접근성을 높이는 기술 동향에 대해 다뤘다면, 이번에는 ‘Make AI Scalable’을 주제로 큰 규모의 산업에서 AI가 어떻게 적용되고 운영되는지 그 기술과 도전에 대해 다룬다.

이번 컨퍼런스에서 래블업의 신정규 대표는 ▲’Unchartered AI: 대 AI 시대’라는 주제로 기조연설을 진행한다. 스케일 밴드가 위아래로 확장되는 요즘 시대의 AI 기반 기술에 대한 깊이 있는 이야기와 함께 래블업이 어떻게 세상을 바꿔나가고, 바꿔나갈 것인지 래블업의 경험과 미래를 공유할 계획이다. 래블업의 황은진 수석연구원은 ▲현기증 난단 말이에요!: PALI, PALI PALI, and PALANG’을 주제로 래블업의 새로운 플랫폼과 AI 런타임 클러스터, 그리고 멀티모달 언어모델 슈이트를 소개하며, 김찬란 엔비디아(NVIDIA) 부장은 ▲’AI 제품 경쟁력을 높이는 NVIDIA의 AI Inference Microservices’를 주제로 엔비디아 NIM을 소개한다.  

또한, 최종호 리벨리온(Rebellion) 소프트웨어 엔지니어는 ▲'RBLN SDK: 리벨리온 AI 가속기로 쉽게 넘어가는 도구'를 주제로 ATOM NPU에 대해 소개하며, 황성진 kt cloud AI 플랫폼팀 팀장은 ▲'kt cloud의 AI 사업 성장기, 이래서 파트너가 중요합니다!'라는 주제로 래블업과 함께 성장하는 kt cloud의 이야기를 다룬다. 이번 자리에는 곽재도 인공지능산업융합사업단(AICA) 기반조성본부장도 참석해 ▲'대한민국 땅에 인공지능의 씨앗을! 인공지능 중심 산업융합 집적단지 조성사업'을 주제로 광주 인공지능산업융합 AI-Vally 조성 사업에 대한 추진 현황과 주요 지원사례에 대해 공유한다.

이외에도 리벨리온(Rebellions), 마이크로소프트(Microsoft), 엔비디아(NVIDIA), 카카오(Kakao), kt cloud 등 다양한 IT 기술 기업의 인사들이 연사로 나서며, 기조연설을 포함 총 19개의 강연이 준비되어 있다.

컨퍼런스가 종료된 후에는 참가자들에게 소정의 기념품이 제공되며, 추첨을 통해 애플워치 10세대 등 다양한 경품을 제공할 예정이다.

래블업의 신정규 대표는 "이번 'lab | up > conf/4’ 컨퍼런스를 통해 다양한 IT 기술 기업들이 한자리에 모여 최신 기술 동향을 공유하고, 혁신적인 아이디어를 나눌 수 있는 장을 마련하게 되어 매우 기쁘다"며 "앞으로도 래블업은 대 AI 시대에 앞장서 스케일(규모)을 감당하는 회사가 되겠다"고 밝혔다.

'lab | up > conf/4’는 오늘 (23일)까지 사전 등록을 통해 참가할 수 있으며, 사전등록은 Festa ( https://festa.io/events/5923 )를 통해 가능하다.

래블업, 'lab | up > /conf/4' 정기 기술 컨퍼런스 개최 

 ![](https://cdn.lablup.com/Lablup_GTC_24_a1eb755914.png)

래블업이 3월 18일부터 21일까지 미국 새너제이 컨벤션센터에서 열리는 엔비디아의 주요 AI 컨퍼런스인 GTC 2024에 실버 스폰서로 참가한다. 이번 대면 행사는 5년 만에 처음으로 개최되며, 30만 명 이상의 참가자가 온·오프라인으로 참여할 것으로 기대되는 GPU 분야에서 가장 큰 기술 행사이다.

래블업은 이번 컨퍼런스에서 AI 기술의 최전선에 서 있는 두 가지 주제에 대해 발표할 예정이다. 첫 번째 발표 "From Idea To Crowd: Manipulating Local LLMs At Scale"는 래블업 신정규 대표와 김준기 CTO가 진행하며, 이 세션에서는 양자화, QLoRA 등의 리소스 절약 및 모델 압축 기술과 vLLM, TensorRT-LLM 결합을 통해 Backend.AI가 어떻게 대규모 로컬 LLM을 효율적으로 조작하는지 소개한다. 이는 AI 모델의 성능을 최적화하고, 리소스 사용을 최소화하는 혁신적인 접근 방식을 제공할 예정이다.

두 번째 발표인 "Personalized Generative AI: Operation and Fine-Tuning in Household Form Factors"는 3월 20일에 김준기 CTO가 진행한다. 이 세션에서는 클라우드 및 개인 PC의 GPU를 이용하여 사용자 맞춤형 생성형 AI를 개발하고 서비스할 수 있는 방법을 시연한다. 이는 AI 기술을 일상 생활에 더욱 밀접하게 통합하는 개인화된 AI의 새로운 가능성을 제시할 예정이다.

또한, 래블업은 전시부스(Booth #1233)에서 APAC 지역 유일의 엔비디아 DGX-Ready 소프트웨어인 Backend.AI Enterprise를 시연한다. Backend.AI는 엔비디아 DGX 시스템 및 기타 GPU 가속 컴퓨팅 리소스의 성능을 극대화하며, 사용자 환경을 변경하지 않고도 GPU 사용성을 높여주는 AI 인프라스트럭처 운영 플랫폼이다. 부스에서는 또한 생성 AI 개발을 간소화하고 자동화하는 MLOps 소프트웨어 플랫폼, FastTrack으로 파운데이션 모델을 다양한 산업 분야에 특화하거나 나만의 챗봇으로 자동 미세 조정하는 실시간 시연도 제공된다.

MWC에 이어 이번 GTC에서 래블업은 엔비디아 및 Dell, AMAX, Weka와 같은 글로벌 파트너사들과의 협력을 강화하며 함께 본격적인 글로벌 진출을 꾀할 예정이다.

래블업, 엔비디아 GTC 2024에서 AI 혁신의 미래를 제시하다

 ![](https://cdn.lablup.com/MWC_Amax_744f5049a8.jpeg) 

[2024년 2월 26일, 스페인 바르셀로나] 래블업은 26일 스페인 바르셀로나에서 열린 세계 최대 모바일 전시회 ‘MWC 2024’에서 글로벌 HPC 솔루션 기업 ‘AMAX’와 사업개발 협력을 강화하고 비즈니스 확장을 위한 협약식을 진행했다.

협약식에는 래블업의 신정규 대표와 AMAX의 수석 부사장인 보어 싸오가 참석했다. AI 연구, 개발, 서비스 플랫폼 기업인 래블업과 HPC 솔루션 기업인 AMAX는 AI 슈퍼 컴퓨팅 인프라 구축을 가속화하며, 전 세계 연구소 및 데이터 센터에 GPU 통합 솔루션을 제공할 계획이다.

양사는 지난해 11월 런던에서 개최된 “Optimising AI Conference”를 공동 주최하며 협업 방안을 논의해왔다. 이 행사에서는 AI 분야의 기술 전문가, 비즈니스 리더들과 함께 래블업의 영국 진출 사례를 기반으로 텔레콤, 의료, 금융 등 AI 산업 전반에 걸친 사례를 발표하고 네트워킹 시간을 가졌다.

보어 싸오 AMAX 수석 부사장은 "현재 IDC의 문제는 전력량뿐만 아니라 발열 제어에도 있다. 우리는 별도의 리퀴드 쿨링 랙을 연산 랙과 같이 설치하는 구성을 도입하여 현재 IDC 환경에서도 최적의 발열 제어 인프라를 구축할 수 있다"며, "AMAX의 인프라 설계 및 운영 경험과 래블업의 Backend.AI를 결합하여 글로벌 AI 인프라 플랫폼 공급을 기대한다"라고 말했다.

신정규 래블업 대표는 "점점 복잡해지는 AI 인프라스트럭처 운영 및 최적화에 세계 최고의 플랫폼을 제공하는 래블업과, 다양한 스케일의 고성능 컴퓨팅 하드웨어 플랫폼을 제공하는 AMAX이 서로 시너지를 낼 수 있을 것으로 보인다"며, “이번 AMAX와의 협약을 통해 유럽 및 북미 지역의 고성능컴퓨팅 수요를 대상으로 AI 토탈 플랫폼을 제공하여, 전세계의 더 많은 사람들이 Backend.AI를 통한 AI 혁신을 더 가깝게 누릴 수 있도록 하겠다"고 포부를 밝혔다.

래블업, AMAX와 AI 인프라 플랫폼 공급에 대한 글로벌 협약 체결

![](https://cdn.lablup.com/Gen_AI_Dasktop_01_02538c826c.png)

래블업은 오는 2월 26일부터 29일까지 4일간 스페인 바르셀로나에서 열리는 세계 최대 모바일 전시회 ‘MWC 2024’에 참가한다고 밝혔다.

이번 MWC 2024의 최대 화두는 AI이다. 통신사들이 앞다투어 AI 관련 최신 기술의 투자 소식을 알리는 이유도 글로벌 트랜드인 앳지클라우드 시장에 합류하고자 함이다. 래블업은 통신사들이 기지국 단에 세우는 소규모 연산 자원인 엣지클라우드에서 빠르고 쉽게, 그리고 저비용으로 AI를 연구 개발, 그리고 서비스할 수 있는지 사례를 소개한다. 또한 글로벌 기업들과의 협력을 통해 전 세계 엣지클라우드 시장에 진출할 예정이다.

래블업은 이번 전시회에서 일반 대중을 위한 사용하기 쉬운 AI 애플리케이션 통합 플랫폼인 "GenAI Desktop"을 선보일 예정이다. 이 플랫폼은 사용자가 AI를 쉽게 이해하고 활용할 수 있도록 돕는 도구다. 또한, Backend.AI FastTrack을 통해 래블업에서 거대 언어 모델을 원하는 형태로 파인튜닝하여 개발한 챗봇 솔루션인 “Talkativot”을 모바일에서 직접 시연해 볼 수 있다. FastTrack은 기업 및 연구소 대상의 B2B 솔루션으로 생성AI 개발을 간소화하고 자동화하는 MLOps 플랫폼이다. 이 플랫폼으로 데이터 분석, 분류, 처리부터 AI 훈련, 평가, 서비스 배포 등 파이프라인 모든 과정을 신속하고 효과적으로 관리한다.

신정규 대표는 “래블업은 올해 'Make AI Scalable'을 목표로, 엣지클라우드 기반의 AI 솔루션과 생성형 AI 어플리케이션 플랫폼을 통해 글로벌 AI 시장을 선도하는 플랫폼 기업으로 도약할 것"이라고 말했다. 또한, "3월 개최될 NVIDIA GTC 2024에 실버 스폰서로 참가하는 래블업은 국내뿐 아니라 글로벌 AI 시장에서도 최신 AI 트렌드를 선도할 것이다"라고 덧붙였다.

래블업, MWC 2024에서 AI 엣지 클라우드 솔루션과 생성형 AI 어플리케이션 플랫폼 선보여

 ![](https://cdn.lablup.com/Gen_AI_Desktop_bf679fb88c.png) 

AI 연구 개발 플랫폼 기업 래블업은 1월 9일 미국 라스베이거스에서 열리는 세계 최대 가전·IT 박람회 'CES 2024'에 참가한다고 밝혔다. 

래블업은 이번 전시에서 일반 사용자 대상의 생성형 AI 애플리케이션 통합 플랫폼인 “GenAI Desktop”을 공개, 어디에서나 직접 생성AI 어플리케이션을 사용하는 데모를 소개한다. “GenAI Desktop”은 AI 모델을 활용하는 애플리케이션을 어디에서나 데스크탑 앱처럼 실행하는 플랫폼으로, 사용자 입장에서 AI 운영에 대한 자세한 지식을 몰라도 내가 필요한 서비스를 앱처럼 골라 실행할 수 있는 것이 특징이다. GenAI Desktop의 기본 앱 중 하나인 전 세계적으로 열풍인 거대 언어 모델들을 원하는 형태로 파인튜닝하여 챗봇으로 사용하는 “Talkativot”를 래블업 부스(#63301-51)에서 시연해 볼 수 있다. 

또한 래블업은 기업 및 연구소 대상의 B2B 솔루션으로 생성AI 개발을 간소화하고 자동화하는 MLOps 플랫폼인 Backend.AI FastTrack을 시연한다. FastTrack은 AI 프로젝트를 구성하는 데이터 분석, 분류, 처리부터 AI 훈련, 평가, 서비스 배포 등 파이프라인 모든 과정을 신속하고 효과적으로 관리한다. 모든 AI 작업을 복제 및 공유 가능하게 만들어, 반복되는 과정은 쉽게 재사용하거나 공유할 수 있다. 생성AI 시대에 대응하여 GPU 하이퍼스케일러 클라우드들의 대규모 AI 서비스 운영에도 적합하도록 진화한 Backend.AI FastTrack을 부스에서 만날 수 있다. 

올해로 2년 연속 CES에 참가하는 래블업은 KOTRA 한국관에서 준비중인 'K-Tech Forum@CES 2024'에 AI분야 스타트업 패널로 초청되어 NVIDIA, PureStorage, NetApp, Dell 등 글로벌 기업들과 기술 파트너사로 협업 및 영국과 브라질에 수출한 해외 진출 경험을 공유한다. 

신정규 래블업 대표는 “래블업은 전세계가 AI를 쉽고 안전하고 만들고 편리하게 사용할 수 있는 다양한 방법을 끊임없이 고민하고 혁신해 왔다. 이번 CES는 대중이 AI를 친근하게 사용하는 방법에 대한 우리의 해결책을 많은 사람들에게 소개하는 시작이 될 것이다.” 고 밝혔다.

래블업, CES에서 생성AI 애플리케이션 통합 플랫폼 "GenAI Desktop" 공개

![](https://cdn.lablup.com/ai_relib_award_9d1147b73b.JPG)

래블업은 AI 연구·개발, 서비스 플랫폼인 Backend.AI가 과학기술정보통신부가 주최한 ‘제1회 인공지능(AI) 신뢰성·품질 대상’에서 우수상에 선정되었다고 밝혔다.

올해 처음으로 추진한 ‘인공지능(AI) 신뢰성·품질 대상’은 AI 신뢰성과 품질에 초점을 맞춘 국내 최초 시상제도로 신뢰성을 확보한 AI 제품과 서비스(데이터 포함)를 선정·시상함으로써 AI 신뢰성 인식을 확산하고 우수 국산 AI 제품·서비스 홍보를 지원하는 게 목적이다.

Backend.AI는 AI를 연구 및 개발하고 서비스까지 만드는 전 과정을 통합하는 올인원 플랫폼으로, 특히 초거대 AI 및 고성능 컴퓨팅, 슈퍼컴퓨팅 분야에 특화된 엔터프라이즈 솔루션이다. 온프레미스 서버 및 클라우드 환경에 설치되어 딥러닝 모델 설계 및 훈련 과정의 원활한 분산 실행 및 관리를 담당한다. 리눅스 컨테이너 및 VM 기술을 바탕으로 다양한 플랫폼에서 AI 및 고성능 컴퓨팅 코드를 안전하게 분산 및 실행하고, 수천대의 컴퓨터를 동원하는 복잡한 인공지능 개발 과정을 GUI 및 MLOps 기능과 함께 복잡한 설정 없이 자동화한다.

Backend.AI는 독자적으로 개발한 오케스트레이터 및 스케쥴러 위에 GPU 사용 비용을 크게 줄여주는 자체 특허 기반 GPU 분할 가상화 기술과 함께 최신 스토리지 및 AI 가속 하드웨어 기술을 통합하였다. 이를 바탕으로 업계 최고 수준 성능을 달성하여, 막대한 비용이 들어가는 거대 AI 훈련 및 최근 크게 늘어나고 있는 AI 서비스에 들어가는 비용을 효율적으로 줄여주는 것이 특징이다.

Backend.AI는 누구나 장벽없이 AI를 개발할 수 있도록 오픈소스로 공개되고 있으며, 기업 및 기관용 기능이 다수 포함된 엔터프라이즈 버전인 Backend.AI Enterprise는 고성능과 편의성을 통합한 AI 플랫폼으로 인정받아 삼성전자, KT, LG전자등의 국내 대기업을 비롯해 한국은행, 건강보험심사 평가원, GIST 등 70여 개 기업 및 기관에서 사용되고 있다. 또한 엔비디아의 AI 슈퍼컴퓨터인 DGX의 운영에 최적화된 DGX-Ready 소프트웨어로 아시아 태평양 지역에서 유일하게 선정되었으며, 현재 라틴아메리카 및 유럽 지역에 Backend.AI Enterprise를 수출하고 있다.

2015년 창업한 래블업은 올해 초 105억원 규모 시리즈A 투자를 유치하였다. 래블업의 신정규 대표는 “Backend.AI는 AI개발 및 운영 과정에서 발생하는 다양한 신뢰성 문제를 기술적으로 해결하

여, 많은 기업들이 고신뢰, 고품질 AI를 만들 수 있게 지원하고 있다. Backend.AI 자체적으로도 다양한 인공지능 개발시의 신뢰성 품질 요구사항들을 달성한 점이 인정받아 기쁘다”라며 ”이 수상이 Backend.AI의 고객사 및 사용자 확보에 좋은 기회가 될 것이며 글로벌 AI 시장에서 더욱 활발한 활동을 진행하는데 도움이 될 것”이라고 밝혔다.

Backend.AI, 인공지능(AI) 신뢰성·품질 검증받아 우수성 입증

![Backend.AI package.jpg](https://cdn.lablup.com/Backend_AI_package_1276cda2a8.jpg)

  래블업은 10일 미국 콜로라도 컨벤션 센터(덴버)에서 개최하는 “SC23(11.12~17)”에 참가할 예정이라고 밝혔다. 이 컨퍼런스는 고성능 컴퓨팅, 네트워킹, 스토리지 분석을 위한 행사로, AMD, ARM, AWS, IBM, 인텔(Intel), 엔비디아(NVIDIA), SK하이닉스 등 국내외 정상 기업들이 다수 참여한다.

  래블업은 이번 SC23에서 자사의 초거대 AI 생태계 구축을 위한 플랫폼인 Backend.AI를 소개한다. Backend.AI는 엔비디아 CUDA, AMD ROCm 등의 GPU 지원뿐만 아니라, 다양한 NPU 및 AI 반도체들을 최적화 기능들과 함께 제공한다. 구글 TPU를 비롯하여 그래프코어, 리벨리온 Atom 및 퓨리오사 워보이를 최적화 기능과 함께 지원하고 있다. 이를 통해 GPU로 AI 모델을 훈련하고, AI 반도체로 서비스를 연계하는 GPU-NPU 통합 파이프라인을 이용하여 최고의 성능과 최저 비용을 동시에 달성하고 있다.

  또한 Backend.AI는 GPU Direct Storage 기술을 세계 최초로 컨테이너 클러스터에서 구현하여, GPU와 네트워크 스토리지를 직결함으로써 엄청난 데이터 입출력 속도를 제공한다. 이로써 고속 스토리지 시장의 Top 3인 PureStorage, NetApp, Dell EMC와 파트너십을 맺었다. 더불어 Backend.AI는 아태지역에서 엔비디아 DGX-Ready 프로그램에 최초이자 유일하게 선정되었으며, VMWare, RedHat, Canonical 등과 함께 엔비디아 AI Accelerated Program의 파트너로 선정되었다.

  이번 SC23에서는 Backend.AI가 이와 같은 기술을 활용하여 직접 개발 운영 가능한 LLM 서비스를 데모한다. IFA 2023에서 선보인 Meta에서 공개한 Llama2 모델을 포함한 다양한 거대 공개 언어 모델들을 다양한 응용 분야에 맞게 미세 조정하여, Backend.AI의 자동화 시스템인 FastTrack을 통해 온프레미스 환경에서 LLM 서비스를 개발하고 서비스할 수 있음을 알릴 예정이다. 사용자가 제공하는 사진을 기반으로 이야기를 만들고 이미지를 생성, 동화책을 만들어주는 멀티모달 데모인 VisuTale도 선보인다.

  신정규 래블업 대표는 ”초고성능 AI에 더하여 다양한 슈퍼컴퓨터 솔루션들 및 고성능 컴퓨팅에 최적화된 Backend.AI를 전 세계 슈퍼 컴퓨팅 연구자들에게 소개할 수 있어 기쁘다“며 “앞으로도 막대한 양의 연산 자원이 들어가는 기술 선도 분야에서 Backend.AI를 통해 성능 및 비용의 혁신과 압도적인 편리함을 동시에 달성할 수 있도록 노력하겠다”고 밝혔다.

래블업, SC23에서 Backend.AI로 빚은 초거대 AI 서비스 소개

![2023-08-llm-chatbot-screenshot.png](https://cdn.lablup.com/2023_08_llm_chatbot_screenshot_e548d4462f.png)

래블업은 8월 11일~13일 개최된 파이콘 한국 2023에서, AI 연구개발 및 서비스 플랫폼 소프트웨어인 Backend.AI 로 거대 언어 모델을 직접 만들고 파인 튜닝 및 서비스하는 과정을 자동화하는 기능 및 데모를 선보여 참석한 개발자들을 사로잡았다.

데모에서는 최근 Meta에서 공개한 Llama2 모델을 포함한 다양한 오픈소스 거대 언어 모델들을 Backend.AI 의 자동화 시스템인 FastTrack을 통해 한국어에 맞추어 미세조정하였다. Llama2 를 12시간만에 파인튜닝한 모델을 즉석에서 서비스로 만든 챗봇은 전용 UI를 통해 래블업의 엔비디아 H100 클라우드 팜을 통해 행사 기간 동안 서비스되어 많은 참가자들의 주목을 받았다.

Backend.AI는 ▲GPU 클러스터 활용도 극대화, ▲직관적인 사용자 경험 및 관리, ▲저비용/저지연 AI 모델 및 서비스기술, ▲다양한 AI 반도체 지원 등을 바탕으로 다양한 AI 개발 및 서비스 분야를 선도하는 기능을 제공하고 있다. 래블업은 이번 거대 언어 모델 개발, 파인 튜닝 및 서비스 자동화 기능 공개를 통해, 다양한 업무 자동화 및 연구, 프로그래밍 코드 개발등의 본격적인 생성 AI 응용 분야에 Backend.AI를 활용할 수 있음을 입증하였다.

신정규 래블업 대표는 "보안이 요구되는 기업 및 기관, 연구소 및 조직에 거대 언어 모델 기반의 다양한 서비스를 개발하고 사내에 통합하는 과정을 극단적으로 단순화하였다. 모든 조직들이 Backend.AI 를 사용해 필요에 맞는 고유한 거대 언어 모델을 쉽게 파인튜닝하고 운영할 수 있을 것" 이라고 자신했다.

현재 일부 Backend.AI 고객사들을 대상으로 베타 테스트 중인 거대 언어 모델 통합 기능은 9월 Backend.AI 정식 버전에 포함되어 온프레미스 고객사들에게 제공된다. 이 서비스는 국내 최대 슈퍼컴퓨팅 관련 학술대회 및 전시회인 KSC2023(8/21~23, 더케이호텔 서울)에서도 직접 확인할 수 있다.

래블업, 파이콘 한국 2023에서 거대 언어 모델 통합 개발 및 서비스 첫 선 보여

AI 연구/개발, 서비스 플랫폼 기업 래블업 주식회사(대표 신정규)는 **105억 원 규모의 시리즈 A 투자 유치**를 마무리했다고 밝혔다. 이번 래블업의 투자 라운드에는 LB인베스트먼트, IBK기업은행, K2 인베스트먼트 파트너스, 대성창업투자가 참여했다.

최근 ChatGPT 열풍으로 생성형 AI 서비스에 대한 관심이 높아지는 가운데, 투자자들은 기업들이 AI 학습 및 서비스를 위해 필요한 GPU, AI 반도체 및 데이터를 효율적으로 운영할 수 있게 해 주는 플랫폼인 'Backend.AI‘를 개발하고 판매 중인 래블업의 가치를 높게 평가했다.

현재 Backend.AI는 ▲GPU 클러스터 활용도 극대화, ▲직관적인 사용자 경험 및 관리, ▲저비용/저지연 AI 모델 및 서비스 기술, ▲다양한 AI 반도체 지원을 바탕으로, 거대 언어 모델 및 그림, 텍스트, 음악 등의 생성 AI 개발, AI 교육 플랫폼 활용까지 다양한 AI 개발, 서비스 분야에서 활용되고 있다.

래블업의 Backend.AI는 삼성전자, KT, LG전자, CJ등의 국내 대기업을 비롯해 한국은행, 건강보험심사평가원, GIST 등 70여 개 기업 및 기관에서 사용되고 있으며, 아시아 태평양 지역에서 유일하게 인공지능(AI) 개발 및 서비스를 위한 토탈 AIOps 플랫폼 솔루션인 엔비디아의 DGX-Ready 소프트웨어로 선정되었다.

신정규 래블업 대표는 "전 세계적으로 AI 연구/개발과 서비스에 관심이 높은 만큼 필요로 하는 자원인 GPU 사용 및 비용 절감에 대한 부분을 제공해 줄 수 있는 솔루션의 수요 또한 빠르게 증가하고 있다."고 전했다. 그는 또한 "이번 투자를 통해 래블업은 국내뿐 아니라 글로벌 AI 플랫폼 솔루션 시장에서 주도적인 역할을 할 수 있을 것"이라고 강조했다.

AI 연구, 개발, 서비스 플랫폼 기업 래블업, 105억 원 규모 시리즈 A 투자 유치

래블업 주식회사(대표 신정규)는 스페인 바르셀로나에서 열리는 ‘모바일 월드 콩그레스(MWC) 2023’에 Backend.AI(백엔드닷에이아이) R3를 소개할 예정이라고 21일 밝혔다.

![2023_02_mwc_1.jpg](https://cdn.lablup.com/2023_02_mwc_1_2380bd8e59.jpg)

챗GPT의 열풍으로 전세계가 뜨거운 가운데 기업들이 AI 학습 및 서비스를 위해 필요한 GPU, AI 반도체 및 데이터를 효율적으로 운영할 수 있게 해 주는 플랫폼인 ‘Backend.AI’를 이번 전시회를 통해 유럽 및 전 세계 이동통신 업계 및 모바일 관련 기업들에게 소개할 예정이다. 

Backend.AI는 아시아태평양 지역에서 유일한 엔비디아의 DGX-Ready 소프트웨어인 인공지능(AI) 개발 및 서비스를 위한 토탈 AIOps 플랫폼 솔루션이다. 이를 통해, 매우 큰 AI 모델을 학습시키는 데 필요한 컴퓨팅 파워와 전력을 효율적으로 사용할 수 있다. Backend.AI 플랫폼은 AI 연구 및 서비스 개발 과정을 자동화하고, 기관 내에서 필요한 자원을 제공하여 누구나 시간과 비용의 제약 없이 인공지능을 만들고 서비스할 수 있게 한다. 최근에는 Backend.AI의 MLOps 플랫폼인 FastTrack과 Forklift 서비스가 엔터프라이즈 솔루션으로 통합되었다. 이를 통해 AI 서비스 개발 주기를 더욱 빠르게 할 수 있게 되어, 다양한 기관에서 AI 개발에 들어가는 비용과 시간을 절약해 주고 있다.

신정규 래블업 대표는 "MWC 2023은 기존 산업을 혁신하는 디지털 전환의 현실을 확인할 수 있는 장"이라며, "혁신네트워크와 AI가 융합되어 새로운 기술과 비즈니스 모델이 등장하고 있다"고 언급했다. 또한 "래블업은 국내 통신사와 거대 언어 모델부터 생성 모델까지 다양한 수요에 대응하는 AI 모델 서비스를 Backend.AI 기반으로 준비하고 있으며, MWC 2023은 이를 통해 AI를 도입하려는 글로벌 기업들이 편의성과 비용 유연화를 어떻게 함께 달성할 수 있는지 소개하는 자리가 될 것"이라고 밝혔다.

래블업 ‘MWC 2023’ 참가, 챗GPT 같은 초거대 AI 모델 서비스의 원가 경쟁력 높일 AI 연구개발 플랫폼 선보인다.

*   **컨테이너 기반 AI/ML 모델 개발 및 운영 효율화를 위한 최상의 기술력 제공**
*   **AI/HPC를 위한 GPU 환경 구현과 지속적 운영관리까지…양사 시너지 효과 기대**

데이터 인프라 및 솔루션 전문기업 효성인포메이션시스템(대표이사 양정규)이 Hyper-scale AI 개발 플랫폼 전문 기업인 래블업(대표이사 신정규)과 국내 AI(인공지능), ML(머신 러닝), HPC(고성능 컴퓨팅) 시장 저변 확대를 위한 양해각서(MOU)를 체결하고 공동 영업, 마케팅 등 협업을 강화한 다고 XX일 밝혔다.

성공적인 AI 프로젝트를 위해서는 GPU 연산 자원의 효율적인 활용, 증가하는 데이터의 효과적인 저장과 성능 유지, 손쉬운 AI 모델의 개발과 지속적인 운영관리 방안 등을 위한 고도화된 전략이 필요하다.

효성인포메이션시스템은 AI 개발 플랫폼 및 GPU 분할 가상화 기술로 글로벌 기술력을 인정받고 있는 래블업과 함께 GPU 기반 AI 플랫폼 사업 공략을 강화한다. 양사는 검증된 제품과 다양한 프로젝트 노하우를 기반으로 GPU 환경 구현부터 운영관리까지 고객들의 AI 프로젝트를 위한 최상의 인프라 환경을 제공한다.

효성인포메이션시스템은 성능 최적화된 GPU 서버 인프라와 AI 모델 운영 관리 시스템을 결합한 ‘AI 통합 플랫폼’을 통해 기업의 복잡한 AI업무를 단순화해준다. GPU 기반의 데이터 연산부터 고성능 컴퓨팅에 최적화된 스토리지를 활용한 대용량 데이터 저장과 자동화된 관리 및 운영까지 통합적으로 제안하며 고객들의 데이터 기반 디지털 전환을 적극 지원한다.

래블업은 AI 개발 및 서비스를 위한 올인원 엔터프라이즈 클러스터 플랫폼인 Backend.AI(백엔드 닷에이아이)를 제공한다. Backend.AI는 독자 개발한 컨테이너 기반 GPU 분할 가상화 기술과 딥러닝 모델 분산 훈련 및 초거대 모델 개발 플랫폼 기술, GPU 기반 초 저비용/초 저지연 AI 모 델 서비스 기술을 포함한 AI 개발 및 서비스 시대에 필요한 모든 기능을 제공한다. 현재 삼성전 자, KT, LG CNS, SK, 롯데정보통신, CJ 등을 포함한 국내외 선도 기업과 기관에서 사용 중에 있다.

래블업 신정규 대표는 “NVIDIA(엔비디아)의 AI Accelerated Program과 DGX-Ready Software Program 등 기술 파트너십 뿐만 아니라 국내외 대규모 기업과 기관 고객을 통해 검증된 기술력을 바탕으로 고객의 성공적인 AI 프로젝트를 위해 양사의 시너지를 높이겠다”며 “GPU 인프라 환경 구현부터 컨테이너 기반의 효과적인 AI모델 개발 및 서비스 관리 최적화를 통해, 고객은 AIOps를 기반으로 AI 서비스 도입과 비즈니스 성과 창출을 가속화할 수 있을 것”이라고 밝혔다.

양정규 효성인포메이션시스템 대표이사는 “양사가 국내에서 축적해온 데이터 및 AI 관련 기술력을 바탕으로, GPU 가상화 및 자원 관리에 대한 어려움을 겪는 고객에게 최상의 인프라 환경을 제공하겠다”고 밝혔다.

> **래블업 소개**
> 
> 2015년 설립된 Hyper-scale AI 개발 플랫폼 전문 기업인 래블업(Lablup Inc., [www.lablup.com](http://www.lablup.com/) )은, AI 개발 및 서비스 플랫폼 ‘Backend.AI’가 아태 지역 최초로 NVIDIA DGX-Ready Software로 인증받으며 세계적 기술력을 인정받고 있다.
> 
> Backend.AI([www.backend.ai](http://www.backend.ai/))는 AI/ML/HPC를 R&D 부터 비즈니스 서비스, AI 서비스 추론 및 제공까지 하나의 일관된 플랫폼을 통해 효과적으로 관리할 수 있게 하며 삼성전자, KT, LG CNS, SK, 롯데정보통신, SK, 한국은행, ETRI 등 다양한 고객사에서 활용되고 있다.

효성인포메이션시스템-래블업, GPU 기반(Hyper-scale) AI 플랫폼 시장 공략 강화

2022 GTC 키노트에서 엔비디아는 AI Accelerated 프로그램 파트너들을 소개했다. 그 100여개의 기업 중 하이퍼 스케일 인공지능 연구개발 및 서비스 플랫폼인 백엔드닷AI(Backend.AI)를 개발한 국내 기업인 래블업 주식회사(대표 신정규)도 포함되었다.

엔비디아의 AI Accelerated 프로그램은 엔비디아 AI 플랫폼을 활용하여 고객에게 보다 빠르고 효율적이며 최상의 결과를 제공하는 AI 지원 애플리케이션 개발사 및 솔루션 파트너를 위한 것으로 고객은 엔비디아 AI 플랫폼에 안심하고 도입할 수 있다. 이 프로그램에는 Adobe, VMware, Canonical 등 전 세계적으로 유명한 유수의 기업들도 포함되었다.

작년 여름 이미 아태지역 최초로 유일하게 엔비디아의 DGX-레디 소프트웨어로 인증받은 백엔드닷AI는 이번 AI Accelerated 프로그램에 포함됨으로써 MLOps 및 AI 서비스 시장에서의 세계적 경쟁력 및 우수성을 인정받게 되었다.

백엔드닷AI는 AI 개발 및 서비스를 위한 AIOps 환경을 구축하는 클라우드 및 온프레미스용 토탈 플랫폼솔루션으로, 표준화된 플랫폼을 통해 인공지능 연구개발부터 서비스까지 전 과정을 자동화하고, 이미 소유하고 있는 AI 클러스터 또는 클라우드를 통해 필요한 자원을 제공하여 누구나 시간과 비용의 제약 없이 인공지능을 만들고 서비스할 수 있도록 돕는다.

사용자는 노트북이나 에디터, 전문가용 터미널을 통해 편리하게 인공지능 모델을 개발할 수 있으며, 개발자는 강력한 SDK 기반으로 자사 소프트웨어 및 플랫폼에 백엔드닷AI를 통합할 수 있다. 또한 운영자는 제어판으로 개인, 그룹 및 도메인 별 관리를 직관적으로 수행할 수 있으며 대시보드를 통해 다양한 실시간 통계를 확인할 수 있다.

래블업의 신정규 대표는 “백엔드닷AI가 AI기술의 선도기업인 엔비디아의 AI Accelerated 프로그램에 파트너로 선정됨으로써 MLOps 생태계에 보다 진화된 하이퍼스케일 AIOps를 통한 국내외 모든 사용자들의 AI 개발 과정을 더욱 가속화하여 선도화 할 수 있을 것”이라고 밝혔다.

래블업 백엔드닷에이아이(Backend.AI), 엔비디아의 AI Accelerated 프로그램 파트너로 선정

래블업 주식회사는 올플래시(all-flash) 스토리지 플랫폼 전문 기업인 퓨어스토리지와 TAP(Technolpgy Alliance Partners) 프로그램에 글로벌 기술 파트너로 선정되었다고 밝혔다.

TAP 프로그램은 퓨어스토리지와 협력하여 AI, 분석, 클라우드, 최신 데이터 보호 등 사전 테스트된 공동 솔루션을 구축하고 배포하여 더 나은 비즈니스를 제공하며 구축하는 기술 얼라이언스 파트너(Technolpgy Alliance Partners)를 선정하는 프로그램이다.

래블업의 백엔드닷에이아이(Backend.AI)는 하드웨어, 소프트웨어 및 멀티클라우드 공급 클라우드 및 데이터센터 연산자원을 효율적으로 활용해 거대 인공지능(AI) 모델 개발과 고성능 컴퓨팅을 포함한 대규모 계산 워크로드를 실행하고 관리하는 솔루션으로 퓨어스토리지 플래시블레이드의 GPU를 포함한 가속 컴퓨팅의 성능을 최적화시켜 컴퓨팅 리소스를 효율적으로 관리하여 사용자 환경을 변경하지 않고도 GPU 사용성을 극대화한다.

(참고 : https://www.purestorage.com/partners/technology-alliance-partners/lablup.html) 

래블업의 최고운영책임자인 김정묵 이사는 “AI 연구에 대한 개발은 이제 관심이 아닌 실제 적용을 위한 개발 과정을 거치고 있고 그 개발을 위한 인프라 또한 대규모에 고도화가 되어 가고 있다”며 “이번 퓨어스토리지와 TAP가 됨으로써 그러한 인프라를 구축하기 위하여 필요로 하는 고사용성의 하드웨어와 그 하드웨어를 극대화시켜 AI 개발 과정을 더욱 가속화하고 배포, 사용성, AI 인프라 활용에 이르기까지 모든 과정을 최적으로 운영할 수 있는 최적의 솔루션 지원으로 글로벌 시장에 선도적으로 진입하게 되었다” 라고 밝혔다.

래블업, 퓨어스토리지와 파트너십 통해 글로벌 진출 확대

래블업 주식회사는 클라우드 및 데이터센터 연산자원을 효율적으로 활용해 거대 인공지능(AI) 모델 개발과 고성능 컴퓨팅을 포함한 대규모 계산 워크로드를 실행하고 관리하는 솔루션인 ‘백엔드닷에이아이(Backend.AI)’가 아태지역 최초로 엔비디아의 DGX-레디 소프트웨어(NVIDIA DGX-Ready Software)로 인증을 받았다고 밝혔다.

엔비디아 DGX-레디 소프트웨어는 엔비디아 DGX 시스템의 클러스터에서 사용하기 위해 완벽한 테스트와 인증 과정을 마친 검증된 엔터프라이즈급 소프트웨어 솔루션으로, 아태지역 최초로 백엔드닷에이아이(Backend.AI)가 인증을 받았다.

백엔드닷에이아이(Backend.AI)는 엔비디아 DGX 시스템과 엔비디아 GPU를 포함한 가속 컴퓨팅의 성능을 최적화시켜 컴퓨팅 리소스를 효율적으로 관리하여 사용자 환경을 변경하지 않고도 GPU 사용성을 극대화한다. 또한 백엔드닷에이아이(Backend.AI)는 독자적으로 개발한 특허 기술인 컨테이너 기반 GPU 분할 가상화 기술을 바탕으로 고가의 GPU를 필요에 따라 분할해 다수 GPU로 나눠서 쓰는 방식을 자체 지원하며 이를 통해 GPU 사용성을 극대화한다.   
(참고 : [https://www.backend.ai/partners/nvidia)](https://www.backend.ai/partners/nvidia)) 

래블업의 신정규 대표는 “백엔드닷에이아이(Backend.AI)는 교육 기관에서부터 초거대 규모 인공지능 인프라(Hyperscale AI Infra)에 이르기까지 모든 유형의 AI 플랫폼 고객들을 성공적으로 지원해 오고 있다. 아태지역 최초로 엔비디아 DGX-레디 소프트웨어로 인증을 받으며 우리의 이러한 역량을 확인할 수 있게 되어 기쁘다. 앞으로 국내외 모든 사용자들의 AI 개발 과정을 더욱 가속화할 뿐만 아니라 배포, 사용성, AI 인프라 활용에 이르기까지 모든 과정을 최적으로 운영할 수 있도록 지원할 것”이라고 밝혔다.

유응준 엔비디아 코리아 엔터프라이즈 부문 대표는 “엔비디아 DGX 시스템은 대규모 AI 이니셔티브를 가속화하여 의료, 제조, 커머스, 과학 등 여러 분야에 걸쳐 조직들이 주요 도전과제를 해결하도록 돕는다. 엔비디아 DGX-레디 소프트웨어 프로그램은 AI 클러스터 전반에서 워크플로우를 간소화하고 활용도를 최적화하는 래블업의 백엔드닷에이아이(Backend.AI)와 같은 엔터프라이즈 소프트웨어 솔루션을 검증함으로써 고객의 성공을 지원한다”고 설명했다.

lablup.com

lablup.com

Newsroom

Backend.AI 관련 기사

보도 자료