래블업, ‘lab | up > /conf/6’ 성료… 차세대 AI 인프라의 미래 조망
- 'Make AI Composable²' 주제로 AI 인프라부터 추론, 에이전트, 보안까지 기술 세션 진행
- Continuum Router와 Continuum Hub 소개…'토큰팩토리' 구현 방향 제시
- NVIDIA, kt cloud, FuriosaAI, 업스테이지, 노타 등과 AI 인프라 기술과 운영 방향 공유
AI 인프라 소프트웨어 기업 래블업(대표이사 신정규)은 29일 서울 삼성동 코엑스에서 여섯 번째 연례 기술 컨퍼런스 'lab | up > /conf/6'를 성황리에 마무리했다고 밝혔다.
올해 주제는 'Make AI Composable²'다. NVIDIA, VAST Data, kt cloud, FuriosaAI, Samsung Welstory, RLWRLD, AIM Intelligence, KAIST 등 국내외 기업과 기관이 발표에 참여했으며, 인퍼런스와 서빙, AI 에이전트, 플랫폼 엔지니어링, 보안, 데이터 파이프라인, 피지컬 AI 등 AI 산업 현장의 기술과 운영 과제를 다뤘다.
신정규 대표는 오프닝 키노트 'AI 산업 시대의 엔드투엔드에 대하여'에서 AI 분야가 과학, 공학의 시대를 넘어 산업의 시대로 진입하고 있다고 짚고, AI 산업 시대의 빈 공간을 채우기 위해 래블업이 만드는 기술과 사업을 소개했다.
이어진 패널 토크 'AI 병목을 해결하는 인퍼런스 최적화'는 노정석 비팩토리 대표가 진행을 맡았다. 김준기 래블업 CTO, 김태호 노타 CTO, 이진원 하이퍼엑셀 CTO, 이활석 업스테이지 CTO가 패널로 참여해 AI 반도체부터 모델 개발, 모델 최적화와 인프라 오케스트레이션까지 각자의 분야에서 추론 병목을 어떻게 해결하고 있는지 논의했다.
래블업은 이날 여러 AI 모델을 하나의 창구로 연결하는 컨티넘 라우터(Continuum Router)와 토큰 사용량과 정책, 과금을 중앙에서 관리하는 컨티넘 허브(Continuum Hub)를 소개했다. 행사 현장에서는 다양한 AI 모델 간 요청을 유연하게 라우팅하고 토큰 사용량을 통합 관리하는 기술과 함께 래블업이 제시하는 ‘토큰팩토리(Token Factory)’ 개념을 소개했으며, 참가자들이 컨티넘 라우터와 컨티넘 허브의 주요 기능을 직접 체험할 수 있는 데모도 진행했다.
래블업 신정규 대표는 "AI 산업이 빠르게 성장할수록 개별 기술의 발전뿐 아니라 다양한 기업과 기술이 서로 연결되고 실제 운영 경험을 공유하는 것이 중요해지고 있다"며 "이번 컨퍼런스에서 국내외 기업과 전문가들이 AI 산업의 기술 과제와 방향을 함께 논의할 수 있었다"고 말했다.
한편, 래블업은 최근 글로벌 웨비나를 성료하며 해외 고객 및 파트너와의 소통을 확대하고 있다. 앞으로도 다양한 글로벌 접점을 통해 기술과 제품을 알리고 해외 사업 기반을 넓혀 갈 계획이다.
▲ 신정규 대표가 lab | up > /conf/6에서 기조연설을 진행하고 있다.
▲ 김준기 래블업 CTO 등 4인의 CTO가 AI 병목을 해결하는 인퍼런스 최적화를 주제로 대담을 진행하고 있다.