래블업이 3월 18일부터 21일까지 미국 새너제이 컨벤션센터에서 열리는 엔비디아의 주요 AI 컨퍼런스인 GTC 2024에 실버 스폰서로 참가한다. 이번 대면 행사는 5년 만에 처음으로 개최되며, 30만 명 이상의 참가자가 온·오프라인으로 참여할 것으로 기대되는 GPU 분야에서 가장 큰 기술 행사이다.

래블업은 이번 컨퍼런스에서 AI 기술의 최전선에 서 있는 두 가지 주제에 대해 발표할 예정이다. 첫 번째 발표 "From Idea To Crowd: Manipulating Local LLMs At Scale"는 래블업 신정규 대표와 김준기 CTO가 진행하며, 이 세션에서는 양자화, QLoRA 등의 리소스 절약 및 모델 압축 기술과 vLLM, TensorRT-LLM 결합을 통해 Backend.AI가 어떻게 대규모 로컬 LLM을 효율적으로 조작하는지 소개한다. 이는 AI 모델의 성능을 최적화하고, 리소스 사용을 최소화하는 혁신적인 접근 방식을 제공할 예정이다.

두 번째 발표인 "Personalized Generative AI: Operation and Fine-Tuning in Household Form Factors"는 3월 20일에 김준기 CTO가 진행한다. 이 세션에서는 클라우드 및 개인 PC의 GPU를 이용하여 사용자 맞춤형 생성형 AI를 개발하고 서비스할 수 있는 방법을 시연한다. 이는 AI 기술을 일상 생활에 더욱 밀접하게 통합하는 개인화된 AI의 새로운 가능성을 제시할 예정이다.

또한, 래블업은 전시부스(Booth #1233)에서 APAC 지역 유일의 엔비디아 DGX-Ready 소프트웨어인 Backend.AI Enterprise를 시연한다. Backend.AI는 엔비디아 DGX 시스템 및 기타 GPU 가속 컴퓨팅 리소스의 성능을 극대화하며, 사용자 환경을 변경하지 않고도 GPU 사용성을 높여주는 AI 인프라스트럭처 운영 플랫폼이다. 부스에서는 또한 생성 AI 개발을 간소화하고 자동화하는 MLOps 소프트웨어 플랫폼, FastTrack으로 파운데이션 모델을 다양한 산업 분야에 특화하거나 나만의 챗봇으로 자동 미세 조정하는 실시간 시연도 제공된다.

MWC에 이어 이번 GTC에서 래블업은 엔비디아 및 Dell, AMAX, Weka와 같은 글로벌 파트너사들과의 협력을 강화하며 함께 본격적인 글로벌 진출을 꾀할 예정이다.