• NVIDIA 및 NVIDIA 파트너사 DS&G에서도 B300 서버를 원격 접속 방식으로 제공
• 기업과 교육기관을 위한 AX 방식 제안…개발 시작과 성과 측정을 한 흐름으로
• 코딩 에이전트 워크로드 트레이스를 수집해 서빙 최적화 검증

AI 인프라 소프트웨어 기업 래블업(대표이사 신정규)은 고려대학교 정보대학이 10월 31일부터 11월 1일까지 개최하는 '2026 InThon' 해커톤 트랙을 후원하고, 참가팀에 '래블업 토큰팩토리' 바우처를 제공한다.

래블업 토큰팩토리는 LLM API 공급 서비스로, 스마트 라우터 Continuum(컨티넘)으로 여러 모델을 한 엔드포인트에서 제공하고 팀과 사용자 단위로 사용량과 한도를 관리한다. 참가 학생들은 토큰팩토리 API를 코딩 에이전트에 연동해 서비스를 개발하고 데이터를 분석한다.

NVIDIA 파트너사 DS&G는 대회 기간 NVIDIA B300 서버를 원격 접속 방식으로 제공한다. NVIDIA와의 협업은 코딩 에이전트 워크로드의 서빙 최적화에 초점을 둔다. 대회 기간 요청의 타이밍과 크기를 익명 트레이스로 수집해, B300 환경에서 서빙 설정에 따른 처리량과 응답 지연을 비교한다. 코딩 에이전트 실사용 트레이스 분석 결과는 래블업 기술 블로그로 공개할 예정이다.

올해 4회째인 'InThon'은 고려대학교 정보대학, 정보대학 학생회, AI중심대학이 공동 주관한다. SW·AI 전공 학생 약 150명이 해커톤과 데이터톤에 나눠 참가하며, 해커톤 팀은 무박 2일 24시간 안에 주제에 맞춰 실제로 동작하는 앱이나 웹 서비스를 만들어 제출한다.

래블업 신정규 대표는 "해커톤은 기업 AX 파일럿의 축소 모형"이라며 "여러 팀이 같은 24시간 동안 공통의 AI 이용 환경과 정해진 지원 한도로 시작해 각자 다른 서비스를 만들고, 심사라는 독립적인 품질 평가를 받는다"고 말했다. 이어 "의욕 있는 구성원을 빠르게 온보딩하면서도 재무적으로 예측 가능하고 성과까지 측정할 수 있는 구조를 이번 대회에서 실증하려 한다"고 덧붙였다.

DS&G 서영민 전무는 “이번 협업은 실제 코딩 에이전트 워크로드를 바탕으로 NVIDIA B300 기반 인프라의 성능과 최적화 가능성을 살펴볼 수 있다는 점에서 의미가 있다”고 말했다. 이어 “해커톤 참가자들이 다양한 AI 서비스를 개발하는 과정에서 발생하는 요청 데이터를 분석해, 실제 사용 환경에서의 처리량과 응답 지연을 확인하고 관련 기술적 인사이트를 확보할 수 있을 것으로 기대한다”며 “이번 협업이 고성능 GPU 인프라의 활용 가능성을 구체적으로 살펴보고, AI 인프라 최적화에 대한 이해를 넓히는 계기가 되길 바란다”고 덧붙였다.