삼성SDS가 23일 엔비디아의 차세대 GPU 'B300(블랙웰 울트라)' 기반의 서비스형 GPU(GPUaaS)를 국내 최초로 출시했다. 삼성클라우드플랫폼(SCP)을 통해 제공되는 이번 서비스는 대규모 언어 모델(LLM)의 실행과 AI 추론 성능을 극대화하여 기업들의 고성능 컴퓨팅 수요를 선점한다는 전략이다.

엔비디아 B300 블랙웰 울트라 기반 GPUaaS 상용화

삼성SDS는 자사 클라우드 플랫폼인 '삼성클라우드플랫폼(SCP)'을 통해 엔비디아의 최신 GPU 아키텍처인 블랙웰(Blackwell) 기반 B300 서비스를 공식 시작했다. 이는 국내 클라우드 제공사(CSP) 중 최초의 상용화 사례다. 현재 글로벌 AI 산업의 중심이 모델 개발(학습) 단계에서 실제 서비스 적용 단계인 '추론'으로 이동함에 따라, 삼성SDS는 고성능 인프라를 선제적으로 공급하여 시장 주도권을 확보한다는 방침이다. 기업 고객은 별도의 하드웨어 구매 없이 구독형 모델을 통해 최신 GPU 자원을 즉시 활용할 수 있으며, 이를 통해 초기 투자 리스크를 최소화하고 변화하는 비즈니스 환경에 유연하게 대응할 수 있다.

H100 대비 메모리 3.6배·대역폭 2.4배 성능 혁신

이번에 도입된 B300 GPU는 기존 주력 모델인 H100 대비 압도적인 하드웨어 사양을 갖추고 있다. B300은 12단 HBM3E(고대역폭 메모리)를 탑재하여 GPU당 288GB의 메모리 용량을 확보했다. 이는 H100과 비교했을 때 메모리 용량 면에서 3.6배 향상된 수치다. 또한 데이터 전송 속도를 결정하는 대역폭은 초당 8TB로, H100 대비 2.4배 빨라졌다.

이러한 성능 향상은 LLM 운용 시 발생하는 고질적인 문제인 병목 현상을 해결하는 데 핵심적인 역할을 한다. 기존 인프라에서는 GPU의 연산 속도에 비해 메모리 데이터 전송 속도가 느려 연산 자원이 낭비되는 경우가 많았으나, B300의 광대역폭과 고용량 메모리는 데이터 전송 효율을 극대화한다. 이를 통해 기업들은 AI 에이전트 구현, 고해상도 이미지 및 영상 생성, 실시간 코드 분석 등 막대한 연산량이 요구되는 서비스를 지연 시간 없이 안정적으로 운영할 수 있게 되었다.

기업용 AI 추론 및 생성형 모델 구축 최적화

삼성SDS의 B300 GPUaaS는 단순한 자원 할당을 넘어 기업의 실질적인 업무 적용(AX)에 초점을 맞추고 있다. 대기업부터 중견·중소기업, 공공기관에 이르기까지 AI를 도입하려는 수요는 높으나, 글로벌 GPU 수급 불안정으로 인해 최신 인프라 확보에 어려움을 겪는 사례가 빈번했다. 삼성SDS는 이번 B300 도입을 통해 이러한 인프라 부족 문제를 해결하고, 고객이 필요한 만큼만 자원을 사용하고 비용을 지불하는 구조를 제안한다.

특히 생성형 AI 모델이 대형화되면서 개별 GPU의 성능보다 메모리 용량이 중요해진 현 시점에서, B300의 288GB 메모리는 멀티모달(Multimodal) AI 구현에 최적화된 환경을 제공한다. 이는 복잡한 데이터를 처리해야 하는 AI 에이전트 서비스에서 응답 속도를 획기적으로 단축시키는 결과로 이어진다. 삼성SDS 클라우드서비스사업부장 이호준 부사장은 자원 최적화와 에너지 절감 기술을 결합하여 기업 고객의 AX 전환을 적극 지원하겠다고 강조했다.

삼성SDS 클라우드 로드맵과 3분기 추가 서비스 예고

삼성SDS는 이번 B300 출시를 기점으로 GPUaaS 생태계를 더욱 확장할 계획이다. 이미 2021년 A100, 2023년 H100을 선제적으로 도입하며 구축한 운영 노하우를 바탕으로 서비스 고도화에 나선다. 올해 초 CES 2026에서 발표한 B300 수백 장 규모의 인프라 구축 계획이 이번 정식 출시로 구체화된 셈이다.

오는 3분기에는 고객 편의성을 높인 신규 서비스들이 추가로 예고되어 있다. 별도의 인프라 관리 없이 사용한 토큰량만큼만 비용을 지불하는 '서버리스 추론 서비스'가 대표적이다. 이는 소규모 프로젝트나 가변적인 수요를 가진 기업들에게 비용 효율적인 대안이 될 전망이다. 또한 코드나 데이터를 입력하면 자동으로 AI 모델을 분산 학습시키는 'AI 학습 서비스'도 출시를 앞두고 있다. 삼성SDS는 하드웨어 공급뿐만 아니라 소프트웨어 최적화 솔루션을 결합하여 토털 AI 인프라 플랫폼으로서의 SCP 경쟁력을 강화할 계획이다.