AI DATA CENTER · 01

연산의 성능을 결정하는
AI 인프라

AI 워크로드의 성능은 연산·데이터·네트워크의 균형에서 나옵니다.

모든 AI 서비스는 결국 서버와 스토리지에서 연산되며, 에임투지는 복수의 글로벌 벤더 포트폴리오를 운영합니다.

INFRASTRUCTURE STACK

세 개의 계층으로 구성되는 AI 인프라

하드웨어 계층은 다시 세 갈래로 나뉩니다. 각 갈래는 독립적으로 존재하지 않으며, 에임투지는 계층 간 균형을 기준으로 구성을 설계합니다.

• LAYER 01

  Compute

  연산 계층

  AI 워크로드가 실제로 수행되는 계층입니다. 범용 연산과 가속 연산을 워크로드 특성에 맞게 조합하여 필요한 만큼의 처리 능력을 확보합니다.

  • GPU 가속 컴퓨팅 노드
  • 범용 x86 서버 인프라
  • 멀티 노드 클러스터 구성
  • 가상화 · 컨테이너 환경
  • 노드 확장 아키텍처
  • 전력 · 발열 조건 반영 구성

• LAYER 02

  Data

  데이터 계층

  연산에 데이터를 공급하는 계층입니다. GPU가 대기하지 않도록 충분한 처리량을 확보하는 것이 데이터 계층 설계의 기준입니다.

  • All-Flash 고성능 스토리지
  • 대용량 학습 데이터 저장
  • HCI 통합 인프라
  • 계층형 스토리지 구성
  • 데이터 파이프라인 최적화
  • 백업 · 복제 체계

• LAYER 03

  Network

  네트워크 계층

  계층과 노드를 연결하는 기반입니다. 분산 학습에서는 노드 간 통신 속도가 전체 성능을 좌우하므로 대역폭과 지연 시간을 함께 고려합니다.

  • 고대역폭 클러스터 인터커넥트
  • 컴퓨팅 · 스토리지 망 분리
  • 저지연 통신 구조 설계
  • 확장 고려 토폴로지
  • 트래픽 흐름 최적화
  • 이중화 구성

BY WORKLOAD

워크로드에 따라 구성은 달라집니다

동일한 계층 구조라도 무엇을 처리하느냐에 따라 자원 배분의 기준이 달라집니다. 에임투지는 고객의 워크로드를 먼저 확인한 뒤 구성을 제안합니다.

• WORKLOAD 01

  학습 / Training

  대규모 모델을 반복 연산하는 과정으로, 다수의 노드가 동시에 작동합니다. 연산 자원의 총량과 노드 간 통신이 성능을 결정합니다.

  설계 중점

  연산 밀도 · 노드 간 대역폭 · 데이터 공급 처리량

• WORKLOAD 02

  추론 / Inference

  학습된 모델이 실제 서비스로 응답하는 과정입니다. 총 연산량보다 응답 속도와 동시 처리 안정성이 중요합니다.

  설계 중점

  응답 지연 · 동시 처리 · 서비스 가용성

• WORKLOAD 03

  데이터 처리 / Data

  학습 이전 단계의 데이터 수집, 정제, 변환 과정입니다. 연산보다 저장 용량과 입출력 성능에 좌우됩니다.

  설계 중점

  저장 용량 · 입출력 성능 · 파이프라인 연계

HOW WE BUILD

구성에서 가동까지

장비 목록을 전달하는 것이 아니라, 워크로드를 확인하고 구성을 설계해 실제로 작동하는 상태까지 만들어 전달합니다.

• STEP 01

  워크로드 확인

  처리할 작업의 성격과 규모, 성장 계획을 파악합니다

• STEP 02

  구성 설계

  계층 간 균형과 전력 · 공간 조건을 반영해 구성을 도출합니다

• STEP 03

  구축 · 배포

  장비 설치와 클러스터 구성, 소프트웨어 스택을 배포합니다

• STEP 04

  검증 · 인계

  성능을 검증하고 워크로드가 정상 가동되는 상태로 인계합니다

어떤 구성이 적합한지 함께 검토해 드립니다