.png)
End to End AI Infra Solution Overview
대원씨티에스의
차세대 AI 인프라 제안
대원씨티에스는 통합 설계 역량을 바탕으로 데이터센터에서 엣지에 이르는 포괄적인 AI 인프라 구축에 필요한 컴퓨팅, 네트워킹, 스토리지 및 데이터 플랫폼, AI 엣지를 위한 NPU 그리고 MLOps 플랫폼을 제공합니다.
01. AI 인프라 통합 설계
기업의 AI 인프라는 목적과 필요에 따라 규모가 다릅니다. 대원씨티에스는 수십 개의 CPU/GPU로 구성한 소규모 클러스터와 수천 개의 CPU/GPU로 구축한 AI 데이터센터 규모까지 컴퓨팅, 네트워킹, 스토리지를 하나의 관점에서 바라보고 인프라를 통합 설계합니다. 이를 위해 NVIDIA, Arista 등 주요 AI 데이터센터 컴포넌트 기업의 레퍼런스 아키텍처를 분석해 고객의 요구에 맞게 최적화하여 적용합니다.
02. 유연한 자원사용
AI 워크로드를 위한 컴퓨팅과 스토리지 자원은 온프레미스부터 프라이빗/하이브리드 클라우드 그리고 멀티 클라우드 환경까지 여러 위치에 분산되어 있습니다. 대원씨티에스는 국내외 유명 MLOps 플랫폼 파트너들과 협력하여 최적화된 자원 풀을 개발자와 데이터 과학자가 온디맨드 방식으로 활용할 수 있는 방법을 안내합니다.
데이터가 생성되는 모든 위치에서 AI의 가능성을 실현할 수 있습니다. AI 알고리즘의 진화, 모델 배포와 관리 방식이 발전하면서 IoT나 센서를 장착한 작은 장치 그리고 현장에 배치한 AI 서버는 이제 데이터가 생성되는 최일선에서 AI 기능을 실행하는 기기가 되었습니다. 예를 들어 공공 영역에서는 곳곳에 위치한 CCTV를 AI 엣지 장치로 활용하는 스마트 시티 시나리오가 실현되고 있습니다. 산업계에서는 제조, 로봇, 의료, 안전 등 다양한 현장에서 NPU를 장착한 장치나 서버가 AI 엣지로 기능하고 있습니다. 대원씨티에스는 엔터프라이즈의 AI 전략을 엣지까지 확장하는 ‘On Device AI’ 시대의 청사진을 DeepX와 협력을 통해 제시합니다.
AI 확산
거대 언어 모델(LLM)의 시대가 되면서 기업의 AI 전략에 큰 변화가 일어나고 있습니다. 기업의 보안과 거버넌스 체제 안에서 안전하고 신뢰할 수 있는 방식으로 LLM 기반 챗봇을 ERP, SCM, CRM 등의 기간계 시스템과 사용자 간 새로운 인터페이스로 활용하려는 시도가 늘고 있습니다. 더불어 제조, 소매, 의료 등 도메인 특화 LLM 분야가 빠르게 발전하면서 전통적인 AI/ML을 넘어 서는 산업별 AI 활용 시나리오가 등장하고 있습니다. 대원씨티에스는 End to End AI 인프라를 구축한 조직이 LLM 시대 새로운 가능성을 비즈니스 성과로 이어갈 수 있는 컨설팅 서비스를 제공합니다. 대원씨티에스의 DX 팀은 LLM과 RAG 역량과 경험을 토대로 컨설팅 서비스를 제공합니다.