deep gadget by ManyCoreSoft

AIDC 얼라이언스 제1차 공급분과위원회에서 확인한 국산 AI 데이터센터의 진짜 병목. 액체냉각 CDU 국산화와 엔비디아 인증 장벽, 매니코어소프트가 공급분과에서 하려는 일을 정리했습니다.

건물형 AI 데이터센터는 2~3년이 걸리고, 컨테이너 한 통에 다 넣는 방식은 수백 kW가 한계다. 매니코어소프트는 대안으로 컨테이너를 이어 붙여 데이터센터를 만드는 조립식 모듈형 데이터센터(PFMDC)를 제시한다.

매니코어소프트가 서울대 천둥연구실과 함께한 2026 가속기 프로그래밍 여름학교 현장을 담았습니다. CUDA와 GPU 최적화를 가르친 고병현 강사 인터뷰와 참가자 들의 후기로, 14년째 이어온 가속기 프로그래밍 교육의 의미를 짚어봅니다.

서버 한 대로 시작해 GPU 클러스터를 구축하는 AI 인프라 파트너가 되기까지, HD한국조선해양의 실제로 벌어진 병목 문제와 그 해결 과정을 담았습니다. GPU 서버 스펙만으론 부족한 GPU 인프라 구축, 매니코어소프트가 숨은 병목을 어떻게 해결했는지 확인해보세요.

2026년 여름 한 달 남짓 사이에 오픈웨이트 AI 모델이 쏟아졌습니다. 수백 B 규모인데도 저렴하고 빠르게 서비스되는 이유, 그리고 직접 구축할 때 필요한 GPU 장수를 정리했습니다.

유니닥스가 2024년부터 3년간 매니코어소프트 액체냉각 GPU 워크스테이션 딥가젯을 도입해온 과정을 소개합니다. 첫 도입부터 대수 증설, 스펙 확장까지 AI GPU 서버 구축 사례를 확인해보세요.

2026년 상반기 딥가젯 수주액이 전년 동기의 2.31배로 늘었습니다. AI·IT 기업과 대학을 넘어 제조·공공 현장으로 넓어진 액체냉각 AI 서버 수요와 실제 활용 사례를 살펴봅니다.

일정 예약 예제로 LLM이 Tool Call을 만들고 에이전트 프로그램이 도구를 실행하는 과정을 살펴봅니다. Tool Calling 학습, 권한 관리, 평가와 온프레미스 인프라까지 설명합니다.

GPU 8장의 메모리는 어떻게 쓰느냐에 따라 한 모델의 가중치를 나눠 담기도, 같은 모델을 여러 벌 복제하기도 합니다. H100 8장 예제로 멀티 GPU 메모리와 병렬화를 설명합니다.

컴퓨터는 기록을 정확히 저장하는데 AI는 왜 오래된 기록을 현재 값처럼 사용할까요? AI 장기기억의 구조, RAG의 한계와 GPU 비용을 살펴봅니다.

AMD가 Instinct MI455X GPU 72개와 HBM4 31TB를 한 랙에 담은 Helios를 공개했습니다. Vera Rubin NVL72와 비교해 메모리와 네트워크의 차이, AMD가 제시한 FP4·tokens/$ 수치의 조건, 국내 AI 인프라에 주는 의미를 살펴봅니다.

DeepSeek V4 Flash의 7월 31일 공개본은 284B 모델 본체와 DSpark 가중치를 합쳐 약 304B입니다. 13B 활성 파라미터의 의미와 에이전트 성능, DSpark의 원리, 다중 GPU 서빙 조건을 공식 자료로 정리했습니다.

45°C 냉각수로 GPU를 식힐 수 있는 이유를 설명합니다. NVIDIA Rubin의 45°C 조건과 ASHRAE W45의 차이, CDU·드라이쿨러가 냉각 전력에 미치는 영향을 정리했습니다.

Kimi K3 96개 safetensors의 실제 용량과 정밀도 구성을 확인하고 104.2B 활성 파라미터, KDA·MLA 캐시와 현실적인 서빙 조건을 분석했습니다.

AI 인프라 오케스트레이션을 인프라, GPU 자원·워크로드, ML 워크플로와 추론으로 나눠 설명합니다. Kubernetes DRA, Kueue, llm-d 등 2026년 동향과 오픈소스·상용제품 선택 기준을 정리했습니다.

LLM 서빙 엔진이 하는 일을 쉽게 설명하고, vLLM과 SGLang의 차이와 선택 기준을 최신 오픈 모델 지원 현황과 함께 정리했습니다.

CAD-IT Korea가 dg5R의 RTX PRO 6000 Blackwell GPU 2·4·8장으로 STAR-CCM+ 약 8천만 격자 문제를 측정했다. GPU 8장은 50회 반복 계산을 35.2초에 마쳤다. 6U 액체냉각 서버 한 대에 담긴 성능과 CPU 2,500코어급 환산의 의미를 살펴본다.

CoreWeave가 공개한 Vera Rubin NVL72의 첫 실측은 Grace Blackwell NVL72 대비 토큰/MW 최대 10배였다. NVIDIA의 비용 10분의 1 비교는 별도의 Kimi-K2-Thinking 조건이다. 두 수치의 의미와 200kW가 넘는 랙, 45°C 액체냉각이 데이터센터 설계에 미치는 영향을 살펴본다.

2013년부터 이어 온 GPU 가속기 교육이 올해 14년째를 맞는다. CUDA 기초부터 GPU 최적화와 Multi-GPU 프로그래밍까지 4박 5일 동안 실습하며 등록 마감은 8월 17일이다.

사내 문서를 찾아 답하고 보고서를 작성하며 업무 도구까지 실행하는 AI 에이전트를 회사 안에 구축한다. 모티프테크놀러지스의 AI 모델·에이전트 플랫폼과 매니코어소프트의 액체냉각 GPU 인프라를 결합한 Motif AI BOX를 소개한다.

엔터를 누른 뒤 첫 토큰이 화면에 나타나기까지, 시간과 돈과 전기는 어디에 쓰일까

그래서 누군가는 AI 마을을 통째로 만들었다

문샷AI가 7월 16일 공개한 오픈웨이트 프론티어 모델. 가중치는 27일 풀리고 권장 배포 사양은 가속기 64장 이상이다.

RTX Pro 6000 Server Edition은 FP32 행렬곱 실측에서 RTX 5090보다 약 10% 느렸습니다(76.8 vs 87.2 TFLOPS). 원인은 최대 클럭 2430MHz와 한 단 낮은 메모리 클럭입니다. FP16 딥러닝 연산에서는 SE가 이론대로 앞섭니다.

지금까지는 산업단지가 데이터센터를 '유치'해 왔다. 우리는 이 관계가 곧 역전된다고 본다. 피지컬 AI와 저지연 AI 서비스가 산업의 기본 조건이 되면, AI 데이터센터가 클러스터의 중심이 되고 공장이 그 주위로 모인다.

2024년에 "GPU 발열이 1,000W를 넘을 전망"이라고 썼습니다. 2026년 출하되는 GPU는 한 장이 최대 2,300W를 씁니다

GLM-5.2가 쏘아올린 AI 추론 마진 붕괴 논쟁을 정리하고, 오픈웨이트 모델 경쟁이 왜 온프레미스 AI 인프라 수요로 이어지는지 분석합니다.

매니코어소프트가 퀀텀코리아 2026에서 공개한 QXel, GPU·NVMe 스토리지 오프로딩으로 딥가젯 서버 1대에서 43큐비트 state vector 양자 시뮬레이션을 구현합니다. 원리·사양·라이브 데모 안내.

콜드플레이트부터 CDU, 서버·시스템 통합까지 — 매니코어소프트가 고밀도 AI 데이터센터 냉각의 사업화를 주도합니다

모델을 섞고, 얹고, 지휘해서 일본에서 가장 빠른 유니콘이 된 3년

앤트로픽 페이블·미토스 모델의 전면 차단 사태는 클라우드 AI에 의존한 비즈니스가 지정학적 변수 하나로 멈출 수 있음을 보여줬다. 이 글에서는 온프레미스 AI 인프라가 왜 더 이상 선택이 아닌 생존 전략인지, 그리고 모델·연산 주권을 확보하는 구체적 방법을 분석한다.

AI EXPO KOREA 2026에서 매니코어소프트가 선보이는 액체냉각 기반 AI/HPC 인프라와 3사 협업 AI 데이터센터 솔루션을 소개합니다.

콜드플레이트, 매니폴드, CDU(In-rack·In-row·Sidecar, L2A·L2L), 냉각수, 액침까지. 액체냉각(DLC) 서버 용어를 가볍게 정리했습니다.

AI GPU의 전력과 랙 밀도가 빠르게 높아지면서 기존 공랭만으로는 발열을 감당하기 어려워지고 있습니다. 공랭의 한계가 칩과 데이터센터에서 각각 어떻게 나타나는지, 직접액체냉각(DLC,수랭)이 이를 어떻게 해결하는지 설명합니다.

PUE(전력사용효율)는 데이터센터 전체 전력을 IT 장비 전력으로 나눈 값입니다. 계산법, 좋은 PUE 기준, 액체냉각이 PUE를 낮추는 원리까지 정리했습니다.

dg5W-5090-6 서버를 2주간 무료로 경험하세요! 매니코어소프트가 6개 연구실에 액체냉각 기반의 쾌적한 연구 환경을 지원합니다. 대규모 LLM 서빙부터 3D 시각화까지 직접 검증하고, 체험 팀 한정 '특별 도입 할인 혜택'까지 놓치지 마세요.

MASGA 프로젝트로 주목받는 HD현대중공업 그룹. 매니코어소프트와 기가바이트는 GPU 서버, InfiniBand·Ethernet 네트워크, 고성능 스토리지를 공급하고 클러스터 구축·최적화·운영까지 총괄하며 울산 데이터센터에 최첨단 AI 학습 인프라를 완성했습니다.

ASRock Rack 공식 디스트리뷰터 매니코어소프트가 고성능 AI/HPC 인프라 구축을 위한 파트너십을 체결했습니다. 검증된 ASRock Rack 하드웨어와 독자적인 액체냉각 기술을 결합해 최적의 서버 솔루션을 제공합니다.

AI 추론 수요 폭증 속에서 GPU의 한계를 넘어서는 DSA (NPU) 의 부상. 딥가젯과 텐스토렌트가 함께 그리는 AI 인프라 최적화 철학을 소개합니다.

최대 6장 장착 가능한 딥가젯 서버와 RTX 5090의 만남. 생성형 AI, 3D 그래픽, 초고해상도 게임을 위한 최고의 GPU 솔루션을 제공합니다.

딥가젯 서버가 NVIDIA RTX PRO 6000 Blackwell을 지원합니다. 96GB GDDR7 메모리와 600W급 성능을 특허 냉각 기술로 안정적으로 구동, 최대 6장까지 탑재 가능한 고성능 서버 솔루션을 제공합니다.

Energy-Based Transformer(EBT)는 AI 추론 방식의 혁신을 제시합니다. EBT의 등장과 함께 고성능 컴퓨팅 인프라가 왜 중요한지, 매니코어소프트가 제시합니다.

삼성전자가 유럽 최대 HVAC 기업 플랙트를 약 2조 4,000억 원에 인수하며 공조·냉각 시장의 중요성이 부각되고 있습니다. 매니코어소프트는 직접 액체냉각 서버와 CDU 솔루션으로 첨단 데이터센터 인프라 혁신에 기여하고 있습니다.

중국 AI 기업 딥시크가 2,048대의 H800 GPU로 2,360억 파라미터 모델을 훈련해 Llama 2 70B에 필적하는 성능을 달성했습니다. 하드웨어 제약을 극복한 최적화 전략이 AI 인프라의 새로운 가능성을 보여줍니다.

액체냉각 기반 AI 인프라 기업 매니코어소프트가 고성능 AI 반도체 전문기업 텐스토렌트와 업무협약을 체결했습니다. 차세대 고밀도 AI 서버 플랫폼과 Direct-to-Chip 액체냉각 솔루션의 공동 개발·상용화를 추진합니다.