AMD가 새로운 AI GPU인 mi 325x를 발표하여 NVIDIA의 지배력에 도전장을 내밀었습니다. 이 글에서는 mi 325x의 사양, 성능, AMD와 NVIDIA 간의 경쟁, AI 시장의 미래에 미치는 영향에 대해 자세히 설명하겠습니다.

CONTENT

mi 325x: NVIDIA H200의 강력한 경쟁자

mi 325x는 최신 CDNA 3 아키텍처를 탑재하고 있으며, NVIDIA의 H200 GPU와 경쟁할 수 있도록 설계되었습니다. HBM3e 메모리를 사용하여 최대 256GB의 메모리 용량을 제공하고, 초당 6TB의 대역폭을 자랑합니다. 플로팅 포인트 연산 측면에서도 mi 325x는 FP16에서 1.3배, FP8에서 2배의 성능 향상을 제공합니다.

AI 인프라 성능 비교

개별 GPU 성능 비교에서 mi 325x는 H200보다 약간 높은 성능을 보입니다. 그러나 여덟 개의 GPU를 결합한 플랫폼 단위에서 비교하면 H200이 더 높은 메모리 용량과 컴퓨팅 성능을 제공합니다.

네트워킹 혁신

AMD는 또한 AI 네트워킹을 위한 새로운 접근 방식을 제안했습니다. NVIDIA의 InfiniBand 대안으로 Ethernet 기반 플랫폼을 사용하여 전체 비용을 50%까지 절감할 수 있으며 확장성을 크게 향상시킬 수 있습니다. AMD는 또한 데이터 처리를 위한 프로그래머블 DPU인 Salina와 Aurora를 개발하여 네트워킹 성능을 개선했습니다.

소프트웨어의 중요성

하드웨어 성능만큼 소프트웨어가 AI 시장에서 중요한 역할을 합니다. NVIDIA는 오랫동안 강력한 CUDA 소프트웨어 플랫폼을 보유하고 있지만 AMD는 로크 M(ROCm)을 통해 따라잡으려고 노력하고 있습니다. AMD는 Rocm을 지속적으로 업데이트하고 오픈 소프트웨어 커뮤니티와 협력하여 AI 모델과 프레임워크에 대한 지원을 확대하고 있습니다.

AI 시장의 미래

AMD의 mi 325x와 네트워킹 혁신은 NVIDIA의 시장 지배력에 도전장이 될 수 있습니다. AI 시장은 아직 초기 단계에 있으며, AMD와 NVIDIA 간의 경쟁은 이 업계의 미래를 형성하는 데 중요한 역할을 할 것입니다.