CPU와 GPU라는 '세 가지 기둥'을 갖춘 DPU가 정말 그렇게 큰 잠재력을 갖고 있을까요?

저자 | Zhao Guangli

최근 몇 년 동안 무어의 법칙이 '정체'되어 중앙 처리 장치(CPU)의 성능 향상에 드는 한계 비용이 급격하게 상승했습니다. 연구 데이터에 따르면 현재 CPU 성능의 연간 증가율(영역 정규화 후)은 약 3%에 불과합니다. 그러나 컴퓨팅에 대한 사람들의 수요는 여전히 폭발적으로 증가하고 있습니다.

이런 배경 속에서 인공지능(AI) 칩을 비롯한 특수 컴퓨팅 칩이 점차 역사의 무대에 등장하며 빛을 발했다. 현재 데이터 중심 특수 프로세서 'DPU'는 특수 컴퓨팅 칩의 '신생 기업'으로 자리잡고 있다. 미국의 칩 대기업 엔비디아는 이를 데이터센터에서 CPU, 그래픽처리장치(GPU)에 이어 '세 번째 메인 칩'으로 자리매김해 업계 열풍을 일으키기도 했다.

CPU와 GPU라는 '세 가지 기둥'을 갖춘 DPU가 정말 그렇게 큰 잠재력을 갖고 있을까요? 적용 시나리오는 무엇입니까? 우리나라가 DPU 발전 기회를 잡을 수 있을까? 최근 업계 최초의 간행물은 중국과학원 컴퓨터기술연구소(이하 중국과학원 컴퓨팅기술연구소)가 편집하고 Zhongke Yushu (Beijing) Technology Co., Ltd.는 중국 컴퓨터 학회 집적 회로 설계 전문 그룹 및 컴퓨터 아키텍처 국가 핵심 연구소에서 "전용 데이터 프로세서(DPU) 기술 백서"(이하 "DPU 기술 백서")를 발표했습니다. 위의 문제를 바탕으로 "중국 과학 뉴스"는 주요 편집자들에게 연락하고 인터뷰하여 알아보았습니다.

"DPU의 가장 직접적인 기능은 CPU의 오프로드 엔진 역할을 하는 것이며, 그 효과는 CPU의 '부하를 줄이는 것'입니다." "DPU 기술 백서"와 중국과학원 컴퓨팅 기술 연구소의 연구원은 중국 과학 저널에 "비유적으로 DPU는 데이터 센터에 "닭을 죽이는" 도구를 제공합니다. 무엇이 절약됩니까? CPU 컴퓨팅 성능을 해제하고 이를 더 필요로 하는 비즈니스 부하에 맡기는 CPU의 "큰 칼"입니다.

CPU의 네트워크 프로토콜 처리 작업을 대신하는 것이 좋은 예입니다. Yan Guihai는 예를 들어 데이터 센터가 회선 속도로 10G 네트워크만 처리하는 경우 40G, 100G 또는 그 이상의 속도인 경우 8코어 고급 CPU의 컴퓨팅 성능이 절반 정도 필요하다고 말했습니다. 네트워크를 사용하면 성능 오버헤드가 더욱 커집니다.

클라우드 컴퓨팅 거대 기업인 아마존 클라우드 서비스(AWS)는 이를 '데이터 센터 세금'이라고 생생하게 표현합니다. 비즈니스 프로그램을 실행하기 전에 네트워크 데이터에 액세스하려면 많은 컴퓨팅 리소스가 필요합니다.

"DPU의 임무는 네트워크 가상화, 하드웨어 리소스 풀링과 같은 인프라 계층 서비스를 제공하여 CPU의 컴퓨팅 성능을 상위 계층 애플리케이션에 제공하는 것입니다." "DPU 기술 백서" 편집위원 중국 Zhang Yu Keyushu 수석 부사장은 "CPU 처리 효율이 낮아 GPU가 처리할 수 없는" 부하를 전용 DPU에 오프로드함으로써 "데이터 센터 세금"을 상쇄할 수 있다고 설명했습니다. 전체 컴퓨팅 시스템 효율성을 개선하고 전체 시스템의 총 소유 비용을 줄이는 데 도움이 됩니다.

Zhang Yu는 DPU가 주로 네트워크 데이터와 입출력(IO) 데이터를 처리하고 대역폭 압축, 보안 암호화, 네트워크 기능 가상화 및 기타 기능을 제공한다고 말했습니다. "이것은 일반 사용자가 매일 인식하는 다양한 애플리케이션에서 가장 먼 기능이라고 할 수 있습니다. 그리고 이러한 기본 기능은 일상적인 애플리케이션을 보다 효율적이고 안전하며 실시간으로 만드는 것을 보장합니다."

산업 DPU에는 "D"를 부르는 방법이 세 가지가 있으므로 DPU에는 세 가지 중국어 이름이 있습니다.

하나는 "데이터"이고, 하나는 "데이터 프로세서"이고, 하나는 "데이터 센터 프로세서"로 번역됩니다. 따라서 DPU는 "데이터 중심"입니다. "데이터 중심 프로세서"라고 불립니다.

"DPU에 대한 위의 세 가지 진술은 DPU의 특성을 다양한 각도에서 반영하고 있으며 모두 확실한 장점이 있습니다. 우리는 DPU의 의미를 이해하기 위해 세 가지 다른 차원으로 사용할 수 있다고 믿습니다." 말했다 .

"'소프트웨어와 하드웨어'가 일반화되면서 다양한 DPU의 인기로 인해 이기종 컴퓨팅의 잠재력이 마음껏 발휘될 것입니다." "DPU 기술 백서" 편집위원 Zhongke Yushu Co- 창립자이자 CTO인 Lu Wenyan은 차세대 DPU가 컴퓨팅을 위한 가속 엔진 역할을 할 수 있을 뿐만 아니라 "제어 평면"(즉, 데이터 처리 기능의 적용 범위 추구) 기능도 갖추고 있다고 믿습니다. 네트워크 가상화 및 IO 가상화, 스토리지 가상화 및 기타 작업을 보다 효율적으로 수행하여 CPU의 컴퓨팅 성능을 애플리케이션에 완전히 할당합니다.

"DPU의 출현은 다양한 산업 분야의 비즈니스 계층의 디지털 애플리케이션을 더욱 포괄적이고 원활하며 친환경적으로 만들 것이라고 말할 수 있습니다."

시장 규모 측면에서 Fungible과 NVIDIA의 예측에 따르면 데이터 센터에 사용되는 DPU는 데이터 센터 서버와 동일한 수준에 도달할 것으로 예상됩니다.

"매년 약 수천만 대의 새로운 서버가 추가됩니다. 모든 서버에 네트워크 카드가 장착되어야 하는 것처럼 서버에는 GPU가 없을 수도 있지만 하나 이상의 DPU가 있어야 합니다. " Yan Guihai는 서버가 매년 약 1,500만 대가 추가된다고 말했습니다. DPU당 10,000위안으로 계산하면 이 시장 규모는 수천억 달러에 이를 것입니다.

이 수천억 시장에서 NVIDIA, Intel, Marwell, Broadcom 및 기타 제조업체와 같은 국제적인 전통적인 칩 거대 기업이 DPU 제품 연구 개발을 적극적으로 전개하고 있습니다.

이러한 거대 칩 회사의 레이아웃은 예상할 수 없는 것이 아닙니다. 그들은 스마트 네트워크 카드 연구 및 개발 기반(예: Broadcom)을 보유하여 기술 범위를 계속 확장하거나 인수하여 DPU 분야를 보완할 수도 있습니다. 전용 가속 칩 회사(예: NVIDIA 및 Intel)의 기술 역량. 이에 비해 더 언급할 가치가 있는 점은 Amazon이 소유한 양대 클라우드 컴퓨팅 거대 기업인 AWS와 Alibaba Cloud가 오랫동안 데이터 센터 오버헤드 문제를 인식하고 모범 사례를 가지고 있다는 점입니다.

"DPU 기술 백서"에 따르면 2013년 AWS는 원격 리소스, 암호화 및 암호 해독, 오류 추적, 보안 정책 및 기타 서비스를 통해 가상 머신에 리소스 오버헤드를 제공하는 Nitro 제품을 개발했습니다. 전용 가속기에서 실행되는 "경량 관리 프로그램 + 맞춤형 하드웨어"를 도입하면 CPU 리소스가 단번에 30% 절약됩니다. 거의 동시에 Alibaba Cloud는 하드웨어 기반 MOC 카드를 사용하여 네트워크, IO, 스토리지 및 주변 장치의 가상화를 균일하게 지원하는 "X-Dragon 아키텍처"(X-Dragon 시스템)도 개발하기 시작했습니다. X-Dragon Architecture'가 4세대로 바뀌었습니다.

"DPU가 오랫동안 업계에 있었다고 볼 수 있다. 초기 네트워크 프로토콜 처리 오프로딩부터 후속 네트워크, 스토리지, 가상화 오프로딩까지 그 역할이 매우 중요하지만, 이전에는 DPU에 실제 이름이 없었지만 이제는 새로운 수준으로 이동할 때입니다.”라고 Yan Guihai는 말했습니다.

다행히 DPU 기술을 둘러싼 국내 일부 스타트업 기업이 점차 떠오르고 있다. 'DPU 기술 백서' 작성에 참여한 Zhongke Yushu 외에도 Yunbao Intelligence, Nebula Intelligence, Xinqiyuan, Yunmai Xinlian 등 새로 설립된 기술 스타트업도 있어 좋은 추진력을 보이고 있습니다.

Zhongke Yushu를 예로 들면 이 스타트업 회사의 창립 팀은 중국과학원 컴퓨팅 기술 연구소 출신입니다. 이는 DPU와 데이터의 이론적 기반을 깊이 이해하고 있습니다. 센터 아키텍처의 엔지니어링 구현 경험은 Lingsi 및 Huawei와 같은 핵심 백본의 결합으로 인해 축적되었습니다. 2019년 Zhongke Yushu는 1세대 DPU 칩의 테이프아웃을 완료했으며 2022년에 2세대 DPU 칩 "K2"를 출시할 것으로 예상됩니다.

"우리는 DPU의 잠재력이 정말 크다고 믿습니다." Yan Guihai의 관점에서는 기술 발전의 관점에서 DPU의 출현은 불가피합니다. 과거에는 그다지 높지 않았습니다. 5년간의 급속한 성장으로 인해 DPU에 대한 많은 응용 시나리오가 생겨났으며, 이는 5G, 클라우드 컴퓨팅, 빅 데이터, 데이터 센터 및 엣지 컴퓨팅과 같은 분야에 널리 배포될 것입니다.

올해 공업정보화부가 발표한 '신규 데이터센터 개발 3개년 실행 계획(2021~2023)'에서 Yan Guihai는 새로운 데이터센터의 보기 드문 역사적 발전 기회를 보았습니다. 컴퓨팅 파워 칩.

이 계획에는 컴퓨팅 성능과 컴퓨팅 효율성 향상을 가속화하고 "CPU, GPU 등 이기종 컴퓨팅 성능 향상을 촉진하고 컴퓨팅 성능에 대한 독립적인 연구 개발의 비율을 점진적으로 늘려나가겠다"는 내용이 명확하게 제시되어 있습니다. "전용 서버와 같은 핵심 기술의 연구 개발을 강화합니다." "5G 및 산업 인터넷과 같은 주요 애플리케이션 시나리오를 기반으로 엣지 데이터 센터 애플리케이션 벤치마크 구축" 및 기타 요구 사항 및 조치.

"국내 제조사들은 아직 칩 제품화 과정에서 해외 1위 제조사들에 뒤처져 있지만 DPU 아키텍처에 대한 이해에 있어서 남다른 통찰력을 갖고 있으며, 우리나라는 현재 분야에 상관없이 데이터센터 분야에 종사하고 있다. 시장 규모, 성장률, 사용자 수 등 모두 외국에 비해 큰 이점을 갖고 있습니다.” Yan Guihai는 국내 제조업체가 이러한 “응용 가능성”을 최대한 활용하여 개발 속도를 가속화하고 외국과 경쟁할 것으로 기대하고 있습니다. DPU 트랙의 제조업체입니다."

하지만 도전과 기회는 공존합니다.

"DPU 표준화된 애플리케이션을 해결하는 데는 여전히 특정 과제가 있습니다." Yan Guihai는 데이터 센터 자체의 복잡성으로 인해 주요 제조업체가 상용 기성 부품(예: COTS)을 사용하여 구축한다고 설명했습니다. 저비용을 추구하면서 한편으로는 다양한 유형의 고객을 위한 표준화된 제품을 만들려고 노력하지만 그 외에는 거의 모든 기술 구현이 "바다를 건너는 여덟 명의 불멸자"입니다. 마법의 힘" - AWS와 Nitro, Alibaba Cloud 등 MOC가 있습니다.