12월 27일, IEEE Spectrum은 스타트업 Point2와 AttoTude가 무선 주파수(RF)/테라헤르츠(THB) 기술을 사용하는 "액티브 RF 케이블" 솔루션을 개발했다고 보고하는 블로그 게시물을 게시했습니다. 이 솔루션은 구리 케이블의 저렴한 비용과 광섬유의 장거리 이점을 결합하여{4}}랙-마운트형 AI 시스템에 고성능 확장 연결을 제공합니다.
AI 모델 학습 속도는 '수평-확장'과 '수직{1}}확대'에 따라 달라집니다.
'스케일{0}}아웃'은 일반적으로 장거리 전송이 필요하고 주로 광섬유에 의존하는 공동 컴퓨팅을 위해 네트워크를 통해 여러 컴퓨터를 연결합니다. 반면에 '확장-'에는 더 많은 GPU를 슈퍼컴퓨터에 담아 거대한 두뇌처럼 공동으로 작업할 수 있도록 하는 것이 포함되며, 주로 단거리, 고밀도-연결을 위해 구리 케이블을 사용합니다.
Point2의 케이블은 8개의 e-Tube 광섬유로 구성되어 있으며 각 광섬유는 초당 200기가비트 이상의 데이터를 전송할 수 있습니다.
2027년까지 시스템당 GPU 수를 72개에서 576개로 늘리겠다는 엔비디아의 계획에 따라 데이터 전송 속도는 테라비트 수준으로 치솟고 있습니다. 이 시점에서 구리 케이블은 '표피 효과'라는 물리적 한계에 직면하게 됩니다.
표피 효과란 도체에 교류 전류가 흐를 때 주파수가 높을수록 도체 표면(표피)에 전류가 더 많이 흐르게 되어 중간에 공간이 낭비되고 저항이 증가하는 현상을 말합니다.
구리 케이블의 물리적 병목 현상과 광섬유의 높은 비용에 직면한 스타트업 Point2 Technology와 AttoTude는 전파 기술을 활용하여 데이터를 전송하는 다른 접근 방식을 취했습니다.
Point2는 전기 신호를 밀리미터{3}}파 신호로 변환하는 칩을 통합한 "e-Tube"라는 폴리머 도파관 케이블을 대량 생산할 예정입니다. 1.6Tb/s 버전에는 8개의 얇은 코어가 포함되어 있으며 각 도파관은 90GHz 및 225GHz 주파수 대역을 모두 활용하여 데이터를 전달합니다.
케이블 양쪽 끝에 있는 플러그형 모듈은 디지털 신호를 변조된 밀리미터{0}}파 무선 주파수 신호로 직접 변환할 수 있습니다. 단일 케이블은 총 1.6Tb/s의 대역폭과 최대 7미터의 전송 거리를 제공할 수 있어 랙-장착 확장 요구에 충분합니다.
초당 1.6테라비트를 전송하는 e-튜브 케이블은 단면적이 32-게이지 구리 케이블의 절반에 불과하지만 전송 거리는 20배 더 큽니다. (이미지 출처: Point2) RF 케이블은 거리 문제를 해결할 뿐만 아니라 에너지 효율성과 비용 측면에서도 획기적인 발전을 이루었습니다. Point2 데이터에 따르면 시스템 전력 소비 및 비용은{10}광전송 솔루션의 1/3에 불과하고 지연 시간은 1/1000만큼 짧습니다.
이와 대조적으로 Credo와 같은 제조업체에서는 구리 케이블 수명을 연장하기 위해 -'리타이머'가 내장된 활성 케이블(AEC)을 도입했지만 이로 인해 전력 소비와 복잡성이 증가합니다.
또 다른 회사인 AttoTude도 비슷한 개념을 탐구하고 있지만 더 높은 주파수 범위를 목표로 하고 있습니다. 이 시스템은 디지털 인터페이스, 테라헤르츠 신호 발생기 및 믹서를 통합하여 300~3000GHz 범위의 반송파로 데이터를 인코딩하고 좁은 유전체 도파관을 통해 전송할 수 있습니다.
이 회사는 4-미터- 길이의 도파관을 사용하여 970GHz에서 224Gb/s의 전송 속도를 성공적으로 시연했으며, 향후 실현 가능한 전송 거리가 약 20미터에 이를 것으로 예상하여 장거리 애플리케이션에 대한 기술의 잠재력을 보여주었습니다.
AttoTude 창립자 Dave Welch는 포토닉스 기술이 "링크 발진"과 같은 신뢰성 문제를 겪고 있으며 극도로 높은 제조 정밀도를 요구한다고 지적합니다. 성숙한 전자 제조 공정을 기반으로 하는 무선 주파수(RF) 기술은 더 높은 신뢰성을 제공하며 광섬유의 마이크로미터{0}} 수준 정렬 정밀도가 필요하지 않습니다.
RF 케이블은 처음에는 플러그형 인터페이스 형태로 나타나겠지만, 두 회사의 궁극적인 목표는 RF 트랜시버를 GPU 패키지에 직접 통합하는 것입니다. Nvidia와 Broadcom은 현재 -광 모듈을 프로세서(CPO)와 함께 패키징하려고 시도하고 있지만 상당한 제조 및 열 방출 문제에 직면해 있습니다.
RF(무선 주파수) 솔루션은 파장이 길기 때문에 광섬유보다 패키징 정렬 정밀도에 대한 허용 오차가 훨씬 더 크고 열 방출 요구 사항이 크게 줄어듭니다. 몰렉스(Molex), 폭스콘(Foxconn)과 같은 거대 커넥터 기업이 시장에 진입하면서 이 '전파 도파관' 기술은 미래 AI 데이터센터의 일부 구리 케이블과 광섬유를 대체해 컴퓨팅 성능 확장을 위한 새로운 동맥이 될 것으로 예상된다.
