에치드, 트랜스포머 모델용 고속 소후 칩 공개
2022년, 스타트업 에치드는 챗GPT와 같은 AI 모델의 핵심인 트랜스포머에 대규모 투자를 통해 혁신적인 도약을 보였습니다. 이를 통해 트랜스포머 모델에 특화된 ASIC 칩인 소후를 개발했습니다. 일반 GPU와 달리 소후는 트랜스포머 작업에만 집중하여 엔비디아의 B200 GPU를 약 10배 이상 빠르게 처리합니다.
소후의 특화된 설계는 뛰어난 효율성을 제공하며, FLOPS 용량이 90% 이상 활용되는 것은 일반 GPU의 30%와 대조적입니다. 따라서 소후는 트랜스포머 기반 작업에서 놀라운 능력을 발휘하여 Llama 70B 처리량에서 초당 50만 개 이상의 토큰을 처리합니다.
에치드는 소후와 같은 특화된 칩이 미래를 상징한다고 믿으며, 특히 구글과 마이크로소프트와 같은 대형 AI 기업들이 트랜스포머 기술을 계속 확장함에 따라 그 가치를 더욱 높일 것으로 보입니다. 회사는 소후의 생산을 강화하며 AI 계산 시장에서 트랜스포머의 출현에 대한 자신감을 나타냅니다. 또한 트랜스포머에 도전할 수 있는 신기술을 위한 ASIC을 제작할 의향이 있음을 암시합니다.
핵심 요약
- 에치드는 트랜스포머 모델에 최적화된 ASIC 칩인 소후를 소개했으며, 엔비디아의 B200 GPU보다 거의 10배 빠른 속도를 자랑합니다.
- 소후는 90% 이상의 FLOPS 활용률을 달성하여 일반 GPU를 크게 능가하며, 트랜스포머 작업에 효율적인 선택이 되었습니다.
- 이 칩은 트랜스포머에만 유리한 설계로, 수학적 연산에 중점을 두고 불필요한 제어 흐름 로직을 제거하는 전략적 접근을 취합니다.
- 에치드는 소후와 같은 특화된 칩이 미래를 형성할 것으로 보며, 이미 대량 생산 주문을 받았습니다.
- 회사는 새로운 AI 모델과 기술의 출현에 맞춰 하드웨어 시장의 선두에 있을 것입니다.
분석
에치드의 트랜스포머 전용 ASIC인 소후에 대한 전략적 집중은 AI에서 트랜스포머 모델의 증가하는 영향력을 활용할 수 있는 위치에 있습니다. 이러한 전략은 엔비디아의 GPU 우위에 도전하는 것뿐만 아니라 구글과 마이크로소프트와 같은 대형 AI 연구소의 요구와도 일치합니다. 단기적으로는 에치드의 시장 점유율과 매출이 증가할 수 있으며, 장기적으로는 AI 하드웨어 환경을 바꾸어 일반 GPU보다 특화된 ASIC을 선호하게 할 수 있습니다. 이러한 변화는 엔비디아와 관련된 금융 상품의 변동을 유발할 수 있으며, 다른 칩 제조사가 유사한 특화 솔루션을 개발하도록 자극할 수 있습니다.
알고 계셨나요?
- ASIC (Application-Specific Integrated Circuit):
- 특정 작업이나 용도를 위해 설계된 ASIC은 CPU나 GPU와 같은 범용 집적회로와 다릅니다. AI 모델의 트랜스포머 계산을 위해 최적화된 소후는 범용 칩보다 효율성과 성능이 뛰어납니다.
- AI의 트랜스포머 모델:
- GPT와 BERT를 포함한 이러한 지배적인 신경망 아키텍처는 순차적 데이터를 처리하는 능력으로 자연어 처리를 혁신했습니다.
- FLOPS 활용률:
- 이 컴퓨터 성능 측정 기준은 특히 복잡한 수학적 계산에서 소후의 뛰어난 효율성을 강조합니다. 90% 이상의 FLOPS 활용률은 칩의 특화와 효율성을 보여줍니다.