엔비디아, 기술 산업과 협력하여 AI로 하드웨어 설계 혁신
엔비디아는 산업 파트너들과 협력하여 대규모 언어 모델(LLM)을 활용한 하드웨어 개발을 촉진하는 대회를 시작했습니다. 현재 GPT-4와 같은 LLM의 문제점은 인간의 도움 없이는 실용적인 하드웨어 설계를 생성할 수 없다는 것입니다. 이는 주로 훈련에 하드웨어 특정 코드가 부족하기 때문입니다. 이 대회의 목표는 이미지 인식의 ImageNet 혁명에서 영감을 받아 견고한 오픈소스 Verilog 코드 데이터셋을 만드는 것입니다. 엔비디아 연구원 짐 팬은 GPU 설계 자동화에 대해 낙관적이며, 엔비디아가 인간의 직접적인 입력 없이도 칩을 지속적으로 개선할 수 있는 미래를 상상하고 있습니다. 이 대회는 두 단계로 나뉩니다: 첫 번째는 기존 Verilog 데이터셋을 확장하는 것이고, 두 번째는 자동화된 방법을 통해 데이터셋의 품질을 향상시키는 것입니다. 참가자들은 자신의 기여가 미세 조정된 CodeLlama 7B-Instruct 모델의 성능을 얼마나 향상시키는지에 따라 평가될 것입니다. 대회 등록은 7월에 마감되며, 결과는 10월에 열리는 국제 컴퓨터 지원 설계 회의에서 발표될 예정입니다.
주요 내용
- 엔비디아는 산업 파트너들과 협력하여 대규모 언어 모델(LLM)을 활용한 하드웨어 개발을 촉진하는 대회를 시작했습니다.
- 이 대회는 이미지 인식에서 ImageNet의 영향을 받아 훈련을 위한 오픈소스 Verilog 코드 데이터셋을 만드는 것을 목표로 합니다.
- 엔비디아는 GPU 설계를 자동화하여 하드웨어와 AI 모델 기능을 반복적으로 개선하려고 합니다.
- 이 대회는 두 단계로 구성되어 있습니다: Verilog 데이터셋을 확장하고 데이터 정제를 통해 품질을 향상시키는 것입니다.
- 대회 등록은 7월 말에 마감되며, 결과는 10월 말에 열리는 회의에서 발표될 예정입니다.
분석
엔비디아의 이 대회는 하드웨어 설계 자동화를 혁신할 수 있으며, 이는 첨단 칩 기술에 의존하는 기술 대기업과 스타트업에 영향을 미칠 것입니다. ImageNet에서 영감을 받은 이 이니셔티브는 AI 능력과 실용적인 하드웨어 생산 사이의 차이를 좁히는 것을 목표로 합니다. 성공하면 엔비디아의 생산 주기를 간소화하여 비용을 절감하고 혁신을 가속화할 수 있습니다. 반면에 경쟁사들은 혁신하지 않으면 도태될 위험이 있습니다. 단기적으로는 이 대회가 협력과 급속한 개발을 촉진할 것이며, 장기적으로는 하드웨어 설계를 보다 접근하기 쉽고 효율적으로 만들어 산업 표준을 재정의할 수 있습니다.
알고 계셨나요?
- Verilog 코드:
- Verilog는 전자 시스템을 모델링하는 데 사용되는 하드웨어 기술 언어(HDL)입니다. 레지스터-전송 수준의 추상화에서 디지털 회로의 설계 및 검증에 가장 일반적으로 사용됩니다.
- 견고한 오픈소스 Verilog 코드 데이터셋의 생성은 대규모 언어 모델(LLM)이 하드웨어 설계를 이해하고 생성할 수 있도록 하는 것을 목표로 합니다. 현재 하드웨어 특정 훈련 데이터가 부족하기 때문에 이는 도전과제입니다.
- CodeLlama 7B-Instruct 모델:
- CodeLlama 7B-Instruct는 코드 생성 및 이해를 위해 설계된 대규모 언어 모델인 CodeLlama 모델의 특정 변형입니다. "7B"는 약 70억 개의 매개변수를 가지고 있음을 나타냅니다.
- 이 대회의 맥락에서 참가자들은 확장 및 향상된 Verilog 데이터셋을 사용하여 이 모델을 미세 조정하여 실용적인 하드웨어 설계 생성 능력을 향상시킬 것입니다.
- ImageNet 혁명:
- ImageNet은 시각 객체 인식 소프트웨어 연구에 사용하기 위해 설계된 대규모 시각 데이터베이스입니다. 기계 학습에서 이미지 인식 작업의 표준 벤치마크가 되었습니다.
- "ImageNet 혁명"은 ImageNet 도입 후 이미지 인식에서 발생한 중요한 발전, 특히 그 데이터셋에 훈련된 딥 러닝 모델에 의해 달성된 돌파구를 의미합니다.
- 엔비디아의 이 대회는 이 혁명에서 영감을 받아 하드웨어 특정 작업에 대한 LLM을 훈련하기 위한 포괄적인 데이터셋을 만들어 하드웨어 설계에서 유사한 돌파구를 달성하는 것을 목표로 합니다.