캘리포니아 법안 SB 1047, 대규모 AI 모델 규제에 열띤 논쟁 야기
캘리포니아 주 상원의원 스콧 위너가 발의한 법안 SB 1047은 AI 미래에 대한 논쟁의 중심에 있습니다. 이 법안은 Meta, OpenAI, Anthropic 등 기업들이 자사 AI 시스템으로 인한 재앙적 피해에 책임을 지도록 하고자 합니다. 이미 캘리포니아 상원을 통과했으며 법제화 되어가고 있습니다.
이 법안에는 긴급 상황을 대비한 "셧다운" 조항이 포함되어 AI 기업들이 비상용 중지 스위치를 통합하도록 요구합니다. 또한 안전 기준 집행 및 AI 모델 제공업체 규제를 위해 캘리포니아 기술부 내에 "프런티어 모델 부서"를 신설합니다. AI 연구자인 제프리 힌튼과 요슈아 벵기오는 이 법안을 지지하며 AI 위험에 대한 예방책을 옹호하고 있습니다.
그러나 실리콘밸리의 많은 벤처캐피털리스트와 스타트업 창업자들은 이 법안이 혁신을 저해하고 오픈소스 AI 커뮤니티에 악영향을 줄 수 있다며 반대하고 있습니다. 그들은 이 법안으로 인해 기업들이 오픈소스 활동을 줄이거나 중단하게 되어 결국 대기업에 유리해질 것이라고 주장합니다.
핵심 요약
- 캘리포니아 법안 SB 1047은 대규모 AI 모델 규제 및 제공업체 책임 부과를 목표로 함
- 이 법안에는 긴급 상황 대비 AI 시스템 중지 스위치 의무화 조항 포함
- SB 1047은 AI 모델 제공업체 안전 기준 집행 및 규제를 위한 "프런티어 모델 부서" 신설
- AI 연구자 제프리 힌튼, 요슈아 벵기오가 AI 안전 관련 우려에 따라 이 법안을 지지
- 반대측은 SB 1047이 오픈소스 AI 개발을 저해하고 대기업에 유리할 것이라 주장
분석
SB 1047의 통과는 Meta, OpenAI, Anthropic 등 AI 개발사에 상당한 규제 과제를 안겨줄 것으로 보입니다. 이 규제로 인해 운영비용이 높아지고 독점 모델로 전환될 수 있어 혁신이 저해되고 대기업에 유리해질 수 있습니다. 반면 법안 지지자들은 AI 안전성 강화에 도움이 될 것이라 주장합니다. 단기적으로는 "대규모" 모델의 정의와 직접 규제 vs 활용 규제의 효과 논쟁이 이어질 것이며, 장기적으로는 AI 거버넌스에 대한 선례가 될 수 있습니다.