캘리포니아의 AI 단속: 뉴스움 주지사, 딥페이크, 선거의 공정성, 디지털 권리를 포괄적인 법안으로 다루다
캘리포니아는 인공지능 규제의 최전선에 있으며, 가빈 뉴스움 주지사가 이끌고 있습니다. 그의 책상에는 38개의 AI 관련 법안이 있으며, 일부는 이미 법으로 제정되었고 일부는 아직 검토 중입니다. 뉴스움 주지사는 AI의 혁신적인 가능성을 수용하면서도 그 위험 요소를 해결하는 섬세한 균형을 유지하고 있습니다.
딥페이크와 디지털 허위 정보에 대응하기
주목해야 할 문제 중 하나는 특히 정치적 및 성적인 맥락에서의 딥페이크의 증가입니다. 딥페이크는 개인뿐만 아니라 민주주의 자체에 심각한 위협이 됩니다. 뉴스움의 행정부는 이 문제에 정면으로 대응하고 있습니다. 이미 통과된 여러 법안은 AI로 생성된 허위 내용의 유해한 확산을 없애는 것을 목표로 하고 있습니다. 서명된 법안 중 AB 2655와 AB 2839는 선거와 관련된 딥페이크에 중점을 두고 있습니다. 이 법안들은 주요 온라인 플랫폼이 AI 조작된 선거 콘텐츠를 표시하거나 제거하도록 강제합니다. 유권자는 투명성을 가질 자격이 있으며, 이러한 규제는 허위 AI 콘텐츠가 정치적 풍경을 왜곡하지 않도록 보장합니다.
AI 시대의 배우 보호
뉴스움은 할리우드에서 AI의 침해에 대해서도 저항하고 있습니다. 배우들의 디지털 모습을 위협하는 새로운 AI 도구가 등장하면서 개인의 프라이버시와 지적 재산권에 대한 실제 위협이 발생하고 있습니다. 두 가지 중요한 법안이 통과되어 스튜디오가 배우의 동의 없이 AI로 생성된 버전을 만드는 것을 불법으로 만듭니다. 이는 배우의 얼굴, 목소리 또는 성격이 허가 없이 도용되어 사용될 수 없도록 보장하며, 이는 엔터테인먼트 산업에 대한 중요한 승리입니다.
명시적 딥페이크 범죄화
AI로 생성된 성적 콘텐츠의 증가는 또 다른 전선입니다. 뉴스움은 감정적 피해를 주기 위해 의도적으로 제작된 AI 생성 음란 콘텐츠의 제작 및 유포를 범죄로 규정하는 SB 926로 단호한 입장을 취하고 있습니다. 이 법안은 소셜 미디어 플랫폼이 사용자들이 이러한 콘텐츠를 신고하고 제거할 수 있는 메커니즘을 갖추도록 의무화합니다. 이는 필수적입니다. 피해자는 불필요한 절차 없이 해로운 콘텐츠를 제거할 수 있어야 합니다. 아무도 자신의 모습이 온라인에서 악용될 것을 두려워해서는 안 됩니다.
AI로 생성된 콘텐츠의 투명성과 라벨링
AI로 생성된 콘텐츠 전반에 대한 문제도 있습니다. AI로 생성된 이미지, 비디오 및 텍스트가 소셜 미디어와 다른 플랫폼에 넘쳐나는 가운데, 사용자들은 무엇이 실제이고 무엇이 기계에서 만들어진 것인지 알 권리가 있습니다. 뉴스움은 생성적 AI 시스템(예: OpenAI의 DALL-E)이 콘텐츠가 AI로 생성되었음을 공지해야 한다는 SB 942를 지지했습니다. 이는 간단하지만 효과적인 조치로, 일반인이 진짜와 AI가 생산한 미디어를 쉽게 구분할 수 있도록 합니다.
주요 쟁점: SB 1047
이제 SB 1047에 대해 이야기해 봅시다. 이 법안은 모두가 주목하고 있으며, 대규모 AI 프로그램(1억 달러 이상이 드는 프로그램)이 엄격한 안전 테스트를 받도록 요구하는 포괄적인 AI 규제를 제안합니다. 또한 불법 AI 시스템을 차단하기 위한 비상 "킬 스위치"의 설치를 요구합니다. 이 법안은 대담하고 미래 지향적이며, 캘리포니아의 검사가 AI 기업에 대한 법적 조치를 취할 수 있도록 권한을 부여합니다.
하지만 여기서 주의할 점은 뉴스움이 조심스럽게 접근하고 있다는 것입니다. SB 1047이 규제되지 않은 AI가 초래하는 많은 위험을 다루고 있지만, 뉴스움은 그것이 혁신에 미칠 수 있는 위축 효과에 대해 우려하고 있습니다. 누구도 창의성을 억제하거나 스타트업이 AI의 경계를 허물지 못하도록 하고 싶지 않습니다. 동시에, 조정되지 않은 AI 시스템의 위험은 무시할 수 없습니다. 이는 고위험 작업이며, 뉴스움은 올바른 균형을 찾는 것이 전국적이고 세계적인 영향을 미칠 것임을 알고 있습니다.
캘리포니아가 이끄는 가운데 워싱턴은 뒤처지다
더욱 중요하게 만드는 것은 연방 차원에서의 조치 부족입니다. 연방 정부는 AI 규제에 소홀하여 캘리포니아가 이를 충족시키기 위해 나서고 있습니다. 뉴스움은 캘리포니아를 단지 한 주가 아니라 AI 혁신과 거버넌스의 리더로 보고 있습니다. 캘리포니아가 세계에서 가장 최첨단 AI 기업들이 번창하는 곳임은 비밀이 아닙니다. 뉴스움은 혁신이 꽃피는 동안 AI가 통제를 벗어나지 않도록 하기를 원합니다. 이는 미묘한 접근 방식이지만, 특히 워싱턴이 무관심할 때 캘리포니아는 선두에 서야 할 여지가 있습니다.
향후 전망: 포괄적 규제보다 정밀한 접근
뉴스움은 남은 법안들을 처리하는 과정에서 포괄적인 개혁보다는 더 "정밀한" 조치를 취할 것으로 보입니다. 산업 전체를 억제할 수 있는 포괄적 제재 대신, AI의 위험이 가장 두드러진 특정 분야—딥페이크, 디지털 모습, 선거 개입—에 집중할 것입니다. 캘리포니아는 AI의 최전선에 남고 싶지만, 시민들의 안전과 프라이버시를 해치고 싶지 않습니다.
뉴스움에게 시간은 촉박하며, 미처 서명하거나 거부하지 못한 법안들의 기한이 빠르게 다가오고 있습니다. 그의 결정은 캘리포니아의 AI 환경을 형성할 뿐만 아니라, 나머지 국가에 대한 기준을 설정할 수 있습니다. AI는 사라지지 않으며—빠르게 변화하고 있습니다. 캘리포니아는 그 진화가 책임감 있게 이루어지도록 자리매김하고 있으며, AI가 제공하는 기회와 위험을 모두 주의하며 바라보고 있습니다.
주요 요점
- 캘리포니아 주지사 가빈 뉴스움은 논란이 되는 SB 1047을 포함해 38개의 AI 관련 법안을 평가하고 있습니다.
- 뉴스움은 미국에서 가장 포괄적인 법안 중 일부인 8개의 AI 법안을 서명했습니다.
- 새로운 법률은 딥페이크 누드의 생성 및 유포를 범죄화하고, 소셜 미디어 플랫폼이 이를 신고하고 제거하도록 요구합니다.
- 콘텐츠의 출처와 생성 과정을 공개하는 것이 AI로 생성된 콘텐츠에 대해 필수적입니다.
- 캘리포니아는 선거에서의 AI 딥페이크를 방지하고, AI로 생성된 미디어에서 배우의 권리를 보호하기 위한 법을 제정했습니다.
분석
캘리포니아에서의 AI 법안은 기술 혁신과 윤리적 고려의 균형을 찾고자 하며, 이는 OpenAI와 소셜 미디어 플랫폼과 같은 기술 기업에 영향을 미칠 수 있습니다. 딥페이크 누드의 범죄화와 콘텐츠 라벨링 의무화는 악용을 억제하는데 기여할 수 있지만, 플랫폼에 대한 규제 부담을 초래할 수도 있습니다. AI로 생성된 미디어에서 배우의 권리를 보호하는 것은 디지털 시대의 지적 재산권에 대한 선례를 설정합니다. 특히 SB 1047과 같은 미비된 법안들은 선거에서 AI의 개입을 더욱 규제하여 정치적 담론 및 캠페인 전략에 영향을 미칠 수 있습니다. 단기적으로 이러한 법률은 AI의 악용을 줄일 수 있지만, 장기적으로는 국가 AI 정책 및 글로벌 기술 기준에 영향을 미칠 수 있습니다.
알고 계셨나요?
- 딥페이크 누드: 딥페이크 누드는 개인이 동의 없이 노골적이거나 위협적인 상황에 배치된 AI로 생성된 이미지 또는 비디오를 의미합니다. 이 콘텐츠는 깊은 학습 알고리즘을 사용하여 사실적인 시각 및 음성 콘텐츠를 조작하거나 생성합니다. 캘리포니아의 법률은 이러한 콘텐츠의 제작과 유포를 범죄로 규정하여 협박이나 괴롭힘을 방지하고자 합니다.
- 출처 데이터: 출처 데이터는 콘텐츠의 기원, 생성 및 이력을 제공하는 메타데이터를 포함합니다. AI로 생성된 콘텐츠의 경우, 출처 데이터는 투명성을 높이는 데 매우 중요하며, 사용자가 이미지, 비디오 또는 다른 미디어가 AI로 생성된 것인지 진짜인지 판단할 수 있도록 돕습니다. 캘리포니아의 새로운 법률은 생성적 AI 시스템이 출처 데이터를 포함하도록 의무화하고 있습니다.
- 디지털 복제: 디지털 복제는 개인의 고도로 상세하고 사실적인 디지털 표현을 의미하며, 종종 AI 및 깊은 학습 기술을 사용하여 생성됩니다. 이러한 복제는 영화, 광고 및 비디오 게임을 포함한 다양한 미디어 형식에서 사용될 수 있습니다. 캘리포니아의 새로운 법률은 AI 생성 콘텐츠에서 배우들의 개인적 형태를 사용하기 위해 스튜디오의 명시적인 동의를 요구하여 배우를 보호합니다.