마이크로소프트의 StopNCII와의 협력: 비동의 친밀한 이미지 및 딥페이크 대응을 위한 중요한 단계
마이크로소프트는 최근 StopNCII와 협력하여 비동의 친밀한 이미지(NCII)와 AI로 생성된 딥페이크 문제에 대응하고 있습니다. 이 파트너십은 인터넷에서 해로운 콘텐츠의 확산을 막기 위한 더 광범위한 노력의 일환으로, 인공지능의 발전으로 인해 상황이 더 악화되고 있습니다. StopNCII의 첨단 기술을 사용함으로써, 마이크로소프트는 빙 검색 결과에서 이러한 콘텐츠가 나타나지 않도록 선제적으로 조치하고 있으며, 온라인에서 착취 피해자들의 안전을 강화하고 있습니다.
파트너십 운영 방식
StopNCII의 주요 기여는 디지털 지문 기술로, 개인이 실제 파일을 업로드하지 않고도 친밀한 이미지의 해시를 생성할 수 있게 해줍니다. 이러한 디지털 지문은 Meta, TikTok, Bumble, Reddit과 같은 참여 기업과 공유됩니다. 이러한 지문은 해당 플랫폼들이 서비스 전반에 걸쳐 관련 콘텐츠를 식별하고 제거할 수 있도록 도와주어, 그 확산을 효과적으로 방지합니다.
이 방법은 피해자들의 프라이버시를 보호하면서도 그들의 친밀한 이미지가 동의 없이 발견되거나 공유될 수 없도록 보장합니다. 또한 이러한 이미지를 직접 신고할 수 있는 방법을 제공하여, 피해자들이 NCII에 대해 쉽게 행동할 수 있게 합니다.
구글의 독립적인 접근 방식
마이크로소프트가 StopNCII와 협력하는 모델을 채택한 반면, 구글은 이 이니셔티브에 참여하지 않기로 선택했습니다. 구글은 NCII 및 딥페이크 사건을 처리하기 위해 자체 신고 도구를 계속 사용하고 있습니다. 피해자는 구글에 직접 이미지를 신고하여 삭제를 요청할 수 있습니다. 이 결정은 두 기술 대기업 간의 중요한 접근 방식 차이를 나타냅니다: 마이크로소프트는 업계 협력을 중시하는 반면, 구글은 내부적으로 문제를 관리하는 것을 선호합니다.
이러한 구별은 업계 전문가들 사이에서 질문을 불러일으키고 있는데, 특히 AI 기반 딥페이크 문제가 더욱 두드러지는 상황에서 그렇습니다. 그러나 피해자는 어떤 플랫폼과 상관없이 NCII와 딥페이크 사건을 신고할 수 있는 경로가 여전히 존재합니다. 특히 미성년자는 NCMEC(National Center for Missing & Exploited Children)를 통해 사건을 신고할 수 있으며, 이는 젊은 피해자를 위한 전문 신고 프로세스를 제공합니다.
입법 지원과 온라인 착취에서의 AI 역할
이 마이크로소프트의 이니셔티브는 AI로 생성된 콘텐츠와 관련된 온라인 해악 문제를 해결하려는 더 넓은 정부의 노력과 일치합니다. 미국 정부는 NO FAKES Act와 같은 새로운 입법 조치를 추진하고 있으며, 이는 악의적인 목적으로 사용되는 딥페이크 및 기타 합성 미디어의 확산을 줄이는 것을 목표로 하고 있습니다. NO FAKES Act는 리얼하고 해로운 콘텐츠를 생성할 수 있는 AI 기술이 제기하는 중대한 위협을 인식한 것으로 나타납니다.
마이크로소프트의 StopNCII와의 파트너십은 이러한 입법 조치와 보완적인 행동으로 간주되며, 온라인 착취 문제 해결을 위한 기술 산업 협력의 중요성을 강화합니다. 더욱 정교하고 탐지하기 어려운 딥페이크의 확산은 기업들이 변화하는 위협에 대처할 수 있는 최신 도구를 채택해야 함을 필요합니다. 이러한 맥락에서, 마이크로소프트의 StopNCII 해시 기술 통합은 중요한 진전을 이루고 있습니다.
딥페이크 탐지의 지속적인 도전
이 파арт너십이 긍정적인 발전임에도 불구하고, 전문가들은 딥페이크 문제를 효과적으로 해결하는 데 지속적인 도전이 있음을 강조합니다. 전통적인 NCII와는 달리, 딥페이크는 AI로 생성되며 종종 PhotoDNA와 같은 탐지 도구를 피할 수 있습니다. 딥페이크는 종종 합성 요소와 실제 이미지를 혼합하여 만들어지므로, 전통적인 탐지 시스템이 이를 감지하기 어렵습니다.
결과적으로, 기술 기업들은 탐지 기술을 지속적으로 혁신하고, 이 새로운 위협을 해결하기 위해 정책을 조정해야하는 압박을 받고 있습니다. 마이크로소프트와 다른 플랫폼이 채택한 협력 모델은 올바른 방향으로 나아가는 것으로 여겨지지만, 딥페이크에 대한 전투는 지속적인 정책 업데이트, 기술 발전 및 정부와 기술 기업 간의 협력이 필요할 것입니다.
결론
마이크로소프트의 StopNCII와의 파트너십은 비동의 친밀한 이미지 및 AI로 생성된 딥페이크에 대한 싸움에서 중대한 순간을 의미합니다. 디지털 지문 기술을 활용함으로써 마이크로소프트는 피해자를 보호하고 해로운 콘텐츠의 확산을 방지하는 데 기여하고 있습니다. 구글이 NCII 문제를 독립적으로 다루기로 한 것과 대조적으로, 이 협력은 디지털 시대에서 업계 협력의 중요한 선례를 설정합니다. AI가 계속 진화함에 따라, 이러한 파트너십과 NO FAKES Act와 같은 입법적 노력은 더욱 복잡해지는 온라인 환경에서 개인을 착취로부터 보호하는 데 중요합니다.
주요 내용
- 마이크로소프트는 StopNCII와 협력하여 빙 검색 결과에서 비동의 친밀한 이미지를 제거합니다.
- StopNCII는 여러 플랫폼에서 친밀한 이미지를 식별하고 제거하기 위해 디지털 지문을 사용합니다.
- Meta, TikTok, Bumble과 같은 주요 기술 기업들이 StopNCII와 함께 비동의 이미지 공유 반대에 나섭니다.
- 구글은 독립적으로 운영하며 비동의 이미지를 신고하기 위해 자체 도구를 활용합니다.
- 미국 정부는 딥페이크와 관련된 개인정보 문제를 해결하기 위한 새로운 입법을 지지합니다.
분석
마이크로소프트와 StopNCII 간의 협력은 비동의 친밀한 이미지의 확산을 줄이는 것을 목표로 하며, 이는 Meta, TikTok, Bumble과 같은 주요 기술 기업에 영향을 미칩니다. 구글의 파트너십 불참은 노력에 파편화를 야기할 수 있어 이 이니셔티브의 효과성을 약화시킬 수 있습니다. 피해자는 단기적으로 보다 수월한 신고 프로세스에서 혜택을 보지만, 이 노력이 장기적으로 성공하기 위해서는 보다 넓은 업계 채택과 입법적 지원이 필요합니다. 미국 정부의 NO FAKES Act 지지는 긴급성을 강조하지만, 실제 영향은 실행과 글로벌 협력에 달려 있습니다. 따라서 기술 주식과 관련된 금융 상품은 공공 감정의 변화에 따라 변동성을 경험할 수 있습니다.
알고 계셨나요?
- StopNCII: 비동의 친밀한 이미지 방지를 위한 이니셔티브로, 딥페이크를 포함하여 비동의 친밀한 이미지의 확산을 방지하는 것을 목표로 합니다. 이들은 신고된 이미지의 디지털 지문(해시)을 실제 파일 없이 생성하여, 이를 참여 기업과 공유함으로써 여러 플랫폼에서 유해 콘텐츠를 신속하게 식별하고 제거하도록 돕습니다.
- 디지털 지문(해시): StopNCII의 맥락에서, 디지털 지문(해시)은 이미지 파일로부터 생성된 고유 식별자입니다. 실제 이미지를 저장하지 않고 생성되기 때문에 프라이버시와 보안을 보장합니다. 이러한 해시를 공유하여 StopNCII는 여러 플랫폼에서 비동의 친밀한 이미지를 식별하고 제거할 수 있습니다.
- NO FAKES Act: 딥페이크 및 비동의 친밀한 이미지의 확산을 다루기 위한 미국의 제안된 입법으로, 그러한 콘텐츠의 생성 및 배포를 억제하기 위한 새로운 규정 및 처벌을 설정하는 것을 목표로 하고 있습니다. 이는 기술을 남용하여 프라이버시를 침해하고 해를 끼치는 것에 대한 우려가 커지고 있음을 반영합니다.