구글, 가짜 노골적 이미지 대응을 위한 알고리즘 변경 시행
구글은 검색 순위 알고리즘에 상당한 변경을 가했으며, 이로 인해 특히 딥페이크 이미지의 노출이 70% 이상 감소했습니다. 이 이니셔티브는 특정 인물과 관련된 검색 결과에서 노골적이지 않은 콘텐츠를 우선시하여 이전에 널리 퍼진 노골적인 딥페이크 이미지의 가시성을 효과적으로 감소시키는 것을 목표로 합니다. 문제가 되는 이미지를 보여주는 대신, 구글은 이제 딥페이크의 사회적 영향과 관련된 사기에 대한 경고를 논의하는 기사를 강조합니다.
이러한 변경은 비동의하에 노골적인 이미지의 유포(NCEI)를 방지하기 위한 내부 보고서와 외부 전문가 권고에 따른 것으로, 이전에 구글 경영진이 기각한 제안입니다. 그럼에도 불구하고 구글은 제거 요청에 대해 민감하게 대응하여, 특히 인기 있는 딥페이크 호스팅 사이트를 대상으로 한 이의 신청의 82% 이상을 수용하고 있습니다.
구글의 개선된 조치에는 검색 결과에서 중복된 딥페이크 이미지의 출현을 방지하고, 유사한 질의에서 노골적인 이미지를 필터링하며, 많은 제거 요청을 받은 웹사이트를 강등하는 것이 포함됩니다. 이러한 조치가 미래에 이러한 콘텐츠에 노출될 걱정이 있는 개인에게 제공하는 안정감에도 불구하고, 비평가들은 보다 광범위한 조치를 취해야 한다고 주장합니다. 특히 구글은 현재 성인 딥페이크 검색과 관련하여 경고를 발행하지 않고 있으며, 이는 NCEI에 대한 법적 금지에도 불구하고 아동 포르노 검색에 대한 경고와는 대조적입니다.
주요 내용
- 구글은 새로운 순위 조정을 통해 가짜 노골적 이미지의 노출을 70% 이상 감소시켰습니다.
- 구글의 검색 결과는 노골적인 딥페이크 콘텐츠보다 뉴스 기사와 경고를 촉진하는 쪽으로 변화했습니다.
- 구글은 예방 조치를 채택하여 비동의하에 노골적인 이미지(NCEI)에 대한 보호를 강화했습니다.
- 인기 있는 딥페이크 호스팅 사이트에서 피해자들이 요구한 링크의 82% 이상이 구글에 의해 제거되었습니다.
- 구글은 검색 결과에서 성공적인 제거 요청을 많이 받은 웹사이트를 강등할 계획입니다.
분석
구글이 딥페이크를 대상으로 한 알고리즘 업데이트는 기술 거대 기업, 콘텐츠 제작자, 피해자에게 영향을 미칠 것입니다. 이러한 변경의 원인에는 공공의 압력과 윤리적 문제뿐만 아니라 법적 위험과 평판 피해와 같은 간접적인 요인도 포함됩니다. 즉각적인 영향으로는 노골적인 딥페이크의 가시성 감소가 있으며, 이는 대상이 되는 개인에게 이익이 되고 제작자를 경계하게 할 것입니다. 장기적으로 이러한 변화는 더 넓은 산업 표준과 NCEI에 대한 법적 집행의 수립을 촉진할 수 있습니다. 또한, 영향을 받는 웹사이트와 관련된 금융 수단은 부정적인 영향을 받을 수 있으며, 윤리적 AI에 투자하는 기술 회사는 이익을 얻을 수 있습니다.
알고 계셨나요?
-
딥페이크:
- 딥페이크는 기존 이미지나 비디오에서 사람을 인공 지능 기술, 특히 딥 러닝 알고리즘을 사용하여 다른 사람의 모습으로 대체하는 합성 미디어를 말합니다. 이는 조작된 비디오나 이미지를 만들어내는 데 사용될 수 있으며, 종종 오해의 소지가 있는 정보 유포나 비동의하에 노골적인 콘텐츠를 유포하는 악의적인 목적으로 사용됩니다.
-
비동의하에 노골적인 이미지(NCEI):
- NCEI, 즉 "복수 포르노"는 노골적인 이미지나 비디오를 그 대상자의 동의 없이 배포하는 것을 말합니다. 이러한 형태의 사이버 범죄는 피해자에게 상당한 피해와 고통을 초래할 수 있으며, 딥페이크 기술을 사용하여 가짜 노골적인 콘텐츠를 생성하는 데 점점 더 많이 사용되고 있습니다.
-
검색 순위 알고리즘:
- 검색 순위 알고리즘은 구글과 같은 검색 엔진에서 검색 결과가 표시되는 순서를 결정하는 데 사용하는 복잡한 시스템입니다. 이러한 알고리즘은 관련성, 사용자 참여 및 콘텐츠 품질과 같은 다양한 요소를 고려하여 사용자에게 가장 가치 있고 정확한 결과를 제공하려고 합니다. 이러한 맥락에서 구글은 가짜 노골적인 이미지의 가시성을 감소시키고 보다 안전하고 유익한 콘텐츠를 우선시하기 위해 알고리즘을 수정했습니다.