중국, 알고리즘 악용 단속: 새로운 규칙은 노동자, 사용자 및 온라인 공정성을 보호하는 것을 목표로 함

중국의 알고리즘 규제: 공정한 디지털 플랫폼을 위한 대담한 조치

2024년 11월 24일, 중국 사이버 공간 관리국은 다른 주요 정부 부처와 협력하여 **“명확하고 밝은 - 인터넷 플랫폼의 전형적인 알고리즘 문제 관리 특별 행동”**이라는 새로운 규제 틀을 발표했습니다. 이 이니셔티브는 인터넷 플랫폼에서 알고리즘이 사용되는 방식과 그 사회적, 경제적 영향에 대한 대중의 우려를 해소하고자 합니다.

이 규제는 건강하고 지속 가능한 플랫폼 경제를 촉진하려는 중국의 의지를 나타내며, 유해한 알고리즘 사용 관행을 줄이고자 합니다. 발표 내용과 목표, 기업과 노동자, 사회에 미치는 영향을 다음과 같이 종합해 보았습니다.

무슨 일이 일어났나요?

중국은 사회적 신뢰를 저해하고, 임시직 노동자를 착취하며, 소비자에게 불리한 알고리즘 문제를 해결하기 위해 목표로 한 규제 캠페인을 시작했습니다. 해결하려는 주요 문제는 다음과 같습니다:

• 반복적인 콘텐츠로 인해 생성된 정보의 편향
• 조작된 인기 목록 및 공공 서사
• 지나치게 촉박한 일정으로 배달 노동자를 착취하는 일
• 유의미한 고객에게 더 높은 요금을 부과하는 대량 데이터 가격 차별
• 사용자에게 유익한 알고리즘 디자인 부족

중국 사이버 공간 관리국이 추가 정부 기관의 의견을 받아 이 규제를 발표했습니다. 적용되는 플랫폼은 추천, 가격 책정 또는 배달 프로세스에 알고리즘을 사용하는 모든 주요 중국 인터넷 회사들입니다.

알고리즘은 기술적으로 중립적인 도구이지만, 실제로 사용될 때 인간의 의도에 따라 사회에 해를 끼칠 수 있습니다. 새로운 규제는 알고리즘이 윤리적이고 투명하게 사용되도록 보장하여 플랫폼과 사용자 간의 신뢰를 구축하고자 합니다. 이 규제 틀은 중국에서 운영되는 모든 인터넷 플랫폼에 적용되며, 다루는 문제의 보편성으로 인해 전 세계적으로도 영향을 미칠 것입니다. 발표는 2024년 11월 24일에 이루어졌으며, 시행 조치들은 몇 달 내에 시행될 것으로 예상됩니다.

주요 요점

1. 착취적 관행 타겟팅:

   • 플랫폼은 더 이상 불공정하게 배달 일정을 압축하는 알고리즘을 사용할 수 없으며, 이로 인해:
     • 교통 법규 위반이 증가합니다.
     • 배달 노동자의 사고율이 높아집니다.
   • 사용자 데이터에 기반한 가격 차별("친숙한 고객 착취")이 억제됩니다.

2. 콘텐츠 동질성 저항:

   • 반복적인 알고리즘 추천으로 형성된 편향된 정보의 거품이 해체되어 다양한 콘텐츠 노출을 장려합니다.

3. 투명성 개선: 플랫폼은 다음을 공개해야 합니다:

   • 인기 알고리즘의 원칙 : 어떤 주제가 인기를 끌고 있는지를 결정합니다.
   • 임시직 경제 플랫폼의 요금 계산 방법.
   • 배달 노동자를 위한 경로 계획 기준.

4. 혁신과 규제의 균형:

   • 정부는 균형 잡힌 집행 접근 방식을 약속하며, 위반의 심각성과 영향에 따라 처벌도 다르게 할 것입니다.

5. 글로벌 영향:

   • 이러한 규제는 알고리즘 관리에 대한 유사한 글로벌 우려를 반영하며, 윤리적 AI에 대한 세계적 추세와 일치합니다.

심층 분석

다루는 주요 문제

1. 정보의 편향과 극단화

   • 반복적이거나 극단적인 콘텐츠를 우선시하는 알고리즘은 정보의 고립을 만들어 편향과 사회적 분열을 강화합니다. 새로운 조치는 이러한 해로운 패턴을 disrupt하고자 합니다.

2. 조작된 순위

   • 플랫폼이 조작한 인기 목록은 대중의 인식을 왜곡하고, 의견에 영향을 미치며, 때때로 해롭거나 잘못된 내러티브를 조장합니다. 투명성 의무는 이 목록이 자연적인 추세를 반영하도록 보장합니다.

3. 임시직 노동자 착취

   • 음식 배달 서비스와 같은 플랫폼은 종종 알고리즘을 사용하여 비합리적인 시간 제약을 부과하며, 이는 불안전한 관행으로 이어집니다. 노동자 안전에 초점을 맞추어 중국은 다음을 줄이고자 합니다:
     • 배달 시간 초과에 대한 벌칙
     • 서두름으로 인한 교통 사고
     • 노동자들의 스트레스.

4. 대량 데이터 가격 차별

   • 소비자 데이터를 사용하여 충성 고객에게 더 높은 가격을 부과하는 알고리즘은 신뢰를 훼손합니다. 새로운 규제는 이러한 문제를 명시적으로 다루어 공정한 가격 책정을 보장합니다.

5. 알고리즘 책임

   • 보다 광범위한 목표는 알고리즘이 순수한 이익 동기가 아닌 사용자의 최선의 이익을 위해 작용하도록 보장하는 것입니다. 이는 중독성 디자인과 비윤리적인 추천 관행을 방지하는 것을 포함합니다.

경제적 및 사회적 배경

이번 발표는 최근 국무원 회의와 관련이 있으며, 플랫폼 경제의 중요성을 강조했습니다:

• 국내 수요 확대.
• 고용 안정화.
• 생활 향상.
• 혁신 촉진.

성장을 억제하는 대신, 이러한 조치는 공공 복지 보호를 목표로 하며, 플랫폼이 중국 경제에 활발한 기여를 하도록 보장합니다.

글로벌 관련성과 비교

중국의 조치는 알고리즘 관리에 대한 보다 광범위한 국제적 대화의 일환입니다. 전 세계적으로 유사한 우려가 제기되었습니다:

1. 정보의 편향과 잘못된 정보

   • 글로벌 맥락: 플랫폼인 페이스북과 유튜브는 편향을 심화하고 잘못된 정보를 퍼뜨리는 콘텐츠를 홍보한다는 비판을 받고 있습니다.

2. 노동자 착취

   • 미국: 우버와 같은 회사는 운전사 지불 계산 및 알고리즘 스케줄링의 투명성이 부족하다는 비판을 받고 있습니다.
   • 영국: 새로운 노동법이 임시직 노동자에 대한 더 많은 권리와 투명성을 요구하고 있습니다.

3. 대량 데이터 가격 차별

   • 전자상거래: 아마존과 항공사와 같은 회사는 종종 알고리즘을 사용하여 사용자 행동에 따라 다른 가격을 부과하는데, 이는 전 세계적으로 논란이 되고 있습니다.

4. 글로벌 규제 노력:

   • 유럽연합: 디지털 서비스법(DSA) 및 **디지털 시장법(DMA)**은 알고리즘의 투명성과 공정성을 강조합니다.
   • 미국: 알고리즘 책임 법안은 금융 및 의료와 같은 분야에서 알고리즘의 정기 감사를 제안하고 있습니다.

알고 계셨나요?

1. 교통 안전: 중국의 연구에 따르면, 촉박한 배달 일정과 교통 사고 사이에는 상당한 상관관계가 있음을 보여주며, 배달 알고리즘 규제의 중요성을 강조합니다.

2. 숨겨진 편향: 알고리즘은 종종 제작자의 편향을 반영하여 채용 및 신용 승인과 같은 분야에서 차별적 관행을 초래합니다.

3. 가격 인상 전술: 동적 가격 책정은 새로운 것이 아닙니다. 항공사들은 수십 년 동안 사용해왔습니다. 그러나 이제 알고리즘 덕분에 더 정밀하고 잠재적으로 불공정해졌습니다.

4. 글로벌 우려: 세계 경제 포럼의 보고서에 따르면, 80% 이상의 디지털 플랫폼이 투명성이 결여된 알고리즘에 의존하고 있습니다.

결론

중국의 **“명확하고 밝은 이니셔티브”**는 알고리즘 남용에 대한 대중의 우려가 커지는 시점에서 적절한 대응입니다. 정보의 편향, 임시직 노동자 착취, 가격 차별과 같은 문제를 다루며, 새로운 규제는 윤리적인 알고리즘 관리를 위한 선례를 설정합니다. 투명성과 균형 잡힌 집행에 대한 강한 의지는 신뢰, 공정성, 노동자 안전을 촉진하는 의지를 보여줍니다.

알고리즘이 우리의 삶을 점점 더 많이 형성함에 따라, 이러한 노력은 전 세계적으로 공명을 이룰 것입니다. EU, 미국 및 그 너머에서 유사한 문제를 해결하는 중인 가운데, 중국의 규제 틀은 기술과 사회 간의 복잡한 상호작용에 대처하기 위한 모델이 될 수 있습니다. 핵심 요점은? 알고리즘은 사람들을 착취하기보다 권 empowering해야 합니다.