노출: '오픈워싱'이 EU AI 법안에서 생성 AI에 대한 신뢰를 약화시키는 방법
2024년, 생성 AI 환경은 '오픈워싱'이라는 현상으로 인해 큰 검증을 받고 있다. 이 용어는 기업들이 자사의 AI 모델을 오픈소스로 주장하여 투명성과 혁신의 이점을 얻지만, 실제로는 오픈소스 운동의 핵심 원칙을 따르지 않는 관행을 가리킨다. 이러한 관행은 메타와 같은 대기업들이 Llama 2와 Llama 3와 같은 AI 모델을 오픈소스로 주장하면서 힘을 얻었다. EU AI 법안은 AI를 종합적으로 규제하고 오픈소스 혁신을 촉진하는 것을 목표로 하지만, 우발적으로 오픈소스로 라벨링된 모델에 대한 규제 면제를 제공함으로써 이러한 행동에 인센티브를 주었다.
안드레아스 리센펠트와 마크 딩만세의 논문은 브라질 리우데자네이루에서 열린 FAccT '24 컨퍼런스에서 발표되었으며, 이 문제의 복잡성을 자세히 살펴본다. 그들은 EU AI 법안의 현재 조항이 오픈 라이선스로 발표된 모델이 훈련 데이터와 미세 조정 방법의 상세한 공개를 피할 수 있게 해준다고 지적한다. 이러한 법적 허점을 이용하여 기업들은 중요한 정보를 숨김으로써 과학적 검토와 규제 감독을 피하면서 AI 제품을 오픈소스로 마케팅하고 있다.
주요 내용
- 오픈워싱 정의: 오픈워싱은 기업들이 실제로 오픈소스 원칙을 따르지 않으면서 AI 모델을 오픈소스로 마케팅하는 것으로, 주로 긍정적인 공중 인식과 규제 면제의 이점을 얻기 위해 한다.
- 법률적 영향: EU AI 법안은 오픈소스 AI 모델에 대한 면제를 제공하여, 기업들이 모델을 오픈소스로 잘못 브랜딩하여 엄격한 규제 요구 사항을 피하게 한다.
- 혁신에 대한 결과: 이러한 관행은 진정한 오픈소스 프로젝트에서 자원과 관심을 분산시켜 혁신을 저해하고 오픈소스 주장에 대한 신뢰를 약화시킨다.
- 종합적인 개방성 요구: 저자들은 라이선스 외에도 훈련 데이터, 기술 문서, 전반적인 시스템 아키텍처의 투명성을 포함하는 더 세련되고 복합적인 개방성 이해를 주장한다.
심층 분석
오픈워싱의 개념은 기업들이 오픈소스 운동의 긍정적인 특성에 자신들을 맞추기 위한 전략적 움직임이다. 이는 특히 기업들이 AI 모델을 발표하는 방식에서 명백하다. 모델 가중치를 오픈 라이선스로 제공하되 훈련 데이터와 미세 조정 과정과 같은 다른 중요한 요소를 숨김으로써, 이러한 기업들은 개방성의 허울을 만든다.
리센펠트와 딩만세의 연구는 AI의 진정한 개방성이 다면적이어야 한다는 것을 강조한다. 이는 모델 가중치의 가용성뿐만 아니라 훈련 데이터 세트의 접근성, 개발 과정의 투명성, 그리고 종합적인 문서화를 포함해야 한다. 현재의 선택적 개방성 경향은 이러한 원칙을 약화시키고, 저자들이 "가짜 개방성"이라고 부르는 것을 초래한다.
EU AI 법안의 오픈소스 모델에 대한 면제는 혁신을 촉진하려는 의도는 좋았지만, 우발적으로 이러한 행동에 인센티브를 주었다. 메타와 같은 기업들은 이러한 추세의 선두에 있으며, "오픈소스" 라벨을 이용하여 경쟁 우위를 얻으면서 실제로 그 용어가 의미하는 투명성을 제공하지 않는다. 이는 오픈소스 생태계에 불균형한 경쟁 환경을 조성할 뿐만 아니라, 공중과 연구 커뮤니티에 이러한 모델의 진정한 개방성과 신뢰성에 대한 오해를 준다.
알고 계셨나요?
- EU AI 법안 면제: EU AI 법안은 오픈소스로 라벨링된 AI 모델에 대한 특정 면제를 제공하는 최초의 종합적인 AI 법률이다. 이는 혁신을 촉진하기 위한 것이었지만 널리 퍼진 오픈워싱으로 이어졌다.
- 블로그 게시물 전략 발표: 오픈소스로 주장되는 많은 AI 모델은 그들의 개방성을 강조하는 블로그 게시물이나 보도 자료를 통해 발표되었다. 이 전략은 언론의 관심과 공중의 승인을 얻는 데 특히 효과적이었다.
- 소규모 기업에 대한 영향: 대기업의 오픈워싱은 진정으로 오픈소스 프로젝트에 대한 관심과 자금을 분산시킨다. 이는 AI 분야에서 진정한 혁신과 공정한 성장을 위한 어려운 환경을 조성한다.
요약하자면, EU AI 법안의 법적 허점에 의해 악화된 오픈워싱 현상은 오픈소스 AI의 진실성과 미래에 큰 문제를 제기한다. 진정한 개방성은 종합적인 투명성과 커뮤니티 참여를 요구하며, 이는 현재 대기업들의 선택적이고 전략적인 공개에 의해 약화되고 있다.