OpenAI 내부에서 주요 직원들의 사퇴로 갈등 발생
최근 Daniel Kokotajlo와 William Saunders 두 명의 핵심 직원이 ChatGPT를 관리하는 영향력 있는 기업인 OpenAI에서 사퇴했습니다. Kokotajlo는 거버넌스 분야를 전문으로 하며 GPT-4에 대한 대립적인 테스터로 활동했는데, AGI(인공일반지능) 관련 OpenAI의 책임 있는 행동에 대한 우려로 인해 떠났습니다. 한편 3년간 Alignment 팀 멤버였던 Saunders도 사직을 선택했습니다. 이들의 사퇴는 지난 한 달 내에 있었던 2명의 고위 임원 사임과 2명의 연구원 해고에 이어 일어났지만, OpenAI는 이에 대해 침묵하고 있습니다.
주요 내용
- ChatGPT를 관리하는 OpenAI에서 안전과 거버넌스 분야의 핵심 직원 2명이 사직했습니다.
- 거버넌스 팀에 기여했던 Daniel Kokotajlo는 AGI와 관련된 OpenAI의 책임 있는 행동에 대한 우려로 인해 떠났습니다.
- 2021년부터 Alignment 팀 멤버였던 William Saunders도 3년 만에 OpenAI를 떠나기로 했습니다.
- Kokotajlo와 Saunders의 사직은 Superalignment 팀 다른 구성원들의 퇴사와 맥락을 같이 합니다.
- Superalignment 팀은 인공일반지능이 통제 불가능해지지 않도록 보호 조치를 마련하는 데 집중하고 있습니다.
- OpenAI는 이러한 사직과 관련하여 의견을 내놓지 않고 있습니다.
분석
안전과 거버넌스 담당 직원 2명의 사직, 그리고 최근 있었던 다른 구성원들의 퇴사는 인공일반지능(AGI) 개발 과정에서 윤리적 문제를 둘러싼 내부 갈등을 나타냅니다. 이러한 갈등은 OpenAI의 AGI 분야 진전을 가로막거나 늦출 수 있으며, 신뢰성과 투자자 신뢰에 악영향을 미칠 수 있습니다. 또한 떠나는 직원들이 제기한 우려는 규제 기관의 조사로 이어질 수 있어, OpenAI뿐만 아니라 전체 AI 산업에 영향을 줄 것으로 보입니다. 이러한 핵심 인력의 손실은 AGI가 인간의 이익에 반하지 않도록 하는 데 필수적인 OpenAI의 Superalignment 팀의 효과를 약화시킬 수 있습니다. OpenAI와 AI 업계의 미래는 이러한 문제를 어떻게 해결하느냐에 달려 있습니다.