AI 연구자들, AI 개발에 대한 감독 부재로 인한 인류 멸종 위험 경고

AI 연구자들, 오픈AI, 구글의 딥마인드, 앤트로픽 등 연구자들이 연합하여 AI 개발에 대한 감독 부재로 인한 잠재적인 인류 멸종 위험을 알리는 공개 서한을 발표했습니다. 그들은 불평등 악화, 허위 정보 확산, 자율 시스템에 대한 통제력 상실 등의 위험을 강조하며, 이러한 위험을 완화하기 위한 집단적 노력을 촉구했습니다. 연구자들은 AI 기업들의 재무적 인센티브로 인한 효과적인 감독에 대한 저항이 우려된다고 말했습니다. ChatGPT와 같은 생성형 AI 기술의 급속한 성장은 오용과 AI 기업의 운영 투명성 부족에 대한 우려를 불러일으켰으며, 이에 따라 AI 개발의 책임성과 투명성 제고를 위한 기업 관행 변화가 필요한 것으로 보입니다.