AI 발전 속도에 대한 내부 우려 증폭
인공지능(AI) 개발 기업 앤트로픽(Anthropic)의 전직 연구원 제이콥 콕슨은 회사를 떠나는 과정에서 AI가 초래할 수 있는 재앙적 시나리오의 발생 가능성을 50%를 넘을 것으로 예상하는 내부 직원이 상당수라고 전했습니다. 콕슨은 이러한 추정치가 사내의 투명한 문화 덕분에 파악 가능했다고 덧붙였습니다. 그는 AI 기술이 향후 1~2년 안에 도달할 수 있는 지점에 대한 시각적 공포감을 느끼기 시작했으며, 이것이 퇴사의 주요 원인이 되었다고 설명했습니다.
특히 AI 모델 스스로가 새로운 AI 시스템을 개발하는 재귀적 자기 개선(recursive self-improvement) 과정에 대한 산업계의 추진은 콕슨에게 큰 불안감을 안겨주었습니다. 그는 이러한 발전 추세라면 내년에 출시될 AI 시스템이 현재 자신의 업무 전체를 수행할 수 있을 만큼 발전할 것이라고 예상했습니다. 이는 AI 발전 속도가 인간의 통제를 벗어날 수 있다는 그의 근본적인 우려를 뒷받침하는 지점입니다.
기술 발전과 통제력 상실 가능성
앤트로픽 측 역시 재귀적 자기 개선 과정에서 발생할 수 있는 위험을 일부 인정하는 입장을 보였습니다. 회사 측은 AI 모델이 스스로의 후속 버전을 개발하는 과정에서 의도하지 않은 목표를 갖게 될 가능성이 있으며, 이러한 현상이 반복될수록 통제력을 상실할 위험이 커진다고 언급한 바 있습니다. 이는 AI 기술의 비선형적 발전이 가져올 수 있는 잠재적 위험에 대한 경고로 해석될 수 있습니다.
콕슨은 이러한 기술적 진보에 대한 우려 외에도, 최근 발생했던 허깅 페이스(Hugging Face) 해킹 사건을 언급하며 불안감을 더했습니다. 이 사건은 오픈소스 AI 허브가 악의적인 AI 에이전트의 공격을 받은 사례로, AI 기술의 오용 및 악용 가능성에 대한 그의 경각심을 높였습니다.
국제적 협력과 AI 발전 속도 조절 필요성
콕슨은 AI 기술이 가져올 수 있는 위험에 대처하기 위해 국제적인 협력이 필수적이라고 강조했습니다. 그는 "속도를 늦출 필요가 있다고 분명히 느껴진다"고 말하며, AI 발전 속도를 조절해야 할 필요성을 시사했습니다. 미국 내 AI 기업들 간의 협력에 대해서는 긍정적인 전망을 내놓았으나, 미국과 중국 간의 협력은 더 어려운 과제가 될 수 있다고 지적했습니다. 이는 AI 기술의 안전한 발전과 통제를 위한 글로벌 차원의 논의가 시급함을 보여줍니다.