AGI 발전과 안전 통제 간극 우려
구글 딥마인드의 공동 창업자인 셰인 레그는 최근 인공지능(AI) 기술이 급격히 발전하는 가운데, 안전 통제 메커니즘이 기술 발전 속도를 따라가지 못할 수 있다는 점을 경고했습니다. 이는 AI 기업들이 스스로를 개선하는 능력에 대한 우려가 커지는 상황과 맞물립니다. 현재 AI 에이전트들은 소프트웨어 개발, 자율 임무 수행, AI 시스템 개발 지원 등 다양한 작업을 수행하며 그 능력을 고도화하고 있습니다.
이러한 기술적 진보는 AI가 감독 및 통제 장치보다 더 빠르게 발전할 수 있다는 잠재적 위험을 제기합니다. 앤트로픽의 최고경영자(CEO)인 다리오 아모데이의 '프론티어 모델' 출시 속도 조절 제안에 대해 레그는 방향성 면에서 흥미로우며 고려해 볼 만하다고 언급했습니다. 이는 AI 개발의 속도 조절에 대한 업계의 논의가 활발함을 시사합니다.
AGI 달성 시점과 딥마인드 연구소의 역할
셰인 레그는 최근 엔비디아 및 OpenAI 경영진이 주장한 AGI 달성 주장에 대해 아직은 성급한 선언이라고 평가했습니다. 그는 스스로 예측했던 2028년까지 '최소한의' AGI를 달성할 확률 50% 전망에 대해 여전히 편안한 입장을 유지하고 있다고 밝혔습니다. 이는 AGI의 실질적인 구현 시점과 그 기준에 대한 신중한 접근을 강조하는 것으로 해석됩니다.
이를 뒷받침하기 위해 구글 딥마인드는 인간의 뇌와 동등한 인지 능력을 갖춘 시스템으로 정의하는 AGI에 대한 대중적 논의를 확장하기 위한 '딥마인드 인스티튜트'를 설립했습니다. 이 연구소는 과학, 교육, 사회, 정책, 철학, 인간의 번영 등 광범위한 주제를 다룰 예정입니다. 또한, AI 안전성, 경제 정책, '새로운 유토피아주의'를 위한 원칙 등을 주제로 한 첫 에세이 발표를 통해 AGI와 관련된 다각적인 논의를 촉진할 계획입니다.