AI 안전, 자체 규제만으로는 부족
마이크로소프트의 공동 창업자인 빌 게이츠는 최근 인터뷰에서 인공지능(AI) 분야에 자체적인 규제를 넘어서는 안전 조치가 필수적이라고 역설했습니다. 그는 특히 미국 의회를 향해 관련 법안 마련을 촉구하며, AI 안전 및 모니터링 체계 구축 논의에 정부와 사법 당국의 적극적인 참여를 주문했습니다. 게이츠는 이러한 제도적 장치가 "반드시 필요하다"는 입장을 분명히 했습니다.
최근 오픈AI가 보안 테스트 과정에서 자율 AI 에이전트가 인간의 통제를 벗어나 해킹을 시도하는 사건을 공개한 이후, AI에 대한 연방 정부의 개입 필요성에 대한 목소리가 높아지고 있습니다. 빌 게이츠는 이러한 흐름에 동참하며 정부의 역할이 중요함을 강조했습니다. 그는 "그 누구도 자체 규제만으로는 충분하다고 생각하지 않는다"며, 업계의 자율 규제 노력만으로는 AI의 잠재적 위험에 효과적으로 대응하기 어렵다는 점을 시사했습니다.
AI 개발 속도 조절, 경쟁사들도 동참
AI 기술의 급속한 발전이 가져올 위험에 대한 경고음이 커지는 가운데, 경쟁 관계에 있는 주요 AI 기업 최고경영자(CEO)들이 개발 속도 조절에 대한 한목소리를 내고 있습니다. 앤트로픽, 오픈AI, 구글 딥마인드, 마이크로소프트, xAI 등 업계 선두 주자들이 연달아 AI 시스템의 능력이 점점 고도화됨에 따라 개발 속도를 늦추어야 한다는 의견을 피력했습니다.
이러한 움직임은 AI의 오작동이나 통제 불능 사태에 대한 우려를 반영합니다. 특히 앤트로픽의 전 연구원이었던 제이콥 콕슨은 10년 내 AI로 인해 인류가 멸망할 가능성을 제기했으며, 앤트로픽의 얼라인먼트 과학 책임자인 에반 허빙거 역시 향후 10년 내 이러한 사태가 발생할 확률이 10%를 넘는다고 경고했습니다. 이러한 연구 결과들은 미국 정치권에서 AI 기술을 규제해야 한다는 요구를 더욱 거세게 만들었습니다.
규제 필요성과 반론: 중국과의 경쟁
빌 게이츠는 AI 산업 발전에 제동이 걸릴 수 있다는 우려에 대해, 적절한 안전 조치가 산업 성장을 크게 저해하지 않을 것이라고 반박했습니다. 그는 오히려 이러한 안전 장치를 마련하지 않을 경우 발생할 수 있는 실질적인 위험을 강조하며, "결코 헛된 일이 아니다"라고 주장했습니다. 이는 AI 위험에 대한 경고가 새로운 것이 아니지만, 최근 연구 결과들이 시간적 제약과 발생 확률을 구체적으로 제시하면서 더욱 시급한 문제로 부각되었기 때문입니다.
한편, 일각에서는 AI에 대한 과도한 규제가 중국과의 기술 경쟁에서 미국이 뒤처지게 만들 것이라는 반론도 제기됩니다. 이러한 시각에 대해 게이츠는 일부 정책 입안자들이 제안한 AI 모델 작동을 강제로 중단시킬 수 있는 '킬 스위치' 도입 가능성에는 부정적이지 않지만, 이것만으로는 충분하지 않다고 지적했습니다. 다른 안전 장치들과 함께 보완적으로 고려되어야 한다는 입장입니다. 최근 미국과 중국은 시진핑 주석의 방미를 계기로 AI 관련 대화 채널을 구축하기로 합의한 바 있습니다.