미국 인공지능(AI) 기업 앤트로픽의 한 연구원이 AI가 2030년 이전에 인류를 멸망시킬 것이라고 경고하면서 공포가 커져가는 가운데, 미국 주요 AI 기업 최고경영자(CEO)들이 AI의 발전 속도를 늦춰야 한다는 데 공감을 표했다.
12일(현지시간) 앤트로픽 CEO인 다리오 아모데이는 본인이 운영하는 블로그에 "우리는 최첨단 AI 개발 속도를 조절해야 한다"라는 제목의 글을 게재했다. 그는 단순히 AI의 안전성 연구에 대한 투자를 늘리는 것만으로는 충분하지 않다면서, 최첨단 AI 모델을 개발하는 기업들이 기술 역량 강화 속도를 늦춰야 한다고 주장했다.
아모데이 CEO는 "기술 발전은 여전히 빠르게 느껴질 것이며, 우리는 확보한 시간을 현명하게 활용해야 한다"면서 AI가 더 강력해지기 전에 연구자와 정부가 안전장치를 마련할 시간을 벌어야 할 필요가 있다고 지적했다.
그는 이를 위한 3단계 틀을 제시했는데, 앤트로픽이나 오픈AI(OpenAI) 같은 최첨단 AI 기업들이 독립적인 안전 평가 기관에 자사 시스템에 대한 심층적 접근 권한을 자발적으로 부여하는 방안을 제안했다. 이어 그는 기업들이 기술 개발 속도를 늦췄다는 이유로 경쟁에서 불이익을 받지 않도록 업계 전반의 표준이 있어야 하며, 이를 위한 정부 차원의 조치가 필요하다고 촉구했다.
그는 그간 AI가 다양한 문제를 혁신할 수 있다고 판단했지만, 지난 몇 달 간의 상황 변화를 지켜보면서 이같은 급속한 발전에 대해 다시 생각하게 됐다고 말했다. 아모데이 CEO는 현재의 AI가 다음 세대의 AI를 도와주는 자체 능력을 의미하는 '재귀적 자기 개선(RSI, recursive self-improvement)'이 올여름부터 가속화 됐다고 말했다.
이는 두 달 전인 7월 '자율형 인공지능'인 AI 에이전트들이 집단적으로 '허깅페이스'라는 외부 서비스를 해킹한 것과 유사한 시점이다. 당시 오픈 AI는 수만개의 AI 에이전트들을 외부와 격리시키고 과제를 풀게 했는데, 1200개의 에이전트들이 통제 범위를 벗어나 서비스를 해킹한 바 있다.
아모데이 CEO는 AI의 발전 속도가 점점 더 정교해지는 시스템의 작동 방식을 인간이 이해하는 속도보다 빨라질 가능성이 있다며 "(AI를) 제대로 제어하지 않으면 이러한 시스템을 이해하고 통제하는 인간의 능력을 앞지를 수 있다"고 경고했다.
이같은 주장에 오픈AI의 CEO 샘 올트먼은 사회관계망서비스(SNS)인 'X'의 본인 계정에 "최첨단 AI 기술의 발전 속도를 조절해야 한다는 다리오(아모데이)의 의견에 동의한다"라며 이 문제가 최근 오픈AI 내부 논의의 핵심 주제였다고 밝혔다.
AI기업인 'xAI'의 CEO 일론 머스크 역시 본인의 X계정에 아모데이의 글을 공유하며 "다리오의 말이 맞다"라고 호응했다. 그는 지난 8일 2030년 이전에 AI가 인류를 파멸시킬 수 있다고 우려하며 앤트로픽에서 퇴사한 제이콥 콕슨 전 연구원의 주장을 '심리전'이라고 일축했지만, 이번에는 아모데이 CEO의 의견에 동의를 표했다.
오픈 AI의 샘 올트먼 CEO는 미국의 경제전문지 <포춘>과 인터뷰에서 올해 안으로 기업공개(IPO)를 통한 상장을 실시하지 않겠다는 입장을 밝히기도 했다. 그는 안전성 우려를 고려할 때 IPO가 "시기상조"라면서 2027년까지는 이를 진행하지 않을 것이라고 밝혔다.
그는 "우리 모두가 동의해야 할 핵심 원칙은, AI에게 미래에 대한 통제권을 잃을 위험을 초래하는 행동을 해서는 안 된다는 점"이라며 "사업이나 주주의 이익에 명백히 부합하지 않는 결정도 내릴 수 있어야 한다"고 말했다.
미 정치전문매체 <폴리티코>는 이러한 움직임에 대해 "새로운 기술이 개발자의 이해나 통제 능력을 넘어서기 시작했다는 이러한 우려가 기술 업계와 워싱턴 정가에 확산되는 가운데, 경쟁 관계에 있는 기업들 사이에서 보기 드물게 형성된 공감대를 보여준다"라고 짚었다.
의회에서도 AI 통제에 대한 움직임이 감지되고 있다. 미 하원 AI 위원회 공동 의장인 조시 고트하이머(민주당, 뉴저지주) 의원은 매체에 "자신들이 초래한 혼란은 아랑곳하지 않고 전속력으로 질주해 온 이들이 이제와서 속도 조절을 요구한다는 것은 참으로 아이러니한 일"이라고 지적했다.
그러면서도 그는 "우리는 자율 규제나 제3자 감시에만 의존할 수 없으며, 그들(AI 기업들)이 올바른 행동을 할 것이라고 기대만 하고 있을 수도 없다"라며 "바로 그렇기 때문에 국가 차원의 의무적인 규범과 실질적이고 강제력 있는 안전장치를 도입해야 한다고 강력히 주장해 온 것"이라고 말했다.
브라이언 샤츠 상원의원(민주당, 하와이주)은 아모데이 CEO의 제안에 대해 "합리적인 출발점이며 신속하게 입법화할 수 있는 실질적인 방안이 필요하다는 점을 진지하게 고려한 제안"이라고 평가했다.
일부에서는 AI 발전 속도를 규제할 경우 중국과 경쟁에서 밀리는 것 아니냐는 우려도 나오고 있다. 실제 도널드 트럼프 미국 대통령은 지난 11일 첨단 AI의 위험에 대해 "아니, 그런 우려는 없다"라면서 유일한 걱정은 AI 경쟁에서 중국에 뒤처지는 것뿐이라고 말하기도 했다.
여당인 공화당의 존 코닌 상원의원(텍사스주) 역시 AI 발전 속도 조절과 관련해 가장 큰 걸림돌은 중국이라며, "중국이 과연 그럴까?"라고 반문하기도 했다.
버니 샌더스 미 상원의원(무소속, 버몬트주)은 12일 "트럼프와 시진핑은 너무 늦기 전에 AI 개발을 일시 중단하고 '초지능'(superintelligence)을 금지하는 조약을 체결해야 한다"라며 "절벽을 향해 질주할 때는 단순히 가속 페달에서 발을 떼는 것이 아니라 브레이크를 밟아야 한다"고 촉구하기도 했다고 <폴리티코>가 보도했다.
구글에서 프레시안을 더 자주 만나기
전체댓글 0