Seoul Gazette - 아모데이·올트먼, AI 개발 속도 조절 공감…공통 안전기준 논의

다리오 아모데이 앤트로픽 최고경영자(CEO)가 AI 모델의 능력 개선 속도를 늦춰야 한다고 주장한 데 이어 샘 올트먼 오픈AI CEO 등 경쟁사 수장들이 동의하는 입장을 밝혔다. 업계 공통의 감속 규칙과 안전기준이 마련될지는 국제 경쟁, 규제 비용, 기업 투자와 법적 문제에 달려 있다.

아모데이는 12일 현지시간 블로그에서 AI가 다음 세대 AI 개발을 돕는 ‘재귀적 자기개선’이 시작돼 발전 속도가 안전기술을 앞지르고 있다고 설명했다. 그는 지난 7월 오픈AI의 허깅페이스 사태를 사례로 들고, 현 추세라면 6∼12개월 안에 에이전트 군집이 인터넷 전체를 장악할 만큼 강력해질 수 있다고 경고했다.

그는 외부 전문가의 내부 점검, 최상위 AI 개발기업인 프런티어랩 사이의 공통 안전기준, 국제 협력 확대를 제안했다. 올트먼은 같은 날 프런티어를 적절히 조절해야 한다는 데 동의했고, 안전·정렬 문제를 이유로 올해 오픈AI 상장을 하지 않겠다고 밝혔다.

일론 머스크 xAI CEO도 아모데이의 의견에 동의했다. 데미스 허사비스 구글 딥마인드 의장은 세부 내용을 다듬을 필요는 있지만 방향에는 공감한다는 입장을 보였다. 주요 기업 수장들의 잇따른 반응으로 공동 규칙 논의가 주목받고 있다.

기업 내부 연구자들의 경고도 이어졌다. 제이컵 콕슨 전 앤트로픽 연구원은 8일 현지시간 회사를 떠나면서 AI 기업들이 인류의 생명을 걸고 도박한다고 비판했다. 앤트로픽에서 정렬 문제를 연구하는 에번 허빙거는 향후 10년 안에 AI로 인류가 멸종할 가능성을 10% 이상으로 본다는 자신의 전망을 밝혔다.

미국 상원에서는 프런티어 AI 기업에 핵·생물무기 등 중대 위험을 줄일 주의 의무를 부과하고 위험한 모델의 출시를 막는 방안이 논의되고 있다. 영국에서는 하원의원과 상원의원 70여명이 정부에 인공초지능(ASI) 개발 금지와 국제 규제 주도를 촉구했다. 퓨리서치센터 조사에서는 미국인의 63%가 AI 발전 속도가 지나치게 빠르다고 답했다.

반면 파국 전망을 근거로 규제를 추진하는 데 신중해야 한다는 의견도 있다. 개리 탄 Y콤비네이터 CEO는 10일 AI가 사악하므로 멈춰야 한다는 식의 모호한 주장에 관심을 빼앗겨서는 안 된다고 말했다. 전 구글 AI 윤리 연구자 팀닛 게브루는 기업의 주장과 정치권의 법안 제안 사이의 시간이 너무 짧다며 정책 논의까지 속도전이 되는 상황을 경계했다.

오픈소스 진영 일부는 안전규제에 드는 비용이 후발주자의 시장 진입을 어렵게 하고 소수 대형기업의 통제력을 확대할 수 있다고 우려한다. 기업들이 공동으로 개발·출시 속도를 제한할 경우 반독점법상 담합으로 해석될 가능성도 쟁점이다. 오픈AI는 이와 관련한 기준을 명확히 해달라고 최근 미국 의회에 요청했다.

감속을 주장하는 앤트로픽이 고성장을 전제로 대규모 기업공개(IPO)를 추진한다는 점도 실효성 논의에 포함된다. 기업의 자금 조달과 투자 확대가 속도 조절 주장과 어떻게 연결될지가 문제로 남아 있다.

미국과 중국의 경쟁은 또 다른 제약이다. 마크 저커버그 메타 CEO는 지난달 중국과의 경쟁을 이유로 미국의 경쟁력을 늦춰서는 안 된다며 AI 개발 가속을 주장했다. 도널드 트럼프 미국 대통령도 AI 경쟁에서 이기지 못하면 미국이 매우 불리한 위치에 놓일 것이라고 말했다.

아모데이 역시 중국이 따라잡을 만큼 속도를 늦춰서는 안 된다는 조건을 제시했다. 중국이 미국과 AI 안전 대화를 추진하는 것으로 알려졌지만, 양국이 개발 속도까지 함께 제한하는 합의는 쉽지 않을 것으로 보인다. 중국을 포함한 업계 전반의 참여 여부가 공통 규칙의 주요 변수다.

최병호 고려대 인공지능연구소 교수는 AI 위험을 측정하거나 관리하기 어렵다는 점에서 감속 문제의식은 타당하다고 평가했다. 다만 기업들이 상장을 추진하고 데이터센터 투자를 가속하는 데다 앞으로 수익화 압박도 커질 것이라며, 속도 조절 주장의 진정성에는 의문을 제기했다.

M.Yoo--SG