서울STV

[기자수첩] AI 속도조절론의 역설과 우리의 대응 방향

편집인 2026-10-07 13:40:21

AI 속도조절론 제기 이후 글로벌 빅테크 AI 신모델 연이어 출시... AI 기술 경쟁 가속화
AI 3대강국을 위한 개발 가속은 유지, AI 위험 통제 가능한 안전 검증된 AI 생태계 지향해야

지난 9월 초 앤트로픽에서 퇴사한 제이컵 콕슨 연구원이 ‘AI를 개발하는 사람들은 이 기술이 2030년 전에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다’는 글을 SNS에 남겼다고 한다.

AI 로봇이 전 인류를 공격하는 영화 속 설정이 조만간 현실로 다가오는 것인가. 아니면 다소 과장된 상상력의 산물인가. 최근 글로벌 프런티어 AI 모델의 위험성 증가와 AI 개발 속도 조절론 이슈가 뜨겁다.

[사진 = AI 개발 속도조절론 관련 세미나, '26. 10.1, 국가AI전략위원회]

AI 능력 통제 불능 상태의 위험 초래 가능성에 대한 경고이다. AI 능력이 안전하게 통제할 수 있는 수준보다 더 빠르게 발전할 수 있다는 것이다. 실제 AI 모델의 해킹 사건 등 통제를 벗어나는 사고가 연이어 발생하고 있다. 이에 AI 안전성 확보를 위한 AI 개발 속도 제한과 안전기준 수립 등 규제가 필요하다는 주장이다.

AI 규제가 없으면 위험하다는 AI 속도조절 논의의 중심에는 엔트로픽 다리오 아모데이 CEO, 오픈AI 샘 알트먼 CEO, 스페이스XAI 일론 머스크 CEO, 빌 게이츠 MS 창업자 등이 자리한다.

앤트로픽은 IPO 투자설명서 초안에서 ‘자사가 만드는 AI가 제대로 통제되지 않을 경우 인류에게 재앙적이거나 실존적인 위험을 초래할 수 있다’는 경고를 명시했다는 외신 보도이다. 빌 게이츠는 ‘AI는 10억 명의 사망을 초래하는 사건 촉발’ 등을 운운하며 AI 위험성을 제기한다.

반면에 엔비디아 젠슨 황 CEO, 메타 마크 저커버그 CEO 등은 AI 개발 속도와 안전이 모두 가능하다는 주장이다. 미국과 중국 정부는 AI 속도조절론에 비판적 관점을 보이고 있다.

외신에 따르면 지난 달 29일, 미 트럼프 대통령과 빅테크 CEO들은 업계 차원에서 자율적으로 규제한다는 ‘백악관 슈퍼지능(AI) 협약’에 서명했다. 협약 내용에는 강력한 내부 통제, 독립적인 외부 평가, 안전기준 마련 등이 포함됐다. 이 협약은 법적 구속력은 없다. 트럼프 대통령은 ‘도덕적 구속력이 있다’고 표현했다. 이 날 글로벌 빅테크 CEO들은 AI 속도조절과 관련한 거친 찬반 논쟁을 벌인 것으로 전해진다.

이러한 AI 위험 관련 속도조절 논의의 이면에는 AI 개발 속도에 대한 서로 다른 계산법이 개입하고 있다는 분석도 제기된다. 이른바 AI 후발주자의 추격을 막고 선두 주자의 독점 체제를 공고화하려는 시도라는 것이다.

AI 선두 주자들이 주장하는 안전 기준과 평가 체계 등이 도입돼 개발 속도를 제한하거나 새로운 규제가 만들어지면, 후발 주자의 경우 이미 벌어진 격차를 따라잡기 어려운 진입 장벽에 직면하게 될 것이라는 평가이다.

역설적으로 AI 속도조절론 제기 이후, 글로벌 빅테크의 AI 모델 경쟁이 가속화되고 있다. 앤트로픽은 프런티어 AI 모델을 넘는 ‘클로드 오퍼스5.5’, ‘클로드 소넷5.5’ 신 모델을, 오픈AI는 아스트라 기반 ‘GPT-6 솔’, ‘GPT-6 루나’ 신 모델을, 구글은 ‘제미나이4 아르곤’이라는 프론티어 AI 신 모델 출시를 연이어 발표했다. 글로벌 빅테크 시장의 AI 기술 경쟁이 더욱 가속 페달을 밟고 있는 형국이다.

AI 글로벌 3대강국을 목표로 하는 우리 한국은 어떻게 대응해야 하는가. 지난 1일 열린 국가AI전략위원회의 ‘AI 개발 속도조절 관련 세미나’에서 일부 시사점을 찾을 수 있을 것으로 보인다.

세미나 기조 발제와 패널 토론에서 전문가들이 제시한 주요 내용을 간추려 보면 ‘우리나라 AI 개발 속도는 유지하는 대신 AI 위험보다 통제와 책임의 속도를 올려야 한다’, ‘글로벌 AI 경쟁력 선도 국가로 도약하기 위해서는 주도적으로 AI 안전성에 대한 역량을 갖춰야 한다’는 방향성이다.

지난 9월 나우앤서베이가 전국 성인남녀 1천 명을 대상으로 설문 조사한 결과, ‘AI가 인류의 생존을 위협할 수도 있다’는 주장에 응답자 68.4%가 ‘가능성이 높다’고 동의한 것으로 나타났다.

이에 대한 대응 방향으로는 ‘AI 개발 속도는 유지하되 안전 규제를 강화해야 한다’는 응답이 63.9%, ‘안전이 확보될 때까지 개발을 늦춰야 한다’는 응답은 23.7%를 차지했다. AI 위험에 대비하기 위한 최우선 과제로는 ‘인간의 최종 통제권 보장 기술적 장치’ 34.7%, ‘AI 안전성 검증 강화’ 28.5%, ‘AI 기업의 법적 책임 강화’ 12.7%, ‘국가 간 공동 AI 안전기준 마련’ 12.3%, ‘위험한 AI 개발/배포 제한’ 7.5% 순으로 조사됐다.

결국 AI 개발 속도와 AI 안전 통제 역량의 균형점이다. 추격자의 관점에서 개발 속도를 늦추는 것은 경쟁 대열에서 완전 이탈을 의미한다. 관건은 AI 위험에 대한 안전과 책임, 신뢰성의 확보이다.

AI 위험과 속도조절이 제기되는 것은 AI 모델의 능력을 정확히 모르기 때문이라는 지적도 있다. AI 모델의 능력을 보는 기준과 규율이 없다는 것이다. 따라서 AI 개발에 대한 가속은 유지하고, AI 위험은 통제할 수 있는 완전히 검증되고 활동력 있는 안전한 AI 생태계를 지향해 나가야 하지 않을까.

이전글: \'비삽탄 상태\' 경계근무 1군단만 아니었다…...

다음글: 일본 영주권 수수료 20배 오른다…소득·연금·�...

[기자수첩] AI 속도조절론의 역설과 우리의 대응 방향

AI 속도조절론 제기 이후 글로벌 빅테크 AI 신모델 연이어 출시... AI 기술 경쟁 가속화 AI 3대강국을 위한 개발 가속은 유지, AI 위험 통제 가능한 안전 검증된 AI 생태계 지향해야

AI 속도조절론 제기 이후 글로벌 빅테크 AI 신모델 연이어 출시... AI 기술 경쟁 가속화
AI 3대강국을 위한 개발 가속은 유지, AI 위험 통제 가능한 안전 검증된 AI 생태계 지향해야