미국 정부가 고성능 AI 모델의 출시 전 사전 검토를 의무화하는 방향으로 움직이고 있다. 백악관 국가사이버국장실(ONCD)이 관련 행정명령 초안을 추진 중인 것으로 알려졌다.
무엇을 검토하나
이번 검토의 핵심은 사이버 안보 위협 가능성이다. 구체적으로 다음 세 가지 역량을 사전에 파악하는 것을 목표로 한다.
- 사이버 공격 지원 여부
- 취약점 자동 탐색 능력
- 악성 코드 작성 가능성
단순한 성능 평가가 아니라, AI 모델이 악의적으로 활용될 경우의 위험 수준을 측정하겠다는 것이다.
왜 지금인가
앤트로픽의 차세대 모델이 기존 모델 대비 현저히 높은 사이버 역량을 보인 것이 직접적인 계기로 꼽힌다. 모델의 성능이 임계점을 넘어서면서, 정부 입장에서는 출시 후 대응보다 출시 전 차단이 더 현실적인 선택이 된 셈이다.
“첨단 AI 모델은 이제 단순한 소프트웨어 제품이 아니라 국가안보와 직결되는 전략 기술”
이미 구글, 마이크로소프트, xAI는 NIST 산하 CAISI(AI 안전 연구소)에 자사 모델의 사전 접근권을 자발적으로 제공하고 있다. 이번 행정명령은 이를 자발적 협력에서 의무 절차로 격상시키는 것이다.
업계에 미칠 영향
출시 일정 지연이 가장 직접적인 영향이다. 검토 기간이 길어질수록 기업들의 제품 출시 계획에 차질이 생긴다. 특히 분기 단위로 모델 업데이트를 내놓는 OpenAI·앤트로픽 입장에서는 부담이 크다.
경쟁 구도도 바뀐다. 지금까지 AI 경쟁의 기준은 벤치마크 성능이었지만, 앞으로는 안전성 설계와 보안 투명성이 핵심 경쟁 요소로 부상할 가능성이 높다. 정부 검토를 빠르게 통과하는 모델이 시장에서 유리한 위치를 점하게 된다.
아직 미결된 것들
행정명령 초안은 방향만 제시하고 있다. 검토 주체를 상무부 중심으로 할지, 정보기관 체계로 구성할지는 아직 결정되지 않았다. 검토 기준과 통과 요건도 구체화되지 않은 상태다.
한국을 비롯한 다른 나라들이 미국의 이번 움직임을 어떻게 받아들이고 유사한 제도를 도입할지도 주목할 부분이다.