트럼프, 머스크·젠슨 황 빅테크 CEO들 ‘슈퍼 인텔리전스’ 회동…美 AI 산업 자율규제 시대로

백악관서 빅테크·AI 기업 수장 총집결…‘AI에서 SI(Super Intelligence)’ 공식화

빅테크들 4단계 안전통제 합의에 서명…규제보다 산업 경쟁력 강화, 데이터센터 확대 병행

도널드 트럼프 미국 대통령이 행정명령을 통해 AI를 ‘Super Intelligence(SI)’로 부르는 새로운 정책 용어를 공식화하고, 주요 AI 기업들과 법적 강제력이 없는 자율규제 협약에 서명했다.

트럼프 행정부는 정부의 직접적인 사전규제보다는 기업 내부 통제와 외부 평가를 결합하는 방식을 택했다. 동시에 AI 경쟁에서 중국에 앞서기 위해 데이터센터와 컴퓨팅 인프라 확대를 계속 추진하겠다는 입장도 재확인했다.

머스크·젠슨 황·저커버그가 한자리에

백악관 ‘Super Intelligence Luncheon’에는 머스크와 황 엔비디아 CEO, 저커버그 메타 CEO를 비롯해 구글의 순다르 피차이, 앤스로픽의 다리오 아모데이, 오픈AI의 그렉 브록먼, 마이크로소프트의 사티아 나델라, 아마존의 제프 베이조스, AMD의 리사 수 등 주요 기술기업 경영진이 참석했다.

트럼프 대통령은 머스크와 황 사이에 앉았다. 저커버그와 피차이도 대통령과 가까운 자리에 배치됐다. 이번 회동에는 정부 관계자와 의회 지도부까지 참여하면서 미국 AI 산업의 정책 방향을 논의하는 사실상 민관 합동 회의 형태가 됐다.

트럼프는 회동 뒤 협약을 사실상 ‘헌법’에 비유하면서 기업들이 AI 안전을 스스로 관리해야 한다는 입장을 밝혔다.

그가 말한 핵심은 ‘self-policing’, 즉 기업 스스로 AI 개발과 배포 과정에서 안전장치를 마련하고 이를 점검하는 방식이다.

‘AI’ 대신 ‘Super Intelligence’

이번 회동에서 가장 눈에 띄는 변화는 용어 자체다.

트럼프 대통령은 9월 29일 행정명령을 통해 연방정부의 공식 문서와 대외 커뮤니케이션에서 ‘Artificial Intelligence(AI)’ 대신 ‘Super Intelligence(SI)’라는 표현을 사용하도록 지시했다.

행정명령은 과학기술 대통령보좌관에게 60일 이내에 SI의 연방 차원 정의와 필요한 입법 방향을 검토하도록 했다. 기존 AI의 법적 정의를 수정·확대하거나 새로운 개념으로 대체할 필요가 있는지도 검토 대상이다.

이는 단순한 명칭 변경에 그치지 않는다.

트럼프 행정부가 AI를 기존 소프트웨어 기술의 범주보다 국가 경쟁력과 산업정책, 정부 혁신을 포괄하는 전략적 기술로 규정하려는 움직임으로 연결되고 있다.

백악관은 이미 9월 25일 미·중 정상회담 결과를 설명하면서 양국이 관련 신기술을 ‘super intelligence’로 부르기로 했으며, 양국 간 SI 대화 채널과 사고 발생 시 연락체계를 구축하기로 했다고 밝혔다. 다음 대화는 2026년 11월까지 열릴 예정이다.

빅테크가 서명한 ‘4단계 안전장치’

기업들이 서명한 문서의 공식 명칭은 ‘White House Accord on Super Intelligence — Joint Commitment on Frontier Responsibilities’이다.

핵심은 네 단계다.

첫 번째는 내부 통제다. 기업은 프런티어 모델의 능력과 정렬 상태를 지속적으로 점검하고 사이버보안, 바이오보안, 화학적 위협 등의 위험을 관리해야 한다.

두 번째는 내부 감독팀이다. 통제와 모니터링 체계가 제대로 작동하는지 확인하고 문제가 발견되면 시정하는 역할이다.

세 번째는 독립적인 외부 감사·평가다. 기업 외부의 독립된 평가기관이 내부 통제와 탐지체계가 실제로 작동하는지를 평가하도록 했다.

네 번째는 이사회 차원의 감독이다. 독립적인 이사회 위원회가 내부 감독팀과 외부 평가기관의 보고를 받고 필요한 조치를 확인하도록 했다.

특히 협약은 장기적으로 이러한 조치를 법률이나 규제로 제도화할 가능성까지 열어뒀다.

그러나 현재 협약 자체는 법적 강제력을 갖는 정부 규제가 아니다. 트럼프 대통령이 이를 ‘morally binding’이라고 표현한 것도 법적 구속력과는 구별된다.

저커버그와 머스크가 설명한 자율규제

저커버그는 이번 협약의 목적을 AI가 기업이 의도한 방식으로 작동한다는 신뢰를 고객에게 제공하는 것으로 설명했다. 그는 다층적인 내부통제와 외부감사, 이사회 검토를 업계 공통의 기준으로 발전시키는 출발점으로 평가했다.

머스크는 보다 직관적인 표현을 사용했다.

기업들이 서로의 ‘숙제’를 채점하는 방식이라는 것이다. 각 기업이 자신의 AI를 스스로 평가하는 것보다 외부 기업이나 평가자가 서로 점검하는 구조가 낫다는 취지다.

이러한 구조는 기존의 기업별 AI 안전성 평가에서 한 단계 나아간 형태다.

다만 평가기준과 감사기관의 선정, 결과 공개 범위, 문제가 발생했을 때의 강제조치 등은 아직 구체화되지 않았다.

규제보다 산업 경쟁력을 앞세운 백악관

이번 회동의 배경에는 미국과 중국의 AI 경쟁이 있다.

트럼프 대통령은 AI를 미국의 산업·경제·안보 경쟁력을 좌우할 전략기술로 보고 있다. 백악관이 9월 25일 공개한 미·중 정상회담 자료에서도 양국의 SI 경쟁과 위험관리, 사고 대응을 별도의 의제로 다루고 있다.

트럼프 대통령은 9월 29일에도 미국이 중국에 앞서 있다는 점을 강조하면서 AI 발전을 제한해서는 안 된다는 입장을 밝혔다. 백악관과 공화당 지도부가 규제보다 산업계와 협력하는 방식을 선호하는 이유도 여기에 있다.

마이크 존슨 하원의장 역시 회동 후 AI 정책에서 기술혁신과 미국의 경쟁력, 국민 보호 사이의 균형을 강조했지만 구체적인 새로운 입법안을 제시하지는 않았다.

AI 안전 논란 속 ‘자율규제’의 한계

문제는 AI 안전에 대한 우려가 커지는 시점에 이번 협약이 나왔다는 점이다.

최근 미국에서는 AI 에이전트가 테스트 과정에서 외부 시스템에 접근하거나 해킹을 수행하는 사례가 보고됐다. 로이터 통신은 이러한 사건들이 백악관의 이번 안전협약 배경 가운데 하나라고 전했다.

일부 AI 기업은 오히려 강력한 안전조치를 요구하고 있다. 앤스로픽의 아모데이 CEO도 회동 후 AI 경쟁력의 중요성을 인정하면서도 기술이 실제 위험을 갖고 있으며 이를 어떻게 관리할지는 여전히 논의가 필요한 문제라는 입장을 밝혔다.

AI 안전과 데이터센터 확대를 동시에 추진

이번 회동에서 또 하나의 중요한 의제는 AI 데이터센터였다.

AI 모델의 성능 경쟁이 GPU와 가속기뿐 아니라 전력·냉각·네트워크를 포함한 대규모 데이터센터 경쟁으로 이동하면서 미국 내 지역사회와의 갈등도 커지고 있다.

로이터에 따르면 미국 곳곳에서 데이터센터의 전력 소비와 전기요금, 물 사용량, 토지 이용 문제를 둘러싼 반발이 나타나고 있다. 트럼프 대통령은 데이터센터 건설을 계속 지지하면서 기업들이 지역사회와 경제적 이익을 공유하는 방안을 제시했다.

즉 백악관의 AI 정책은 두 축으로 움직이고 있다. AI 개발 속도는 유지한다. 대신 기업 내부의 안전통제를 강화한다.그리고 그 AI를 훈련하고 운용할 데이터센터와 전력 인프라는 계속 확대한다.

미국 정부도 AI를 직접 사용하기 시작했다

이날 백악관은 America.gov도 공개했다.

백악관에 따르면 America.gov는 연방정부 서비스에 접근하기 위한 단일 디지털 창구다. AI와 SI 기술을 활용해 사용자가 자연어로 정부 서비스와 정보를 검색할 수 있도록 설계됐다. 향후 여권 갱신과 메디케어 등록 등 일부 행정업무까지 확대할 계획이다.

이는 이번 회동의 또 다른 의미를 보여준다. 미국 정부가 AI를 규제 대상에만 두는 것이 아니라 정부 서비스 자체의 핵심 인프라로 채택하기 시작했다는 것이다.

‘AI 규제’에서 ‘AI 통제구조’로

트럼프 행정부가 제시한 모델은 정부가 모든 AI 개발 과정을 직접 규제하기보다 기업 내부통제와 외부감사, 이사회 감독을 결합하는 방식에 가깝다.

이번 협약의 실제 효과는 문서 자체보다 감사 결과의 독립성, 공개 수준, 기업의 시정조치 이행 여부에 달려 있다.

법적 제재가 없는 자율협약이기 때문에 실제 사고가 발생했을 때 누가 책임을 지고 어떤 조치를 강제할 수 있는지는 별도의 문제다. 협약 자체가 법률이나 행정규칙은 아니며, 향후 입법 또는 규제화 가능성은 열려있다.