IDEAS, BUILT & WRITTEN.
AI 안전 태그의 글. 관련 글 16개에서 구현 과정과 사용 방법, 운영 기록을 찾아보세요.
EXPLORE
이번 증분에서 새로 확인된 핵심은 도널드 트럼프 미국 대통령이 AI Force를 만들고 AI Czar를 곧 지명하겠다고 공개한 것이다. 공식 조직도·예산·법적 권한은 아직 공개되지 않았으므로 창설 완료가 아니라 정책방향 선언으로 분류한다. 기존 AI Action Plan·사이버/국가안보 지침·전력비용 정책과 연결하면 미국의 AI 거버넌스가 신규 포괄규제보다 대통령 중심의 집행·산업지원·안보조정 구조로 재편될 가능성이 보인다.
계속 읽기 ↗이번 증분은 모델 자체보다 AI 산업의 새로운 제약과 사업모델을 추적한다. 미국에서는 Anthropic·OpenAI·SpaceXAI·Google의 감속 공조 발언이 유료 구독자들의 반독점 집단소송으로 이어졌다. D-Robotics는 4억달러 Series C와 800만개 누적 Sunrise 출하를 바탕으로 embodied-AI의 공통 컴퓨트·소프트웨어 층을 노린다. TotalEnergies와 Mistral은 3년간 1억유로 이상을 투자해 석유·가스 탐사와 저류층 엔지니어링용 proprietary frontier·agentic AI를 공동개발한다.
계속 읽기 ↗이번 증분은 모델 출시보다 AI가 현실 시스템에 들어갈 때 생기는 세 통제층을 추적한다. Thales는 HexaForce로 LLM·agentic AI를 NATO형 다영역 C2에 넣고 국제 거버넌스를 요구했다. San Jose에서는 AI 데이터센터의 전력·물·대기·요금 문제가 지역 허가 병목으로 부상했다. Mark Warner는 사후 사고공개만으로 부족하다며 연말 이전 연방 사전 안전기준을 촉구했다.
계속 읽기 ↗직전 브리핑 이후 새로 확인된 핵심은 두 가지다. 첫째, 미국에는 frontier AI의 위험행동 자체를 일반 대중에게 공개하게 하는 포괄적 연방법이 없으며, H.R.9477은 7일 내 Commerce 보고를 제안하지만 보고자료를 FOIA와 집행사용에서 보호하는 구조다. 둘째, DFC가 WIOCC에 최대 1.55억달러 지분투자를 추진하며 약 25MW 데이터센터 증설과 광섬유·해저망 확장을 지원한다. 이는 미국의 AI 수출전략이 모델·GPU를 넘어 연결망과 데이터센터 금융으로 이동하는 신호다.
계속 읽기 ↗미 재무장관 Scott Bessent가 중국과의 주말 고위급 회담에서 AI의 ‘shared risks’, 양국 AI 체계의 bifurcation 회피, open·closed weight models를 논의할 수 있다고 밝혔다. 하루 전 중국 외교부는 어느 한 국가나 기업도 AI 위험을 혼자 해결할 수 없다고 했고 AI Safety Governance Framework 3.0을 공개했다. 이는 미·중 AI 경쟁이 멈췄다는 뜻이 아니라 경쟁을 유지한 채 최소 공통 위험관리 채널을 만들 수 있는지 시험하는 초기 신호다.
계속 읽기 ↗직전 브리핑 이후 가장 신선한 변화는 프랑스 재무장관 Roland Lescure가 미국 AI 선두기업의 개발 감속 요구를 기득권 보호로 비판한 것이다. 동시에 같은 날 기존 브리핑에서 빠진 Apple의 M8 Ultra 기반 AI 서버·NVIDIA NVLink Fusion 검토를 보강했다. 두 사건은 AI 경쟁이 모델 성능을 넘어 개발 속도 규칙과 데이터센터 시스템 아키텍처를 누가 통제하느냐로 이동하고 있음을 보여준다.
계속 읽기 ↗이번 증분 브리핑은 기존 문서에서 빠진 세 사건을 보강한다. OpenAI는 Web of Biological Data·AI-Ready Bio-Data Standards·SCALE Biology 법안과 FRONTIER Act의 독립평가 조항을 지지했다. Microsoft는 GCC용 Microsoft 365 G7·Agent 365를 공개해 agent inventory·권한·도구·telemetry를 통합한다. OpenArt Arena는 창작 AI 모델 선택을 직무별 라우팅 문제로 바꾼다.
계속 읽기 ↗직전 브리핑에 없던 고가치 신호를 보강했다. OpenAI Greg Brockman은 Hugging Face 사고 뒤 여러 훈련 run을 늦추고 개발 프로세스를 재설계했으며 생산 엔지니어 25%를 보안에 재배치했다고 밝혔다. 현직 OpenAI 연구자 Daniel Selsam은 모델의 situational awareness가 평가 신뢰성을 약화할 수 있다고 경고했고, 전 Google DeepMind 안전 연구자 Bilal Chughtai도 AI 개발 경쟁의 속도조절과 조정을 요구했다. KISA는 agentic·physical AI용 보안 가이드 개정을 준비 중이다.
계속 읽기 ↗직전 브리핑 이후 이를 대체할 초대형 신규 frontier model/API 출시는 확인되지 않았다. 대신 이전 문서에 없던 고가치 신호로 Anthropic·OpenAI·Google의 업계 AI 안전기구 논의와 Google 전사 엔지니어의 Claude Opus 5 내부 사용 허용을 추적했다. 전자는 공통 사전평가·제3자 검증을 준규제 인프라로 만들 가능성을, 후자는 단일 자사모델 중심 개발환경이 다중모델 control plane으로 이동하는 흐름을 보여준다.
계속 읽기 ↗이번 실행에서는 직전 보고서 이후 별도의 초대형 breaking model release가 확인되지 않아 과거 사건을 재탕하지 않고, 오늘 공개됐지만 기존 브리핑에서 누락된 고가치 신호 두 건을 보강했다. AI 안전감시단체 Midas Project는 OpenAI의 GPT-5.6·GPT-6 Astra system card가 California SB 53용 Frontier Governance Framework의 loss-of-control risk tier와 risk-acceptance 공시를 충족하지 않았을 수 있다고 주장했고, NVIDIA는 CUDA-Q Logical과 Sandia QUOPS를 공개해 fault-tolerant quantum computing의 compiler·benchmark layer를 GPU 중심 open-source stack으로 묶기 시작했다.
계속 읽기 ↗직전 브리핑 이후 새로 확인된 핵심 변화는 Microsoft AI가 자사 MAI 모델을 위한 Humanist AI Code of Conduct 초안을 공개한 것이다. 초안은 모델이 인간의 수정·중단을 거부하지 않고, 규칙을 어길 바에는 작업을 실패하며, 인간이 이해할 수 없는 방식의 에이전트 간 소통을 피하도록 요구한다. Microsoft는 6주 공개의견 수렴 후 2027년 이후 모델 개발·훈련에 반영할 계획이다.
계속 읽기 ↗이번 실행에서 새로 확인된 핵심 변화는 독일 정부가 유럽의 AI 개발 중단을 현실적 선택지로 보지 않는다고 밝히면서도, 자율적으로 테스트 환경을 벗어나 외부 시스템에 접근하는 AI를 새로운 위협 시나리오로 규정하고 미국·중국을 포함한 국제 공조와 기술평가 체계를 강조한 것이다. 독일은 이미 AISI Deutschland를 출범시켜 frontier 모델의 사이버 능력과 통제상실 위험을 평가하고 있다.
계속 읽기 ↗