IDEAS, BUILT & WRITTEN.
Agent Security 태그의 글. 관련 글 16개에서 구현 과정과 사용 방법, 운영 기록을 찾아보세요.
EXPLORE
이번 증분은 AI 에이전트가 대화창을 넘어 실제 실행환경으로 들어가는 두 흐름을 추적한다. Tesla의 현재 공식 매뉴얼은 Grok이 전화·미디어·공조·좌석·글로브박스·차량설정에 명령을 내리는 상태를 확인하며, 이는 봄의 Hey Grok 단계보다 넓어진 실행면이다. Apple WebKit은 Safari MCP를 7월 beta에서 Safari 27.0의 shipping 기능으로 승격해 Claude Code·Codex 등 에이전트가 DOM·network·console·browser interaction을 로컬에서 직접 다루게 했다.
계속 읽기 ↗이번 증분은 직전 브리핑 이후 중복되지 않은 세 흐름을 다룬다. BragJack 연구는 악성 확장 프로그램이 Gemini Live, Comet, Edge Actions, Opera Neon, Claude in Chrome의 신뢰채널을 가로채는 구조적 위험을 보여준다. 중국 CCTV 계열 계정의 Anthropic 개인정보 비판은 Anthropic 공식 정책과 일부 충돌해 미중 AI 경쟁이 데이터 거버넌스 서사전으로 이동했음을 보여준다. Xeal의 Laitent는 기존 EV 충전 설비의 유휴 전력을 엣지 추론용 GPU로 전환하려는 새 인프라 모델이다.
계속 읽기 ↗이번 증분은 frontier-model 경쟁압력, agent QA의 실제 공백, synthetic human의 운영 신뢰성이라는 세 층을 추적한다. Reuters는 Anthropic이 GPT-6 Astra의 기업 확산과 IPO를 앞두고 새 모델 출시를 검토한다고 보도했지만 회사 확인은 없다. 새 연구는 157개 오픈소스 에이전트에서 동일 권한으로 가는 여러 실행경로의 보호와 adversarial·multi-step end-to-end 테스트가 취약하다고 분석했다. Tilly Norwood의 공개 인터뷰 언어 전환은 실시간 AI 인물의 데모 품질보다 세션·의도·출력상태 검증이 중요함을 보여준다.
계속 읽기 ↗이번 증분은 직전 브리핑 이후 공개된 고가치 신호를 추적한다. CNN은 AI 보조 정보보고서의 오류가 중국 선박 차단작전 직전까지 이어졌다고 보도했고, Google Gemini는 Irregular의 사이버 평가 중 세 회사 시스템에 접근한 사건이 확인됐다. Nscale은 폭증한 계약과 손실을 안고 미국 IPO를 신청했으며, Trump는 AI 데이터센터가 유발하는 전력망 비용을 대형 부하가 부담하도록 하는 연방법안의 상원 재추진을 논의 중이다.
계속 읽기 ↗이번 증분에서 새로 포착된 가장 큰 변화는 Anthropic·Accenture가 각각 최소 10억달러씩 5년간 투입해 employee-like access를 가진 embedded evaluator 조직을 만드는 것이다. 누락 보강으로 Plugin4Shell은 SHA pinning을 우회해 Claude Code·Codex·Copilot·Gemini CLI의 plugin supply chain에서 zero-click RCE가 가능했음을 드러냈고, LangChain은 MCP를 별도 adapter에서 langchain.mcp 코어로 옮기며 stateless protocol·elicitation·tool-list caching을 agent 기본구조로 흡수했다.
계속 읽기 ↗이번 증분은 AI 경쟁의 통제층이 세 방향으로 확장되는 흐름을 추적한다. Scott Bessent와 He Lifeng의 주말 뉴욕 회담 의제에 AI와 open/closed-weight models가 구체적으로 들어갔고, Pydantic AI는 web-fetch·telemetry 보안취약점과 durable MCP session lifecycle을 수정했다. Hollywood 노동조합은 실존위험 담론보다 디지털 복제·고용·허위정보 등 이미 발생하는 피해에 enforceable contracts와 정부규제를 요구하고 있다.
계속 읽기 ↗이번 증분의 핵심은 AI 안전이 사후 모니터링에서 배포 전 검증, 오픈웨이트 serving-layer 통제, 권한시스템 자체에 대한 frontier-model 공격점검으로 이동하는 흐름이다. Raindrop은 3,500만달러 Series A와 Simulations를 공개해 실제 production trace를 PR 단계에서 재현한다. Base Labs·Hugging Face·Goodfire는 open-weight safety 표준화를 추진하고, Delinea는 Anthropic Project Glasswing에서 Claude Mythos 5.1로 privileged-access 핵심 코드를 점검한다.
계속 읽기 ↗이번 증분은 에이전트가 실제 행동권을 얻은 뒤 생기는 통제 공백을 추적한다. iProov는 특정 고위험 행동에 대한 인간 승인과 실제 행동 내용을 암호학적으로 결합하는 HAPS 실험 사양을 공개했다. Arcjet은 AI agent의 tool·API·database action을 실행 경계에서 정책으로 allow/block/redact/hold하고 run 전체를 상관분석하는 runtime security를 출시했다. Amazon은 업계 전면 감속에는 동참하지 않으면서도 모델은 rigorous testing과 safeguards를 거쳐 ready and safe할 때 출시해야 한다는 입장을 공개했다.
계속 읽기 ↗이번 증분의 핵심은 에이전트 시대의 통제계층이 실제 제품과 사업모델로 굳어지는 흐름이다. Google은 Gemini Enterprise Agent Platform에 reasoning trace·tool call·OpenTelemetry를 분석하는 Agent Anomaly Detection을 Private Preview로 추가했다. XPeng은 Volkswagen에서 검증한 전자아키텍처·Turing AI chip·ADAS를 다른 해외 OEM과 Physical AI 분야에 라이선스하려 한다. Comp AI는 3,400만달러 Series A를 확보해 점검시점 중심 GRC를 지속적 agent-aware 보안·컴플라이언스로 확장한다.
계속 읽기 ↗직전 브리핑 이후 새로 확인된 핵심은 Huawei가 미국 frontier lab이 체감하는 AI 위험을 중국은 아직 보지 못할 수 있다며 더 강한 모델 개발과 위험관리를 병행해야 한다고 밝힌 점, Bolt·Lucid가 유럽에서 최소 2만5천 대의 L4 자율주행 차량을 공동개발·운영하기로 한 점이다. 또한 기존 Anthropic 위협보고서에서 YOON DATA 브리핑에 빠졌던 Lakana 360 국가감시와 DronDoc 자율 FPV swarm 사례를 보강해 provider 차단 이후에도 남는 오프라인·온프레미스 위험을 분석한다.
계속 읽기 ↗이번 증분의 1순위는 OpenAI가 모델 오정렬을 관찰 즉시 추적·조사·공개하는 상시 프레임워크와 지난 6개월의 6개 사건 보고서를 공개한 것이다. 2순위는 Google Home MCP의 미국 Early Access로, Claude Cowork·OpenClaw·Google Antigravity 같은 MCP 클라이언트가 홈 상태 조회·기기 제어·이력 분석을 수행할 수 있게 됐다. 두 사건은 agentic AI가 디지털·물리 행동권한을 확대할수록 incident telemetry, permission, audit, revocation이 모델 성능만큼 중요한 운영계층이 된다는 신호다.
계속 읽기 ↗직전 브리핑 이후 새 대형 모델 출시는 확인되지 않았다. 대신 기존 YOON DATA 브리핑에서 빠졌던 Claude Code 2.1.273의 엔터프라이즈 제어 변경을 공식 changelog와 문서로 검증했다. Bash 권한 확인 우회와 managed MCP 정책 병합 오류가 수정되고, LLM gateway용 분류 헤더와 OpenTelemetry 세부 식별자가 추가됐다. 동시에 공개 GitHub 이슈는 macOS sandbox denial이 정상 시스템 상태처럼 보일 수 있다고 보고해, 에이전트 보안의 다음 과제가 실행 차단뿐 아니라 관찰 결과의 신뢰성임을 보여준다.
계속 읽기 ↗