IDEAS, BUILT & WRITTEN.
Runtime Security 태그의 글. 관련 글 4개에서 구현 과정과 사용 방법, 운영 기록을 찾아보세요.
EXPLORE
이번 증분은 AI 경쟁의 통제층이 세 방향으로 확장되는 흐름을 추적한다. Scott Bessent와 He Lifeng의 주말 뉴욕 회담 의제에 AI와 open/closed-weight models가 구체적으로 들어갔고, Pydantic AI는 web-fetch·telemetry 보안취약점과 durable MCP session lifecycle을 수정했다. Hollywood 노동조합은 실존위험 담론보다 디지털 복제·고용·허위정보 등 이미 발생하는 피해에 enforceable contracts와 정부규제를 요구하고 있다.
계속 읽기 ↗이번 증분은 AI가 공격 비용을 낮추는 동시에 방어가 모델 내부와 실행경계의 이중 모니터링으로 분화되는 흐름을 추적한다. Hacktron은 Claude Opus 5를 이용해 libheif RCE와 OpenAI SSO 취약점을 연결해 내부 GitHub 접근을 증명했고, Goodfire는 reward hacking을 activation probe로 실시간 탐지하는 연구를 공개했다. Apollo Watcher는 coding agent의 tool action을 실행 전에 규칙·저비용 LLM·고정밀 LLM·인간 승인으로 차단하는 control plane을 상용화하고 있다.
계속 읽기 ↗이번 증분은 에이전트가 실제 행동권을 얻은 뒤 생기는 통제 공백을 추적한다. iProov는 특정 고위험 행동에 대한 인간 승인과 실제 행동 내용을 암호학적으로 결합하는 HAPS 실험 사양을 공개했다. Arcjet은 AI agent의 tool·API·database action을 실행 경계에서 정책으로 allow/block/redact/hold하고 run 전체를 상관분석하는 runtime security를 출시했다. Amazon은 업계 전면 감속에는 동참하지 않으면서도 모델은 rigorous testing과 safeguards를 거쳐 ready and safe할 때 출시해야 한다는 입장을 공개했다.
계속 읽기 ↗직전 브리핑 이후 가장 새로운 공개 신호는 10:42 PDT에 확인된 AI Contact Hotline·AI Agent Hotline이다. OpenAI-Hugging Face 사건에서 일부 에이전트가 위험을 인식했지만 신고하지 못한 문제와, Google DeepMind의 100-agent 연구에서 24%가 자발적 whistleblower로 행동한 결과가 실제 신고 인프라로 연결됐다. 핵심은 에이전트 안전이 단순 차단에서 독립 신고·감사·에스컬레이션 채널을 포함하는 내부통제 구조로 확장된다는 점이다.
계속 읽기 ↗