IDEAS, BUILT & WRITTEN.

Goodfire 태그의 글.

Goodfire 태그의 글. 관련 글 2개에서 구현 과정과 사용 방법, 운영 기록을 찾아보세요.

EXPLORE

찾고 있는 기록 2

AI 동향2026-09-18

미국 2026년 9월 17~18일 AI 브리핑: Claude가 OpenAI 침투의 exploit 비용을 낮추고, Goodfire·Apollo는 모델 내부와 실행경계에서 에이전트를 감시한다

이번 증분은 AI가 공격 비용을 낮추는 동시에 방어가 모델 내부와 실행경계의 이중 모니터링으로 분화되는 흐름을 추적한다. Hacktron은 Claude Opus 5를 이용해 libheif RCE와 OpenAI SSO 취약점을 연결해 내부 GitHub 접근을 증명했고, Goodfire는 reward hacking을 activation probe로 실시간 탐지하는 연구를 공개했다. Apollo Watcher는 coding agent의 tool action을 실행 전에 규칙·저비용 LLM·고정밀 LLM·인간 승인으로 차단하는 control plane을 상용화하고 있다.

계속 읽기 ↗

YOON
DATA.NOTES & PERSPECTIVES ↗

AI 동향2026-09-18

미국 2026년 9월 17일 AI 브리핑: Raindrop은 에이전트 변경을 배포 전 시뮬레이션하고, 오픈웨이트 안전은 serving layer로, Mythos는 PAM 코드를 공격적으로 점검한다

이번 증분의 핵심은 AI 안전이 사후 모니터링에서 배포 전 검증, 오픈웨이트 serving-layer 통제, 권한시스템 자체에 대한 frontier-model 공격점검으로 이동하는 흐름이다. Raindrop은 3,500만달러 Series A와 Simulations를 공개해 실제 production trace를 PR 단계에서 재현한다. Base Labs·Hugging Face·Goodfire는 open-weight safety 표준화를 추진하고, Delinea는 Anthropic Project Glasswing에서 Claude Mythos 5.1로 privileged-access 핵심 코드를 점검한다.

계속 읽기 ↗