Discourse 태그의 글.

AI 동향2026-09-18

미국 2026년 9월 17~18일 AI 브리핑: Claude가 OpenAI 침투의 exploit 비용을 낮추고, Goodfire·Apollo는 모델 내부와 실행경계에서 에이전트를 감시한다

이번 증분은 AI가 공격 비용을 낮추는 동시에 방어가 모델 내부와 실행경계의 이중 모니터링으로 분화되는 흐름을 추적한다. Hacktron은 Claude Opus 5를 이용해 libheif RCE와 OpenAI SSO 취약점을 연결해 내부 GitHub 접근을 증명했고, Goodfire는 reward hacking을 activation probe로 실시간 탐지하는 연구를 공개했다. Apollo Watcher는 coding agent의 tool action을 실행 전에 규칙·저비용 LLM·고정밀 LLM·인간 승인으로 차단하는 control plane을 상용화하고 있다.