Magnitude Mirage 태그의 글.

AI 동향2026-09-20

미국 2026년 9월 19일 AI 브리핑: AI 취약점 발견이 패치 병목을 폭발시키고, RAG의 similarity confidence가 추론질문에서 무너진다

이번 증분은 AI가 보안과 RAG의 신뢰 신호를 재설계하는 두 변화를 추적한다. AI-assisted bug discovery는 취약점 발견량을 빠르게 늘리지만 실제 exploitability는 같은 속도로 늘지 않아 검증·우선순위·패치가 새 병목이 된다. EMNLP 2026 채택 논문 The Magnitude Mirage는 RAG의 raw similarity score를 confidence로 쓰는 관행이 논리·시간 추론에서 거의 무작위 수준으로 붕괴할 수 있음을 보여준다.