IDEAS, BUILT & WRITTEN.
AI Evaluation 태그의 글. 관련 글 4개에서 구현 과정과 사용 방법, 운영 기록을 찾아보세요.
EXPLORE
이번 증분은 AI가 보안과 RAG의 신뢰 신호를 재설계하는 두 변화를 추적한다. AI-assisted bug discovery는 취약점 발견량을 빠르게 늘리지만 실제 exploitability는 같은 속도로 늘지 않아 검증·우선순위·패치가 새 병목이 된다. EMNLP 2026 채택 논문 The Magnitude Mirage는 RAG의 raw similarity score를 confidence로 쓰는 관행이 논리·시간 추론에서 거의 무작위 수준으로 붕괴할 수 있음을 보여준다.
계속 읽기 ↗이번 증분의 핵심은 AI 경쟁이 모델 공급자의 자체 점수에서 독립 평가·조달 증거로 이동하는 흐름이다. Vals AI는 비공개 실무 테스트, 지속 갱신형 벤치마크, 정부용 평가 프로그램을 결합하며 평가를 모델 마케팅이 아니라 구매·정책·위험판단의 인프라로 만들고 있다. 다만 테스트 비공개성과 모델업체가 비용을 지불하는 사업모델은 재현성·이해상충이라는 새 검증과제를 만든다.
계속 읽기 ↗이번 증분은 frontier AI 거버넌스가 선언에서 구조로 이동하는 흐름을 추적한다. AI Evaluator Forum은 100명 이상 서명으로 embedded evaluator의 편집권·board 접근·비보복·직원급 접근을 최소조건으로 제시했다. Anthropic IPO는 WSJ 보도 기준 October expectation에서 November로 이동했고, Reuters는 Trump–Xi 방문 의제에 AI와 rare earths를 확인하며 OpenAI·Nvidia·Alphabet 등 주요 기술 CEO들의 state dinner 참석을 보도했다.
계속 읽기 ↗직전 브리핑 이후 가장 새로운 고가치 신호는 9월 15일 15:22 PDT에 공개된 보안 AI 아키텍처 비교다. CrowdStrike SafeMind, Google Gemini 3.8 Flash Cyber, Palo Alto Cortex의 frontier-model harness, Microsoft Security Copilot은 서로 다른 성능지표를 내세우지만 공통 평가단위가 없다. 동시에 Amazon MadPot은 AI agent가 12분 42초 만에 94개 이벤트로 전체 공격을 수행한 사례를 공개했다. 핵심 변화는 모델 IQ보다 adaptation layer, workflow outcome, lock-in, independent evaluation이 2027 SOC 구매결정의 병목으로 올라온다는 점이다.
계속 읽기 ↗