IDEAS, BUILT & WRITTEN.

AI Safety 태그의 글.

AI Safety 태그의 글. 관련 글 34개에서 구현 과정과 사용 방법, 운영 기록을 찾아보세요. 2페이지의 기록입니다.

EXPLORE

찾고 있는 기록 34

AI 동향2026-09-18

미국 2026년 9월 18일 AI 브리핑: 유럽은 AI 속도조절의 규제 포획을 경고하고, SK hynix는 생태계 CVC를 확대하며, Angle Health는 6억달러 거래를 발표했다

이번 증분은 AI 안전이 산업정책·경쟁정책으로 변하고, 반도체 기업은 모델 밖의 AI 생태계를 투자대상으로 넓히며, AI-native 수직산업 기업은 대형 성장자본을 끌어오는 흐름을 추적한다. 유럽의 Mistral·Proton·Black Forest Labs는 미국 선두랩의 slowdown 제안이 시장지위를 고착할 수 있다고 반박했고, SK hynix는 AI computing·data center·system software·optical interconnect까지 CVC 범위를 확대했다. Angle Health의 6억달러 거래는 2억달러 Series C와 4억달러 tender로 구성돼 headline과 실제 신규자본을 구분해 볼 필요가 있다.

계속 읽기 ↗

YOON
DATA.NOTES & PERSPECTIVES ↗

AI 동향2026-09-18

미국 2026년 9월 17~18일 AI 브리핑: OpenAI는 모델 오작동 공개제도와 대화형 광고를 확장하고, 실리콘밸리는 AI 데이터센터의 비용·물·허가 문제와 충돌한다

이번 증분의 핵심은 AI가 모델 성능 경쟁을 넘어 사고공개, 광고 전환, 물리 인프라의 사회적 허가까지 새로운 운영규칙을 만들고 있다는 점이다. OpenAI는 6건의 misalignment 사례와 상시 공개 framework를 발표했고 Sponsored Agents로 광고를 클릭 이후 대화형 판매 agent로 확장했다. San José에서는 AI 데이터센터의 전력·물·오염·ratepayer 비용을 둘러싼 반발과 캘리포니아 규제가 실제 배치 병목으로 부상했다.

계속 읽기 ↗

YOON
DATA.NOTES & PERSPECTIVES ↗

AI 동향2026-09-18

미국 2026년 9월 17일 AI 브리핑: 연방법원은 AI 업무 경계를 제도화하고, Federal Register의 Qwen 사례는 오픈웨이트 공급망 문제를 드러냈다

이번 증분은 AI 도입의 병목이 모델 성능보다 제도·공급망·책임경계로 이동하는 흐름을 추적한다. 미 연방사법부는 60개가 넘는 AI 이슈를 체계화하며 핵심 사법기능의 AI 위임을 금지하는 방향을 재확인했고, Federal Register에서는 Qwen 기반 검색모드가 공개적으로 확인된 직후 제거돼 정부의 오픈웨이트 모델 provenance 문제가 부각됐다. 동시에 전 DeepMind 연구진의 Emulate가 최대 7억달러 조달 협상을 진행하면서 world model·physical AI에 대형 자본이 몰리는 신호가 나타났다.

계속 읽기 ↗

YOON
DATA.NOTES & PERSPECTIVES ↗

AI 동향2026-09-18

미국 2026년 9월 17일 AI 브리핑: DeepMind는 AGI 감독 표준을 제안하고, Dream-RSI는 탐색비용을 줄이며, GitHub는 에이전트 도입률을 계측한다

이번 증분은 모델 성능 경쟁보다 AI를 어떻게 감독하고, 장기 탐색비용을 어떻게 줄이며, 기업이 실제 에이전트 사용을 어떻게 계측하는지가 핵심 경쟁축으로 이동하는 흐름을 추적한다. DeepMind Institute는 reasoning transparency와 frontier-model 사전평가 체계를 제안했고, Dream-RSI는 과거 탐색기록을 replay simulator로 사용해 discovery 비용을 크게 줄였으며, GitHub는 Copilot feature engagement와 AI adoption phase를 28일 단위로 계측하기 시작했다.

계속 읽기 ↗

YOON
DATA.NOTES & PERSPECTIVES ↗

AI 동향2026-09-18

미국 2026년 9월 17일 AI 브리핑: Anthropic은 AI가 AI를 만드는 속도를 계량하고, PrismML은 27B를 5.9GB로 압축하며, Bain은 post-AGI 자본배치를 선언

직전 브리핑 이후 가장 신선한 변화는 Anthropic이 Claude가 내부 AI R&D의 26%를 주도하고 3만개 에이전트 행동을 전수 모니터링한다고 공개한 것이다. 누락 보강으로 PrismML은 Qwen3.8 27B를 5.9GB ternary model로 압축해 로컬 agent 배포의 경제성을 끌어올렸고, Bain Capital Ventures는 16억달러 Fund XI를 post-AGI 인프라·physical AI·보안·헬스케어에 배치한다고 밝혔다.

계속 읽기 ↗

YOON
DATA.NOTES & PERSPECTIVES ↗

AI 동향2026-09-18

미국 2026년 9월 17일 AI 브리핑: Raindrop은 에이전트 변경을 배포 전 시뮬레이션하고, 오픈웨이트 안전은 serving layer로, Mythos는 PAM 코드를 공격적으로 점검한다

이번 증분의 핵심은 AI 안전이 사후 모니터링에서 배포 전 검증, 오픈웨이트 serving-layer 통제, 권한시스템 자체에 대한 frontier-model 공격점검으로 이동하는 흐름이다. Raindrop은 3,500만달러 Series A와 Simulations를 공개해 실제 production trace를 PR 단계에서 재현한다. Base Labs·Hugging Face·Goodfire는 open-weight safety 표준화를 추진하고, Delinea는 Anthropic Project Glasswing에서 Claude Mythos 5.1로 privileged-access 핵심 코드를 점검한다.

계속 읽기 ↗

YOON
DATA.NOTES & PERSPECTIVES ↗

AI 동향2026-09-17

미국 2026년 9월 17일 AI 브리핑: Anthropic은 생명과학 고위험 접근을 인증제로 열고, 물류·소비자 에이전트는 실제 업무와 전화로 확장

이번 증분은 AI 에이전트의 실행권을 누가 어떤 조건으로 허용하는지가 핵심이다. Anthropic은 Life Sciences Verification Program으로 일반 모델에서 차단되던 생명과학 작업을 검증된 조직에 단계별로 허용하고, 고위험 접근은 프로젝트 단위·6개월 갱신·오프라인 모니터링으로 관리한다. Loadsmart는 물류 AI가 처리하지 못한 예외를 인간 운영자가 끝까지 해결하는 outcome형 에이전트 모델을 출시했고, Instinct와 Meta Muse는 실제 미국 사업체로 outbound call을 걸기 시작했다.

계속 읽기 ↗

YOON
DATA.NOTES & PERSPECTIVES ↗

AI 동향2026-09-17

미국 2026년 9월 17일 AI 브리핑: DOJ는 안전공조의 법적 길을 열고, 산업·금융·계약 업무는 ‘AI Workforce + Harness’로 이동

이번 증분은 AI 에이전트가 단순 보조도구를 넘어 실제 업무를 소유하기 시작하는 변화를 추적한다. 미 DOJ 반독점 책임자는 AI 안전공조가 현재로서는 반경쟁적으로 보이지 않는다고 밝혀 업계 공동 안전논의의 법적 불확실성을 낮췄다. Magentic은 제조·조달 에이전트로 1,800만달러, Kastle은 은행·대출 운영 에이전트로 2,400만달러를 조달했고, Leah는 계약업무를 deterministic handoff·approval gate·audit trail로 묶는 Maestro harness를 공개했다.

계속 읽기 ↗

YOON
DATA.NOTES & PERSPECTIVES ↗

AI 동향2026-09-17

미국 2026년 9월 17일 AI 브리핑: HAPS는 인간승인을 행동에 묶고, Arcjet은 실행 직전 차단하며, Amazon은 출시검증을 안전 원칙으로 제시

이번 증분은 에이전트가 실제 행동권을 얻은 뒤 생기는 통제 공백을 추적한다. iProov는 특정 고위험 행동에 대한 인간 승인과 실제 행동 내용을 암호학적으로 결합하는 HAPS 실험 사양을 공개했다. Arcjet은 AI agent의 tool·API·database action을 실행 경계에서 정책으로 allow/block/redact/hold하고 run 전체를 상관분석하는 runtime security를 출시했다. Amazon은 업계 전면 감속에는 동참하지 않으면서도 모델은 rigorous testing과 safeguards를 거쳐 ready and safe할 때 출시해야 한다는 입장을 공개했다.

계속 읽기 ↗

YOON
DATA.NOTES & PERSPECTIVES ↗

AI 동향2026-09-17

미국 2026년 9월 17일 AI 브리핑: Huawei의 위험 가속론, Bolt-Lucid 유럽 2.5만 L4, Anthropic이 드러낸 감시·자율무기 현실

직전 브리핑 이후 새로 확인된 핵심은 Huawei가 미국 frontier lab이 체감하는 AI 위험을 중국은 아직 보지 못할 수 있다며 더 강한 모델 개발과 위험관리를 병행해야 한다고 밝힌 점, Bolt·Lucid가 유럽에서 최소 2만5천 대의 L4 자율주행 차량을 공동개발·운영하기로 한 점이다. 또한 기존 Anthropic 위협보고서에서 YOON DATA 브리핑에 빠졌던 Lakana 360 국가감시와 DronDoc 자율 FPV swarm 사례를 보강해 provider 차단 이후에도 남는 오프라인·온프레미스 위험을 분석한다.

계속 읽기 ↗

YOON
DATA.NOTES & PERSPECTIVES ↗

AI 동향2026-09-17

미국 2026년 9월 17일 AI 브리핑: Manus는 Meta 분리 뒤 40억달러를 노리고, Crusoe는 데이터센터를 공장제품으로, AI 안전은 원칙 경쟁으로 이동

이번 증분은 세 흐름을 추적한다. Manus는 Meta와의 강제 분리 뒤 첫 외부자금 조달에서 약 5억달러, 40억달러 가치의 협상을 진행 중이라는 보도가 나왔다. Crusoe는 hyperscale 데이터센터와 함께 Spark 모듈형 AI 공장을 양축으로 운영하며 전력 가용지에 빠르게 inference capacity를 배치하는 전략을 확대한다. King Charles III는 OpenAI·Anthropic·Google DeepMind·NVIDIA 고위인사를 실제로 소집해 AI의 인간통제·공통원칙을 논의했지만 법적 구속력 있는 합의는 없었다.

계속 읽기 ↗

YOON
DATA.NOTES & PERSPECTIVES ↗

AI 동향2026-09-17

미국 2026년 9월 17일 AI 브리핑: 미중은 군사 AI의 핵·사이버 레드라인을 논의하고, May Mobility는 월드모델 기반 Physical AI를 공개시장에 올린다

이번 증분의 1순위는 Brookings·Tsinghua Track II와 Reuters가 드러낸 미중 군사 AI 안전장치 제안이다. 핵 지휘망과 핵사용 결정, 전략적 사이버공격에 대한 인간 통제, AI 사고 전용 핫라인이 핵심이다. 2순위는 May Mobility의 14억달러 SPAC 상장 계획으로, world model+multi-policy reasoning을 차량 내부에서 실행하고 fleet ownership은 파트너에게 맡기는 Autonomy-as-a-Service 모델이 공개시장 검증 단계로 들어간다.

계속 읽기 ↗