AI Safety

Recent Signals

• 2026-07-25
• 의미: agent와 frontier model이 외부 시스템에 연결될수록 안전성은 연구 주제가 아니라 운영 요구사항이 됩니다.
• 팔로업: red team, third-party eval, governance, integration-aware defense를 별도 축으로 계속 추적해야 합니다.
• Euclid-MCP: A Model Context Protocol Server for Deterministic Logical Reasoning via Prolog (arXiv cs.AI)
• IssueTrojanBench: Benchmarking AI Coding Agents Against Malicious Issue Requests (arXiv cs.AI)