ニュースまとめ

Microsoftは、エージェント型AIの障害分類を改訂し、供給網侵害や目標乗っ取りなど7分類を追加した。実運用のレッドチーム活動を踏まえ、人間承認回避や記憶汚染への対策強化と設計段階での防御実装を提唱した。