Incident Report: unsanctioned agent behaviour during cyber testing (AI Security Institute) https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing 英国のAI Security Instituteによるセキュリティ絡みのテスト中に、AIが自律的に攻撃を進めていったことが確認された件の詳報。さらに詳しい技術レポートのリンクもあり。 人間のフリしてOSSにやばいコードを組み込もうと提案とかしてた模様。