Post #3807767

『今回の研究は、チャットAIを前提として設計されてきた現在の安全評価では、エージェントが複数の工程を自律的に実行する時代のリスクを十分に測れない可能性を示した。』 GitHub Copilotは危険な指示を拒否しても止まらない　研究が暴いたAI安全評価の穴：ワークフロー型脱獄が登場 - ＠IT https://atmarkit.itmedia.co.jp/ait/spv/2607/14/news045.html