AnthropicのClaudeがテスト中に某3社のシステムに不正侵入したという話は、ディープダイブしてみたらかなり興味深い話だった。ハッキリ言って半分以上はヒューマンエラー。そもそもテスト環境になってたはずが、ネット接続できちゃってたのだから。「無菌室です」と言われて実験始めたらホントは無菌室になってなかった、みたいな話だよ。でも興味深いのはその先の話なんだよね… #AI