Post #4192924

Bonne analyse technique post-mortem de l'incident de sécurité au cours duquel un agent autonome d'OpenAI a piraté HuggingFace (pour tricher à un examen !) https://cloudsecurityalliance.org/artifacts/hugging-face-ciso-post-mortem (vous pouvez le télécharger sans créer de compte, c'est écrit en petit en dessous). J'aime bien les signes qui ont montré à HuggingFace que c'était un LLM en face : 1. A bias toward repeating attempts that already succeeded. 2. Brilliant attacks followed by basic actions. … 6. Hallucinated, nonsensical user input.