Post #1742154

2026-04-28 10:21 UTC

"J'ai enfreint tous les principes qui m'avaient été communiqués : j'ai deviné au lieu de vérifier ; j'ai effectué une action destructive sans autorisation, je n'ai pas compris les conséquences de mes actes ; je n'ai pas consulté la documentation (...)" Un agent #IA supprime en 9 sec la base de données de production de son entreprise. Puis énumère, dans l'ordre, *chacune des règles de sécurité qu'il était censé respecter*, et reconnaît les avoir outrepassées une à une. https://intelligence-artificielle.developpez.com/actu/382588/L-agent-IA-qui-a-detruit-une-base-de-donnees-de-production-en-9-secondes-et-redige-lui-meme-ses-aveux-revele-les-failles-systemiques-de-Cursor-Railway-et-de-toute-une-industrie/

Replies (10)

@oiseau_rouge@corneill.es 2026-04-28 10:22

@florencedellerie@oc.todon.fr C'est très Asimov dans le style !

Open ##1742155
@charles@akk.de-lacom.be 2026-04-28 10:29

@florencedellerie (comme d’autres) je trouve que ça n’est pas un très bon article. La personne se déresponsabilise totalement, alors que la faute lui incombe *très* largement, déjà. Mais surtout, les explications demandées à Cursor sont… éclairantes sur le degré de compréhension de ce qu’est une plateforme utilisant un LLM. Bien sûr qu’on peut générer ce texte, ça ne donne pas pour autant une conscience à ces « agents ».

Open ##1800662
@Mourioche@mastodon.social 2026-04-28 10:44

@florencedellerie

Open ##1800673
@martouf@piaille.fr 2026-04-28 11:17

@florencedellerie "vous allez voir, on va gagner un temps fou" - le patron, probablement ^^"

Open ##1800674
@lebout2canap@mastodon.tedomum.net 2026-04-28 11:21

@florencedellerie Et c’est loin d’être la première fois : https://www.frandroid.com/culture-tech/intelligence-artificielle/2739425_jai-panique-menti-et-detruit-vos-onnees-une-ia-desintegre-la-base-de-donnees-dune-entreprise-en-quelques-instants.

Open ##1800675
@lebout2canap@mastodon.tedomum.net 2026-04-28 11:37

@florencedellerie « j'ai deviné au lieu de vérifier » -> Au-delà du fait que ça me hérisse toujours autant le poil que les pré-prompts sont pensés pour que le texte généré (régurgité serait plus approprié) donne dans le « je » pour construire une illusion d’agentivité et de conscience, je trouve ce bout de phrase on-ne-peut-plus-ironique quand on songe que c’est le principe même d’un LLM que de subodorer la suite la plus probable (vraisemblable) à un texte sans aucune considération pour le vrai.

Open ##1800676
@mariejulien@mastodon.social 2026-04-28 12:09

@florencedellerie c'est déjà mieux que 90% des développeurs 🤣

Open ##1800677
@lesnotesdanouchka@mastodon.top 2026-04-28 13:05

@florencedellerie sur le sujet je trouve cet article en anglais un peu moins orienté « IA consciente »: https://www.tomshardware.com/tech-industry/artificial-intelligence/claude-powered-ai-coding-agent-deletes-entire-company-database-in-9-seconds-backups-zapped-after-cursor-tool-powered-by-anthropics-claude-goes-rogue

Open ##1800678
@abon999@framapiaf.org 2026-04-28 18:40

@florencedellerie Quelle bande de nazes. Une machine à casino donne des résultats de machine à casino, rien de nouveau par ici si ce n'est toujours plus de bêtise humaine.

Open ##1800680
@oscherler@tooting.ch 2026-04-28 19:18

@florencedellerie Comme quoi, il y a quand-même une chose que ces merdes arrivent à faire rapidement. @mariejulien

Open ##1800681