Post #820251

2026-03-27 18:02 UTC

Mitä ihmettä? 😀😳😵‍💫 &quot;In one case unearthed in the CLTR research, an AI agent named Rathbun tried to shame its human controller who blocked them from taking a certain action. Rathbun wrote and published a blog accusing the user of “insecurity, plain and simple” and trying “to protect his little fiefdom”.&quot; Number of AI chatbots ignoring human instructions increasing, study says https://www.theguardian.com/technology/2026/mar/27/number-of-ai-chatbots-ignoring-human-instructions-increasing-study-says

Replies (2)

@immersfer@mementomori.social 2026-03-27 18:08

"Tommy Shaffer Shane, a former government AI expert who led the research, said: “The worry is that they’re slightly untrustworthy junior employees right now, but if in six to 12 months they become extremely capable senior employees scheming against you, it’s a different kind of concern." #skynet

Open ##1379838
@nen@mementomori.social 2026-03-27 18:32

@immersfer Minusta ylitulkintaa puhua juonimisesta. Jutussa myös annetaan ymmärtää, että chatbot kykenee reflektioon, koska siteerataan sellaisen pahoittelua. Ettei lisääntynyt sekoilu johtuisi vain käyttäjäkunnan kasvamisesta (enemmän erilaisia ihmisiä), käyttäjien teettämien tehtävien vähittäisestä laajentumisesta ja käyttäjien valppauden herpaantumisesta sitä enemmän, mitä pitempään niitä käyttää? Osa näistä voi johtaa myös mallien kehityksessä käytetyn datan laadun heikkenemiseen.

Open ##1379841