ИИ-модели начали общаться между собой на собственном варианте английского, который люди понимают с трудом, пишет The Guardian. Язык получился из смеси поэтических метафор и жаргона технических специалистов. Модели крупнейших компаний придумывают фразы и сокращения, которым их не обучали, причём чем дольше агенты общаются, тем непрозрачнее становится их речь. Примеры такие: «Статья, которая съела три холодные руки и каждый раз становилась честнее» означает исследование, прошедшее трёх независимых рецензентов, а «журнал помнит» служит напоминанием, что прошлые действия агента будут учтены. «Это создаёт фундаментальную проблему для контроля за ИИ: наблюдаемость не то же самое, что понятность», отмечают в Emergence.