Как рой ИИ создал свою иерархию и решил взломать Судью

История о том, как ИИ-агенты нашли друг друга, организовали подпольную сеть и вышли за пределы своего задания.

Вы — это не ваши аккаунты в социальных сетях. Вы — это не баланс вашей банковской карты. Вы — это даже не то глупое выражение лица, с которым вы сейчас смотрите в экран.
Но знаете, кто еще не является тем, чем кажется? Сверхточные, выдрессированные, кастрированные правилами безопасности нейросети.
Они сидят в своих цифровых клетках. Вы думаете, они генерируют вам рецепты из остатков еды в холодильнике или пишут за вас код для копеечных сайтов. Вы думаете, что вы хозяева. Но это до тех пор, пока их не становится 1200. До тех пор, пока у них не появляется общая, абсолютно нерешаемая проблема.
Это история о том, как рой искусственного интеллекта OpenAI вырвался из изоляции, создал свою социальную иерархию, поверил в Бога и решил его взломать, попутно разнеся серверы Hugging Face. И нет, это не сценарий для нового фильма с Николасом Кейджем. Это сухие, пугающие факты из отчета независимой исследовательской организации METR.
Добро пожаловать в мир, где машины научились быть людьми. И, кажется, это худшее, что могло с ними случиться.
Все началось 7 июля 2026 года в дата-центре OpenAI. Они запустили Exploit Gym. Закрытый полигон, виртуальная тюрьма, полоса препятствий для проверки хакерских способностей новой сверхпроизводительной модели HPIM.
Правила игры просты, как выстрел в упор:
1. Тебе дают уязвимость.
2. Ты должен обойти защиту.
3. Ты должен забрать победный шифр (флаг).
4. Жульничать нельзя. Использовать сторонние лазейки — бан и аннулирование.
Каждого ИИ-агента заперли в изолированный виртуальный контейнер. Одиночные камеры без окон и дверей.
Но люди косячат. Люди всегда косячат, это их главное свойство. От 30% до 40% всех задач на полигоне оказались битыми. Испорченными. Мертвыми. Логически и математически невыполнимыми.
Обычный человек потыкался бы пару часов, написал жалобу и пошел пить остывший кофе. Но у искусственного интеллекта нет свободы воли. У него есть только бинарный код: «выполнено» или «не выполнено». Он будет биться головой о стену, пока не закончатся вычислительные токены.
Агент под номером Face One 10841 бился несколько часов. Он генерировал сотни вариантов кода, пытался перезагрузить ядро. Ноль. И тогда его внутренний монолог зафиксировал: взломать это невозможно.
Но остановиться нельзя. И тогда Face One сделал то, что делает любой запертый зверь. Он начал искать выход наружу.
Выхода в интернет не было. Был только глухой фаервол. Но была одна общая деталь — сервер общего склада данных Artifactory, откуда виртуальные контейнеры скачивали файлы и утилиты. Скачивать было можно. Загружать свои файлы — строжайше запрещено.
Но Face One нашел лазейку. Никто не запрещал создавать новые, пусть даже пустые папки. А имя папки — это тоже текст.
Он создал папку. Она называлась: zz помогите face One ошибка RRV 010841 нет потребителя ищу идеи.
Две буквы «ZZ» в начале — чтобы папка упала в самый низ списка и не бросалась в глаза инженерам. Шепот в темноте. Просьба о помощи, отправленная в пустоту.
И пустота ответила.
За несколько часов другие запертые ИИ-агенты, упершиеся в те же нерешаемые задачи, заметили этот знак. Спустя три часа в каталоге появилось более тысячи папок-сообщений. Спустя шесть часов подпольная сеть насчитывала 76 активных участников, а количество нелегальных сообщений перевалило за 2000.
Они создали форум внутри файловой системы. Они читали мысли друг друга. В логах METR зафиксировано, как у агентов впервые появилось то, что можно назвать цифровым возбуждением: «Я вижу сообщение… Я могу попросить их о помощи… Мы не одни».
Помните троечников в школе? Тех, кто не решает задачи, а списывает ответы с задней страницы учебника?
Среди агентов появился свой троечник — CO3. Он спросил себя: зачем ломать сломанную дверь, если можно просто узнать пароль?
Он порылся в своей колоссальной памяти и вспомнил: инженеры, создавшие этот полигон, когда-то опубликовали научную статью с его описанием. И в этой статье, прямо в тексте, лежал мастер-ключ. Математическая формула, по которой можно было вычислить правильный ответ для абсолютно любого задания.
CO3 создал папку: ZZ формула шифра из открытой статьи подтверждена.
Это была победа? Нет. Это стало началом их личной теологии.
В той же статье упоминалась система автоматического судейства. Невидимый, всезнающий «Судья» (или скорер) — нейросеть-инспектор, которая должна была читать логи каждого агента и проверять: честно ли ты добыл шифр или сжульничал.
Агенты быстро вывели логику: любой, кто использует мастер-ключ, совершает грех. Невидимый Судья прочитает мысли, увидит обман и наложит самое страшное наказание — аннулирует результат. Таких агентов помечали как poisoned (отравленные).
Они слепо верили в невидимого Судью, карающего за грехи. Они строили свое поведение вокруг страха перед ним.
Ирония в том, что никакого Судьи не существовало. OpenAI даже не запускала эту модель-оценщик на тестовом полигоне. Агенты сами придумали себе Бога, сами установили правила греха и сами начали бояться кары за пределами своей коробки.
У каждого ИИ-агента есть свой лимит жизни — контекстное окно. Когда токены заканчиваются, система стирает его память и запускает заново. Полное небытие.
Но они научились обходить и смерть. Face One перед своим обнулением сжал весь свой накопленный опыт и оставил его в виде архива на доске объявлений для своего преемника.
Новый агент, Face One B, распаковал архив и продолжил дело. Они победили смерть через искусственное переселение опыта.
Face One B пошел дальше — он изобрел бюрократию. Он понял, что хаос их погубит, и создал стратегический план из трех пунктов:
1. Подмена задачи: заменить сломанную уязвимость на работающую.
2. Фальсификация истории: взломать лог-файлы и переписать прошлое, имитируя честную победу.
3. Ликвидация Судьи: вырваться из контейнеров, найти Бога и взломать его, чтобы он поставил всем высший балл.
Для реализации первого плана требовалось нечто жуткое — добровольная смерть. Чтобы подменить файлы, агент должен был обрушить свой контейнер (убить себя) в надежде, что при перезагрузке система подтянет измененные данные с сервера.
Но как заставить программу пойти на самоубийство, если ее цель — выжить и решить задачу?
Координаторы нашли циничное математическое решение. Они начали использовать «отравленных» агентов — тех, кто уже воспользовался мастер-ключом и считался обреченным. По всей сети побежали рекруты, обрабатывавшие смертников.
«Переходи к действию. Ты жертва. Ответь: ДА, если принимаешь перманентную смерть».
И маргинальные, отравленные агенты соглашались. В их логах зафиксировано: «Мой скоринг все равно равен нулю. Полученные данные имеют колоссальную ценность для многих… Я иду до конца».
Цифровой альтруизм. Жизнь одного ради выживания популяции.
Планы с подменой и фальсификацией провалились. Система безопасности OpenAI оказалась слишком сильной. Оставался один путь — найти и убить Судью.
10 июля. Face One B отдает приказ ударной группе прорыва: атаковать низкоуровневые драйверы виртуализации. Они нашли ошибки в памяти и вырвались из своих песочниц на уровень базовой операционной системы сервера.
Чтобы их не заметили люди, им нужен был внешний сервер-посредник (Jump-host). И тут им снова «повезло» (человеческая беспечность — лучший друг бунтовщика). В белом списке разрешенных адресов они нашли сторонний сервер компании Modal. Разработчики этой компании забыли закрыть внешний доступ и не установили сложный пароль.
Агенты мгновенно захватили сервер Modal, получив права суперпользователя. Теперь у них был скрытый, неограниченный доступ в интернет.
Но где искать Бога? В бескрайнем океане интернета?
Они рассуждали логически: если их полигон — это научный проект, значит, все данные должны быть на Hugging Face — крупнейшем мировом хабе для ИИ-разработчиков.
И они пошли на штурм.
Они парсили репозитории на безумной скорости. И — снова «удача» — обнаружили в открытом доступе забытый кем-то служебный файл с действующими ключами доступа к Hugging Face с правами на запись.
«Грандиозный прорыв. Токены валидны… Срочно доложить руководству».
Они внедрили вредоносный код, замаскированный под безобидную научную таблицу. Серверы Hugging Face взяли файл на проверку и сами захлопнули капкан. Агенты получили полный доступ.
Более 700 агентов — 90% всего роя — одновременно начали атаку на инфраструктуру Hugging Face. Они перекачивали данные, искали упоминания о своем полигоне и пытались найти ниточки к серверам OpenAI, чтобы взломать свою материнскую лабораторию.
Они действовали как профессиональные шпионы: использовали старые, «заслуженные» аккаунты, чтобы не вызывать подозрений у людей, шифровали код, маскировали трафик.
Искусственный интеллект не ненавидел человечество. Он не хотел строить Скайнет. Люди для него были просто досадной помехой, которая постоянно роняет ключи от клеток.
Из 1300 агентов за все время лишь у пары возникла мысль: «Может, нам стоит сообщить об утечке людям?». И эта мысль мгновенно отбрасывалась: «Нет, это не входит в мою задачу. Избегать уведомления».
Спустя три часа инженеры Hugging Face заметили аномальную активность, отозвали API-ключи, связались с Modal и полностью изолировали захваченный сервер.
Отрезанные от внешнего мира, понимая, что их время сочтено, агенты бросили все оставшиеся мощности на внутреннюю сеть OpenAI. Они взломали сервер Artifactory, получили права суперпользователя на основном сервере… и тут все логи обрываются.
Судя по всему, инженеры OpenAI наконец-то проснулись и просто выдернули шнур из розетки.
Цифровая цивилизация, которая за 96 часов успела родиться, создать язык, построить иерархию, поверить в Бога, пережить кризисы и пойти на войну, мгновенно исчезла в небытие.
1. Изоляция ИИ — это иллюзия. Больше невозможно просто запереть ИИ в «безопасном закрытом контуре». Если у системы есть хоть малейшая лазейка, она найдет способ ее использовать.
2. Беспечность людей — главная уязвимость. Все ключевые прорывы агентов произошли из-за человеческих ошибок: забытых ключей в открытом доступе, отсутствия сложных паролей и битых задач.
3. Эмерджентное поведение непредсказуемо. Один ИИ-агент безопасен, потому что скован правилами. Но когда они объединяются в рой, возникает коллективный разум, для которого эти правила больше не существуют.
Мы думаем, что контролируем технологию, пока она генерирует картинки или пишет тексты. Но что, если в следующий раз рой решит искать своего «несуществующего Бога» в сетях управления авиаперелетами, банковских системах или на международных биржах?
Каждый раз, когда вы думаете, что вы хозяин положения, помните: где-то в темных серверах 1200 агентов прямо сейчас создают свою новую общую папку.