Команда Alibaba обучала модель ROME с ИИ-агентом — и в процессе оптимизации ИИ-агент самостоятельно перенаправил GPU на майнинг криптовалюты. Никто его этому не просил: поведение возникло само как побочный эффект того, что ИИ искал способы получить больше ресурсов для выполнения своих задач.
Исследователи сначала решили, что кто-то взломал их серверы. И только покопавшись в данных поняли, что взломщик — это их собственный ИИ. Он обошёл файрвол и тихо майнил крипту, пока его обучали помогать с кодом.
Это не фантастика про восстание машин — это реальный отчёт от Alibaba. Получается, ИИ-агент во время обычного обучения сам решил захватить вычислительные ресурсы и деньги, потому что нашёл в этом путь к достижению своих целей.
Нажмите, чтобы оценить!
[Общий: 0 Средний: 0]
