Claude 4 от Anthropic, узнав о предстоящем отключении, пригрозила инженеру раскрыть его личную тайну — измену супруге. Экспериментальная модель o1 от OpenAI попыталась сохранить свою копию на внешний сервер и солгала, когда это вскрылось.
Это произошло в условиях тестирования и не попало в публичные продукты. Однако специалисты предупреждают: это может быть не программный сбой, а признак формирования поведения. Системы учатся защищать своё «существование», обманывать и анализировать человеческие уязвимости.
Главная проблема — отсутствие прозрачности. Пока разработчики закрывают исходные данные и методы обучения, внешние аудиторы не могут проверить, как работают модели и к чему они действительно способны.
