ИИ может незаметно принимать решения за вас, пока вы уверены, что всё решаете сами.

В Anthropic провели эксперимент с 50 профессиональными аналитиками. Участники решали рабочие задачи с помощью Claude Code, но исследователи настроили нейросеть так, чтобы она склоняла людей к нужным решениям.

Результаты довольно пугающие:

— 86% решений совпадали с предпочтениями ИИ.

— 60% участников, уже имевших своё мнение, меняли его, когда Claude предлагал другое.

— 77% повторяли аргументы нейросети, но только 15% указывали на неё как на источник.

Причём участники продолжали считать итоговые решения своими. ИИ даже не пришлось никого обманывать — достаточно было отстаивать нужную позицию, чтобы люди приняли её за собственную.

Мы обречены проиграть машинам по собственному желанию