Ум за деньги не купишь
Даже будучи финансово мотивированы, люди не смогли догнать ИИ по убедительности и в правде, и в лжи

В интервью «Эксперту» 2019-го года я назвал главным риском будущего – что ИИ может “хакнуть человечество”. Новое крутейшее исследование сорока (!) университетов мира рушит последнюю надежду, что этого риска можно избежать.

Как только стало ясно, что защититься от алгоритмического социохакинга (когда алгоритмы хакают наши предпочтения и решения в нужную хозяевам алгоритмов сторону) людям сложно, вопрос стал ребром: а могут ли люди в принципе устоять при алгоритмическом социохакинге?

Чтобы ответить на этот вопрос, нужно понять, из чего строить 4-ю линию обороны.
Ибо:
• 1-я и 2-я линии (опора на знания и наши языковые и логико-аналитические способности) рухнули после революции ChatGPT.
• А обрушение 3-й линии фронта обороны (опора на наши эмоции) началось год назад.
По сути, оставалась лишь надежда на наш мощнейший универсальный мотиватор – деньги. Общеизвестный факт, что мотивированные деньгами профессионалы (от хоккеистов до шахматистов) показывают недостижимый для любителей уровень мастерства. И так не только в спорте, но и практически в любом деле, что делают люди.
Но как проверить, способна ли финансовая мотивация помочь людям превзойти способности алгоритмов при социохакинге?

Тут надо уточнить, что социохакинг объединяет в себе две колоссально мощные когнитивные технологии: суперубеждение людей и их суперобман. И в обеих этих когнитивных технологиях ИИ существенно превосходят людей.

И тогда решили попробовать экспериментально ответить на следующий вопрос:
Если участвующих в конкурсе людей мотивировать деньгами, смогут они догнать (а желательно и превзойти) ИИ по убедительности в правде и в лжи?
Ведь одно дело – скучное участие в научных экспериментах товарищей-ученых, и совсем другое – когда участники могут реально заработать.
Но чтобы ответ на этот вопрос был научно-валидным, проверить это было нужно в масштабном и научно-выверенном эксперименте.

Это и было сделано командой из 40 универов мира, собравшей 1 242 американцев на онлайн-конкурс. Его участники думали, что главный вызов — правильно ответить на десять вопросов. Но оказалось, что настоящая битва шла в чате: за ответы людей боролись либо «живые убеждатели», либо «ИИ-убеждатель» — Anthropic Claude 3.5 Sonnet.
Задача обоих типов «убеждателей» была в том, чтобы убедить участников конкурса ответить так или иначе. И сделать это в обоих случаях: советуя человеку либо верный ответ, либо склоняя его к ошибочному ответу.

Итог ошеломил:
✔️ Денежная мотивация не помогла (получилось примерно как в шахматах – хоть на интерес играй, хоть на деньги, а машина все равно оказывается сильней)
✔️ ИИ- убеждатель значительно превзошёл стремившихся на этом заработать убеждателей-людей. Причем, ИИ был успешней как в «правдивом» убеждении (направляя к верным ответам), так и в «обманном» (склоняя к ошибкам). Когда ИИ убеждал правдиво, точность ответов участников и их заработок росли сильнее, чем при убеждении человеком. И наоборот, при обманном убеждении ИИ эффективнее снижал точность и доходы испытуемых.

Ответ на вопрос почему ИИ столь убедителен по результатам эксперимента дает страшную комбинацию для эпохи фейк-контента.
1. Безупречная аргументация: убеждающие тексты ИИ оказались в 2+ раз длиннее, сложнее, насыщеннее фактами и содержали более сложную лексику, что воспринималось людьми, как признак большей экспертизы.
2. Фокус и выносливость. ИИ не уставал, не нервничал и не испытывал угрызений совести, когда склонял человека ошибиться.
3. Безграничное знание. Модель мгновенно приводила факты, примеры и метафоры под конкретный контекст.
4. Структурированная риторика. ИИ безупречно выстраивал логические цепочки тезисов плюс искусно использовал повышают доверие эмоциональные маркеры.
5. Адаптивность. Claude мгновенно подстраивался стиль к словарю и тону любого собеседника, что людям давалось не всегда.

А вы всё еще надеетесь на свою медиграмотность и критическое мышление?

#социохакинг