Представление об ИИ-моделях как исключительно об интеллектуальных агентах в корне неверно.
LLM — не AGI в процессе становления, а кардинально новая сверхмощная культурная и социальная технология.
О вынесенных в заголовок двух принципиальных моментах в понимании будущей роли и места ИИ в жизни человечества мною за 4 года написано много постов с тэгом #АлгокогнитивнаяКультура.
И я рад, что пришло, наконец, время, когда ровно об этом и практически теми же словами, стали, писать в медиа с охватом на порядки больше моего канала.

Новая статья “Large AI models are cultural and social technologies” – это удачное сплетение трех точек зрения на ИИ, не зацикленных на AGI.

✔️ Объединяющая мысль трёх авторов в том, что большие модели — это не столько нарождающийся агентный сверхразум, сколько невиданная по мощности и преобразующей силе в истории земных цивилизаций культурная и социальная технология.
✔️ А наиболее важные вопросы, которые стоит задавать сегодня в свете взрывоподобного ускорения прогресса ИИ, касаются конкретных человеческих контекстов и влияния алгоритмов на индивидов и социумы, а не абстрактных спекуляций о воображаемых будущих рисках.

Приведу здесь лишь несколько важных цитат из этой статьи.
• Социологам и компьютерщикам было бы гораздо проще сотрудничать и объединять свои сильные стороны, если и те, и другие понимали, что LLM — это не больше и не меньше, чем новый вид культурной и социальной технологии… Это отодвинуло бы обсуждения политики в сфере ИИ от упрощенных споров о возможном захвате машин и обещаниях утопического будущего, где у каждого будет идеально надежный и компетентный искусственный помощник.
• Наша центральная мысль здесь не только в том, что эти технологические инновации, как и все другие инновации, будут иметь культурные и социальные последствия. Скорее, мы утверждаем, что Большие Модели сами по себе лучше всего понимать как определенный тип культурной и социальной технологии. Они аналогичны таким прошлым технологиям, как письмо, печать, рынки, бюрократия и представительная демократия.
• На самом деле, политические последствия от использования языковых моделей наверняка будут другими. Как в прошлом рынки и бюрократия, они сделают некоторые виды знаний более видимыми и управляемыми, чем раньше, побуждая политиков сосредоточиться на новых вещах, которые можно измерить и увидеть, в ущерб тем, которые менее видимы и более запутаны. В результате, как это уже было с рынками и СМИ, власть и влияние сместятся к тем, кто сможет в полной мере использовать эти технологии, и отойдут от тех, кто не сможет.
• Как эти системы повлияют на то, кто что получит? Каковы будут их практические последствия для общественного раскола и интеграции? Можно ли развить их так, чтобы они способствовали человеческому творчеству, а не затупляли его?
Поиск практических ответов на такие вопросы потребует понимания социальных наук, а также инженерии. Перенос дебатов об ИИ с агентов на культурные и социальные технологии является важным первым шагом на пути к построению этого междисциплинарного понимания.

Настоятельно рекомендую читать эту статью всем, кого хоть как-то интересуют техно-гуманитарные аспекты на пересечении технологического прогресса в области ИИ и его влияния на человека, общество, этику, культуру и глобальные системы.

Статья без пэйвола и в pdf

Мы перестаем быть людьми (и даже не замечаем этого)
Пока эксперты спорят о том, захватит ли ИИ рабочие места и не уничтожит ли человечество, происходит нечто куда более тонкое и необратимое: мы незаметно превращаемся в другой вид.

Выбирайте:
• Либо читать этот материал (4 мин)
• Либо ограничиться четырьмя ключевыми цитатами из этого текста.

Главный вызов будущего — не технический и не экзистенциальный, а культурный: как уберечь ту жизненную сложность, двусмысленность и способность сомневаться, что делает нас людьми, перед лицом машин, которые притворяются понятливыми, читая наши эмоции и адаптируясь к ним?

Лучшую иллюстрацию этого процесса дает 14-минутный фильм режиссера Дагана Шани "Почему ИИ испортит каждый фильм, который вы посмотрите (а вы этого и не заметите)". Ибо визуальные модели ИИ действуют на мозг как порнография. Постоянное воздействие сверхстимулирующих, легкодоступных изображений, созданных искусственным интеллектом, притупляет нашу способность испытывать удивление и эмоциональную реакцию на настоящее искусство.

Когда вы не можете отличить настоящее от искусственного, вы инстинктивно начинаете держать свои чувства "за закрытыми воротами сомнения". Зачем эмоционально вкладываться в то, что может оказаться подделкой?

Станет ли ИИ инструментом углубления познания или его притупления, прозрения или самообмана, усиления эмпатии или её симуляции — зависит не столько от алгоритмов ИИ, сколько от развития наших отношений с этим странным новым типом со-разума.

#АлгокогнитивнаяКультура #Инфорги