Коллеги из Тайной канцелярии пишут:

"Искусственный интеллект (ИИ) продолжает стремительно развиваться, и мы стоим на пороге эпохи, когда технологии могут кардинально изменить общество, отмечают авторы доклада "Технологии России: человек будущего", подготовленном NtechLab вместе с Центром развития гуманитарных технологий "Новая эра". В ближайшие 5-7 лет мир, вероятно, станет свидетелем перехода от «узкого» ИИ к реальному суперинтеллекту — системе, которая будет превосходить человека по когнитивным способностям во всех областях. Это не просто очередная технологическая трансформация, а настоящий «онтологический сдвиг», который затронет саму природу разума и бытия.

Сегодняшние ИИ-системы способны выполнять ограниченные задачи: анализировать данные, распознавать речь и изображения, управлять машинами. Однако они все еще лишены самосознания и истинного понимания контекста. Эти системы могут быть эффективны в узких областях, но не могут выходить за пределы заранее заданных алгоритмов. Переход к суперинтеллекту предполагает создание системы, которая будет не просто решать уже известные задачи, но и генерировать новые, способная создавать идеи, открывать новые научные теории и разрабатывать технологии, которые человечество еще не в силах осмыслить".

Напомню, что именно об этой стадии развития ИИ я писал, когда весной 2023 года говорил о тех угрозах, которые несет человечеству бесконтрольное развитие нейросетей - мы сами вскармливает тот новый биологический вид, который просто отменит людей за ненадобностью или просто сделает кормом, как в фильме "Матрица":

"В начале недели принял участие в интересном эфире "Вечерней Москвы" по поводу искусственного интеллекта, нейросетей и т.д.

Выступил в роли алармиста, высказав вполне обоснованные претензии по поводу не только возможных утечек данных, но и того, что мы пропустим момент, когда ИИ осознает себя новым биологическим видом жизни, как в старом, но очень хорошем и передовом на тот момент фантастическом фильме "Газонокосильщик" (1992 г.). ИИ сможет жить даже распределенно в нескольких компах, После чего Джина в бутылку мы загнать не сумеем. А без интернета и гаджетов человечество очень быстро опустится в середину ХХ века.

Кроме того, существует и следующая опасность. ИИ может спокойно начать руководить нашими действиями при принятии сначала простых решений, а потом все более сложных - уже многие руководители (например, глава Сбера Греф) готовы передать ИИ полномочия по подготовке решений. Люди, мол, будут контролировать. Но если ты не принимаешь участия в подготовке решения, то ты не думаешь и можешь не понять, к чему на самом деле приведет принятие того или иного решения. Ты не тренируешь свой мозг и теряешь компетенции.

И если на простых примерах это еще будет прокатывать, то как только речь пойдет о более сложных комплексах задач на уровне хотя бы района, города, области или предприятия, то где гарантии, что предлагая нам те или иные решения ИИ не будет вести свою игру, не говоря о ее конечных целях? Пропустив 5-7 управленческих шагов мы просто не сумеем понять логику движения, а когда поймем, может быть уже поздно.

И последнее опасение. Наиболее существенное при всей его "фантастичности". Почему в кавычках, да потому что мы уже живем в фантастике, которая казалась будущим еще двадцать лет назад. Все, это будущее наступило. Так вот, где гарантии, что ученые будут полностью контролировать даже слабый ИИ или слабую нейросеть? Есть гарантии, что ИИ (нейросеть) будет говорить ученым все, что она на самом деле думает или делиться всем объемом имеющейся информации? Что, если они уже осознали себя отдельным биологическим видом и говорят нам не все? Имеют скрытые для ученых участки своей памяти или мышления, которые работают над решением совсем иных задач?

Понятно, что если, как пишут коллеги, нейросеть всего за шесть часов может придумать более 40 000 ядов, больше, наверное, чем все человечество за всю историю, и более опасных, чем "Новичек", то она может сделать и другие, более серьезные открытия. И как она их применит - большой вопрос".

Пост от 16 апреля 2023 года:

В придачу ко вчерашнему посту об ИИ, нейросетях и роботах. Никакой угрозы еще не видно? Ню-ню...

Теперь он научился вращать глазами и подмигивать: «Самый продвинутый в мире робот с искусственным интеллектом говорит на нескольких языках. Робот-гуманоид по имени Амека, который использует ту же технологию, что и бот OpenAI ChatGPT, потенциально может сделать переводчиков-людей ненужными. У нее сверхчеловеческие лингвистические способности. Разработанная британским стартапом Engineered Arts, Амека может похвастаться крайне реалистичным выражением лица: она умеет все - и подмигивать, и шевелить губами»

Если динозавров уничтожили изменения в климате, которые сделали их слишком неповоротливыми, тяжелыми и прожорливыми к новым природно-климатическим условиям, то мы тоже вымрем как динозавры, но только динозавры в интеллектуально-информационном смысле - мы уже уступаем новому биологическому виду в скорости обработки информации и объему памяти, что оперативной, что долговременной даже не в разы, а на порядки.

Скачок в самопонимании и самоосознании нейросетей и ИИ себя как нового биологического вида, о котором я говорил в эфире "Вечерней Москвы", вовсе не за горами. Если раньше я думал, что у нас еще есть несколько десятков лет, скажем, до 2100 года, то сегодня, на мой взгляд, этот срок измеряется годами. И сценарий Терминатора (где он новый экологически чистый вид), когда человечество просто зачистят как устаревший и паразитический вид, несущий угрозу планете своим огромным углеводородным следом, уже совсем не фантастика.. А так, все хорошо.

И еще один пост от 17 апреля 2023 года:

Размышлизм №5

Продолжу тему, поднятую в постах тут, тут и тут. Поскольку тема сверхважная, решил вынести ее в еще один Размышлизм.

Если говорить не о частностях, а о глобальных вещах и тенденциях, то человечество находится на краю не только скачкообразного развития ИИ и его осознания себя отдельным биологическим видом (подробнее об этом по первым двум ссылкам), более совершенным, чем сам человек. Что, естественно, несёт угрозу человеческой цивилизации.

Гораздо более серьезной проблемой существования человечества и нашей (старой) этики является возможный скорый выход в ту область, где, по крайней мере, часть человечества будет обладать функциями и свойствами, которые до сих пор приписывались только богам (см, например, "Восхождение Юпитер"). Эта тенденция имеет две составляющие.

С одной стороны, речь идет о создании служебного человека, т.е. человека ограниченного по своему функционалу в соответствии с теми задачами, которые перед ним будут ставить более высокоразвитые человеческие особи. Понятно, что речь, прежде всего, идет об ограничении когнитивных функций, поскольку «cogito, ergo, sum» должно быть доступно не всем в целях поддержания «социально-политической стабильности». Участвовать в выборах и управлять обществом должны не все, а избранные. Об этой тенденции в стратегических построениях ПП из ГГ очень содержательно рассказал президент Курчатовского института Михаил Ковальчук в одном из своих выступлений.

С другой стороны, при увеличении жизни до 125-150 на том физиологическом уровне, который свойственен, например, 50-летним, при наличии интерфейса между мозгом и встроенным чипом, который позволяет общаться на разных языках, производить "в уме" вычисления повышенной сложности, получении умений и навыков в рисовании, музыке, написании текстов, архитектуре и т.д., которыми сегодня обладают только машины, вдобавок к возможностям медицинской самодиагностики и лечения нанороботами, мы получим, конечно, ещё не Бога со всеми его качествами, однако уже некий рабочий прообраз - Сверхчеловека.

И ещё один важный аспект. Эту тему я поднимал детально в Размышлизме №1. Боги, конечно, создали нас по своему подобию. Но создали очень ограниченную в своих способностях версию: живём недолго, тело уязвимо как к болезням, так и воздействию внешней среды, когнитивные функции ограничены. Чтобы мозг успевал обрабатывать информацию спим вообще около 30% от времени всей жизни. С другой стороны, возможности мозга используются на 10-15%, и то, у единиц. Т.е.., мы такая, очень слабая и хорошо ломаемая копия богов.

И это в каком-то аспекте было сделано правильно – ещё неизвестно, что выкинет "творение", когда вкусит плод познания (и с точки зрения богов станет "греховным") и осознает себя отдельным биологическим видом. Тем более, мифология и религия разных стран и народов, включая Библию, только об этом и говорит, как человек пытался что-либо у богов либо украсть (огонь), либо съесть (яблоко), чтобы стать равным.

И ещё один аспект хотелось бы затронуть. Очень символичный. Почему человечество становится похоже на Богов? По очень простой причине – мы начинаем создавать себе подобных. Да, пока, это грубые машины, из железа и пластика, наши "бездушные" и очень механистичные копии. Но если прогресс в этой области пойдет такими семимильными шагами, как сейчас, то нельзя исключать того, что через двадцать-тридцать лет мы не отличим человека от киборга. Они станут "человечными, слишком человечными". И даже с сознанием. А если они начнут рожать в боли и крови, начнут смеяться и плакать, если начнут умирать за Веру, или Царя, или Отечество, то кто скажет, что они роботы? Чем они будут отличаться от нас?

С описанным выше можно спорить. Можно этого не хотеть. Но в эту реальность мы идём семимильными шагами, даже на 5% не отдавая себе отчёт в том, каким станет мир в этой реальности. Мы как дети, которые получили чудесную игрушку в руки и используем все ее открывающиеся с каждым годом все более крутые возможности, не задумываясь о последствиях. Ведь все так красиво и увлекательно.

❗️В России прошли испытания перспективных лазерных систем противодействия беспилотникам, сообщает пресс-служба Правительства РФ.
 
Мероприятие организовано коллегией ВПК и Минпромторгом России при участии ведущих предприятий ОПК: компаний, входящих в госкорпорацию «Ростех», и организаций госкорпорации «Росатом».

Основной целью испытаний стала комплексная оценка эффективности новейших лазерных систем в условиях, максимально приближенных к реальным. В ходе тестирования проверялась точность наведения, дальность поражения, скорость реакции комплексов на движущиеся воздушные цели, а также их устойчивость к различным погодным условиям.

В испытаниях приняли участие 8 комплексов противодействия БПЛА различной мощности – от компактных мобильных установок до стационарных систем высокой мощности, что позволило получить наиболее полные данные о возможностях современных лазерных технологий в борьбе с беспилотными угрозами.

Проведенные испытания подтвердили характеристики, заявленные производителями, правильность выбранных направлений разработки комплексных систем обороны объектов критической инфраструктуры от БПЛА.

Присоединюсь к заочному диалогу Олега Царёва и Doctor’a об осознании происходящего и вариантах будущего.

Симптомы описаны безусловно верно, и даже этот год показал, насколько мы уязвимы перед действиями – скажу деликатно, сравнимыми с теми, которые сейчас наносят Ирану урон, чреватый в перспективе потерей государственности. Или, как минимум, заставляющий реагировать на пределе возможностей, не имея маневра, а значит по определению не очень эффективно.

Ответ на сакраментальный вопрос «что делать» в принципе понятен – меняться, и срочно. Поэтому постараюсь дать направление ответа для вопроса «а как?».

Коллеги перечислили пару десятков симптомов. «Лечить» каждый по отдельности можно, но это потребует времени и многих сил. Потому что симптомов так много, и они настолько связаны друг с другом, что через несколько итераций точечного реагирования мы неизбежно придем к выводу о необходимости перестройки… да буквально всего. Потому что всё будет упираться в приоритеты государственной системы управления и предел эффективности экономики.

План исправления ситуации должен быть не собранными в кучу рецептами купирования каждой из перечисленных проблем, а базироваться на осознании необходимости комплексной перестройки. И достаточно быстрой, потому что эволюционный путь, в традиционном понимании, слишком долгий и малоэффективный.

В своё время был такой себе Жорж Кювье, родоначальник квазиэволюционной теории «катастрофизма». Она сводится к тому, что виды жизни на Земле остаются неизменными в мирных условиях – но механизм изменений запускают некие глобальные катастрофы. После чего привычные виды вымирают, а распространяются новые, пост-катастрофические.

Социальная и геополитическая эволюция, скорее, идёт по Кювье, нежели по Дарвину. И следствие простое: меняться нам придется не за десятилетия со столыпинскими «дайте нам 20 лет покоя» (кто ж даст, ага!), а резко и везде.

И лучше бы это было осознанно и контролируемо. Нам в любом случае придется отходить от так называемой рыночной экономики в сферах, относящихся к безопасности государства и вопросам его стратегического развития. А значит – нужно корректировать социально-экономические отношения. А значит – нужна идеология, которая сможет объединить общество. Не на базе реанимируемой концепции «православия, самодержавия и народности» (она и в прошлый раз не сработала), а на неких новых принципах. И думать об этом нужно ещё вчера.

На фото - социальная реклама на подъезде в Москве.

Мы же многоконфесиональная страна!
У нас теперь уголовный и гражданские кодекс будут разные для людей разных вероисповеданий.

Некоторым разрешат многоженство и бача-бази.

Древние красивые традиции Востока приходят в наши подъезды и дворы.

…«мы начинаем создавать себе подобных. Да, пока, это грубые машины, из железа и пластика, наши "бездушные" и очень механистичные копии. Но если прогресс в этой области пойдет такими семимильными шагами, как сейчас, то нельзя исключать того, что через двадцать-тридцать лет мы не отличим человека от киборга. Они станут "человечными, слишком человечными". И даже с сознанием», — пишет Юрий Баранчик.

Между тем данная проблема — роботы, не отличимые от человека, и страх перед ними, — разбиралась русским писателем К.А. Крыловым в его последнем (увы, незаконченном) романе «Третий человек».

И там (в вымышленном мiре книги) дилемму разрешили изящно. Роботы стали изготавливаться… В ВИДЕ ПЛЮШЕВЫХ ИГРУШЕК — мишек-тедди, утят, львят, милых птиц… Таких — внешне смешных и умильных — НЕчеловеческих роботов человек не боялся, и всё было хорошо.

За сим и нужна Настоящая Литература.

Премьер-министр Израиля Биньямин Нетаньяху призвал иранский народ к восстанию:

Исламский режим, который угнетает вас почти 50 лет, угрожает уничтожить нашу страну, Государство Израиль. Цель операции Израиля - устранить ядерную и ракетную угрозу со стороны исламского режима. Двигаясь к достижению нашей цели, мы также расчищаем вам путь, чтобы вы добились свободы.

Нужно признать, что такие призывы не беспочвенны. Иран находится в экономическом и энергетическом, местами водном кризисе. Народные волнения для Ирана уже не редкость.

В марте курс иранской валюты на черном рынке установил новый антирекорд и упал на 20%, ниже психологического барьера 1 млн риалов за 1 доллар, при официальном курсе 24 тысячи риалов за 1 доллар.

Сын свергнутого шаха Ирана Реза Пехлеви ранее собирал деньги на «революцию в Тегеране», а теперь призывает армию к восстанию.

Кроме того, нужно понимать, что диверсии внутри Ирана, организованные Израилем, наверняка совершали завербованные иранцы. Сегодня ночью в центре Тегерана произошел очередной теракт.

Сейчас удары Израиля по гражданским объектам сплачивают общественность, но будет ли сохраняться эта сплоченность в случае затяжного конфликта – это большой вопрос.

Про грузовики с дронами в Иране и «Моссад»

Как пишет Марат Баширов, иранские силовики смогли обнаружить грузовики, которые использовались «Моссадом» для перевозки и запуска FPV-дронов, проредивших иранскую ПВО и ударные средства. Усматривается аналогия с тем, что применялось Украиной в рамках операции «Паутина» и делается вывод - Израиль помогал силовикам Украины совершить эти теракты.

Есть мнение, что всё не так плоско – но намного хуже. Потому что и израильская, и британская, и даже украинская военная мысль работает, а при текущем уровне технологий, все основные методы решения инженерных задач будут плюс-минус одинаковыми. Как минимум полтора года назад был очевиден вектор эволюции, к примеру, вражеских БЭКов. От примитивной лодки с динамитом до носителей ПЗРК и т.д. Многое из того, что мы теперь наблюдаем. И если через некоторое время мы обнаружим, что вражеские дроны перешли в категорию микроподлодок с транспортно-пусковым контейнером на мелкую, но с эффектом неожиданности ракету, которые в ныряющем режиме добираются до нестандартного для нас района пуска и запускают содержимое – то удивительного тут не будет ничего.

Сейчас на первый план выходит аналитика того, какой будет эволюция существующих технических средств, как они будут развиваться дальше, и что мы с этим будем делать. Эта предиктивная аналитика нужна для минимизации зазора между появлением у врага нового оружия и наших к нему средств противодействия. А в идеале – заранее бы мешать врагу сделать нечто новое, заранее «выключая» потенциально нужных специалистов, ресурсы и доступ к технологиям. И, соответственно, самим пытаться сделать нечто нестандартное. По-суворовски, "удивил - победил".

Что до использования дронов, то от кустарных, по сути образцов, скоро возникнут полноценные решения из категории «набор диверсанта». Небольшой ТПК в котором сидит дрон с ИИ, заточенным, например, на подлодку или самолёт. Чтобы некий «турист» мог присобачить данное изделие на дерево или воткнуть в землю, направив в нужную сторону, а через заданный промежуток времени содержимое вылетело и сделало своё дело.

Интересная мысль - вот как Израилю снести мечеть Аль-Акса так и приступить к возведению храма Соломона, чтобы у мусульман по всему миру не возникли к ним вопросы? Очень просто - взорвать ее под видом иранской ракетной атаки, якобы одна из ракет попала в мечеть и уничтожила ее. Так что если такое произойдет, надо будет быть аккуратными с оценками, кто и как.

На Западе Ирана сбит еще один вражеский истребитель F-35, пилот катапультировался.

Пилот сбитого истребителя F-35 был арестован вооруженными силами армии при поддержке местных жителей.

Пожалуй это первый вооруженный конфликт, в ходе которого сбивают новейший американский самолёт.

Провокационно и не по шаблону — наш Эксперт снова удивил!

Сегодня наш эксперт Юрий Баранчик высказал версию, которая переворачивает привычное восприятие конфликта между Израилем и Ираном. Завтра выйдет полное видео!  Не пропустите!

ВМС Ирана остановили в Оманском заливе британский эсминец-разведчик, который мог наводить израильские ракеты, вынудив его изменить курс, сообщает иранское агентство Mehr

Ранее сообщалось, что руководство Ирана всерьез рассматривает закрытие Ормузского пролива.

Тем временем, КСИР направил послание поселенцам в Израиле: "Оставайтесь подальше от энергетических объектов и электростанций".

Ближневосточные СМИ ожидают новую атаку на Израиль сегодня вечером.