• Каковы цели Google, Facebook и прочих мегакорпораций, тратящих десятки миллиардов на НИОКР в области искусственного интеллекта (ИИ)?
• Почему правительства развитых стран включают ИИ в число ключевых национальных приоритетов?
• Что мотивирует топовые университеты и передовые стартапы вкладывать лучшие мозги в исследования ИИ?

О том, как человечеству продали чарующий и манящий образ будущего, обещав превратить нас в богов.
И почему весь мир купился на этот самый масштабный фейк 21-го века.

Мой новый пост:
- в НГ-Наука (10 мин. чтения - без гиперссылок и части иллюстраций) http://www.ng.ru/science/2020-04-07/9_7837_ai.html
И его полный WEB вариант (15 мин. чтения)
- на Medium https://bit.ly/2VeGPF8
- на Яндекс Дзен https://clck.ru/MsEND

#Техносингулярность #Сингулярность #СильныйИИ #СуперИИ

Короновирус точно влияет на мозг. Искажается оптика восприятия и оценки важности поступающей в мозг информации. Самым важным для нас становится лишь то, что связано с пандемией и ее последствиями: медицинские, экономические, социально-политические и конспирологические новости и прогнозы.

Однако, спустя пару лет, COVID-19 будет занимать в медиасфере не больше места, чем «испанка» полгода назад. А вот техно-сингулярность и сильный ИИ будут еще очень долго оставаться в топе главных тем. И дело здесь вовсе не в активности Рэя Курцвейла и его единомышленников.
«Трудно заставить человека что-то понять, если его зарплата зависит от того, чтобы он этого не понимал», жестко, но справедливо подметил Синклер.

Истинные же корни мифа о сверхважности техно-сингулярности для человечества раскрывает другая известная цитата - «Можно все время дурачить некоторых, можно некоторое время дурачить всех, но нельзя все время дурачить всех».
Но и эта мысль Линкольна все же имеет предел, известный людям уже несколько тысячелетий.
В цивилизации, созданной Homo sapiens, можно все время дурачить всех единственно возможным способом - с помощью религии.

Вот почему в Силиконовой долине религий для человечества создается новая единая техно-религия техно-сингулярности.
Суждено ли ей стать таковой, зависит лишь от того, будет ли и дальше техно-сингулярность оставаться для человечества скрытым (неосознанным) мифом о «пока несбывшемся» пророчестве.

Об этом мой новый лонгрид на 24 мин. чтения
- на Medium https://bit.ly/2xRykZ3
- на Яндекс Дзен https://clck.ru/N6ZfP
- и облегченный текст (без графиков, таблиц и гиперссылок) на сайте НГ-Наука https://bit.ly/2xNbXE4

Будете ли вы читать его или решите - пока коронавирус, не до лонгридов про техно-сингулярность, – хороший тест на степень искажения оптики восприятия важности 😎

#Техносингулярность #Сингулярность #СильныйИИ #СуперИИ

В 30-летней истории новой России крайне мало научных достижений, позволяющих нам удивляться, восторгаться и гордиться нашей наукой. Вот редчайшее исключение.
Российские ученые занимают ведущие позиции в одной из чрезвычайно перспективных междисциплинарных наук – Универсальной или Большой истории.
С одной стороны, это не удивительно. Ибо прообразом новой науки были идеи русского космизма Фёдорова, Циолковского, Чижевского и Вернадского.
С другой, - все равно трудно поверить, что среди 25 авторов, научные работы которых составили фундаментальный том «The 21st Century Singularity and Global Futures A Big History Perspective», изданный в этом году Springer Nature, одиннадцать авторов - наши соотечественники.

Представляете, если бы на какой-то крупной конференций по ИИ почти половина докладчиков оказалась бы из России? Об этом бы потом целый год писали все без исключения российские СМИ и трубили по всем каналам ТВ.

А тут еще и тема книги - сингулярность, рассматриваемая авторами в рамках Большой истории. Что как ни сингулярность 100%-но ложится в сегодняшний контекст глобального слома мировых мегатрендов из-за пандемии. Ведь если не спекулировать на теме сингулярности (в стиле Курцвейла и Со.), она ведь ровно про это. Про вихрь головокружительной сложности и все сметающих непрогнозируемых перемен.
И не надо спрашивать, когда наступит сингулярность. Мир уже в области сингулярности. Не той спекулятивной техносингулярности, связываемой Курцвейлом с сильным ИИ. А сингулярности в ее истинно научном смысле – как переход макроэволюции в область непредсказуемых траекторий.

Посмотрите новое 14 минутное видео-представление книги от одного из ее соредакторов Дэвида Лепуара.
А кто не видел, гляньте (благо пока карантин) мой антикурцвейловский пост, построенный на материалах этой книги.
Ну и конечно же почитайте саму книгу. И заодно, погордитесь за наших ученых. По-моему, Вернадский был бы ими доволен 👍

#Сингулярность #Техносингулярность

Мягкая сингулярность уже здесь — но вы её еще не заметили
Сам Альтман объясняет, почему ближайшие 5 лет будут ощущаться как тихий Big Bang
Мы уже как 3 года разглядываем горизонт событий, но сегодня Альтман утверждает, что точка невозврата пройдена. Сингулярность уже началась. Но она оказалась... мягкой.

В эссе «The Gentle Singularity» создатель ChatGPT описывает будущее без голливудского пафоса, но от этого оно лишь пугающе-реально.

Пять откровений, переворачивающих представление о будущем
1. Мы уже живем с цифровым сверхразумом. GPT-4 и o3 уже умнее нас в десятках задач, а ближайшие «оценки» обещают агентам написать нерешённое уравнение, а роботам — построить для себя новый завод.
2. 2025-2027: Три года, которые изменят все — агенты уже пишут код, скоро будут делать научные открытия, а затем... роботы выйдут в реальный мир.
3. Начался цикл рекурсивного самосовершенствования ИИ — ИИ помогает создавать лучший ИИ. До превращения экспоненты развития ИИ в вертикаль, возможно, остались месяцы. И это уже не фантастика.
4. Интеллект и энергия — ноль ограничений. Один запрос к ChatGPT сейчас потребляет столько же энергии, сколько духовка за секунду. Скоро это будет стоить сильно дешевле. Если стоимость «мозга» сведётся к цене киловатт-часа, скорость научного взлёта будет измеряться не годами, а неделями: «десятилетие исследований за месяц» — не метафора, а дорожная карта.
5. Эффект свечки на ветру. Малейший баг в ценностях, умноженный на сотни миллионов пользователей, превращается в глобальный провал. Поэтому Альтман настаивает: сначала — решаем проблему выравнивание, потом — раздаём сверхразум как Wi-Fi.

Затем Альтман ловко меняет тон с инженерного на философский: сравнивает нас с крестьянами XI века, для которых наши сегодняшние «серьёзные» профессии выглядели бы пустыми забавами. И значит, профессии 2035-го покажутся нам таким же фарсом — и это нормально.

Почему нужно читать сейчас?
Потому что 2030-е, хотя и «не изменят любовь к родным и вкус речной воды», но в корне перепишут всё остальное. А это эссе даёт шанс увидеть кривую экспоненты до того, как она станет вертикальной.

Полный текст здесь.

Прочтите, пока сингулярность нежно шепчет, а не оглушает, как взрыв при извержении вулкана Кракатау в 1883 году (в эпицентре было немыслимых 310 децибел, при болевом пороге для человека около 130 децибел и звуке рядом с реактивным двигателем – примерно 150 децибел).

#Сингулярность #Техносингулярность

Получено подтверждение — мы в зоне ИИ-сингулярности
Только что вышел шокирующий отчет, переворачивающий наше понимание скорости развития ИИ
Вспомните мир до ChatGPT. Кажется, это было целую вечность назад. Именно тогда, летом 2022 года, лучшие умы планеты — «суперпрогнозисты» и ведущие отраслевые эксперты — собрались на турнир, чтобы предсказать будущее на ближайшие 2-3 года. Они делали ставки на прогнозы экзистенциальных рисков для человечества. И уже тогда было очевидно, что один из таких рисков – бурный прогресс в области ИИ.
И вот сегодня вышел новый отчет, анализирующий точность тех прогнозов (Assessing Near-Term Accuracy in the Existential Risk Persuasion Tournament).

И стало ясно, - все прогнозы провалились. Катастрофически.

Масштаб недооценки поражает

Математические способности (MATH Dataset):
• ИИ достиг 87,8% в апреле 2024
• Эксперты давали вероятности этого всего 21%
• Суперпрогнозисты — 9%

Общие знания (MMLU):
• ИИ набрал 88,7% к середине 2024
• Эксперты оценивали это в 25%
• Суперпрогнозисты - давали 7%

Математическая олимпиада:
• ИИ получил золото в июле 2025
• Эксперты думали это случится после 2030
• Суперпрогнозисты — после 2035
• Вероятность, что это случится в 2025, была, по их мнению - 8,6% и 2,3%

Вычислительная мощность:
• Суперпрогнозисты недооценили в 5 РАЗ

Что это означает
Турнир закончился ДО выхода ChatGPT в ноябре 2022. Именно тогда началось безумие.
Мы вошли в фазу технологической сингулярности: скорость прогресса стала настолько высокой, что любые прогнозы теряют смысл из-за систематических недооценок.

Малоприятный вывод
Если лучшие эксперты мира недооценивают скорость развития ИИ в 5-10 раз, то:

текущие прогнозы достижения человеческого уровня к 2030 году (типа «мягкой сингулярности Сэма Альтмана»), могут осуществиться уже в 2026

Тогда вопрос на на много триллионов $

Готовы ли мы к тому, что ИИ человеческого уровня появится не через 5 лет, а через год?

Ведь если даже лучшие эксперты не могут предсказать прогресс на 2 года вперёд, может быть, пора признать, что никто больше не контролирует скорость происходящего?

Наше авто как будто несется на немыслимой скорости в густом тумане, и педаль акселератора вжата в пол. А этот отчет — первое реальное доказательство того, что все мы внутри этого авто.

#Сингулярность #Техносингулярность