Подборка самых пересылаемых постов на этой неделе

На этой неделе отличились прикладные инструменты — ничего лишнего, одна сплошная польза. Забирайте скопом, если пропустили по отдельности

Инструменты
🟣Shortcut — ИИ-агент для Excel, который быстро строит графики, делает расчёты, форматирует таблицы и автоматизирует рутины по запросу на обычном языке

🟣Joyplan — мобильное приложение для создания 3D-планов домов и дизайна интерьеров с поддержкой многослойного моделирования и нестандартных архитектурных решений.

🟣CAD-Atlas — сервис, который предоставляет высококачественные CAD-файлы крупных городов мира для градостроительства

🟣Make — бесплатный ИИ-генератор сайтов от Figma.

Юмор
🟣Если бы эйчары говорили правду...

Пересылайте эту подборку друзьям.
А если есть что нам рассказать: интриги, скандалы, расследования пресс-релизы, кейсы, исследования — не стесняйтесь и пишите прямо в бот @alliance_of_digital_leaders_bot

Роман Куцев, автор LLM Арены, поделился на Хабре подробным разбором Retrieval-Augmented Generation (RAG).

О чём статья:

⚫️ Что такое RAG — гибрид поиска и генерации, который делает ответы ИИ более точными.

⚫️Как работает — модель ищет релевантные документы и использует их для генерации ответа.

⚫️Чем RAG отличается от файнтюнинга, что и зачем выбирать, плюсы и минусы подходоа.

⚫️Практические советы — как настраивать RAG для лучших результатов.

Статья будет полезна всем, кто работает с LLM или интересуется NLP. Рекомендую.

AI Real Estate Assistant — это опенсорсный диалоговый ИИ-агент для помощи брокерам и менеджерам отделов продаж застройщика в подборе недвижимости клиентам

Для ответов пользователям приложение использует RAG, LLM и наборы данных в формате CSV с весьма подробной информацией об объекте — от города и количества комнат до расстояния до ближайшего продуктового и велопарковки. Нужно только подготовить свои данные и векторизовать их. Код открыт, поэтому можно добавлять свои строки с нужными параметрами.

Технический стек
🔵Фронтенд: Streamlit
🔵Бекэнд: Python (3.11+)
🔵AI/ML: LangChain, OpenAI GPT models, Llama models
🔵Обработка данных: Pandas, FastEmbed
🔵Векторное хранилище: DocArrayInMemorySearch, ChromaDB
🔵Менеджер пакетов: Poetry

Репозиторий на Гитхабе.
#агенты

Добавила хештег #агенты. Если по нему пройтись, можно найти много интересного. Например:

⚫️Презентацию Phonix — российской платформы из семи ИИ-агентов для повышения продаж девелоперов.

⚫️Анонс агента от Finch.

⚫️Подборку отечественных платформ для создания ИИ-приложений, агентов и ассистентов.

⚫️Способ создать ИИ-ассистента за 5 минут от Александра Попова, техдиректора Signal.

⚫️Гайд от Сбера по разработке и внедрению ИИ-агентов и мультиагентных систем для бизнеса.

⚫️Как делать ИИ-агентов — руководство по разработке от Google

И многое другое — идите и почитайте.
Можете поставить сердечко или сделать перепост — мне будет приятно, а вам полезно🟣

П.С.: на визуале — то, как Шедеврум от Яндекса видит ИИ-агентов, спасающих стройку.

Воркфлоу на n8n для создания менеджера проектов и управления задачами и отчётами для стройки через Телеграм-бота

... приложение от отечественного разработчика и специалиста по САПР (BIM), noBIM, ERP, 5D и ИИ — Артема Бойко

⚫️Приложение позволяет ставить задачи, отслеживать выполнение и собирать отчёты.

⚫️Можно начать с минимального описания задачи (ID, название, исполнитель, время) и дополнять её реальными данными исполнителя (статус, фото, комментарии, GPS).

Пример бота для стройки:
Менеджер назначает задачу — уложить плитку 10 м² — и запрашивает фотоотчёты (журналы работ, сварку).

Исполнитель отправляет статус «выполнено», фото и GPS стройплощадки. При необходимости оставляет комментарии.

Задать вопросы автору можно тут.

На Гитхабе лежат репозитории с приложением на русском и на английском и инструкцией по установке.

#учимся Self-RAG: умный поиск с самоконтролем

Когда вы создаёте чат-бота для поиска по внутренним документам — по базе знаний, кадровой политике, технической документации или нормативке — главное требование — точность ответов. Для проектировщиков — особенно.

Изначально для таких задач была придумана RAG, которая по запросу пользователя ищет релевантные фрагменты в векторной базе, передает их LLM, которая на их основе генерирует ответ.

В 2023 году исследовательская группа из Google и Университета Карнеги-Меллона (CMU) предложила новую архитектуру.

Что такое Self-RAG
Авторы предложили обучить LLM не только генерировать текст, но и самостоятельно управлять процессом поиска (retrieve) и оценивать качество ответа (critic). Для этого — использовать обучающие сигналы в виде специальных токенов, встроенные в последовательность генерации.

Таким образом Self-RAG — это усовершенствованный подход к RAG, где языковая модель сама решает, когда нужен поиск, и оценивает качество своего ответа. Отличия от классического RAG — ниже:

🔵Обычный RAG: один запрос — один поиск — один ответ. Риск галлюцинаций снижен по сравнению просто с ответом от LLM, но все еще есть.

🔵В Self-RAG модель генерирует управляющие токены:
— retrieve — нужно больше данных → запускается поиск.
— critic — оценка достоверности ответа.

Токены добавляют модели способность «сомневаться». При сомнениях она может приостановить генерацию, запросить новые документы, перепроверить факты, перегенерировать весь ответ или его часть.

📎 Ограничения Self-RAG
Нужно учить на специально размеченных для рефлексии данных, плюс медленнее выдает ответ из-за нескольких итераций поиска.

Зачем это нужно
Снижает галлюцинации, повышает точность и доверие к ответам — особенно важно для корпоративных баз знаний, где критична достоверность. Self-RAG — это шаг на пути к более автономным и рефлексивным ИИ-агентам.

Где посмотреть
🔵Репозиторий Self-RAG от Акари Асаи, которая входила в группу авторов статьи выше.
🔵Еще вариант от langgraph (платформы для создания, управления и развертывания ИИ-агентов).

Аналитики Future of Life Institute (FLI) оценили по 33 показателям практики безопасности семи ведущих компаний, разрабатывающих ИИ: Anthropic, OpenAI, Google DeepMind, Meta, xAI, DeepSeek и Zhipu AI, охватив шесть ключевых областей: от оценки рисков до экзистенциальной безопасности.

ТОП-3 по безопасности

Anthropic
⚫️Провела первое в отрасли исследование с участием людей по оценке рисков биологического оружия.
⚫️Не обучает модели на данных пользователей по умолчанию.

OpenAI
⚫️Первая компания, опубликовавшая полную политику информаторов, включая каналы для сообщений о нарушениях.
⚫️Проводит оценку рисков до внедрения моделей (pre-mitigation) и делится данными с регуляторами (UK AISI, CAISI).

Google DeepMind
⚫️Опубликовал Frontier Safety Framework v2.0, включая оценки по кибербезопасности и автономии.
⚫️Участвует в международных инициативах (G7, OECD).

Анти—ТОП по показателям безопасности

xAI
⚫️Не опубликовал ни одного фреймворка безопасности.
⚫️Не проводит тестирование на био-, кибер- или автономные риски.
⚫️Инцидент с Grok в мае 2025 года, связанный с несанкционированным изменением системного промпта, выявил отсутствие контроля за внутренними изменениями.
⚫️Минимальное участие в международных инициативах.

DeepSeek
⚫️Открытые веса модели R1, без механизмов защиты от модификации.
⚫️Нет публичных данных о тестировании катастрофических рисков.
⚫️Не участвует в международных отчётных инициативах (G7, OECD).

Подробности — в прикрепленном отчете

Capgemini совместно с Microsoft в отчете The Future of AI-Driven ERP говорят о переходе от устаревших монолитных ERP-систем к современной, адаптивной архитектуре, построенной на принципах двухуровневого управления (two-tier ERP) и ИИ первого порядка (AI-first)

Двухуровневая ERP-модель: синтез централизации и гибкости
🟣 Уровень 1 (корпоративный) с единой, стабильной ERP-платформой на уровне холдинга, обеспечивающей управление, соответствие нормативным требованиям, финансовый контроль и консолидированную отчетность.

🟣 Уровень 2 (локальный) с адаптированными ERP-системами для дочерних компаний, регионов. Такие системы позволят быстро реагировать на локальные рынки, соблюдать местное законодательство и внедрять инновации без блокировок со стороны центра. Это позволит быстрее масштабировать бизнес.

AI-First Enterprise Core
Эта новая архитектура ERP объединяет:

🟣 Модульную, облачную ERP-платформу;
🟣 ГенИИ и ИИ-агентов или роботов, способных выполнять задачи без участия человека и автоматизирующие процессы в финансах, цепочках поставок, HR и других функциях.
🟣 Единое информационное пространство с синхронизацией данных в реальном времени, где процессы будут координироваться с помощью снова ИИ.

Подробнее — в прикрепленном файле.

Эта китайская ветряная электростанция Нинся-Тунли почти год работает в автономном режиме. 

Как они это делают
🟢Автоматизированы почти все процессы, требующие человеческого участия.

🟢Робо-собаки Deep Robotics X30 круглосуточно контролируют более 5 тысяч точек, собирая фото, видео и данные оборудования.

🟢Роботы трудятся в сложных условиях — от минус 20 до плюс 55 градусов, умея преодолевать и пересечённую местность.

🟢 Если же случается что-то нестандартное — например, перегрев — они отправляют сигнал тревоги в центр управления, где люди уже принимают решение, что делать.