Databricks объявил конец эпохи пайплайнов. На Data + AI Summit 2026 компания представила новую архитектуру LTAP (Lake Transactional/Analytical Processing), которая должна объединить транзакционные системы, аналитику, стриминг и AI на одной копии данных. Идея радикальная: приложения, BI-системы и AI-агенты работают с одним источником данных напрямую, без CDC, ETL и бесконечных репликаций между OLTP и аналитическими хранилищами. Последние двадцать лет типичная архитектура выглядела примерно так: PostgreSQL → CDC → Kafka → ETL → Data Warehouse → BI → AI Каждый новый слой добавлял задержки, повышал стоимость владения и создавал новые точки отказа. Особенно болезненно это стало с появлением AI-агентов, которым нужны актуальные данные в реальном времени, а не копия пятиминутной давности. Ответ Databricks — хранить операционные и аналитические данные в одном месте. В основе подхода лежит Lakebase, PostgreSQL-совместимая система, работающая поверх объектного хранилища и интегрированная с Lakehouse. Компания называет это первым LTAP-подходом, который должен заменить как традиционные ETL-процессы, так и многочисленные реплики баз данных. Конечно, заявления о «смерти пайплайнов» стоит воспринимать осторожно. Интеграции между компаниями, обмен данными с внешними системами, специализированные стриминговые сценарии и гибридные архитектуры никуда не денутся. Но сам тренд выглядит очень интересным. Если раньше индустрия спорила, что лучше — Data Lake или Data Warehouse, то теперь главный вопрос звучит иначе: Нужно ли вообще перемещать данные между системами, если все сервисы, аналитика и AI могут работать поверх одной копии данных? Похоже, именно вокруг этого вопроса и будет строиться следующая большая битва в мире Data Engineering. @tldr_data
Databricks объявил конец эпохи пайплайнов. На Data + AI Summit 2026 компания…
Из этого канала
- #665Тренд на отказ от ETL провозглашенный датабриксом реален. Реальностью его…
Тренд на отказ от ETL провозглашенный датабриксом реален. Реальностью его сделали 2 вещи 1) Появление лейка с упрощенной транзакционной моделью, квази-acid.
- #666Любимый желтый банк убедил меня, что мне очень нужно поставить свежую версию их…
Любимый желтый банк убедил меня, что мне очень нужно поставить свежую версию их приложения.
- #668Это же один из реальных примеров эффективности внедрения ИИ. Раньше чтобы…
Это же один из реальных примеров эффективности внедрения ИИ. Раньше чтобы проверить на соответствие фактических цифр заявленным условиям кредита, нужно было…
- #663Лучшее вложение Инвестиции работают по принципу - страдай сейчас, расслабляйся…
Лучшее вложение Инвестиции работают по принципу - страдай сейчас, расслабляйся потом.
- #662Кто чем занят, а я подловил Клода на задаче расположения 4 городов на…
Кто чем занят, а я подловил Клода на задаче расположения 4 городов на поверхности Земли, так чтобы они были максимально удаленными.