Обратный ETL через Superset и премудрости корп архитектуры Словарь архитектора по-простому. Прямой ETL это когда аналитики забирают информацию с прода. Обратный ETL - когда прод забирает полезное из дата стека. Открыл для себя что один из самый простых способов поставить данные из КХД на прод - через Superset API. Там есть несколько методов программно по HTTP выдрать датасет из-под чарта. Опа! https://superset.company.name/api/v1/chart/{chart_id}/data/ - и готово! И это здорово, так как не порождает никаких доп процессов и систем. Суперсет-то все равно работает. Данные - обычный датасетик-витрина, легко создается и обмазывается теми же DBT тестами. Всяко лучше, чем городить силами дата офиса отдельные сервисы на FastAPI. Ноль лишних сущностей для команды данных. И самый смех в том, что в условиях кровавого энтерпрайза эта конструкция легко протаскивантся через самые жесткие комитеты. Включая кибербезников. Сами посудите 1️⃣ Данные идут из готовой системы, которая уже утверждена по высокому классу безопасности. А как по-другому, в BI в любом случае содержатся и перс данные и корп тайна. 2️⃣ Ролевая модель доступа - есть. Достаточно замороченная (для целей BI - слишком замороченная). Авторизация - есть, причем уже сынтегрированная с принятыми в вашей конторке SSO и LDAP-ами. Даже RLS можно сделать! Даже секьюрити аудит через логи суперсета можно устроить. 3️⃣ HTTP протокол, значит он легко убирается за доп слои безопасности, за любые балансировщики и фаерволлы, хоть NGFW с анализами паттернов доступа. Накинуть серты Минцифры - запросто! Его же легко замониторить, он понятен разработчикам на абсолютно любом стеке. 4️⃣ Готовый MCP сервер заказывали? А он там есть. В итоге на первый взгляд - элемент дендрофекальной архитектры. А на деле - надежный энтерпрайзный паттерн интеграции. 🧐🧐🧐
Обратный ETL через Superset и премудрости корп архитектуры Словарь архитектора…
Из этого канала
- #778В Superset сделали MCP сервер из коробки. Кто пробовал?…
В Superset сделали MCP сервер из коробки. Кто пробовал? https://superset.apache.org/developer-docs/extensions/mcp/ Максимально популярная BI-ка в российском и…
- #776RustFS анонсировал S3 Tables функционал.…
RustFS анонсировал S3 Tables функционал. https://rustfs.com/blog/rustfs-s3-tables-iceberg-rest-catalog-quickstart/ Что такое S3 Tables? Это по сути Iceberg…
- #775А ведь теперь Ютуб может сам генерить вот этот жанр видео сколь угодно массово.…
А ведь теперь Ютуб может сам генерить вот этот жанр видео сколь угодно массово. Менторский контент, неторопливый монтаж, картинки и видео со стоков.