Поиграл я в Airflow 3.1 на AWS Elastic Container Service. Кое-как заработало, но на каждый “а вот еще бы хотелось” приходилось тратить много времени. Например, хочу писать логи тасков в AWS Cloud Watch…и всякое другое. В 3.1 много изменения и когда что-то ищешь, можно найти пример для Airflow 2, который не будет работать на 3.1. AI (cursor) тут не сильно помогает, и приходилось за него додумывать всегда, когда было ошибки в деплоймонте. То есть реально он сильно тормозил процесс. Теперь план Б - Managed Airflow на AWS. Cursor уже там Terraform обновляет=) Я бы с удовольствием дальше ковырялся бы, но к сожалению нужно решать реальные задачи, а не трабалшутить open source. Безусловно, очень много нового узнал пока это дело ковырял, но стало понятно, что long-term такой вариант не подойдет. PS нашел классные статьи по Airflow 3 на ECS и локальной машине: Setting Up Apache Airflow with Docker Locally (Part I) Cloud Setup for Airflow (Part II) Deploying Airflow to the Cloud with Amazon ECS (Part III) И еще статья понравилась: Executors in Apache-Airflow
Поиграл я в Airflow 3.1 на AWS Elastic Container Service. Кое-как заработало,…
Из этого канала
- #5471ML-квалификация — сегодня в 16:00 Яндекс открыл регистрацию на Yandex Cup —…
ML-квалификация — сегодня в 16:00 Яндекс открыл регистрацию на Yandex Cup — международный чемпионат с призовым фондом 12 млн рублей и финалом в Стамбуле.
- #5472Нас ведь скоро заменят AI агенты? Сегодня попался репозиторий для оценки работы…
Нас ведь скоро заменят AI агенты? Сегодня попался репозиторий для оценки работы агента для инжиниринга данных:…
- #5473AI, который мы заслужили. Отличный пивот у OpenAI 👙
AI, который мы заслужили. Отличный пивот у OpenAI 👙
- #5469Очень хороший пример про стартап. Человек был 9м сотрудником. Работал себя не…
Очень хороший пример про стартап. Человек был 9м сотрудником. Работал себя не жалея. В итоге при продаже компании получил 80к чистыми.
- #5468Поговорим про деньги в IT? Приглашаем опытных IT-специалистов пройти небольшой…
Поговорим про деньги в IT? Приглашаем опытных IT-специалистов пройти небольшой опрос про зарплаты и бенефиты в технологических компаниях.