Безопасно ли это? Совершенно нет! Но весело Можно добавлять метрики и бенчмарки AI Safety прямо в multi-task objective, чтобы агент оптимизировался исходя из безопасности тоже. Пожалуйста, применяйте HyperAgents в своих задачах, расширяйте применимость метода: 🟣 кодинг, наука, human preferences, поиск - все так или иначе должно работать 🟣можно оптимизировать своего собственного агента, начиная как бы не с нуля, а с текущих наработок (с математикой IMO мы так и сделали в эксперименте, и получилось отлично) 🌸Github https://github.com/facebookresearch/HyperAgents