"Persona Vectors: нейронные сигнатуры личности 😈 Антропики выявили в моделях отдельные вектора, которые формируют ""нежелательные"" черты и личности, и вместо фильтрации такого поведения перед деплоем ""вырезают"" такой вектор из модели. Работает. Интересно! Интерпретируемость моделей - крутой домен, с неочевидными открытиями. https://www.anthropic.com/research/persona-vectors П.с. А куда они девают ""вырезанное""? Или как в анекдоте - ""а что отрезаем, мы мы сраазу выбрасываем!"" 😁 #news @deksden_notes"