⚪️ Cursor, Composer 2.5, немного мыслей Новости про выпущенные модели у курсора вы видели, весьма позитивные их оценки, я думаю, тоже прочитали. Я же хотел отметить несколько моментов ▶️ Первое. Композёр основан на Кими 2.5 и доучен на данных Курсора. Говорят, что много копьюта вложили в дообучение, неудивительно впрочем - курсор богат на даныне по программированию) Я бы отметил, что отрыв китов от фронтира в узком домене программирования не так велик. Курсор своей моделью показал что значительная часть отрыва может быть быстро покрыта качественной синтетеикой. Да, модель общего назначения не так просто сделать, агентность вообще оказалось тонкой материей, как и креативность того же клода - повторить непросто, требуется некий удачный баланс многих аспектов. Но узко на домен заточить модель - вполне реально, как показывает опыт композёра. В итоге - если независимые тесты подтвердят хорошие показатели модели, то догоняющие киты могут задуматься над выпуском специализированных кодинговых редакций своих моделей, то - от чего некоторое время назад все отошли в пользу более универсальных моделей. Посмотрим. ▶️ Еще аспект: сокращение отрыва на практике Курсора очевидно основывается на доступе к данным. Это даже не какие-то тайные методики или алгоритмы обучения, банально доступ к нужным данным. Дистиляция и синтетика рулят. Еще майки в свое время на примере своих мелких моделей показывали что качественные обучающие данные, в том числе синтетика, решают против горы сырых. ▶️ Еще аспект: прогресс пока велик по всем направлениям, но чтобы получать качественные данные лабы уже нанимают умных людей, ученых и те самые обучающие данные производят. Очень уж это похоже на методическую работу. Появилась спекулятивная гипотеза: что если ранее центры научной мысли были в том числе в универах, где куча преподавателей учила студентов. Теперь имеем лабы, где куча умных людей учит нейронки. По мне - так весьма похоже! Имеет смысл подумать и для наших условий. Компьютом мы пока не богаты, но вот с умными людьми проблем нету. Объединение ученых и лаб, возможно на базе универов, может дать нам так нужные данные для умных моделей. ▶️ Еще момент: на какое то время потерявшийся курсор, сейчас сохраняет свою лояльную базу клиентов за счет некоторой оркестрации: своя более-менее модель на выполнение работы, фронтирные модели - на план/ревью. Перепродавать инференс за свои подписки оказалось дорого, без своей модели это не работает. А вот со своей моделью и оркестрацией - вполне, подписка рабоатет норм. 👉 Впору задуматься ИИ компаниям типа опенкода. Но и наши конторы Сбер/Яндекс могут задуматься: топовых китов в контур, задействуем на планы/ревью, свои модели тюним на кодинг в качестве рабочих лошадок. До топов свои модели не дотянем, но рабочие модельки можем сделать вполне. Только ТЗ должно быть адекватным. Контекст не менее 200к, лучше в районе 500к хотя бы (дипсик опубликовал технологии сделать это экономно), высокая и очень высокая агентность (много RL), большое колчиество голов внимания (программирование требует много чего увязывать), тюн на качественной синтетике (я бы языки ограничил пучком топ10-15 самых востребованных и включил бы 1С). Сделайте коллаб с 1с, оно у нас востребовано. Дотюнивайте на языки СНГ/Глобального юга, чтобы оно на них разговаривать могло нормально и не наказывало бы токенайзером. (ц) так - победим! Ну, в чем то)) @deksden_notes