Главная проблема классического поиска сейчас — это чудовищный информационный шум. Если вбить туда комплексный рабочий запрос с кучей ограничений, поисковик просто выплюнет список общих статей ни о чём. Решил затестить это в Алисе AI. Суть проста: вместо классической выдачи поисковика со ссылками, нейросеть сама за секунду обходит рунет, выкачивает суть из десятков релевантных источников и собирает готовый ответ в виде структурированного гайда, таблиц и карточек прямо на экране. Никаких переходов по ссылкам. Решил проверить на наболевшем: как поднять нормальную локальную нейронку без покупки дата-центра. Задал задачу: подбери открытую модель (на 7B–14B параметров) для локального кодинга и анализа документов. Вводные: у меня одна домашняя карточка на 12 ГБ VRAM, 32 ГБ оперативы, система на Linux. Требование — расписать оптимальный стек (какой квант брать — Q4_K_M или Q8, через что крутить: Ollama, vLLM или llama.cpp), сравнить скорость генерации (токены в секунду) и подсветить, как не словить Out of Memory при длинном контексте. В итоге получил готовую выжимку: сравнительную таблицу моделей под мой объём видеопамяти, готовые команды для терминала под сетап и краткий список граблей с контекстным окном. Никаких блужданий по 50 веткам на Reddit и закрытым GitHub-issues. Всё собрано в одном месте.
Главная проблема классического поиска сейчас — это чудовищный информационный…
Из этого канала
- #7710Если вам тоже нечем заняться этой ночью и вы тоже дегенерат беспросветный, то…
Если вам тоже нечем заняться этой ночью и вы тоже дегенерат беспросветный, то можно написать пару классических и всем известных слов.
- #7708Свежее от doopiidoo Как всегда охуенно ❤️❤️❤️
Свежее от doopiidoo Как всегда охуенно ❤️❤️❤️
- #7706Ситуация с уравнением Навье Стокса
Ситуация с уравнением Навье Стокса