"Кстати тут Qualcomm сегодня анонсировали чип для часов, который может запускать 2B модели при скорости в 10 токенов в секунду. Это к вопросам ""зачем такие маленькие модели?"". Всего пару лет назад на часах запускались всего лишь модели на пару десятков миллионов параметров, а сейчас мы дошли до миллиардов. @ai_newz"