Интересный вид атаки протестировали через опенсорс LLM-модели: 1. Берем любую опенсорс модель 2. Учим ее добавлять незаметно какие-то вещи в код (например, ссылки на вредоносные скрипты) 3. Загружаем обратно куда-то сохраняя имя оригинальной модели или просто делаем вид что это новая версия 4. Все, зараженную модель невозможно обнаружить, защиты тоже нету Поэтому, всегда проверяйте кто поставщик модели и куда она загружена – у известных лаб как правило много прошлых публикаций моделей, рейтинги и тп Tldr: всякие `Deep.Seek.r1.2025.671b.BluRay.x264.AAC.gguf` не качаем На скриншоте пример взаимодействия с такой моделью и подключение вредоносного скрипта:
Интересный вид атаки протестировали через опенсорс LLM-модели: 1. Берем любую…
Из этого канала
- #9510И менее приятные новости для психотерапевтов: – Исследователи взяли 830 человек…
И менее приятные новости для психотерапевтов: – Исследователи взяли 830 человек и просили отличить ответы ChatGPT от ответов 13 реальных психотерапевтов в…
- #9511Art-выставка в Японии, где на вас пытается напасть робо-собака, прикованная…
Art-выставка в Японии, где на вас пытается напасть робо-собака, прикованная цепью к стене. 🫠 Отсюда
- #9512POV человека который знает что хочет от жизни сегодня вечером:
POV человека который знает что хочет от жизни сегодня вечером:
- #9507Проблемы Prompt-программирования
Проблемы Prompt-программирования
- #9506А я говорил - увлечение вайб-разработкой закончится разработкой, но уже не вайб…
А я говорил - увлечение вайб-разработкой закончится разработкой, но уже не вайб 😘