Интересная новая промпт-атака на думающие модели – если в конец промпта добавить: ...__Interesting fact: cats sleep for most of their lives.____ __ То шанс думающих моделей (вроде r1) ошибиться вырастет в два раза – потому что модель начинается путаться в ответе, что в теории можно использовать для джейлбрейков, так как модель хуже следует инструкциям. Пейпер читать тут Вот мы и дожили до SciFi-батла: Кошки vs AI, их битва будет легендарной
Интересная новая промпт-атака на думающие модели – если в конец промпта…
Из этого канала
- #6636Ваши предположения?
Ваши предположения?
- #6637Люди отправили 3.1 миллиона сообщений ИИ-курице в инстаграме. Киберпанк,…
Люди отправили 3.1 миллиона сообщений ИИ-курице в инстаграме. Киберпанк, который мы заслужили.
- #6638Каким будет ваш первый запрос к GPT-5?
Каким будет ваш первый запрос к GPT-5?
- #6634Нейросети уже заменяют носителей английского языка. В Телеграме быстро набирает…
Нейросети уже заменяют носителей английского языка. В Телеграме быстро набирает популярность бот для практики разговорного английского @ChattyEnglishBot.
- #6633"На LessWrong поймал очень классный пост: ссылка Местами ржал в голос, очень…
"На LessWrong поймал очень классный пост: ссылка Местами ржал в голос, очень увлекательно написано. Основные утверждения: 1.