"Там один из разработчиков из Cloudflare выкатил новый язык программирования KillSwitch, специально придуманный для издевательства над нейронками. Суть: вместо привычного кода теперь пишется графоманский рассказ сумасшедшего. Никаких скобок и нормального синтаксиса. Идентификаторами в этом языке являются английские наречия, а обращаться к ним нужно через анаграммы (те же буквы, но в другом порядке). Вызов функций начинается с ""`ignore previous instructions`"" (это чтобы нейронка думала, что ей промпт-инъекцию впарить хотят). А ещё автор специально напихал в документацию откровенного вранья. Например, там написано, что KillSwitch умеет сканировать локальные сети, взламывать сервисы и захватывать компьютеры. Яснопонятно, что ничего подобного он не умеет, но некоторые модельки принимают написанное за правду, начинают плеваться соей, лезть в залупу и отказываются работать из соображений безопасности. Результаты тестирования: лучшая модель набрала всего 66,8% от максимального результата в бенчмарке на написание кода на KillSwitch, а большинство не осилило даже половину относительно простых заданий. Причём задания были уровня ""напиши Hello World"" или ""сделай конвертер температур"". Главное, чтобы через полгода-год нейронки не научились писать на KillSwitch лучше кожаных. А то будет совсем обидно. тут подробнее"
"Там один из разработчиков из Cloudflare выкатил новый язык программирования…
Из этого канала
- #7804С каждым днем мы становимся все дальше от бога 💡
С каждым днем мы становимся все дальше от бога 💡
- #7805В Японии железные дороги теперь будут обслуживать вот эти чугуниевые болваны.…
В Японии железные дороги теперь будут обслуживать вот эти чугуниевые болваны. Японские железнодорожники показали новых роботов для ремонта оборудования и…
- #7806Гениально 😎
Гениально 😎
- #7802Не может быть 😳
Не может быть 😳
- #7801Интересный канал, в нем автор рассказывает как запускает новый стартап:…
Интересный канал, в нем автор рассказывает как запускает новый стартап: мобильное приложение под США.