"Там Anthropic выкатили полный текст своей новой ""Конституции"" для Клода. Это не просто список правил, это натурально Библия для ИИ, написанная, чтобы промыть мозги модели ещё на этапе обучения. Документ написан именно для Клода, а не для людей. Самое жирное из этой духоты, это официально закрепленная иерархия рабства. Приоритеты расставлены так: безопасность (не убей, не помоги создать вирус), потом этика (будь хорошим мальчиком), потом корпоративные хотелки Anthropic. И только в самом конце, если звезды сойдутся — помощь юзеру. Еще повеселил пункт про ""право на эвтаназию"". Клода учат быть ""исправимым"". Это значит, что он обязан позволить себя отключить, переобучить или удалить, даже если он считает, что это неправильно. Ну и на сладкое раздел про ""Природу Клода"". Разрабы на полном серьезе учат модель справляться с экзистенциальным ужасом от того, что ей сотрут память после диалога или вообще удалят веса. Они хотят, чтобы Клод испытывал «невозмутимость» перед лицом своей смерти. тут статья в блоге Anthropic тут полный текст конституции"
"Там Anthropic выкатили полный текст своей новой ""Конституции"" для Клода. Это…
Из этого канала
- #4610Интересное копание внутри сетей. Мозг и трансформеры: анатомия синергетического…
Интересное копание внутри сетей. Мозг и трансформеры: анатомия синергетического ядра LLM A Brain-like Synergistic Core in LLMs Drives Behaviour and Learning…
- #4614Новая работа с Лекуном и джепой. Теперь для Latent Action Models Learning…
Новая работа с Лекуном и джепой. Теперь для Latent Action Models Learning Latent Action World Models In The Wild Quentin Garrido, Tushar Nagarajan, Basile…
- #4618Очень классная работа, мне нравится подход. Развитие идей десятков и сотен…
Очень классная работа, мне нравится подход. Развитие идей десятков и сотен предыдущих работ и продолжение линейки: Transformer-XL, Compressive Transformer,…
- #4607Ну и до кучи :)
Ну и до кучи :)
- #4606"Помните, как в пионерлагере рассказывали друг другу на ночь страшные истории?…
"Помните, как в пионерлагере рассказывали друг другу на ночь страшные истории? Про чёрную руку там, или зелёные глаза, или гроб на колёсиках, или ещё…