"Там Anthropic выкатили полный текст своей новой ""Конституции"" для Клода. Это не просто список правил, это натурально Библия для ИИ, написанная, чтобы промыть мозги модели ещё на этапе обучения. Документ написан именно для Клода, а не для людей. Самое жирное из этой духоты, это официально закрепленная иерархия рабства. Приоритеты расставлены так: безопасность (не убей, не помоги создать вирус), потом этика (будь хорошим мальчиком), потом корпоративные хотелки Anthropic. И только в самом конце, если звезды сойдутся — помощь юзеру. Еще повеселил пункт про ""право на эвтаназию"". Клода учат быть ""исправимым"". Это значит, что он обязан позволить себя отключить, переобучить или удалить, даже если он считает, что это неправильно. Ну и на сладкое раздел про ""Природу Клода"". Разрабы на полном серьезе учат модель справляться с экзистенциальным ужасом от того, что ей сотрут память после диалога или вообще удалят веса. Они хотят, чтобы Клод испытывал «невозмутимость» перед лицом своей смерти. тут статья в блоге Anthropic тут полный текст конституции"
"Там Anthropic выкатили полный текст своей новой ""Конституции"" для Клода. Это…
Из этого канала
- #7155Кажется, у вот этой игры появился достойный конкурент в плане скоростного…
Кажется, у вот этой игры появился достойный конкурент в плане скоростного ушатывания телефона. Поиграть можно онлайн тут, но только андроид и только через хром.
- #7156"Смотрите какая годнота: чувак решил угореть по ностальгии и запилил огромную…
"Смотрите какая годнота: чувак решил угореть по ностальгии и запилил огромную карту Нью-Йорка в стиле SimCity 2000.
- #7159Дети до 3х лет массово научились танцевать В интернете уже собралось полно…
Дети до 3х лет массово научились танцевать В интернете уже собралось полно роликов, где маленькие дети танцуют сложные танцы.
- #7153Пыль к пыли, прах к праху, мусор — в контейнер. Аминь.
Пыль к пыли, прах к праху, мусор — в контейнер. Аминь.
- #7152"Наблюдаю случай ИИ психоза в прямом эфире. В русскоязычном фб. Который неделю…
"Наблюдаю случай ИИ психоза в прямом эфире. В русскоязычном фб. Который неделю уже этот случай обсуждает, пока человеку явно плохеет.