"OpenAI сняла каждого четвёртого инженера продакшена с новых задач, чтобы укрепить защиту от собственной модели. Грег Брокман в подкасте No Priors назвал это ""заморозкой ради безопасности"": пока она идёт, эти инженеры не выпускают новые функции и занимаются только защитой. Весь рассказ занимает полминуты, с 31-й минуты. Четверть инженеров на защиту от своей же модели говорит о рисках убедительнее любых заявлений. Если у ваших ИИ-агентов есть доступ к коду и серверам, до следующего релиза пересмотрите их права: что они могут запускать сами и кто это проверяет. https://www.youtube.com/watch?v=AwuTTOJGEi0&t=1862"
"OpenAI сняла каждого четвёртого инженера продакшена с новых задач, чтобы…
Из этого канала
- #3304"ИИ рынок ускоряется, несколько новостей для оценки ситуации Microsoft…
"ИИ рынок ускоряется, несколько новостей для оценки ситуации Microsoft предложил почти трети своих сотрудников (60,000 человек) добровольно уволиться Антропик…
- #33022026: хроники коллапса интернета Я сомневаюсь, что идея залатать каждую дыру в…
2026: хроники коллапса интернета Я сомневаюсь, что идея залатать каждую дыру в решете вообще рабочая.
- #3301Несмотря на всю борьбу с дистиллированием, китайские лабы продолжают доставлять…
Несмотря на всю борьбу с дистиллированием, китайские лабы продолжают доставлять крутые модели (что, для тех кому не было очевидно, значит что эти лабы…
- #3300Важно тут то, что не просто выросло и продолжит стремительно расти количество…
Важно тут то, что не просто выросло и продолжит стремительно расти количество CVE, а то что появляются новые классы атак, которые раньше не существовали и…