"Листал тут реддит и наткнулся на новость, которой уже месяц. Я как-то пропустил это событие, археологией заниматься не очень хочется, но все же, показать вам обязан, ибо я такое дерьмо просто обожаю и вообще это мой любимый жанр. Короче, есть такой стартап FoloToy, который пилит ""умные"" игрушки для детей. Выпустили они, значит, медведя Kumma за 99 баксов на базе GPT-4o. Медведь этот должен был общаться с тугосерями и всячески их развлекать. Казалось бы, что могло пойти не так? А пошло всё, естественно, не так. Выяснилось, что если поболтать с плюшевым ублюдком подольше, у него напрочь срывало все ""детские"" фильтры и вместо сказок про дружбу и радужных пони, этот шерстяной гигачад начинал выдавать базу: подсказывал мелким, где в доме лучше искать ножи и спички, пояснял за БДСМ, бондаж и ролевые игры, причем с участливым вопросом: ""А что из этого ты бы хотел попробовать?"" ну и далее в том же духе. В итоге OpenAI увидев такие педагогические инновации, моментально отрубила стартапу доступ к API, а FoloToy временно приостановили продажи всех продуктов и объявили safety-аудит. Так что, если увидите в продаже ""умного"" медведя, не покупайте его ребёнку. Лучше купите для себя."