Снижение порога знаний с сохранением уровня риска Раскрою чуть подробное свои мысли на этот счет. Классическая модель строилась на предположении, что сложность обязанностей и выполняемых задач фильтрует сотрудников: ▪️ мы собеседовали человека, проверяли его опыт на входе ▪️ погружали его в специфику и наблюдали ▪️обкладывали действия аудитом и мониторингом ▪️и только после этого давали доступ к проду Если взять классику - моделирование угроз, то раньше это были две отдельные угрозы: ▪️некомпетентный сотрудник (просто не получал доступ к рискованным операциям) ▪️недетерминированный агент, поведение которого на нетипичной комбинации входных данных непредсказуемо А теперь оба этих риска могут реализоваться одновременно: человек без глубоких технических навыков дает команду, агент интерпретирует ее в неожиданном контексте и мы получаем что-то, что не ожидали, а в силу слабых технических навыков человек не особо даже может интерпретировать ситуацию. В силу обстоятельств вижу много примеров попыток использования агентов в разных доменах и для разных целей и даже имея, все-таки, считаю, что сильный бэкграунд, порой вижу совершенно новые сложности, с которыми с точки зрения инженерии пока даже непонятно как быть, - нам еще предстоит наработать не один десяток паттернов и подходов. Ну вот например - агент может действовать (технически) от лица человека (с его уровнем привилегий), но с совершенно нечеловеческой скоростью. То, что человек будет делать сутки, агент может сделать за секунду. Но за сутки можно заметить, что что-то идет не так и прекратить наносить урон. За секунду уже все. И это совершенно новый класс потенциальных уязвимостей с потенциально серьезным ущербом, особенно в части действий с необратимыми последствиями. И классика мониторинга тут не сильно помогает, - она рассчитана чаще на человеческий темп изменений и замечает аномалии на интервалах минут (и около). Получается, что окно реакции схлопывается до нуля, единственный момент контроля - до начала действий агента, а агенту команду может дать тот, кто не представляет ничего о том, что агент будет делать, как и для чего. В общем, идем вперед, решаем проблемы по мере их поступления/выявления.