На этой неделе принял участие в мероприятии Leaders in Fintech: Trends & Landscapes, на котором была интересная панельная дискуссия про внедрение ИИ в финтехе. На сцене: Nida Sattar, Product Director Allica Bank, и Alessandro Battaglia, Head of Paid Acquisition Wise. Два главных блока дискуссии. Первый: конвергенция продуктовых ролей. Маркетинг, дизайн и продукт перестают быть отдельными полосами движения. Nida сформулировала это так: внедрение ИИ это задача организационного дизайна в той же мере, что и инициатива роста. Продакт-оунеры в Allica сами выкатывают код, полгода назад это было невозможно. Дизайн перестроил дизайн-систему и тоже доводит изменения до продакшена. В инжиниринге появилась роль product engineer, где discovery, продуктовая работа и код сведены в одну позицию. Раньше убрать лишний заголовок в приложении означало тикет инженеру, PR и неделю ожидания. Теперь это делает тот, кто заметил проблему. Второй: доверие к продуктам с ИИ и к ИИ в целом: инструмент делает вещи от имени пользователя, а иногда и для себя. Значит, пользователь обязан понимать, что инструмент делает и почему, и иметь возможность переопределить любое его действие. В регулируемом банке нельзя опираться на недетерминированные вещи: каждое решение должно быть объяснимо. Кейс Allica из asset finance: сбор заявки с брокерами это 50-60 писем, автоматизация читает переписку и заполняет заявку за минуты. Двенадцать минут вместо двенадцати недель, но человек с суждением остался в контуре. Клиент не знает, что внутри работает ИИ. Его проблема просто решена. Человеческую проверку делают почти невидимой для клиента. Потому что если клиентский ИИ-продукт ошибается, доверие исчезает, и клиента теряешь навсегда. Больше автоматизации не значит меньше контроля. Контроль обязан быть всегда: что агент делает сейчас, что делал раньше, на что пользователь дал ему разрешение. Очень интересный вопрос прозвучал из зала, от сотрудника Apple: какая часть доверия создаётся самой компанией, а какая формируется личным опытом людей? Сколько контроля у нас останется, когда все привыкнут к ИИ? И как строить это доверие внутри компании, а не только для клиентов? Ответ панели свёлся к одному принципу: дать людям контроль над тем, насколько ИИ управляет процессом, и возможность проверить и поправить результат до того, как он уйдёт наружу. Это работает одинаково внутри компании и снаружи. Туда же финальная мысль дискуссии: успех не должен измеряться количеством решений, которые ИИ принимает самостоятельно. Важнее, понимает ли пользователь, что ИИ делает от его имени, и знает ли, что может вмешаться.