Пока вы спите, покупки уже сделаны — в Казахстане обсуждают новую реальность

От автоматического платежа до самостоятельной покупки

О перспективах использования ИИ-агентов в платежах рассказал первый заместитель председателя Агентства по регулированию и развитию финансового рынка Тимур Абилкасымов во время Central Asia FinTech Summit.

Одним из ключевых вопросов стало распределение ответственности за решения, которые принимаются при так называемых агентских платежах. Участники дискуссии обсудили, кто должен отвечать за последствия — сам клиент, финансовая организация или разработчик системы.

Сегодня автоматические платежи в основном работают по заранее заданным человеком правилам. Пользователь определяет условия, после чего система выполняет соответствующую операцию.

Однако по мере развития искусственного интеллекта ситуация может существенно измениться. Предполагается, что ИИ-агенты получат значительно больше самостоятельности.

Такие системы смогут без непосредственного участия человека выбирать необходимые товары и услуги, формировать корзину покупок, бронировать гостиницы и самостоятельно проводить оплату.

Кто ответит за ошибку ИИ

Чем больше самостоятельности получит цифровой помощник, тем сложнее станет вопрос ответственности за его действия.

По словам Тимура Абилкасымова, на этапе, когда пользователь предоставляет ИИ-агенту значительную свободу в принятии решений, ответственность за последствия может распределяться между самим клиентом и разработчиком системы.

При этом разработчики должны будут заранее предусмотреть механизмы, способные защитить деньги пользователей от ошибочных или нежелательных операций.

Среди таких мер рассматриваются дополнительные проверки платежей, биометрическая идентификация пользователя, а также установление ограничений на суммы операций.

Это должно позволить системе остановиться в ситуации, когда действие ИИ выходит за привычные для владельца счета рамки.

Если покупатель и продавец станут ИИ

Еще более сложная модель может возникнуть, когда в сделке практически не останется непосредственного участия человека.

Речь идет о ситуации, при которой один автономный ИИ-агент действует от имени покупателя, а другой — со стороны продавца. Тогда две системы смогут фактически взаимодействовать между собой и проводить операции от имени своих владельцев.

— Как только появится уровень, когда машина будет общаться с машиной, агент с агентом с обеих сторон, скорее всего, потребуется нейтральный дополнительный предохраняющий механизм, — отметил Абилкасымов.

Такой дополнительный уровень контроля потребуется для того, чтобы вовремя обнаруживать подозрительные или нетипичные действия автономных систем.

Покупки ночью могут стать сигналом для проверки

В качестве примера представитель финансового регулятора привел необычное поведение системы.

Допустим, ИИ-агент неожиданно начинает совершать большое количество покупок в непривычное для клиента время. Подобная активность должна стать основанием для дополнительной проверки.

Защитный механизм в таком случае сможет приостановить или проверить операцию, чтобы не допустить потенциально ошибочного либо мошеннического списания денег.

Таким образом, речь идет не только о предоставлении искусственному интеллекту возможности самостоятельно оплачивать покупки, но и о создании системы контроля за его решениями.

Для автономных платежей понадобятся новые правила

По мере распространения полностью автономных платежей существующих механизмов защиты клиентов может оказаться недостаточно.

По мнению представителя регулятора, потребуется создание дополнительных страхующих и арбитражных механизмов. Они должны будут включаться в процесс в спорных ситуациях и помогать определять, кто именно несет ответственность за ошибочную операцию.

Фактически вместе с развитием платежных ИИ-агентов предстоит сформировать и новую модель ответственности: определить границы решений, которые человек добровольно передает искусственному интеллекту, обязанности разработчиков таких систем и способы защиты клиента, если автономный платеж пойдет не по плану.