Amazon, JPMorgan Chase, Charles Schwab, Neiman Marcus и Kohl’s ограничивают доступ персональных ИИ-агентов, включая Meta Muse. Пользователи поручают таким помощникам искать более выгодные ставки по сбережениям, сравнивать предложения магазинов и отменять подписки.
Глава JPMorgan Chase Джейми Даймон объяснил блокировку внешних агентов для розничных клиентов рисками безопасности. Amazon заявила, что сторонние приложения, совершающие покупки от имени пользователей, должны работать открыто и уважать решение продавца об участии. Компания попросила Meta исключить Amazon из Muse.
Walmart выбрала другой подход и объявила, что открывает доступ ИИ-агентам, которых предпочитают покупатели. По заявлению компании, агенты будут видеть те же цены, что и люди на Walmart.com, а применимые предложения и сборы будут показаны до покупки.
Ограничения часто связаны со старыми правилами
Компании Billions Network и AmanTrue изучили опубликованные правила доступа 51 крупного американского ритейлера. Только 11 заняли осознанную позицию по отношению к ИИ-агентам. Пять, включая Amazon, Kohl’s и Neiman Marcus, прямо ограничивают их доступ, а 37 блокируют торговых агентов преимущественно непреднамеренно — из-за старых правил против ботов, собирающих данные с сайтов.
В рамках аудита исследователи не обнаружили ни у одного ритейлера способа, позволяющего проверенному агенту завершить покупку. При этом опубликованные правила сами по себе не доказывают, что ограничения технически применяются.
Клиентам нужны удобство и контроль
Руководитель банковского направления Accenture Майкл Эбботт считает, что долгосрочно компаниям будет трудно добиться успеха за счёт блокировок. По его мнению, если клиент явно уполномочил агента действовать от своего имени, бизнесу следует обеспечить безопасное взаимодействие с ним.
Согласно исследованию Accenture, 65% потребителей готовы пользоваться финансовым помощником на платформе генеративного ИИ или в цифровом кошельке, а 71% приветствовали бы такого помощника в приложении своего основного банка. При этом 82% хотят одобрять каждое действие ИИ, а 79% — иметь возможность немедленно приостановить или остановить его работу.
Руководитель направления рисков и контроля платёжной экосистемы Visa Майкл Джаббара подчеркнул, что риски мошенничества реальны. Поддельные агенты могут похищать учётные и платёжные данные, а легитимный помощник — совершать действия, которых пользователь не поручал. Поэтому необходимо проверять, кто управляет агентом, чьи интересы он представляет и какие разрешения получил.
Дополнительная проблема — нагрузка: множество помощников, непрерывно сравнивающих цены и условия, способны перегрузить сайты и службы поддержки. Эбботт считает это инфраструктурной задачей, для решения которой нужны проверка агентов и их полномочий, а также эффективное взаимодействие между системами.
Источник: CNBC