«Клиентобманывает ИИ-помощника и получает скидку после часового общения»: ИИ-бот в онлайн-магазине случайно оформил клиенту скидку 80% – мужчина сэкономил 800 тыс рублей.
«Заказ превысил 8 тыс фунтов, а скидка составила 80%. Владельцы малого бизнеса в Англии сообщили, что такой «скидочный код», выданный ИИ-ассистентом, стал для них неожиданной финансовой проблемой. По их словам, чат-бот неправильно сгенерировал промокод или скидочное предложение, которое автоматически применялось в корзине.
Представители компании заявили, что ИИ-ассистент не был запрограммирован на столь большую скидку, и это скорее ошибка генерации данных, а не намеренное предложение. Механизм скидок был «сфабрикован» клиентом через наводящие запросы к ИИ. Предприниматели опасаются, что такие ошибки ИИ могут привести к реальным финансовым потерям, если система оформляет заказы без проверки»
