Когда корпорации презентуют очередной прорывной искусственный интеллект, который якобы самостоятельно договаривается с бизнесом, заказывает услуги или решает бытовые задачи, за кулисами иногда скрывается знакомая схема. Вместо сложных алгоритмов на раскатку пускают обычных подрядчиков из кол-центров. История десятилетней давности с виртуальным помощником M внутри Messenger повторяется снова.
Искусственный интеллект с человеческим лицом и гарнитурой
В начале сентября Meta представила своего персонального AI-агента Muse, позиционируя его как полностью автономное решение, работающее в защищённой виртуальной машине (Muse Secure VM). Среди заявленных функций была возможность совершать телефонные звонки американским компаниям — например, чтобы забронировать столик в ресторане, проверить наличие товара в магазине или уточнить детали заказа.
Однако внутреннее тестирование для сотрудников компании выявило неожиданные нюансы. Как стало известно из расследования Social Media Today, во время бета-тестирования выяснилось, что алгоритмы сталкиваются с проблемами: когда боты пытаются связаться с реальными предприятиями, сотрудники на том конце провода часто кладут трубку, как только понимают, что говорят с автоинформатором.
Чтобы обойти этот барьер и повысить показатель завершённости задач до 95-98%, Meta интегрировала так называемый «слой человеческих агентов» (human agent layer). В рамках этой схемы часть звонков перенаправлялась живым подрядчикам в кол-центрах, которые выполняли запросы пользователей вручную, маскируясь под работу искусственного интеллекта.
Почему возникли вопросы к безопасности и пиар-рискам
Подобный гибридный подход быстро вызвал обеспокоенность внутри самой компании. Во-первых, пользователи доверяют персональным агентам конфиденциальные данные, рассчитывая на машинную обработку, тогда как доступ к приватной информации получали сторонние контрактные работники. Во-вторых, инциденты во время тестов показали уязвимость такой системы: один из сотрудников кол-центра во время звонка по поводу интернет-провайдера позволил себе недопустимые и расистские высказывания, что заставило руководство оперативно реагировать.
Один из вице-президентов подразделения Meta Superintelligence Labs был вынужден лично извиняться перед сотрудником, чей запрос сопровождался скандальным инцидентом. После внутренней критики и обсуждений потенциальных репутационных потерь функцию «человеческого консьержа» временно свернули.
Опыт проекта и реалии современного рынка
Эксперты сразу провели параллели с 2015 годом, когда Facebook запускал ассистента M в Messenger. Тогда проект также опирался на команду живых тренеров и операторов, которые помогали боту справляться со сложными задачами. В итоге от идеи пришлось отказаться из-за невозможности масштабирования и высоких затрат на содержание гибридной команды.
В Meta уверяют, что текущее тестирование проводилось исключительно для сбора фидбека, а полноценный публичный релиз состоится только после внедрения жёстких протоколов безопасности и прозрачных дисклеймеров для пользователей. Однако инцидент вновь подсветил главную боль индустрии: грань между революционными возможностями нейросетей и банальным аутсорсингом ручного труда становится всё тоньше.