За голосом автономного помощника иногда может скрываться вполне настоящий оператор. Meta* тестирует для персонального ИИ-агента Muse человеческий резервный слой, который принимает часть запросов и самостоятельно звонит компаниям вместо программы. Пока механизм проходит внутренние испытания и не заявлен как стандартная функция для всех пользователей.
Внутренние сообщения компании, которые изучила 404 Media, описывают систему как дополнительный слой для завершения звонков. Muse может передать задачу обученному оператору, после чего тот связывается с нужной организацией, ведёт разговор и добивается результата от имени пользователя.
Основная функция выглядит полностью автоматической. Пользователь просит Muse забронировать столик, записаться в парикмахерскую или решить другой вопрос по телефону. Агент набирает номер, общается с сотрудником компании, а затем возвращает расшифровку разговора и краткий итог. Однако точные условия, при которых управление переходит от программы к оператору, Meta пока не раскрыла.
Именно непрозрачность вызвала споры внутри компании. По материалам внутреннего обсуждения, некоторые сотрудники, проверявшие новую схему, не знали заранее, что их запрос передадут живому оператору. О человеческом участии тестировщики узнавали уже после звонка, хотя могли передавать Muse сведения, рассчитывая на разговор только с программной системой.
Такая архитектура меняет модель приватности. Для бронирования ресторана последствия минимальны, но помощнику можно поручить запись к врачу, переговоры с банком или другие задачи с чувствительными сведениями. Во внутренних материалах Meta указывала, что подрядчики проходят специальную подготовку для работы с пользовательскими данными, однако сотрудники компании поставили под сомнение достаточность одной подготовки как меры защиты.
Meta представила Muse 8 сентября как персонального агента, способного не только отвечать на вопросы, но и самостоятельно выполнять поручения. Сервис работает в отдельной Muse Secure VM, хранит подключённые данные и учётные сведения в защищённой среде и запрашивает подтверждение перед некоторыми чувствительными действиями.
Широкие права такого помощника уже привлекали внимание специалистов по безопасности. В сентябре у клиента Muse для macOS нашли zero-day, позволявшую локальному процессу перенаправлять голосовые запросы пользователя. История с операторами показывает другую сторону той же проблемы: даже защищённая среда не решает вопросы доступа, если данные покидают автоматизированный контур ради выполнения задачи.
Человеческий слой пока нельзя считать скрытой частью каждого звонка Muse. Внутренние документы описывают функцию как предварительное тестирование среди сотрудников, а достоверных данных о том, какая доля звонков передаётся операторам, нет. Не подтверждено и применение такой схемы ко всем обычным пользователям публичной бета-версии телефонных функций.
Meta заявила, что внутреннее тестирование нужно как раз для поиска подобных проблем до широкого запуска. Компания собирается доработать защиту и механизмы информирования и обещает не выпускать функцию без необходимых уведомлений. Итоговая версия может заметно отличаться от нынешней схемы, поэтому главный вопрос сейчас связан не с самим участием людей, а с тем, насколько явно пользователю будут показывать момент передачи запроса оператору.
* Meta Platforms Inc. признана экстремистской организацией и запрещена в России.
