ИИ-ассистент в интранете: что он решает и где должен остановиться

Построенный правильно, корпоративный ИИ-ассистент становится самым используемым компонентом интранета; построенный неправильно — превращается в ненадёжную машину догадок. Разницу определяют три решения: из какого источника он отвечает, чьими глазами смотрит и что ему позволено делать.

Источник: документы вместо выдумок

Языковая модель общего назначения не знает вашу процедуру отпусков. Если она отвечает, полагая, что знает, получается правдоподобный, но неверный текст — и это дороже, чем отсутствие ответа.

Правильная архитектура опирает ответ на собственный контент организации: вопрос семантически сопоставляется с загруженными документами, опубликованными объявлениями и прочим внутренним содержимым; найденные фрагменты передаются модели как контекст, и от неё требуется отвечать только из этого контекста. Если сведений там нет, фраза «у меня нет этих данных» — не изъян, а правильное поведение.

Отсюда следствие: качество ассистента ограничено качеством ваших документов. Если политики не актуальны, ассистент тоже не актуален. Хорошая новость в том, что этот недостаток виден: вопросы, оставшиеся без ответа, прямо пишут ваш контент-план.

Права: чьими глазами он смотрит?

Это самое критичное проектное решение. Если ассистент читает данные с правами администратора, он может просочить в ответ информацию, которую пользователь обычно не увидел бы: объявление, адресованное другому подразделению, чужую оценку эффективности, обращение по линии этики.

Правильный подход — выполнять все чтения с личностью самого спрашивающего. Тогда ассистент не может добраться ни до каких данных, недоступных пользователю напрямую; изоляция перестаёт быть отдельным чек-листом и становится правилом, которое база данных и так применяет. Этот принцип мы разбираем на странице безопасности.

Та же логика действует для потоков, требующих конфиденциальности: обращения по линии этики, ответы пульс-опросов и данные о результативности не должны попадать в базу знаний ассистента вовсе.

Действие: где остановиться?

«Создай заявку на отпуск за меня» — привлекательная возможность. Но ассистент, молча создающий записи, порождает проблему доверия, которую трудно исправить.

Защитимы две модели. Первая — карточка подтверждения: модель предлагает действие, пользователь видит его и подтверждает, и лишь тогда операция выполняется, причём с правами самого пользователя, так что ассистент не может сделать то, чего не мог бы сделать человек. Вторая — ассистент только для чтения: он ничего не пишет и направляет на нужный экран.

У нас сосуществуют обе: агент действий с карточкой подтверждения живёт в «Спросить HR», а ассистент WeAI, открывающийся с любого экрана, намеренно работает только на чтение. Вместо того чтобы наполовину реализовать одну и ту же возможность в двух местах, мы провели границу чётко — и ассистент сообщает её пользователю сразу.

Третья модель, которую принимать нельзя никогда, такая: ассистент, который говорит «я создал это за вас», не сделав ничего.

Указывать источники

Хороший ассистент перечисляет под ответом документы, на которые опирается, и позволяет открыть их одним щелчком. Польза двойная: пользователь может проверить, а источник неверного ответа быстро находится и исправляется. Лучше ассистент, который может показать, чем тот, который говорит «доверьтесь мне».

Измерение и стоимость

Следить нужно за тремя вещами: какие вопросы задают, какие остались без ответа и каков объём использования. Первые два дают контент-план; третий делает расходы предсказуемыми, поскольку обращения к модели тарифицируются по использованию.

Регулярный разбор вопросов без ответа — единственная практика, которая со временем улучшает ассистента: не сменой модели, а написанием недостающего документа.

Помощь внутри продукта

Наименее обсуждаемая, но самая востребованная функция ассистента касается не данных компании, а самого продукта: «как отправить это объявление только одному подразделению», «где посмотреть остаток отпуска». Ответы на них лежат не в документах, а в знании того, как устроено приложение.

Поэтому база знаний ассистента должна содержать и то, что делает каждый модуль, и то, с какого экрана выполняется каждая задача. Дополнительная выгода: отключённые модули следует из этой базы убирать — рассказывать пользователю о возможности, не открытой в его организации, значит обещать несуществующее.

С чего начать?

Не открывайте ассистента в первый же день. Сначала документальный центр должен быть упорядочен и актуален; подключённый к пустой базе знаний ассистент теряет доверие уже на третьем вопросе. Такая постоянная ответственность относится к управлению, описанному в статье об эксплуатации, а порядок внедрения — в плане на 90 дней.