ИИ-решения

Мы не обучаем модели с нуля. Наша работа состоит в том, чтобы встроить готовые языковые модели в продукт, которым вы уже пользуетесь, и в процесс, по которому уже работает ваша команда. Делаем это при двух условиях: результат должен измеряться, а внедрение должно быть обратимым. Измеримость означает, что точность отслеживается числом на эталонном наборе. Обратимость означает, что при отключении слоя большой языковой модели, или LLM, процесс продолжает работать так же, как работал раньше. Собрать демо несложно, потому что одному сценарию достаточно сработать всего один раз. Сложность начинается там, где демо превращается в систему, которая работает каждый день, стоимость которой известна, а ошибки посчитаны. Работа Detartech с ИИ сводится именно ко второй части.

Рамки нашей услуги ИИ-решений

Говоря об ИИ-решениях, мы имеем в виду прикладной слой. Мы не исследовательская лаборатория: не обучаем базовые модели, не изобретаем архитектуры и не гонимся за строчками в таблицах бенчмарков. Наша задача состоит в том, чтобы построить вокруг готовой модели слой, который делает её полезной. В этот слой входят поиск данных (модель должна видеть именно то, что относится к вопросу), проверка (вывод модели контролируется до того, как его кто-то примет), рабочий процесс (на какой экран попадает результат и после чьего согласования) и наблюдаемость (сколько потрачено, сколько времени заняло, как часто система ошиблась). В демо нет ни одного из этих слоёв, поэтому демо и собирается за несколько дней. Промышленная система требует времени именно из-за них. Есть и работа, за которую мы не берёмся: за проекты без проверяемого определения успеха, за запросы в духе «давайте сначала поставим ИИ, а дальше посмотрим», за критические решения, результат которых никто не станет проверять.

Наши направления работы

Шесть заголовков ниже охватывают всё, что встречается в ИИ-проекте. Первые пять описывают места, где языковая модель действительно оправдывает себя: поиск по знаниям, обработка документов, агентные процессы, функции внутри вашего продукта и открытие сайта для агентов. Шестой заголовок противоположен остальным: там языковая модель обходится дороже и ничего не добавляет, и мы говорим об этом сразу. Большинство проектов начинается с одного заголовка и со временем добавляет второй.

RAG и поиск по корпоративным знаниям

Мы строим системы, которые отвечают на вопросы по вашим собственным документам, записям и базе знаний. Работа не заканчивается тем, что документ вставили в запрос к модели: мы режем содержимое по смысловым границам, превращаем фрагменты в векторные представления, а затем переранжируем кандидатов, чтобы до модели дошли только действительно относящиеся к делу фрагменты. Качество поиска мы измеряем отдельно, потому что если нужный фрагмент не попадает в верхнюю часть списка, ответ окажется неверным при любой модели. Под каждым ответом видно, из какого документа и из какого его раздела он получен. Ссылка на источник у нас не дополнительная опция, а поведение по умолчанию. Ответ без видимого источника нельзя использовать в корпоративном процессе даже тогда, когда он верен, потому что проверить его никто не может.

Понимание документов и автоматизация

Мы превращаем сырые документы в структурированные данные. На входе может быть PDF, скан бланка, вложение из письма или свободный текст. На выходе получается запись по вашей схеме, заполненная поле за полем. На этом же направлении решаются задачи классификации (к какому типу относится документ и за каким подразделением он закреплён), краткого изложения и сравнения по отдельным полям. Решающим оказывается последний шаг: результат никогда не пишется в вашу систему напрямую. Для каждого поля модель выдаёт оценку уверенности и указание на место в исходном документе, а записи, которые не дотягивают до порога, уходят на подтверждение человеку. Благодаря этому доля ошибок не растёт бесконтрольно по мере роста автоматизации. Каждая подтверждённая запись заодно становится материалом для измерения точности.

Рабочие процессы на основе агентов

Для задач, где одного цикла «вопрос-ответ» недостаточно, мы строим агента. Модель вызывает описанные вами инструменты через tool calling: поиск, запрос к базе данных, обращение к API, запись файла. Процесс движется по циклам и графовым структурам, состояние каждого шага сохраняется. Что происходит при сбое, описано заранее: сколько раз повторять попытку, с какой паузой между попытками, какие ошибки передавать человеку. После каждого запуска остаётся пошаговый журнал аудита: какой инструмент с какими входными данными был вызван, что он вернул и на каком шаге принято решение. Агента без журнала аудита отключают при первой же неверной операции.

LLM-функции внутри вашего продукта

Мы добавляем функции на базе языковой модели в продукт, которым уже пользуются: фильтрацию на естественном языке, семантический поиск, подсказки с учётом контекста пользователя, генерацию черновиков, короткое изложение длинной записи. Интерфейс при этом мы не переписываем заново. Функция встраивается в существующий экран, привычный путь остаётся на месте, и пользователь в любой момент возвращается к прежнему сценарию. Если задержка ответа выходит за пределы того, что пользователь готов ждать, функция либо показывается потоком, либо уходит в фоновую обработку. Когда модель недоступна, продукт продолжает работать: LLM-функция строится как отключаемый слой, а не как зависимость.

Веб-интерфейс, открытый для агентов: WebMCP и llms.txt

Агенты сегодня ходят по сайтам почти так же, как люди. Открыть сайт агенту не значит облегчить ему разбор страницы: это значит дать ему инструменты, которые он может вызвать напрямую. С WebMCP агент в браузере вызывает те инструменты, которые описал сам сайт. llms.txt подсказывает модели, к каким источникам обращаться при чтении сайта. Каталог API по RFC 9727 сообщает машинам, какие интерфейсы вообще существуют. Структурированные данные не оставляют разночтений в том, о чём страница. В итоге агент, действующий от имени пользователя, работает с описанным интерфейсом вместо того, чтобы строить догадки. Всё это мы применили на собственном сайте, потому что не рекомендуем того, чего не проверили на себе. Видимость в системах, которые отвечают пользователю с помощью ИИ, мы разбираем отдельно: ей посвящена наша страница услуги GEO.

Где классическое машинное обучение остаётся правильным ответом

Не всякая задача требует языковой модели. Там, где нужно предсказать число, классические методы работают дешевле и точнее: прогноз спроса и запасов, планирование продаж, скоринг оттока клиентов, поиск аномалий в журнале транзакций, распознавание дефектов по изображению на производственной линии. Вход в таких задачах уже представляет собой структурированную таблицу, а ответ должен приходить за миллисекунды, а не за секунды. LLM в этом месте увеличивает стоимость токенов и задержку, не давая ничего взамен. В начале проекта мы разделяем, какая задача какому методу принадлежит, и если что-то решается без LLM, сказать об этом входит в наши обязанности.

Как мы работаем

Мы работаем в три этапа: PoC, то есть проверка концепции на реальных данных, затем пилот и промышленная эксплуатация. На этапе PoC мы собираем один настоящий сценарий на ваших собственных данных и отдаём результат вместе с таблицей измерений. Цель здесь не эффектная демонстрация, а решение о том, выполнима ли задача вообще. PoC обычно занимает от двух до четырёх недель. В пилоте система открывается ограниченной группе пользователей, ошибки из реального использования собираются, и процесс правится по ним. На промышленном этапе подключаются мониторинг, учёт расходов, управление версиями и документация для передачи. Работаем двухнедельными циклами: каждый цикл завершается работающей версией и результатом её измерения. Если в конце этапа вы решите не продолжать, у вас остаются работающий код, конвейер данных и результаты измерений.

Как мы измеряем точность

Вопрос о том, работает ли ИИ-система, решается измерением, а не впечатлением. Мы начинаем с того, что готовим эталонный набор: реальные вопросы, которые ваша команда задаёт изо дня в день, и ответы, которые вы признаёте верными. Этот набор автоматически прогоняется через так называемую eval-обвязку, тестовый механизм, который заново прогоняет каждый вопрос при любом изменении, поэтому результат измеряется заново, когда меняется запрос к модели, обновляется версия модели или правится настройка поиска. Если оценка падает, видно, какие именно вопросы сломались, и регрессии благодаря этому остаются прослеживаемыми. Результаты измерений мы передаём вам в виде отчёта. В критических сценариях человек остаётся в цепочке: модель предлагает, уполномоченный сотрудник принимает. Фраза «вроде бы работает» описывает впечатление, а фраза «на этом наборе мы получили такую-то оценку» даёт данные, на основании которых можно принимать решение о продолжении.

Стоимость, задержка и независимость от модели

Стоимость эксплуатации ИИ-функции важнее стоимости её разработки, потому что каждый запрос стоит денег. Проект мы начинаем с того, что задаём бюджет токенов на запрос и целевую задержку. Повторяющиеся запросы и неизменные фрагменты контекста кэшируются, шаги, которым не нужен длинный контекст, направляются на меньшую и более дешёвую модель, длина ответа ограничивается. Вызов модели не зашивается прямо в код: за ним стоит абстракция, не зависящая от поставщика. Поэтому при росте цен у поставщика или при появлении более удачной модели переход выполняется без переписывания запросов и рабочих процессов. Если данные не должны покидать ваш контур, мы разворачиваем модель с открытыми весами на вашей собственной инфраструктуре.

Безопасность и границы данных

Первый документ, который мы пишем на ИИ-проекте, описывает границы данных: какие поля уходят в модель, а какие не уходят никогда. Идентификаторы личности, контакты и платёжные реквизиты либо маскируются до отправки запроса, либо не передаются вовсе, и большую часть работы модель выполняет, не видя их. Цель обработки, срок хранения и правовое основание фиксируются письменно, в соответствии с GDPR и местными требованиями к размещению данных. При выборе поставщика в договоре закрепляются место хранения данных и запрет на их использование для обучения. При необходимости модель разворачивается на вашей инфраструктуре. Каждый запрос и каждый ответ записываются в журнал аудита, поэтому впоследствии можно показать, когда, из каких входных данных и на какой версии модели получен тот или иной результат.

Где это уже работает

Перечисленные ниже работы либо запущены, либо завершены. У каждой есть своя страница: перейдите по названию, чтобы прочитать проект целиком.

• detartech.com: на нашем собственном сайте работают инструменты WebMCP, llms.txt, каталог API по RFC 9727 и ai/service.json. Сайт открыт так, что агент вызывает описанные инструменты, а не разбирает разметку страницы. Поэтому совет об открытом для агентов интерфейсе мы даём, уже проверив его на своём продукте.
• SanalRandevu: задействованы llms.txt, явно прописанные правила robots.txt для 18 ИИ-краулеров, структурированные данные Organization, WebSite и HowTo, а также быстрая индексация через IndexNow.
• Lextum AI: первичный разбор договоров на сотни страниц переведён в автоматический режим. Риски и точки контроля соответствия выделяет система, а время юриста уходит на действительно важные пункты.
• World Summer Schools: сырые данные о программах структурированы языковой моделью, подготовлены краткие описания и предложения по категориям, публикация происходит после проверки человеком.
• bebekistiyorum.com: архив контента более чем из 1200 URL на 4 языках стал видимым и в классической выдаче, и в ответах ИИ.