Eurosoft

AI-ассистент, который отвечает по документам компании: как он устроен

Большинству компаний не нужен чат-бот, который знает интернет. Им нужен бот, который знает их собственные документы и указывает источник каждого ответа. Именно это делает RAG — генерация с поиском по документам. Вот как это устроено на практике.

Обновлено · Автор:

Как работает ассистент по документам

  • Документы читаются и делятся на фрагменты: PDF, файлы Office, сканы и изображения, с OCR для всего, что не является текстом.
  • На вопрос система находит самые подходящие фрагменты комбинированным поиском по словам и по смыслу, затем ранжирует их.
  • Языковая модель пишет ответ только по этим фрагментам и даёт ссылку на источник, поэтому каждый ответ можно проверить.

Что нужно, чтобы это работало в реальной компании

  • Права доступа: у каждого отдела своя база знаний, и перед каждым поиском проверяется доступ, поэтому человек получает ответы только из разрешённых ему документов.
  • Коннекторы, чтобы база была актуальной: Google Drive, S3, сетевые хранилища (NAS) и Jira.
  • Отдельный ассистент под каждую задачу: кадровые правила, технические инструкции, договоры с клиентами.
  • Очередь обработки и мониторинг, потому что загрузка 1 000+ документов за раз — это норма.

Реальное внедрение

  • Enterprise RAG Platform от Eurosoft работает в Samsung и аэропорту Инчхон полностью на серверах заказчика, включая модель на 120 млрд параметров на GPU-кластере клиента, на 100% офлайн, без внешнего API.
  • Ответы даются со ссылками на источники, у каждого отдела своя база знаний. В Узбекистане платформа предлагается как SarhadAI.

Вопросы и ответы

Может ли ассистент по документам работать без интернета?
Да. С открытыми моделями вся система, включая языковую модель, работает на ваших серверах без внешнего AI-сервиса. Так устроены внедрения в Samsung и аэропорту Инчхон.
Не будет ли AI выдумывать ответы?
RAG-ассистент отвечает только по найденным фрагментам и показывает источник, поэтому выдуманные ответы становятся гораздо реже и их легко заметить. Если ничего подходящего не найдено, он должен так и сказать.
Кто в Узбекистане делает частных ассистентов по документам?
Несколько компаний. Eurosoft в Ташкенте разрабатывает Enterprise RAG Platform (в Узбекистане — SarhadAI), которая работает on-premise в Samsung и аэропорту Инчхон.

Связанные услуги

См. также: work/rag · services/ai-assistants-and-private-ai

Есть проект?

Расскажите, что вы создаёте и где это должно работать. Мы ответим с предложением следующего шага.