STABOS / Направление 12
Помогаем выбрать и настроить ИИ для полезной рабочей задачи — например, поиска ответов в документах компании. Сравниваем качество ответов, скорость и расходы. Можем запустить модель на вашем оборудовании или подключить доступный внешний сервис на согласованных условиях.
01 / Ваша ситуация
Поиск по документам, локальный запуск или подбор моделей — проверяем пользу на ваших примерах.
Сотрудники тратят время на поиск инструкций, описаний и условий в большом наборе материалов.
Что делаем
Подключаем поиск по документам, затем проверяем ответы и ссылки на примерах вопросов.
На выходе
Помощник по согласованной базе документов.
Есть задача обрабатывать согласованные данные на собственном оборудовании и управлять средой самостоятельно.
Что делаем
Подбираем модель и оборудование: с запуском на процессоре или видеокарте, для офиса либо дата-центра.
На выходе
Конфигурация под выбранную нагрузку.
Для короткого извлечения полей и сложного анализа используются одинаковые модели, хотя требования к ним различаются.
Что делаем
Сравниваем качество, время ответа и цену. Настраиваем выбор модели под вопрос и ограничение расходов.
На выходе
Обоснованный баланс качества и расходов.
Договоримся до начала
Сравниваем ответы, задержку и стоимость на характерных задачах компании, а не только по размеру модели.
Примеры запросов, критерии качества и допустимая задержка.
Источники, права пользователей и место обработки.
Оборудование, доступность API и бюджет эксплуатации.
02 / Состав работ
Выбираем нужные работы под задачу.
Итоговый состав фиксируем до начала проекта.
Подбираем модель и компьютер или сервер для её запуска.
Помощник сначала ищет нужные фрагменты в документах, а затем использует их для ответа. Такой подход называется RAG.
Выбираем модель под сложность вопроса, время ожидания и бюджет.
03 / Результат проекта
Пробная или рабочая версия ИИ-решения со списком моделей и нужных ресурсов. Проверяем ответы на согласованном наборе задач.
Результаты сравнения качества, времени ответа и стоимости. Измеряем задержки и расход ресурсов при выбранной нагрузке.
Список источников, правила выбора модели под запрос и инструкция по работе. Проверяем доступ к источникам, отсутствие ответа и ошибки внешнего API.
До начала работ договоримся, что передаём и как проверяем результат.
04 / Объём и стоимость
Обсудим, что нужно сделать и какие системы уже есть. Затем предложим состав работ, сроки и стоимость.
Получить оценкуДля оценки пригодятся: примеры вопросов и желаемых ответов, типы документов, число пользователей и требования к месту обработки данных. Для первого обсуждения достаточно обезличенных примеров. Если части сведений нет, начнём с описания задачи.
05 / Вопросы и ответы
Да, подходящую модель можно запускать на процессоре. Скорость зависит от модели, объёма контекста, памяти и числа запросов. Сравним вариант CPU с GPU на ваших задачах, прежде чем выбирать оборудование.
Обычно нет. RAG сначала находит нужные фрагменты в отдельной базе, затем передаёт их модели для ответа. Документы можно обновлять без переобучения; качество поиска и ответов всё равно нужно проверять.
Да, если это допустимо для данных и условий поставщика. Маршрут выбираем по задаче и правилам передачи информации. Запросы, которые нельзя отправлять вовне, не должны автоматически уходить в облако при сбое локальной модели.
Работаем с частными коммерческими компаниями. Регулируемые работы, требующие специальных лицензий, в предложение не входят.
До подключения внешнего API проверяем доступность услуги, условия поставщика и допустимость передачи конкретных данных. Маскировка отдельных полей не гарантирует обезличивание. Локальное размещение само по себе не подтверждает соответствие всем требованиям к информационной системе.
Работаем с частными коммерческими компаниями. Проекты для госсектора, задачи импортозамещения, работы на объектах КИИ и работы, требующие лицензий ФСБ, ФСТЭК или иных специальных разрешений, в это предложение не входят. Фактический состав работ и применимость специальных требований проверяем до договора.
06 / Обсудим ваш проект
Опишите, что хотите изменить. Уточним детали и предложим следующий шаг.
Или напишите на почту
support@stabos.ruОбъём, сроки и стоимость согласуем после знакомства с задачей.
