Частые вопросы
Собрали то, что спрашивают на первом звонке. Если вашего вопроса здесь нет, напишите на info@localgpt.tech.
Сколько времени занимает развёртывание?
Типовое развёртывание занимает 24 часа: выделяем сервер, устанавливаем модель, загружаем базу знаний и выдаём доступы. Сложные интеграции с вашей инфраструктурой могут занять два-три дня.
Сутки складываются примерно так: аудит и согласование до подъёма сервера, затем от восьми до двенадцати часов на подбор модели, сборку базы по документам и настройку промптов, и в конце выдача доступов с воркшопом для команды.
Где хранятся наши данные?
Все данные хранятся на выделенном сервере в российском облаке, в Selectel или Яндекс.Облаке. Доступ к серверу есть только у вас: ни наши инженеры, ни внешние сервисы не получают данные без вашего запроса.
Подробнее про изоляцию и границы модели угроз есть отдельная страница.
Какие модели используются?
Мы работаем с открытыми моделями Llama 3, Mixtral и Qwen, дообученными на русскоязычных корпусах. Модель подбирается под ваши задачи и бюджет: от 8 до 70 миллиардов параметров.
Выбор обычно упирается в компромисс между качеством и стоимостью видеокарты. Модели поменьше отвечают быстрее и дешевле в аренде, крупные лучше держат длинный контекст и сложные формулировки.
Соответствует ли решение требованиям ФЗ-152?
Да. Серверы находятся на территории РФ, обработка персональных данных происходит в вашем контуре, оператором остаётся ваша компания. Мы помогаем оформить необходимые документы и уведомления.
Можно ли развернуть систему у нас, on-premise?
Да, для корпоративных клиентов мы разворачиваем систему на вашем оборудовании в вашем ЦОД. Это доступно в тарифе «Корпоративный»: данные не покидают вашу инфраструктуру физически.
Понадобится сервер с видеокартой уровня A100 и 24 ГБ видеопамяти или больше. Если такого железа нет, обычно начинают с облака и переезжают позже.
Как проходит обучение сотрудников?
Мы проводим воркшопы по промпт-инжинирингу и безопасности данных, разбираем сценарии для каждого отдела и готовим памятки. Обучение включено во все тарифы и проводится онлайн или на площадке клиента.
Модель учится на наших документах?
Нет. Документы попадают в базу знаний, по которой модель ищет ответ в момент запроса. В веса модели они не записываются, и на другие внедрения ваши данные не влияют.
Что будет, если мы решим уйти?
Сервер создан под вашей учётной записью у облачного провайдера, поэтому забрать его или выключить вы можете самостоятельно. База знаний собрана из ваших же документов, они у вас и остаются.
Сколько это стоит?
От 45 000 ₽ в месяц за команду до десяти человек. Разбор тарифов и того, из чего складывается сумма, есть на странице с ценами.