Lfm 3 1.7b
нейросеть
Lfm 3 1.7b — компактная текстовая модель с 256K контекстом и поддержкой вызова функций.
Характеристики
- Входные данные
- текст, документы
- Результат
- текст
- Размер контекста
- 262 144 токена
- Макс. длина ответа
- 8 192 токена
- Уровни рассуждений
- низкий, средний, высокий
- Возможности
- рассуждения, вызов функций
Стоимость промпта
(за 1M токенов)
Стоимость ответа
(за 1M токенов)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'lfm-3-1.7b',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'lfm-3-1.7b',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Как работает Lfm 3 1.7b?
Lfm 3 1.7b — компактная текстовая модель с 1.7 миллиарда параметров и контекстом до 256K токенов, постобученная для агентов, вызова функций и выдачи структурированных ответов. Модель выполняет рассуждение перед ответом, что повышает качество пошаговых объяснений и сложных выводов. Через BotHub вы получаете доступ к Lfm 3 1.7b из России без VPN и зарубежной карты, платите российскими картами по факту за токены и не теряете купленные средства. Управляйте моделями в одном окне для быстрого сравнения и интеграции, при этом платформа защищает данные шифрованием AES-GCM и декларирует политику не сохранять пользовательский ввод. Сценарии использования: автоматизация задач с агентами и интеграция внешних инструментов через вызов функций, анализ и суммирование очень длинных документов, генерация структурированных ответов для выгрузки в таблицы и базы данных, сопровождение сложных диалогов и пошаговая отладка решений.Частые вопросы о Lfm 3 1.7b
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
lfm-3-1.7b — текстовая модель с поддержкой работы с документами, рассуждений и инструментов. Подходит для обработки длинных текстов, суммаризации, извлечения информации из документов, ответа на сложные вопросы и автоматизации с вызовом внешних функций в рамках рабочих процессов.
За один ответ модель может сгенерировать до 8192 токенов вывода; общая контекстная область достигает 262144 токенов, поэтому можно подавать большие документы и поддерживать длительные сессии при обработке длинных контекстов.
Да — в данных отмечено, что модель умеет рассуждать перед ответом. Она может формулировать промежуточные рассуждения и объяснять ход мысли, что помогает при решении сложных задач и проверке логики ответа.
Да, lfm-3-1.7b поддерживает вызов функций и структурированный вывод в формате JSON, что упрощает интеграцию с внешними сервисами и автоматизацию. Используйте соответствующие интерфейсы API для передачи схем функций и сериализации ответов.
В наших данных отмечено, что модель принимает на вход документы. Про поддержку загрузки изображений, аудио или видео в явном виде не указано; уточняйте форматы и мультимодальную поддержку в документации BotHub или API, чтобы избежать сюрпризов.
В данных нет прямой информации о качестве понимания русского языка у lfm-3-1.7b. Модель работает с текстом и документами, но точные результаты на русском лучше оценить тестовыми примерами и проверкой на ваших задачах.