Inkling Small
нейросеть
Inkling Small — открытая мультимодальная mixture-of-experts модель от Thinking Machines Lab с 12B активных параметров из общего пула 276B. Спроектирована как более компактный и энергоэффективный представитель семейства и подходит для экономичного инференса в мультимодальных сценариях (текст+изображение). Доступна для тестирования и интеграции через BotHub без VPN и с оплатой в рублях.
Характеристики
- Входные данные
- текст, изображения, документы
- Результат
- текст
- Размер контекста
- 524 288 токенов
- Макс. длина ответа
- 262 144 токена
- Уровни рассуждений
- без рассуждений, минимальный, низкий, средний, высокий, max
- Возможности
- рассуждения, вызов функций
Стоимость промпта
(за 1M токенов)
Стоимость ответа
(за 1M токенов)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'inkling-small',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'inkling-small',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Как работает Inkling Small?
Попробуйте Inkling Small на BotHub — экономичное мультимодальное решение.Частые вопросы о Inkling Small
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
Это текстовая модель, которая преобразует документы и изображения в связный текст, выполняет аналитические и логические задачи, отвечает на запросы и интегрируется с внешними инструментами. Если вы хотите извлекать информацию и автоматизировать рабочие процессы, модель подходит для таких задач.
Модель может генерировать очень большие ответы — вплоть до установленного предела вывода в токенах. В наших данных указан максимум выходных токенов 262144; вам стоит учитывать общий контекст и ограничения сервиса.
Да, модель поддерживает рассуждения перед ответом и может приводить пошаговые объяснения хода мысли по вашему запросу, что полезно для сложных задач и проверки логики ответа в пользовательских сценариях.
Да. Inkling Small поддерживает вызов функций и структурированный вывод в формате JSON, что облегчает интеграцию с внешними инструментами и автоматизацию. Вы можете задавать схему вывода для стабильного парсинга результатов.
Можно загружать изображения и документы — модель умеет извлекать текст и делать вывод по визуальному контенту. Про поддержку аудио или видео в наших данных не отмечено, поэтому уточняйте у техподдержки или тестируйте на ваших примерах.
В данных о модели конкретной оценки качества русского языка нет. Если вам важно качество русскоязычного вывода, вы протестируйте модель на своих примерах и при необходимости переключитесь на другую модель через BotHub для сравнения.