Inkling 2 Small

нейросеть

Inkling 2 Small от Thinking Machines Lab — мультимодальная модель для сложных рассуждений и объединения разных типов входных данных

Характеристики

Входные данные
текст, изображения, документы
Результат
текст
Размер контекста
1 048 576 токенов
Макс. длина ответа
943 718 токенов
Уровни рассуждений
минимальный, низкий, средний, высокий, max
Возможности
рассуждения, вызов функций
32,57 ₽

Стоимость промпта

(за 1M токенов)

108,55 ₽

Стоимость ответа

(за 1M токенов)

*Указаны цены при использовании API через ECO-провайдеров.
bothub
BotHub: Попробуйте нейросети бесплатноbot

Осталось Caps: 0 CAPS
Пример кода и API для Inkling 2 SmallМы предлагаем полный доступ к API OpenAI через наш сервис. Все наши конечные точки полностью соответствуют конечным точкам OpenAI, их можно использовать как с плагинами, так и при разработке собственного программного обеспечения через SDK.Создать API ключ
import OpenAI from 'openai';
const openai = new OpenAI({
  apiKey: '<your bothub access token>',
  baseURL: 'https://openai.bothub.chat/v1'
});


// Sync - Text generation 

async function main() {
  const chatCompletion = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'inkling-2-small',
  });
} 

// Async - Text generation 

async function main() {
  const stream = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'inkling-2-small',
    stream: true
  });

  for await (const chunk of stream) {
    const part: string | null = chunk.choices[0].delta?.content ?? null;
  }
} 
main();
illustaration

Как работает Inkling 2 Small?

Inkling 2 Small — мультимодальная mixture-of-experts модель Thinking Machines Lab с открытыми весами, ориентированная на глубокие рассуждения; в ней задействовано 17B активных параметров из 594B общей архитектуры. Модель пригодна для задач, где критичны логический вывод и объединение текстовых и иных входов. Через BotHub вы получаете доступ из России без VPN и зарубежной карты, с оплатой в рублях по факту и без сгорания токенов, в едином окне, где можно быстро переключаться между более чем 250 моделями, и через OpenAI-совместимый API для мультимодельных систем. Пересылаемые данные защищаются шифрованием AES-GCM, данные не сохраняются, а для компаний доступны договор, счёт, ЭДО, админ-панель и лимиты. Сценарии применения включают исследовательские эксперименты и прототипирование мультимодальных систем, аналитику сложных кейсов и комбинированных данных, создание ассистентов для поддержки принятия решений, интеграцию в R&D и продуктовые процессы.

Частые вопросы о Inkling 2 Small

Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.

Inkling-2-small — мультизадачная текстовая модель с распознаванием документов и изображений, поддерживающая пошаговые рассуждения и подключение инструментов. Подходит для извлечения информации из документов, ответов на вопросы, суммаризации и анализа визуальных входов в текстовом контексте.

Модель может генерировать очень большие ответы: по техническим данным максимальный объём вывода составляет 943718 токенов. На практике длина полезного текста зависит от задач и токенизации, так что ориентируйтесь на требуемую структуру и качество вывода.

Да. В наших данных указано, что модель умеет рассуждать перед ответом, то есть формировать пошаговые рассуждения и держать промежуточные выводы. Это помогает в решении сложных логических задач и многошаговых инструкций.

Да, inkling-2-small поддерживает вызов функций и структурированный вывод в формате JSON, что удобно для интеграции с приложениями и автоматизированной обработкой. Используйте эту возможность для стандартизированных ответов и передачи структурированных данных.

По данным, модель принимает на вход текст, документы и изображения — эти типы явно поддерживаются. Про приём аудио и видео в предоставленных данных не отмечено, поэтому их поддержка не подтверждена и требует уточнения у провайдера.

В наших данных нет явной информации о языковой специализации или точности на русском языке. Модель обрабатывает текст и рассуждения, но реальную пригодность для ваших задач на русском лучше проверить опытным путём с примерами и оценкой качества.

Служба поддержкиРаботаем с 10:00 до 18:00 по МСК