Inception Labs выпустила Mercury 3 с контекстом до 1 млн токенов

Inception Labs представила Mercury 3 — диффузионную языковую модель для задач, где важны длинный контекст и быстрый отклик. В отличие от обычной авторегрессии, она уточняет несколько позиций текста за один проход, а не генерирует ответ строго по одному токену слева направо.

Модель уже доступна через Inception API Platform, OpenRouter, Baseten и Vercel. Для команд, которые не хотят переписывать интеграции с нуля, важно и то, что API совместим с OpenAI API.

По данным самой компании, Mercury 3 поддерживает до 1 млн токенов контекста, развивает до 1068 токенов/с на GPU NVIDIA и на старте стоит $0,10 за 1 млн входных и $0,35 за 1 млн выходных токенов.

Практический вывод здесь не только в «токенах в секунду»: в реальных агентных сценариях стоит отдельно проверять полную задержку цепочки — с network overhead, tool calls и длинными промптами.