Google: Gemma 3n 4B

Gemma 3n E4B-it специально разработана для эффективной работы на мобильных и низкоресурсных устройствах, таких как смартфоны, ноутбуки и планшеты. Эта универсальная модель обрабатывает мультимодальный ввод, включая текст, визуальные данные и аудио, что позволяет выполнять широкий спектр задач, таких как генерация текста, распознавание речи, перевод и анализ изображений. Она использует передовые методы, такие как кэширование Per-Layer Embedding (PLE) и архитектуру MatFormer, для динамического управления памятью и вычислительной нагрузкой, значительно снижая требования к ресурсам во время выполнения. Эта модель поддерживает более 140 языков и имеет гибкое контекстное окно в 32K токенов. Gemma 3n может выборочно загружать параметры, оптимизируя память и вычислительную эффективность в зависимости от задачи или возможностей устройства. Это делает ее отличным выбором для конфиденциальных, автономных приложений и ИИ-решений на устройстве. Получите доступ к этой мощной модели БЕСПЛАТНО на Multi AI. Она поддерживает потоковую передачу данных, имеет контекстное окно в 32K токенов и максимальный вывод в 4K токенов. Цены конкурентоспособны: $0.02/0.04 за 1M токенов (ввод/вывод). Лучше всего подходит для чат-приложений, но обратите внимание, что она не поддерживает генерацию изображений.