Google: Gemma 3n 4B (free)

Gemma 3n E4B-it оптимизирована для эффективного выполнения на мобильных и малоресурсных устройствах, таких как телефоны, ноутбуки и планшеты. Она поддерживает мультимодальный ввод, включая текст, визуальные данные и аудио, что позволяет выполнять разнообразные задачи, такие как генерация текста, распознавание речи, перевод и анализ изображений. Используя инновации, такие как кэширование Per-Layer Embedding (PLE) и архитектуру MatFormer, Gemma 3n динамически управляет использованием памяти и вычислительной нагрузкой, выборочно активируя параметры модели, значительно сокращая требования к ресурсам во время выполнения. Эта модель поддерживает широкий лингвистический диапазон (обучена на более чем 140 языках) и имеет гибкое окно контекста в 32K токенов. Gemma 3n может выборочно загружать параметры, оптимизируя память и вычислительную эффективность в зависимости от задачи или возможностей устройства, что делает ее хорошо подходящей для конфиденциальных, автономных приложений и решений ИИ на устройстве. Она предлагает щедрое окно контекста в 8K токенов и максимальный вывод в 4K токенов, и все это бесплатно. Откройте для себя ее возможности на Multi AI уже сегодня!