Cotype Nano

Cotype‑Nano — это легковесная модель для выполнения задач с минимальными ресурсами. Она оптимизирована для быстрого и эффективного взаимодействия с пользователями, обеспечивая высокую производительность даже в условиях ограниченных ресурсов.

Cotype‑Nano-4bit — это квантизированная версия Cotype Nano, которая быстрее и в три раза меньше оригинальной модели.

Cotype‑Nano‑CPU — модель, оптимизированная под Intel CPU с помощью фреймворка openVINO.

На первом этапе мы определили домены будущего датасета для поддержания разнообразия. Сюда вошли математика, программирование, function-calling, RAG, суммаризация, классификация, а также инструктивные датасеты.

Все датасеты делились на две группы: инструкционные и диалоговые. Первая содержала в себе вопросы и ответы, а вторая соответственно диалоги, состоящие из последовательных вопросов и ответов.