Модели T-lite от Т-Банк
Привет 👋
Как и рассказывали на Turbo ML Conf - выкладываем наши модели в опенсорс:
Инструктивная: здесь
Базовая: здесь
Наша либа для алаймента: здесь
Комьюнити по всем вопросам: https://t.me/zheltyi_ai
Изначально мы выложились на дропбокс - но там нас быстро порезали по рейт лимитам. Спасибо вам за интерес к модели ❤️
FAQ
Говорили на конфе про расширенный токенизатор, где он?
- Решили не ждать версии с токенизатором и поделиться моделью с до-претреном, потому что она выбивает метрики и уже полезна. Дальше - больше, обязательно поделимся и длинным контекстом и расширенным токенизатором.
Где узнать об обновлениях?
- В телеграмм канале "Желтый AI" - https://t.me/zheltyi_ai
А чем ваша модель отличается от, например, сайги?
- Рекомендуем почитать каротчку модели - там достаточно подробно описан подход к тренировке. Если коротко - то у T-lite есть глубокий допретрен базовой модели на русский язык и чистые датасеты, чего нет у лора-тюнов.
Почему сначала залили на дропбокс, кек?
- Просто не спрашивайте...
Команда AI Центра Т-Банк ❤️