Дообучение модели distilbert для классификации новостей

Датасет состоит из коротких новостей семи разных категорий.

Для обучения использовалась модель distilbert/distilbert-base-uncased-finetuned-sst-2-english.
Было проведено 3 эксперимента с разными обучаемыми слоями.

1. Обучался только финальный классификатор.
2. Обучался классификатор и пре-классификатор.
3. Обучалась вся модель.
   

Результаты обучения

Полностью обучаемая модель достигла лучших результатов - 96%.
Распределение предсказаний модели на проверочных данных.

Проверка работы модели на новых данных

Я скопировал несколько новостей из разных источников и проверил как модель предсказывает их.