ОПТИМИЗАЦИЯ ГИПЕРПАРАМЕТРОВ АЛГОРИТМОВ МАШИННОГО ОБУЧЕНИЯ ДЛЯ РЕШЕНИЯ ЗАДАЧ КЛАССИФИКАЦИИ ДАННЫХ

Ражков А.Ф., ORCID: 0000-0001-5200-4167, Объединённый институт проблем информатики Национальной академии наук Беларуси, г. Минск, Беларусь, Тимощенко Е.В., ORCID: 0000-0003-1373-5113, канд. физ.-мат. наук, Могилевский государственный университет им. А.А. Кулешова, г. Могилев, Беларусь

ОПТИМИЗАЦИЯ ГИПЕРПАРАМЕТРОВ АЛГОРИТМОВ МАШИННОГО ОБУЧЕНИЯ ДЛЯ РЕШЕНИЯ ЗАДАЧ КЛАССИФИКАЦИИ ДАННЫХ

Аннотация. Рассмотрена программная реализация алгоритма оптимизации решетчатого поиска с перекрёстной проверкой для настройки гиперпараметров алгоритмов, применяемых в машинном обучении для решения задач классификации. На примере прикладной задачи с набором медицинских данных проведено сравнение производительности алгоритмов машинного обучения, настроенных с помощью конфигурации гиперпараметров. Найдены наилучшие значения гиперпараметров распространенных моделей машинного обучения.

Ключевые слова: машинное обучение; классификация данных; оптимизация гиперпараметров; решетчатый поиск; перекрёстная проверка.

 

Razhkov A.F., ORCID: 0000-0001-5200-4167, The United Institute of Informatics Problems of the National Academy of Sciences of Belarus, Minsk, Belarus, Timoschenko E.V., ORCID: 0000-0003-1373-5113, Ph.D., Mogilev State A. Kuleshov University, Mogilev, Belarus

HYPERPARAMETER OPTIMIZATION FOR CLASSIFICATION MACHINE LEARNING ALGORITHMS

Abstract. A software implementation of a grid search optimization algorithm with cross validation for tuning the hyperparameters of algorithms used in machine learning to solve classification problems is considered. Using the example of an applied problem with a set of medical data, we compared the performance of machine learning algorithms tuned using hyperparameter configuration. Found the best hyperparameter values for common machine learning models.

Keywords: hyperparameter optimization; machine learning; data classification; grid search; cross validation.