Автоматизоване машинне навчання

Частина з циклу
Машинне навчання та добування даних
Парадигми Кероване навчання Некероване навчання Інтерактивне навчання Пакетне навчання Метанавчання Напівкероване навчання Самокероване навчання Навчання з підкріпленням Навчання на основі правил Квантове машинне навчання
Задачі Класифікація Породжувальна модель Регресія Кластерування Знижування розмірності Оцінювання густини Виявляння аномалій Очищування даних АвтоМН Асоціативні правила Семантичний аналіз Структурове передбачування Конструювання ознак Навчання ознак Навчання ранжуванню Виведення граматик Навчання онтологій Мультимодальне навчання
Кероване навчання (класифікація • регресія) Ансамблі Випадковий ліс Бутстрепова агрегація Підсилювання Градієнтне підсилювання AdaBoost Дерева рішень MARS CART Доречно-векторна машина k-сусідів Лінійна регресія Логістична регресія Лінійний розділювальний аналіз Наївний баєсів класифікатор Перцептрон Підмайстрове навчання Опорно-векторна машина Штучні нейронні мережі
Кластерування BIRCH CURE Ієрархічне k-середніх Нечітке Очікування-максимізація DBSCAN OPTICS Спектральне Зсув середнього
Знижування розмірності Факторний аналіз Метод незалежних компонент Канонічна кореляція Дискримінантний аналіз Метод головних компонент Власний узагальнений розклад Розклад невід'ємних матриць t-розподілене вкладення стохастичної близькості Навчання розріджених словників
Структурове передбачування Графові моделі Баєсова мережа Прихована марковська модель Умовне випадкове поле
Виявляння аномалій RANSAC k-НС Коефіцієнт локального відхилення Відстань Кука Ізоляційний ліс
Штучна нейронна мережа Автокодувальник Когнітивні обчислення Глибоке навчання DeepDream Нейронна мережа прямого поширення Рекурентна нейронна мережа ДКЧП ВРВ МВС Резервуарне обчислення Обмежена машина Больцмана ГЗМ Дифузійна модель Самоорганізаційна карта Згорткова нейронна мережа U-Net Трансформер Зоровий Спайкова нейронна мережа Мемтранзистор Електрохімічна ПДД (ECRAM)
Навчання з підкріпленням Q-навчання SARSA Метод часових різниць Багатоагентне навчання з підкріпленням Гра проти себе
Навчання з людьми Активне навчання (машинне навчання) Краудсорсинг Людина-в-циклі
Діагностування моделей Крива спроможності навчатися
Математичні засади Ядрові машини Компроміс зсуву та дисперсії Ймовірнісно приблизно коректне навчання Мінімізація емпіричного ризику Оккамове навчання Регуляризація LASSO Тихонова Еластично-сіткова Статистичне навчання Теорія Вапника — Червоненкіса Теорія обчислювального навчання
Місця машинного навчання ECML PKDD NeurIPS ICML ICLR IJCAI ML JMLR
Пов'язані статті Глосарій штучного інтелекту Список наборів даних для досліджень з машинного навчання Перелік понять машинного навчання

Автоматизо́ване маши́нне навча́ння (АвтоМН, англ. Automated machine learning, AutoML) — це процес автоматизації задач застосування машинного навчання до практичних задач. АвтоМН охоплює весь конвеєр від сирого набору даних до готової для розгортання моделі машинного навчання. АвтоМН було запропоновано як рішення на основі штучного інтелекту для все більших викликів застосування машинного навчання. Високий рівень автоматизації в АвтоМН дозволяє неекспертам використовувати моделі та методики машинного навчання не вимагаючи від них ставати експертами в машиннім навчанні. Автоматизація процесу застосування машинного навчання від початку до кінця додатково пропонує переваги створення простіших рішень, швидшого створення цих рішень, та моделей, які часто перевершують розроблені власноруч. АвтоМН використовували для порівнювання відносної важливості кожного з чинників у передбачувальній моделі.

Порівняння зі стандартним підходом

У типовім застосуванні машинного навчання, практики мають набір точок даних входу для застосування в тренуванні. Ці сирі дані можуть не бути в такому вигляді, до якого можливо застосовувати всі алгоритми. Щоби зробити ці дані придатними для машинного навчання, експертові може довестися застосувати відповідні методи попередньої обробки даних, конструювання ознак, виділяння ознак та обирання ознак. Після цих кроків практики мусять відтак виконати обирання алгоритму та оптимізацію гіперпараметрів, щоби максимізувати передбачувальну продуктивність своєї моделі. Кожен із цих кроків може виявлятися складним, спричинюючи значні перешкоди для використання машинного навчання.

АвтоМН різко спрощує ці кроки для неекспертів.

Цілі автоматизації

Автоматизоване машинне навчання може націлюватися на різні етапи процесу машинного навчання. Кроки для автоматизації:

• Підготовка та подавання даних (з сирих даних та різних форматів)
  • Виявляння типів стовпців, наприклад, булів, дискретний числовий, неперервний числовий, чи текстовий
  • Виявляння призначення стовпців, наприклад, ціль/мітка, стратифікувальне поле, числова ознака, категорійна текстова ознака, чи вільнотекстова ознака
  • Виявляння задачі, наприклад, бінарної класифікації, регресії, кластерування чи ранжування
• Конструювання ознак
  • Обирання ознак
  • Виділяння ознак
  • Метанавчання та передавальне навчання
  • Виявляння та обробка асиметричності даних та/або пропущених значень
• Обирання моделі
• Оптимізація гіперпараметрів алгоритму навчання, та обозначування (англ. featurization)
• Обирання конвеєра з урахуванням обмежень у часі, пам'яті та складності
• Обирання оцінювальних метрик та процедур затверджування
• Перевірка наявності проблем
  • Виявляння витоків
  • Виявляння помилок у конфігурації
• Аналіз отримуваних результатів
• Створення користувацьких інтерфейсів та унаочнень

Втілення

Відкриті

• auto-sklearn, відкритий інструмент АвтоМН, втілений мовою Python, побудований навколо бібліотеки scikit-learn
• AutoGluon, відкритий інструментарій АвтоМН Amazon, також доступний як шаблон AWS CloudFormation
• TransmogrifAI, наскрізний інструментарій АвтоМН для структурованих даних, написаний мовою Scala, і який працює на Apache Spark
• Neural Network Intelligence (NNI), відкритий інструментарій АвтоМН Microsoft

Комерційні

• Azure ML, хмарна служба Microsoft Azure
• Google Cloud AutoML, рішення АвтоМН на Google Cloud Platform
• AutoAI в IBM Watson Studio для автоматизації підготовки даних, розробки моделей, конструювання ознак, та оптимізації гіперпараметрів
• SDK Oracle Accelerated Data Science (ADS), бібліотека Python, що входить до служби Data Science інфраструктури Oracle Cloud

Див. також

• Пошук нейроархітектури
• Нейроеволюція
• Самоналадовування
• Neural Network Intelligence
• АвтоШІ (англ. AutoAI)
• ModelOps

Література

• Open Source AutoML Tools: AutoGluon, TransmogrifAI, Auto-sklearn, and NNI. Bizety. 16 червня 2020. Архів оригіналу за 2 грудня 2020. Процитовано 15 листопада 2020. (англ.)