Введение

Эпоксидные композиции применяются в различных областях промышленности – автомобилестроении, аэрокосмической, авиационной, судостроительной, энергетической – в качестве связующих для полимерных композиционных материалов [1–5].

Разработка нового состава эпоксидной композиции с определенными свойствами – сложная комплексная задача ввиду большого выбора исходных компонентов и вариантов их сочетания. Упростить этот процесс позволяет применение статистических методов планирования эксперимента, которые позволяют снизить количество экспериментов [6]. Тематика постановки многофакторного эксперимента хорошо изучена и ее теоретические и практические аспекты описаны во многих научно-технических источниках [7, 8]. Для достижения заданных характеристик специалист, разрабатывающий новый состав, при планировании эксперимента основывается на литературных данных, в частности на анализе существующих публикаций, а также на своем профессиональном опыте и интуиции.

В настоящее время одним из направлений уменьшения трудоемкости и повышения эффективности процесса разработки новых составов эпоксидных композиций (как в количественном, так и в качественном плане) является применение методов машинного обучения (Machine Learning), которое можно кратко описать как обучение некоторой модели с прогнозом результатов поставленной задачи [9]. Суть методов и обзор возможностей применения их в различных областях материаловедения представлены в ряде работ [10–13]. Более детальное описание принципов работы методов машинного обучения представлено в специализированной научно-технической литературе [14, 15]. В самом простом случае для эпоксидных композиций задача модели – спрогнозировать температуру стеклования на основе данных о количестве отвердителя. При этом количество отвердителя – признак, а температура стеклования – прогнозируемое свойство (метка). Признак – любое свойство или характеристика данных, которые с помощью модели можно применять для прогнозирования. От точности прогноза модели будет зависеть успешность решения обратной задачи – нахождение состава с максимальной температурой стеклования путем прогнозирования с помощью модели образцов из списка виртуальных составов и дальнейшего экспериментального подтверждения свойств лучшего образца.

В данной статье разобраны подходы к созданию наборов данных на основе результатов экспериментов, необходимых для успешного применения методов машинного обучения при разработке и прогнозировании свойств эпоксидных композиций.

Особенности создания наборов данных

для прогнозирования свойств эпоксидных композиций

Получение экспериментальных данных в области полимерных материалов – это трудоемкий и дорогостоящий процесс, что является одним из основных факторов, препятствующих успешному применению машинного обучения в процессе разработки новых составов, так как от количества и качества данных зависит точность прогнозирования обученной модели. На сайте библиотеки scikit-learn в части количества данных рекомендуется начинать с 50-ти строк [16]. Количество строк данных должно превышать количество признаков как минимум в 10 раз [17]. Важное значение имеет также то, насколько в представленных данных отражены все комбинации признаков, иначе модели плохо работают, если сталкиваются с ранее не встречавшимися комбинациями. Возможным решением проблемы предоставления неполных данных может служить применение алгоритмов ресемплирования к уже существующим выборкам, что позволяет искусственно увеличить объем наблюдений – в частности, применение алгоритма на основе бутстреп-метода (bootstrap) [18]. Одним из подходов в планировании эксперимента для дальнейшего применения машинного обучения может служить создание однородной выборки из разрозненных точек данных: в данном случае могут применяться методы перебора по сетке или план «латинский квадрат» [8].

Еще одним подходом является применение методов активного обучения. В общем случае цель активного обучения – повысить точность прогнозирования модели до максимальных значений при определенных затратах на приобретение дополнительных меток, таких как затраты на изготовление дополнительных экспериментальных образцов и их испытания. Для достижения этой цели требуется проводить тщательный выбор следующего образца, а ключевым моментом в данном случае является анализ уже полученных прогнозов и метрик. Любая система активного обучения состоит из «учителя», который предоставляет результаты экспериментов, и системы запросов, которая решает, каким должен быть следующий эксперимент. Следующий эксперимент выбирают из пула спрогнозированных виртуальных экспериментов (все пространство возможных составов). Данный процесс является итерационным и может быть остановлен, если исчерпан бюджет или точность модели достигла необходимого уровня. Тема активного обучения – довольно обширна и с ее основными аспектами можно ознакомиться в следующих литературных источниках [19, 20].

Байесовская оптимизация (bayesian optimization) – метод машинного обучения, который одновременно поддерживает прогностическую модель для изучения целевой функции и принимает решения о том, как получить новые данные, чтобы уточнить имеющиеся данные о ней, используя байесовскую теорию принятия решений [21]. Для прогностической модели машинного обучения используется гаусcовский процесс, а решение о том, в каком месте функции провести следующие наблюдения, принимается в области оптимизации. Можно считать байесовскую оптимизацию частным случаем активного обучения, с помощью которого решаются задачи оптимизации «черного ящика». Этот метод можно применять в самом начале разработки, когда имеется только несколько результатов экспериментов. Данный процесс также является итерационным, как показано на рис. 1.

Рис. 1. Цикл байесовской оптимизации

Прогнозирование свойств эпоксидных связующих

на основе экспериментальных данных

Специалисты факультета креативной инженерии Китакюсюкского национального технологического колледжа (Япония) совместно со специалистами исследовательской лаборатории химических веществ Toray Industries (Япония) применили методы машинного обучения для разработки эпоксидного связующего [22]. К разрабатываемой композиции предъявляли следующие требования: повышенная температура стеклования Т_g, низкая вязкость и короткая продолжительность отверждения. За экспериментальную основу взяли результаты испытаний более 300 составов эпоксидных связующих. В связи с отсутствием значений всех прогнозируемых характеристик для всех составов данные разделили на три части: для вязкости 88 строк, для температуры стеклования 144 строки, для продолжительности отверждения 128 строк. В целом только для 29 составов определили все три характеристики. Экспериментальные композиции содержали в составе следующие компоненты (в скобках дано количество различных компонентов): смолы (22), активные разбавители (11), спирты (8), отвердители (15), добавки (3). Обучение проводили в два этапа: сначала данные разбили на обучающую и тестовую выборки в соотношении 4:1. Для настройки гиперпараметров моделей проводили 10-кратную перекрестную проверку (Cross-Validation) с использованием фреймворка Optuna [23], в качестве основной метрики выбрали среднюю абсолютную ошибку MAE [10], чтобы избежать сильного влияния выбросов. В дополнение к ней для оценки модели также рассчитывали среднеквадратичную ошибку (RMSE) в качестве вспомогательной метрики. В рамках исследования обучены следующие модели машинного обучения: регрессия частично наименьших квадратов (Partial Least Squares Regression – PLS), метод опорных векторов (Support Vector Regression – SVR), регрессия на основе случайного леса (Random Forest Regression – RF), ридж-регрессия ядра (Kernel Ridge Regression – KRR), а также полносвязная искусственная нейронная сеть (Artificial Neural Network – ANN). Лучшие результаты для вязкости (на тестовых данных было только одно существенное отклонение) и температуры стеклования показала модель KRR с гауссовым ядром, для продолжительности отверждения – модель RF. Данные по метрикам представлены в табл. 1.

Таблица 1

Данные метрик лучших моделей

Второй этап обучения проводили на лучших моделях с подобранными ранее гиперпараметрами: использовали все данные для повышения точности прогнозирования (результаты представлены на диаграммах рассеяния (Scatter plot) на рис. 2) – чем ближе точка к прямой линии, тем лучше прогноз модели. Использование всех данных увеличило качество прогнозирования моделей.

Рис. 2. Диаграммы рассеяния прогнозируемых и экспериментальных данных

Далее определяли пространство всех возможных составов, среди которых осуществляли поиск лучшего состава. Количество проверяемых составов ограничено, во-первых, доступностью компонентов, а во-вторых, выбором ограниченных пределов стехиометрического соотношения смолы и отвердителя: можно предположить, что данные ограничения сделаны исходя из стехиометрии и опыта разработчиков. Количество композиций составило 1 044 288, что позволяет воспользоваться простейшим методом перебора по сетке. Авторы работы [22] полагают, что в случае увеличения количества компонентов метод перебора по сетке будет слишком требователен к вычислительным ресурсам, и необходимо будет прибегнуть к другим методам – например, таким как генетический алгоритм [24]. Из всех прогнозируемых композиций только 42 удовлетворяли требованиям к свойствам, из них выбрали пять для экспериментального подтверждения – верификации. Следует отметить, что соотношения компонентов для выбранных композиций выходят за рамки соотношений для исходных экспериментальных композиций, использованных для обучения моделей. Это указывает на экстраполяционный характер полученных решений, что может снижать достоверность прогнозов и требует последующего экспериментального подтверждения полученных результатов. Однако в результате экспериментальной проверки один состав удовлетворил всем требованиям к связующему с большим отрывом от остальных – результаты исследования представлены в табл. 2.

Таблица 2

Результаты генерации и проверки наиболее удачного состава связующего

В данной работе все компоненты составов закодированы, а полученные характеристики нормализованы, что исключает возможность непосредственного изучения полученных составов связующего. Исследование наглядно демонстрирует потенциал применения методов машинного обучения для поиска наиболее эффективных сочетаний компонентов, обеспечивающих выполнение заданных требований. В дальнейшем разработчики планируют расширить набор применяемых моделей машинного обучения, а также осуществить подбор гиперпараметров при помощи инструментов AutoML (Automated Machine Learning).

Разработчики из Японии применили машинное обучение для разработки клеевого состава, чтобы достичь максимальной прочности клеевого соединения σ_адгез [25]. За основу клея взяты эпоксидные смолы на основе бисфенола А и отвердителя полипропиленгликоля с концевыми аминогруппами (джеффамин). В данной работе использованы смолы с молекулярной массой Mw_E: 370, 1650, 2900, 3800 г/моль и отвердители с Mw_C: 230, 400, 2000, 4000 г/моль; четыре стехиометрических соотношения экспериментальных композиций с компонентами r – от 0,75 до 1,50 (шаг 0,25); четыре температуры отверждения T_отв – от 90 до 210 °С (шаг 40 °С). Получено всего 256 возможных комбинаций. Далее составлены два «греко-латинских» квадрата 4×4 и получены 32 комбинации составов экспериментальных образцов, которые испытаны на прочность клеевого соединения. Около 35 % результатов составили композиции со значениями σ_адгез до 4 МПа, среди которых имелись композиции, не обладающие достаточной технологичностью для изготовления образцов. Максимальное значение составило 31,9 МПа (Mw_E = 370 г/моль; Mw_C = 230 г/моль; r = 1,50; T_отв = 130 °С), среднее значение 10,2 МПа.

В качестве моделей машинного обучения выбраны эластичная сеть (Elastic Net), случайный лес и градиентный бустинг. Обучение проводилось с 32-кратной перекрестной проверкой, использовались метрики MAE, RMSE и R² [10]. Лучший результат показала модель градиентного бустинга, по которой получены следующие значения по метрикам MAE: 3,7 МПа, RMSE: 5,4 МПа и R² = 0,68. Данная модель использована для прогнозирования оставшихся 224 композиций, полученные значения ранжированы по возрастанию. Далее выбраны пять наилучших составов для дальнейшего экспериментального подтверждения и дообучения модели. Эти этапы являются первым циклом активного обучения из трех. После каждого этапа точность модели улучшалась и достигла – MAE: 3,0 МПа, RMSE: 4,0 МПа и R² = 0,85. На третьем этапе наилучший результат, полученный экспериментально, составил 29,0 МПа (прогнозируемый 25,4 МПа) с составом – Mw_E = 370 г/моль, Mw_C = 400 г/моль; r = 1,00; T_отв = 210 °С. Третий этап активного обучения стал последним в связи с тем, что среднее абсолютное отклонение модели MAE составило 3,0 МПа, что сопоставимо с максимальным отклонением в результатах эксперимента, для которого получено значение 3,5 МПа. Далее реализован процесс байесовской оптимизации с уточнением экспериментальных условий: параметр r может изменятся с шагом 0,01; T_отв – с шагом в 1 °С, параметры Mw_E и Mw_C останутся дискретными значениями. При байесовской оптимизации выбрано четыре композиции с присвоением рейтинга, данные композиции проверены экспериментально. Все четыре композиции имели одинаковые значения Mw_E = 370 г/моль, Mw_C = 400 г/моль и отличались значениями r и T_отв. Композиция с самым низким рейтингом показала экстремально высокий результат σ_адгез = 35,8 МПа и значения r = 0,89 и T_отв = 209 °С. Следует отметить, что значение r для данной композиции меньше, чем у первоначальных лучших составов с показателями 1,00–1,50, а также меньше, чем у композиций с более высоким рейтингом: 1,11–1,30. Авторы статьи [25] сделали вывод, что столь высокий показатель σ_адгез связан с нахождением оптимального баланса между прочностью и эластичностью клеевого состава, который, по их мнению, напрямую зависит от значения стехиометрического соотношения компонентов. В статье также довольно подробно проанализированы закономерности, выявленные с помощью модели машинного обучения, и установлено, что они соответствуют закономерностям из научно-технических литературных данных о клеевых соединениях.

Коллектив разработчиков из Германии применил машинное обучение для нахождения составов на основе диглицидилового эфира бисфенола А, отвержденного семью различными аминокислотами в присутствии ускорителя отверждения – замещенной мочевины, с максимально и минимально возможной температурой стеклования Т_g, и обучил модель, способную прогнозировать составы с заданной температурой Т_g [26]_. Первоначальная цель исследования – проведение минимально необходимого количества экспериментов в процессе разработки. Изготовили образцы, в которых каждую аминокислоту взяли в стехиометрическом соотношении со смолой, равном 1:1 (из расчета на активный водород). Для экспериментальных составов случайным образом выбирали процентное соотношение в каждом образце – например, экспериментальный состав мог быть таким: 50 % L-аргинин, 40 % L-цитруллин, 10 % гаммааминомасляная кислота (ГАМК), что в сумме составляло 100 %. Образцы также могли содержать составы со всеми аминокислотами. В каждый экспериментальный состав добавляли ускоритель DYHARD UR400. Первоначально случайным образом выбрано пять процентных соотношений, изготовлены экспериментальные образцы и определена их температура Т_g. Количество каждого компонента являлось признаком, а температура Т_g – прогнозируемой характеристикой (меткой). Для выбора следующих экспериментальных составов применяли байесовскую оптимизацию и активное обучение. В качестве прогностической модели для байесовской оптимизации использовали гауссовский процесс с ядром Матерна. Модель обучали на первоначальных пяти образцах, затем выполняли прогноз по всем возможным виртуальным экспериментальным составам (10⁶ вариантов). Полученные средние значения и стандартное отклонение использовали в качестве основы для байесовской оптимизации, предлагающей варианты составов, которые проверены экспериментально и показали максимальную и минимальную температуры стеклования (область БО (II) на рис. 3), которая соответствует первой фазе байесовской оптимизации.

Рис. 3. Этапы проведения байесовской оптимизации (БО), совмещенные с этапами активного обучения (АО)

Авторы статьи [26] обращают внимание на разное поведение стратегии байесовской оптимизации – только эксплуатация для поиска максимальной температуры Т_g и смешанный тип с этапами исследования для поиска минимальной температуры Т_g, благодаря которым улучшается прогнозирующая способность модели. Уже в рамках первой фазы байесовской оптимизации с помощью модели смогли найти температуру Т_g (131 °С) выше, чем у образца на основе L-цитруллинa, который показал самую высокую температуру Т_g (129 °С) среди образцов на основе только одной аминокислоты, что может свидетельствовать о наличии надмолекулярных эффектов, возникающих при использовании смеси аминокислот. Однако нельзя сделать вывод, что найден глобальный максимум функции, так как количество комбинаций составов огромно, а истинная функция неизвестна. Далее следовала фаза активного обучения (область АО (III) на рис. 3), в которой использовали метод выборки неопределенности (uncertainty sampling) [18] – в результате выбраны образцы, показывающие самую высокую неопределенность прогнозов. На каждом этапе активного обучения из обучающего набора данных случайным образом формировали десять подвыборок объемом 70 % от общей выборки (бутстреп-метод). Для каждой из подвыборок активно обучали отдельную модель KRR. Далее модели использовали для прогнозирования температуры T_g по всем 10⁶ виртуальным экспериментам. Применение активного обучения оправдало ожидание разработчиков – на следующем этапе байесовской оптимизации (область БО (IV) на рис. 3) найден состав с более низкой температурой Т_g, состав с более высокой температурой Т_g не обнаружен. Далее проводился этап активного обучения (область АО (V) на рис. 3), включающий экспериментальную проверку восьми составов. На следующем этапе байесовской оптимизации (область БО (VI) на рис. 3) обнаружены составы с высокой (первоначальное значение 131 °С так и не было превышено) и низкой (76 °С) температурой Т_g, что ниже, чем у образца на основе ГАМК, который показал самую низкую температуру Т_g (81 °С) среди образцов на основе только одной аминокислоты. На этом этапе авторы статьи [26] приняли решение, что задача поиска составов выполнена, однако обучение моделей на таком небольшом (29 образцов) и неоднородном наборе данных не привело бы к созданию модели, с помощью которой можно точно прогнозировать составы с необходимой температурой Т_g, поэтому на следующем этапе добавили еще несколько точек данных. Последняя стадия (область (VII) на рис. 3) включала создание образцов, которые по прогнозам попадут в диапазон температур от 80 до 100 °С (так как проведение предыдущих этапов привело к тому, что большинство точек расположены выше 100 °С). Полученные экспериментальные данные подтвердили прогнозы, что можно считать первой проверкой модели.

Далее протестированы следующие регрессионные модели: регрессия на основе гауссовских процессов (Gaussian process regression ‒ GPR) ридж-регрессия ядра (Kernel ridge regression – KRR), K-ближайших соседей (K-nearest neighbors – KNN), градиентный бустинг (Gradient boosting regression – GBR), метод опорных векторов (Support vector regression – SVR), метод наименьших квадратов (Least squares – LS), линейная регрессия с L1-регуляризацией (LASSO), случайный лес (Random forest – RF). Первоначально модели тестировали с гиперпараметрами по умолчанию. Прогнозирующую способность моделей проверяли при помощи k-кратной перекрестной проверки, число k(k ‒ количество частей, на которое разбиваются исходные данные) генерировалось случайным образом и для каждой модели формировалось 200 наборов данных (с различным соотношением обучающей части к тестовой). Параметры k, показавшие лучшие значения метрик, указаны рядом с названиями моделей на рис. 4.

Рис. 4. Сравнение различных моделей обучения по основным метрикам ‒ MAE и коэффициенту детерминации R²

Все модели показали схожие характеристики по средней абсолютной ошибке (MAE) на тестовом наборе для температуры Т_g =2,6–5,4 °С. Среди них наилучшие результаты показали непараметрические модели – GPR и SVR, которые не предполагают конкретной формы базовой функции: они обеспечили наименьшее значение MAE и наивысший коэффициент детерминации (R²) на тестовом наборе данных. Модели GPR, GBR и KNN продемонстрировали переобучение, так как имеют самую большую разницу между значениями MAE на обучающем и тестовом наборах. Исходя из тех же принципов, модель LASSO демонстрирует наименьшее переобучение. Авторами статьи [26] предпринята попытка к уменьшению переобучения с помощью оптимизации гиперпараметров на примере модели KRR: все данные разделили на обучающий, контрольный (Validation Set) и тестовый наборы, что с учетом небольшого количества исходных данных, хотя и показало уменьшение переобучения, однако также продемонстрировало существенную зависимость показателей метрик от используемого обучающего/контрольного набора после проведения 10 различных оптимизаций. По мнению авторов статьи [26], более простым способом уменьшения переобучения может быть увеличение исходного набора данных.

Лучшей моделью для понимания взаимосвязей между компонентным составом и температурой Т_g является модель LASSO с использованием регуляризации L1, которая может обращать весовые коэффициенты в ноль, что упрощает уравнение и тем самым позволяет облегчить интерпретацию результатов. Авторы статьи [26] отмечают как интересный тот факт, что состав с самой высокой температурой Т_g не содержит L-цитруллин, который показал самую высокую температуру Т_g (129 °С). По мнению авторов статьи [26], это весомый аргумент в пользу того, что при проведении экспериментов с многомерными параметрами не следует полагаться исключительно на интуицию.

Одной из возможных причин применения полученных результатов может быть снижение стоимости разрабатываемых композиций, так как прогнозируемые составы демонстрируют схожую температуру Т_g и часть составов содержит относительно более дешевые компоненты. Сравнение стоимости L-цитруллинa с комбинацией аминокислот из состава, показавшего более высокую температуру Т_g, демонстрирует разницу в 33,6 % в пользу применения комбинации аминокислот.

Заключения

Проанализировав представленные в обзоре статьи, можно выделить два подхода разработчиков к применению машинного обучения в экспериментальной работе: первый – на основе существующих данных, второй, подразумевающий создание нового набора данных для обучения моделей. Первый подход может быть реализован в том числе, когда разработчики используют опубликованные данные других исследователей в качестве обучающего набора. Понимание того, что все данные текущих экспериментов могут быть использованы в дальнейшем и что к будущим разрабатываемым составам могут быть предъявлены требования по многим характеристикам, приводит к тому, что исследователям-разработчикам необходимо проводить широкий спектр испытаний с заделом на будущее, особенно если основные временны́е и стоимостные затраты идут на изготовление экспериментального состава. С другой стороны, к временны́м затратам на изготовления образцов для испытаний множества характеристик надо подходить рационально. В контексте обоих подходов особую актуальность приобретает применение методов активного обучения, в частности байесовской оптимизации. Эти подходы позволяют более рационально формировать обучающую выборку путем приоритетного отбора наиболее информативных экспериментов. Такой подход не только снижает общее количество необходимых испытаний, что позволяет существенно сократить временны́е и экономические затраты, но и повысить качество и обобщающую способность итоговой модели.

Таким образом, понимание возможностей машинного обучения позволяет изначально выстроить экспериментальную работу так, чтобы свести к минимуму количество образцов, но при этом добиться максимального уровня свойств, а также получить работающую модель, с помощью которой в будущем можно прогнозировать составы с другими целевыми свойствами, если таковые понадобятся.

Следует отметить, что в рассмотренных в данном обзоре статьях довольно подробно описан каждый этап проделанной работы, что позволит другим исследователям применить полученные знания, что особенно актуально с учетом отсутствия стандартов и методик для проведения подобной работы и общую направленность обучающей литературы в области машинного обучения на работу с большими базами данных.