10.1. Полный факторный эксперимент и дробные реплики

Планирование экспериментов, как отмечалось выше в гл. 9, является составной частью процесса имитационного моделирования поведения системы управления. Кроме того, инструментарий методологии планирования экспериментов может быть использован для решения экстремальных задач, описанных в главе 8 в ситуации, когда у исследователя очень мало информации о характере оптимизируемой функции и области ее оптимальных значений.

Как правило, системы, подлежащие оптимизации, оказываются столь сложными, что не поддаются теоретическому изучению и в большинстве случаев экстремальные задачи решаются экспериментально при неполном знании механизма явлений. Теория планирования экспериментов – математическая теория экстремальных экспериментов, позволяющая выбирать оптимальную стратегию исследования при неполном знании процесса.

Существенным является то, что при этом подходе исследователь получает математическую модель процесса. На математическом языке задача формулируется следующим образом:

нужно получить представление о функции отклика ,

где – параметр процесса, подлежащий оптимизации, а- независимые переменные, которые можно варьировать при постановке экспериментов.

Основываясь на априорных сведениях об изучаемом процессе, исследователь выбирает некоторую оптимальную стратегию для управления экспериментом. На каждом этапе исследования выбирается оптимальное расположение точек в пространстве переменных для того, чтобы получить представление о функции отклика. Затем находится направление движения к той области, где условия протекания процесса оптимальны. После ее достижения формируется представление о виде функции отклика в области оптимума. Изложение материала следует 1 и 2 .

В этой части рассмотрены вопросы, связанные с планированием экспериментов методом полного и дробного факторного эксперимента. Детальное изложение этих вопросов необходимо для отчетливого понимания современных методов планирования экстремальных экспериментов. Факторный эксперимент – это первое звено в цепи тех идей, последовательное развитие которых привело к разработке статистических методов математического описания сложных процессов.

Построение полного факторного эксперимента и дробных реплик от него. Допустим, что мы имеем дело с двумя независимыми переменными x₁ и x₂ и каждую из них варьируем на двух уровнях, условно обозначаемых символами +1 и -1. Например, если в каком-то эксперименте варьировать два фактора – температуру и давление – так, чтобы они принимали только значение 80⁰ или 120⁰ и 2 или 3 атм, то опыт, в котором температура была 120⁰, а давление 2 атм, в кодовом обозначении запишется так: x₁=+1, x₂=-1, а кодовое обозначение x₁=-1, x₂=+1 будет указывать на то, что опыт нужно проводить при температуре 80⁰ и давлении 3 атм.

Легко видеть, что все возможные комбинации для двух факторов, варьируемых на двух уровнях, будут исчерпаны, если мы поставим четыре опыта так, как это показано в табл.3. Эта таблица называется матрицей планирования. В первом столбце таблицы приведены значения фиктивной переменной x₀=1; во втором и третьем столбцах – значения переменных x₁ и x₂ (эти два столбца образуют собственно планирование); в четвертом столбце записано значение произведения х₁х₂; наконец, пятый столбец не относится непосредственно к матрице планирования – это вектор значений результатов наблюдений. Первая строка таблицы соответствует первому опыту, в котором обе независимые переменные x₁ и x₂ находятся на нижнем уровне. Во втором опыте первая независимая переменная x₁ находится на верхнем уровне, вторая x₂ - на нижнем, и т.д.

Таблица 3.

Полный факторный эксперимент для двух независимых переменных, варьируемых на двух уровнях (планирование типа 2²)

Пользуясь таким планированием, можно вычислить коэффициенты регрессии неполного квадратного уравнения.

у=b₀+b₁x₁+ b₂x₂+ b₁₂ x₁x₂;

в этом случае число опытов будет равно числу оцениваемых параметров – у нас не останется степеней свободы для проверки нуль-гипотезы об адекватном представлении результатов эксперимента выбранной математической моделью. Если есть основания полагать, что изучаемый процесс в заданном интервале варьирования переменных может быть описан линейной моделью, то можно воспользоваться методом наименьших квадратов для определения трех коэффициентов регрессии b₀,b₁ и b₂ – одна степень свободы останется для проверки гипотезы адекватности.

Перейдем к рассмотрению экспериментов с тремя независимыми переменными х₁, х₂, х₃, варьируемыми также только на двух уровнях. Чтобы исчерпать все возможные комбинации трех факторов, варьируемых на двух уровнях, нужно поставить восемь опытов, планируя эксперимент так, как это показано в табл. 4.

Таблица 4.

Полный факторный эксперимент для двух независимых переменных, варьируемых на двух уровнях (планирование типа 2³)

Здесь введены два дополнительных упрощения в системе обозначений: символы +1 и –1 обозначены просто знаками «+» и «-» и добавлен новый столбец с условными обозначениями строк с помощью малых латинских букв и одной цифры. Буквы a,b,c обозначают, что в соответствующих строчках на уровне +1 был только один из факторов х₁, х₂, х₃; произведение двух букв ab, bc, … обозначает, что в соответствующих строчках на верхних уровнях было два фактора: х₁, х₂, х₃, …; произведение трех букв abc указывает на то, что на верхнем уровне были все три фактора; наконец, символ (1) означает, что все факторы были на нижних уровнях. С помощью такого кодового обозначения матрица планирования, представленная в табл. 2, может быть записана одной строкой:

(1), a, b, ab, c, ac, bc, abc.

Аналогичным образом, матрица планирования для табл.3. запишется строкой:

(1), a, b, ab.

Пользуясь планированием, предоставленным в табл.4, можно определить: свободный член b₀, три коэффициента регрессии при линейных членах b₁, b₂, b₃, три коэффициента при парных произведениях b₁₂, b₁₃, b₂₃, и один коэффициент регрессии при тройном произведении b₁₂₃. Если ограничиться линейным приближением, то останется четыре степени свободы для проверки гипотезы адекватности.

Матрицу планирования для трех независимых переменных получают из планирования для двух переменных, повторив его дважды: один раз при значениях х₃, находящихся на нижнем уровне, второй раз – на верхнем уровне. Если нужно включить в рассмотрение четвертый фактор х₄, то аналогичным образом дважды повторяют планирование для трех переменных: один раз для фактора х₄, находящегося на нижнем уровне, другой раз – на верхнем уровне. В результате получают матрицу планирования, которая будет представлена следующей строкой:

(1), a, b, ab, c, ac, bc, abc, d, ad, bd, abd, cd, acd, bcd, abcd.

Аналогичным образом могут быть построены планы для сколь угодно большого числа независимых переменных. Легко видеть, что с ростом числа факторов k число опытов растет по показательной функции N=2^k. Планирования, представленные в табл. 3 и 4, обычно называют планированиями типа 2² и 2³ соответственно. При k независимых переменных мы будем иметь дело с полным факторным экспериментом типа 2^k

Если при решении той или иной задачи можно ограничиться линейным приближением, то полный факторный эксперимент типа 2^k также оказывается недостаточно эффективным, особенно при большом k. При линейном росте числа независимых переменных число опытов для полного факторного эксперимента растет по показательной функции, в результате слишком много степеней свободы остается на проверку гипотезы адекватности. Например, при k=2, при линейном приближении, для проверки гипотезы адекватности используется только одна степень свободы, тогда как при k=6 – уже 57 степеней свободы. Правда, при постановке таких больших экспериментов резко снижается ошибка в определении коэффициентов регрессии, так как при факторном планировании все опыты используются для оценки каждого из коэффициентов регрессии. Но это обстоятельство далеко не всегда является достаточным основанием для постановки большого числа опытов. Часто, особенно на первых этапах исследования, бывает нужно получить некоторую, хотя бы и не очень точную, информацию о процессе при минимальной затрате труда на проведение экспериментов. Если можно ограничиться линейным приближением, то число опытов можно резко снизить, используя для планирования так называемые дробные реплики от полного факторного эксперимента1.

Поясним идею дробных реплик на конкретных примерах. Допустим, что нам нужно получить линейное приближение некоторого небольшого участка поверхности отклика при трех независимых переменных. Для решения этой задачи можно ограничиться четырьмя опытами, если в планировании для полного факторного эксперимента типа 2² произведение х₁х₂ приравнять третьему фактору х₃._. Будет получена матрица планирования, представленная в табл. 5.

Таблица 5.

Первая полуреплика от полного факторного эксперимента типа 2³ (планирование типа 2^3-1)

Элементы этой матрицы в точности равны элементам матрицы, представленной в табл. 3. но опыты здесь будут уже ставиться с включением третьего независимого переменного х₃. В первом опыте переменные х₁ и х₂ находятся на нижнем уровне, х₃ – на верхнем; во втором опыте х₁ находится на верхнем уровне, х₂ и х₃ - на нижних уровнях, и т.д. Пользуясь таким планированием, можно оценить свободный член b₀ и три коэффициента регрессии при линейных членах. Если коэффициенты регрессии _ij при парных произведениях не строго равны нулю, то найденные нами коэффициенты регрессии будут оценками для совместных эффектов:

b^’₁₁+₂₃,

b^’₂₂+₁₃,

b^’₃₃+₁₂.

Эти эффекты не могут быть раздельно оценены в планировании, состоящем всего из четырех опытов, так как здесь неразличимы столбцы для линейных членов и парных произведений. Если, например, в дополнение к столбцам, приведенным в табл. 5, мы вычислим еще столбец для произведения х₁х₃, то увидим, что элементы этого столбца в точности равны элементам столбца х₂.

Если после постановки первых четырех опытов у исследователя почему-либо возникнут сомнения в том, что _ij=0, то он может поставить еще четыре опыта, приравняв теперь х₃ к – х₁х₂. Матрица такого планирования приведена в табл.6. Пользуясь этой матрицей, можно оценить совместные эффекты:

b^’’₁₁- ₂₃,

b^’’₂₂- ₁₃,

b^’’₃₃- ₁₂.

Таблица 6.

Вторая полуреплика от полного факторного эксперимента типа 2³ (планирование типа 2^3-1)

Здесь элементы столбцов x₁,x₂,x₃ равны соответственно элементам столбцов x₂x₃, x₁x₃, x₁x₂, взятым с обратным знаком.

Взяв среднее из сумм и разностей для первой и второй системы совместных оценок, мы получим коэффициенты регрессии, которые будут уже оценками для разделенных эффектов (если ограничиться рассмотрением членов до второго порядка включительно).

Например, ,и т.д.

Легко видеть, что, объединив планирования, заданные таблицами 5 и 6, мы получим планирование, представленное таблицей 4. Первые две схемы планирования можно рассматривать как две половины или как две «полуреплики» от полного факторного эксперимента типа 2³. Отсюда понятно, что, реализовав обе полуреплики от полного факторного эксперимента типа 2³, получаем разделенные оценки для линейных эффектов и эффектов взаимодействия. Такие же разделенные эффекты будут получены, если реализовать сразу все восемь опытов для планирования типа 2³.Нужно обратить внимание на то, что разбиение матрицы планирования, представленного таблицей 5, нельзя производить путем механического распределения строк на две группы. В первую полуреплику здесь отбираются строки с нечетным числом латинских букв (это соответствует требованию х₃=х₁х₂ - здесь третья переменная попадает на верхний уровень только в тех строках, где две другие переменные находятся одновременно на верхних или нижних уровнях). Во вторую полуреплику берутся строки с четным числом латинских букв (в соответствии с требованием х₃= - х₁х₂).

Обратимся теперь к задаче с четырьмя независимыми переменными. Здесь можно поступить следующим образом: в планировании 2³, представленном таблицей 4, приравнять тройное взаимодействие х₁х₂х₃ к четвертому фактору x₄, постулируя, что ₁₂₃=0. Мы получим одну из полуреплик от полного факторного эксперимента типа 2⁴. Матрица такого планирования будет задана строкой:

(1), ad, bd, ab, cd, ac, bc, abcd.

Здесь все строки четные. Эта матрица планирования получилась из матрицы планирования 2³:

(1), a, b, ab, c, ac, bc, abc

путем умножения на букву d нечетного сочетания букв (соответственно требованию х₄=х₁х₂х₃, четвертый фактор берется на верхнем уровне только в тех строках, где на верхнем уровне находится или один, или три других фактора). Вторую полуреплику получим, приравняв х₄= - х₁х₂х₃. Матрица планирования этой полуреплики будет задаваться нечетной строкой:

d, a, b, abd, c, acd, bcd, abc

Эта строка получена путем умножения на букву d четных комбинаций букв в исходной матрице планирования. Объединив две полуреплики, мы опять получим матрицу планирования для полного фактора эксперимента. Число четных и нечетных строк в полном факторном эксперименте всегда одинаково. Можно пойти дальше и построить дробные реплики высокой степени дробности. Если, например, нужно изучить влияние семи переменных, то для получения линейного приближения можно ограничиться восемью опытами. Постулируя возможность линейного приближения, мы утверждаем, что все эффекты взаимодействия пренебрежимо малы. Это дает возможность получить дробную реплику из полного факторного эксперимента типа 2³, положив x₄=x₁x₂, x₅=x₁x₃, x₆=x₂x₃, x₇=x₁x₂x₃.

Для обозначения дробных реплик, в которых p линейных эффектов приравнены к эффектам взаимодействия, удобно пользоваться условным обозначением 2^k-p. В последнем примере мы рассмотрели дробную реплику, представляющую собой планирование типа 2^7-4. Полуреплика от полного факторного эксперимента 2⁴ будет записываться как планирование типа 2^4-1. Такой способ записи еще полностью не характеризует свойств реплики. Дробные реплики можно получать, приравнивая основные эффекты различным эффектам взаимодействия. Например, планирование типа 2^4-1 можно получить, приравнивая x₄ к тройному взаимодействию х₁x₂x₃ или к одному из парных взаимодействий x_ix_j. Естественно, что при этом изменится система совместных оценок.

Исследование уравнений регрессии, полученных с помощью полного факторного эксперимента и дробных реплик. Легко видеть, что рассмотренные выше схемы – полный факторный эксперимент и дробные реплики – обладают следующими свойствами:

• x_iux_ju=0, ij; i,j=0,1, …,k, (10.1)

• x_iu=0, i=1,2, …,k, (10.2)

• x_iu=N, i=0,1, …,k, (10.3)

где k – номер последнего столбца в матрице планирования.

Формально полный факторный эксперимент всегда можно рассматривать как некоторое планирование первого порядка, заменяя в матрице планирования произведения независимых переменных новыми переменными. Первое из написанных выше свойств – это свойство ортогональности: скалярное произведение всех вектор-столбцов здесь равно нулю. Второе свойство – это условие симметричного расположения всех независимых переменных относительно центра эксперимента. Наконец, третье свойство – это равенство сумм квадратов элементов для всех столбцов. Из первого условия следует, что матрица коэффициентов нормальных уравнений диагональна. Из третьего условия следует, что все диагональные элементы этой матрицы равны числу наблюдений N, а диагональные элементы обратной матрицы c_ij=1/N.

Для проведения регрессионного анализа мы получаем здесь следующие очень простые формулы:

• b_i=, i=0,1, …, k, (10.4)

• ²=, i=0,1, …, k, (10.5)

• cov=0, ij; i,j=0,1, …,k, (10.6)

• S_R=y²_u - b²_i, f_R=N-k-1. (10.7)

В зависимости от постановки задачи можно различным образом использовать информацию, полученную при определении S_R:

• Если имеет место насыщенное планирование (все эффекты взаимодействия заменены новыми факторами), то f_R=0 и, следовательно, S_R также должно быть равно нулю. В этом случае S_R вычисляют только для проверки правильности вычисления коэффициентов регрессии.

• Если имеет место ненасыщенное планирование и индекс обозначает только число линейных членов, то тогда вычисляют остаточную дисперсию s²_R=S_R/f_R и, пользуясь дисперсионным отношением F= s²_R/ s², проверяют гипотезу адекватности.