Вычисление «непрерывной» частотной характеристики в со­ответствующей части области частот. Практически частотная характеристика вычисляется по 256X256 точкам решетки с ис­пользованием БПФ. Вычисление значений частотной характеристики вдоль гра­ниц полос (предполагается, что такие границы имеются, как в случае фильтра нижних частот). Такое вычисление также про­изводится на плотном множестве точек, однако, к сожалению, применить БПФ при этом нельзя. Нахождение локальных максимумов и минимумов функции ошибки в представляющей интерес частотной области, включая границы полос. Эта операция существенно важна для определе­ния очередного множества точек с ограничениями. Следует так­же заметить, что она является, безусловно, наименее определен­ной частью нового алгоритма. Построение различных графиков с выходными данными. Такие графики позволяют следить за ходом реализации алго­ритма от итерации к итерации. Получение данных для очередной задачи линейного про­граммирования и решение этой задачи. Первый этап алгоритма заключается в сохранении соответ­ствующих данных решения последней задачи линейного про­граммирования.

Требуется выбрать новое сокращенное множество точек с ограничениями, такое, чтобы максимальное абсолютное значение ошибки на этом множестве превышало максимальное абсолютное значение ошиб­ки на прежнем сокращенном множестве (подразумевается, что на новом множестве точек с ограничениями найдено оптималь­ное решение). Чтобы начать указанную процедуру, необходимо иметь ис­ходное решение по выбору сокращенного множества точек с ограничениями. Размещение исходных точек с ограничениями не является критичным. Метод определения местоположений то­чек совершенно не отличается от того, был использован для нахождения плотного множества точек с ограничениями. Точки с ограничениями располагаются в узлах прямоугольной решетки с шагом л/КN, причем прини­мается, что в каждом из двух направлений импульсная харак­теристика простирается от —N до N и что К — целочисленная константа. В данном случае константа К выбирается равной двум; однако в других случаях, когда аппроксимация опреде­ляется путем решения только одной задачи линейного програм­мирования, выбираются большие значения этой константы. На границах полос точки с ограничениями размещаются. Как и прежде, точки решетки в переходной полосе не исполь­зуются в качестве точек с ограничениями.

Существует несколько методов проектирования оптимальных одномерных нерекурсивных цифровых фильтров, которые яв­ляются итеративными по своей природе и позволяют найти наилучшую аппроксимацию требуемой частотной характери­стики на интервале, пользуясь при каждой итерации лишь очень небольшим числом точек. Таким свойством обла­дают второй алгоритм Ремеза, алгоритм Хофстеттера и метод Паркса и Макклеллана. К сожалению, ни один из этих методов нельзя непосредственно распространить на двумерный случай. Во всех трех методах в явном или неявном виде выдви­гается требование о том, чтобы функции, используемые в аппро­ксимации, удовлетворяли условию Хаара; в случае проектирова­ния двумерных фильтров это требование невыполнимо. Следует также учесть, что алгоритм Хофстеттера и метод Паркса и Макклеллана основаны на интерполяционной формуле Лагранжа, которую нельзя обобщить на двумерный случай общего вида. Однако если бы удалось разрабо­тать метод решения задачи двумерной аппроксимации, сходный с перечисленными методами, то это позволило бы значительно уменьшить число ограничений в виде равенства при использова­нии линейного программирования за счет увеличения числа промежуточных итераций, ведущих к нахождению действительно наилучшей аппроксимации требуемой частотной характеристики.

Пусть импульсная характеристика фильтра имеет нулевое значение вне области, а импульс­ная и частотная характеристики являются действительными. При таком условии число независимых коэффициентов импульс­ной характеристики или частотных отсчетов, причем точки с ограничениями должны заполнять область. Вообще говоря, для получе­ния наилучшей аппроксимации искомой частотной характери­стики необходимо использовать все эти переменные. Однако с увеличением N число переменных быстро растет, а время, кото­рое требуется для получения решения с помощью линейного программирования, возрастает еще быстрее. Следовательно, це­лесообразно наложить рассмотренные выше ограничения по симметрии, что позволит уменьшить число переменных и тре­буемое число точек с ограничениями. Если принять, то число переменных уменьшается, а область, которую должны заполнить точки с ограничениями, сокращается вдвое. Дополнительное допущение приводит к уменьшению числа переменных и к новому сокращению вдвое площади, запол­няемой точками с ограничениями. Наложение всех этих ограни­чений по симметрии обеспечивает резкое сокращение времени вычислений.