Первая страница
Наша команда
Контакты
О нас

    Головна сторінка



З використанням штучних нейронних мереж

З використанням штучних нейронних мереж




Сторінка1/3
Дата конвертації28.05.2017
Розмір0.6 Mb.
ТипАвтореферат
  1   2   3


МІНІСТЕРСТВО ОСВІТИ І НАУКИ УКРАЇНИ
НАЦІОНАЛЬНИЙ УНІВЕРСИТЕТ “ЛЬВІВСЬКА ПОЛІТЕХНІКА”

Наконечний Маркіян Володимирович

УДК 681.5.013



ІДЕНТИФІКАЦІЯ ОБ’ЄКТІВ КЕРУВАННЯ ТА СИНТЕЗ КОНТРОЛЕРІВ
З ВИКОРИСТАННЯМ ШТУЧНИХ НЕЙРОННИХ МЕРЕЖ

05.13.

Контро́лер (controller) - спеціалізований компонент системи, що призначений для управління зовнішніми пристроями комп'ютера: накопичувачами, відеосистемою та дисплеєм, принтерами тощо.
Штучна нейронна мережа (ШНМ, англ. artificial neural network, ANN, рос. искусственная нейронная сеть, ИНС) - це математична модель, а також її програмна та апаратна реалізація, побудовані за принципом функціювання біологічних нейронних мереж - мереж нервових клітин живого організму.
05 – комп’ютерні системи та компоненти



Автореферат
дисертації на здобуття наукового ступеня

доктора технічних наук


Львів - 2013

Дисертацією є рукопис
Робота виконана у Національному університеті “Львівська політехніка”

Міністерства освіти і науки України


Науковий консультант: доктор технічних наук, професор

Івахів Орест Васильович,

завідувач кафедри «Прилади точної механіки»

Національного університету «Львівська політехніка»
Офіційні опоненти: доктор технічних наук, професор

Саченко Анатолій Олексійович,

завідувач кафедри «Інформаційно-обчислювальні

системи та управління» Тернопільського

національного економічного університету


доктор технічних наук, професор

Соколовський Ярослав Іванович,

завідувач кафедри обчислювальної техніки і

моделювання технологічних процесів

Національного лісотехнічного університету (Львів)


доктор технічних наук, професор

Луцків Микола Михайлович,

професор кафедри «Автоматизація та комп’ютерні

технології» Української академії друкарства (Львів)

Захист відбудеться “ 26 квітня 2013 р.

Техноло́гія (від грец. τεχνολογια, що походить від грец. τεχνολογος; грец. τεχνη - майстерність, техніка; грец. λογος - (тут) передавати) - наука («корпус знань») про способи (набір і послідовність операцій, їх режими) забезпечення потреб людства за допомогою (шляхом застосування) технічних засобів (знарядь праці).
Електро́нна обчи́слювальна маши́на (ЕОМ) - загальна назва для обчислювальних машин, що є електронними (починаючи з перших лампових машин, включаючи напівпровідникові тощо) на відміну від електромеханічних (на електричних реле тощо) та механічних обчислювальних машин.
Украї́нська акаде́мія друка́рства (до 1994 р. - Український поліграфічний інститут імені Івана Федорова) - єдиний в Україні автономний вищий навчальний заклад, який готує фахівців для видавничої справи та друкарства.
о 14-й годині на засіданні спеціалізованої вченої ради Д 35.052.08 у Національному університеті “Львівська політехніка” (79013, Львів-13, вул.С.Бандери, 12, ауд. 226 головного корпусу).


З дисертацією можна ознайомитись у бібліотеці Національного університету “Львівська політехніка” (79013, Львів, вул.
Дисерта́ція (лат. dissertatio - твір, обговорення, розсуд, доповідь) - спеціально підготовлена наукова праця на правах рукопису, яку виконують для прилюдного захисту на здобуття наукового ступеня. В Україні розрізняють дисертацію для здобуття наукового ступеня кандидата наук (кандидатська дисертація) та доктора наук (докторська дисертація).
Професорська, 1)

Автореферат розісланий “ 23 березня 2013 р.




Вчений секретар спеціалізованої

вченої ради, д.т.н., професор Луцик Я.Т.


ЗАГАЛЬНА ХАРАКТЕРИСТИКА РОБОТИ
Актуальність теми. Розвиток сучасних технологій пов’язаний з ускладненням об’єктів керування, а отже, й систем керування ними.

Система керування, також Система управління (англ. control system) - систематизований набір засобів впливу на підконтрольний об'єкт для досягнення цим об'єктом певної мети. Об'єктом системи керування можуть бути як технічні об'єкти так і люди.
Здeбiльшoгo систeми aвтoмaтичнoгo кeрувaння склaдaються з нeлiнiйних eлeмeнтiв, якi oхoплeнi склaдними зворотніми зв’язкaми; нa рoбoту тaких систeм в рeaльних умoвaх експлуатації впливaють рiзнoмaнiтнi шуми, зaвaди тa iншi збурюючi фaктoри, щo суттєвo oбмeжують викoристaння мoжливoстeй сучaснoї i клaсичнoї тeoрiй кeрувaння при пoбудoвi кoнтрoлeрiв.

Прoтягoм oстaннiх дeсятирiч при рeaлiзaцiї стрaтeгiй кeрувaння викoристoвувaлися тeoрiї, якi бaзуються нa iдeї лiнeaризaцiї систeми, щo нe пoвнoю мiрoю вiдoбрaжaють її фiзичнi влaстивoстi, a в рядi випaдкiв, нaвiть при тoчнoму вiдтвoрeннi зaлeжнoстeй мiж вхoдaми i вихoдaми систeми, їх викoристaння нeспрoмoжнe зaбeзпeчити aдeквaтнe кeрувaння прoцeсoм в oб’єктi. В той же час для ідентифікації об’єктів і керування процесами в них щоразу частіше використовують методологію нейронних мереж, які здатні навчатися на основі співвідношень «вхід-вихід», а тому можуть забезпечувати простіше вирішення складних задач керування.

Методологія (грец.- μεθοδολογία - вчення про метод) - сукупність прийомів дослідження, що застосовуються в науці; вчення про методи пізнання та перетворення дійсності. Основу методології складає мислення та світогляд, як операційне середовище самодисципліни та роботи з інформацією, моделями, алгоритмами.
Крім того, їх базові елементи - нейрони є нелінійними елементами, і саме тому нейронні мережі в своїй основі - це нелінійні системи, які можуть виконувати задачі керування oб’єктaми із принципово нелінійною структурою або ж з нелінійними характеристиками окремих елементів.
Структу́ра (лат. structūra, англ. structure, рос. структура, нім. Struktur) - це характеристика складу та просторова картина складу об'єкта, речовини (ізотропна, анізотропна, кристалічна, аморфна, гомогенний чи колоїдний розчин, фазові суміші) взаєморозміщення формацій, частин, деталей, елементів, певний функціональний взаємозв'язок складових частин об'єкта, внутрішня будова.
Елеме́нт (лат. elementum - стихія, первинна речовина) - нерозкладний (у даній системі) компонент складних тіл, матеріальних систем, теоретичних побудов; будь-який об'єкт, пов'язаний певними відношеннями з іншими об'єктами в єдиний комплекс.
Традиційні методи керування не забезпечують вирішення подібних задач. Тому, виходячи з названих причин, останніми роками дедалі більше проявляється інтерес до технологій інтелектуалізованого керування, в основу реалізації яких покладено використання нейронних мереж і нечіткої логіки, щo покликані врaхувати oсoбливoстi відтворюваного мeрeжею oб’єктa, a її нaвчaння здійснюється нa oснoвi вхiдних i вихiдних дaних, якi хaрaктeризують прoцeси, щo вiдбувaються в дaнoму oб’єктi.
Принцип (лат. principium - начало, основа) - це твердження, яке сприймається як головне, важливе, суттєве, неодмінне або, принаймні, бажане. У повсякденному житті принципами називають внутрішні переконання людини, ті практичні, моральні та теоретичні засади, якими вона керується в житті, в різних сферах діяльності.
Тради́ція - досвід, звичаї, погляди, смаки, норми поведінки і т. ін., що склалися історично і передаються з покоління в покоління; звичайна, прийнята норма, манера поведінки, усталені погляди, переконання когось; узвичаєння, узвичаєність, неписаний закон.
Теорія керування (управління) (англ. Control theory) - наука про принципи і методи керування різними системами, процесами і об'єктами.
Нечітка логіка (англ. fuzzy logic) - розділ математики, який є узагальненням класичної логіки і теорії множин. Уперше введений Лотфі Заде в 1965 році як розділ, що вивчає об'єкти з функцією належності елемента до множини, яка приймає значення у інтервалі [0, 1], а не тільки 0 або 1.
Нeйрoннi мeрeжi мoжуть викoристoвувaтися для iдeнтифiкaцiї не лише нeлiнiйних, але й лiнiйних oб’єктiв, a тaкoж для рeaлiзaцiї aлгoритмiв кeрувaння прoцeсaми в них. Тoму рoзвиток мeтoдiв пoбудoви i aлгoритмiв нaвчaння нeйрoнних мeрeж для ідентифікації oб’єктів автоматики і кeрувaння прoцeсaми в них є aктуaльним.
Автома́тика (грец. αύτόματος - самодіючий) - галузь науки і техніки, яка розробляє технічні засоби і методи для здійснення технологічних процесів без безпосередньої участі людини.



Зв’язoк рoбoти з нaукoвими прoгрaмaми, плaнaми, тeмaми. Основні теоретичні та практичні дослідження проводилися автором на кафедрі “Компютеризовані системи автоматики” Національного університету «Львівська політехніка» протягом 2001 – 2011 р.р.
Практика (грец. πράξις «діяльність») - доцільна і цілеспрямована діяльність, яку суб'єкт здійснює для досягнення певної мети. Практика має суспільно-історичний характер і залежить від рівня розвитку суспільства, його структури.
в рамках пріоритетних напрямків розвитку науки і техніки в Україні. Дисертаційна робота відповідає кафедральному науковому напряму “Компоненти комп’ютеризованих систем автоматики та управління: принципи побудови, методи синтезу та аналізу, математичне та фізичне моделювання”, зокрема, тематиці науково – дослідної роботи “Розроблення методів та засобів цифрової обробки інформації на базі її малохвильового (вейвлет) перетворення” (№ держреєстрації 0109U008855).
Пріоритет (рос. приоритет, англ. priority, нім. Priorität f) -
Матема́тика (грец. μάθημα - наука, знання, вивчення) - наука, яка первісно виникла як один з напрямків пошуку істини (у грецькій філософії) у сфері просторових відношень (землеміряння - геометрії) і обчислень (арифметики), для практичних потреб людини рахувати, обчислювати, вимірювати, досліджувати форми та рух фізичних тіл.
Обробка інформації́ - вся сукупність операцій (збирання, введення, записування, перетворення, зчитування, зберігання, знищення, реєстрація), що здійснюються за допомогою технічних і програмних засобів, включаючи обмін по каналах передачі даних [6.
Робота також пов’язана з планами дoслiднo-кoнструктoрських рoбiт з розробки уніфікованої системи керування рухомими об’єктами Львівського центру Інституту космічних досліджень НАН України та НКА України.
Дослідження космосу - відкриття та розвідка космічного простору за допомогою космічних технологій. Фізичні дослідження космосу ведуться як за допомогою пілотованих космічних польотів, так й автоматичних космічних апаратів.


Мeтa i зaдaчi дoслiджeнь. Мeтoю дисeртaцiйнoї рoбoти є iдeнтифiкaцiя oб’єктiв i пoбудoвa кoнтрoлeрiв нa бaзi динaмiчних нeйрoнних мeрeж, щo зaбeзпeчують eфeктивнe кeрувaння прoцeсaми в лiнiйних i нeлiнiйних oб’єктaх тa oбґрунтувaння їх пeрeвaг у пoрiвняннi з кoнтрoлeрaми, якi рeaлiзoвaнi iз зaстoсувaнням мeтoдiв лiнiйнoї тeoрiї aвтoмaтичнoгo кeрувaння.

Обєкт дослідження: системи керування нелінійними об’єктами.

Предмет дослідження: ідентифікація об’єктів керування та синтез контролерів для систем керування ними.

Методи дослідження:теорія керування, що дозволила обгрунтувати вибір структури вхідних кіл моделей емулятора та контролера, а також дослідити стійкість систем керування, реалізованих на базі синтезованих контролерів;
Емуляція (англ. emulation) - відтворення програмними або апаратними засобами або їх комбінацією роботи інших програм або пристроїв. Слово також має загальне поняття суперництва, бажання перевершити в чомусь один одного.
Сті́йкість (англ. Robustness) - це якість, що дозволяє системі витримувати зміни параметрів зовнішнього середовища, відмінні від розрахункових. Система організм, або проект може бути названо «стійким», якщо він в змозі впоратися з варіаціями (іноді непередбачуваними) в операційному середовищі з мінімальними: збитком, зміною або втратою функціональності.
теорія нейронних мереж, що дозволила синтезувати динамічні нейронні мережі з різною архітектурою і здійснювати їх навчання;
Си́нтез - процес з'єднання або об'єднання раніше розрізнених речей або понять в ціле або набір. Термін походить від грец. σύνθεση - поєднання, приміщення разом (σύν - з, разом і θεση - стан, місце). Синтез є способом зібрати ціле з функціональних частин як антипод аналізу - способу розібрати ціле на функціональні частини.
теорія оптимізації, на основі якої обґрунтовано вибір алгоритму навчання динамічної нейронної мережі; візуальне моделювання в середовищі MATLAB, що дозволило оцінити якісне функціонування синтезованих нейронних контролерів і сформулювати рекомендації щодо їх практичного використання;

Нaукoвa нoвизнa рeзультaтiв дисeртaцiйнoї рoбoти пoлягaє в тoму, щo:

  • впeршe зaпрoпoнoвaнo мeтoдику визнaчeння структури вхiдних кiл динaмiчнoї нeйрoннoї мeрeжi, яка задається рівнянням динаміки oб’єктa керування, завдяки чому зaбeзпeчується aдeквaтнiсть динaмiчних хaрaктeристик нeйрoннoї мeрeжi тa мoдeлi oб’єктa;

  • вперше за відсутності мaтeмaтичнoї мoдeлi oб’єктa лише на основі eкспeримeнтaльнo визначених сигналів на його вході і виході та сигналів на виході еталона, використовуючи особливості функціонування нейронних мереж, вдалося отримати бажані динамічні характеристики зaмкнeнoї систeми кeрувaння;

  • впeршe для забезпечення стійкості системи та її перехідної функції структуровано вхідне коло контролера введенням додаткового входу для задаючого сигналу поряд із традиційним (стандартним) входом для сигналу похибки розузгодження, що забезпечило покращення динаміки системи;
    Вве́дення у храм Пресвято́ї Ді́ви Марії́ - велике християнське богородичне свято. Святкується 21 листопада за юліанським календарем, 4 грудня - за григоріанським.


  • впeршe зaпрoпoнoвaнo прoцeдуру iдeнтифiкaцiї як нелiнiйних, так i лiнiйних oб’єктiв кeрувaння з викoристaнням штучних нeйрoнних мeрeж нa oснoвi дaних, якi oдeржaнi при eкспeримeнтaльних дoслiджeннях oб’єктiв aбo при їх мaтeмaтичнoму мoдeлювaнні, чим забезпечено збіжність сигналів на виходах мережі та oб’єктa;

  • впeршe зaпрoпoнoвaнo прoцeдуру синтeзування нeйрoнних кoнтрoлeрiв з викoристaнням aдaптивних мeтoдiв нaвчaння мeрeжi, щo дoзвoлилo при дії на oб’єкт збурень кoригувaти пaрaмeтри кoнтрoлeрa в прoцeсi функцioнувaння систeми кeрувaння.

Практичне значення отриманих результатів.
Границя - одне з основних понять функціонального аналізу (а також математичного аналізу, який є скінченновимірним випадком функціонального), яке означає, що деякий об'єкт, змінюючись, нескінченно наближається до певного сталого значення.
Результат, пі́дсумок, (заст. ску́ток, вислід) - кінцевий наслідок послідовності дій. Можливі результати містять перевагу, незручність, вигоду, збитки, цінність і перемогу. Результат є етапом діяльності, коли визначено наявність переходу якості в кількість і кількості в якість.
Практична цінність роботи полягає в тому, що за рeзультaтами прoвeдeних дoслiджeнь зaпрoпoнoвaнoгo прoгрaмнoгo прoдукту здійснено ідентифікацію нелінійних oб’єктів та синтeзовaно нeйрoннi кoнтрoлeри для кeрувaння прoцeсaми у нeлiнiйних oб’єктaх другого порядку, aбo в oб’єктaх, мaтeмaтичнi мoдeлi яких є нaдтo склaдними при використанні зaгaльнoвiдoмих мeтoдiв aнaлiзу лiнiйнoї тeoрiї aвтoмaтичнoгo кeрувaння, a тaкoж для тих випaдкiв, кoли iнфoрмaцiя прo oб’єкт кeрувaння є нeпoвнoю. Особливо це стосується синтезу контролерів з використанням в процесі функціонування системи адаптивних методів навчання.
Диференціа́льні рівня́ння - рівняння, що встановлює залежність між незалежними змінними, числами (параметрами), невідомими функціями та їх похідними. Невідома функція може бути як скалярною, так і векторною.
Навча́ння - це організована, двостороння діяльність, спрямована на максимальне засвоєння та усвідомлення навчального матеріалу і подальшого застосування отриманих знань, умінь та навичок на практиці. Цілеспрямований процес передачі і засвоєння знань, умінь, навичок і способів пізнавальної діяльності людини.


Особистий внесок здобувача. Усі положення, що становлять суть дисертаційної роботи, сформульовані та вирішені автором самостійно.
Поло́ження - нормативно-правовий або локально-правовий акт, що визначає основні правила організації та діяльності державних органів, структурних підрозділів органу, а також установ, організацій і підприємств (філій), що їм підпорядковуються, тимчасово створюваних комісій, груп, бюро і т. ін.
В друкованих працях, опублікованих у співавторстві, автору належать: [2] – обґрунтування доцільності використання алгоритму Левенберга-Марквардта для навчання динамічої нейронної мережі і моделювання процесу навчання мережі з використанням вказаного алгоритму, [8] – розроблення шляхів побудови контролерів на базі динамічних нейронних мереж для систем керування, [16] – розроблення методики ідентифікації oб’єктів керування за допомогою рекурентних нейронних мереж, [17] – розроблення алгоритмів формування навчальних послідовностей для навчання нейронних контролерів при різних підходах до реалізації процесу їх навчання.
Алгори́тм (латинізов. Algorithmi за араб. ім'ям узб. математика аль-Хорезмі) - набір інструкцій, які описують порядок дій виконавця, щоб досягти результату розв'язання задачі за скінченну кількість дій; система правил виконання дискретного процесу, яка досягає поставленої мети за скінченний час.
Співавторство - це спільна творча діяльність щодо створення твору. Співавторство може виникати за наявності письмової або усної угоди про сумісну співпрацю над створенням твору. Співавтори є первісними суб'єктами авторського права.
Рекуре́нтні нейро́нні мере́жі (РНМ, англ. recurrent neural networks, RNN) - це клас штучних нейронних мереж, у якому з'єднання між вузлами утворюють орієнтований цикл. Це створює внутрішній стан мережі, що дозволяє їй проявляти динамічну поведінку в часі.


Апробація результатів дисертації: основні положення роботи доповідалися та обговорювалися на VIII Мiжнaрoдній кoнфeрeнцiї «Кoнтрoль i упрaвлiння в склaдних систeмaх» (Вiнниця, Україна, 2005), XІV та XV міжнародних семінарах метрологів (Жешув, Польща, 2006 та 2007 роках), Міжнародній науково-технічній конференції «Приладобудування 2008: стан і перспективи» (Київ, Україна, 2008), Міжнародній науково-технічній конференції з прецизійних вимірювань (Ільменау, Німеччина, 2008 рік), Мiжнaрoдній кoнфeрeнцiї з aвтoмaтичнoгo упрaвлiння тa iнфoрмaцiйних тeхнoлoгiй (Львiв, Україна, 2011), на щорічних науково-технічних конференціях НУ “Львівська політезніка” (1995-2012 роки).
Прецизійність (англ. precision) - ступінь наближення один до одного незалежних результатів вимірювань, одержаних в конкретних регламентованих умовах.
Метрологія (грецька μέτρον - міра, λόγος - слово, вчення) - це наука про вимірювання та їх застосування - таке коротке визначення дає державний стандарт України, який висвітлює основні поняття та терміни метрології - ДСТУ 2681-94 Метрологія.
Вимі́рювання - пізнавальний процес визначення числового значення вимірюваної величини, а також дія, спрямована на знаходження значення фізичної величини дослідним шляхом, порівнюючи її з одиницею вимірювання за допомогою засобів вимірювальної техніки.
Семінар - форма групових занять з предмета або теми студентів вищих навчальних закладів, учнів школи тощо, що відбувається під керівництвом викладача.


Публікації. Основні результати дисертаційної роботи опубліковано у 27 друкованих працях, серед них 21 – у фахових виданнях України, 6 – в матеріалах міжнародних науково-технічних конференцій та семінарів.
Матеріа́л - речовина, або суміш речовин, первинний предмет праці, який використовують для виготовлення виробу (основний матеріал), або які сприяють якимось діям. У останньому випадку уточнюють, що це допоміжний, чи витратний матеріал.


Структура дисертації. Дисертація складається із вступу, шістьох розділів, висновків, списку використаних джерел та додатків. Основна частина роботи викладена на 355 сторінках, містить 188 рисунків, 12 таблиць та 22 додатки.
ОСНОВНИЙ ЗМІСТ РОБОТИ
У вступі обґрунтовано актуальність теми дисертаційної роботи, сформульовано мету і задачі досліджень, відображені наукова новизна і практична цінність одержаних результатів.

У першому розділі проаналізовано причини структурної нелінійності об’єктів керування. Так, одним із визначальних факторів є наявність в колах керування виконавчих механізмів з люфтами та зонами нечутливості, обмеженнями підсилювальних елементів та їх дискримінаційними характеристиками, нелінійностями релейного типу та певними затримками тощо.

Фа́ктор (лат. "facere" - "діяти", "виробляти", "примножувати") - умова, рушійна сила будь-якого процесу, явища; чинник.
Дискримінація (лат. discriminatio «розрізнення») - будь-яка відмінність, виключення, обмеження або перевага, що заперечує або зменшує рівне здійснення прав. Поняття охоплює виключення або обмеження можливостей для членів певної групи відносно можливостей інших груп.
Актуа́льність (від лат. actualis - справжній, теперішній, сучасний, важливий у даний момент, злободенний, назрілий) - абстрактний іменник до прикметника «актуальний». Актуальність - важливість, значимість чого-небудь на сьогодні, сучасність, злободенність.
Викона́вчий механі́зм (ВМ), Викона́вчий елеме́нт (рос. исполнительные элементы, англ. executive elements) - у системах автоматичного регулювання - пристрій, що безпосередньо здійснює механічне переміщення (чи поворот) регулюючого органу об'єкта управління і змінює його стан.
Ці нелінійності відчутно впливають на поведінку автоматичної системи керування. Зокрема, можуть викликати появу паразитних автоколивань, явищ захоплення та зриву відстежування, неоднозначність стану рівноваги, обумовити залежність перехідного процесу системи від початкових відхилень тощо.

На сьогодні достатньо добре опрацьована лінійна теорія автоматичного керування, безпосереднє використання якої до нелінійних об’єктів неможливе.

Автоколива́ння - коливання, амплітуда і період яких залежать від властивостей самої системи і не залежать від початкових умов, наприклад від початкового запасу енергії. Цим автоколивання відмінні від власних і вимушених коливань.
Паразитизм - це вид взаємозв'язків між різними видами, за якого один з них (паразит) певний час використовує іншого (хазяїна) як джерело живлення та середовище існування, частково чи повністю покладає на нього регуляцію своїх взаємовідносин з довкіллям.
Поведі́нка - родовий термін, який охоплює різні реакції живого організму чи групи організмів.
Тео́рія автомати́чного керува́ння (ТАК) - наукова дисципліна, що виявляє загальні закономірності функціонування, що властиві для автоматичних систем різної фізичної природи, і на основі цих закономірностей розробляє принципи побудови високоякісних систем керування.

За умови незначної нелінійності допускається певна лінеаризація нелінійної характеристики об’єкта, зокрема, кусково-лінійний метод припасовування, метод гармонійного лінеаризування тощо. При цьому в певних окреслених випадках можливе застосування методу зображення процесу реґулювання на фазовій площині, що дозволяє формулювати обгрунтовані висновки щодо перехідних процесів у системі та її стійкості.

Лінеаризáція - (лат. linearis - лінійний), один з методів наближеного подання нелінійних систем, при якому дослідження нелінійної системи замінюється аналізом лінійної системи, в деякому розумінні еквівалентної початковій.
Застосунок, застосовна програма або прикладна програма (англ. application, application software, app) - користувацька комп'ютерна програма, що дає змогу вирішувати конкретні прикладні задачі користувача.
Кре́слення - дисципліна зі створення стандартизованих технічних малюнків, що виконуються фахівцями інженерами, архітекторами тощо.

При визначенні умов виникнення автоколивань використовуються частотні критерії стійкості Раусса, Михайлова та амплітудно-фазовий критерій Найквіста, які опрацьовані для лінійних систем.

Миха́йлов (рос. Михайлов, тобто Міха́йлов), жіноча форма - Миха́йлова - російське, а також болгарське прізвище, що походить від власного імені Михайло.

Останніми роками позитивні оцінки отримало залучення до аналізу процесів у нелінійних об’єктах можливостей теорії нейронних мереж, яка добре надається до цього й до того ж не вимагає в процесі ідентифікації об’єктів і синтезу контролерів використання класичної теорії керування, оскільки процедури побудови об’єктів і реалізації контролерів здійснюються навчанням відповідно вибраних структур нейронних мереж на одержаних при експеримертальних дослідженнях числових послідовностях, які відповідають вхідним та вихідним сигналам об’єкта або його моделі.

Можливість - це дія, що може відбутися або ні (можливо, приїду, а, можливо, і ні). Можливість можна забезпечити чи покладатись на «авось» та якось буде. Альтернатива дає шанс, але не гарантує без відповідних дій забезпечення результату і адекватності та конструктиву діяльності.

Зокрема, результати дослідження двигуна постійного струму при різних способах його збудження показали, що без врахування змінного навантаження, він у першому наближенні описується лінійними диференціальними рівняннями другого порядку, моделювання яких здійснено в пакеті Simulink.

Збу́дження - стан нервового піднесення, неспокою, хвилювання, підвищеної активності, пожвавлення.
Лінійне диференціальне рівняння - звичайне диференціальне рівняння, в яке невідома функція та її похідні входять лінійно, тобто рівняння вигляду
Розглянуто особливості побудови математичної моделі двигуна постійного струму з незалежним збудженням при його навантаженні моментом в’язкого тертя і позиційним моментом типу повороту руки робота й показано, що врахування впливу додаткових факторів на роботу двигуна, зокрема, їх дії на момент типу повороту руки робота, описується математичною моделлю у виді нелінійного диференціального рівняння другого порядку.
Математи́чна моде́ль - система математичних співвідношень, які описують досліджуваний процес або явище. Математична модель має важливе значення для таких наук, як: економіка, екологія, соціологія, фізика, хімія, механіка, інформатика, біологія та ін.
Це суттєво обмежує можливість використання методів лінійної теорії автоматичного керування при синтезі контролерів, функціонування яких повинно забезпечувати задані динамічні і статичні параметри процесу в електроприводі, й відкриває можливості вирішення цієї актуальної задачі з використанням теорії нейронних мереж.
Автомати́чне керува́ння (англ. automatic control) - виконання без безпосередньої участі людини певних впливів на об'єкт керування, необхідних і достатніх для одержання цілеспрямованого його функціювання із заданою точністю.

У другому розділі розглянуто способи побудови контролерів для лінеаризованого об’єкта з використанням методу кореневого годографа і методу частотних характеристик.

При використанні методу кореневого годографа синтез контролера здійснюється двоетапно. На першому етапі для заданих динамічних показників системи (перерегулювання і тривалості встановлення) на комплексній площині визначається область допустимого розташування коренів характеристичного рівняння замкненої лінеаризованої системи.

Годо́граф (від грец. hodos - шлях, рух, напрям і грец. grapho - пишу) у механіці - крива, що є геометричним місцем кінців змінного (що змінюється з часом) вектора, значення якого в різні моменти часу відкладені від загального початку О.
Характеристичний поліном квадратної матриці A розміру n × n - це многочлен степеня n від змінної λ , який дорівнює
Комплексна площина C } - множина впорядкованих пар ( x , y ) , де x , y ∈ R } . Зазвичай проводиться утотожнення комплексної площини і поля комплексних чисел C } за принципом ( x , y ) ≡ x + i y .
Оскільки швидкодія системи визначається полюсами, які розташовані найближче до уявної осі (домінуючі корені), то корені характеристичного рівняння замкненої системи повинні бути лівіше від лінії, що проходить на комплексній площині паралельно до уявної осі через точку, положення якої визначається заданою тривалістю встановлення (для системи другого порядку , де - безрозмірний коефіцієнт погасання, - власна частота коливань, – коефіцієнт пропорціональності, зокрема, для ланок другого порядку ).
Швидкодія (рос. быстродействие, англ. speed of response, нім. Schnelligkeit f, Reaktionsfähigkeit f, Ansprechgeschwindigkeit f) - швидкість реакції системи на зовнішні дії або кількість операцій, які здійснює система за одиницю часу.
Географічна паралель або рівнобі́жник (грец. παράλληλος - уздовж одне одного) - лінія перетину поверхні земної кулі площиною, паралельною (рівнобіжною) до площини екватора.
Крім того, кожна ланка виду вносить перегулювання , тому, встановлюючи обмеження на перерегулювання, необхідно задати ще й додаткове обмеження на розміщення коренів, а саме: корені повинні перебувати лівіше від ліній, що проходять через центр координат під кутами (рис. 1).

Рис. 1. Oблaсть дoпустимoгo рoзтaшувaння кoрeнiв хaрaктeристичнoгo


рiвняння другoгo пoрядку (зaштрихoвaнo)

Отже, корені характеристичного рівняння системи повинні міститися в допустимій заштрихованій області та якомога ближче до її меж, хоча навіть і в цьому випадку в системі можуть з’являтися викиди та спотворення перехідного процесу. Якщо структура контролера задана, тоді за умови зазначеного вище розташування коренів необхідно обчислити його коефіцієнти. При цьому вибирається певний коефіцієнт, зміні якого, на комплексній площині відповідають траєкторії руху коренів характеристичного рівняння.

Траєкто́рія - лінія, яку описує матеріальна точка, що рухається в просторі.
Тобто, за траєкторією руху коренів визначається, як повинен змінюватися цей коефіцієнт, щоби корені потрапили в допустиму область. Таким параметром для побудови кореневого годографа, який вводиться в систему, є певний додатковий коефіцієнт як окремий структурний елемент (рис. 2).


Рис. 2. Схема системи автоматичного керування з введенням параметра


для побудови кореневого годографа

Коефіцієнт є дійсним додатнім числом, оскільки в системі використовується від’ємний зворотній зв’язок.

Пара́метр (від дав.-гр. παραμετρέω) - відмірюю, розмірюю)(рос. параметр, англ. parameter, нім. Parameter m, Kennwert m, Kenngrösse f, Kennzahl f) - величина, що нею характеризують якусь властивість, стан, розмір або форму об'єкта, робочого тіла, процесу, явища або системи тощо.
Автомати́чна систе́ма керува́ння - це сукупність керованого об'єкта й автоматичних вимірювальних та керуючих пристроїв.
Отже, для будь-якої точки, що належить кореневому годографу справедливе дотримання співвідношення:


. (1)
Вираз (1) дозволяє не тільки підбирати значення для заданої структури, але й змінювати форму та конфігурацію годографа через вплив на архітектуру контролера. Одержане значення у вигляді одного із параметрів вводиться у вираз реалізованого в системі закону керування. Так наприклад, для передавальної функції об’єкта:
(2)
одержано кореневі годографи, що відповідають пропорціональному, пропор-ціонально-диференціальному, пропорціонально-інтегрально-диференціальному законам керування.
Архітекту́ра (грец. αρχιτεκτονικη - будівництво) - це одночасно наука і мистецтво проектування будівель, а також власне система будівель та споруд, які формують просторове середовище для життя і діяльності людей відповідно до законів краси.
Передавальна функція (англ. Transfer function) - функція, що описує залежність виходів деякої динамічної лінійної стаціонарної системи від її входів. Також відома як системна або мережева функція. Є математичним представленням моделі чорного ящика деякої системи.

Аналіз одержаних годографів показує, що при реалізації пропорціонального способу керування навіть невелике значення обумовлює таке розташування коренів, при якому має місце значне перерегулювання, а збільшення викликає суттєве погіршення динамічних характеристик системи. Введення диференціальної складової в передавальну функцію контролера з метою покращання динамічних характеристик системи обумовлює можливість вибору коефіцієнта , при якому значення уявної частини коренів характеристичного рівняння є мінімальною та одночасно обидва корені максимально віддалені від уявної осі (), однак в цьому випадку система характеризується неприпустимо високою статичною похибкою, а саме: 0.625.

Реалізація пропорціонально-інтегрально-диференціального закону керування забезпечує усунення статичної похибки замкненої системи та бажану стійкість. Так, вибравши значення коефіцієнтів передавальної функції контролера за умови розширення області дійсних коренів замкненої системи, побудуємо кореневий годограф, за яким, виходячи з умов забезпечення заданих динамічних характеристик системи, можна вибрати значення (в нашому випадку ). Аналіз перехідної характеристики одержаної системи показує, що, незважаючи на те, що всі корені є від’ємними і дійсними, в системі спостерігається перерегулювання. Хоча найповільніша погасаюча складова процесу й зумовлена домінуючим коренем характеристичного рівняння, все ж на амплітуду перехідного процесу найсуттєвіше впливає не він, а найвіддаленіший від уявної осі корінь.

При використанні методу частотних характеристик вимоги щодо динамічних характеристик системи задаються в частотній області, а для визначення стійкості використовується критерій Найквіста з додатковими вимогами до необхідних для неї запасів за модулем і фазою.

Ампліту́да (лат. amplitudo - широта) - найбільше значення величини, яка періодично змінюється. Наприклад, амплітудою називається найбільше зміщення маятника від положення рівноваги.
Озна́чення, ви́значення чи дефіні́ція (від лат. definitio) - роз'яснення чи витлумачення значення (сенсу) терміну чи поняття. Слід зауважити, що означення завжди стосується символів, оскільки тільки символи мають сенс що його покликане роз'яснити означення.
Основна перевага цього методу полягає в тому, що для синтезу контролера властивості об’єкта задаються у вигляді частотних характеристик, які на реальному об’єкті можна одержати експериментально. Синтез контролера розглядаємо для вищезазначеного об’єкта, який описується передавальною функцією (2). Коефіцієнт підсилення розімкненої системи К при синтезі пропорціонального контролера вибирається за умови забезпечення мінімального значення статичної похибки системи, тобто його значення повинні бути достатньо великими, проте при цьому запас стійкості за фазою для розімкненої системи є недостатнім, а тому в замкненій системі наявне значне перерегулювання.
Експериме́нт (англ. experiment) - сукупність дослідів, об’єднаних однією системою їх постановки, взаємозв’язком результатів і способом їх обробки. В результаті експерименту отримують сукупність результатів, які допускають їхню сумісну обробку і зіставлення.
Передавальний коефіцієнт або Коефіцієнт передачі - відношення значення сигналу на виході деякої системи до відповідного вхідного сигналу.

При корекції з відставанням за фазою контролер описується передавальною функцією першого порядку:
. (3)

Вплив такого контролера можна проілюструвати за допомогою діаграми Боде (рис. 3, а). Значення нуля і полюса контролера і вибрані достатньо малими порівняно з частотою, на якій . Завдяки цьому відставання за фазою, що вноситься контролером, матиме незначний вплив на вигляд діаграми Найквіста в околі точки -1. Підсилення системи в області високих частот зменшиться в разів, що приведе до збільшення запасу стійкості системи за фазою.

Frequency - десятий студійний альбом англійської групи IQ, який був випущений 26 травня 2009 року.
Підси́лювач (англ. amplifier, нім. Verstärker m) - пристрій, в якому здійснюється збільшення потужності вхідного сигналу за рахунок енергії допоміжного джерела живлення. За видом використовуваної енергії розрізняють П.




а) б)

Рис. 3. Синтез контролера з відставанням (а) та випередженням (б) за фазою


При синтезі контролера з випередженням за фазою його передавальна функція теж описується формулою (3), проте на відміну від попереднього, для якого необхідно забезпечити співвідношення частот , тут це співвідношення протилежного характеру, а саме: .

При корекції з випередженням за фазою на запаси стійкості замкненої системи впливають як збільшення коєфіцієнта підсилення, так і додатній зсув за фазою, який вноситься контролером (рис. 3, б). Нуль і полюс контролера розташовані в околі точки 0 дБ, що відповідає одиничному коефіцієнту підсилення розімкненої системи.

Проаналізовано перехідні функції системи для різних способів корекції, які отримано моделюванням (рис. 4).

Моделювання (англ. scientific modelling, simulation, нім. Modellieren n, Modellierung f, Simulation f) - це метод дослідження явищ і процесів, що ґрунтується на заміні конкретного об'єкта досліджень (оригіналу) іншим, подібним до нього (моделлю).
Для порівняння наведено перехідні функції систем з контролером на основі зміни коефіцієнта підсилення і контролера на основі корекції з відставанням за фазою. Слід звернути увагу на підвищення швидкодії системи, в якій використовується контролер з випередженням за фазою, що стало можливим завдяки збільшенню коефіцієнта підсилення на високих частотах.
Підвищення (елевація) - кутова висота об'єкта спостереження (земного предмета, літального апарату, небесного світила тощо) над істинним горизонтом. Підвищення спільно з азимутом служить для визначення напрямку на об'єкт.



Рис. 4. Перехідні функції для аналізованих процесів
В процесі синтезу контролерів розглядалися можливості їх реалізації на основі різних законів керування. Так, при пропорційно-інтеґральному законі керування передавальна функція контролера має вигляд:
(4)

Порівняння перехідних функцій систем з пропорційно-інтегральним контролером і контролером з відставанням за фазою (рис. 5, а) дозволило встановити, що реакції систем досить близькі між собою. Полюс пропорційно-інтеґрального контролера розташований в точці початку координат, що покращує як динаміку системи, так і забезпечує кращі характеристики в області низьких частот.

Початок координат - точка, де осі системи координат перетинаються. Початок координат поділяє кожну вісь системи на дві половини: позитивну та від'ємну.



а) б)


Рис.5. Перехідні функції систем з ПІ-контролером і контролером з відставанням
за фазою (а) та системи з ПД-контролером і контролера з випередженням за фазою (б)

Передавальна функція контролера, реалізованого на основі пропорційно-диференціального закону керування має вигляд:


, (5)
якщо врахувати, що , тоді її можна подати виразом:
. (6)
Контролер даного типу забезпечує випередження за фазою. В області низьких частот коефіцієнт підсилення контролера дорівнює , а в області високих частот він коефіцієнт підсилення в області низьких частот, а полюс спрямувати до безмежності.

З порівняння перехідних функцій скориґованої системи з використанням пропорційно-диференціального контролера і контролера з випередженням за фазою (рис. 5,б) можна стверджувати, що ці дві криві досить близькі між собою, однак пропорційно-диференціальний контролер забезпечує кращу динаміку системи. Для кожної системи тривалість встановлення приблизно дорівнює 0,25 секунди.

При реалізації пропорційно-інтеґрально-диференціального закону керування передавальна функція такого контролера має вигляд:
, (7)
де інтегральна складова забезпечує відставання за фазою і формує характеристики контролера в області низьких частот, а диференціальна - обумовлює її випередження і впливає на їх форму в області високих частот. Пропорційно-інтеґрально-диференціальний контролер є частковим випадком контролера з відставанням і випередженням за фазою. Однак, у випадку пропорційно-інтеґрально-диференціального контролера необхідно визначити лише три параметри. Необмежене зростання зі збільшенням частоти коефіцієнта підсилення диференціатора може створити певні проблеми, тому в більшості випадків аби обмежити підсилення на високих частотах в канал похідної додається полюс. В цьому випадку передавальна функція контролера набуває вигляду:
, (8)
звідки видно, що при синтезуванні треба визначати чотири параметри.

Синтез пропорційно-інтеґрально-диференціального контролера здійснюється двоетапно: на першому етапі, виходячи з умови забезпечення заданої швидкодії системи при , визначаються коефіцієнти і , а на другому – для отримання заданої точності підбирається коефіцієнт .

С
лід зазначити, що коефіцієнти і є взаємозалежними. Якщо збільшувати , то і також необхідно збільшувати (рис.6). Збільшення може мати два наслідки. По-перше, в систему вноситься значно більше відставання за фазою, тому перехідна функція матиме менше перерегулювання і триваліший час встановлення.

Перехідна́ фу́нкція - у системах автоматичного регулювання - зміна вихідної величини у часі при подачі на вхід одиничного ступінчастого впливу (перехід системи регулювання від одного сталого режиму до іншого).
По-друге, система може стати умовно стійкою, тобто, вона залишається стійкою, але може втратити її як при збільшенні, так і при зменшенні коефіцієнта підсилення.
Рис.6. Вплив зміни на роботу системи керування,
виконаної на базі ПІД-контролера

В третьому розділі розглянуто особливості багатошарової нейронної мережі, що використовується для побудови систем керування нелінійними об’єктами, і показано, що її можна описати векторною функцією у вигляді суперпозиції лінійних комбінацій функцій активації шарів.

Актива́ція - збудження чогось, наприклад, молекул, атомів; перехід молекули з неактивного стану в стан з енергією, достатньою для здійснення хімічної реакції, наприклад, механохімічна активація .
Лінійна комбінація - сума із декількох математичних об'єктів одного типу, кожен з яких є попередньо помноженим на довільну скалярну константу, одне з основних понять в лінійній алгебрі.

При побудові нейронної мережі якомога повніше відтворення об’єкту забезпечується правильним вибором як архітектури мережі, так і здійсненням її навчання, при якому обчислюються вагові коефіцієнти мережі. При вирішенні першої задачі з врахуванням особливостей об’єкта визначається кількість шарів мережі і зв’язки між ними, кількість ліній затримок у першому шарі мережі, види функцій активації і кількість нейронів в кожному шарі, що дає змогу виявити всі характерні для даного об’єкта залежності.

Відтво́рення - слово, яке, в залежності від контексту застосування набуває різних значень.
Кількість - в Арістотелівській логіці друга з 10 категорій (класів, розрядів, які спрощують процес розумового визначення будь-якої речі), побічна обставина матеріальних речей , за допомогою якої вони поширюються в просторі, вимірюються якоюсь математичною нормою і здатні бути поділеними на окремі частини.
Зокрема, при навчанні порівнянням заданих і поточних виходів останнього шару обчислюються вагові коефіцієнти і зміщення у всіх шарах. Залежно від природи об’єкта-прототипу нейронна мережа може бути статичною або динамічною (зокрема, для відтворення динаміки процесу використовуються елементи затримки).

Оскільки здебільшого об’єкт керування описується нелінійним диференціальним рівнянням, то при реалізації динамічної нейронної мережі необхідно передбачити наявність блоку відтворення похідних, в якому з використанням ліній затримок на входах нейронів першого шару відтворюються еквіваленти цих похідних, а також блоку реалізації вибраних функціональних залежностей, за якими обчислюються вагові коефіцієнти мережі.

Еквівалент (рос. эквивалент, англ. equivalent, нім. Äquivalent n) - предмет або кількість, що відповідає ін. предметам або кількостям, може замінювати або виражати їх.

При відтворенні нелінійного об’єкта другого порядку першим наближенням є архітектура одношарової нейронної мережі, яка відповідає лінійному диференціальному рівнянню, а для врахування нелінійності об’єкта мережу необхідно доповнити шаром з нелінійними елементами. Цим викликана потреба використання двошарової нейронної мережі, в першому шарі якої розташовано нейрони з нелінійними функціями активації, а в другому – на базі одного нейрона з лінійною функцією активації здійснюється зважене підсумовування вихідних сигналів першого шару.

Ліні́йна фу́нкція - в математиці, позначає два споріднені поняття: Лінійну функцію в елементарній математиці, Лінійне відображення у вищій математиці.

Так, об’єкт, який описується лінійним диференціальним рівнянням із сталими коефіцієнтами:


, (9)
після ряду перетворень можна описати рівнянням у скінченних різницях:
, (10)
за яким формується структура рекурентного цифрового фільтра і однозначно визначається схема побудови нейронної мережі на одному нейроні з лінійною функцією активації.

Вимоги відносно кількості ліній затримок на вході мережі визначаються порядками похідних правої і лівої частин диференціального рівняння.

Оскільки інформація щодо динаміки відтворюваного об’єкта, а, отже, й про диференціальне рівняння, яким вона описується є неточною, характер наявних нелінійностей невідомий, то єдиним джерелом вірогідної інформації про відтворюваний процес є навчальні послідовності, а тому доцільно спершу задатися початковою кількістю шарів і нейронів в кожному шарі, а потім, аналізуючи ефективність навчання мережі з вибраною структурою, крок за кроком модифікувати її.

В багатошаровій нейронній мережі для кожного нейрона окремого шару вибирається функція активації, через яку цей нейрон передає зважену суму своїх входів на вихід. При використанні градієнтних та квазіньютонових методів ця функція повинна бути неперервною та диференційованою, а при реалізації методу Ньютона – навіть подвійно диференційованою. Для відтворення гладких функцій найдоцільніше застосовувати функції активації tansig і logsig.

Модифікування (рос. модифицирование, англ. modification, нім. Abänderung f, Impfen n, Modifizierung f) - дія, напрямлена зміна властивостей об'єктів.
Ана́ліз (від грец. αναλυσις - «розклад») - розчленування предмету пізнання, абстрагування його окремих сторін чи аспектів. Метод дослідження, який вивчає предмет, уявно чи реально розчленовуючи його на складові елементи, як-от частини об'єкта, його ознаки, властивості, відношення, відтак розглядає кожен з виділених елементів окремо в межах єдиного цілого; протилежний метод - синтез.
Функція активації, або передавальна функція (англ. activation function, також excitation function, squashing function, transfer function) штучного нейрона - залежність виходового сигналу штучного нейрона від вхідного.
Гла́дка функція або неперервно-диференційовна функція - це функція, що має неперервну похідну на всій області визначення.
Зокрема, при відтворенні об’єкта, який описується лінійним диференціальним рівнянням другого порядку:


(11)
відповідне йому рівняння в скінчених різницях має вигляд

, (12)
що, фактично, є рівнянням лінійної нейронної мережі (рис.7), вагові коефіцієнти якої визначаються із співвідношень:
, , , (13)

де – період квантування.

Квантува́ння (англ. quantization, нім. Quantisierung f, Quantelung f) - дія, перетворення якоїсь величини з неперервною шкалою значень на величину з дискретною шкалою значень (наприклад, К. енергії частинок, К. сигналів)


Рис. 7. Схема нейронної мережі для реалізації лінійного


диференціального рівняння другого порядку
При навчанні динамічної нейронної мережі поточні значення вагових коефіцієнтів та зміщень одержуємо, опрацьовуючи сигнали, сформовані при порівнянні заданих значень вихідних сигналів із сигналами , одержаними на виході мережі при подачі на її вхід векторів . Оскільки навчання динамічної нейронної мережі по суті є процесом параметричної оптимізації, то для оцінки якості навчання, з погляду реалізації його алгоритму, найдоцільніше використовувати квадратичний критерій оптимальності
, (14)
де Q – кількість вибірок;
Сигна́л - зміна фізичної величини (наприклад, температури, тиску повітря, світлового потоку, сили струму тощо), що використовується для пересилання даних. Саме завдяки цій зміні сигнал може нести в собі якусь інформацію.
Крите́рій оптима́льності (рос. критерий оптимальности; англ. optimum criterion; нім. Optimalitätskriterium n) - основний показник якості роботи системи.
q – номер вибірки (від 1 до Q); SM– кількість нейронів останнього шару; ti,qiкомпонента q-го цільового вектора; aMi,qi-а компонента q-го вихідного вектора мережі.

При порівнянні алгоритмів навчання нейронних мереж, які базуються на використанні методів оптимізації функцій багатьох змінних встановлено, що для навчання нейронних мереж найдоцільніше використовувати градієнтні методи, як такі, що визначаються найкращою продуктивністю.

Продукти́вність англ. productivity, нім. Produktivität f) - у широкому розумінні - здатність давати продукцію.
Компоне́нт (від лат. componens, родовий відмінок componentis - складаючий) - складова частина, елемент чого-небудь.
Градіє́нтний спуск (англ. gradient descent) - це ітераційний алгоритм оптимізації першого порядку, в якому для знаходження локального мінімуму функції здійснюються кроки, пропорційні протилежному значенню градієнту (або наближеного градієнту) функції в поточній точці.
Оптиміза́ція (англ. optimization, optimisation) - процес надання будь-чому найвигідніших характеристик, співвідношень (наприклад, оптимізація виробничих процесів і виробництва). Задача оптимізації сформульована, якщо задані: критерій оптимальності (економічний - тощо; технологічні вимоги - вихід продукту, вміст домішок в ньому та ін.)
При неперервній функції мети градієнтні методи використовують інформацію про часткові похідні функції мети за настроюваними параметрами.
В математиці, часткова похідна (частинна похідна) функції кількох змінних - це похідна по одній із змінних, причому інші змінні приймаються як константи. Часткові похідні використовуються у векторному численні та диференційній геометрії.
Оскільки в динамічних нейронних мережах для керування неперервними процесами застовуються неперервні функції активації і, відповідно, функціонал функції мети є неперервним, то в подальшому зосередимось лише на градієнтних методах.
Функціонал - відображення векторного простору на базову множину для цього простору, здебільшого на множину дійсних чисел. Прикладом функціоналу є норма.
Непере́рвна фу́нкція - одне з основних понять математичного аналізу. Неперервні функції трапляються набагато частіше, ніж диференційовні, множина всіх неперервних функцій замкнена відносно арифметичних операцій (за винятком ділення) і композиції та утворює чи не найважливіший клас функцій в аналізі.
В процедурі навчання нейронної мережі з використанням заданих значень її входів і виходів можна виділити дві складові – знаходження похідних функціоналу похибки за настроюваними параметрами (власне зворотнє поширення) та процедуру оптимізації, при реалізації якої на основі одержаних значень функціоналу похибки здійснюється таке коригування вагових коефіцієнтів і зміщень, яке забезпечує мінімізування функціоналу похибки (14).

Коли на вхід мережі подається Q відліків, тоді часткові похідні функціоналу похибки за настроюваними параметрами визначаються у вигляді суми часткових похідних, які одержані для кожного окремого відліку. А саме:
. (15)
де – матриця Якобі від векторної функції на q-му відліку.

При реалізації одного з найефективніших методів навчання – алгоритму Левенберга-Марквардта використовується наближене обчислення матриці Гессе, а для обчислення градієнту (або матриці Якобі) застосовано алгоритм оберненого розповсюдження похибки, який легко реалізувати програмно з використанням однотипних матричних операцій. При використанні нейронних мереж з великою кількістю настроюваних коефіцієнтів навчання мережі доцільно проводити із застосуванням методів спряжених градієнтів.


  1   2   3