Первая страница
Наша команда
Контакты
О нас

    Головна сторінка



Бобнєв роман валерійович ’1 нейромережеві методи та засоби стискання зображень

Скачати 317.79 Kb.

Бобнєв роман валерійович ’1 нейромережеві методи та засоби стискання зображень




Скачати 317.79 Kb.
Сторінка1/3
Дата конвертації09.04.2017
Розмір317.79 Kb.
ТипАвтореферат
  1   2   3


Міністерство освіти і науки України

Харківський національний університет радіоелектроніки


БОБНЄВ РОМАН ВАЛЕРІЙОВИЧ

УДК 004.932.2:004.93’1



НЕЙРОМЕРЕЖЕВІ МЕТОДИ ТА ЗАСОБИ СТИСКАННЯ ЗОБРАЖЕНЬ
05.13.23 – системи та засоби штучного інтелекту
АВТОРЕФЕРАТ
дисертації на здобуття наукового ступеня

кандидата технічних наук

Харків – 2014

Дисертацією є рукопис.


Робота виконана в Харківському національному університеті радіоелектроніки Міністерства освіти і науки України.

Міністе́рство осві́ти і нау́ки Украї́ни (МОН України) - центральний орган виконавчої влади України.

Технічні науки - науки, що вивчають закономірності розвитку техніки і визначають способи найкращого її використання.

Харківський національний університет радіоелектроніки (ХНУРЕ) - вищий навчальний заклад в Україні, IV рівня акредитації. ХНУРЕ - унікальний технічний університет, єдиний в Україні спеціалізований університет, в якому зосереджені практично усі спеціальності, пов'язані з Інформаційними технологіями, радіотехнікою та електронікою.



Науковий керівник: доктор технічних наук, професор

Руденко Олег Григорійович,

Харківський національний університет радіоелектроніки,

завідувач кафедри електронних обчислювальних машин.

До́ктор нау́к - вищий науковий ступінь, який присуджують на підставі публічного захисту докторської дисертації.

Електро́нна обчи́слювальна маши́на (ЕОМ) - загальна назва для обчислювальних машин, що є електронними (починаючи з перших лампових машин, включаючи напівпровідникові тощо) на відміну від електромеханічних (на електричних реле тощо) та механічних обчислювальних машин.





Офіційні опоненти:

доктор технічних наук, професор



Гороховатський Володимир Олексійович, Харківський інститут банківської справи Університету банківської справи Національного банку України, завідувач кафедри інформаційних технологій;
кандидат технічних наук, доцент

Олійник Андрій Олександрович, Запорізький національний технічний університет, доцент кафедри програмних засобів

Захист відбудеться «___»____________ 2014 р. о ____ годині на засіданні спеціалізованої вченої ради Д 64.052.01 у Харківському національному університеті радіоелектроніки за адресою: Україна, 61166, м. Харків, просп. Леніна, 14).

З дисертацією можна ознайомитися у бібліотеці Харківського національного університету радіоелектроніки за адресою: Україна, 61166, м. Харків, пр. Леніна, 14).


Автореферат розісланий « ____ » __________________ 2014 р.


Учений секретар



спеціалізованої вченої ради О. А. Винокурова

ЗАГАЛЬНА ХАРАКТЕРИСТИКА РОБОТИ



Актуальність теми. Протягом усього часу існування цифрових технологій задача компактної передачі інформації по каналу зв’язку була, є, та й скоріше за все, буде актуальною.

Комуніка́ція (від лат. communicatio - єдність, передача, з'єднання, повідомлення, пов'язаного з дієсловом лат. communico - роблю спільним, повідомляю, з'єдную, похідним від лат. communis - спільний) - це процес обміну інформацією (фактами, ідеями, поглядами, емоціями тощо) між двома або більше особами, спілкування за допомогою вербальних і невербальних засобів із метою передавання та одержання інформації.

Окремим прикладом такої інформації є візуальна інформація, до якої можна віднести статичні зображення. На сьогоднішній день найбільш популярним є відомий алгоритм стискання JPEG. З розвитком цифрової обробки даних зросли вимоги щодо розміру зображень, швидкості стискання та якості їх передачі по каналам зв’язку, але всі існуючі на сьогодні алгоритми у змозі задовольнити таку вимогу. Наприклад, як заміну алгоритму JPEG було запропоновано новий алгоритм JPEG-2000, який вже використовує інший підхід, який відрізняє його від попередників, а саме, штучні нейронні мережі (ШНМ).

Обро́бка да́них - систематична цілеспрямована послідовність дій над даними. Обробка даних містить в собі множину різних операцій.

Штучна нейронна мережа (ШНМ, англ. artificial neural network, ANN, рос. искусственная нейронная сеть, ИНС) - це математична модель, а також її програмна та апаратна реалізація, побудовані за принципом функціювання біологічних нейронних мереж - мереж нервових клітин живого організму.

На сьогодні існує багато різноманітних ШНМ, які, зазвичай, вирішують певне коло задач. Деякі з них добре вирішують задачу векторного квантування, наприклад, нейронна мережа Кохонена, інші – дуже ефективно вирішують задачу апроксимації та дозволяють відновити із заданою точністю будь-яку як завгодно складну безперервну нелінійну функцію, наприклад, нейронна мережа радіально-базисних функцій (РБФ).

Нейронні мережі Кохонена - клас нейронних мереж, основним елементом яких є шар Кохонена. Шар Кохонена складається з адаптивних лінійних суматорів («лінійних формальних нейронів»). Як правило, вихідні сигнали шару Кохонена обробляються за правилом «переможець забирає все»: найбільший сигнал перетворюється в одиничний, решта звертаються в нуль.

Отже, існує певне поле дій щодо застосування ШНМ у задачі стискання зображень з урахуванням її, ШНМ, специфіки та ефективності вирішення того або іншого кола проблем.


Треба відзначити, що ШНМ не є панацею оскільки існує низка обмежень стосовно використання у задачах, що вирішуються. Більшість із них пов’язані з процесом навчання ШНМ, наприклад, це може бути попадання у локальний екстремум у процесі навчання (що істотно для більшості задач мінімізації квадратичного функціоналу), недостатня точність або надто тривалий процес навчання.

Екстремум - найбільше та найменше значення функції на заданій множині.

Усі ці особливості вносять додатковий спектр досліджень стосовно використання ШНМ у вирішенні різноманітних задач, в тому числі й до задачі стискання зображень.


Можна також додати, що для вирішення проблем, що постають у процесі навчання ШНМ, часто пропонуються методи, відмінні від класичних засобів навчання ШНМ. Найбільш відомим на сьогодні можна назвати засіб на основі генетичних алгоритмів (ГА).

Генети́чний алгори́тм (англ. genetic algorithm) - це еволюційний алгоритм пошуку, що використовується для вирішення задач оптимізації і моделювання шляхом послідовного підбору, комбінування і варіації шуканих параметрів з використанням механізмів, що нагадують біологічну еволюцію.

Хоч ГА й не позбавлені недоліків (додаткові параметри налаштування та сама ймовірність попадання в локальний екстремум, розмір пам’яті для забезпечення достатньої кількості популяції, швидкість роботи тощо) вони все ж дають певну свободу дій, оскільки відображають процес навчання ШНМ у простішій формі порівняно з його класичною реалізацією. Звідси випливає гнучкість ГА щодо задачі, що вирішується, а також ймовірність простіших модифікацій, які здатні поліпшити результат його роботи. Окрім ГА, часто пропонують підходи, коли у навчанні ШНМ для налаштування вагових коефіцієнтів використовують інші ШНМ, що дозволяють налаштувати ваги набагато швидше, задовольняючи задану точність, що може виявитися
ефективнішим у порівнянні з класичними засобами.

Усі розглянуті вище особливості визначають неймовірно велику область досліджень для актуальної задачі стискання зображень, хоча роботи за цим напрямом проводяться не перший десяток років, все ж таки існує ряд прогалин у цьому напрямі, що говорить про необхідність, а отже й актуальність вивчення різноманітних засобів та модифікацій навчання ШНМ для вирішення задачі стискання зображень.

Зв’язок роботи з науковими програмами, планами, темами. Дисертаційна робота виконана в рамках держбюджетної НДР «Розробка теоретичних основ та математичного забезпечення нейро-фаззі систем ранньої діагностики, прогнозування та моделювання в умовах апріорної і поточної невизначеності» (№ ДР 0101U001762), що виконується у Харківському національному університеті радіоелектроніки, і в якій автор брав участь як виконавець.

Математичне забезпечення (mathematical support) - сукупність методів, правил, математичних моделей і алгоритмів розв'язання задач;



Мета та завдання дослідження. Мета дисертаційної роботи полягає у розробленні ефективних ШНМ, що виконують процес стискання зображення шляхом синтезу нейромережевих структур, а також зміна процесу навчання ШНМ, що дозволить підвищити якість або швидкість отримання результату (стисненого зображення).

Для досягнення поставленої мети у роботі вирішуються такі основні задачі:

  1. Дослідження популярних методів стискання зображень, таких як JPEG та JPEG-2000, та огляд існуючих штучних нейронних мереж, що застосовуються для вирішення задачі стискання зображень

  2. Удосконалення підходу стискання зображень з використанням ШНМ Кохонена.

  3. Розробка модифікації ГА, що дозволить усунути класичну проблему ГА, а саме, попадання у локальний екстремум при знаходженні рішень та дослідження можливості застосування цієї модифікації для навчання ШНМ у задачах стискання зображень.

  4. Розробка методу навчання ШНМ РБФ на основі таких нейронних мереж, як мережа Кохонена та мережа Нейро-Газ, а також дослідження розробленого методу навчання ШНМ РБФ стосовно задачі стискання зображень.

  5. Імітаційне моделювання роботи досліджуваних нейромережевих структур, ГА та вирішення практичних задач.

Об’єкт дослідження – процеси навчання штучних нейронних мереж в задачі стискання зображень, а також процеси взаємодії та формування популяцій генетичних алгоритмів.

Предмет дослідження – багатовимірні ШНМ, нейромережеві системи стискання зображень, апроксимації та генетичні алгоритми.

Методи дослідження базуються на теорії обчислювального інтелекту, а саме на методах теорії ШНМ та теорії генетичних алгоритмів, які дозволили синтезувати нейромережеві моделі та отримати процедури їх навчання; на теорії оптимальності, за допомогою якої синтезовані швидкісні процедури навчання. Експериментальні дослідження проведені в лабораторних умовах та на реальних об’єктах.

Наукова новизна результатів дисертаційної роботи.

  1. Вперше запропоновано модифікацію топології мережі Кохонена, що базується на введенні додаткового входу мережі, яке дозволяє уникнути традиційної нормалізації вхідних даних, тобто, дозволяє безпосередньо використовувати ваги ШНМ як опорний зразок кластера представника, що дає можливість зменшити обсяг необхідних обчислень.

  2. Вперше запропоновано гібридний генетичний алгоритм, що базується на логіці біологічного процесу апоптоза, в якому, на відмінність від класичного, виконуються додаткові дії на стадіях кросинговеру та природного відбору, що дозволяє знаходити практично більшу частину глобальних екстремумів цільової функції, а використання параметру «поріг насиченості» забезпечує задання чутливості ГА до локальних екстремумів, а отже визначення кількості виданих рішень.

    Приро́дний добі́р (або відбір) - виживання найбільш пристосованих у боротьбі за існування організмів, здатних залишити численне потомство; процес, завдяки якому сприятливі спадкові характеристики стають загальнішими в наступних поколіннях популяції організмів, що розмножуються, а несприятливі спадкові характеристики стають менш загальними.

    Цільова функція - функція, що зв'язує мету (змінну, що оптимізується) з керованими змінними в задачі оптимізації.



  3. Удосконалено процедуру навчання ШНМ РБФ, яка відрізніється від традиційних більш коректною ініціалізацією центрів та відхилень базисних функцій за допомогою аналізу вхідних даних нейронної мережі Нейро-Газ (для центрів БФ), а також алгоритму «k-найближчих сусідів» (для відхилень БФ), що дозволяє збільшити точність навчання мережі РБФ, а також зменшити час її навчання.

  4. Отримав подальший розвиток метод стискання зображень на базі нейронної мережі зустрічного розповсюдження, запропонована модифікація якої дозволяє відкинути шар Гроссберга та використовувати лише шар Кохонена, що дозволило значно зменшити апаратні витрати та обсяг пам’яті для зберігання синаптичних коефіцієнтів нейронної мережі, а також зменшити необхідний на їх обробку час.

Практичне значення отриманих результатів. Наукові результати дисертаційної роботи є внеском у теорію штучних нейронних мереж та у теорію ідентифікації й апроксимації функцій. Практичне значення полягає в тому, що отримані результати теоретичних досліджень реалізовано за допомогою нових процедур, які забезпечують високу якість адаптивної обробки багатовимірної інформації.

Теорети́чні дослі́дження - висунення і розвиток наукових гіпотез і теорій, формулювання законів та виведення з них логічних наслідків, зіставлення різних гіпотез і теорій.

Отримані процедури дозволяють поширити спектр використання нейромережевих технологій, а також розробити нові різноманітні системи адаптивної обробки інформації.

Обробка інформації́ - вся сукупність операцій (збирання, введення, записування, перетворення, зчитування, зберігання, знищення, реєстрація), що здійснюються за допомогою технічних і програмних засобів, включаючи обмін по каналах передачі даних [6.

Розроблені та досліджені у дисертаційній роботі програмні моделі та алгоритми обробки зображень отримали застосування у науково-дослідному комплексі «Прискорювач» Національного Наукового Центру «Харківський фізико-технічний інститут» м. Харкова при розробці системи керування прискорювачем електронів КПТ. Також положення, висновки та рекомендації дисертаційної роботи використані в навчальному процесі на кафедрі ЕОМ Харківського національного університету радіоелектроніки при підготовці дисциплін «Нейронні обчислювальні структури», «Спеціалізовані процесори» та «Цифрова обробка інформації».

Система керування, також Система управління (англ. control system) - систематизований набір засобів впливу на підконтрольний об'єкт для досягнення цим об'єктом певної мети. Об'єктом системи керування можуть бути як технічні об'єкти так і люди.

Дисерта́ція (лат. dissertatio - твір, обговорення, розсуд, доповідь) - спеціально підготовлена наукова праця на правах рукопису, яку виконують для прилюдного захисту на здобуття наукового ступеня. В Україні розрізняють дисертацію для здобуття наукового ступеня кандидата наук (кандидатська дисертація) та доктора наук (докторська дисертація).

Навча́ння - це організована, двостороння діяльність, спрямована на максимальне засвоєння та усвідомлення навчального матеріалу і подальшого застосування отриманих знань, умінь та навичок на практиці. Цілеспрямований процес передачі і засвоєння знань, умінь, навичок і способів пізнавальної діяльності людини.

Впровадження підтверджуються відповідними актами.

Особистий внесок здобувача. Всі основні результати отримані автором особисто. У роботах, написаних із співавторами, здобувачу належать: у [1] –модифікована нейронна мережа Кохонена, а також розрахунок вхідних значень нормалізуючого входу мережі; у [2] – використання мережі Нейро-Газ для визначення центрів базисних функцій мережі РБФ в процесі її навчання та проведення порівняльного аналізу процесів навчання різних модифікацій мережі РБФ; у [3] – ГА на підставі процесу біологічного апоптоза, а також введення «порогу насиченості», що визначає стан популяції ГА (з його простішим імовірнісним описом); у [4] – використання нормалізуючої компоненти при нейромережевому стисканні зображень; у [5] –дослідження властивостей модифікованого ГА, що базується на принципі біологічного апоптозу; в [6] – використання адаптивного масштабування параметрів вхідних сигналів з метою поліпшення властивостей РБФ; у [10] – проведення імітаційного моделювання;

Імітаці́йне моделюва́ння - це метод, що дозволяє будувати моделі процесів, що описують, як ці процеси проходили б насправді.

в [11] – дослідження властивостей алгоритму клонального відбору.

Апробація результатів дисертації. Основні результати дисертаційної роботи доповідалися й обговорювалися на 3-й Міжнародній науковій конференції «Информатика, математическое моделирование, экономика» (Росія, Смоленськ, 2013), на 1-й і 2-й Міжнародних науково-технічних конференціях «Інформаційні технології в навігації і управлінні: стан та перспективи розвитку» (Київ, 2010, 2011), на 1-й та 2-й Міжнародних науково-технічних конференціях «Сучасні напрями розвитку інформаційно-комунікаційних технологій та засобів управління» (Харків–Київ, 2010, Київ–Харків, 2011), на Міжнародній науково-технічній конференції «Автоматизація: проблеми, ідеї, рішення» (Севастополь, 2012).

Інформац́ійно-комун́ікаційні технол́огії (ІКТ, від англ. Information and communications technology, ICT) - часто використовується як синонім до інформаційних технологій (ІТ), хоча ІКТ це загальніший термін, який підкреслює роль уніфікованих технологій та інтеграцію телекомунікацій (телефонних ліній та бездротових з'єднань), комп'ютерів, підпрограмного забезпечення, програмного забезпечення, накопичувальних та аудіовізуальних систем, які дозволяють користувачам створювати, одержувати доступ, зберігати, передавати та змінювати інформацію. Іншими словами, ІКТ складається з ІТ, а також телекомунікацій, медіа-трансляцій, усіх видів аудіо і відеообробки, передачі, мережевих функцій управління та моніторингу. Вираз вперше було використано в 1997 році у доповіді Денніса Стівенсона для уряду Великої Британії, який посприяв створенню нового Національного навчального плану Великої Британії в 2000 році.



Публікації. За темою дисертаційної роботи опубліковано 11 наукових праць, з них: 6 статей у наукових фахових виданнях, що входять до переліків наукових фахових видань України з технічних наук (з них 2 статті, що входять до наукометричних баз Scopus, Web of Science), 5 публікацій у збірниках матеріалів і тез доповідей на міжнародних науково-технічних конференціях і форумах (в тому числі 1 за кордоном).

В Україні наукове фахове видання - це періодичне або продовжуване видання (у тому числі - електронне), внесене до затвердженого Департаментом атестації кадрів МОН України (раніше це була компетенція ВАК України) переліку видань, у яких можуть публікуватися результати дисертаційних досліджень на здобуття наукових ступенів доктора та кандидата наук.



Структура та обсяг роботи. Дисертація складається зі вступу, чотирьох розділів, висновків, списку використаних джерел та одного додатку. Повний обсяг дисертації становить 173 сторінки, що включає 65 рисунків, 4 таблиці (рисунки та таблиці, що займають окрему площу на 15 стор.), список використаних джерел, що включає 101 найменування, займає 15 сторінок, 1 додаток на 3 сторінках.
  1   2   3


Скачати 317.79 Kb.

  • Науковий керівник: доктор технічних наук
  • Офіційні опоненти: доктор технічних наук, професор Гороховатський Володимир Олексійович
  • Олійник Андрій Олександрович
  • Актуальність теми.
  • Зв’язок роботи з науковими програмами, планами, темами.
  • Мета та завдання дослідження.
  • Наукова новизна результатів дисертаційної роботи.
  • Практичне значення отриманих результатів.
  • Особистий внесок здобувача.
  • Апробація результатів дисертації.
  • Публікації.
  • Структура та обсяг роботи.