Українські вчені довели перевагу нейромереж четвертого покоління

Вчені з Національного технічного університету України «КПІ імені Ігоря Сікорського» провели масштабне дослідження ефективності штучних нейронних мереж різних поколінь у задачах фінансового прогнозування. Результати роботи показали значні переваги найновіших архітектур над традиційними підходами.

Дослідження охопило чотири типи нейронних мереж, що представляють різні покоління розвитку штучного інтелекту. Науковці порівняли ефективність повнозв'язної мережі прямого поширення Back Propagation другого покоління, рекурентної мережі LSTM третього покоління та двох гібридних систем четвертого покоління — GMDH-neo-fuzzy і HSCI-bagging.

Перше покоління штучних нейронних мереж представляв перцептрон, розроблений у 1957 році Френком Розенблаттом. Ця модель складалася з трьох основних компонентів: сенсорної системи, асоціативної системи та системи відповіді. Однак перцептрон міг розв'язувати лише лінійно роздільні задачі, що суттєво обмежувало його можливості.

Друге покоління ознаменувалося появою багатошарових перцептронів та алгоритму зворотного поширення помилки. Мережа Back Propagation, запропонована Румельхартом, Хінтоном та Вільямсом у 1986 році, стала революційним кроком у розвитку нейронних мереж. Завдяки багатошаровій архітектурі та алгоритму зворотного поширення, ці мережі змогли розв'язувати нелінійні задачі, включаючи проблему XOR.

Третє покоління характеризується появою глибокого навчання та спеціалізованих архітектур. Рекурентні нейронні мережі LSTM, розроблені для роботи з послідовностями даних, використовують механізми воріт для контролю потоку інформації. Архітектура LSTM включає ворота забування, вхідні ворота та вихідні ворота, що дозволяє мережі ефективно обробляти довготривалі залежності в даних.

Четверте покоління представлене самоорганізованими мережами глибокого навчання. Гібридна мережа GMDH-neo-fuzzy поєднує принципи методу групового урахування аргументів з нео-нечіткими нейронами. Ця архітектура будує свою структуру в процесі навчання, використовуючи селективний відбір моделей для створення більш складних конфігурацій.

Система HSCI-bagging представляє гібридний підхід, що базується на ансамблевих методах та принципах GMDH. Архітектура містить послідовно з'єднані стеки, де непарні стеки формуються ансамблями паралельно з'єднаних підсистем, а парні є метамоделями, що узагальнюють вихідні сигнали ансамблів.

Для експериментального дослідження науковці використали дані індексу Dow Jones Industrial Average за період з 2 серпня 2022 року по 31 липня 2024 року. Аналіз кореляційної функції показав сильну кореляцію між попередніми та наступними значеннями індексу, навіть для лагу в 50 днів кореляція перевищувала 0,7.

Експерименти проводилися з різними параметрами: інтервали прогнозування від 1 до 30 днів, кількість входів від 3 до 5, відсоток валідаційних даних від 0,2 до 0,4 та кількість фазифікаторів від 2 до 4 для GMDH-neo-fuzzy. Набір даних було розділено на три підмножини: навчальну, валідаційну та тестову, при цьому тестова підмножина мала фіксований розмір у 30 останніх точок.

Результати експериментів показали значні відмінності в ефективності різних поколінь нейронних мереж. Мережа Back Propagation другого покоління продемонструвала найгірші результати на всіх інтервалах прогнозування. Для інтервалу в один день середня абсолютна відсоткова похибка склала 2,98 відсотка, а для 30-денного інтервалу досягла 12,2 відсотка.

Рекурентна мережа LSTM третього покоління показала значно кращі результати, особливо на коротких інтервалах. Для однодневного прогнозування похибка становила лише 0,58 відсотка, що в п'ять разів краще за Back Propagation. Однак зі збільшенням інтервалу прогнозування ефективність LSTM знижувалася.

Найкращі результати продемонстрували мережі четвертого покоління. Система HSCI-bagging показала найвищу точність прогнозування на всіх досліджуваних інтервалах. Для однодневного прогнозування похибка склала лише 0,51 відсотка, для тижневого — 1,23 відсотка, а для 30-денного інтервалу — 2,12 відсотка.

Гібридна мережа GMDH-neo-fuzzy також продемонструвала високу ефективність, показавши результати лише незначно гірші за HSCI-bagging. Для однодневного прогнозування похибка становила 0,7 відсотка, для тижневого — 1,26 відсотка, а для місячного інтервалу — 2,35 відсотка.

Особливо важливим є той факт, що мережі четвертого покоління показали кращі результати саме на середньострокових інтервалах прогнозування. Це свідчить про їхню здатність краще моделювати складні залежності в фінансових даних та адаптуватися до змін ринкових умов.

Дослідження також показало, що оптимальні параметри мереж залежать від інтервалу прогнозування. Для коротших інтервалів ефективнішими виявилися мережі з більшою кількістю входів, тоді як для довших інтервалів оптимальною була менша кількість входів.

Результати роботи підтверджують загальну тенденцію підвищення точності прогнозування зі зростанням покоління нейронних мереж. Це пов'язано з удосконаленням архітектур, алгоритмів навчання та здатністю мереж до самоорганізації.

Практичне значення дослідження полягає в можливості використання отриманих результатів для розробки більш ефективних систем фінансового прогнозування. Мережі четвертого покоління можуть знайти застосування в алгоритмічній торгівлі, управлінні ризиками та інших сферах фінансової аналітики.

Дослідження було проведено під керівництвом Євгенія Бодянського з Харківського національного університету радіоелектроніки та Юрія Зайченка з КПІ імені Ігоря Сікорського. У роботі також брали участь Олена Зайченко та Олексій Кузьменко з того ж університету.