Нейротехнології та нейрокомп’ютерні системи - Робоча програма навчальної дисципліни (Силабус)
Реквізити навчальної дисципліни
| Рівень вищої освіти | Другий (магістерський) |
|---|---|
| Галузь знань | 12 Інформаційні технології |
| Спеціальність | 126 Інформаційні системи та технології |
| Освітня програма | Інформаційне забезпечення робототехнічних систем |
| Статус дисципліни | Обов’язкова (нормативна) |
| Форма навчання | очна(денна) |
| Рік підготовки, семестр | 1 курс, осінній семестр |
| Обсяг дисципліни | 4 кредити ECTS /120 годин (36 годин лекцій, 18 годин практичних занять) |
| Семестровий контроль/ контрольні заходи | Залік/тестування, МКР, захист лабораторних робіт |
| Розклад занять | 1 лекція (2 години) 1 раз на тиждень; 1 практичне заняття (2 години) 1 раз на 2 тижні. |
| Мова викладання | Українська |
| Інформація про керівника курсу / викладачів |
Лектор: к.т.н., доц. Олійник В.В., oliinyk.volodymyr@gmail.com Практичні заняття: к.т.н., доц. Олійник В.В, oliinyk.volodymyr@gmail.com |
| Розміщення курсу | https://classroom.google.com/c/NjIwNTU2Mzc1NjE3?cjc=a6smn5d |
Програма навчальної дисципліни
Опис навчальної дисципліни, її мета, предмет вивчання та результати навчання
Силабус освітнього компонента «Нейротехнології та нейрокомп’ютерні системи» складено відповідно до освітньої програми підготовки магістрів «Інформаційне забезпечення робототехнічних систем» спеціальності 126 – Інформаційні системи та технології.
Нейротехнології на сьогодні займають домінуюче місце серед методів машинного (глибокого) навчання і штучного інтелекту в цілому. Це найбільш вживаний апарат інтелектуальної обробки великих масивів даних для вирішення складних реальних задач класифікації, управління, генерації контенту та ін.
Метою навчальної дисципліни є формування та закріплення у студентів наступних компетентностей: (СК 9) Здатність аналізувати стан та динаміку функціонування та перспективи розвитку технічних засобів, програмного та інформаційного забезпечення робототехнічних систем з використанням сучасних методів та засобів аналізу; (СК 11) Здатність проектування та експлуатації нейрокомп’ютерних систем, які використовуються в задачах моделювання процесів і явищ, що супроводжують функціонування інформаційного забезпечення робототехнічних систем.
Предмет навчальної дисципліни – математичний апарат, архітектури та технології для опису, синтезу та аналізу нейронних мереж в рамках машинного навчання, моделі нейронних мереж, алгоритми їх навчання та методи покращення результатів практичного застосування.
Програмні результати навчання, на формування та покращення яких спрямована дисципліна: (РН 15) Здатність розробляти та застосовувати ІСТ для розв’язання задач в галузі робототехніки; (РН 18) Проектувати інформаційні системи із застосуванням компонентів нейротехнологій та проводити аналітичне та імітаційне моделювання складних об’єктів з їх використанням.
В результаті вивчення дисципліни слухачі мають вміти:
Визначати доцільність застосування типових моделей нейронних мереж для вирішення задач;
обирати раціональні архітектури та моделі нейронних мереж для розв’язання поставленої задачі;
використовувати нейротехнології для розв’язання прикладних задач у різних предметних галузях;
оцінювати та підвищувати ефективність розроблених нейромоделей;
впроваджувати моделі нейронних мереж в робототехнічні та інтелектуальні системи.
Пререквізити та постреквізити дисципліни
Дисципліна є однією з базових для підготовки магістрів.
Для успішного засвоєння дисципліни необхідні базові знання з дисциплін: “Вища математика”, “Теорія ймовірностей і математична статистика”, «Програмування».
Результати навчання даної дисципліни використовують у дипломному проектуванні та у спеціалізованих дисциплінах подальшого циклу підготовки магістрів.
Зміст навчальної дисципліни
Розділ 1. Основи нейротехнологій
Тема 1.1. Загальний огляд нейротехнологій
Тема 1.2. Основи навчання нейронних мереж
Тема 1.3. Нейронні мережі прямого поширення
Розділ 2. Основні архітектури нейронних мереж
Тема 2.1. Згорткові нейронні мережі
Тема 2.2. Сучасні архітектури згорткових нейронних мереж
Тема 2.3. Рекурентні нейронні мережі
Тема 2.4. Механізм уваги та трансформери
Тема 2.5. Нейромоделі для навчання без учителя.
Розділ 3. Генеративні моделі нейронних мереж
Тема 3.1. Генеративні моделі нейронних мереж
Тема 3.2. Генеративно-змагальні і дифузійні моделі нейронних мережі
Тема 3.3. Великі мовні моделі
Тема 3.4. Оптимізація і практичне застосування LLM
Розділ 4. Спеціалізовані питання практичного застосування нейротехнологій.
Тема 4.1. Тонке налаштування нейронних мереж
Тема 4.2. Нейротехнології в задачах детектування та сегментації «комп’ютерного зору»
Тема 4.3. Глибоке навчання з підкріпленням
Тема 4.4. Життєвий цикл нейромережевих моделей та перерспективи їх розвитку.
Навчальні матеріали та ресурси
Базова література:
Goodfellow I. Deep Learning/ Goodfellow I.,Bengio Y., Courville A.// MIT Press, 2016.- 800p.
Geron A. Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow: Concepts, Tools, and Techniques to Build Intelligent Systems.– O'Reilly Media. – 856p.
Ямпольський Л.С. Нейротехнології та нейрокомп’ютерні ситеми / Ямпольський Л.С., Лісовиченко О.І., Олійник В.В. // Дорадо-друк, Київ, 2016. – 571 с.
Додаткова література:
Архангельський В.І. Нейронні мережі в системах автоматизації / В.І.Архангельський, І.М.Богаєнко, Г.Г.Грабовський, М.О.Рюмшин – К.: Техніка, 1999. – 364 с.
Гнучкі комп’ютерно-інтегровані системи: планування, моделювання, верифікація, управління. КНИГА 2. Штучний інтелект в плануванні і керуванні виробничими процесами: підручник / Л.С. Ямпольський, П.П. Мельничук, К.Б .Остапченко, О.І. Лісовиченко – Житомир: ЖДТУ, 2010. – 786 с.
Richard S. Reinforcement Learning : An Introduction MIT Press, Adaptive Computation and Machine Learning / Richard S. Sutton, Andrew G. Barto // Ser.: 2018. - 552 p.
Олійник В.В. Нейротехнології та нейрокомп’ютерні системи: методичні вказівки до виконання курсової роботи [Електронний ресурс] : навч. посіб. для студ. спеціальності 126 «Інформаційні системи та технології», освітньої програми «Інформаційне забезпечення робототехнічних систем» / В.В. Олійник, О.І. Лісовиченко ; КПІ ім. Ігоря Сікорського. – Електронні текстові дані (1 файл: 329 Кбайт). – Київ : КПІ ім. Ігоря Сікорського, 2021. – 52 с.
Кононюк А.Ю. Нейроні мережі і генетичні алгоритми. – К.:«Корнійчук», 2008. – 446 с.
Навчальний контент
Методика опанування навчальної дисципліни (освітнього компонента)
Вивчення навчальної дисципліни відбувається за наступним планом:
ДЕННА форма навчання
Лекційні заняття
| № з/п |
|
|---|---|
| 1 |
|
Основні питання: Поняття, можливості, переваги та недоліки нейротехнологій та глибокого навчання. Задачі та місце серед сучасних технологій штучного інтелекту. Концепція машинного навчання та його види. Контрольоване навчання. Задача класифікації та регресії. Лінійний класифікатор, нейрон, мережа нейронів. Відео-урок: https://youtu.be/UIxsqVTJv5w?si=aeiBg8Lo_nZzk4Zr |
|
| 2 |
|
Основні питання: математичне подання, інтерпретація. Види активаційних функцій. Програмна реалізація. Можливості мереж прямого поширення, їх регуляризація. Методика навчання і використання НС. Реалізація мереж в TensorFlow та CNTK. Базові архітектури мереж прямого поширення. Класифікація нейронних мереж за архітектурою. Глибокі нейронні мережі. Відео-урок: https://youtu.be/DZsyzgIfqcc?si=nCG3qW1d1mnAcirH |
|
| 3 |
|
Основні питання: Навчання як задача оптимізації, підходи до її вирішення. Градієнтний і стохастичний градієнтний спуск. Параметр швидкості навчання. Концепція обчислювального графа. Метод зворотного поширення похибки. Явище перенавчання та методи його уникнення. Оцінювання результатів навчання. Алгоритми навчання SGD, ADAM та їх модифікації. Відео-урок: https://youtu.be/1Qzeyge98-s?si=iutEkDhyAv30L6QY |
|
| 4 |
|
Основні питання: Особливості застосування нейронних мереж в задачах комп’ютерного зору. Особливості переваги та обмеження згорткових нейронних мереж. Реалізація, навчання і використання згорткових нейронних мереж. Відео-урок: https://youtu.be/Ekin2yDeR5s?si=b4ZqKFDVjK9uSqGF |
|
| 5 | Тема 2.2. Сучасні архітектури згорткових нейронних мереж |
Основні питання: Архітектури AlexNet, VGGNet, GoogLeNet, ResNet та ін. Їх типові блоки та технологічні рішення Відео-урок: https://youtu.be/HWNKr3dYw5M?si=n1ItOx7yvdVoi32b |
|
| 6 |
|
Основні питання: Особливості переваги та проблеми рекурентних нейронних мереж. Реалізація, навчання і використання рекурентних нейронних мереж. Сучасні нейромоделі: LSTM, GRU Відео-урок: https://youtu.be/GiC3YJlqvoQ?si=dSjhjXwKa-C2Mbem |
|
| 7 |
|
Основні питання: Принцип «механізму уваги», нейронна мережа «трансформер», сучасні архітектури BERT, GPT та інші. Відео-урок: https://youtu.be/SFXSa57fiBo?si=9dAif2dVvrusS2sy |
|
| 8 |
|
Основні питання: Особливості нейромоделей неконтрольованого навчання. Мережа Кохонена, автокодувальники. Види автокодувальників, їх особливості та застосування. Відео-урок: https://youtu.be/0J71MaNf6UE?si=4haqcatFr3j4esOr |
|
| 9 |
|
Основні питання:Поняття і призначення генеративних нейромоделей. Нейронні мережі PixelRNN та PixelCNN. Варіаційний автокодувальник Відео-урок: https://youtu.be/8OtB8WgBKxU?si=wmSsn-pz16hjCcth |
|
| 10 |
|
Основні питання: Особливості переваги та обмеження генеративно-змагальних нейронних мереж. Їх реалізація, навчання і використання. Різновиди GAN-ів. Особливості переваги та обмеження дифузійних моделей. Їх реалізація, навчання і використання. Відео-урок: https://youtu.be/aXSZmY1R0HE?si=fL69xswSdtTlABXt |
|
| 11 | Тема 3.3. Великі мовні моделі |
Основні питання: Поняття і можливості великих мовних моделей(LLM), їх архітектура і навчання. Різновиди моделей. Застосування LLM в практичних задачах: інженерія запитів, інтеграція з зовнішніми джерелами даних і засобами. Відео-урок: https://youtu.be/RZt73_aopnA?si=pCIzPQPJQVGw78vG |
|
| 12 | Тема 3.4. Оптимізація і практичне застосування LLM |
Основні питання: Файн-тюнінг та техніки його оптимізації (LoRA, QLoRA). Pruning та квантування великих мовних моделей. Практичні питання їх використання Відео-урок: https://youtu.be/RZt73_aopnA?si=pCIzPQPJQVGw78vG |
|
| 13 |
|
Основні питання: Особливості вибору функції активації та алгоритмів навчання, управління швидкістю навчання, оптимізація гіперпараметрів і регуляризація моделі. Попередня обробка і аугментація даних, ініціалізація ваг. Ансамблі моделей. Відео-урок: https://youtu.be/dwWAfJ5Dn7A?si=yLD851zklxGBvIYY |
|
| 14 | Тема 4.2. Нейротехнології в задачах «комп’ютерного зору» |
Основні питання: Задачі семантичної сегментації, виявлення та сегментації об’єктів. R-CNN, Fast R-CNN та Fastеr R-CNN, YOLO / SSD / RetinaNet, Mask R-CNN Відео-урок: https://youtu.be/sycDaNP7oyA |
|
| 15 |
|
Основні питання: Застосування нейротехнологій в навчанні з підкріпленнями. DQN та інші мережі. Застосування в робототехніці Відео-урок: https://youtu.be/0ciM54Mhtow |
|
| 16 | Тема 4.4. Життєвий цикл нейромережевих моделей та перерспективи їх розвитку. |
Основні питання: Типовий життєвий цикл моделей на основі нейронних мереж. Поняття MLOps і його відмінності від DevOps. Сучасний стан і перспективи нейромережевих технології Відео-урок: https://www.youtube.com/live/X2KcKU5lNCk?si=rEBHrvA88CAyxpXQ |
Комп’ютерні практикуми
№ з/п |
Назва теми заняття та перелік основних питань |
|---|---|
| 1 | Комп. практикум 1. Нейронні мережі прямого поширення Основні питання: Ознайомлення з принципами функціонування, створення, навчання та використання моделей нейронних мереж прямого поширення. Для задачі класифікації (або регресії) на основі типового датасету створити нейронну мережу, навчити її на заданому датасеті, проаналізувати результати та провести дослідження впливу на результат деякого параметру. Відео-урок: https://youtu.be/E4TvpdTEdk8?si=IjaaPKWAiEQsqIJ5 |
| 2 | Комп. практикум 2. Згорткові нейронні мережі Основні питання: Ознайомлення з принципами функціонування, створення, навчання та використання моделей згорткових нейронних мереж. Для задачі класифікації на основі типового датасету створити нейронну мережу, навчити її на заданому датасеті, проаналізувати результати та провести дослідження впливу на результат деякого параметру. Відео-урок: https://youtu.be/VQJc1WbmiEY?si=xP-H-x64mxoavSo4 |
| 3 | Комп. практикум 3. Рекурентні нейронні мережі та трансформери Основні питання: Ознайомлення з принципами функціонування, створення, навчання та використання моделей нейронних мереж для роботи з послідовностями. Для заданої задачі на основі типового датасету створити нейронну мережу заданої архітектури, навчити її на заданому датасеті, проаналізувати результати та провести дослідження впливу на результат деякого параметру. Відео-урок 1: https://youtu.be/jy3Z3yo1_QU?si=N9uOUwz0QoRRmUvn Відео-урок 2: https://youtu.be/UIxsqVTJv5w?si=8o4wlakpCVomtxhd |
| 4 | Комп. практикум 4. Генеративні нейронні мережі Основні питання: Ознайомлення з принципами функціонування, створення, навчання та використання генеративних моделей нейронних мереж. Для заданої задачі та моделі генеративної мережі виконати навчання/донавчання або застосувати відповідно до умов задачі, проаналізувати результати та провести дослідження впливу на результат деякого параметру. Відео-урок 1: https://youtu.be/6wariVVJjT0?si=C1LTYoU4rr3iMybv Відео-урок 2: https://youtu.be/aNBdKS6-Sgk?si=zMZxOsl7K26bCWta |
при вивченні навчальної дисципліни користуються дидактичними засобами, зокрема, комп‘ютерними презентаціями тем лекцій, інтерактивними засобами візуалізації та моделювання алгоритмів, що вивчаються, та зразками коду для їх реалізації. Комп‘ютерні практикуми виконуються на основі методичних матеріалів до їх виконання. При виконанні комп’ютерних практикумів слід використовувати програмне забезпечення – сучасні середовища розробки програмного забезпечення. При цьому студент не обмежується у виборі засобу реалізації поставленої в роботі задачі. Рекомендується використання середовища Google Colab. Основною вимогою є повнота розв’язання поставленої задачі та можливість демонстрації роботи та отриманих результатів в комп’ютеризованій аудиторії.
Самостійна робота студента
Метою самостійної роботи є засвоєння студентами знань з тем дисципліни та їх закріплення, поглибленого вивчення матеріалу, а також розвиток у студентів навичок самостійної роботи з нейротехнологіями у межах основних тем.
|
|
|
|---|---|---|
| 1 | Виконання комп’ютерних практикумів | 48 |
| 2 | Підготовка до МКР | 10 |
| 3 | Підготовка до заліку | 8 |
| Всього | 66 |
Контрольні роботи
Двогодинна модульна контрольна робота (МКР) поділяється на дві одногодинні (45 хв.), що проводяться під час лабораторних занятть.
МКР-1 виконується після вивчення тем 1.1 – 2.2. МКР-2 виконується після вивчення тем
2.3 - 3.2. Модульні контрольні роботи виконуються в середовищі Google Classroom у вигляді тестування.
Політика та контроль
Політика навчальної дисципліни (освітнього компонента)
Порядок виконання та захисту практикумів
Студент виконує комп’ютерні практикуми самостійно або у бригаді з двох осіб (з відповідним збільшенням обсягів роботи та погодження з викладачем та якщо практикум це передбачає).
Демонстрація поточних результатів, обговорення питань по роботам та ін. відбувається за розкладом практичних робіт після захисту готових робіт згідно календарного плану їх виконання та в час консультації викладача.
Для захисту студент попередньо подає роботу до захисту через Google Classroom. В процесі захисту студент демонструє програмну реалізацію та відповідає на запитання по роботі та пов’язаному теоретичному матеріалу (3-5 питань). Для успішного захисту практикуму необхідно правильно відповісти принаймні на половину з питань.
При виконанні практикумів необхідно дотримуватись календарного плану:
КП1 – 4 тиждень
КП2 – 7 тиждень
КП3 –10 тиждень
КП4 –13 тиждень
За здачу після встановленого терміну без поважних причин максимальний бал за роботу знижується : -1 бали за кожен наступний тиждень після (але не більше - 5 балів).
Крім того максимальний бал за роботу знижується на 2 бали за кожну «невдалу» спробу захисту (але не більше -4 балів).
За практикуми можна отримати додаткові заохочувальні бали при виконанні додаткових завдань в них. Загальна сума балів за практикум не має перевищувати максимально можливого балу за нього.
Заохочувальні бали
Студент має змогу отримати додаткові заохочувальні бали за виконання завдань із удосконалення дидактичних та навчальних матеріалів, обробку сучасних наукових робіт з дисципліни - надається від 1 до 10 заохочувальних балів.
Політика щодо академічної доброчесності
Усі роботи (комп’ютерні практикуми та МКР) перевіряються на наявність плагіату і допускаються до захисту із коректними текстовими запозиченнями не більше 20%. Роботи що містять більшу кількість до розгляду і оцінювання не приймаються.
Перескладання контрольних заходів відбувається за наявності поважних причин (наприклад, лікарняний) у встановленому або індивідуальному порядку.
Види контролю та рейтингова система оцінювання результатів навчання (РСО)
Рейтинг студента з дисципліни складається з балів, що він отримує за:
1) виконання 4х комп’ютерних практикумів;
2) дві контрольні роботи.
Система рейтингових (вагових) балів та критерії оцінювання
1. Виконання комп’ютерних практикумів
Ваговий бал - 20. Максимальна кількість балів на всіх комп’ютерних практикумах дорівнює 20 балів × 4 = 80 балів.
| Складова оцінювання | Балів |
|---|---|
|
10 2 4 4 5 2 3 5 |
| Всього | 20 |
Макс. бал знижується за здачу після встановленого терміну (-1 бал за кожен наступний тиждень після, але не більше - 5 балів) та -2 бали за кожну «невдалу» спробу захисту (але не більше -4 балів).
Для зарахування теми необхідно правильно відповісти принаймні на половину питань (максимум 3-5 питань)
2. Модульний контроль
Ваговий бал – 10. Максимальна кількість балів за всі контрольні роботи дорівнює 10 балів × 2 = 20 балів.
Заохочувальні бали за:
- виконання завдань із удосконалення дидактичних та навчальних матеріалів з дисципліни надається від 1 до 10 заохочувальних балів.
Поточний контроль: 2 МКР.
Календарний контроль: провадиться двічі на семестр як моніторинг поточного стану виконання вимог силабусу.
Умови позитивної проміжної атестації
Для отримання “зараховано” з першої проміжної атестації (8 тиждень) студент повинен мати не менше ніж 20 балів (на початок 8 тижня згідно з календарним планом контрольних заходів “ідеальний” студент має отримати 50 балів).
Для отримання “зараховано” з другої проміжної атестації (14 тиждень) студент повинен мати не менше ніж 50 балів (на початок 14 тижня згідно з календарним планом контрольних заходів “ідеальний” студент має отримати 100 балів).
Семестровий контроль: залік
Умови допуску до семестрового контролю: зарахування усіх лабораторних робіт (комп’ютерних практикумів).
Розрахунок шкали (R) рейтингу
Сума рейтингових балів за контрольні заходи протягом семестру складає:
RС = 80 + 20 = 100 балів.
Таблиця відповідності рейтингових балів оцінкам за університетською шкалою:
| Кількість балів | Оцінка |
|---|---|
| 100-95 | Відмінно |
| 94-85 | Дуже добре |
| 84-75 | Добре |
| 74-65 | Задовільно |
| 64-60 | Достатньо |
| Менше 60 | Незадовільно |
| Не виконані умови допуску | Не допущено |
Додаткова інформація з дисципліни (освітнього компонента)
Передбачена можливість зарахування сертифікатів проходження дистанційних чи онлайн курсів по технологіям штучного інтелекту відповідного рівня за умови відповідності програми не менше ніж на 60%. Остаточне рішення по кожному сертифікату приймається викладачем з урахуванням вказаних вимог.
Робочу програму навчальної дисципліни (силабус):
Складено доцентом кафедри ІСТ, к.т.н., доц. Олійником В.В.
Ухвалено кафедрою ІСТ (протокол № 17 від 26.06.2024)
Погоджено Методичною комісією факультету (протокол № 10 від 21.06.2024)
