Моделі і методи штучного інтелекту - Робоча програма навчальної дисципліни (Силабус)

Реквізити навчальної дисципліни

Рівень вищої освіти	Перший (бакалаврський)
Галузь знань	12 Інформаційні технології
Спеціальність	126 Інформаційні системи та технології
Освітня програма	Інформаційне забезпечення робототехнічних систем
Статус дисципліни	Вибіркова
Форма навчання	заочна
Рік підготовки, семестр	3 курс, весняний семестр
Обсяг дисципліни	120 год
Семестровий контроль/ контрольні заходи	Залік, МКР
Розклад занять
Мова викладання	Українська
Інформація про керівника курсу / викладачів	к.т.н., доц. Олійник В.В., oliinyk.volodymyr@gmail.com
Розміщення курсу	https://campus.kpi.ua

Програма навчальної дисципліни

Опис навчальної дисципліни, її мета, предмет вивчання та результати навчання

Розвиток сучасних інформаційних систем йде саме в напрямку їх інтелектуалізації, що дозволяє розширити традиційні можливості, застосовувати для задач, що раніше могли вирішуватися виключно людиною. Курс є базовим для інших спеціалізованих технологій штучного інтелекту і дозволяє скласти загальне уявлення про структуру та можливості інтелектуальних технологій та їх практичного застосування в робототехніці.

Метою навчальної дисципліни є формування у студентів базових уявлень, первинних знань, компетенцій та вмінь з основ інтелектуальних технологій, проектування та використання систем, що використовують елементи штучного інтелекту, достатніх для реалізації задач з розробки, дослідження, впровадження та експлуатації інтелектуальних систем різного призначення.

Предметом дисципліни є: основи штучного інтелекту, основні підходи до побудови інтелектуальних систем; принципи побудови систем на основі станів, змінних та знань, їх особливості та сфери застосування; методи пошуку в просторі станів, в умовах протидії та невизначеності; місце навчання в інтелектуальних системах та навчання з підкріпленням.

В результаті вивчення дисципліни слухачі мають знати:

роль, місце, тенденції та перспективи моделей і методів ШІ;
основні моделі штучного інтелекту та сфери їх застосування;
типові методи основних моделей штучного інтелекту;
основні підходи до побудови систем штучного інтелекту та технологій їх розробки.

В результаті вивчення дисципліни слухачі мають вміти:

вибирати раціональні моделі і методи штучного інтелекту для розв’язання поставленої задачі.
застосовувати технології штучного інтелекту для вирішення практичних задач;
програмно реалізовувати методи і моделі штучного інтелекту;
проектувати та використовувати системи, що використовують елементи штучного інтелекту;
оцінювати ефективність розроблених інтелектуальних моделей.

Пререквізити та постреквізити дисципліни (місце в структурно-логічній схемі навчання за відповідною освітньою програмою)

Для успішного засвоєння дисципліни необхідні базові знання з вищої та дискретної математики, теорії алгоритмів, теорії імовірності та мат. статистики, навики програмування, бажано на мові Python.

Результати навчання даної дисципліни використовують у дипломному проектуванні та у спеціалізованих дисциплінах ШІ, таких як технології глибокого навчання, нейронні мережі тощо.

Зміст навчальної дисципліни

Тема 1. Основи інтелектуальних технологій

Тема1.1. Поняття і огляд моделей штучного інтелекту

Підходи до розуміння інтелекту та поняття штучного інтелекту, сфери застосування інтелектуальних технологій, сучасний стан та коротка історія, доцільність використання. Парадигма вирішення задач інтелектуальними системами, концептуальна модель системи штучного інтелекту та її складові: моделювання, виведення, навчання. Структура курсу: загальний огляд методів та моделей.

Тема 2. Моделі машинного і глибокого навчання

Тема 2.1. Моделі машинного навчання

Поняття машинного навчання, контрольоване навчання, лінійний предиктор, функція втрат, оптимізація моделей, алгоритм стохастичного градієнтного спуску.

Тема 2.2. Моделі глибокого навчання

Інженерія ознак, нейронні мережі, узагальнюючі можливості моделей, проблема перенавчання, налаштування гіперпараметрів і валідація моделей

Тема 2.3. Основні архітектури нейронних мереж. Неконтрольоване навчання.

Узагальнюючі можливості моделей машинного навчання, поняття перенавчання та способи його уникнення. Навчання «без вчителя», алгоритм K-середніх.

Тема 3. Моделі на основі станів

Тема 3.1. Дослідження простору станів. Неінформовані методи пошуку

Тема 3.2. Інформовані методи пошуку

Суть інформованого пошуку. Алгоритми: жадібний пошук, А*, рекурсивний пошук за першим найкращим співпадінням, SMA*. Поняття евристичної функції, вимоги до неї, оцінка якості та способи побудови.

Тема 3.3. Марківські процеси прийняття рішень

Тема 3.4. Навчання з підкріпленням

Суть навчання з підкріпленням. Методи Монте-Карло: модельно-орієнтований та безмодельний. Методи бутсрепінгу: SARSA, Q-навчання. Дослідження невідомого середовища: епсілон-жадібна стратегія. Використання моделей машинного навчання.

Тема 3.5. Пошук в умовах протидії

Поняття пошуку в умовах протидії. Моделювання вгор. Оцінювання ігор Алгоритми: Expectimax, Minimax, Expectiminimax. Прискорення пошуку: використання функцій оцінки та альфа-бета відсікання. Вихначення оціночних функці шляхом навчання.

Тема 4. Моделі на основі змінних

Тема 4.1. Фактор-графи. Задачі задоволення обмежень

Суть та сфера застосування моделей на основі змінних, приклади задач. Поняття факторного графу, формалізація задач за допомогою фактор-графів. Поняття та види задач задоволення обмежень. Пошук з поверненням та евристики для його прискорення. Методи локального пошуку: жадібний, променевий, ICM, семплінг за Гібсом, генетичні алгоритми.

Тема 4.2. Ймовірності моделі факторних графів.

Марківські мережі як ймовірнісні фактор-графи. Використання семплінгу Гібса для пошуку в них. Байєсівські мережі: види моделей та приклади задач. Процес імовірнісного виведення. Навчання Байєсівських мереж.

Тема 5. Моделі на основі знань

Тема 5.1. Моделі подання знань в інтелектуальних системах

Поняття знань та відмінність їх відмінність від даних. Способи подання та обробки знань. Формальна модель подання знань. Моделі на основі продукційних правил, мережеві семантичні моделі, моделі на основі логіки. Системи штучного інтелекту на основі знань.

Тема 5.2. Інтелектуальні системи на основі логіки

Системи подання знань на основі логіки, особливості, сфера застосування. Синтаксис та семантика. Види: логіка висловлювань, предикатів. База знань на основі логіки: отримання нових знань, процес логічного виведення

Тема 5.3. Моделі ШІ на основі великих мовних моделей

Що собою являє LLM. Огляд сучасних LLM. Загальні принципи їх навчання та використання. Інженерія запитів. Обмеження сучасних моделей та подальші перспективи. AGI на основі LLM.

Тема 6. Сучасний стан і перспективи ШІ

Тема 6.1. Генеративний ШІ

Поняття генеративного ШІ. Сучасні моделі для генерації зображень і тексту.

Тема 6.2. Сучасний стан, перспективи та виклики ШІ

Сучасні моделі ШІ, огляд актуальних досягнень. Проблеми і виклики ШІ. Перспективи і напрямки розвитку моделей ШІ.

Навчальні матеріали та ресурси

Базова література:

Рассел С., Норвиг П. Искусственный интеллект. Современный подход. – К.:Диалектика, 2007. – 1408 с. http://aima.cs.berkeley.edu/
Ямпольський Л.С. Гнучкі комп’ютерно-інтегровані системи: планування, моделювання, верифікація, управління. Кн. 2. Штучний інтелект в плануванні і керуванні виробничими процесами: підручник / Л.С. Ямпольський, П.П. Мельничук, К.Б .Остапченко, О.І. Лісовиченко – Житомир: ЖДТУ, 2010. – 786 с.
Глибовець М.М., Олецький О.В. Штучний інтелект: підручник. – К.: Вид. дім “КМ Академія”, 2002. – 368 с.

Додаткова література:

Ямпольський Л.С. Нейротехнології та нейрокомп’ютерні ситеми / Ямпольський Л.С., Лісовиченко О.І., Олійник В.В. // Дорадо-друк, Київ, 2016. – 571 с.
Ямпольський Л.С., Лавров О.А. Штучний інтелект у плануванні та управлінні виробництвом: Підручник. – К.: Вища шк., 1995. – 255 с.
Trevor Hastie, Robert Tibshirani, Jerome Friedman. Elements of Statistical Learning: Data Mining, Inference, and Prediction. Second Edition. Springer, 2009. - 767p.
Daphne Koller, Nir Friedman. Probabilistic Graphical Models: Principles and Techniques. MIT Press, 2009. – 1231 p.
Richard S. Sutton, Andrew G. Barto. Reinforcement Learning : An Introduction MIT Press, Adaptive Computation and Machine Learning Ser.: 2018. - 552 p.
Edward Tsang. Foundations of constraint satisfaction. Academic Press, 1996. - 440p. http://cse.unl.edu/~choueiry/Documents/TsangTextbook/Tsang-Fcs1993-Toc.pdf

Інші навчальні матеріали та їх електронні версії:

https://drive.google.com/drive/folders/1dZJBOfg\_XfQ7BzVv38ls0097L-smt0N3?usp=sharing

Навчальний контент

Методика опанування навчальної дисципліни (освітнього компонента)

Вивчення навчальної дисципліни відбувається за наступним планом:

Тема 1. Основи інтелектуальних технологій

Тема 2. Моделі машинного і глибокого навчання

Лекція 1. Моделі машинного і глибокого навчання

Огляд ШІ і моделей ШІ. Поняття машинного навчання, контрольоване навчання, лінійний предиктор, функція втрат, оптимізація моделей, алгоритм стохастичного градієнтного спуску. Інженерія ознак, нейронні мережі, узагальнюючі можливості моделей, проблема перенавчання, налаштування гіперпараметрів і валідація моделей. Узагальнюючі можливості моделей машинного навчання, поняття перенавчання та способи його уникнення. Навчання «без вчителя», алгоритм K-середніх.

Комп. практикум 1. Моделі машинного навчання

Знайомство з принципами функціонування, створення, навчання та використання моделей машинного навчання і глибокого навчання.

Тема 3. Моделі на основі станів

Лекція 2. Моделі ШІ на основі станів. Неінформовані та інформовані методи пошуку. Пошук в умовах протидії

Суть та сфера застосування. Поняття стану, формалізація задач та побудова дерев станів. Алгоритми: пошук з поверненням, пошук вшир та вглиб, пошук з обмеженням глибини та з ітеративним заглибленням, пошук за критерієм вартості. Методи пошуку в графі: динамічне програмування. Суть інформованого пошуку. Алгоритми: жадібний пошук, А*, рекурсивний пошук за першим найкращим співпадінням, SMA*. Поняття евристичної функції, вимоги до неї, оцінка якості та способи побудови. Поняття пошуку в умовах протидії. Моделювання вгор. Оцінювання ігор Алгоритми: Expectimax, Minimax, Expectiminimax. Прискорення пошуку: використання функцій оцінки та альфа-бета відсікання. Вихначення оціночних функці шляхом навчання.

Комп. практикум 2. Методи пошуку в умовах протидії

Знайомство з методами пошуку в умовах протидії та дослідження їх в типовому ігровому середовищі.

Лекція 3. Моделі ШІ для прийняття рішень в умовах стохастичності і невідомості

Пошук в умовах невизначеності. Поняття марківських процесів. Оцінка стратегій, метод ітеративного оцінювання стратегій. Знаходження оптимальних стратегій: ітерація за цінністю. Суть навчання з підкріпленням. Методи Монте-Карло: модельно-орієнтований та безмодельний. Методи бутсрепінгу: SARSA, Q-навчання. Дослідження невідомого середовища: епсілон-жадібна стратегія. Використання моделей машинного навчання.

Комп. практикум 3. Ймовірносні моделі на основі станів і навчання з підкріпленням

Знайомство з методами пошуку в умовах невідомості та навчання з підкріпленням в моделях на основі станів.

при вивченні навчальної дисципліни користуються дидактичними засобами, зокрема, комп‘ютерними презентаціями тем лекцій, інтерактивними засобами візуалізації та моделювання алгоритмів, що вивчаються, та зразками коду для їх реалізації.

Комп‘ютерні практикуми виконуються на основі методичних матеріалів до їх виконання. При виконанні комп’ютерних практикумів слід використовувати програмне забезпечення – сучасні середовища розробки програмного забезпечення. При цьому студент не обмежується у виборі засобу реалізації поставленої в роботі задачі. Основною вимогою є повнота розв’язання поставленої задачі та можливість демонстрації роботи та отриманих результатів в комп’ютеризованій аудиторії.

Самостійна робота студента/аспіранта

Метою самостійної роботи є засвоєння студентами знань з тем дисципліни та їх закріплення, поглибленого вивчення матеріалу, а також розвиток у студентів навичок самостійної роботи з технологіями штучного інтелекту у межах основних тем.

Обсяг самостійної роботи – 108 год.

На самостійну роботу виносяться наступні питання:

Лекція 10. Фактор-графи. Задачі задоволення обмежень

Лекція 11. Ймовірності моделі факторних графів.

Лекція 12. Моделі подання знань в інтелектуальних системах

Лекція 13. Інтелектуальні системи на основі логіки

Лекція 13. Моделі ШІ на основі великих мовних моделей

Лекція 15. Генеративний ШІ

Лекція 16. Сучасний стан, перспективи та виклики ШІ

- нейро-фаззі технології;

- застосування технологій штучного інтелекту в задачах розпізнавання образів;

- практична реалізація інтелектуальних агентів на основі теорії корисності;

- інші сучасні дослідження в області технологій штучного інтелекту.

Політика та контроль

Політика навчальної дисципліни (освітнього компонента)

Порядок виконання та захисту лабораторих робіт (комп’ютерних практикумів)

Студент виконує комп’ютерні практикуми самостійно або у бригаді з двох осіб (з відповідним збільшенням обсягів роботи та погодження з викладачем та якщо практикум це передбачає).

Демонстрація поточних результатів, обговорення питань по роботам та ін. відбувається за розкладом лабораторних робіт після захисту готових робіт згідно календарного плану їх виконання та в час консультації викладача.

Для захисту студент попередньо надсилає оформлений звіт через Google Class. В процесі захисту студент демонструє програмну реалізацію та відповідає на запитання по роботі та пов’язаному теоретичному матеріалу (3-5 питань). Для успішного захисту практикуму необхідно правильно відповісти принаймні на половину з питань.

За здачу після встановленого терміну без поважних причин максимальний бал за роботу знижується : -1 бали за кожен наступний тиждень після (але не більше - 6 балів).

Крім того максимальний бал за роботу знижується на 2 бали за кожну «невдалу» спробу захисту (але не більше -4 балів).

За практикуми можна отримати додаткові заохочувальні бали при виконанні додаткових завдань в них. Загальна сума балів за практикум не має перевищувати 20.

Заохочувальні бали

Студент має змогу отримати додаткові заохочувальні бали за виконання завдань із удосконалення дидактичних та навчальних матеріалів, обробку сучасних наукових робіт з дисципліни - надається від 1 до 10 заохочувальних балів.

Політика щодо академічної доброчесності

Усі роботи (комп’ютерні практикуми та МКР) перевіряються на наявність плагіату і допускаються до захисту із коректними текстовими запозиченнями не більше 20%. Роботи що містять більшу кількість до розгляду і оцінювання не приймаються.

Перескладання контрольних заходів відбувається за наявності поважних причин (наприклад, лікарняний) у встановленому або індивідуальному порядку.

Види контролю та рейтингова система оцінювання результатів навчання (РСО)

Рейтинг студента з дисципліни складається з балів, що він отримує за:

виконання і захист 3х комп’ютерних практикумів;
дві модульні контрольні роботи.

Система рейтингових (вагових) балів та критерії оцінювання

1. Виконання комп’ютерних практикумів

Ваговий бал - 20. Максимальна кількість балів на всіх комп’ютерних практикумах дорівнює 15 балів × 3 = 60 балів.

Складові оцінки:

Програмна реалізація алгоритмів – 5 балів
Експериментальне дослідження/порівняння алгоритмів – 5 балів
Звіт (відповідність структурі, презентація результатів роботи, якість та обґрунтування інформації, висновки) – 5 балів
Захист – 5 балів

2. Модульний контроль

Ваговий бал – 20. Максимальна кількість балів за всі контрольні роботи дорівнює 20 балів × 2 = 40 балів.

Заохочувальні бали за:

- виконання завдань із удосконалення дидактичних та навчальних матеріалів, обробки сучасних наукових робіт з дисципліни надається від 1 до 10 заохочувальних балів.

Поточний контроль: 2 МКР.

Календарний контроль: провадиться двічі на семестр як моніторинг поточного стану виконання вимог силабусу.

Семестровий контроль: залік

Умови допуску до семестрового контролю: зарахування усіх лабораторних робіт (комп’ютерних практикумів).

Розрахунок шкали (R) рейтингу

Сума рейтингових балів за контрольні заходи протягом семестру складає:

R_С = 60 + 40 = 100 балів.

Таблиця відповідності рейтингових балів оцінкам за університетською шкалою:

Кількість балів	Оцінка
100-95	Відмінно
94-85	Дуже добре
84-75	Добре
74-65	Задовільно
64-60	Достатньо
Менше 60	Незадовільно
Не виконані умови допуску	Не допущено

Додаткова інформація з дисципліни (освітнього компонента)

Передбачена можливість зарахування сертифікатів проходження дистанційних чи онлайн курсів по технологіям штучного інтелекту відповідного рівня за умови відповідності програми не менше ніж на 60%. Остаточне рішення по кожному сертифікату приймається викладачем з урахуванням вказаних вимог.

Робочу програму навчальної дисципліни (силабус):

Складено доцентом кафедри ІСТ, к.т.н., доц. Олійником В.В.

Ухвалено кафедрою ІСТ (протокол № 21 від 29.06.2023)

Погоджено Методичною комісією факультету (протокол № 11 від 29.06.2023)