Сучасні методи обробки масивів даних - Робоча програма навчальної дисципліни (Силабус)

Реквізити навчальної дисципліни

Програма навчальної дисципліни

Опис навчальної дисципліни, її мета, предмет вивчання та результати навчання

Опис дисципліни

Під час навчання студенти отримають теоретичні знання та практичні навички роботи з масивами даних, ознайомляться з основними сучасними поняттями, методами та засобами обробки масивів даних. Навчаться збирати, зберігати, оперувати, аналізувати масиви даних, створювати конвеєри з обробки масивів даних, використовуючи сучасні програмні засоби. Передбачено контроль якості отриманих знань у вигляді модульної контрольної роботи.

Предмет навчальної дисципліни

масиви даних, методи та засоби їх зберігання, обробки та аналізу.

Міждисциплінарні зв’язки

Дисципліна базується на дисциплінах:

• Вища математика
• Програмування – 1. Основи програмування
• Інфраструктура інформаційних технологій
• Теорія ймовірностей та математична статистика

Мета навчальної дисципліни

Метою навчальної дисципліни є формування у студентів теоретичних знань і практичних здатностей застосовувати сучасні методи і засоби збирання, зберігання, аналізу та обробки масивів даних.

Основні завдання навчальної дисципліни

Знання:

• методів та засобів агрегації та інтегрування масивів даних різних типів з різних джерел;
• методів та засобів проектування сховищ для зберігання масивів даних;
• методів, засобів та інструментів інтелектуальної обробки масивів даних;
• методів та засобів побудови конвеєрів для обробки масивів даних;
• методів та засобів отримання знання з масивів даних.

Уміння:

• використовувати інструментальні засоби інтеграції різнотипових масивів даних;
• правильно обирати та використовувати методи, алгоритми та інструменти для фільтрації, валідації та зберігання масивів даних;
• отримувати знання шляхом аналізу масивів даних;
• проєктувати та розробляти конвеєри для обробки масивів даних та для їх аналізу методами машинного навчання, та прийняття рішень на основі отриманої інформації.

Пререквізити та постреквізити дисципліни (місце в структурно-логічній схемі навчання за відповідною освітньою програмою)

Пререквізити

мати знання з програмування, структур даних та алгоритмів, вищої математики, теорії ймовірностей та математичної статистики, статистичних методів аналізу даних, штучного інтелекту.

Постреквізити

після проходження дисципліни студенти матимуть теоретичні знання та практичні навички, які необхідні для провадження інженерної та наукової діяльності в області аналізу масивів даних, їх інтелектуальної обробки і створення відповідних прикладних інформаційних програм.

Зміст навчальної дисципліни

Лекційні заняття

• Розділ 1. Сучасна інфраструктура даних
• Розділ 2. Платформи для організації конвеєрів даних
• Розділ 3. Основні етапи обробки даних
• Розділ 4. Конвеєри даних для машинного навчання

Лабораторні заняття

1. Перевірка даних в конвеєрі Apache Airflow
2. Моделювання даних в конвеєрі Apache Airflow
3. Базове знайомство з Apache Kafka
4. Виробники та споживачі Apache Kafka
5. Базове знайомство з Kafka Stream
6. Операції зі збереженням стану у Kafka Stream
7. Операції з вікнами у Kafka Stream

Навчальні матеріали та ресурси

Базова література

1. Ted Malaska. Rebuilding Reliable Data Pipelines Through Modern Tools, 2019. – O’Reilly, 99 p.
2. James Densmore. Data Pipelines Pocket Reference. – O’Reilly, 2020. – 277 p.
3. Alice LaPlantere. Developing Modern Applications with a Converged Database. – O’Reilly, 2021. – 51 p.
4. Florin Pop, Gabriel Neagu. Big Data Platforms and Applications. — Springer, 2021. – 300 p.
5. Hannes Hapke, Catherine Nelson. Building Machine Learning Pipelines. – O’Reilly, 2020. – 367p.

Допоміжна література

1. Martin Kleppmann. Designing Data-Intensive Applications. – O’Reilly, 2017. – 613p.

Навчальний контент

Методика опанування навчальної дисципліни (освітнього компонента)

Лекційні заняття

Лабораторні заняття

Самостійна робота студента/аспіранта

Політика та контроль

Політика навчальної дисципліни (освітнього компонента)

Система вимог, які ставляться перед студентом:

• відвідування лекційних та лабораторних занять є обов’язковою складовою вивчення матеріалу;
• на лекції викладач користується власним презентаційним матеріалом; використовує гугл-диск для викладання матеріалу поточної лекції, додаткової інформації, завдань до лабораторних робіт та інше;
• питання на лекції задаються у відведений для цього час;
• звіти з лабораторних робіт завантажуються напередодні захисту; для захисту лабораторної роботи необхідно продемонструвати роботу відповідної завданню програми та відповісти на питання щодо програми та контрольні питання;
• модульні контрольні роботи пишуться на лекційних заняттях без застосування допоміжних засобів (мобільні телефони, планшети та ін.); результат завантажується у файлі через гугл-форму до відповідної директорії гугл-диску;
• заохочувальні бали виставляються за: участь у факультетських та інститутських олімпіадах з навчальних дисциплін, участь у конкурсах робіт, підготовка оглядів наукових праць тощо. Кількість заохочуваних балів не більше 10;
• штрафні бали виставляються за: несвоєчасну здачу лабораторних робіт без поважних причин; переписування модульної контрольної роботи. Кількість штрафних балів не більше 10.

Види контролю та рейтингова система оцінювання результатів навчання (РСО)

Рейтинг студента складається з балів, що він отримує за:

1. виконання та захист лабораторних робіт;
2. виконання модульної контрольної роботи;
3. заохочувальні та штрафні бали.

Система рейтингових балів та критерії оцінювання

Денна форма навчання:

Лабораторні завдання

• «відмінно», пповна відповідь на питання під час захисту (не менш ніж 90% потрібної інформації), повне виконання завдання лабораторної роботи – 10 балів;
• «добре», достатньо повна відповідь на питання під час захисту (не менш ніж 75% потрібної інформації), повне виконання завдання лабораторної роботи – 8 балів;
• «задовільно», неповна відповідь на питання під час захисту (не менш ніж 60% потрібної інформації), незначні помилки у виконанні завдання лабораторної роботи – 6 балів;
• «незадовільно», незадовільна відповідь та/або значні помилки у виконання завдання лабораторної роботи – 0 балів.

За запізнення з поданням лабораторної роботи до захисту від встановленого терміну оцінка знижується на 1 бал.

Модульні контрольні роботи

• «відмінно», повна відповідь (не менш ніж 90% потрібної інформації), завдання виконано без помилок, дії обґрунтовано – 15 балів;
• «добре», достатньо повна відповідь (не менш ніж 75% потрібної інформації), завдання виконано без значних помилок – 12-14 балів;
• «задовільно», неповна відповідь, в деяких завданнях можуть бути присутні значні помилки, але не менше 60% виконано правильно – 9-11 балів;
• «незадовільно», незадовільна відповідь (неправильне виконання завдань), потребує обов’язкового повторного написання в кінці семестру – 0 балів.

Заохочувальні бали

за виконання творчих робіт з кредитного модуля (наприклад, участь у факультетських та інститутських олімпіадах з навчальних дисциплін, участь у конкурсах робіт, підготовка оглядів наукових праць тощо) 1-2 бали, але в сумі не більше 10.

Міжсесійна атестація

За результатами навчальної роботи за перші 7 тижнів максимально можлива кількість балів – 45 балів (3 лабораторних завдань, перша частина модульної контрольної роботи). На першій атестації (8-й тиждень) студент отримує «зараховано», якщо його поточний рейтинг не менший ніж 22 бали.

За результатами 13 тижнів навчання максимально можлива кількість балів – 90 балів (6 лабораторних завдань, модульна контрольна робота). На другій атестації (14-й тиждень) студент отримує «зараховано», якщо його поточний рейтинг не менший ніж 45 балів.

Максимальна сума вагових балів контрольних заходів протягом семестру складає:

RD = 7*r_л.р.+2*r_мкр+ (r_з - r_ш)=7*10+2*15+(r_з - r_ш)=100 + (r_з - r_ш), де r_л.р. – бал за лабораторну роботу (0…10); r_мкр – бал за написання МКР (0…15); r_з – заохочувальні бали (0…10); r_зш – штрафні бали (0…10);.

Залік

Студенти, які виконали всі умови допуску до семестрової атестації (написали всі модульні контрольні, виконали і захистили всі лабораторні роботи) та набрали протягом семестру необхідну кількість балів (RD ≥ 60), отримують залікову оцінку (залік) автоматично відповідно до набраного рейтингу (табл. 1, що наведена нижче). У такому разі до заліково-екзаменаційної відомості вносяться бали RD та відповідні оцінки. Студенти, які набрали протягом семестру менше ніж 60 балів та не мають заборгованостей, зобов’язані виконувати залікову контрольну роботу. Залікова контрольна робота містить п’ять питань. Кожне питання оцінюється у 20 балів. Студентам, які протягом семестру набрали більш ніж 60 балів та виконали всі умови допуску, надається можливість виконувати залікову контрольну роботу з метою підвищення оцінки. В такому разі, попередній рейтинг студента з кредитного модуля скасовується і він отримує оцінку з урахуванням результатів залікової контрольної роботи (табл. 1, що наведена нижче).

Система оцінювання питань

• «відмінно», повна відповідь (не менше 90% потрібної інформації) – 18-20 балів;
• «добре», достатньо повна відповідь (не менше 75% потрібної інформації, або незначні неточності) – 15-17 балів;
• «задовільно», неповна відповідь (не менше 60% потрібної інформації та деякі помилки) – 12-14 балів;
• «незадовільно», незадовільна відповідь – 0-11 балів.

Сума набраних балів RD або балів за залікову роботу переводиться до залікової оцінки згідно з таблицею:

Таблиця 1. Переведення рейтингових балів до оцінок за університетською шкалою

Додаткова інформація з дисципліни (освітнього компонента)

Робочу програму навчальної дисципліни (Силабус): Складено ст. викладач, Тимофєєва Юлія Сергіївна Ухвалено кафедрою ІТС (протокол № 13 від 15.06.2022 р.) Погоджено Методичною комісією факультету[1] (протокол № 11 від 07.07.2022 р.)