Обробка та аналіз текстових даних на Python - Силабус освітнього компонента

Реквізити навчальної дисципліни

Рівень вищої освіти Перший (бакалаврський)
Галузь знань 12 Інформаційні технології
Спеціальність 126 Інформаційні системи та технології
Освітня програма Інтегровані інформаційні системи, Інформаційні управляючі системи та технології, Інформаційне забезпечення робототехнічних систем
Статус дисципліни Вибіркова
Форма навчання очна(денна)
Рік підготовки, семестр 3 курс, весняний семестр
Обсяг дисципліни 4 кредити/120 годин (36 годин – лекції, 18 годин – лабораторні, 66 годин – СРС)
Семестровий контроль/ контрольні заходи Залік/залікова робота, МКР, захист лабораторних робіт
Розклад занять http://rozklad.kpi.ua
Мова викладання Українська
Інформація про керівника курсу / викладачів Лектор: ст. викладач Тимофєєва Юлія Сергіївна, yulia.s.timofeeva@gmail.com, Лабораторні: ст. викладач Тимофєєва Юлія Сергіївна, yulia.s.timofeeva@gmail.com,
Розміщення курсу https://classroom.google.com/c/NjYyMTk5MTc5MDgw?cjc=jvbhjpe

Програма навчальної дисципліни

Опис навчальної дисципліни, її мета, предмет вивчання та результати навчання

Під час навчання студенти ознайомляться з основними поняттями, методами та засобами попередньої підготовки, представлення у вигляді векторних моделей, обробки та аналізу текстових даних. На лабораторних заняттях навчаться використовувати основні бібліотеки мови Python для роботи з текстовими даними (NLTK, Gensim, Textblob, spaCy Sсіkіt-lеаrn, Pаndаѕ). Передбачено контроль якості отриманих знань у вигляді модульної контрольної роботи.

Метою навчальної дисципліни

є формування у студентів теоретичних знань і практичних здатностей застосовувати загальні методи і засоби підготовки, статистичної обробки та аналізу текстових даних, використовуючи основні бібліотеки мови Python для роботи з текстовими даними.

Предмет навчальної дисципліни:

методи та засоби обробки та аналізу текстових даних та їх реалізація на мові Python.

Програмні результати навчання, на формування та покращення яких спрямована дисципліна:

ефективно використовувати бібліотеки мови Python для обробки та аналізу текстових даних; правильно обирати методи та алгоритми для попередньої обробки даних; використовувати алгоритми машинного навчання для класифікації, кластеризації, аналізу настроїв і т.д.; ефективно обробляти та аналізувати текстові дані; створювати програми мовою Python для роботи з текстовими даними.

Пререквізити та постреквізити дисципліни (місце в структурно-логічній схемі навчання за відповідною освітньою програмою)

Пререквізити

вміти користуватися комп’ютером, мати базові знання з програмування, структур даних та алгоритмів, математичного аналізу, математичної статистики, мати досвід написання простих програм мовою Python.

Постреквізити

після проходження дисципліни студенти зможуть ефективно обробляти, візуалізувати та аналізувати текстові дані, застосовувати основні алгоритми машинного навчання, вирішувати проблеми обробки природньої мови, використовувати засоби бібліотек NLTK, Gensim, Textblob, spaCy, Sсіkіt-lеаrn, Pаndаѕ.

Зміст навчальної дисципліни

Розділ 1. Основні поняття та попередня обробка текстових даних Тема 1.1 Основні поняття обробки текстових даних Тема 1.2 Попередня обробка текстових даних Тема 1.3 Визначення частин мови Тема 1.4 Статистичні моделі текстових даних Тема 1.5 Моделі текстових даних на основі ШІ Розділ 2. Основні задачі обробки природньої мови Тема 2.1 Класифікація текстів Тема 2.2 Моделі класифікації в scikit-learn Тема 2.3. Моделювання тем Тема 2.4. Вилучення інформації про документ Тема 2.5 Кластеризація текстів Тема 2.6. Семантичний аналіз Тема 2.7. Визначення іменованих сутностей Тема 2.8. Аналіз настроїв Розділ 3. Бібліотека spaCy Тема 3.1. Об’єкти бібліотеки spaCy Тема 3.2. Моделі spaCy Тема 3.3. Перетворювачі spaCy Тема 3.4. Діалогові системи

Навчальні матеріали та ресурси

Базова література

  1. Benjamin Bengfort. Applied Text Analysis with Python. – O’Reilly Media, 2018. – 332p.
  2. Bhargav Srinivasa. Natural Language Processing and Computational Linguistics. – Packt, 2018. – 298p.
  3. Jens Albrecht. Blueprints for Text Analysis Using Python. – O’Reilly Media, 2021. – 422p.
  4. Aman Kedia. Hands-On Python Natural Language Processing. – Packt, 2020. – 304p.

Допоміжна література

  1. Василенко О. А. Математично-статистичні методи аналізу у прикладних дослідженнях: навч. посіб. / О. А. Василенко, І. А. Сенча. – Одеса: ОНАЗ ім. О. С. Попова, 2011. – 166 с.
  2. Sanjeev J. Wagh. Fundamentals of Data Science. — Taylor & Francis Group, LLC, 2022. – 297 р.
  3. Avinash Navlani. Python Data Analysis. —Packt Publishing, 2021. – 463 p.
  4. Joel Grus. Data Science from Scratch. – O’Reilly Media, Inc., 2019. – 513p.

Навчальний контент

Методика опанування навчальної дисципліни (освітнього компонента)

Лекційні заняття

Назва теми лекції та перелік основних питань (перелік дидактичних засобів, посилання на літературу та завдання на СРС)
1 Тема 1.1. Основні поняття обробки текстових даних
Структура дисципліни та РСО. Поняття даних, види даних, текстові дані. Основні поняття задач природньої мови: корпус, сумка слів, n-грами. Методи та задачі аналізу тексту. Бібліотеки для роботи з текстовими даними.
2 Тема 1.2 Попередня обробка текстових даних
Задача та основні етапи попередньої обробки текстових даних. Бібліотека NLTK. Види токенізації. Пошук коренів слів та лем. Видалення стоп-слів.
3 Тема 1.3 Визначення частин мови
Анотування частин мови в бібліотеці NLTK. Основні корпуси бібліотеки NLTK та стандартні функції роботи з ними. Корпус WordNet.
4 Тема 1.4 Статистичні моделі текстових даних
Використання моделей текстових даних. Сумка слів та n-грам. Модель TF-IDF. Формування моделей за допомогою бібліотеки scikit-learn.
5 Тема 1.5 Моделі текстових даних на основі ШІ
Модель Word2Vec та її архітектури. Її реалізація за допомогою бібліотеки Gensim. Модель FastText. Її реалізація та пошук подібних слів. Модель Doc2Vec
6 Тема 2.1 Класифікація текстів
Задача класифікації текстів та підходи до її вирішення. Види класифікації. Етапи підготовки даних до класифікації. Метрики для оцінки моделей класифікації.
7 Тема 2.2 Моделі класифікації в scikit-learn
Основні моделі, які використовуються для класифікації текстів. Наївний байєсів класифікатор з багатьма мітками. Логістична регресія. Опорні вектори. Випадкові ліси. Градієнтний бустинг.
8 Тема 2.3. Моделювання тем
Перша частина модульної контрольної роботи. Задача моделювання тем. Ймовірнісні статистичні моделі для моделювання тем. Приховане семантичне індексування.
9 Тема 2.4. Вилучення інформації про документ
Прихований розподіл Діріхле. Розклад невід’ємних матриць. Виділення ключових фраз. Визначення основних біграм та триграм документу. Узагальнення документів.
10 Тема 2.5 Кластеризація текстів
Міри подібності між документами. Вимірювання відстаней. Ієрархічні моделі кластеризації. Моделі кластеризації на основі розділів. Моделі кластеризації на основі розподілу. Моделі кластеризації на основі щільності.
11 Тема 2.6. Семантичний аналіз
Проблема синтаксичного аналізу. Синтаксичні зв’язки на основі корпусу WordNet. Поняття синсетів. Визначення синонімів, омонімів, гіпонімів, гіпернімів та семантичної подібності.
12 Тема 2.7. Визначення іменованих сутностей
Друга частина модульної контрольної роботи. Задача визначення та види іменованих сутностей. Засоби для визначення іменованих сутностей та їх візуалізації у бібліотеці spaCy.
13 Тема 2.8. Аналіз настроїв
Основні підходи до аналізу настроїв. Використання моделей класифікації для аналізу настроїв. Готові лексикони для аналізу настроїв. Бібліотека Textblob.
14 Тема 3.1. Об’єкти бібліотеки spaCy
Знайомство з бібліотекою spaCy. Конвеєри обробки текстових даних в spaCy. Об’єкти doc, span, token, їх атрибути та методи. Визначення стоп-слів, лем, частин мови за допомогою spaCy.
15 Тема 3.2. Моделі spaCy
Визначення власних навчальних даних та донавчання елементів конвеєру spaCy. Навчання моделей з нуля. Робота з моделями української мови. Компонент для категоризації текстів.
16 Тема 3.3. Перетворювачі spaCy
Функція перетворювачі в бібліотеці spaCy. Недоліки нейронних мереж, які є компонентами конвеєру spaCy. Перенесене навчання.
17 Тема 3.4. Діалогові системи
Види та застосування діалогових систем. Основні підходи до створення чат-ботів. Проблема визначення намірів користувача. Проблема генерації відповідей системи.
18 Залікова робота

Лабораторні заняття

Назва лабораторної роботи Кількість ауд. годин
1 Лабораторна робота №1. Робота з текстовими даними в Python 2
Мета роботи: Ознайомитись з представленням тексту в Python та
з регулярними виразами
2 Лабораторна робота №2. Попередня обробка тексту за допомогою NLTK 2
Мета роботи: Навчитись виконувати попередню обробку текстових даних за допомогою бібліотеки NLTK
3 **Лабораторна робота №3. Моделі текстових даних ** 2
Мета роботи: Ознайомитись з основними текстовими моделями та їх створення за допомогою scikit-learn та genism.
4 Лабораторна робота №4. Класифікація текстових даних 2
Мета роботи: Ознайомитись з класифікацією документів за допомогою моделей машинного навчання.
5 Лабораторна робота №5. Моделювання тем 2
Мета роботи: Ознайомитись з вирішенням задач пошуку ключових слів та моделювання тем.
6 Лабораторна робота №6. Аналіз настроїв 2
Мета роботи: Ознайомитись з вирішенням задачі аналізу настроїв
7 Лабораторна робота №7. Навчання моделей spaCy 2
Мета роботи: Ознайомитись з додаванням власних прикладів до моделей spaCy та компонентом для класифікації текстів.
8 Лабораторна робота №8. Синтаксичні залежності у spaCy 2
Мета роботи: Ознайомитись з використанням класу Matcher. Ознайомитись із синтаксичними залежностями та їх застосуванням для виявлення намірів.
9 Підсумкове заняття 2

Самостійна робота студента/аспіранта

Вид самостійної роботи Кількість годин СРС
1 Підготовка до лабораторних робіт 28
2 Підготовка до МКР 8
3 Опрацювання теоретичного матеріалу 30

Політика та контроль

Політика навчальної дисципліни (освітнього компонента)

Система вимог, які ставляться перед студентом:

  • правила відвідування занять: заборонено оцінювати присутність або відсутність здобувача на аудиторному занятті, в тому числі нараховувати заохочувальні або штрафні бали. Відповідно до РСО даної дисципліни бали нараховують за відповідні види навчальної активності на лекційних та лабораторних заняттях;
  • на лекції викладач користується власним презентаційним матеріалом; використовує гугл-диск для викладання матеріалу поточної лекції, додаткової інформації, завдань до лабораторних робіт та інше;
  • питання на лекції задаються у відведений для цього час;
  • звіти з лабораторних робіт завантажуються напередодні захисту; для захисту лабораторної роботи необхідно продемонструвати роботу відповідної завданню програми та відповісти на питання щодо програми та контрольні питання;
  • модульні контрольні роботи пишуться на лекційних заняттях без застосування допоміжних засобів (мобільні телефони, планшети та ін.); результат завантажується у файлі через гугл-форму до відповідної директорії гугл-диску;
  • заохочувальні бали виставляються за: участь у факультетських та інститутських олімпіадах з навчальних дисциплін, участь у конкурсах робіт, підготовка оглядів наукових праць тощо. Кількість заохочуваних балів не більше 10;
  • штрафні бали виставляються за: несвоєчасне подання лабораторних робіт до захисту без поважних причин; переписування модульної контрольної роботи. Кількість штрафних балів не більше 10.

Види контролю та рейтингова система оцінювання результатів навчання (РСО)

Поточний контроль: МКР, виконання та захист лабораторних робіт. Календарний контроль: проводиться двічі на семестр як моніторинг поточного стану виконання вимог силабусу. Семестровий контроль: залік. Умови допуску до семестрового контролю: виконані та захищені лабораторні роботи, написана модульна контрольна робота. Якщо семестровий рейтинг не менше 60 балів, то залік виставляється автоматично, інакше — студент допускається до залікової контрольної роботи.

Рейтинг студента складається з балів, що він отримує за:

  1. виконання та захист лабораторних робіт;
  2. виконання модульної контрольної роботи;
  3. заохочувальні та штрафні бали.

Система рейтингових балів та критерії оцінювання

Лабораторні завдання
  • «відмінно», пповна відповідь на питання під час захисту (не менш ніж 90% потрібної інформації), повне виконання завдання лабораторної роботи – 9 балів;
  • «добре», достатньо повна відповідь на питання під час захисту (не менш ніж 75% потрібної інформації), повне виконання завдання лабораторної роботи – 7-8 балів;
  • «задовільно», неповна відповідь на питання під час захисту (не менш ніж 60% потрібної інформації), незначні помилки у виконанні завдання лабораторної роботи – 5-6 балів;
  • «незадовільно», незадовільна відповідь та/або значні помилки у виконання завдання лабораторної роботи – 0 балів.

За запізнення з поданням лабораторної роботи до захисту від встановленого терміну оцінка знижується на 1 бал.

Модульні контрольні роботи
  • «відмінно», повна відповідь (не менш ніж 90% потрібної інформації), завдання виконано без помилок, дії обґрунтовано – 14 балів;
  • «добре», достатньо повна відповідь (не менш ніж 75% потрібної інформації), завдання виконано без значних помилок – 10-13 балів;
  • «задовільно», неповна відповідь, в деяких завданнях можуть бути присутні значні помилки, але не менше 60% виконано правильно – 7-9 балів;
  • «незадовільно», незадовільна відповідь (неправильне виконання завдань), потребує обов’язкового повторного написання в кінці семестру – 0 балів.
Заохочувальні бали

за виконання творчих робіт з кредитного модуля (наприклад, участь у факультетських та інститутських олімпіадах з навчальних дисциплін, участь у конкурсах робіт, підготовка оглядів наукових праць тощо) 1-2 бали, але в сумі не більше 10.

Штрафні бали

штрафні бали виставляються за: несвоєчасне подання до захисту лабораторних робіт без поважних причин; переписування модульної контрольної роботи. Кількість штрафних балів не більше 10.

Календарний контроль

За результатами навчальної роботи за перші 7 тижнів максимально можлива кількість балів – 32 бали (2 лабораторних роботи, перша частина модульної контрольної роботи). На першій атестації (8-й тиждень) студент отримує «зараховано», якщо його поточний рейтинг не менший ніж 16 балів.

За результатами 13 тижнів навчання максимально можлива кількість балів – 59 балів (5 лабораторних робіт, перша частина модульної контрольної роботи). На другій атестації (14-й тиждень) студент отримує «зараховано», якщо його поточний рейтинг не менший ніж 30 балів.

Максимальна сума вагових балів контрольних заходів протягом семестру складає:

RD = 8*rл.р.+2*rмкр+ (rз - rш)=8*9+2*14+(rз - rш)=100 + (rз - rш), де rл.р. – бал за лабораторну роботу (0…9); rмкр – бал за написання МКР (0…14); rз – заохочувальні бали (0…10); rзш – штрафні бали (0…10);.

Залік

Студенти, які виконали всі умови допуску до семестрової атестації (написали всі модульні контрольні, виконали і захистили всі лабораторні роботи) та набрали протягом семестру необхідну кількість балів (RD ≥ 60), отримують залікову оцінку (залік) автоматично відповідно до набраного рейтингу (табл. 1, що наведена нижче). У такому разі до заліково-екзаменаційної відомості вносяться бали RD та відповідні оцінки. Студенти, які набрали протягом семестру менше ніж 60 балів та не мають заборгованостей, зобов’язані виконувати залікову контрольну роботу. Залікова контрольна робота містить п’ять питань. Кожне питання оцінюється у 20 балів. Студентам, які протягом семестру набрали більш ніж 60 балів та виконали всі умови допуску, надається можливість виконувати залікову контрольну роботу з метою підвищення оцінки. В такому разі, попередній рейтинг студента з кредитного модуля скасовується і він отримує оцінку з урахуванням результатів залікової контрольної роботи (табл. 1, що наведена нижче).

Система оцінювання питань
  • «відмінно», повна відповідь (не менше 90% потрібної інформації) – 18-20 балів;
  • «добре», достатньо повна відповідь (не менше 75% потрібної інформації, або незначні неточності) – 15-17 балів;
  • «задовільно», неповна відповідь (не менше 60% потрібної інформації та деякі помилки) – 12-14 балів;
  • «незадовільно», незадовільна відповідь – 0-11 балів.

Сума набраних балів RD або балів за залікову роботу переводиться до залікової оцінки згідно з таблицею:

Таблиця 1. Переведення рейтингових балів до оцінок за університетською шкалою
Кількість балів Оцінка
100-95 Відмінно
94-85 Дуже добре
84-75 Добре
74-65 Задовільно
64-60 Достатньо
Менше 60 Незадовільно
Не виконані умови допуску Не допущено

Додаткова інформація з дисципліни (освітнього компонента)

Робочу програму навчальної дисципліни (Силабус): Складено ст. викладач, Тимофєєва Юлія Сергіївна Ухвалено кафедрою ІСТ (протокол № 16 від 12.06.2024 р.) Погоджено Методичною комісією факультету (протокол № 10 від 21.06.2024 р.)