Universität Wien
Achtung! Das Lehrangebot ist noch nicht vollständig und wird bis Semesterbeginn laufend ergänzt.

052316 VU Deep Learning for Natural Language Processing (2026W)

6.00 ECTS (4.00 SWS), SPL 5 - Informatik und Wirtschaftsinformatik
Prüfungsimmanente Lehrveranstaltung
Moodle
Do 01.10. 09:45-11:15 Hörsaal 2, Währinger Straße 29 2.OG
PC-Seminarraum 3, Kolingasse 14-16, OG02

Details

max. 25 Teilnehmer*innen
Sprache: Englisch

Lehrende

Termine (iCal) - nächster Termin ist mit N markiert

  • Donnerstag 01.10. 11:30 - 13:00 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 08.10. 09:45 - 11:15 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 08.10. 11:30 - 13:00 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 15.10. 09:45 - 11:15 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 15.10. 11:30 - 13:00 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 22.10. 09:45 - 11:15 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 22.10. 11:30 - 13:00 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 29.10. 09:45 - 11:15 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 29.10. 11:30 - 13:00 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 05.11. 09:45 - 11:15 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 05.11. 11:30 - 13:00 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 12.11. 09:45 - 11:15 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 12.11. 11:30 - 13:00 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 19.11. 09:45 - 11:15 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 19.11. 11:30 - 13:00 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 26.11. 09:45 - 11:15 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 26.11. 11:30 - 13:00 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 03.12. 09:45 - 11:15 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 03.12. 11:30 - 13:00 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 10.12. 09:45 - 11:15 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 10.12. 11:30 - 13:00 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 17.12. 09:45 - 11:15 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 17.12. 11:30 - 13:00 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 07.01. 09:45 - 11:15 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 07.01. 11:30 - 13:00 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 14.01. 09:45 - 11:15 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 14.01. 11:30 - 13:00 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 21.01. 09:45 - 11:15 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 21.01. 11:30 - 13:00 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 28.01. 09:45 - 11:15 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02
  • Donnerstag 28.01. 11:30 - 13:00 Hörsaal 2, Währinger Straße 29 2.OG
    PC-Seminarraum 3, Kolingasse 14-16, OG02

Information

Ziele, Inhalte und Methode der Lehrveranstaltung

This course will cover topics related to the application of DL (Deep Learning) techniques for solving NLP (Natural Language Processing) tasks. It will start with a comprehensive introduction of the deep learning paradigms, neural probabilistic language models and word embeddings. Next, it will cover concepts like the encoder-decoder architecture, recurrent neural networks, Attention and contextual embeddings. The course will continue with advanced developments of the recent years such as the Transformer architecture, BERT and its derivatives, T5, GPT-* as well as ChatGPT. An integral part will be the implementation of certain concepts using Python frameworks such as Numpy and Pytorch. There will be 5 practical assignments involving programming projects. Consequently, a solid background of Python is highly relevant and necessary.
(DH students who want to take this lecture need to have passed the lecture "Practical Machine Learning for Natural Language Processing" with very good success, or have equivalent previous knowledge in programming and machine learning, for successfully participating in this lecture.)

Art der Leistungskontrolle und erlaubte Hilfsmittel

- Regular assignments throughout the semester in Moodle 10%
- Practical programming assignments 20%
- Midterm exam 35%
- Final exam 35%

Mindestanforderungen und Beurteilungsmaßstab

The participant must attend at least 75 % of the sessions. The grade is calculated from the total points as follows:

>= 90% very good (1)
>= 80% good (2)
>= 65% satisfactory (3)
>= 50% sufficient (4)
< 50% not sufficient (5)

Prüfungsstoff

Handing in regular assignments throughout the semester in Moodle, solving rogramming exercises. Questions in the exams can be on all topics covered in the lecture and exercise sessions.

Literatur

Dan Jurafsky and James H. Martin: Speech and Language Processing
https://web.stanford.edu/~jurafsky/slp3/

Ian Goodfellow and Yoshua Bengio and Aaron Courville: "Deep Learning", MIT Press, 2016.
https://www.deeplearningbook.org

Ashish Vaswani et al: Attention Is All You Need
https://arxiv.org/abs/1706.03762

Long Ouyang et al.: Training language models to follow instructions with human feedback
https://arxiv.org/abs/2203.02155

John Hewitt: Lecture notes for "COMS 4705: Natural Language Processing"
https://www.cs.columbia.edu/~johnhew/coms4705/index.html

Zuordnung im Vorlesungsverzeichnis

Letzte Änderung: Mo 17.08.2026 12:26