Seminar Responsible AI
This seminar critically examines some dangers of the current hype around Artificial Intelligence (AI) and how they can be tackled. We will explore how Machine Learning (ML) models, which constitute the core of modern AI, should be developed and deployed as a productive, inclusive technology that genuinely benefits people and communities. Groups of max. two students will choose a topic and prepare a talk and thesis which introduce the problems and present possible solutions. We encourage interdisciplinary work and groups. Exemplary topics are bias and fairness in ML, environmental impact of Large Language Models, hallucination in chatbots, data privacy and security, and transparency and explainability in decision support.
The language will be mixed German / English; students can chose their language of choice.
Schein und Anrechenbarkeit
Das Seminar ist anrechenbar für Master Informatik (Mono und Lehramt) und im Master Wirtschaftsinformatik. Voraussetzung für den Schein ist:- die Abgabe einer Outline (Abstract, Struktur, Literaturliste)
- das erfolgreiche Halten eines kurzen (5min) und eines längeren Vortrags (20-30min)
- das Verfassen einer Seminararbeit (10-15 Seiten)
Anmeldung
Die Teilnehmerzahl ist begrenzt, die Anmeldung erfolgt über AGNES.Termine und Ablauf
Das Seminar findet in Präsenz statt. Die Themen werden abstrakt vergeben (siehe unten). Es ist die Aufgabe aller Teilnehmer*innen, zu dem ihnen zugewiesenen Themen zu recherchieren, geeignete Forschungsarbeiten zu identifizieren und den Stand-der-Technik in einer Arbeit und zwei Vorträgen zusammenzufassen. Die folgenden Termine stehen fest:- Am 18.10.2024, 13-15 Uhr, Raum ESZ 0'311, findet die Einführungsveranstaltung statt, die für alle Teilnehmenden verpflichtend ist. Dort wird Inhalt und Ablauf des Seminars vorgestellt, die gruppen gebildet und die Themen erläutert und vergeben.
-
Jede Gruppe muss zwei Vorträge halten:
- Am 20.12.2024 um 13-15 Uhr, Raum ESZ 0'311: Einen 5 Minuten "Teaser Talk" zur Themenvorstellung.
- Termin tba (Semesterende): Einen 30 Minuten Seminarvortrag
-
Jede Gruppe muss zwei schriftliche Abgaben erledigen:
- Bis 15.11.2024: Ein Outline des Themas verfassen (Titel, Abstract, Struktur, Literaturverzeichnis). Markieren Sie die drei für ihre Arbeit wichtigsten Publikationen.
- Bis 31.03.2025: Eine 10-15 seitige Seminararbeit.
Materialien
- Einführungsfolien
- Folien zur Recherche nach wissenschaftlichen Arbeiten
- Folien zu wissenschaftlichen Vorträgen
- Folien zum wissenschaftlichen Schreiben
| Topic | Students | Supervisor |
|---|---|---|
| Bias and Fairness | Ki, Ye | Ulf Leser |
| Factuality, Hallucinations and Trustworthiness in LLMs | Go, Ry | Xing Wang |
| Data privacy, Security and Copyright | Ka, Ow | Oğuz Şerbetçi |
| Exploiting and Attacking AI | dS, vS | Xing Wang |
| Explainability | On, Vo | Oğuz Şerbetçi |
| Model benchmarking | Pah, Sl | Xing Wang |
| Accessibility & Democratization | Pal, Hö | Xing Wang |
| Cultural, Social & Economical Impacts | Ba, Kr | Oğuz Şerbetçi |
| Environmental Impacts & Resource Use | Pe, Fa | Ulf Leser |
| AI ethics | Ko, Li | Oğuz Şerbetçi |