Mit der fortschreitenden Integration von Künstlicher Intelligenz in unser digitales Leben und der Aussicht auf eine von KI geprägte Zukunft, bietet ein neuer Kurs mit dem Titel "Kritische KI" den Studierenden die Möglichkeit, sich mit der Geschichte und den soziokulturellen Auswirkungen dieser transformierenden Technologie auseinanderzusetzen.

Wichtige Erkenntnisse

Der Kurs wird von James "Jed" Dobson, einem außerordentlichen Professor für Englisch und kreatives Schreiben, geleitet.
Die Studierenden untersuchen die Entwicklung von KI, von den Grundlagen neuronaler Netze bis hin zu generativer KI.
Kritische Fragen zu den verwendeten Daten, den Biases und den gesellschaftlichen Auswirkungen von KI werden behandelt.
Der Kurs kombiniert Vorlesungen, praktische Laborsitzungen und Gastvorträge von Experten.

Der Kurs wird im Herbstsemester von James "Jed" Dobson unterrichtet, der auch als Sonderberater des Prorektors für Künstliche Intelligenz für 2024-25 ernannt wurde. Dobson erklärt: "Der Kurs betrachtet Künstliche Intelligenz aus einer geisteswissenschaftlichen Perspektive und wendet kulturelle Kritik an, um ihre Auswirkungen zu bewerten, während wir verstehen, wie diese Technologien entstanden sind, wie sie funktionieren und wie sie scheitern können."

Im Verlauf des Semesters verfolgt der Kurs die Geschichte und Entwicklung von KI, beginnend mit den Grundlagen neuronaler Netze und deren Anwendungen bis hin zur Entstehung von generativer KI, die Computer-Modelle nutzt, um menschliche Sprache zu imitieren und Texte, Bilder, Videos und andere Inhalte zu erstellen.

Die Studierenden stellen auch kritische Fragen zu den Daten, die zur Schulung von Modellen verwendet werden, zu den Biases, die aus der Kuratierung und Kennzeichnung von Daten entstehen, sowie zu den Anwendungen dieser Technologien und deren Auswirkungen auf Gesellschaft und Kultur. Dobson betont: "Wir stellen soziale Fragen, während wir gleichzeitig technische Fragen betrachten, wie etwa was erforderlich ist, um ein Bild oder einen Textabschnitt in Daten umzuwandeln."

Sarah Williams, eine Studentin im Hauptfach Anthropologie mit einer Modifikation in Frauen- und Geschlechterstudien, hebt hervor: "Was für mich am interessantesten war, ist die Auseinandersetzung mit der Arbeit, die in die Erstellung von KI einfließt. Wenn wir OpenAI oder ChatGPT verwenden, produziert nicht unbedingt die Maschine oder das Programm die Antworten, die wir verlangen. Es sind die Hunderte (Tausende) von Datenanalysten, Informatikern und Historikern, die die Arbeit geleistet haben, um eine Antwort zu ermöglichen."

Die Kurse bestehen aus einer Mischung aus Vorlesungen, praktischen Laborsitzungen, in denen die Studierenden mit vortrainierten Netzwerken experimentieren und deren Leistung analysieren, sowie Gastvorträgen von Experten der digitalen Geisteswissenschaften aus anderen Universitäten. Am 31. Oktober sprach Leif Weatherby, außerordentlicher Professor für Deutsch und Direktor der Digital Theory Lab an der New York University, mit der Klasse und lud die Studierenden ein, sich zu einer Reihe von Fragen zu äußern, darunter, in welchen Bereichen ihres zukünftigen Lebens sie glauben, dass KI Einfluss nehmen wird, ob KI intelligent ist, wofür sie generative KI nutzen und wie wir unsere Systeme verbessern können. Weatherby betont, dass das aufkommende Feld der kritischen KI darauf abzielt, die Frage zu stellen: "Was passiert wirklich?"

Dagny Scannell, eine Senior-Studentin im Hauptfach Biologie mit einem Nebenfach Theater, sagt: "Dieser Kurs hat mein Verständnis von KI absolut verändert. Ich wusste zuvor nicht, wie KI-Modelle entstanden sind, und ich beginne jetzt zu erkennen, wie wichtig es ist, die Geschichte und die Einschränkungen von KI und maschinellem Lernen zu verstehen."

Nicholas Nikcevic, der sowohl Englisch als auch Informatik studiert, ist erstaunt über die Entwicklung von KI, die aus der scheinbar einfachen Idee hervorgegangen ist, große Sprachmodelle wie ChatGPT zu trainieren, um das nächste wahrscheinlichste Wort in einer Sequenz vorherzusagen. Er sagt: "Der Kurs hat mich begeistert, die Möglichkeiten zu studieren, die die kritische KI-Theorie bietet, und tief über die Auswirkungen von KI auf verschiedene Branchen wie Softwareentwicklung und Comedy-Schreiben nachzudenken."

Die Studierenden zeigen großes Interesse an Fragen zu Politik und Recht im Zusammenhang mit KI. Dobson war überrascht von dem breiten Interesse an dem Kurs: "Ich habe die größte Vielfalt an Hauptfächern in diesem Kurs, die ich in den meisten Kursen unterrichtet habe, was großartig und aufregend ist."