„Momentan eher Risiko als echter Nutzen“

Welches Potenzial sehen Sie grundsätzlich in Sprachmodellen wie ChatGPT? Könnten diese Ihrer Einschätzung nach in absehbarer Zeit Suchmaschinen wie Google ablösen?

In ihrem derzeitigen Zustand sind große Sprachmodelle wie ChatGPT und GPT-4 noch nicht in der Lage, die klassischen Suchmaschinen zu ersetzen, da sie im Gegensatz zu diesen nicht auf aktuelle Daten zurückgreifen, sondern auf einen mehrere Monate (oder sogar Jahre) alten Trainingsdatensatz. Dies beginnt sich jedoch gerade zu ändern: Bing Chat ist ein Beispiel dafür. Es nutzt schon jetzt Inhalte aus Online-Suchen und erzeugt mit Sprachmodell-Funktionen flüssige Dialogantworten auf Fragen der Nutzenden. Aber auch in diesem Modell ist die „statische“ Sprachkomponente, die für die Führung des Dialogs verantwortlich ist, von der „Online“-Komponente getrennt, die das Web durchsucht. Ein Sprachmodell an sich wird also auch in näherer Zukunft keine Suchmaschine ersetzen, sondern lediglich mit ihr verbunden sein. Ob diese Art von Schnittstelle zur bevorzugten Methode der Websuche wird, hängt von den Vorlieben der Nutzenden ab.

Wenn wir nun auf bestimmte Berufsstände schauen – halten Sie es für möglich, dass die Sprachmodelle irgendwann etwa Programmierer:innen überflüssig machen könnten?

Das ist aktuell noch schwierig zu beantworten. Derzeit scheinen die Sprachmodelle noch nicht bereit zu sein, Programmierende zu ersetzen, und sie werden es auch in naher Zukunft nicht sein. Der jüngste GitHub Copilot hat gezeigt, dass die Modelle zwar gute Code-Vorschläge liefern können, der Code aber immer noch Fehler enthalten kann, die von einer menschlichen Programmiererin korrigiert werden müssen. Zwar sehen wir gerade große Fortschritte bei der Codegenerierung, die gerade den größeren Modellen gelingen, aber wir sind noch weit davon entfernt, dass lange, komplexe Programme von Grund auf generiert werden können. Bei anspruchsvollen Programmierszenarien, wie dem Entwurf kritischer Infrastrukturen, würde der Übergang zu KI als Programmiererin noch langsamer vonstattengehen.

Und wie schätzen Sie in dieser Hinsicht die Perspektive für Journalist:innen und Autor:innen ein?

In schreibintensiven Bereichen wie dem Journalismus könnten Sprachmodelle die menschliche Arbeitsbelastung reduzieren, indem sie Vorlagen für Artikel erstellen. Doch ihre Eignung für alle faktenbezogenen Bereiche wird stark von der Vertrauenswürdigkeit abhängen, die sie in Zukunft erlangen. Das Wissen darüber, dass diese Modelle halluzinieren können, scheint glücklicherweise immer mehr Nutzenden bekannt zu sein. Solange die Probleme dahinter nicht gelöst sind, werden Sprachmodelle nicht in der Lage sein, eine menschliche Journalistin zu ersetzen.

Sprachmodelle könnten in Zukunft aber in der Tat im Bereich des kreativen Schreibens zum Einsatz kommen, indem sie beispielsweise einer menschlichen Autorin Vorschläge oder Ideen liefern. Kreativität profitiert oft vom Brainstorming mit anderen – eine Rolle, bei der ein Sprachassistent helfen könnte. Letztendlich werden kreative Bereiche jedoch durch den natürlichen Wunsch des Menschen nach künstlerischem Ausdruck angetrieben, so dass immer eine menschliche Komponente vorhanden sein wird, egal wie gut die Modelle auch sein mögen.

In welchen Bereichen von Wissenschaft, Kultur, Arbeitswelt und Gesellschaft können die Modelle gewinnbringend eingesetzt werden?

Sprachmodelle sind für uns Forschende interessant, da sie sehr gut darin sind, unterschiedlichste Texttypen zu erzeugen. Solange die gewünschte Ausgabe hinreichend beschrieben ist, sind sie sehr vielseitig und können Filmkritiken, informelle Dialoge in einem bestimmten Duktus oder Slang oder Sätze mit bestimmten grammatikalischen Eigenschaften erzeugen. Solche Texte werden häufig für die Forschung im Bereich des maschinellen Lernens zur Erstellung von Trainingsdaten benötigt, sind aber entweder kaum vorhanden oder nur mit hohem Aufwand durch Menschen zu erstellen. Eine mögliche nützliche Anwendung von Sprachmodellen in der Wissenschaft ist daher die Datengenerierung. Dies würde die Notwendigkeit verringern, sich auf Menschen zu verlassen, für die solche Generierungsaufgaben mühsam sind und zu Fehlern verleiten. In diesem Szenario müsste der Mensch nur die vom Sprachmodell erzeugte Ausgabe auf ihre Qualität hin überprüfen, anstatt selbst einen ganzen Text zu erstellen. Und in der Tat wird ChatGPT schon jetzt für genau diesen Zweck eingesetzt.

Auch in der Arbeitswelt abseits der Wissenschaft finden Sprachassistenten bereits in begrenztem Umfang Verwendung, zum Beispiel bei der automatischen Vervollständigung und für Antwortvorschläge auf E-Mails. Sprachmodelle in ihrer jetzigen Form können in dieser Hinsicht menschliche Arbeit erleichtern, indem sie Vorlagen für E-Mails oder Briefe vorschlagen oder sogar ganze Texte schreiben, die ein Mensch nur noch bestätigen muss. Dies würde den Arbeitsaufwand für die Kommunikation erheblich erleichtern.

Ich habe bereits erwähnt, dass und wie Sprachmodelle auch in Bereichen wie dem Journalismus zum Einsatz kommen könnten, doch müssten sie dafür erst noch faktisch zuverlässiger und insgesamt besser werden. Momentan würde ihr Einsatz auf breiter Basis eher ein Risiko als einen echten Nutzen darstellen.

Welche Herausforderungen bringen die Sprachmodell für das Bildungssystem mit sich? Sehen Sie auch Chancen?

Festhalten sollten wir, dass Schulen einen guten Grund haben, sich dafür zu interessieren, ob der Text einer Schülerin von einem Modell wie ChatGPT erstellt wurde oder nicht. Es gibt zwar schon die ersten Erkennungsmethoden, aber sie sind nicht perfekt und können immer noch menschlichen Text fälschlicherweise als KI-generiert klassifizieren (oder umgekehrt). Dies wird absehbar zu Problemen führen, da noch völlig unklar ist, ob der Einsatz eines Sprachmodells bei der Bearbeitung von Aufgaben wünschenswert ist oder nicht. Gegen den Einsatz könnte sprechen, dass das Delegieren von akademischen Arbeiten an ein Sprachmodell nicht wirklich dabei hilft, eigene Skills in diesem Bereich zu entwickeln. Richtig eingesetzt könnte ein Sprachmodell jedoch auch dabei helfen, (wissenschaftliches) Schreiben zu erlernen, indem beispielsweise automatisch nützliche Rückmeldungen zu einem vom Lernenden verfassten Text mittels eines Sprachmodells generiert werden. Dass Bedarf für eine solche Unterstützung besteht, zeigen die Schreibhilfezentren und Schreibkurse, die viele Universitäten anbieten. Richtig eingesetzt könnten Sprachmodelle in dieses Angebot integriert werden.

Welche Rolle spielen hier die KI-Halluzinationen, über die wir zu Beginn gesprochen haben?

Auch wegen dieser Halluzinationen ist es wichtig, einen richtigen Umgang mit Sprachmodellen zu vermitteln. Falls Schulkinder ChatGPT darum bitten, einen Aufsatz zu verfassen, könnte es realistisch klingende Fakten produzieren, die eine besonders junge oder unerfahrene Schülerin nicht zu hinterfragen gedenkt und die die Lehrerin nicht widerlegen kann – was zu einer weiteren Verbreitung falscher Informationen führen könnte. Wenn diese Gefahren jedoch richtig kommuniziert werden und Schülerinnen über die möglichen faktischen Fallstricke Bescheid wissen, kann das Modell ein geeignetes Instrument sein, um zu lernen, wie man Texte verfasst und Argumente strukturiert.