Amrei Bahr war Teil des Panels der Veranstaltung „Künstliche Intelligenz im Forschungsalltag — Chancen und Herausforderungen einer technologischen Revolution“ der Stiftung Werner-von-Siemens-Ring am 12. September 2023 in Berlin. Es gibt eine Aufzeichnung der Diskussion.
In ihrem Newsletter Arbeit in der Wissenschaft gibt sie eine Einschätzung, welche Potenziale und Risiken sie beim Einsatz von KI-Technologie im Forschungsbereich sieht.
Keine Frage: Der Einsatz von KI in der Wissenschaft beschäftigt uns alle — sei es, weil damit Fragen zu Prüfungsleistungen verbunden sind, aber auch, weil wir darauf hoffen, dass KI uns die wissenschaftliche Arbeit erleichtern kann. Angesichts der zahlreichen und vielgestaltigen Anforderungen, mit denen Wissenschaftler_innen dieser Tage jonglieren, mag uns die Unterstützung durch KI-Tools auf den ersten Blick wie die heiß ersehnte Rettung aus der Überforderung erscheinen. Schließlich können uns derartige Tools durchaus entlasten, uns unerfreuliche Fleißarbeiten abnehmen, aber auch Texte redigieren, ja, sogar das Erstellen von Grafiken und die Suche nach Forschungsfragen können an die KI delegiert werden.
Auf die Reihenfolge kommt es an: Erst Anforderungen hinterfragen, dann KI einsetzen
Aber es sind nicht nur die zu Recht bereits viel diskutierten Risiken des Einsatzes solcher Tools, die uns für sich genommen schon Anlass genug sein sollten, einen Schritt zurückzutreten, statt in Sachen KI-Nutzung nun allzu euphorisch nach vorne zu preschen. Zu diesen Risiken zählt u.a. die Reproduktion bestehender Vorurteile und Kanons, aber auch die Undurchsichtigkeit der Quellen, auf die KI-Tools zurückgreifen, was nicht allein Fragen bezüglich Urheber- und Persönlichkeitsrechten aufwirft: Auch ChatBots, die sich inexistente (wissenschaftliche) Werke ausdenken (was mitunter als „Halluzinieren“ bezeichnet wird) oder aus bestehenden Werken Aspekte unzulänglich wiedergeben, sind offenkundig wenig hilfreich für die Wissenschaft.
Allerdings wäre auch dann, wenn diese Risiken sich mit optimierten KI-Programmen oder Zusatztools effektiv einhegen ließen, einer tendenziell zurückhaltenden Herangehensweise der Vorzug zu geben: Einer, die die inflationär aufwachsenden Anforderungen im Wissenschaftssystem zunächst als solche hinterfragt, statt sie mit KI-Support einfach weiter zu bedienen. Dass sich Wissenschaftler_innen in einem durchquantifizierten Wissenschaftssystem pausenlos selbst überschlagen, um einer Unzahl von Anforderungen zu genügen, müsste schließlich nicht so sein. Das Prinzip „publish or perish“ etwa ist kein Wert an sich, im Gegenteil: Schon jetzt ist die Zahl der Publikationen so groß, dass wir uns fragen müssen, wer das alles eigentlich noch lesen kann – und soll. Dass sich dies jetzt einigermaßen mühelos durch den Einsatz von ChatBots und Co. noch potenzieren ließe, ist ohne Frage kein besonders aussichtsreiches Szenario. Dasselbe gilt für das Drittmittelwesen, das längst fragwürdige Ausmaße angenommen hat (siehe dazu auch die Newsletter-Ausgabe der letzten Woche).
Statt nun also so weiterzumachen wie bisher und die gegenwärtigen Anforderungen mithilfe des Einsatzes von KI-Tools nur noch weiter hochzuschrauben, ist es höchste Zeit, gemeinsam auf die Bremse zu treten und das System der Anforderungen neu auszurichten. Die allgegenwärtige Quantifizierung von allem und jedem mag ein probates Mittel dafür sein, sich nicht mit Inhalten auseinandersetzen zu müssen. Durchaus nachvollziehbar, wenn die Inhalte in einem Umfang vorliegen, dem sich in einem einigermaßen realistischen Zeitrahmen gar nicht mehr beikommen lässt. Insofern mag der Blick auf Zahlen, seien es die Anzahl der Publikationen, die Höhe der Drittmittel oder ähnliches, mitunter auch ein Akt der Verzweiflung derer sein, für die etwa die Lektüre zahlreicher Bewerbungen auf Professuren als weitere Anforderung zum ohnehin enorm fordernden Arbeitsalltag hinzutritt. Denn nein, von allen Kommissionsmitgliedern ausführlich inhaltlich würdigen lassen sich in vielen Berufungsverfahren die einzelnen Bewerbungen nicht mehr, dafür sind es einfach zu viele. (Ob es allerdings zielführend ist, Bewerber_innen nach Eingang ihrer Bewerbung zum Ausfüllen einseitiger Formulare aufzufordern, in die Ergebnisse der Selbstquantifizierung einzutragend sind — so viele Publikationen habe ich, so viele Drittmittel usw. —, um der Kommission das Zählen abzunehmen, ist ebenfalls fraglich.)
Wir gestalten Wissenschaft – auch ihre Anforderungen
Letztlich sollten wir uns als Wissenschaftscommunity fragen, wem wir eigentlich dienen, wenn wir die überbordenden Anforderungen weiter aufrechterhalten. Der Wissenschaft? Den Wissenschaftler_innen? Beides muss ausdrücklich bezweifelt werden. Wenn es nun aber darum geht, Anforderungen neu und anders zu gestalten, sind vor allem diejenigen angesprochen, die sich nicht mehr in Bewerbungsverfahren beweisen müssen, indem sie diesen Anforderungen erfolgreich Genüge tun. Letztlich können jedoch wir alle einen Beitrag dazu leisten, das „Höher, schneller, mehr“ in der Wissenschaft auszubremsen: Wenn wir nicht bis an den Rand des Burnouts und darüber hinaus dabei mitmachen. Je mehr von uns gesunde — und auch für die Wissenschaft sinnvolle! — Grenzen setzen, desto mehr profitiert die Community als Ganze davon. Denn die Wahrheit ist: Niemand hat etwas von einer derart großen Zahl wissenschaftlicher Publikationen, dass sie kaum noch zur Kenntnis genommen werden können — mit Ausnahme der Verlage, die daran verdienen und deshalb durchaus davon profitieren, wenn weiterhin extrem viel publiziert wird. Aber das kann wohl kaum ein Argument sein, das uns als Wissenschaftscommunity veranlassen sollte, an den in Rede stehenden Anforderungen festzuhalten (im Gegenteil sprechen gute Gründe dafür, dass wir uns zu den Geschäftsmodellen einiger Wissenschaftsverlage durchaus kritisch positionieren).
KI-Tools können die Wissenschaft verändern — aber es ist an uns, diesen Prozess zielführend zu gestalten, indem wir als erstes Fehlanreize aus der Welt schaffen und Fehlentwicklungen Einhalt gebieten, allen voran der problematischen Tendenz zu Quantität als Qualitätsmerkmal. Ist das erst einmal geschehen, sollten wir uns im zweiten Schritt fragen, was KI (im Rahmen ethisch plausibler Grenzen) für die Wissenschaft leisten kann. Nur so können wir mit KI-Tools Wissenschaft tatsächlich zum Positiven verändern, statt die bestehenden Fehlanreize und -entwicklungen durch ihren Einsatz noch weiter zu verschärfen.
Dieser Gastbeitrag erschien zuerst in Amrei Bahrs Newsletter Arbeit in der Wissenschaft, den Sie hier lesen und abonnieren können.
Über Amrei Bahr
Amrei Bahr ist seit April 2022 Juniorprofessorin für Philosophie der Technik & Information an der Universität Stuttgart. Sie promovierte 2017 an der Westfälischen Wilhelms-Universität Münster über die moralischen Rechte von Urheber*innen an ihren geistigen Schöpfungen, war Fellow der Forschungsgruppe „Ethik des Kopierens“ am Zentrum für interdisziplinäre Forschung der Universität Bielefeld und zuletzt Postdoc am Institut für Philosophie der Heinrich-Heine-Universität Düsseldorf.
Darüber hinaus engagiert sich Amrei Bahr in der Wissenschaftskommunikation und setzt sich für faire Arbeitsbedingungen in der Wissenschaft ein. Dazu hat sie gemeinsam mit Kristin Eichhorn und Sebastian Kubon im Juni 2021 die Twitter-Aktion #IchBinHanna initiiert.
2022 wurde Amrei Bahr von der Deutschen Forschungsgemeinschaft (DFG) und dem Stifterverband mit dem Communicator-Preis für innovative und zukunftsweisende Wissenschaftskommunikation ausgezeichnet. Als Mitglied eines Teams an der Heinrich-Heine-Universität Düsseldorf erhielt sie den Preis für das Public-Philosophy-Projekt „denXte“, das auf spielerische und zugleich anspruchsvolle Weise über Philosophie kommuniziert.