Beiträge von Autor Sebastian Brandt de https://open-access.network/blog/autorinnen/author/sebastian-brandt/blog.author.xml Sat, 18 Jul 2026 14:58:22 +0200 https://open-access.network/blog/perspektiven-der-dfg-auf-ki-und-open-access-teil-iiihttps://open-access.network/blog/perspektiven-der-dfg-auf-ki-und-open-access-teil-iii#commentsMon, 28 Jul 2025 08:51:00 +0200Künstliche IntelligenzMichaela Bilic-MerdesSebastian BrandtMichael Lentzehttps://open-access.network/blog/perspektiven-der-dfg-auf-ki-und-open-access-teil-iiiDieser Post ist der letzte von drei in einer Blogpostreihe der DFG, die sich mit der Bedeutung von Künstlicher Intelligenz für die gute wissenschaftliche Praxis und Open Science auseinandersetzt: Teil I: Die Rolle Künstlicher Intelligenz in der wissenschaftlichen Praxis Teil II: Beziehungen zwischen Open Science und Künstlicher Intelligenz Teil III: Datentracking und Künstliche Intelligenz Teil III: Datentracking und Künstliche Intelligenz Wie kann die Wissenschaftslandschaft auf die Analyse von möglicherweise unerlaubt getrackten und gesammelten Daten reagieren? Hier kommen zwei verschiedene Aspekte zusammen: Der eine betrifft das Thema Datentracking, d.h. die Erfassung, Sammlung und Analyse von Daten über das Nutzungsverhalten bei der Verwendung von digitalen Dienstleistungen. In der Wissenschaftslandschaft findet man dies bspw. bei der Literaturrecherche auf Verlagsplattformen – welche Suchbegriffe werden verwendet, welche Webseiten angeklickt, wer nutzt wann wo welche Publikation? Dieses Tracken reicht von legalen, zur Legitimation und Optimierung von Services notwendigen Formen des Datentracking über kontrovers diskutierte Grauzonen im Bereich der Bewertung wissenschaftlicher Qualität oder der predictive science bis hin zu datenschutzwidrigen und wissenschaftsethisch bedenklichen Analyse- und Weitergabepraktiken. Die Grenzen sind dabei häufig nicht trennscharf voneinander zu unterscheiden. Kritisch wird es, wenn die gesammelten Nutzungsdaten mit weiteren, außerhalb des Systems im „Real Life“ gesammelt personenbezogenen Daten verknüpft werden – etwa durch eingebundene Dienstleister oder kommerzielle Analyse-Dienste. So können individuelle Nutzungsprofile entstehen, die Rückschlüsse auf Personen und ihre Vorlieben zulassen. Ohne dass Forschende es überhaupt merken, geht ihre digitale Anonymität verloren. Noch gravierender: Solche Daten können Missbrauchspotentiale eröffnen, die bspw. in persönlicher Diskriminierung oder anderen sozialen Implikationen enden können. Was die Problematik zusätzlich verschärft: Vielen Nutzenden ist oft gar nicht klar, dass sie getrackt werden, was genau getrackt wird und warum. Und nicht immer liegen die expliziten Einwilligungen der Nutzenden vor, die datenschutzrechtlich notwendig sind. Durch die Digitalisierung der Wissenschaften hat sich nicht nur eine Machtverschiebung zugunsten der Informationsplattformen und Verlage vollzogen, sondern auch eine Verschiebung der Datenkontrolle und der Verantwortung für den digitalen Datenschutz der Wissenschaftler*innen – weg von vormals datenschutz-freundlichen Bibliotheksumgebungen mit hohem, den wissenschaftlichen Anforderungen entsprechenden Datenschutzstandards, hin zu heutigem oftmals über die kommerziellen Plattformen stattfindenden digitalen Umgang mit persönlichen Nutzungsdaten, der kommerziellen „Privacy Standards“ folgt, die es ethisch zu hinterfragen gilt. Diese Entwicklung berührt die Wissenschaftsfreiheit und die akademischen Informationsanbietenden – kommerzielle wie nicht-kommerzielle – müssen dringend aktiv und ihrer ethischen Verantwortung gerecht werden: für Transparenz sorgen, zwingend rechtliche Datenschutzanforderungen einhalten, und datensparsam nur für den Service der Informationsinfrastruktur notwendige Daten erheben, idealerweise unter Einsatz von Privacy-by-Design. Transparenz schafft Vertrauen, und die Wissenschaft braucht Vertrauen in verlässliche und ethisch integre akademische Informationsplattformen. KI und Datentracking Der zweite Aspekt betrifft die Analyse dieser Trackingdaten durch KI-Systeme. Positiv eingesetzt können diese Analysen z.B. Serviceangebote verbessern, die Erstellung gewünschter persönlicher Suchprofile ermöglichen oder auch als Science Analytics verwendet werden; im negativen Sinne können sie zu Machtmissbrauch und Diskriminierung, predictive science und versteckten Steuerungsmechanismen im Wissenschaftssystem führen. Sind die für die KI-Systeme verwendeten personenbezogenen Daten unerlaubt ohne Einwilligung der Nutzenden getrackt worden, ist dies ein klarer Verstoß gegen geltendes Datenschutzrecht und bringt rechtliche Konsequenzen mit sich. Zudem stehen sämtliche Ergebnisse der KI-Verarbeitung auf rechtlich wackeligem Boden. Auch hier spielt das Thema Transparenz eine große Rolle: Forschung muss wissen und kritisch hinterfragen, welche Datenbasis für KI-Analysen verwendet wird, woher die Daten kommen und wie die Analyse durchgeführt wird. Gerade bei der KI-Nutzung von personenbezogenen Daten bedarf es klarer ethischer Leitlinien. Wenn diese Fragen nicht eindeutig beantwortet werden können, verlieren wir die Vertrauensbasis in die KI-Systeme und Analyseergebnisse. Die Position der DFG zum Datentracking im Publikationswesen Die zunehmende Praxis der Wissenschaftsverlage und Plattformbetreiber, das Nutzungsverhalten der Forschenden durch Tracking zu erfassen, zu analysieren und an Dritte weiterzugeben, gefährdet die Anonymität der Forschenden und steht im Widerspruch zur Wissenschaftsfreiheit. Die DFG hat sich deshalb in den letzten Jahren intensiv mit der Herausforderung des Datentracking in der Wissenschaft auseinandergesetzt und klare Positionen wie Handlungsempfehlungen formuliert (DFG, 2021). Im Zentrum steht die Forderung nach einer ethischen Reflektion des Themas, die über die technischen wie auch rechtlichen Fragestellungen, die mit der Tracking-Praxis verbunden sind, hinausgeht. In erster Linie gilt es, Transparenz über die Art und den Umfang des Trackings zu schaffen, Nutzende klar über die Verwendung ihrer Daten zu informieren und auf Anbieterseite bestehende Datenschutzbestimmungen konsequent einzuhalten. Letzteres ist – obwohl gesetzlich eindeutig formuliert – bislang oft die Ausnahme. Darüber hinaus fordert die DFG einen ethischen Umgang mit Daten: Es sollen nur unbedingt notwendige Daten erhoben werden (Datensparsamkeit) und Datenschutz sollte nach Privacy-by-Design-Prinzipien in die Systemarchitektur integriert werden. Auch wissenschaftliche und bibliothekarische Einrichtungen stehen in der Verantwortung: Sie sind aufgerufen, ihre Verträge mit Verlagen und Plattformen kritisch zu prüfen und sicherzustellen, dass Datenschutz und ethische Standards gewahrt werden. Die DFG gestaltet den Prozess aktiv mit, etwa durch die Einsetzung einer Expert*innengruppe, die erstmals Datenschutz-Aspekte in die nationalen DEAL-Verhandlungen eingebracht hat. (Altschaffel, et al. 2024) Damit wurde Pionierarbeit geleistet, indem rechtliche Rahmenbedingungen systematisch beleuchtet und erstmalig umfassendere Datenschutzanforderungen gegenüber den großen Wissenschaftsverlagen eingebracht und vertraglich festgehalten wurden. Auch wenn aus Wissenschaftssicht nicht weitreichend genug, stellen die vertraglichen Datenschutzregelungen doch eine gute Diskussionsbasis dar. Darüber hinaus gilt es im gesetzlichen Sinne nachzubessern, um wissenschaftsfreundlichere Datenschutzlösungen legitim und langfristig abzusichern. Kritisch denken Sowohl im beruflichen wie auch im privaten Bereich lohnt es sich, sein eigenes Lese- und Suchverhalten im digitalen Raum zu hinterfragen und einen kritischen Blick auf die Privacy Policies von Onlineanbietern zu werfen. Nur so kann man wissen, wer was trackt und an wen die eigenen Daten weitergereicht werden. Und nur so versetzt man sich in die Lage, souverän und selbstbestimmt zu handeln, technologische Tools wie bspw. Blocker als zusätzlichen Tracking-Schutz anzuwenden oder gar bewusst datenschutzfreundlichere Alternativen den kommerziellen und/oder trackenden Plattformen vorzuziehen. Dies gilt im gleichen Maße für das wissenschaftliche Publizieren: Forschende können ihren Publikationsort frei wählen und sollten idealerweise dabei nicht allein etablierten Reputationsmechanismen folgen. Fragen, die man sich stellen kann, sind z.B. nicht nur die nach der Form der Lizenz (eine offene Open Access Lizenz wie CC BY), sondern auch, ob man bei rein kommerziellen Anbietern oder eben solchen mit intransparentem Tracking publizieren möchte, oder sich stattdessen für ein Diamond-Open-Access-Publikationsorgan entscheiden will. Bibliotheken und Informationseinrichtungen können in dem Themengebiet wertvolle Aufklärungsarbeit leisten, indem sie Forschende und Studierende zu persönlichen Datenschutzaspekten und ethisch korrekter Nutzung von KI schulen, technische Tipps zum Tracking-Schutz geben und umfassende Informationsangebote, auch im Bereich des verantwortungsvollen Publizierens, anbieten. Es gilt, die Wissenschaft weiterhin für diese Thematik zu sensibilisieren und Awareness zu schaffen. Literaturliste Altschaffel, R., Beurskens, M., Dittmann, J., Horstmann, W., Kiltz, S., Lauer, G., Ludwig, J., Mittermaier, B., & Stump, K. (2024). Datentracking und DEAL – Zu den Verhandlungen 2022/2023 und den Folgen für die wissenschaftlichen Bibliotheken. RuZ – Recht und Zugang, 5(1), 23–40. https://doi.org/10.5771/2699-1284-2024-1-23 Deutsche Forschungsgemeinschaft (DFG, German Research Foundation). (2021). Data tracking in research: Aggregation and use or sale of usage data by academic publishers. https://www.dfg.de/resource/blob/174924/d99b797724796bc1a1 37fe3d6858f3 26/datentracking-papier-en-data.pdf https://open-access.network/blog/perspektiven-der-dfg-auf-ki-und-open-access-teil-iihttps://open-access.network/blog/perspektiven-der-dfg-auf-ki-und-open-access-teil-ii#commentsMon, 14 Jul 2025 08:00:00 +0200Künstliche IntelligenzMichaela Bilic-MerdesSebastian BrandtMichael Lentzehttps://open-access.network/blog/perspektiven-der-dfg-auf-ki-und-open-access-teil-iiTeil II: Beziehungen zwischen Open Science und Künstlicher Intelligenz Open Science und der Einsatz Künstlicher Intelligenz in der Wissenschaft sind auf vielfältige Weise miteinander verbunden. Hier seien zwei Aspekte genannt. Offene Daten bilden einerseits eine wichtige Grundlage für Künstliche Intelligenz. Die jüngsten KI-Erfolge und die erheblichen Fortschritte auf diesem Feld verdanken sich zu einem nicht geringen Teil dem enormen Wachstum digitaler Datenproduktion – zweifellos nicht nur, aber auch im Forschungsumfeld. Von Open-Science-Praktiken kann die Entwicklung von KI-Modellen und -Anwendungen insofern profitieren, als aus diesen Praktiken – so lange gängige Standards gewahrt werden – qualitativ hochwertige, offen zugängliche, leicht und rechtssicher nachnutzbare Daten hervorgehen. Ein zweiter Aspekt betrifft die Offenheit der KI-Systeme, -Modelle und -Instrumente selbst. Diese lassen sich nicht zuletzt daran unterscheiden, in welchem Maße die ihnen zugrundeliegenden Trainingsdaten, Methoden, Algorithmen usw. transparent gemacht werden. Die aktuellen Diskussionen um „vertrauenswürdige“ oder „verantwortliche“ KI stellen ganz maßgeblich auf diese Transparenz-Frage ab. Da Transparenz und Nachvollziehbarkeit des Forschungsprozesses gleichzeitig zentrale Prinzipien wissenschaftlicher Integrität darstellen, setzt der Einsatz Künstlicher Intelligenz in der Wissenschaft voraus, dass auch die Funktionsweise der verwendeten Modelle und Instrumente zumindest so weit nachvollzogen werden kann, dass gravierende Verzerrungen vermieden werden (vgl. DFG 2023). Offenheit spielt hierbei eine entscheidende Rolle. Auswirkungen von KI auf das wissenschaftliche Publikationswesen Die Nutzung von generativer KI kann sicherlich die Erstellung von wissenschaftlichen Publikationen erleichtern, sofern sie in regelhafter und verantwortungsvoller Weise vonstattengeht. Was wir allerdings auch beobachten, ist die Zunahme von fake publications, die von KI generiert werden und dann das Publikationssystem belasten. Viele Verlage bauen ihre Abteilungen zur Prüfung von Publikationen aus und setzen hierfür auch KI-Tools ein. Die DFG unterstützt den offenen Zugang zu den aus Forschungsvorhaben resultierenden Erkenntnissen, etwa durch Maßgaben zum Umgang mit Forschungsdaten oder Aktivitäten zur offenen Lizenzierung wissenschaftlicher Publikationen. Bei Publikationen ist wichtig, dass eine Nachnutzbarkeit sichergestellt wird, die Verwertungsrechte aber bei den Autor*innen verbleiben. Als problematisch in diesem Kontext könnten sich die Bestrebungen mancher Wissenschaftsverlage erweisen, sich KI-Nutzungsrechte an Publikationen – selbst Open-Access-Publikationen – zu sichern und hier restriktive, teils unter den gesetzlichen Erlaubnissen bleibende Einschränkungen bzw. KI-Nutzungsverbote vertraglich zu vereinbaren. Für die Wissenschaft würde dies bedeuten, dass sie entlang dieser Regelungen kein KI-Training etc. mit den von ihr selbst erstellten Publikationen durchführen darf. Dies trägt zu der bereits bestehenden asymmetrischen Machtverteilung im Publikationswesen bei und wird sich – insbesondere und gerade bedingt durch die innovativen und zukunftsformenden KI-Anwendungen und -Entwicklungen – noch stärker manifestieren. Eine jüngst veröffentlichte Ausschreibung des Ausschusses für Wissenschaftliche Bibliotheken und Informationssysteme (AWBI) zielt ganz direkt auf den Aufbau von Datenkorpora zum Trainieren Künstlicher Intelligenz. Während die Förderung erkenntnisgeleiteter Spitzenforschung ihre primäre Aufgabe bleibt, stärkt die DFG somit mittelbar wie unmittelbar auch die Grundlagen für künftige KI-Entwicklungen. Nur wenn auch umfassende wissenschaftliche Daten und Publikationen in KI-Ergebnisse eingehen, sind diese belastbar. Literatur Deutsche Forschungsgemeinschaft (2023). Stellungnahme des Präsidiums der Deutschen Forschungsgemeinschaft (DFG) zum Einfluss generativer Modelle für die Text- und Bilderstellung auf die Wissenschaften und das Förderhandeln der DFG. https://www.dfg.de/resource/blob/289674/ff57cf46c5ca109cb18533b21fba49bd/230921-stellungnahme-praesidium-ki-ai-data.pdf. https://open-access.network/blog/perspektiven-der-dfg-auf-ki-und-open-access-teil-ihttps://open-access.network/blog/perspektiven-der-dfg-auf-ki-und-open-access-teil-i#commentsTue, 01 Jul 2025 12:00:00 +0200Künstliche IntelligenzMichaela Bilic-MerdesSebastian BrandtMichael Lentzehttps://open-access.network/blog/perspektiven-der-dfg-auf-ki-und-open-access-teil-iWelche Bedeutung haben die Entwicklungen rund um Künstliche Intelligenz für Open Access und Open Research? Mit einer Reihe von Blogposts möchte das Projekt open-access.network jüngst aufkommenden Fragestellungen und Diskussionen rund um die Beziehung zwischen den Themenfeldern nachkommen. In den kommenden Wochen werden wir in dieser Reihe drei Blogposts der DFG veröffentlichen, die sich mit der Bedeutung von Künstlicher Intelligenz für die gute wissenschaftliche Praxis und Open Science auseinandersetzen: Teil I: Die Rolle Künstlicher Intelligenz in der wissenschaftlichen Praxis Teil II: Beziehungen zwischen Open Science und Künstlicher Intelligenz Teil III: Datentracking und Künstliche Intelligenz Teil I: Die Rolle Künstlicher Intelligenz in der wissenschaftlichen Praxis Die rasante Entwicklung generativer Künstlicher Intelligenz (KI) verändert zunehmend die wissenschaftliche Praxis. Auch die Deutsche Forschungsgemeinschaft (DFG) hat sich in Stellungnahmen mit dem Einfluss dieser Technologien auf die Forschung beschäftigt. Strategisch wird die Nutzung von KI-Methoden in einer KI-Initiative gefördert: Seit 2019 gibt es eine strategische Förderinitiative, die das Forschungsfeld KI mit Ausschreibungen und anderen gezielten Maßnahmen vorantreibt. Im Zentrum steht dabei eine differenzierte Betrachtung: Die DFG erkennt große Potenziale, warnt aber zugleich vor Risiken, die gesehen werden müssen. Die DFG sieht generative KI als hilfreiches Werkzeug, das vielfältige Prozesse im wissenschaftlichen Alltag unterstützen kann. Dazu zählen etwa Effizienzgewinne: KI kann repetitive Aufgaben wie das Zusammenfassen von Fachliteratur oder das Erstellen von Visualisierungen übernehmen und so wertvolle Zeit sparen. Auch gibt es die sprachliche Unterstützung: Gerade für Wissenschaftler*innen, die nicht auf Deutsch oder Englisch publizieren, kann KI bei der sprachlichen Ausarbeitung unterstützen. Letztlich werden neue methodische Ansätze möglich: In der Datenanalyse, Modellierung und Simulation eröffnen KI-gestützte Verfahren neue Forschungszugänge. Neben den Chancen benennt die DFG klare Risiken und fordert einen verantwortungsvollen Umgang mit generativer KI. Zum Thema Transparenz: Wer KI einsetzt, muss offenlegen, in welchem Umfang und zu welchem Zweck dies geschah. Das ist zentral für die wissenschaftliche Nachvollziehbarkeit. Ein weiteres Stichwort ist Verantwortung: Die Verantwortung für wissenschaftliche Inhalte bleibt bei den Forschenden – auch wenn Teile durch KI erstellt wurden. Autor*innenschaft ist und bleibt menschlich. Auch besteht Plagiatsgefahr: KI-Systeme könnten geschützte Inhalte unbemerkt reproduzieren. Daher ist eine kritische Prüfung auf Urheberrechtsverletzungen unerlässlich. Wir sehen Risiken beim Thema Vertraulichkeit: Besonders sensibel ist der Umgang mit vertraulichen Antragsunterlagen. In Begutachtungsverfahren der DFG ist der Einsatz generativer KI aktuell aus diesem Grund noch nicht zulässig. Auch das Thema Qualitätssicherung ist zentral: KI-generierte Inhalte müssen fachlich überprüft, korrigiert und gegebenenfalls überarbeitet werden – ein "blindes Vertrauen" ist fehl am Platz. Die DFG bewertet die Nutzung von KI derzeit neutral – entscheidend ist der Kontext und der verantwortungsvolle Umgang. KI kann eine wertvolle Hilfe sein, ersetzt aber nicht das kritische Denken, die Erfahrung und die ethische Verantwortung der Wissenschaftler*innen. Transparenz, Integrität und Qualität bleiben die Leitprinzipien wissenschaftlichen Arbeitens – auch im KI-Zeitalter. KI-Forschung Die DFG fördert Forschung in sämtlichen Disziplinen und in all ihren Formen. Die Förderung erfolgt wissenschaftsgeleitet, die Wahl der Forschungsgegenstände obliegt also den Wissenschaftler*innen. Angesichts der KI-Konjunktur der letzten Jahre ist es naheliegend, dass die DFG zahlreiche Vorhaben mit Bezug zu Künstlicher Intelligenz finanziert. Spitzenforschung zu Künstlicher Intelligenz wird das KI-Wissen der Gesellschaft erweitern und uns im Umgang mit KI handlungsfähiger machen. Dies gilt nicht zuletzt in Bezug auf kritische Aspekte Künstlicher Intelligenz, sowie ihre ethischen, politischen oder gesellschaftlichen Implikationen. Kernauftrag der DFG ist die Forschungsförderung. Dennoch versucht die DFG auch im Rahmen „externer“ Wissenschaftskommunikation in größere Teile der Gesellschaft hineinzuwirken und dort das KI-Wissen zu vermehren.1 Erkenntnisse aus der Grundlagenforschung können zudem auf dem Wege des Transfers zwischen Wissenschaft und Wirtschaft konkret zur Entwicklung KI-basierter Produkte in unterschiedlichen Sektoren beitragen. KI und gute wissenschaftliche Praxis Die Frage, inwieweit KI-Technologien die Regeln der guten wissenschaftlichen Praxis „wahren“ helfen bzw. mit ihnen übereinstimmen, ist zu eng gefasst. Vielmehr sollten wir von wechselseitigen Einflüssen ausgehen. Auf der einen Seite entbindet der Einsatz von KI-Anwendungen Forscher*innen selbstredend nicht von der Verpflichtung auf zentrale Grundprinzipien wissenschaftlicher Integrität, wie sie etwa in den DFG-Leitlinien zur „Sicherung guter wissenschaftlicher Praxis“ kodifiziert sind (vgl. DFG 2025). So stellt sich in Verbindung mit der Nutzung generativer KI („Chatbots“ o. ä.) beim Abfassen wissenschaftlicher Texte etwa die Frage der Autor*innenschaft. Nach Ansicht der DFG können nur die „verantwortlich handelnden natürlichen Personen als Autorinnen und Autoren in Erscheinung treten“ (DFG 2023, S. 2). Auf der anderen Seite ist es keineswegs undenkbar, dass die Entwicklung von KI-Technologien und deren praktischer Einsatz in der Wissenschaft ihrerseits zu einem Wandel der Standards des wissenschaftlichen Arbeitens beitragen – so wie die im Zuge des digitalen Wandels sich verändernden Arbeitsweisen in der Forschung maßgeblich zur Entstehung des aktuellen DFG-Kodexes geführt hatten (vgl. DFG 2025). Wissenschaftliche Praxis auf der einen, sowie normative Diskussionen und Regelsetzung auf der anderen Seite sind wechselseitig aufeinander bezogen. 1 Beispielsweise die Veranstaltung „Mensch und Maschine – Wie Künstliche Intelligenz uns verändert“ (26.11.2024) im Rahmen der Talkreihe „Enter Science“. DFG - Deutsche Forschungsgemeinschaft - Mensch und Maschine – Wie Künstliche Intelligenz uns verändert. Literatur Deutsche Forschungsgemeinschaft (2023). Stellungnahme des Präsidiums der Deutschen Forschungsgemeinschaft (DFG) zum Einfluss generativer Modelle für die Text- und Bilderstellung auf die Wissenschaften und das Förderhandeln der DFG. https://www.dfg.de/resource/blob/289674/ff57cf46c5ca109cb18533b21fba49bd/230921-stellungnahme-praesidium-ki-ai-data.pdf. Deutsche Forschungsgemeinschaft (2025). Leitlinien zur Sicherung guter wissenschaftlicher Praxis. Kodex (Version v3). https://doi.org/10.5281/zenodo.14281892.