Posts by tag: Artificial intelligence en https://open-access.network/en/oablog/translate-to-english-tags/tag/kuenstliche-intellegenz/blog.tag.xml Sat, 18 Jul 2026 02:36:29 +0200 https://open-access.network/en/oablog/dfg-perspectives-on-the-role-of-artificial-intelligence-in-research-practice-part-iiihttps://open-access.network/en/oablog/dfg-perspectives-on-the-role-of-artificial-intelligence-in-research-practice-part-iii#commentsMon, 28 Jul 2025 08:51:00 +0200Artificial intelligenceMichaela Bilic-MerdesSebastian BrandtMichael Lentzehttps://open-access.network/en/oablog/dfg-perspectives-on-the-role-of-artificial-intelligence-in-research-practice-part-iii https://open-access.network/en/oablog/dfg-perspectives-on-the-relations-between-open-science-and-artificial-intelligence-part-iihttps://open-access.network/en/oablog/dfg-perspectives-on-the-relations-between-open-science-and-artificial-intelligence-part-ii#commentsMon, 14 Jul 2025 08:00:00 +0200Artificial intelligenceMichaela Bilic-MerdesSebastian BrandtMichael Lentzehttps://open-access.network/en/oablog/dfg-perspectives-on-the-relations-between-open-science-and-artificial-intelligence-part-ii https://open-access.network/en/oablog/dfg-perspectives-on-the-role-of-artificial-intelligence-in-research-practice-part-ihttps://open-access.network/en/oablog/dfg-perspectives-on-the-role-of-artificial-intelligence-in-research-practice-part-i#commentsTue, 01 Jul 2025 12:00:00 +0200Artificial intelligenceMichaela Bilic-MerdesSebastian BrandtMichael Lentzehttps://open-access.network/en/oablog/dfg-perspectives-on-the-role-of-artificial-intelligence-in-research-practice-part-i https://open-access.network/en/blog/orkg-ask-ki-auf-der-suche-nach-antworten-in-open-access-artikelnhttps://open-access.network/en/blog/orkg-ask-ki-auf-der-suche-nach-antworten-in-open-access-artikeln#commentsTue, 06 May 2025 09:50:55 +0200Artificial intelligenceAnna-Lena Lorenzhttps://open-access.network/en/blog/orkg-ask-ki-auf-der-suche-nach-antworten-in-open-access-artikelnDie Suche nach Antworten auf wissenschaftliche Fragestellungen gleicht oft der Suche nach der Nadel im Heuhaufen. KI-basierte Systeme können hier Abhilfe schaffen. Das Wissen, auf das sie dabei zurückgreifen, sollte frei verfügbar sein. Jedes Jahr erscheinen mehrere Millionen neue Forschungsbeiträge. In dieser Flut an Publikationen fällt es Forschenden zunehmend schwer, den Überblick zu behalten. Gesucht werden Antworten auf Forschungsfragen, doch traditionelle Suchsysteme liefern nur eine Auflistung möglicherweise relevanter Dokumente. Immer mehr Forschende und Studierende setzten daher bei der Beantwortung von Forschungsfragen auf KI-Systeme, spezifisch solche, die auf großen Sprachmodellen basieren. Doch eine naive Anwendung von beispielsweise ChatGPT führt oft nicht zum gewünschten Ergebnis. Quellen fehlen häufig, werden falsch verwendet oder sind sogar vollständig erfunden. Auch das von Meta spezifisch für die Wissenschaft entwickelte Modell „Galactica“ überstand gerade mal drei Tage, ehe es aufgrund von Falschaussagen deaktiviert wurde.1 Das liegt daran, dass Sprachmodelle kein echtes Verständnis für das Wissen, das zur Beantwortung einer Forschungsfrage benötigt wird, entwickeln, sondern lediglich auf Basis von wahrscheinlichen Wortabfolgen antworten. Dieser Ansatz funktioniert gut für Fragen des Allgemeinwissens, da diese inklusive der zugehörigen Antworten vielfach in den Trainingsdaten dieser Sprachmodelle vorkommen. Wissenschaftliche Themen, die hingegen deutlich seltener diskutiert werden und zudem höheren Anforderungen an Präzision und Detailgrad gerecht werden müssen, können jedoch nicht vollumfassend abgedeckt werden, wenn man sich lediglich auf die Antwort eines Modells ohne weitere Informationsquellen verlässt. Der nächste Schritt ist also, zur Generierung der Antworten zusätzliche Informationsquellen anzuzapfen. Für die Wissenschaft sind dies Publikationen. Dieses Verfahren heißt Retrieval-Augmented-Generation. Dabei wird zunächst gezielt Wissen aus konkreten Quellen abgerufen (retrieval), bevor ein Sprachmodell aus diesen Informationen eine Antwort formuliert (generation). Das unterscheidet sich fundamental von der reinen Textgenerierung großer Sprachmodelle, bei denen nicht klar ist, woher die Informationen stammen. Der von der TIB entwickelte KI-Assistent ORKG Ask ermittelt seine Antwort auf Basis veröffentlichter Artikel. Nachdem Forschende ihre Frage eingegeben haben, werden zunächst über eine semantische Suche die relevantesten fünf der knapp 80 Millionen enthaltenen Publikationen bestimmt. So ist sichergestellt, dass nur tatsächlich existierende Quellen herangezogen werden. Erst dann wird ein Sprachmodell herangezogen, um Antworten aus diesen fünf Artikeln dieser Auswahl zu extrahieren. Daraus werden eine Kurzantwort in etwa 3-5 Sätzen sowie eine detaillierte tabellarische Übersicht über die Inhalte und Antworten der einzelnen Veröffentlichungen erstellt. Bei Bedarf können mehr Publikationen geladen sowie weitere Details zur Tabelle hinzugefügt werden. Während die Bewertung der Relevanz zunächst nur nach inhaltlicher Übereinstimmung erfolgt, können Nutzende anschließend nach weiteren Eigenschaften wie beispielsweise der Anzahl der Zitierungen, bestimmten Autor*innen oder dem Erscheinungsjahr filtern. Screenshot der Antwortseite von ORKG ask Die Antwortseite von ORKG Ask Als Datengrundlage für ORKG Ask dient das CORE-Dataset, die weltweit größte Sammlung an Open-Access-Artikeln. Der Datensatz enthält die Abstracts von knapp 80 Millionen Artikeln, bei knapp 20 Millionen davon liegen ebenfalls Volltexte vor. Durch die Verwendung von Open Access entstehen keine rechtlichen Probleme. Hingegen ist die Rechtslage bei Closed-Access-Artikeln nicht abschließend geklärt. Zwar werden die Artikel in ORKG Ask nicht dazu genutzt, das Modell weiter zu trainieren, doch befindet sich auch das Extrahieren von Informationen in einer Grauzone. Lizenzen und Vorgaben der Verlage müssten im Einzelnen geprüft werden. Durch die Beschränkung auf Open Access fallen diese Hindernisse weg. Im Zuge der rasanten Entwicklungen im Bereich generativer KI werden in sämtlichen Bereichen Fragen des Copyrights, des Datenschutzes und der Datenethik neu diskutiert. Besonders in der Wissenschaft spielen auch Transparenz und Reproduzierbarkeit von KI-generierten Ergebnissen eine große Rolle. Ein Frage-Antwort-System sollte kein verstärkender Faktor der Reproduzierbarkeitskrise2 werden. Deswegen setzt die TIB bei der Entwicklung des ORKG Ask auf Openness. Nicht nur Ask‘s Quellcode ist Open Source, sondern auch sämtliche verwendeten Dritttechnologien. Als Sprachmodell kommt das in der EU entwickelte offene Modell Mistral zum Einsatz. Sämtliche Prompts, die das System zur Abfrage von Informationen durch das Sprachmodell nutzt, können von Nutzenden eingesehen werden. Auch ist deutlich gekennzeichnet, welcher Kontext (Abstract oder Volltext) herangezogen wird, um die präsentierte Information zu gewinnen. Ebenso können sämtliche verwendete technische Parameter, die dem Modell übergeben werden, wie beispielsweise der Seed, der den Zufallsprozess reproduzierbar macht, ausgelesen werden. Wie bei jedem Einsatz von großen Sprachmodellen besteht zwar die Gefahr von Halluzinationen in den einzelnen Spalten der Antworttabelle oder in der Kurzzusammenfassung, jedoch existieren alle angezeigten Artikel wirklich. Nutzende werden dazu aufgefordert, gegebene Antworten zu verifizieren, indem sie den Originalartikel lesen. Auch hier ist von Vorteil, dass es sich im Datensatz um Open-Access-Veröffentlichungen handelt. Als Service der TIB ist ORKG Ask nicht-kommerziell und steht kostenfrei und ohne Anmeldung zur Verfügung. Derzeit wird an einer mehrsprachigen Ausgabe und an einer Anpassung an das individuelle Vorwissen der Nutzenden gearbeitet. So kann Ask in Zukunft nicht nur Fragen von Forschenden, sondern auch der interessierten Öffentlichkeit beantworten. Zusammenfassend lässt sich festhalten, dass KI-Systeme für die Wissenschaft nicht nur maßgeblich von der Open-Access-Bewegung profitieren, sondern auch selbst so offen wie möglich sein sollten, um durch Transparenz und Reproduzierbarkeit das Vertrauen in die KI-generierten Antworten zu stärken. Open Access schafft dabei nicht nur rechtliche Gewissheit, sondern erleichtert auch die kollaborative Bewertung und Einordnung der generierten Antworten durch Forschende. Nur wenn die verwendeten Daten offen einsehbar sind, können Aussagen von KI-Systemen geprüft, Fehler gefunden und Antworten verbessert werden. So tragen Open-Access-Artikel wesentlich dazu bei, KI-Systeme vertrauenswürdiger zu gestalten und Falschinformationen zu beheben. 1 https://www.technologyreview.com/2022/11/18/1063487/meta-large-language-model-ai-only-survived-three-days-gpt-3-science/ 2 Die Reproduzierbarkeitskrise bezeichnet das Problem, dass viele wissenschaftliche Studien nicht zuverlässig durch andere Forschende wiederholt bzw. Ergebnisse nicht bestätigt werden können. Gründe hierfür sind unter Anderem methodische Schwächen, eine unzureichende Dokumentation der Arbeit und fehlende Transparenz. https://open-access.network/en/oablog/translate-to-english-handreichung-zu-ki-und-blidunghttps://open-access.network/en/oablog/translate-to-english-handreichung-zu-ki-und-blidung#commentsThu, 08 Aug 2024 08:00:00 +0200Artificial intelligenceSarah-Isabella BehrensCaroline BoosDr. Anne-Sophie Waaghttps://open-access.network/en/oablog/translate-to-english-handreichung-zu-ki-und-blidung https://open-access.network/en/blog/daten-und-creative-commons-lizenzen-trainingsmaterial-fuer-kuenstliche-intelligenzhttps://open-access.network/en/blog/daten-und-creative-commons-lizenzen-trainingsmaterial-fuer-kuenstliche-intelligenz#commentsMon, 24 Jun 2024 00:00:00 +0200Artificial intelligenceLicensesFabian Rackhttps://open-access.network/en/blog/daten-und-creative-commons-lizenzen-trainingsmaterial-fuer-kuenstliche-intelligenzDer vorliegende Beitrag ist Teil einer
Reihe, die sich in unregelmäßigen Abständen mit den Themenfeldern Künstliche Intelligenz und Open Access bzw. Open Research beschäftigt. Hinweis: Dieser Blogbeitrag ist zuerst am 04.08.2021 auf dem Blog von iRights.info erschienen und ist Teil der CC FAQs (https://de.creativecommons.net/faqs/). Erstellt wurde das deutsche FAQ-Informationsangebot von Mitgliedern des deutschen Chapters von Creative Commons. Federführend dabei war Fabian Rack, Rechtsanwalt bei iRights.Law und Autor bei iRights.info. Die deutschen FAQs stehen selbst unter der Creative Commons-Lizenz CC BY 4.0. Auch Forschungsdaten und Datenbanken lassen sich mit Creative-Commons-Lizenzen frei nachnutzbar machen. Sie können etwa für die Entwicklung neuer Technologien als Trainingsmaterial für Künstliche Intelligenz oder Machine Learning eingesetzt werden. Was es dabei zu beachten gilt, stellen wir im fünften Teil der CC-FAQs vor. iRights.info berichtet und informiert seit Jahren über Creative Commons. In loser Folge stellen wir typische und oft nachgefragte Themen aus den deutschen Creative-Commons-FAQs vor und bereiten sie mit verschiedenen Schwerpunkten auf. Insgesamt enthält die deutsche CC-Hilfeseite rund 130 Fragen und Antworten. In diesem Text geht es um grundsätzliche Fragen bei der Öffnung und Nutzung von Daten und Datenbanken mithilfe von Creative-Commons-Lizenzen sowie der Anwendung auf Künstliche-Intelligenz-Systeme. Creative Commons: Häufig gestellte Fragen Seit Mitte 2021 liegen rund 130 oft gestellte Fragen und ihre Antworten zu Creative Commons in deutscher Sprache vor. Die deutschen CC-FAQs („Frequently Asked Questions“) orientieren sich in Form und Inhalt am Vorbild der offiziellen US-amerikanischen CC-FAQs, kommen aber mit zahlreichen Besonderheiten für das deutsche und das europäische Recht. Die deutschen CC-FAQs stehen hier kostenlos zur Verfügung. Eine Aufteilung in fünf große Blöcke erleichtert die Orientierung: 1. Über Creative Commons 2. Allgemeine Information über die CC-Lizenzen 3. Für Lizenzgeberinnen und Lizenzgeber 4. Für Lizenznehmerinnen und Lizenznehmer 5. Datenbanken, Daten und KI Die deutschen FAQs stehen selbst unter einer Creative Commons-Lizenz (CC BY 4.0). Erstellt wurde das deutsche FAQ-Informationsangebot von Mitgliedern des deutschen Chapters von Creative Commons. Federführend dabei war Fabian Rack, Rechtsanwalt bei iRights.Law und Autor bei iRights.info. Nicht an allen Forschungsdaten besteht urheberrechtlicher Schutz. In vielen Fachdisziplinen sind Daten und die dazugehörigen Datenbanken ohnehin frei zugänglich. Wer der Allgemeinheit ermöglichen möchte, urheberrechtlich geschützte (Forschungs-)Daten und Datenbanken frei zu nutzen, kann sie mittels der Lizenz CC0 freigeben. Damit werden sie in die Gemeinfreiheit – auch genannt Public Domain – entlassen, indem weltweit auf alle urheberrechtlichen und verwandten Schutzrechte verzichtet wird, soweit das gesetzlich möglich ist. Wer aber entscheidet, ob und wann eine Datenbank freigegeben werden darf? Was fällt bei Datenbanken alles unter die CC-Lizenz? Und wie lassen sich CC-lizenzierte Daten für das Trainieren Künstlicher Intelligenz nutzen? In Ergänzung zu Teil 4 der CC-FAQs haben wir Details zu Datenbanken und Creative Commons aus den FAQs zusammengetragen. →
Frage 5.1.7.: Was alles fällt unter die CC-Lizenz, wenn eine Datenbank unter einer CC-Lizenz lizenziert ist? Auch die jeweiligen Daten beziehungsweise Elemente aus der Datenbank? Ob die CC-Lizenz an einer Datenbank auch deren Inhalte umfasst, hängt von der Umsetzung der Lizenzierung ab: Lizenzgeber:innen können Datenbanken als ganzes lizenzieren – also sowohl deren Struktur als auch die enthaltenen Elemente. Es ist aber auch möglich, die Datenbank und die darin enthaltenen Elemente separat und damit nicht einheitlich zu lizenzieren. Wer eine Datenbank ohne weitere Hinweise mit einer CC-Lizenz versieht, lizenziert damit auch die einzelnen Elemente dieser Datenbank. Ohne weitere Erklärung können also bei der CC-Lizenzierung der Datenbank auch die einzelnen Elemente gemäß der Lizenz genutzt werden (die Elemente einer Datenbank fallen aber natürlich nur unter die Lizenzbedingungen, sofern sie überhaupt nach dem Urheberrecht oder verwandten Schutzrechten geschützt sind, siehe hier). Sollen hingegen die Lizenzierung der Datenbank und ihrer enthaltenen Elemente (wie zum Beispiel Abbildungen) nicht gleich laufen, so müssen Lizenzgeber:innen das ausdrücklich kenntlich machen. Für diesen Anwendungsfall gibt es auch spezielle Lizenzen, die dies ausdrücklich klarstellen: Um allein eine Datenbank zu lizenzieren – also ihre Struktur, nicht die enthaltenen unabhängigen Elemente –, bieten sich die Open Data Commons Attribution License (ODC-By) beziehungsweise die Open Data Commons Open Database License (ODbL) an. →
Frage 5.1.8.: Wer entscheidet bei einer Datenbank darüber, ob sie unter einer CC-Lizenz geteilt werden darf? Wie bei allen anderen Schutzgegenständen auch bestimmt der oder bestimmen die Rechteinhaber, ob eine Datenbank unter einer CC-Lizenz geteilt werden darf. Bei einer Datenbank nach dem sui generis-Schutz (siehe hier) ist dies der „Datenbankhersteller“. Anders als bei einem (Datenbank-)Werk ist Rechteinhaber nicht immer die Person oder Personengruppe, die die Datenbank geschaffen hat. Datenbankhersteller ist vielmehr, wer die Investition in die Beschaffung, Überprüfung oder Darstellung der Sammlung von Datenbankelementen geleistet hat. Wenn Sie also die Datenbank CC-lizenziert veröffentlichen möchten und selbst nicht der Datenbankhersteller sind, müssen Sie dafür sorgen, dass Sie dafür beim Datenbankhersteller die nötigen Rechte einholen. Möglicherweise muss man sich beim Teilen der Datenbank auch um die Rechte bezüglich der einzelnen in der Datenbank enthaltenen Elemente kümmern: Sofern diese Elemente für sich geschützt sind und Dritte Rechte daran innehaben, müssen auch diese Personen die nötigen Rechte einräumen, damit die Elemente der Datenbank (mit)lizenziert werden können. Wenn Sie die nötigen Rechte nicht haben, müssen Sie solche Elemente explizit von der CC-Lizenz ausnehmen, unter der die Datenbank steht. Sofern möglich sollte dies aber vermieden werden, da dies für die Nachnutzung der Datenbank(inhalte) eine Einschränkung darstellt. →
Frage 5.2.1.: Können CC-lizenzierte Inhalte für die Entwicklung neuer Technologien als Trainingsmaterial für Künstliche Intelligenz/Machine Learning eingesetzt werden? Ja, die CC-Lizenzen sind auch für solche Nutzungen ausgelegt. Die gemäß der CC-Lizenzbedingung erlaubten Nutzungen sind so weit gefasst, dass sie auch für neue Technologien offen sind. Das ist einer der großen Vorteile beim Einsatz von CC-Lizenzen. Möglicherweise ist diese Nutzung aber auch ohne Lizenz zulässig. Sofern beim Input von Trainingsmaterial für KI-Anwendungen urheberrechtlich geschützte Inhalte kopiert, abgewandelt oder geteilt werden müssen, decken die CC-Lizenzen dies ab – mit den jeweiligen Einschränkungen, falls die kommerzielle Nutzung (NC) oder Abwandlungen (ND) verboten sind. Es ist aber sehr gut möglich, dass eine gesetzliche Erlaubnis diese Nutzungsformen erlaubt. Dann kommt es auf die CC-Lizenz gar nicht mehr an. Beispielsweise existiert in Deutschland eine Schranke für Text und Data Mining, die Kopien und Veränderungen von urheberrechtlich geschützten Inhalten für die automatisierte Analyse für nicht-kommerzielle Forschungszwecke erlaubt. In diesem Fall müssen sich Nutzer nicht an die Bedingungen der Lizenz halten, weil bei gesetzlichen Erlaubnissen deren Beschränkungen nicht greifen. Jüngst (Stand: 9. Juni 2021) werden auf Grund einer Reform des EU-Urheberrechts weitere neue Erlaubnisse für Mining geschaffen, die auch kommerzielle Umgebungen erfassen. →
Frage 5.2.1.: Welche weiteren Rechte anderer muss ich bei Trainingsmaterial für Machine Learning neben dem Urheberrecht beachten? Möglicherweise berührt das Trainingsmaterial, das Sie einsetzen, oder die Ergebnisse, die Sie erzeugen, das Datenschutzrecht und Persönlichkeitsrechte, oder es kann mit ethischen Standards der Forschung in Konflikt geraten. Für diese Aspekte enthalten die CC-Lizenzen keine Regelung, denn die Nutzungsfreigabe, die die CC-Lizenzen erzeugen, ist allein auf den Schutz gemäß dem Urheberrecht gerichtet. Die vier oben angeführten Fragen und Antworten entstammen den deutschen Creative-Commons-FAQs (Autoren: Rack/Jaeger/Klimpel/Kreutzer/Weitzmann) und stehen unter der Lizenz CC-BY-4.0. Die Auswahl der FAQs für diesen Beitrag erfolgte durch die Redaktion von iRights.info (El-Auwad/Fischer). Übersicht: CC-FAQs auf iRights.info Fragen oder Unsicherheiten bei Creative-Commons-Lizenzen? Die deutschen CC-FAQs helfen weiter! iRights.info bietet dazu eine siebenteilige Übersicht: Teil 1: Wozu es Creative-Commons-Lizenzen braucht und wie genau sie funktionieren Teil 2: Creative-Commons-Lizenzmodule richtig verstehen und anwenden – Beispiel Namensnennung (CC-BY) Teil 3: Creative-Commons-Lizenzmodule richtig kombinieren – Besonderheiten des NC-Moduls (non-commercial) Teil 4: Datenbanken und Creative-Commons-Lizenzen: Was gilt es grundsätzlich zu beachten? Teil 5: Daten und Creative-Commons-Lizenzen – Trainingsmaterial für Künstliche Intelligenz Teil 6: Creative Commons: Was tun bei Lizenzverstößen? Wie setze ich meine Rechte durch? Teil 7: Wie stehen Creative Commons zu Public Domain und Open Access? Außerdem interessant: Das iRights.info-Dossier zu Creative Commons mit vielen hilfreichen Tipps und Texten. https://open-access.network/en/blog/ki-trifft-open-access-in-den-kuensten-ein-werkstattgespraech-ueber-die-licht-und-schattenseiten-einer-rasanten-entwicklunghttps://open-access.network/en/blog/ki-trifft-open-access-in-den-kuensten-ein-werkstattgespraech-ueber-die-licht-und-schattenseiten-einer-rasanten-entwicklung#commentsMon, 17 Jun 2024 08:00:00 +0200Artificial intelligenceOpen Access in the specialised disciplinesFriederike KramerAnika Wildehttps://open-access.network/en/blog/ki-trifft-open-access-in-den-kuensten-ein-werkstattgespraech-ueber-die-licht-und-schattenseiten-einer-rasanten-entwicklungHand aufs Herz – das Thema Künstliche Intelligenz (KI) gewinnt immer mehr an Bedeutung und wird heiß diskutiert. Werkstattgespräch mit Expert*innen aus verschiedenen Bereichen Die Fokusgruppe OA-Künste startete am 25.4.2024 mit einem öffentlichen Werkstattgespräch den so wichtigen Austausch zu KI, den Künsten und
Open Access. Zusammen mit den eingeladenen Expert*innen aus verschiedenen Bereichen gab es 90 Minuten voller Input und spannender Diskussionen. Den ersten Einstieg ins Thema machte Oliver Vettermann, Jurist für Datenschutz, IT-Sicherheitsrecht und Medienrecht sowie Vertreter des legal helpdesks von NFDI4Culture. Er gab Einblicke in den brandneuen European AI Act und benannte anschaulich anhand eines mittels Suno AI generierten Musikstücks die großen Herausforderungen: Woraus speisen sich die Trainingsdaten? Welche Forderungen können Künstler*innen geltend machen? Können technische Verfahren wie Data Poisoning (d.h. KI gezielt mit falschen Informationen füttern) eine Möglichkeit sein, die eigenen Daten vor einer KI-Nachnutzung zu schützen? Georg Fischer vom Open-Access-Büro Berlin und Autor bei irights.info wählte für seinen Input einen Blick auf die Entwicklungen vom Stumm- hin zum Tonfilm und die damit verbundenen Auswirkungen sowie Reaktionen. Seine Einstellung: Mediale Veränderungen brachten schon immer Aufregung und Veränderung mit sich – und werden es auch zukünftig tun. Die tatsächlichen Auswirkungen hängen aber auch immer davon ab, wie die Gesellschaft die Änderungen mitgestaltet. Eine Analogie, die sich seiner Meinung nach in gewisser Weise auch auf die KI-Entwicklungen übertragen lässt. Ebenso wie Oliver Vettermann weist auch Georg Fischer auf die vielen Unbekannten, gerade in Bezug auf Herkunft der Daten, Offenlegung der Quellcodes etc. hin und benennt die zentralen Fragen zu Original vs. Kopie, Rolle der Autor*innen / Urheber*innen und den Auswirkungen auf die Kreativwirtschaft. Der Künstler Robert Seidel zeigte in einem dritten Beitrag am Beispiel seiner Arbeit, wie er KI für sein künstlerisches Schaffen nutzt und welche Konsequenzen die KI-Entwicklungen auf seine wirtschaftliche Existenz haben. Er betonte hierbei auch, dass der seit 2021 aufkommende Einsatz von KI ein absolutes Novum für die Kunst gewesen sei und sich die Kunstschaffenden seitdem in einem Findungs- und Aushandlungsprozess befinden. Auf der einen Seite stellt die KI ein großes Potential für die Kunst dar, auf der anderen Seite birgt sie Gefahren für die Künstler*innen, deren Werke zu Trainingsdaten werden können und denen Auftragsarbeiten wegbrechen, die mehr und mehr von der KI übernommen werden. Mit Impulse in die Diskussion eines Komplexen und vielschichtigen Themas Mit diesen spannenden Inputs ging es in die Diskussion, zu der auch Sonja Thiel, Kuratorin und museologisch Forschende (digitale offene Bildung, KI und digitale Sammlungen), hinzukam. Schnell zeichneten sich die Komplexität des Themas und die Vielschichtigkeit der Fragen ab: Welche Auswirkungen haben die Entwicklungen auf den Wert von Kunst? Welche Vergütungsmodelle brauchen wir, um die wirtschaftliche Existenz der Kreativschaffenden zu sichern? Ist die mit Open Access verfolgte Openness dann automatisch ein Weg in die KI? Wo finden sich Verbindungen? Welche Rechtsfragen gibt es und wo wird es Lösungen für sie geben? Welche maschinenlesbaren Opt-out-/Opt-in-Modelle können bei der Umsetzung von rechtlichen Regularien helfen?1 Wie gehen wir mit der Diskrepanz der KI-Modelle um? Faire Modelle gehen derzeit mit qualitativ nicht ausreichenden Daten einher, während kritisch zu betrachtende Modelle sehr gute Ergebnisse liefern.2 Welche Rolle spielen die Künstler*innen bei der Entwicklung der KI-Modelle? Welche Ressourcen fordert die immer intensivere Nutzung von KI eigentlich? Stichworte: Nachhaltigkeit und Klimakatastrophe. Die Runde konnte viele Herausforderungen ansprechen. Es wurde aber auch deutlich, dass jede Frage für sich noch viel Gesprächsbedarf mit sich bringt und im Austausch auch noch geschärft werden muss. Nur so können zusammenhängende Aspekte herausgearbeitet und (Tei-)llösungen erarbeitet werden. Die rasant voranschreitenden Entwicklungen erfordern zudem ein überaus flexibles Agieren an den aufkommenden Beispielen. Zeit für Entwicklung theoretischer Konstrukte mit anschließender Umsetzung bleibt hier nicht. Eine Teilnehmendenfrage zum Stand der Umsetzung von KI an künstlerischen Hochschulen brachte einen ganz zentralen, praktischen und hochaktuellen Aspekt in die Runde: Auch an den künstlerischen Hochschulen stellt sich die Frage, wie und ob KI bei Prüfungsarbeiten, Lehre oder Forschung integriert wird. Daneben haben andere Aspekte, wie Forderungen aus der Politik, die Frage nach einer hochschulinternen KI-Instanz und der personellen Begleitung der Entwicklungen an den Hochschulen einen großen Einfluss auf persönliche und/oder institutionelle Strategien. Alle Fragen geklärt? Es bleiben viele offene Fragen und viel Interesse an weiterem Austausch. Das Werkstattgespräch konnte erste wichtige Punkte aufzeigen und neben vielen Bedenken auch Mut machen. Die Entwicklungen überholen sich, die Änderungen sind gewaltig. Aber es liegt auch an uns, sie mitzugestalten und einen für die Künste passenden Weg der Openness im Zeitalter der KI zu finden. 1Vorbild sind hierbei CC-lizenzen, die maschinenlesbare Nutzungsbindungen beinhalten. Es fehlt ein Äquivalent für die Freigabe von Daten für Trainingsdaten oder eben die Sperre hierfür. 2Faire Modelle wählen die Trainingsdaten aus und „grasen“ nicht einfach das Netz ab. Sie haben dementsprechend eine geringere Datenmenge. Kurz: je mehr Daten, desto bessere Ergebnisse. https://open-access.network/en/blog/ki-veraendert-die-forschungswelt-was-bedeutet-das-fuer-open-accesshttps://open-access.network/en/blog/ki-veraendert-die-forschungswelt-was-bedeutet-das-fuer-open-access#commentsWed, 17 Apr 2024 13:07:00 +0200Artificial intelligenceCopyrightCarolin BecklasLinda MartinHelene Strausshttps://open-access.network/en/blog/ki-veraendert-die-forschungswelt-was-bedeutet-das-fuer-open-accessWelche Bedeutung haben die Entwicklungen rund um Künstliche Intelligenz für Open Access und Open Research1? Mit einer Reihe von Blogposts möchte das Projekt open-access.network jüngst aufkommenden Fragestellungen und Diskussionen rund um die Beziehung zwischen den Themenfeldern nachkommen. Den Auftakt bildet ein Blogpost, der eine allgemeine Einordnung vornimmt und Raum für Fragestellungen aus der Community eröffnet. Worum geht es? Als Künstliche Intelligenz (KI) werden Algorithmen bezeichnet, die in der Lage sind, menschenähnliches Denken und Lernen nachzubilden. Es umfasst u.a. Machine Learning (Datenerkennung und -sortierung auf Basis von wiederholter Dateneingabe) oder neuronale Netze (Datenerkennung und -sortierung auf Basis von Zusammenführung von Daten aus verschiedenen Datenbanken). Gegenwärtig wird KI u.a. zur Bilderkennung und -erstellung, Spracherkennung, Texterstellung und -optimierung, zur Erkennung von Mustern und zur Prozessoptimierung genutzt (vgl. Fraunhofer-Institut für Kognitive Systeme, 2024). Wo Open Access durch den freien Zugang zu wissenschaftlicher Information die Chancen auf Bildungsgerechtigkeit erhöht, leistet auch die Nutzung von KI einen wichtigen Beitrag zu dieser Entwicklung. So können Sprachbarrieren abgebaut und Informationen außerhalb des eigenen Bildungssystems leichter zugänglich gemacht werden (vgl. Kasneci, 2023). Open Access und KI-Tools in der Forschung Auch in der Wissenschaft finden viele KI-Tools Anwendung. Doch welche Berührungspunkte hat KI mit Open Access (OA) (dem freien Zugang zu wissenschaftlicher Information im Internet)? Wir können hier einerseits auf KI-Tools blicken, die im Publikationsprozess eine Rolle spielen und andererseits auf Tools, die Zugangsbarrieren in der Wissenschaft senken. KI-Werkzeuge helfen u.a. bei der Formulierung von Texten oder bei der Suche nach geeigneten Reviewer*innen. Außerdem können sie genutzt werden, um die Barrierefreiheit von wissenschaftlichen Publikationen zu verbessern, indem sie z.B. automatische Übersetzungen anfertigen, Text in gesprochene Sprache überführen, Bilder beschreiben oder automatisch Untertitel für Videos generieren. Dadurch können Menschen unabhängig von spezifischen Voraussetzungen Zugang zu wissenschaftlichen Informationen erhalten. Auch Wissenschaftler*innen, deren Muttersprache nicht Englisch ist, können von KI-Werkzeugen profitieren: Tools, die auf Large-Language-Modellen (LLM) beruhen, helfen ihnen bei der Übersetzung oder Generierung ihrer wissenschaftlichen Texte. Durch die beschriebenen KI-Anwendungen haben Wissenschaftler*innen so (vermeintlich) mehr Zeit für die Recherche, die Planung und Durchführung von Forschungsprojekten oder die Lehre (vgl. Staiman, 2023). Wo Open Access durch den freien Zugang zu wissenschaftlicher Information die Chancen auf Bildungsgerechtigkeit erhöht, leistet auch die Nutzung von KI einen wichtigen Beitrag zu dieser Entwicklung. So können Sprachbarrieren abgebaut und Informationen außerhalb des eigenen Bildungssystems leichter zugänglich gemacht werden (vgl. Kasneci, 2023). Jedoch seien an dieser Stelle bereits zwei Einschränkungen bei der Nutzung von KI am Beispiel von ChatGPT verwiesen: Der Einsatz des Tools hängt von der Qualität der formulierten Prompts (Anweisungen/Fragestellungen) ab. Eine immer stärkere Schärfung der Fragestellung ist wichtig und bedarf einiger Übung. Darüber hinaus unterscheiden sich die verschiedenen Versionen der Software in der Größe des hinterlegten Datensatzes und der Genauigkeit der Ausgaben. Die Version 4.0 umfasst einen größeren Datensatz, ist aber in der Pro-Variante kostenpflichtig. Es besteht die Gefahr, dass die Höhe des Einkommens und die Qualität der Antworten voneinander abhängen und damit eine Form der Ungleichheit erzeugt wird. Open-Access-Publikationen sorgen nicht nur für eine rechtliche Absicherung der Autor*innen bei der Nachnutzung der Inhalte, sondern leisten viel mehr: Denn (noch) ist es mit Hilfe von Algorithmen schwierig, komplexe wissenschaftliche Werke zu schreiben. So werden Verweise durch die KI teilweise "halluziniert". Urheberrecht und KI Ein viel diskutierter Aspekt von KI ist die Frage, unter welchen rechtlichen Bedingungen Publikationen für das Trainieren von LLMs genutzt werden dürfen und ob es unterschiedliche Regelungen für kommerzielle und wissenschaftliche Zwecke gibt bzw. geben sollte (vgl. Brehm, 2022). Mit Blick auf das Urheberrecht bedarf es weiterer Regulierungen und Schärfungen der Gesetzgebungen, um bestehende Grauzonen zu verringern. Einer Ansicht nach wird das sog. Crawlen (Durchforsten und Lesen) von Daten, die frei verfügbar im Netz vorhanden sind, durch die urheberrechtlichen Schrankenregelungen zum Text und Data Mining (§§ 60d und 44b UrhG) erlaubt (vgl. Rack, 2024). Künftig sollen Anbietende von KI-Diensten, die mit großen Datenmengen trainiert werden, laut EU-Gesetz angehalten werden, die zu Trainingszwecken genutzten Daten offenzulegen (vgl. Baumann, 2024). Bei einer Open-Access-Publikation ist die Vergabe einer Creative-Commons-Lizenz Standard und damit die Nachnutzung der Inhalte durch die entsprechende Lizenz geregelt. Open-Access-Publikationen sorgen nicht nur für eine rechtliche Absicherung der Autor*innen bei der Nachnutzung der Inhalte, sondern leisten viel mehr: Denn (noch) ist es mit Hilfe von Algorithmen schwierig, komplexe wissenschaftliche Werke zu schreiben. So werden Verweise durch die KI teilweise "halluziniert". Das heißt, dass von der KI benannte Quellen teilweise nicht existieren oder ausgegebene Inhalte nicht valide sind (Alkaissi, McFarlane, 2023). Die Verfügbarkeit von Texten in Open Access spielt für die Validierung künstlich generierter Texte und deren Quellen eine sehr wichtige Rolle, da die Verweise und zitierten Texte und Daten öffentlich einsehbar und überprüfbar sind. Dieses hilft, nicht stichhaltige Forschung oder "halluzinierte Texte" zu enttarnen. KI und jetzt? KI hat sich in den letzten Jahren rasant weiterentwickelt und in den Arbeitsalltag vieler Einzug gehalten. Fest steht, dass eine Zukunft ohne KI sehr unwahrscheinlich ist. Insofern ist nicht die Frage, ob, sondern wie wir mit den neuen Tools umgehen. Es werden internationale, wissenschaftspolitische Diskussionen über den Umgang mit neuen Entwicklungen geführt (z.B. Manola, 2023). Mitarbeiter*innen aus den Bereichen der Infrastruktur (u.a. Bibliotheken) und der Lehre können einen Beitrag zur Verbesserung der Informationskompetenz leisten, indem sie Veranstaltungs- und Informationsformate zur kritischen Auseinandersetzung (Vor-und Nachteile, Umgang usw.) mit den Tools anbieten. Fragen zur Qualitätssicherung in der Forschung, sowie zu Nutzen und Grenzen von KI für Open Research werden im Rahmen unserer Arbeit relevant bleiben. Mitarbeiter*innen aus den Bereichen der Infrastruktur (u.a. Bibliotheken) und der Lehre können einen Beitrag zur Verbesserung der Informationskompetenz leisten, indem sie Veranstaltungs- und Informationsformate zur kritischen Auseinandersetzung (Vor-und Nachteile, Umgang usw.) mit den Tools anbieten. Auch Diskurse um die Rolle von KI in der Erstellung und der Verbreitung, aber auch der Erkennung von "halluzinierten" Forschungsergebnissen bzw. durch KI erzeugte Textpublikationen innerhalb der Wissenschaftskommunikation sollte gefördert werden. Ausblick: Blogpost-Reihe Dieser Blogpost bildet den Auftakt einer Reihe, die sich in unregelmäßigen Abständen mit den Themenfeldern Künstliche Intelligenz und Open Access bzw. Open Research beschäftigt. Eine Auseinandersetzung mit dem Umgang von ChatGPT und Co. und die Diskussion aufkommender Fragen befähigt dazu, den eigenen Weg im Umgang mit den Entwicklungen zu finden. Jetzt seid ihr gefragt: Habt ihr Feedback oder Anregungen für künftige Blogposts zu diesem Themenfeld? Wie ist euer Umgang mit KI? Welche Potenziale und Gefahren seht ihr in Bezug auf KI und Open Access/Open Research? Nutzt gern die Kommentarfunktion unter diesem Beitrag für eine konstruktive Diskussion! 1Definition: Konzepte und Praktiken eines offenen und nachhaltigen Zugangs zu Ergebnissen, Materialien bzw. dem gesamten Forschungsprozess. Open Research ist eng mit der Definition von Open Science in der UNESCO Recommendation on Open Science verbunden. Der Begriff ermöglicht jedoch eine Inklusion geistes- und kulturwissenschaftlicher Praktiken. Literatur Alkaissi, H. & McFarlane, S. I. (2023). Artificial Hallucinations in ChatGPT: Implications in Scientific Writing. Cureus, 15(2), e35179. DOI: 10.7759/cureus.35179 Baumann, S. (2024). AI-Act: Was die neue KI-Verordnung regelt. https://doi.org/10.59350 Brehm, E. (2022). Guidelines zum Text und Data Mining für Forschungszwecke in Deutschland. https://doi.org/10.34657/9388 Fraunhofer-Institut für Kognitive Systeme IKS (2014). Künstliche Intelligenz (KI) und maschinelles Lernen. https://www.iks.fraunhofer.de/de/themen/kuenstliche-intelligenz.html Kasneci, E. (2023). „ChatGPT kann zu mehr Bildungsgerechtigkeit führen“. https://www.tum.de/aktuelles/alle-meldungen/pressemitteilungen/details/chatgpt-kann-zu-mehr-bildungsgerechtigkeit-fuehren Manola, N. (2023). AI with and for Open Science. https://www.openaire.eu/blogs/ai-with-and-for-open-science Rack, F. (2024). Rechtsfragen zur generativen KI. ABI Technik, 44(1), 39–47. https://doi.org/10.1515/abitech-2024-0005 Staiman, A. (2023). Guest Post - Academic Publishers Are Missing the Point on ChatGPT. The Scholarly Kitchen. https://scholarlykitchen.sspnet.org/2023/03/31/guest-post-academic-publishers-are-missing-the-point-on-chatgpt/