Schwerpunktthema: Künstliche Intelligenz
Generative KI-Werkzeuge: Impact verstehen und ge- stalten
Generative KI-Programme sind wichtige Werkzeuge, mit denen sich Arbeitsprozesse be- schleunigen lassen.Vergleichbar mit dem Übergang von manuellen Webstühlen zu Webma- schinen in der Mitte des 19. Jahrhunderts. Mit den damit verbundenen technologischen, öko- nomischen, ökologischen und sozialen Implikationen.Was gilt es dabei für KMU zu wissen?
Technologie Wie nun implementieren? Zunächst einmal wer- den zur Bearbeitung dieser Aufgaben Sprachmo- delle verwendet, sog. „Large Language Models“ (LLMs). Diese sind sehr Hardware-intensiv. Daher gibt es für jede der genannten Aufgaben Anbie- ter, die Webservices und Cloud-Lösungen bereit- stellen, und damit auch die nötige Rechenpower. Um diese Webservices herum kann man nun sein eigenes Programm entwickeln (lassen), das dann bspw. als Assistenz für Redakteure, Programmie- rer etc. oder als Hilfesystem fungiert. Am Ende der Entwicklung steht ein KI-Assistent, mit dem Mitarbeitende in natürlicher Sprache interagieren können. Datenschutz Wie aber mit sensiblen Daten umgehen? Hier empfiehlt sich eine lokale Installation, die un- abhängig vom Internet betrieben werden kann. Allerdings scheiden dann viele kommerzielle Anbieter, wie bspw. auch openAI, aus. Man greift auf Open-Source-Modelle zurück. Diese kommen zwar noch nicht ganz an ChatGPT heran, liefern mittlerweile aber solide Leistung auch in deut- scher Sprache. Die Implementierung des KI-As- sistenten funktioniert dann ähnlich wie zuvor, nur ist die Schnittstelle eine andere. Wirtschaftlichkeit Um Sprachmodelle lokal auszuführen, ist ein Ser- ver erforderlich, der mehrere Nvidia Grafikkarten beinhaltet. Die Hardware-Kosten belaufen sich hier auf mehrere 10.000 Euro. Die Anpassung des Sprachmodells an die spezifische Aufgabe ist ein Entwicklungsprojekt, das eine Software-Firma durchführt. Die Kosten bewegen sich hier, je nach Aufgabe, im Bereich von einige 10.000 Euro bis einige 100.000 Euro. Nachhaltigkeit Der Betrieb des eigenen Sprachmodells produ- ziert höhere CO 2 -Emissionen als andere Netz- werkanwendungen. Bspw. erfordert eine KI-ge- stützte Suchanfrage eine vier- bis fünffach höhere Rechenleistung als eine normale Suche [2].
KI-Assistentin Cara präsentiert Inhalte des Forschungsprojekts „Exki- mo“.
Kollege „KI-Assistent“ Generative KI-Werkzeuge unterstützen in Arbeits- prozessen: Sie generieren Inhalte, bearbeitenTex- te und assistieren beim Schreiben oder Program- mieren [1]. Als KMU, das einen Anwendungsfall hat, können Sie eine bestehende Lösung einkau- fen oder selbst entwickeln (bzw. beauftragen). Das Ergebnis – der KI-Assistent – kann die Mitar- beitenden bei der Bearbeitung bspw. folgender Fragen unterstützen: • „Erstelle einenText aus folgenden Stichpunk- ten, Umfang: 4500 Zeichen, Stil: Wissen- schaftlich.“ • „Fasse den folgendenText zusammen. Erstelle außerdem drei Schlagworte und ordne ihn einer der folgenden Kategorien zu: …“ • „Erstelle ein Java Programm für ...“ Darüber hinaus lassen sich längereTexte in ein Sprachmodell geben, bspw. Dokumentationen, sodass Benutzer anschließend spezifische Fragen dazu stellen können. Oft lässt man das Sprachmodell durch Nachfrage („Stimmt das auch?“) seine Antwort überprüfen (Self Reflection) bzw. aus mehreren Antworten die wahrscheinlichste auswählen (Self Consistency).
Z! Das Zukunftsmagazin | Ausgabe 3/2023 8
Made with FlippingBook - PDF hosting