LLM & Low-Code

GenAI und Low-Code: Was Unternehmen beachten sollten, wenn Mitarbeiter:innen eigene Apps prompten

Digitalisierung, Automatisierung und Vereinfachung von täglichen Arbeitsaufgaben: Das ist das Ziel vieler Unternehmen, um mehr Effizienz in Prozesse zu bringen und Mitarbeiter:innen zu entlasten. Doch wer kümmert sich um die Einführung neuer Lösungen? Können – und sollten – Fachabteilungen mithilfe von LLMs und Low-/No-Code-Tools eigene Anwendungen ganz ohne die Unterstützung der IT erstellen? Was gibt es dabei zu beachten?

ChatGPT, schreib mir funktionierenden Code für eine App, die unseren Freigabeprozess automatisiert!“ Lässt sich so die Automatisierung von Prozessen oder gar das Erstellen ganzer Apps vereinfachen und beschleunigen? Das würde die IT entlasten, Kosten reduzieren und Unternehmen viele weitere Vorteile bringen.

Schon seit einiger Zeit existieren diverse Anbieter und Lösungen für No- oder Low-Code-Programmierung, bei denen die Anwender:innen keine komplexen Programmiersprachen mehr beherrschen müssen. Stattdessen können sie logische Arbeitsabläufe, z. B. Freigabeprozesse, per Drag & Drop digital abbilden und automatisieren. Während bei Low-Code noch ein Grundmaß an manuellen programmatischen Eingriffen notwendig ist, setzen No-Code-Ansätze ausschließlich auf visuelle Elemente. Nun nimmt die Kombination aus No-/Low-Code und Large Language Models (LLMs) Fahrt auf und eröffnet weitere Möglichkeiten.

No-Code und LLM – wenn Technologien aufeinandertreffen

Beispielsweise experimentiert aktuell ein Forschungsteam von Microsoft mit einem visuellen Low-Code-Ansatz mit zwei LLMs im Hintergrund. Besonders ist hier die Trennung der Tasks. Zu Beginn erfolgt die Planung des Workflows. Dieser Schritt wird durch das erste LLM begleitet. Die Benutzer:innen können prüfen, ob der vom Planungs-LLM vorgeschlagene Ablauf ihren Zielen entspricht. Bei der anschließenden Ausführung des Workflows tritt das zweite LLM in Erscheinung und liefert inhaltliche Antworten. So kann z. B. ein Workflow erstellt werden, der Mitarbeiter:innen im Kundenservice unterstützt oder auch für einen entsprechenden Chatbot genutzt werden kann.

Quelle: Low-code LLM: Visual Programming over LLMs; arXiv:2304.08103v2 [cs.CL]

Solche Kombinationen von mehreren LLMs, die je auf eine spezifische Aufgabe – wie z. B. Planung und Ausführung – spezialisiert werden, vereinen die Vorteile von No-/Low-Code-Programmierung mit denen der Sprachmodelle und ergänzen die sich ständig verbessernden Möglichkeiten, No-/Low-Code-Anwendungen per Prompting zu erstellen.

Je einfacher solche Angebote zu bedienen sind, desto wahrscheinlicher ist es, dass Mitarbeiter:innen diese Möglichkeit für sich entdecken – auch ohne offizielle Vorgabe oder Reglementierung. Und hier entstehen Chancen für das betriebliche Umfeld. Als „Citizen Developer“ kann die gesamte Belegschaft Automatisierungslösungen bottom-up als Prototyp entwickeln, die IT kann dann beim Roll-out ins gesamte Unternehmen unterstützen.

· Spotlight

„ChatGPT jenseits ChatGPT“ – Zur Nutzung von GenAI im Unternehmenskontext

Dr. Andrej Fischer sprach in seinem Vortrag im Rahmen der 15. Petersberger Gespräche über Fragen, Herausforderungen und Möglichkeiten, die riesige Sprachmodelle wie […]

· Spotlight · Externer Post

Die 10 häufigsten Fragen von CDOs und CIOs zu on-premises LLM

GenAI-Tech-Talk

GenAI als As-a-Service-Lösung einführen, ein Large Language Model (LLM) selbst hosten oder in der Cloud? Welche Aufwände und Kosten sind damit verbunden? Solche Fragen beschäftigen […]

· Spotlight

„Generative AI: Stärken, Chancen & Risiken“ – Vortrag von Prof. Dr. Hans Uszkoreit

Prof. Dr. Hans Uszkoreit ging in seinem Vortrag im Rahmen der 15. Petersberger Gespräche sowohl auf die Entwicklungsgeschichte der großen Sprachmodelle als auch auf die […]

· Spotlight

Open Source-basierte GenAI-Technologie von Comma Soft emanzipiert europäische Unternehmen von LLM-as-a-Service-Anbietern

In den letzten Monaten verzeichnet die Comma Soft AG eine verstärkte Nachfrage nach unbedenklich in Unternehmen einsetzbarer und zugleich hochperformanter Generativer KI/GenAI. Mit dem Large […]

· Spotlight · Externer Post

ChatGPT & Co unter der Lupe

Was kann Generative KI (GenAI)?

Welche neuen Möglichkeiten eröffnen Large Language Models (LLMs) wie sie in ChatGPT, Microsoft Copilot und anderen Anwendungen zum Einsatz kommen? Wie verändert Generative AI (GenAI) […]

Ohne Governance geht’s nicht

Wie heißt es so schön: Ordnung ist das halbe Leben. Wenn tatsächlich alle Mitarbeiter:innen eigene Anwendungen und Prozesse mit LLM und Low-/No-Code-Plattformen erstellen, ist ein Wildwuchs geradezu vorprogrammiert. Die IT müsste einen ganzen Zoo an Apps unter Dach und Fach bekommen. Das Risiko für Datenschutz- und Compliance-Verstöße würde – nicht zuletzt durch die Nutzung von As-a-Service-LLMs – rasant steigen. Daher ist es dringend zu empfehlen, sich dem Thema auf unternehmerischer Ebene anzunehmen.

Folgende Fragen sollten Sie dabei für sich klären:

  • Welche Personen im Unternehmen sollen Lösungen entwerfen & veröffentlichen können?
  • Für welche Szenarien & Cases kommt dies überhaupt in Frage?
  • Wie werden die entsprechenden Abläufe in der IT-Governance verankert & dokumentiert?
  • Welche GenAI-Lösungen & weiteren IT-Produkte dürfen genutzt werden?
  • Erfüllen diese Lösungen die Anforderungen an regulatorische & Compliance-Vorgaben?
  • Müssen für die Nutzung der Anwendungen bzw. bestimmter Funktionen spezifische Rechte & Rollen eingerichtet werden?
  • Reichen die vorhandenen Lösungen technisch aus oder müssen sie erweitert oder modernisiert werden?
  • Sollen die Lösungen skalierbar sein, falls perspektivisch weitere User hinzukommen?
  • Welche Rolle hat die IT bei alldem inne?
  • Welche weiteren Stakeholder müssen mitgenommen werden?
  • Wie werden die Mitarbeiter:innen geschult, damit sie GenAI regulatorikkonform nutzen können?
  • Müssen auch für „citizen-developed“ Apps bestimmte unternehmensweite Standards etabliert werden?

Die Chancen von LLM und Low-/No-Code sicher nutzen

Vor dem Hintergrund der Kombinationsmöglichkeiten verschiedener Technologien dürften sich in Zukunft weitere Einsatzmöglichkeiten ergeben: Von Copilot in den verschiedenen Microsoft-Produkten über die Möglichkeit, als Unternehmen eigene LLMs zu betreiben bis hin zur Nutzung von GenAI-Lösungen von Drittanbietern können verschiedenste Anwendungsfälle abgebildet werden.

Was für Sie als Unternehmen die bestmögliche Lösung im Rahmen Ihrer Anforderungen darstellt, finden wir gemeinsam mit Ihnen heraus. Treten Sie dafür gerne mit Nils Barkawitz und seinen Kolleg:innen in Kontakt: Hier können Sie Kontakt aufnehmen.