AI Workspace für effizienten und sicheren Agenten-Einsatz: 5 Erkenntnisse aus unserem Innovation Lab

Laut einer aktuellen Deloitte-Studie setzen bereits 27 Prozent der deutschen Großunternehmen AI-Agenten produktiv ein – Tendenz steigend. Dabei spürt der einzelne Nutzer oft schon nach kurzer Zeit deutliche Effizienzgewinne, etwa durch automatisierte Routineaufgaben und kürzere Bearbeitungszeiten. Verwenden jedoch mehrere Personen in einem Team gemeinsam diese Systeme, entstehen neue Herausforderungen:

• Wie bleibt Wissen aktuell und verlässlich?
• Wie lassen sich neue Fähigkeiten zentral bereitstellen und wiederverwenden?
• Wie unterstützen AI-Agenten ein Team konsistent im Arbeitsalltag?
• Wie bleibt ihr Einsatz kontrolliert, wirtschaftlich und skalierbar?

Mit diesen Fragen haben wir uns zwei Tage lang im ORAYLIS Innovation Lab beschäftigt. Unsere wichtigste Erkenntnis: Die Technik ist heute nicht mehr der Engpass. Entscheidend sind eine gemeinsame Wissensbasis, klare Governance und professionelle Entwicklungsprozesse.

Die fünf wichtigsten Erkenntnisse auf einen Blick:

1. Die Wissensbasis entscheidet stärker über die Qualität von AI-Agenten als das Sprachmodell.
2. AI-Agenten brauchen professionelle Entwicklungsprozesse mit Versionierung, Reviews und Releases.
3. Je mehr Fähigkeiten AI-Agenten erhalten, desto wichtiger werden Governance und Lifecycle-Management.
4. Der aufgabenspezifische Einsatz von Sprachmodellen verbessert Kosten und Geschwindigkeit.
5. Ein AI Workspace verbindet Wissen, Werkzeuge, Governance und AI-Agenten zu einer gemeinsamen Arbeitsumgebung.

In diesem Beitrag erfahren Sie, wie wir einen AI Workspace auf Azure aufgebaut haben und welche Erfahrungen sich daraus für den produktiven Einsatz von AI-Agenten ableiten lassen.

Ein interdisziplinäres Teams aus ORAYLIS-Experten hat beim Innovation Lab alle Fragen rund um das Thema AI Workspace in Azure erforscht (v.l.n.r): Daniel van Schadewyk, Nils Großepieper, Luca Zeuch, Luca Hackbarth, Nick Schüssler, Theo Peschers, Alex Miller. (ORAYLIS)

Was ist ein AI Workspace?

Ein AI Workspace ist eine digitale Arbeitsumgebung, die generative KI nicht bloß als separates Werkzeug betrachtet, sondern diese tief in die Infrastruktur, Datenbasis und Workflows integriert. In der Folge ermöglicht der Workspace die gemeinsame Nutzung von Wissen, die Entwicklung neuer Fähigkeiten und deren kontrollierte Bereitstellung im Team.

In unserem Innovation Lab wollten wir herausfinden, welche konkreten Bausteine dafür in Azure notwendig sind und welche Hürden erst im praktischen Einsatz sichtbar werden. Vor diesem Hintergrund haben wir zunächst eine technische Plattform aufgebaut, die dank agentischem Coding in kurzer Zeit bereitstand. Zur weiteren Erprobung wurde das Setup durch einen Hermes-AI-Agenten ergänzt. Als Datenbasis diente uns das gesammelte Wissen von ORAYLIS.

Die große Herausforderung lag im Umgang mit diesen Informationen. Es galt, sowohl das Organisations- als auch das Fachwissen so bereitzustellen, dass alle Beteiligten konsistent darauf zugreifen und es gemeinsam weiterentwickeln können. Infolgedessen haben wir sämtliche Daten in einer zentralen, wartbaren Wissensstruktur zusammengeführt, die als Grundlage für den KI-Agenten sowie neu zu entwickelnde Fähigkeiten dienen sollte.

1. Wissensbasis entscheidet über die Qualität

Das Organisationswissen hielten wir in strukturierten Markdown-Dateien nach dem Org-as-Code-Ansatz fest. Dabei werden Teams, Rollen, Verantwortlichkeiten und Prozesse einheitlich und versionierbar beschrieben. So kann Hermes organisatorische Zusammenhänge besser nachvollziehen und bei seinen Antworten berücksichtigen. Im Verlauf des Labs zeigte sich noch ein weiterer Nutzen: Unklare, fehlende oder widersprüchliche Angaben wurden schnell sichtbar. Org as Code liefert damit nicht nur eine verlässliche Wissensbasis für den Agenten, sondern unterstützt zugleich die Qualitätssicherung des Organisationswissens.

Für das Fachwissen nutzten wir das Organizational Knowledge Framework. Es ergänzt die Organisationsstruktur um ein verknüpftes Wissensmodell: Fachinhalte werden mit Metadaten, Tags und Beziehungen zwischen relevanten Themen, Projekten und Dokumenten versehen. Hermes erhält dadurch gezielten Kontext und kann Informationen besser einordnen, als bei einer klassischen Dokumentensuche. Eine Erkenntnis ist besonders hervorzuheben: Die Qualität der Antworten hängt deutlich stärker von der Wissensbasis als vom verwendeten Sprachmodell ab. Je besser Informationen strukturiert und miteinander verknüpft waren, desto klarer erkannte Hermes die Zusammenhänge und desto seltener halluzinierte der Agent.

Und wie sieht es mit der kontinuierlichen Erweiterung des AI Workspaces um neues Wissen aus? Hier übernimmt Hermes Informationen aus Gesprächen, ordnet sie der passenden Wissensstruktur zu und stellt sie anderen Nutzern bereit. Gleichzeitig zeigte sich die Kehrseite: Ohne klare Regeln entstehen Inkonsistenzen. Neue Inhalte müssen deshalb geprüft, versioniert und kontrolliert freigegeben werden.

Unser Learning: Nicht das Sprachmodell entscheidet über die Qualität eines AI Workspace, sondern eine strukturierte Wissensbasis mit klaren Prozessen.

2. AI-Agenten brauchen professionelle Entwicklungsprozesse

Zu Beginn arbeiteten alle Beteiligten in derselben Entwicklungsumgebung. Neue Skills, Konfigurationen und Erkenntnisse standen dadurch sofort allen zur Verfügung. Das beschleunigte den Wissensaustausch. Damit wirkten sich aber auch Änderungen unmittelbar auf alle aus. Unfertige Anpassungen erschwerten unabhängiges Arbeiten und führten zu Konflikten.

Deshalb sollte jeder Entwickler in einem eigenen Workspace oder Worktree arbeiten. Das Team prüft Änderungen im Review und übernimmt sie anschließend kontrolliert in die gemeinsame Umgebung.

Unser Learning: AI-Agenten lernen gemeinsam, brauchen aber dieselben Entwicklungsprozesse wie klassische Software – mit Versionierung, Reviews und Releases.

3. Je mehr Fähigkeiten, desto mehr Governance

Je einfacher Hermes neue Skills erstellen konnte, desto schneller wuchs sein Funktionsumfang. Gleichzeitig entstanden doppelte Skills, unterschiedliche Lösungswege und redundante Integrationen. Die Herausforderung bestand nicht mehr darin, neue Fähigkeiten zu entwickeln. Entscheidend war, die zunehmende Zahl an Funktionen dauerhaft beherrschbar zu halten.

Im ORAYLIS Innovation Lab werden regelmäßig neue Technologien auf ihre Einsatzfähigkeit und den Praxisnutzen geprüft. (ORAYLIS)

AI-Agenten verlangen also nach einem klaren Lebenszyklus. Teams müssen die Skills kontrolliret pflegen, versionieren, prüfen und entfernen. Nur so bleibt die Qualität langfristig erhalten.

Unser Learning: Je leistungsfähiger AI-Agenten werden, desto wichtiger werden Governance und ein konsequentes Lifecycle-Management.

4. Das richtige Modell für die richtige Aufgabe

Im Lab arbeiteten wir zunächst bei jeder Anfrage mit dem gleichen, sehr leistungsstarken Sprachmodell – unabhängig davon, ob Hermes komplexe Analysen durchführen oder lediglich Informationen nachschlagen sollte. Hinsichtlich der Ergebnisqualität funktionierte dieser Ansatz problemlos. Wirtschaftlich war er jedoch ineffizient: Einfache Aufgaben verursachten unnötige Kosten und verlängerten die Antwortzeiten.

Für produktive Umgebungen empfehlen wir deshalb den Einsatz von Model Routing. Der AI Workspace entscheidet dabei automatisch, welches Sprachmodell eine Anfrage am effizientesten bearbeitet. Leistungsstarke Modelle kommen dort zum Einsatz, wo sie echten Mehrwert bieten. Einfache Aufgaben übernehmen kleinere und kostengünstigere Modelle.

Unser Learning: Die flexible Nutzung von unterschiedlichen Sprachmodellen wirkt sich positiv sowohl auf die Kosten als auch die Performance aus.

5. AI Workspace ist mehr als ein Chatbot

Während des Labs entwickelte sich Hermes kontinuierlich weiter. Er beantwortete nicht nur Fragen, sondern nutzte die gemeinsame Wissensbasis, erstellte neue Skills und integrierte Werkzeuge für wiederkehrende Aufgaben.

Entsprechend wurde deutlich, dass ein AI Workspace weit mehr als eine Oberfläche für den Dialog mit einem Sprachmodell ist. Er verbindet Wissen, Werkzeuge, Entwicklungsprozesse und Governance zu einer gemeinsamen Arbeitsumgebung.

Unser Learning: Der eigentliche Mehrwert entsteht nicht durch einzelne AI-Agenten, sondern durch eine Plattform, auf der Wissen und Fähigkeiten gemeinsam wachsen.

Fazit

Unser Innovation Lab hat gezeigt: AI-Agenten zu entwickeln und produktiv zu nutzen, ist inzwischen kein Problem mehr. Die Herausforderung besteht darin, sie dauerhaft beherrschbar zu halten, vor allem wenn mehrere Personen eines Teams damit arbeiten. Je einfacher sich AI-Agenten in diesem Kontext erweitern lassen, desto wichtiger werden eine gemeinsame Wissensbasis, klare Governance und professionelle Entwicklungsprozesse. Nur so bleiben Wissen, Fähigkeiten und Verhalten langfristig konsistent.

Das heißt: Über den langfristigen Erfolg des Agenten-Einsatzes entscheidet nicht die Infrastruktur oder das Sprachmodell, sondern die Qualität des Wissens und der Umgang mit Veränderungen. Ein AI Workspace bildet hierbei eine gute Grundlage. Er verbindet AI-Agenten, Wissen, Werkzeuge und Governance zu einer gemeinsamen Arbeitsumgebung und ermöglicht somit, AI dauerhaft produktiv und skalierbar in einzelnen Teams einzusetzen.

Gleichzeitig gilt es, die AI-Implementierung ganzheitlich über das gesamte Unternehmen hinweg zu denken. Betrieb, Wartbarkeit, Sicherheits- und Berechtigungskonzepte sowie CI/CD, Deployment, Netzwerkintegration und Monitoring müssen von Anfang an einbezogen werden. Die eigentliche Aufgabe besteht also weniger darin, eine AI-Lösung einmalig zum Laufen zu bringen, sondern sie dauerhaft zuverlässig, sicher und weiterentwickelbar zu betreiben.