Beratung und Entwicklung im Bereich Generative AI, LLM-Integration, Machine Learning, Enterprise Automation & Data Science.

Im Rahmen meiner Masterarbeit habe ich ein System entwickelt, welches passende Bilder zu beliebigen Konversationen in Echtzeit generiert. Hierbei habe ich innerhalb einer Pipeline neuste Technologien/Modelle lokal aufgesetzt und strategisch durch geeignete Techniken wie Prompt Engineering & Agentic AI innerhalb der Pipeline weiterverarbeitet. Das entwickelte System vertiefte mein Wissen in Bereichen von App-Entwicklung, REST-API's + Front- und Backend Entwicklung.

Um die Qualitätskontrolle in der Weinproduktion zu revolutionieren, habe ich eine innovative Lösung zur Objekterkennung entwickelt. Durch das Training eines YOLOv5-Modells mit sorgfältig gelabelten Daten bin ich in der Lage, automatisch und zuverlässig die verschiedenen Reifegrade von Trauben zu identifizieren – ein entscheidender Schritt zur Optimierung von Ernteprozessen und Produktqualität.

Mit der Einführung von Microsoft 365 Copilot stand der Kunde vor der Herausforderung, den produktiven Einsatz der KI-Funktionalitäten sicher und datenschutzkonform zu gestalten. Neben der Lizenzaktivierung galt es, die Governance-Fragen zu klären, erste Konfigurationen im Microsoft365 Admin Center vorzunehmen und das Fundament für einen unternehmensweiten Roll-out zu schaffen. Ziel des Projekts war die initiale Aktivierung der Microsoft 365 Copilot Lizenzen, die Beratung zu Governance-relevanten Fragestellungen (wie Datenschutz, Datenzugriffe, Berechtigungsmanagement) sowie die Durchführung erster technischer Einstellungen für einen kontrollierten Pilotbetrieb innerhalb des Unternehmens. Im Rahmen eines strategischen Beratungstermins wurde der Kunde durch die Lizenzaktivierung und Einrichtung im Microsoft 365 Admin Center geführt. Dabei wurden grundlegende Einstellungen vorgenommen, um Copilot sicher und zielgerichtet in die bestehende IT-Umgebung zu integrieren. Gleichzeitig wurden Governance-Aspekte wie Datenzugriffsrechte, Compliance-Vorgaben und organisatorische Voraussetzungen thematisiert und erste Handlungsempfehlungen abgeleitet. Die Beratung orientierte sich an den Microsoft-Best-Practices für Copilot-Rollouts und adressierte sowohl technische als auch organisatorische Fragestellungen. Die Aktivierung erfolgte über das Microsoft 365 Admin Center, wo spezifische Benutzergruppen freigeschaltet, Zugriffsrechte geprüft und Einstellungen zur Nutzung von Copilot in Teams, Outlook und Word vorgenommen wurden. Ergänzend wurden Governance-Richtlinien vorbereitet, die in der weiteren Roll-out-Planung als Grundlage dienen. Durch das Projekt konnte die Copilot-Nutzung beim Kunden gezielt vorbereitet und gestartet werden. Die Lizenzen wurden erfolgreich für ausgewählte Pilotnutzer aktiviert, sodass erste praktische Erfahrungen im Unternehmenskontext gesammelt werden konnten. Parallel dazu wurden klare Handlungsempfehlungen im Bereich Governance erarbeitet, um den Copilot-Einsatz sicher und regelkonform zu gestalten. Erste technische Einstellungen im Microsoft 365 Admin Center ermöglichten einen strukturierten Roll-out. Darüber hinaus wurde bei den Verantwortlichen ein fundiertes Verständnis für die Chancen, aber auch die organisatorischen und technischen Rahmenbedingungen beim Einsatz von KI in Microsoft 365 geschaffen. Damit wurde eine belastbare Grundlage für die skalierbare Einführung von Copilot im gesamten Unternehmen gelegt. Jacob Abb leitete den gesamten Aktivierungsprozess, führte durch die technische Umsetzung im Admin Center und beriet zu allen relevanten Governance-Themen. Dabei unterstützte er den Kunden methodisch und praxisnah bei den ersten Schritten mit Microsoft 365 Copilot und legte den Grundstein für einen verantwortungsvollen und effizienten Einsatz der Technologie im Unternehmen.

Der Kunde stand vor der Herausforderung, das strategische Potenzial von Künstlicher Intelligenz in zentralen Unternehmensbereichen systematisch zu identifizieren und die Organisation für den Einsatz von KI zu befähigen. Trotz hoher Innovationsbereitschaft fehlte es an einem strukturierten Einstieg, der Mitarbeitende aktiviert, Anwendungsmöglichkeiten sichtbar macht und konkrete KI-Potenziale im Unternehmenskontext herausarbeitet. Ziel des Projekts war es, KI-Kompetenz in der Organisation aufzubauen, Bewusstsein für relevante Anwendungsfälle zu schaffen und konkrete Potenziale für den Einsatz von KI in den Bereichen Marketing, Vertrieb, Supply Chain und Finance zu identifizieren. Der Fokus lag dabei auf der Befähigung von Mitarbeitenden, der strukturierten Ideengenerierung sowie der Priorisierung von realisierbaren KI-Projekten. Das Projekt startete mit einer Reihe von interaktiven „Aufbruchsevents KI“ für die jeweiligen Fachbereiche. Die Workshops wurden durch eigens entwickelte Präsentationen und praxisnahe Übungen strukturiert, die den Teilnehmenden einen niederschwelligen, aber fundierten Einstieg in KI-Technologien wie GPT-4, Automatisierung mit LLMs sowie Use-Case-orientierte Denkmodelle ermöglichten. Im Anschluss wurden gezielte Interviews mit Team- und Abteilungsleitenden durchgeführt, um fachbereichsspezifische Prozesse, Herausforderungen und Automatisierungspotenziale zu identifizieren. Die Erkenntnisse mündeten in einer datenbasierten Potenzialanalyse, die als Grundlage für den folgenden Ideation-Workshop im Bereich Marketing diente. Dort wurden gemeinsam mit dem Fachbereich konkrete Use Cases erarbeitet und bewertet. Die Ergebnisse wurden abschließend in einer Management-Präsentation zusammengefasst und als Entscheidungsgrundlage für die weitere KI-Roadmap im Marketing genutzt. Die methodische Grundlage bildete ein mehrstufiger Enablement-Ansatz kombiniert mit einer strukturierten Potenzialanalyse. Die eingesetzten Technologien umfassten GPT-basierte Sprachmodelle (Azure OpenAI), RAG-Konzepte zur Informationsbereitstellung und Analysetools zur strukturierten Erfassung von Anwendungsfeldern. Die Ergebnisse wurden in einem nutzerzentrierten KI-Use-Case-Canvas visualisiert. Im Rahmen des Projekts wurden über 50 Mitarbeitende aus zentralen Fachbereichen aktiviert und gezielt für den Einsatz von KI befähigt. Dabei konnten mehr als 15 realisierbare KI-Potenziale identifiziert werden – darunter mehrere Anwendungsfälle mit kurzfristigem Umsetzungspotenzial. Durch die strukturierte Heranführung an LLM-Technologien wurde ein organisationsweites Verständnis für den praktischen Einsatz von KI im Arbeitsalltag geschaffen. Besonders im Bereich Marketing konnten konkrete nächste Schritte zur Umsetzung priorisierter Use Cases definiert werden. Darüber hinaus trug das Projekt wesentlich zur Stärkung der internen Innovationskultur bei, indem ko-kreatives Arbeiten mit KI gefördert und als Impulsgeber für zukünftige Transformationsprozesse etabliert wurde. Jacob Abb übernahm eine zentrale Rolle in der Konzeption, Moderation und Durchführung der Aufbruchsevents inkl. Entwicklung der Präsentationen und Übungen. Zudem verantwortete er die fachliche Begleitung der Interviews, die Aufbereitung der Potenzialanalyse sowie die inhaltliche Ausgestaltung und Moderation des Ideation-Workshops im Bereich Marketing. Durch seine methodische Führung und technische Expertise konnte er die Grundlage für eine fundierte KI-Roadmap bei dem Kunden schaffen.

In diesem Projekt wurde eine prototypische Demonstrationslösung entwickelt, die zeigt, wie eingehende Rechnungsdokumente mithilfe moderner KI-Technologien effizient verarbeitet werden können. Die Demo basiert auf einer Kombination aus OCR-Verfahren, Large Language Models und einer Workflow-Orchestrierung über n8n. Ziel war es, exemplarisch aufzuzeigen, wie Rechnungen automatisiert erkannt, strukturiert extrahiert und aufbereitet werden können – ohne eine direkte Systemintegration, insbesondere ohne angebundene SAP-Backends. Die Lösung klassifiziert Dokumente, extrahiert relevante Datenpunkte wie Positionszeilen, Beträge oder Lieferanteninformationen und zeigt, wie Validierungen regelbasiert oder KI-gestützt innerhalb des Workflows abgebildet werden können. Die entwickelte Demo dient als technischer Proof-of-Concept für KI-gestützte Eingangsrechnungsverarbeitung und verdeutlicht, wie Unternehmen manuelle Aufwände reduzieren und Qualität steigern könnten, sobald eine vollständige Prozess- und Systemintegration in ERP-Systeme vorgesehen ist.

In diesem Projekt wurde eine skalierbare und sicherheitskonforme Enterprise-GenAI-Architektur aufgebaut, die als zentrale KI-Plattform für verschiedene Geschäftsbereiche dient. Kernbestandteil war die Konzeption und Implementierung eines modularen Retrieval-Augmented-Generation-(RAG)-Frameworks, das strukturierte und unstrukturierte Daten aus unterschiedlichen Quellen konsolidiert und über Azure-basierte Large-Language-Model-Endpoints zugänglich macht. Ergänzend wurde eine Integrationsschicht entwickelt, die bestehende Tools wie OpenWebUI, interne Fachanwendungen sowie API-basierte Services einbindet. Neben der technischen Umsetzung lag ein wesentlicher Schwerpunkt auf Governance, Kostenkontrolle, Rollenmodellen, Sicherheitsrichtlinien und der Etablierung eines Produktbetriebs nach DevOps- und MLOps-Prinzipien. Zusätzlich wurden Mitarbeitende aus Fachbereichen und IT mithilfe zielgerichteter Trainings aktiviert, sodass die Lösung schnell produktiv genutzt und weiterentwickelt werden konnte. Das Ergebnis ist eine leistungsfähige, zukunftssichere GenAI-Landschaft, die sowohl Innovation beschleunigt als auch unternehmensweite KI-Standards definiert.

Zur Unternehmensweit-Einführung von Microsoft Copilot wurde ein strukturiertes Rollout-Projekt initiiert, das sämtliche organisatorischen, technischen und sicherheitsrelevanten Aspekte abdeckt. Als Projektleitung verantwortete Jacob Abb die Entwicklung eines Governance-Modells, das klare Richtlinien für Lizenzierung, Berechtigungen, Datenschutz und Usage Policies definiert. Parallel dazu wurde ein technisches Betriebsmodell aufgebaut, das die Verwaltung über das Power Platform Admin Center ermöglicht. Dabei wurden Prozesse zur Überwachung, Incident-Steuerung und Weiterentwicklung der KI-Funktionen entwickelt. Ein besonderer Fokus lag auf Change Management und Enablement, einschließlich Trainings, Use-Case-Definitionen und dem Aufbau eines internen Copilot-Kompetenzcenters. Durch die enge Zusammenarbeit mit Security, Compliance und Fachbereichen konnte eine sichere und nachhaltige Einführung gewährleistet werden. Das Ergebnis ist eine vollständig implementierte, revisionssichere Copilot-Landschaft (Application Lifecycle Management, die Produktivitätssteigerungen ermöglicht und neue KI-Potenziale im gesamten Unternehmen erschließt.

Ziel dieses Projekts war die Entwicklung einer intelligenten Wissensmanagementlösung, die große Mengen an unstrukturierten Informationen automatisiert verarbeitet, indexiert und über eine RAG-Architektur bereitzustellt. Die Grundlage bildete Azure AI Foundry mit eigenen LLM-Endpoints für Textgenerierung und Embeddings. Ergänzend wurde Azure AI Search zur semantischen Suche eingesetzt und Blob Storage als skalierbares Dokumentenrepository integriert. Die Lösung erzeugt KI-gestützt eine kundenspezifische Wissensdatenbank, die über eine API mit der Learning Suite verbunden ist, sodass Inhalte automatisiert klassifiziert, aktualisiert und nutzerbezogen ausgespielt werden können. Die Plattform ermöglicht Anwendern, komplexe Fragen in natürlicher Sprache zu stellen und präzise, kontextsensitive Antworten aus dem gesamten Unternehmenswissen zu erhalten. Dadurch werden sowohl Wissenssilos als auch manuelle Rechercheaufwände drastisch reduziert. Das Projekt etablierte die Grundlage für ein vollständig KI-gesteuertes Informationsmanagement.

Das Ziel dieses Projekts war der Aufbau eines unternehmensweiten MLOps-Frameworks, das den gesamten Lebenszyklus von Machine-Learning-Modellen standardisiert und automatisiert. Von Training über Deployment bis hin zu Monitoring und Drift-Erkennung wurden wiederverwendbare Pipelines in Azure Machine Learning entwickelt. Datenvalidierung, Feature Engineering und Modelltraining erfolgen automatisiert nach definierten Triggern oder Zeitplänen. Ergänzend wurden Governance-Mechanismen wie Modellversionierung, Audit Trails, Testautomatisierung und Performance-Checks implementiert. Das Ergebnis ist eine hochskalierbare Plattform, die es ermöglicht, ML- und KI-Modelle zuverlässig und reproduzierbar in Produktion zu betreiben. Damit wird sowohl die Qualität als auch die Geschwindigkeit der KI-Implementierung deutlich gesteigert.

Für die schnelle Validierung neuer GenAI-Services wurde eine modulare Sandbox-Umgebung in Azure aufgebaut. Die Umgebung umfasst WebApp-Instanzen, Container-basierte Microservices und Docker Deployments für Tools wie Neo4j, Qdrant, n8n und OpenWebUI. Ziel war, neue KI- und Architekturkonzepte ohne Risiko für Produktivsysteme evaluieren zu können. Die Sandbox ermöglicht die schnelle Bereitstellung neuer Prototypen, die automatische Skalierung und die Integration externer Datenquellen. Zudem wurden DevOps-Prozesse für automatisierte Deployments, Log-Analysen und Systemüberwachung implementiert. Die Umgebung dient seither als Innovationsplattform für KI-, Automatisierungs- und Datenprojekte.

In diesem Projekt wurde ein KI-basierter Prototyp für das Tender Management entwickelt, der große Ausschreibungsunterlagen automatisch analysiert, strukturiert und mit internen Datenbeständen abgleicht. Die RAG-Lösung extrahiert relevante Anforderungen aus Dokumenten mit oft über 300 Seiten, verwendet OCR-Lösungen und intelligentes Chunking und extrahiert diese Merkmale für jede Position. Jede Position wird anschließend gegen einen vordefinierten Index geworfen (Key- und Vektorbasierte Suche), wobei jeder Position aus dem Leistungsverzeichnis ein Produkt zugeordnet wird. Die gemeinsamen Daten werden über die SAP BTP (iFlow) in ein XML konvertiert, auf Gültigkeit geprüft und in eine Queue zur Weiterverarbeitung an den Produktkonfigurator geschickt. Dadurch werden manuelle Prüfaufwände drastisch reduziert und Vertriebsprozesse beschleunigt. Die Lösung zeigt eindrucksvoll, wie GenAI repetitive Tätigkeiten im Vertrieb eliminieren kann und liefert gleichzeitig eine deutlich höhere Datenqualität.

Im Vertriebsalltag des Kunden waren Fachinformationen zu Produkten zwar im PIM-System gepflegt, jedoch nicht immer schnell und effizient für Kundenanfragen nutzbar. Vertriebsmitarbeitende mussten häufig manuell in unterschiedlichen Systemen recherchieren, um technische Details, Verfügbarkeiten oder Varianten zu beantworten – ein Prozess, der zeitaufwendig war und die Kundeninteraktion verlangsamte. Ziel war es, den Vertrieb durch einen KI-gestützten Agenten zu entlasten, der strukturierte Produktinformationen aus dem PIM-System versteht und in natürlicher Sprache bereitstellen kann. So sollten Kundenanfragen schneller, präziser und mit höherer Qualität beantwortet werden – direkt im Dialog mit dem Vertriebsmitarbeitenden. Im ersten Schritt wurde gemeinsam mit dem Kunden analysiert, welche Informationen für den Vertriebsprozess besonders relevant sind und wie diese im PIM-System strukturiert vorliegen. Auf Basis dieser Analyse wurde ein Retrieval-Augmented Generation (RAG)-Modell entwickelt, das Microsoft Copilot mit den unternehmensspezifischen PIM-Daten verknüpft. Über Vektordatenbanken konnten die Informationen semantisch indiziert und effizient durchsucht werden. Der KI-Agent wurde so trainiert, dass er auf natürliche Spracheingaben reagiert und strukturierte Antworten basierend auf den PIM-Daten generiert. Dabei lag besonderes Augenmerk auf der Genauigkeit und Nachvollziehbarkeit der Antworten – etwa durch Quellenverweise oder strukturierte Antwortformate. Die Lösung basiert auf einem RAG-Ansatz mit Microsoft Copilot kombiniert mit einer Vektordatenbank zur semantischen Suche in PIM-Daten. Der Agent wurde als leicht zugängliche Webanwendung für den Vertriebsinnendienst bereitgestellt. Eine modulare Architektur ermöglicht zukünftige Erweiterungen auf andere Datenquellen wie CRM oder ERP. Durch den KI-Agenten wurde die Antwortzeit auf Produktanfragen deutlich verkürzt, die Beratungsqualität gesteigert und die Mitarbeiterzufriedenheit im Vertrieb erhöht. Kunden profitieren von schnelleren und präziseren Rückmeldungen, während der Vertrieb mehr Zeit für wertschöpfende Tätigkeiten gewinnt. Zudem wurde die Grundlage für den weiteren Ausbau KI-gestützter Anwendungen im Kundenservice gelegt. Der KI-Consultant Jacob Abb verantwortete die fachliche und technische Konzeption der Lösung, die Datenanbindung an das PIM-System, das Design des RAG-Modells sowie die Integration in den Vertriebsprozess. Darüber hinaus übernahm er die Schulung des Vertriebsteams und stellte sicher, dass der Agent intuitiv nutzbar ist und echten Mehrwert im Alltag bietet.

Zur erfolgreichen Einführung von GenAI im Unternehmen wurde ein umfassendes Enablement-Programm aufgebaut. Der Schwerpunkt lag auf der Ableitung einer unternehmensspezifischen GenAI-Strategie, der Priorisierung von Use Cases nach Business Value und technischem Aufwand sowie der Durchführung zielgerichteter Trainings. Dabei wurden Methoden zur Potenzialanalyse, Risikobewertung und Wirtschaftlichkeitsbetrachtung eingesetzt. Die Schulungen umfassten sowohl technische Grundlagen als auch praktische Hands-on-Workshops für Fachbereiche, IT und Management. Das Programm schuf Transparenz über Möglichkeiten und Grenzen von GenAI, reduzierte Berührungsängste und führte zu einem deutlich höheren Reifegrad im Umgang mit KI-Technologien.

Der Kunde wollte ihre internen Datenpotenziale gezielt für den Einsatz von Künstlicher Intelligenz nutzen. Es fehlte jedoch an einer skalierbaren, sicheren und datenschutzkonformen Infrastruktur, um KI-Initiativen effizient umzusetzen und unternehmensweit bereitzustellen. Zudem bestand hoher Bedarf an Orientierung in Bezug auf Governance, IT-Security und die DSGVO-konforme Nutzung von KI-Services. Ziel war die Konzeption und Implementierung einer zentralen Azure-basierten KI-Plattform, die die schnelle, sichere und nachhaltige Entwicklung von KI-Anwendungen ermöglicht. Ein erstes Leuchtturmprojekt – eine Retrieval-Augmented Generation (RAG)-Lösung – sollte dabei als Praxisbeispiel dienen und gleichzeitig interne Kompetenzen stärken. In enger Abstimmung mit IT und Fachbereichen wurde zunächst die Zielarchitektur der Plattform definiert. Anschließend erfolgte die technische Umsetzung in Microsoft Azure – inklusive Aktivierung und Konfiguration zentraler Azure AI Services wie Azure OpenAI, Azure Cognitive Search und Azure ML. Als Proof-of-Concept wurde eine RAG-Anwendung entwickelt, bei der strukturierte interne Dokumente mithilfe einer Vektordatenbank und GPT-4 semantisch durchsuchbar gemacht wurden. Parallel dazu wurden Governance-Strukturen, Datenschutzanforderungen und Betriebsmodelle konzipiert und abgestimmt. Die realisierte Plattform basiert auf einer modularen Azure-Architektur und integriert zentrale AI-Komponenten. Die RAG-Lösung nutzt Azure OpenAI zur Textgenerierung, Azure Blob Storage zur Datenhaltung und Azure Cognitive Search für die semantische Suche. Die containerbasierte Architektur erlaubt eine flexible Skalierung und einfache Erweiterung um weitere Use Cases. Der Kunde verfügt nun über eine produktionsreife KI-Plattform, die es internen Teams ermöglicht, KI-Anwendungen eigenständig zu entwickeln und zu evaluieren. Die RAG-Lösung dient als Blaupause für künftige Anwendungsfälle. Gleichzeitig wurde ein tragfähiger Governance-Rahmen geschaffen, der Sicherheit, Datenschutz und Compliance langfristig gewährleistet. Als verantwortlicher KI-Consultant konzipierte Jacob Abb die Plattformarchitektur, koordinierte die technische Umsetzung und integrierte die relevanten Azure AI Services. Darüber hinaus begleitete ich die Fachbereiche beratend bei der Einführung und definierte gemeinsam mit der IT Governance-Richtlinien sowie Betriebs- und Sicherheitsmodelle für den dauerhaften Einsatz von KI-Lösungen im Unternehmen.