Public Sector und AI: Wenn Innovation auf Verantwortung trifft

Jan ist Senior Consultant im Bereich Public, Defence & Security und beschäftigt sich unter anderem mit der Frage, wie AI in sicherheitskritischen Bereichen sinnvoll eingesetzt werden kann. Denn hier zählt nicht nur, was technologisch möglich ist. Ergebnisse müssen nachvollziehbar, belastbar und vertrauenswürdig sein.

Im Interview spricht er darüber, wie AI die Rolle von Consultants verändert. Wenn Informationen immer schneller verfügbar werden, gewinnen kritisches Denken, fachliche Einordnung und Urteilsvermögen weiter an Bedeutung.

Hi Jan, du bist bei uns im Public, Defence & Security Sector als Senior Consultant tätig. Welche Themen und Fragen beschäftigen dich in deiner täglichen Arbeit?

Meine Arbeit bewegt sich aktuell an der Schnittstelle zwischen Technologie, Strategie und Fachlichkeit. Besonders spannend ist dabei, dass mein Alltag von zwei sehr unter-schiedlichen, aber eng miteinander verbundenen Perspektiven geprägt wird.

Auf der einen Seite arbeite ich im Umfeld von Behörden und Organisationen mit Sicherheitsaufgaben (BOS). Hier beschäftige ich mich mit Fragestellungen rund um die digitale Transformation, Informationssicherheit und den Einsatz von KI in sicherheitskritischen Kontexten. Das reicht von der Entwicklung neuer Lösungsansätze für Kunden über die Unterstützung bei Ausschreibungen und Angeboten bis hin zu Fachvorträgen auf Konferenzen oder bei Kundenevents. Dabei stellt sich immer wieder die Frage, wie innovative Technologien, insbesondere AI-Lösungen, einen konkreten Mehrwert schaffen können, ohne die hohen Anforderungen an Datenschutz, Nachvollziehbarkeit und Sicherheit zu vernachlässigen.

Auf der anderen Seite übernehme ich als AI Champion eine zentrale Rolle bei der internen KI-Transformation unseres Verticals Public, Defence & Security. Gemeinsam mit Kolleg*innen arbeite ich daran, den Einsatz von KI im Arbeitsalltag zu etablieren, neue Anwendungsfälle zu identifizieren und das notwendige Wissen im Unternehmen aufzubauen. Dazu gehören beispielsweise Enablement-Formate, die Einführung neuer KI-Werkzeuge, die Entwicklung von Governance-Strukturen sowie die Frage, wie wir KI langfristig in unsere Leistungsangebote und internen Prozesse integrieren können.

Wie bist du zu diesem speziellen Feld gekommen? Was macht für dich persönlich den Reiz an der Arbeit im Public Sector und KI aus?

Über Umwege. Während meines Studiums hatte ich zunächst nur wenige Berührungspunkte mit KI. Das war noch vor dem großen ChatGPT-Hype, als KI für viele Menschen eher ein Nischenthema als ein gesellschaftliches Gesprächsthema war. Gegen Ende meines Masterstudiums ergab sich für mich die Möglichkeit, als wissenschaftlicher Mitarbeiter in einem KI-Forschungsprojekt mitzuarbeiten. Über dieses Projekt und meine thematisch daran anknüpfende Masterarbeit habe ich mich intensiv in das Themenfeld eingearbeitet und schnell gemerkt, welches Potenzial darin steckt. Im Anschluss bot sich die Chance auf eine Promotion im Kontext von KI an.

Im Laufe meiner Promotion entstanden zahlreiche Kontakte in Wissenschaft und Praxis. Dabei habe ich auch meinen heutigen Chef, Dr. Ganen Sethupathy, kennengelernt, den Leiter der Client Unit BOS bei Sopra Steria. Über diesen Austausch bin ich zunehmend mit den Themen und Herausforderungen von Sicherheitsbehörden in Berührung gekommen. So bin ich Schritt für Schritt in die Welt von Behörden und Organisationen mit Sicherheitsaufgaben hineingewachsen.

Der besondere Reiz meiner heutigen Arbeit liegt für mich in der Verbindung von Public Sector und KI. Wir leben in einer Zeit, in der Europa vor großen Herausforderungen steht: geopolitische Spannungen, hybride Bedrohungen, der Schutz kritischer Infrastrukturen und die digitale Souveränität sind längst keine abstrakten Zukunftsthemen mehr. Gleichzeitig erleben wir mit Künstlicher Intelligenz eine der prägendsten technologischen Entwicklungen unserer Zeit. Nur selten kommt es vor, dass eine Technologie innerhalb weniger Jahre so viele Bereiche von Wirtschaft, Verwaltung und Gesellschaft grundlegend verändert.

„Mich motiviert besonders, die Chancen von AI nutzbar zu machen und gleichzeitig dafür zu sorgen, dass Vertrauen, Sicherheit und Transparenz nicht auf der Strecke bleiben.“

Jan Peter Schagen
Senior Consultant / Public, Security & Defence

AI und Sicherheitsbehörden – was ist da die Besonderheit? Mit welchen speziellen Herausforderungen geht deine Arbeit in diesem Sektor einher?

Wenn über Künstliche Intelligenz gesprochen wird, stehen häufig Produktivitätsgewinne, Automatisierung oder neue Assistenzfunktionen im Vordergrund. Im Umfeld von Sicherheitsbehörden gelten jedoch andere Maßstäbe. Hier reicht es nicht aus, dass ein KI-System gute Ergebnisse liefert. Die Ergebnisse müssen auch transparent, nachvollziehbar und belastbar sein.
Gerade in sicherheitsrelevanten Kontexten können Entscheidungen weitreichende Konsequenzen haben. Deshalb beschäftigen uns Fragen wie: Auf welcher Grundlage kommt ein System zu einer bestimmten Empfehlung? Welche Daten wurden genutzt? Wie kann das Ergebnis überprüft werden? Und wie stellen wir sicher, dass Informationen faktentreu sind und keine Halluzinationen entstehen? Aspekte wie Nachvollziehbarkeit, Auditierbarkeit und Vertrauen in die Technologie spielen daher oft eine größere Rolle als die reine technische Leistungsfähigkeit eines Modells.

Ein weiterer Punkt, über den aus meiner Sicht noch zu wenig gesprochen wird, sind die Voraussetzungen für einen erfolgreichen KI-Einsatz. Die Diskussion dreht sich häufig um die Auswahl eines Modells oder eines Werkzeugs. In der Praxis entscheidet aber oft etwas anderes über Erfolg oder Misserfolg: die organisatorischen und technischen Rahmenbedingungen.

Was sind Halluzinationen bei LLMs eigentlich genau?

Halluzinationen gehören zu den meistdiskutierten Eigenschaften von Large Language Models (LLMs). Der Begriff klingt zunächst so, als würde das System „Fehler machen“ oder „fantasieren“. Tatsächlich liegen Halluzinationen jedoch in der Natur der Technologie selbst.

Vereinfacht gesagt arbeiten LLMs nicht mit Wissen im klassischen Sinne, sondern mit Wahrscheinlichkeiten. Sie berechnen auf Basis riesiger Mengen von Trainingsdaten, wel-ches Wort oder welcher Satz mit der höchsten Wahrscheinlichkeit als Nächstes folgen sollte. LLMs erzeugen also keine Antworten, indem es Fakten nachschlägt, sondern indem es sprachliche Muster fortsetzt.

Deshalb gilt:

Halluzinationen sind kein Fehler, sondern Mathematik. Es wird stets versucht, eine möglichst plausible Antwort zu erzeugen. Wenn jedoch Informationen fehlen, die Fragestellung mehrdeutig ist oder die Wahrscheinlichkeit für eine plausible, aber falsche Aussage höher bewertet wird als Schweigen, kann eine Antwort entstehen, die sprachlich überzeugend wirkt, faktisch aber nicht korrekt ist.

Gibt es ein Beispiel – auch abstrakt oder anonymisiert – wo eine Halluzination in der Praxis zu einer Fehlentscheidung hätte führen können?

Ja, und genau deshalb wird das Thema Halluzinationen im Umfeld von Sicherheitsbehörden sehr ernst genommen. Während eine falsche KI-Antwort in einem privaten Kontext vielleicht nur ärgerlich ist, kann sie in sicherheitsrelevanten Anwendungsfällen unmittelbare Auswirkungen auf Entscheidungen, Maßnahmen oder Lagebewertungen haben.
Ein besonders öffentlichkeitswirksames Beispiel stammt aus Großbritannien. Anfang 2026 wurde bekannt, dass die britische West Midlands Police im Zusammenhang mit einer Entscheidung zum Ausschluss von Fans des israelischen Fußballvereins Maccabi Tel Aviv Informationen verwendet hatte, die von Microsoft Copilot generiert worden waren. Dabei tauchte in den zugrunde liegenden Informationen ein Spiel zwischen West Ham United und Maccabi Tel Aviv auf, das nie stattgefunden hatte. Die KI hatte diese Begegnung faktisch „halluziniert“. Die fehlerhafte Information floss in die Entscheidungsgrundlage ein, die zur Bewertung des Sicherheitsrisikos und letztlich zur Empfehlung eines Fanverbots herangezogen wurde. Der Polizeipräsident musste sich später öffentlich für den Fehler entschuldigen. Quellen berichten ausdrücklich, dass die falsche Information auf die Nutzung von Microsoft Copilot zurückzuführen war.

Das Beispiel zeigt sehr deutlich, worin die eigentliche Herausforderung liegt:

Nicht jede Halluzination führt automatisch zu einer Fehlentscheidung. Kritisch wird es dann, wenn KI-generierte Informationen ungeprüft in Prozesse gelangen und dort als belastbare Fakten behandelt werden. Gerade in Sicherheitsbehörden müssen Informationen daher immer verifizierbar sein und auf nachvollziehbaren Quellen beruhen.

KI ist nicht nur ein Thema in deinem Beruf, sondern ist überall präsent. Wie verändert KI das Berufsbild des Consultants generell?

Künstliche Intelligenz verändert das Berufsbild des Consultants bereits heute spürbar und ich gehe davon aus, dass sich dieser Trend in den kommenden Jahren noch deutlich verstärken wird. Was früher mehrere Tage in Anspruch genommen hat, wird heute teilweise innerhalb weniger Stunden erwartet. Kunden, Projektteams und Unternehmen können deutlich schneller auf neue Entwicklungen reagieren. Dadurch wächst die Taktung von Projekten, Entscheidungen und Abstimmungen. Als Consultant bedeutet das, Informationen schneller aufzunehmen, einzuordnen und in konkrete Handlungsempfehlungen zu übersetzen.

Gleichzeitig entsteht eine Herausforderung, über die bisher wenig gesprochen wird: die eigene Verarbeitungskapazität. KI macht immer mehr Informationen in immer kürzerer Zeit verfügbar. Der Engpass liegt daher zunehmend nicht mehr in der Beschaffung von Informationen. Stattdessen wird wichtiger: „Welche Informationen sind relevant, korrekt und handlungsleitend?"

Dadurch gewinnen klassische Beraterkompetenzen sogar an Bedeutung.
Kritisches Denken, fachliche Einordnung, Urteilsvermögen und die Fähigkeit, komplexe Zusammenhänge verständlich zu erklären, werden wichtiger denn je.

Für Consultants bedeutet das letztlich einen Rollenwandel: Weniger Zeit fließt in die Erstellung von Inhalten, mehr Zeit in die Interpretation, Qualitätssicherung und strategische Einordnung. Wer KI sinnvoll nutzt, kann produktiver arbeiten und sich stärker auf die wirklich wertschöpfenden Tätigkeiten konzentrieren. Gleichzeitig steigt die Erwartung, sich kontinuierlich weiterzubilden und mit der technologischen Entwicklung Schritt zu halten. Der Beruf wird schneller, datengetriebener und wissensintensiver. Die Fähigkeit, in einer Welt mit immer mehr Informationen den Überblick zu behalten und die richtigen Schlüsse zu ziehen, wird dabei zu einer der wichtigsten Kompetenzen der Zukunft.

Welche Fähigkeiten (fachlich und persönlich) braucht man, um in deinem Bereich erfolgreich zu sein?

Das ist wahrscheinlich die schwierigste Frage von allen. Wenn ich wüsste, welche Fähigkeiten in fünf oder zehn Jahren wirklich entscheidend sein werden, hätte ich vermutlich eine recht wertvolle Glaskugel. Aber zwei Dimensionen halte ich für besonders wichtig: fachliche Stärke und persönliche Kompetenzen.
Es geht vor allem darum, Ergebnisse einordnen und bewerten zu können. Ich darf mich nicht darauf verlassen, dass die KI schon recht haben wird, nur weil die Antwort plausibel klingt. Stattdessen muss ich fachlich in der Lage sein, Fehler zu erkennen, Annahmen zu hinterfragen und die Qualität der Ergebnisse kritisch zu bewerten.

Deshalb würde ich jungen Consultants raten, sich ein breites Fundament an Wissen aufzubauen und gleichzeitig in ausgewählten Themen echte Tiefe zu entwickeln. Generalisten, die viele Themen verstehen, werden weiterhin gefragt sein. Gleichzeitig entsteht ein besonderer Mehrwert dort, wo man komplexe Fragestellungen fachlich wirklich durchdringen kann. Fachlichkeit gewinnt daher aus meiner Sicht eher an Bedeutung, als dass sie durch KI an Relevanz verliert.

Auf der persönlichen Ebene werden Kompetenzen wie kritisches Denken, Lernbereitschaft und Resilienz immer wichtiger. Die technologische Entwicklung verläuft mit einer Geschwindigkeit, die wir so bislang kaum erlebt haben. Neue Werkzeuge, neue Methoden und neue Anwendungsfelder entstehen kontinuierlich. Wer erfolgreich bleiben möchte, muss bereit sein, sich ständig weiterzuentwickeln und Gewohntes regelmäßig zu hinterfragen. Genau diese Kombination aus Expertise, Neugier und Urteilsvermögen wird aus meiner Sicht künftig den Unterschied machen.

Wie sieht dein Ausgleich zur Arbeit aus?

Gerade in einem Beruf, der von hoher Dynamik, neuen Technologien und ständigem Lernen geprägt ist, finde ich es wichtig, dass das Privatleben nicht zu kurz kommt.
Für mich bedeutet Ausgleich vor allem, Zeit mit Familie und Freunden zu verbringen, gut essen zu gehen und auch einmal einen entspannten Abend auf dem Sofa zu genießen.
Daneben versuche ich, sportlich aktiv zu bleiben. Regelmäßige Besuche im Fitnessstudio gehören eigentlich fest zu meinem Ausgleich dazu, auch wenn die Umsetzung manchmal ausbaufähig ist. Mein Fitnessstudio würde vermutlich sagen, dass wir uns kennen, aber zuletzt etwas zu selten gesehen haben. 😉
Im Winter zieht es mich außerdem regelmäßig in die Berge zum Skifahren. Dort gelingt es besonders gut, Abstand zum Alltag zu gewinnen und den Kopf freizubekommen. Und wenn es etwas ruhiger sein darf, greife ich gerne zur Gitarre. Am Ende geht es für mich vor allem um Balance. Denn die besten Ideen entstehen oft nicht vor dem Bildschirm, sondern dann, wenn man gerade etwas ganz anderes macht.

Du kannst dir vorstellen, mit Jan zusammen KI in sicherheitskritischen Institutionen zu implementieren und Europas digitale Transformation voranzutreiben?
Dann bewirb dich jetzt!