AI-RESIDENCY · Pfad 4: Bauen und betreiben
Sovereign AI Architecture Residency
Fünf Tage im Lab, an deren Ende keine Folien stehen, sondern Ihr eigener Architekturentwurf, validiert auf echter Hardware.
- Dauer
- 5 Tage im Lab
- Gruppe
- bis 8 Personen
- Format
- Im Lab
- Sprache
- Deutsch oder Englisch
- Preis
- 44.500 € pauschal, zzgl. MwSt.
Für wen dieser Track ist
Das Kernteam eines Hauses, das eine souveräne KI-Plattform konkret plant: Architekten, Plattform-Verantwortliche und die Person, die die Investition vertreten muss. Bis zu 8 Teilnehmende aus einem Unternehmen, es ist keine offene Veranstaltung mit gemischtem Publikum.
Für wen nicht
Nicht für Teams, die noch Grundlagenwissen aufbauen oder verschiedene Häuser vergleichen wollen. Dafür sind Sovereign AI Platform Engineering (AI-PLATFORM) als Kurs und das Sovereign AI Executive Briefing (AI-EXEC) für die Entscheiderebene gedacht.
Ausgangssituation
Bei Ihnen liegt eine Investitionsentscheidung im Raum, die sechs- oder siebenstellig werden kann: eigene GPU-Plattform, Sizing, Betriebsmodell, Make-or-Buy. Papierkonzepte gibt es genug, aber die kritischen Annahmen wurden nie an echter Hardware geprüft. Bevor bestellt wird, soll der Entwurf einmal komplett durchdacht, durchgerechnet und an den entscheidenden Stellen real getestet sein.
Das existiert nach dem Track
- Ein Architektur- und Betriebsentwurf für Ihre Plattform, in Ihrer Struktur und mit Ihren Anforderungen, nicht als generische Vorlage
- Validierte Kernannahmen: Sizing, Durchsatz und Antwortzeiten Ihrer Ziel-Workloads, gemessen auf GPU-Systemen unseres Labs von L40S bis H100
- Ein getesteter Slice: ein priorisierter Anwendungsfall Ihres Hauses läuft Ende der Woche durchgängig auf der Lab-Umgebung
- Ein priorisiertes Backlog für die Umsetzung mit Aufwandsklassen, Abhängigkeiten und benannten Risiken
- Ein Executive Readout am Tag 5: Entwurf, Messwerte und Investitionsbild in 90 Minuten für Ihre Entscheiderebene, mit Dokument zum Mitnehmen
Voraussetzungen
Ein entscheidungsnahes Vorhaben und ein Team, das es trägt: mindestens ein Architekt oder Plattform-Verantwortlicher mit Infrastruktur-Tiefe. Vorbesuch von AI-PLATFORM ist hilfreich, aber nicht Bedingung.
Vorarbeit vor dem Track
Zwei Wochen vor der Residency führen wir ein 90-minütiges Vorgespräch: Zielbild, Kandidaten-Workloads, regulatorischer Rahmen, vorhandene Unterlagen. Sie benennen die drei Annahmen, an denen Ihr Vorhaben hängt, und liefern anonymisierte Beispieldaten für den Slice, soweit freigebbar.
Lieferumfang
- 5 Tage exklusive Arbeit im Enterprise-Lab mit Dino Bordonaro, kein Parallelbetrieb mit anderen Kunden
- Reservierte GPU-Systeme mehrerer Klassen für Vergleichsmessungen, aus dem Verbund mit 2.516 Cores, 24 TB RAM und 3.400 TB Storage
- 90-minütiges Vorgespräch und Aufbereitung Ihrer Unterlagen vor der Woche
- Architektur- und Betriebsentwurf, Messprotokolle und Backlog als übergabefähige Dokumente
- Executive-Readout-Unterlage für Ihre Entscheiderebene
- Zwei 60-minütige Follow-up-Termine in den 8 Wochen nach der Residency
Agenda
Tag 1
Zielbild und die drei kritischen Annahmen
Ihr Vorhaben auf einer Wand: Workloads, Nutzer, Datenklassen, regulatorischer Rahmen. Die im Vorgespräch benannten Annahmen werden geschärft und in messbare Prüfkriterien übersetzt.
Anforderungen mit Vetorecht
Datenschutz, Sicherheit und Betrieb formulieren ihre harten Grenzen, bevor die Architektur entsteht: Was darf das System nie tun, welche Nachweise bis VS-NfD sollen vorbereitbar sein, wer trägt den Betrieb?
Slice-Auswahl: ein Fall, der etwas beweist
Aus Ihren Kandidaten-Workloads wird der Anwendungsfall gewählt, der die riskanteste Annahme testet, nicht der bequemste. Festlegung der Messlatte: Woran erkennen wir am Freitag, dass der Slice trägt?
Erste Messreihe: Baseline auf Lab-Hardware
Ihre Ziel-Modelle laufen erstmals auf den reservierten GPU-Systemen. Baseline-Messung von Durchsatz und Latenz als Referenz für alle Entscheidungen der Woche.
Tagesergebnis: geprüftes Zielbild und Messplan
Zielbild, harte Grenzen, gewählter Slice und ein Messplan für die drei kritischen Annahmen liegen schriftlich vor und sind vom ganzen Team getragen.
Tag 2
Architekturentwurf: die tragenden Entscheidungen
Compute, Netz, Storage, Identity, Registry, Inference-Stack: der Entwurf entsteht an der Wand, jede Schicht mit Begründung und Alternative. Azure Local und Azure Arc werden dort eingeplant, wo sie tragen, in der jeweils verfügbaren Version.
Sizing-Rechnung gegen Baseline
Das Kapazitätsmodell wird mit den Baseline-Werten von Tag 1 durchgerechnet: Wie viele Karten welcher Klasse, von L40S bis H100, für Ihre Lastspitzen? Der Unterschied zwischen Herstellerangabe und eigener Messung wird beziffert.
Validierung: Annahme eins und zwei im Test
Die beiden ersten kritischen Annahmen werden auf der Hardware geprüft, etwa Quantisierungseffekte auf Ihre Qualitätsanforderung oder Concurrency-Verhalten unter realistischer Last. Ergebnisse fließen sofort in den Entwurf zurück.
Betriebsmodell-Weiche
Verbunden, zeitweise getrennt oder Disconnected-Prüfung anstoßen: Entscheidung am Kriterienkatalog, mit ehrlicher Einordnung der Eligibility-Voraussetzungen bei Azure Local Disconnected Operations.
Tagesergebnis: belastbarer Architekturentwurf v1
Der Entwurf steht in Version 1, mit Sizing-Rechnung auf Basis eigener Messwerte und einer dokumentierten Betriebsmodell-Entscheidung samt offenen Prüfpunkten.
Tag 3
Slice-Bau: das Fundament
Aufbau des Slice auf der Lab-Umgebung entlang des Entwurfs: Identity-Anbindung, Netzsegment, Registry-Anbindung mit Signaturprüfung. Ihr Team baut, der Trainer hält den Entwurf und die Realität zusammen.
Slice-Bau: Daten und Anwendungslogik
Ihre anonymisierten Beispieldaten treffen auf den Stack: Aufbereitung, Indexierung oder Anbindung je nach Fall, dazu die Anwendungsschicht. Wo inhaltlich passend, kommen Muster aus Sovereign Assistant oder VOXA als Referenz zum Einsatz.
Erster Durchstich
Der Slice antwortet zum ersten Mal durchgängig: von der authentifizierten Anfrage bis zur belegten Antwort. Was klemmt, wird protokolliert und priorisiert statt schöngeredet.
Tagesergebnis: durchgängiger Slice
Der Anwendungsfall läuft Ende-zu-Ende auf der Lab-Umgebung. Die Abweichungen vom Entwurf sind protokolliert und terminiert für Tag 4.
Tag 4
Annahme drei und der Lasttest
Die verbliebene kritische Annahme wird geprüft, danach Lasttest des Slice gegen die Messlatte von Tag 1: Durchsatz, Latenz, Verhalten an der Kapazitätsgrenze. Jede Abweichung bekommt eine Ursache oder ein Backlog-Item.
Betriebs- und Sicherheitsprobe
Der Slice wird behandelt wie Produktion: Monitoring-Sicht aufgebaut, ein Modell-Rollback geprobt, ein Prompt-Injection-Versuch gegen die Schutzschicht gefahren. Ergebnisse fließen in den Betriebsentwurf.
Backlog-Priorisierung
Alles Offene wird zu einem Backlog mit Aufwandsklassen, Abhängigkeiten und Risiken: der Weg vom validierten Slice zur produktiven Plattform, priorisiert vom Team, nicht vom Trainer.
Investitionsbild und Make-or-Buy
Sizing, Betriebsmodell und Backlog werden zu einem Investitionsbild verdichtet: Eigenbau, Sovereign AI Appliance oder Mischweg, mit Zahlen und benannten Unsicherheiten für das Readout.
Tagesergebnis: validierter Entwurf mit Backlog
Architektur- und Betriebsentwurf liegen in geprüfter Fassung vor, alle drei kritischen Annahmen sind mit Messwerten beantwortet, das Backlog ist priorisiert.
Tag 5
Härtung des Entwurfs
Letzter Review-Durchgang mit vertauschten Rollen: das Team greift den eigenen Entwurf an, der Trainer verteidigt ihn und umgekehrt. Was den Angriff nicht übersteht, wird geändert oder als Risiko dokumentiert.
Readout-Probe
Das Executive Readout wird einmal komplett geprobt: Kernaussagen, Messwerte, Investitionsbild, Empfehlung. Das Team entscheidet, wer welchen Teil vor der eigenen Entscheiderebene vertritt.
Dokumentenübergabe
Entwurf, Messprotokolle, Backlog und Readout-Unterlage werden final zusammengeführt und übergeben. Alle Artefakte gehören Ihnen und sind ohne BORDONARO weiterverwendbar.
Executive Readout
90 Minuten vor Ihrer Entscheiderebene, vor Ort im Lab oder remote zugeschaltet: der validierte Entwurf, die Live-Demonstration des Slice, das Investitionsbild und die Empfehlung mit offenen Risiken. Fragen werden vom Team beantwortet, nicht nur vom Trainer.
Abschlussergebnis: Entscheidungsgrundlage übergeben
Ihre Entscheiderebene hat einen validierten Entwurf mit Messwerten, getestetem Slice und priorisiertem Backlog gesehen. Die nächsten Schritte und die beiden Follow-up-Termine sind terminiert.
Übungen und Lab-Anteil
Die gesamte Woche findet im Lab statt: Baseline- und Vergleichsmessungen auf mehreren GPU-Klassen, der komplette Slice-Bau, Lasttest, Rollback-Probe und ein Prompt-Injection-Versuch laufen auf reservierten Systemen des Verbunds.
Plattformen
Durchführung ausschließlich im Enterprise-Lab auf reservierter Hardware. Azure Local, Azure Arc und Foundry Local kommen in der jeweils verfügbaren Version zum Einsatz, Preview-Stände werden als solche gekennzeichnet, Disconnected Operations wird als zugangsbeschränktes Angebot mit Eligibility-Prüfung behandelt. Ihre Beispieldaten bleiben auf dedizierten Systemen und werden nach der Woche nachweislich gelöscht.
Transfernachweis
Der Transfernachweis ist das Executive Readout selbst: Ihr Team präsentiert Entwurf, Messwerte und Empfehlung vor der eigenen Entscheiderebene und beantwortet deren Fragen. Alle Validierungen sind als Messprotokolle dokumentiert und Teil der Übergabe.
Mitgenommene Artefakte
- Architektur- und Betriebsentwurf in übergabefähiger Fassung
- Messprotokolle der validierten Annahmen inklusive GPU-Vergleichswerten
- Getesteter Slice als dokumentierte Referenzimplementierung auf der Lab-Umgebung
- Priorisiertes Umsetzungs-Backlog mit Aufwandsklassen und Risiken
- Executive-Readout-Unterlage mit Investitionsbild
Optionale Erweiterungen
- Sovereign AI Platform Engineering (AI-PLATFORM) zur Ausbildung des breiteren Teams entlang des Entwurfs
- LLMOps für verbundene, getrennte und Air-Gap-Umgebungen (AI-OPS), wenn das getrennte Betriebsmodell gewählt wird
- Sovereign AI Appliance und Umsetzungsbegleitung als separate Leistungen, falls das Readout zur Buy-Entscheidung führt
Abgrenzung
Die Residency erzeugt und validiert einen Entwurf, sie ist keine Implementierung in Ihrem Rechenzentrum und kein Dauerberatungsmandat. Umsetzung, Beschaffungsbegleitung und Betrieb sind eigenständige Leistungen und werden separat beauftragt.
Häufige Fragen
Was rechtfertigt 44.500 € gegenüber dem Kurs AI-PLATFORM?
Der Kurs vermittelt übertragbares Können an einem Referenzszenario. Die Residency arbeitet fünf Tage exklusiv an Ihrem Vorhaben: Ihr Entwurf, Ihre Daten, Ihre Messwerte, reservierte Hardware mehrerer GPU-Klassen und ein Readout vor Ihrer Entscheiderebene. Gemessen an einer GPU-Fehlbeschaffung oder einem Konzeptprojekt gleicher Tiefe ist der Preis von 44.500 € zzgl. MwSt. nüchtern kalkuliert.
Muss unsere Geschäftsführung alle fünf Tage dabei sein?
Nein. Die Woche trägt Ihr Fachteam mit bis zu 8 Personen. Die Entscheiderebene wird für das 90-minütige Executive Readout am Tag 5 gebraucht, vor Ort oder remote zugeschaltet. Wer zusätzlich den Tag 1 miterlebt, versteht das Readout erfahrungsgemäß deutlich schneller.
Wie vertraulich sind unser Entwurf und unsere Daten?
Vor der Residency schließen wir eine Vertraulichkeitsvereinbarung. Sie liefern nur anonymisierte, freigegebene Beispieldaten, die auf dedizierten Systemen bleiben und nach der Woche nachweislich gelöscht werden. Alle Ergebnisse gehören Ihnen, BORDONARO verwendet sie nicht als Referenz ohne Ihre schriftliche Freigabe.