Data & AI Lead bij BrainStax

Het probleem

BrainStax wilde een eigen Data & AI-praktijk: intern werkbaar en bij klanten verkoopbaar. Dat vraagt om opbouwen en aansturen tegelijkertijd, een paar maanden enkel intern bouwen is geen optie, en uitsluitend klantwerk leveren betekent dat je nooit aan je eigen kennisbasis bouwt.

Maar er zat ook een dieper technisch vraagstuk onder: hoe host je AI-oplossingen voor meerdere klanten op dezelfde infrastructuur zonder dat data of modellen over klantgrenzen heen lekken? En hoe maak je private LLMs beschikbaar die zowel voor klantopdrachten als voor interne automatisering bruikbaar zijn?

De aanpak

Platform-architectuur. Ontwerp en bouw van een custom Databricks-platform waarop AI-oplossingen voor meerdere klanten worden gehost. Multi-tenant by design, strikt geïsoleerde workspaces, key-management per klant, geen mogelijkheid voor data of model-output om buiten klantgrenzen te bewegen. Dit is geen "we delen één omgeving en hopen dat het goed gaat", het is een architectuur waar data-isolatie een eigenschap is, niet een toezegging.

Private LLM serving. Meerdere LLMs en custom modellen draaien op het platform, beschikbaar voor klanten via een gecontroleerde laag. Geen externe API-calls, en dus geen data-egress richting derde partijen. Voor klanten die het nodig hebben: custom-getrainde modellen per klant geïsoleerd.

Intern: een team opbouwen, werkwijzen en tooling inrichten. AI in onze eigen processen brengen, onder andere door hertrainen van LLMs op BrainStax's eigen bedrijfsdata om specifieke interne taken (sales-prep, documentanalyse, kennisbeheer) te automatiseren. Niet om de AI maar omdat het tijd scheelde.

Richting sales: technisch schetsen van oplossingsrichtingen voor prospects, haalbaarheidsinschattingen voor potentiële opdrachten, demo's en proof-of-concepts. Klantvragen vertalen naar concrete architectuur, soms door tegen een klant te zeggen dat hun voorgestelde aanpak niet de slimste is.

Richting opdrachtgevers: adviseren en bouwen aan AI-oplossingen, met specialisaties in GenAI/LLM-implementaties, RAG-architecturen en het van experiment naar productie krijgen van AI-systemen. Onder andere bij Gemeente Rotterdam en Ministerie I&W.

Wat het opleverde

Team groeide van 1 naar 6 personen. Custom Databricks-platform in productie voor klantopdrachten in publieke en private sector.

Wat ik specifiek deed

• Architect van het multi-tenant Databricks-platform, niet alleen developer of team lead, maar de persoon die ontwierp hoe we AI voor meerdere klanten konden hosten met strikte data-isolatie.
• Designed het private LLM serving model, meerdere LLMs en custom modellen beschikbaar, per klant geïsoleerd, geen externe data-egress.
• Implementeerde de interne LLM fine-tuning workflows, hertraining op BrainStax's bedrijfsdata voor specifieke taken die we vaak opnieuw deden.
• Pre-sales technische lead, oplossingsarchitectuur schetsen voor prospects, haalbaarheid inschatten, vertalen tussen business vraag en wat technisch zinnig is.
• Team-opbouw, werving, werkwijzen, ritme. Sparring met directie en sales.
• Hands-on bouwwerk waar het hielp, niet alleen aansturen maar zelf nog code en architectuur leveren.

Wat ik ervan heb meegenomen

Een intern team neerzetten én tegelijk klantwerk leveren is een balans. Te ver doorslaan naar één van beide breekt het: enkel intern werken levert geen omzet en geen praktijkkennis op, enkel klantwerk levert geen interne kennisbasis op. Het ritme van die balans is de echte managers-vaardigheid.

En het architect-werk: hosting van AI voor meerdere klanten klinkt eenvoudig tot je gaat ontwerpen voor wat er gebeurt als één klant per ongeluk z'n data ergens parkeert waar 'm niet hoort. Multi-tenant by design betekent dat dat onmogelijk is, niet onhandig of gemeld, maar fundamenteel onmogelijk. Dat onderscheid bepaalt of een klant je platform durft te gebruiken.

Gerelateerd

• GenAI-chatbot Gemeente Rotterdam, klantopdracht via deze rol
• GenAI beleidsondersteuning Ministerie I&W, klantopdracht via deze rol
• Skills: Productie-architectuur, RAG-architectuur, Team-opbouw
• Topics: Generative AI, LLMs