Hoe bouw je een AI-architectuur die écht werkt?
Je kunt AI-modellen prima los draaien, maar zodra je écht iets wilt bouwen — een chatbot die kennis uit je hele organisatie haalt, een document-verwerkingspipeline, een assistent die meerdere taken achter elkaar uitvoert — loop je tegen architectuurkeuzes aan. Welke lagen heb je nodig? Hoe zorg je dat AI toegang krijgt tot de juiste data? En hoe voorkom je dat je straks met drie verschillende platforms zit die niet samenwerken?
Dit stuk geeft een overzicht van hoe je AI-systemen structureert, welke bouwblokken er zijn, en waar je op moet letten als je niet alleen wilt experimenteren maar ook in productie wilt draaien.
Drie lagen intelligentie: werk, data, kennis
Een werkende AI-architectuur haalt informatie uit verschillende bronnen. Een veelgebruikt model onderscheidt drie lagen:
Work IQ — intelligentie over hoe werk gebeurt
Dit haalt signalen uit samenwerkingstools: e-mails, chats, meetings, documenten, wie met wie werkt. AI die begrijpt hoe je organisatie werkt, kan betere antwoorden geven dan een model dat alleen op prompts reageert.
Fabric IQ — intelligentie uit gestructureerde bedrijfsdata
Denk aan analytics-modellen, KPI’s, business entities. Deze laag stelt AI in staat complexe analytische vragen te beantwoorden: “Wat is onze conversion rate afgelopen kwartaal per regio?” in plaats van alleen algemene feiten op te halen.
Foundry IQ — een unified kennislaag
Hier komen alle databronnen samen. Deze laag is cruciaal voor RAG-patronen (retrieval-augmented generation): AI die antwoorden grondt in enterprise data, zodat je actuele, accurate en compliant outputs krijgt in plaats van hallucinaties.
Welke platforms gebruik je om te bouwen?
Er zijn grofweg drie ingangen, afhankelijk van hoeveel controle en complexiteit je wilt:
- Low-code platforms (zoals Copilot Studio): voor conversational agents zonder veel code. Handig voor interne assistants of klantenservice-bots die je koppelt aan bestaande workflows.
- PaaS-platforms (zoals Microsoft Foundry): een unified laag voor generative AI apps. Je krijgt een modelcatalogus, agent hosting, fine-tuning, evaluatietools en responsible AI-controls. Experiment, bouw en deploy vanuit één plek.
- Full ML-platforms (zoals Azure Machine Learning): voor wie custom modellen wil trainen met PyTorch of TensorFlow, distributed training nodig heeft, of MLOps op schaal wil draaien.
Voorbeeld: een klantenservice-chatbot
Stel je bouwt een chatbot die vragen over producten en retourbeleid beantwoordt. Je wilt dat die informatie haalt uit een kennisbank (PDFs, FAQs) én uit een CRM-systeem (klantgeschiedenis, openstaande tickets).
- Je gebruikt een RAG-patroon: de chatbot zoekt eerst relevante documenten op (retrieval), voegt die toe aan de prompt (augmentation), en laat een LLM het antwoord genereren.
- De kennisbank en CRM-data zitten in een data lake (Azure Data Lake Storage of OneLake in Fabric).
- Je chunked documenten, genereert embeddings, en indexeert ze in een vector search service (Azure AI Search of Databricks Vector Search).
- De chatbot draait op een PaaS-platform met ingebouwde monitoring, load balancing en responsible AI-checks.
Hoe bouw je RAG-systemen die niet hallucineren?
RAG is een veelgebruikt patroon, maar het heeft z’n eigen ontwikkelingsfases:
- Data preparation: relevante bronnen identificeren en inladen
- Chunking: content opdelen in stukken die semantisch samenhangen
- Chunk enrichment: metadata toevoegen, samenvatten, structureren
- Embedding: vectorrepresentaties genereren voor retrieval
- Information retrieval: zoekstrategieën bepalen (semantic search, hybrid search)
- Prompt engineering: context effectief injecteren, grounding technieken toepassen
- End-to-end evaluatie: testen of het systeem accurate, relevante antwoorden geeft
- Agentic RAG: stap verder — agents die zelf query’s plannen en meerstaps-redeneringen uitvoeren
Waarom is chunking belangrijk?
Als je een 50 pagina’s tellend producthandboek in één keer in de context propt, krijg je ofwel token-limieten ofwel irrelevante antwoorden. Door slim te chunken (bijvoorbeeld per sectie, met overlap) en metadata toe te voegen (hoofdstuknummer, producttype), kan de retrieval-stap precies de relevante passages ophalen.
AI-agents die samenwerken: orchestratiepatronen
Zodra je meerdere agents hebt — eentje die data ophaalt, eentje die analyseert, eentje die acties uitvoert — moet je orchestratie regelen:
- Sequential: agents werken na elkaar (agent A haalt data op, agent B analyseert, agent C schrijft rapport)
- Concurrent: agents werken parallel (agent A en B halen tegelijk verschillende databronnen op)
- Group chat: agents communiceren in een groep, werken samen aan een oplossing
- Handoff: agent A doet wat ’ie kan, geeft taak door aan agent B als die beter past
Let hierbij op:
- Reliability: wat als een agent faalt? Retry-logica, fallback-strategieën
- Security: mogen agents elkaars data zien? Access control tussen agents
- Cost: parallel draaien kost meer tokens/compute
- Observability: logging en tracing zodat je ziet wat elke agent deed
Gateway-patronen: routing, authenticatie, monitoring
Als je meerdere model-backends hebt (verschillende Azure OpenAI-deployments, of een mix van OpenAI en open-source modellen), wil je een gateway die:
- Requests routeert naar beschikbare endpoints (load balancing)
- Authenticatie afhandelt (zodat je clients niet rechtstreeks API-keys hoeven te gebruiken)
- Monitoring en rate limiting regelt
- Failover doet als één endpoint down is
Dit is handig in productie, waar je redundantie wilt en kosten/latency/quota’s per model verschillen.
MLOps: van experiment naar productie
AI-modellen bouwen is één ding, ze betrouwbaar in productie draaien is iets anders. MLOps richt zich op:
- Versioning: welke modelversie draait waar?
- Deployment: geautomatiseerde pipelines voor training, testing, deployment
- Monitoring: performance, data drift, model degradation
- Retraining: wanneer train je opnieuw? Hoe manage je nieuwe versies?
Voor generative AI komen daar nog dingen bij:
- Prompt management: versies van prompts, A/B-testen
- Evaluatie: hoe meet je of gegenereerde tekst goed is? (semantic similarity, factuality checks)
- Responsible AI: content filtering, bias detection
Maturity model
Organisaties doorlopen meestal een aantal stadia:
- Experimenten: data scientists draaien modellen op hun laptop
- Geautomatiseerde training: pipelines voor reproduceerbare experimenten
- Deployment automation: modellen gaan automatisch naar productie na validatie
- Full MLOps: monitoring, retraining, A/B-testing, governance — alles geautomatiseerd
Multitenancy: één systeem, meerdere klanten
Als je een SaaS-product bouwt met AI, moet je data tussen klanten isoleren. Voor RAG-systemen betekent dit:
- Data isolation: elke tenant heeft z’n eigen index of chunk-filtering op basis van tenant-ID
- Secure inferencing: zorgen dat tenant A geen data van tenant B kan ophalen via slimme prompts
- Cost allocation: kosten per tenant bijhouden
Patronen hiervoor zijn onder meer:
- Aparte vector stores per tenant (duur, maar volledig geïsoleerd)
- Shared vector store met metadata-filtering (goedkoper, maar vereist goede access control)
- Hybrid: shared indexing, tenant-specific fine-tuning
Foundation model lifecycle: versies, deprecation, rotatie
LLM-providers updaten regelmatig modellen. GPT-4 krijgt nieuwe versies, oude versies worden deprecated. Als jouw productie-systeem op een specifieke modelversie draait, moet je:
- Versioning bijhouden: welke deployment gebruikt welke modelversie?
- Deprecation planning: migreren naar nieuwe versies voordat oude uitgefaseerd worden
- Testing: nieuwe versies evalueren op jouw use case (output kan subtiel veranderen)
- Rollback-strategie: als nieuwe versie slechter presteert, snel terug kunnen
Productie-architectuur: lagen die je nodig hebt
Een robuuste AI-architectuur in productie heeft meerdere lagen:
- Identity: wie mag wat? Authenticatie, autorisatie, role-based access control
- Networking: private endpoints, VNets, firewalls — zodat data niet over het publieke internet gaat
- Monitoring: logging, metrics, alerting — wat gebeurt er in real-time?
- Governance: compliance, auditing, data lineage — belangrijk in gereguleerde sectoren
Baseline end-to-end chat-architectuur
Een typische opzet voor een enterprise chatbot:
- Frontend: web/mobile app
- API gateway: routering, authenticatie, rate limiting
- Orchestration layer: agent logic, RAG pipeline
- Model endpoints: Azure OpenAI of andere LLM-providers
- Data layer: vector store, document store, CRM/ERP-connectoren
- Monitoring: Application Insights, logging
Voeg daar governance (policy enforcement, content filtering) en networking (private links) aan toe, en je hebt een productie-ready setup.
Document processing: praktische use cases
AI in documentverwerking is een veelvoorkomend scenario:
- Classificatie: automatisch facturen, contracten, CV’s sorteren
- Extractie: velden uit PDF-formulieren halen (factuurnummer, bedrag, leverancier)
- Custom models: trainen op jouw specifieke documenttypes
- Workflows: Power Automate + AI Builder voor end-to-end processing (document binnenkomt → classificeren → extractie → naar ERP)
Voorbeeld: factuurverwerking
Facturen komen binnen via e-mail. Een workflow:
- Durable Functions triggeren op nieuwe e-mailbijlagen
- Document Intelligence extraheert velden (leverancier, bedrag, vervaldatum)
- Custom model (getraind op jouw factuurformaten) verbetert accuraatheid
- Validatie: bedrag klopt met inkooporder?
- ERP-integratie: goedgekeurde facturen automatisch boeken
Organisatorische readiness: ben je er klaar voor?
Techniek is één ding, maar AI in productie vereist ook organisatorische volwassenheid. Denk aan frameworks zoals Cloud Adoption en Well-Architected: strategie, planning, governance, security, cost optimization, operational excellence.
Vragen die je moet beantwoorden voordat je begint: wie is verantwoordelijk voor modelkwaliteit? Hoe ga je om met fouten? Wat is je escal
