Open-source AI-modellen vergelijken: waar let je op?

Je wilt een AI-model zelf draaien of fine-tunen. Maar welke kies je? De markt groeit razendsnel en je hebt keuze uit tientallen open-source modellen met allemaal verschillende specs. Parameters, context windows, actieve vs. totale gewichten — wat betekent dat in de praktijk?

Is ‘open source’ wel echt open?

De term klopt niet helemaal. Bij AI-modellen draait het om open weights: de modelgewichten zijn downloadbaar, zodat je het model zelf kunt hosten en aanpassen via fine-tuning. De broncode van het trainingsproces blijft meestal dicht.

Voordeel: je draait het model op eigen infrastructuur, zonder vendor lock-in of API-kosten per request. Nadeel: je hebt hardware nodig en moet zelf hosting regelen.

Een openness index (schaal 0-100) geeft aan hoe vrij je het model mag gebruiken. Labels als ‘Commercial Use Restricted’ of ‘Non-commercial’ markeren modellen met gebruiksbeperkingen. Belangrijk als je er commerciële producten mee bouwt.

Hoe meet je intelligentie?

Modellen vergelijken op intelligentie gebeurt via een combinatie van evaluaties. De Intelligence Index v4.2 combineert bijvoorbeeld tien tests:

  • Agentische taken: kenniswerk (AA-Briefcase), real-world opdrachten (GDPval-AA), tool-gebruik (τ³-Banking)
  • Coderen: programmeren (SciCode), terminal-gebruik (Terminal-Bench)
  • Redeneren: kennis + logica (Humanity’s Last Exam), natuurkunde (CritPt), lange context (AA-LCR)
  • Professioneel werk: document-analyse (GDP.pdf)
  • Betrouwbaarheid: kennistest + hallucinatie-rate (AA-Omniscience)

Top-modellen zoals Kimi K3 (max) en GLM-5.3 (max) scoren beide rond de 50 punten. GLM-5.3 is daarbij een stuk opener (84/100 vs. 40/100) en goedkoper ($0.9 vs. $2.3) — interessant voor commerciële inzet.

Parameters: totaal vs. actief

Je ziet vaak twee getallen: totale parameters en actieve parameters.

  • Totaal: alle trainbare gewichten in het model (in miljarden)
  • Actief: hoeveel parameters er daadwerkelijk gebruikt worden tijdens inferentie

Bij dense modellen zijn die twee gelijk. Bij MoE-modellen (Mixture of Experts) niet: het model selecteert per token een subset experts, waardoor je een klein deel van de totale parameters activeert. Voorbeeld: Kimi K3 heeft 2.8T totale parameters maar slechts 104B actief — dat scheelt enorm in rekenkracht.

MoE-modellen zijn vaak efficiënter: minder geheugen en sneller, zonder veel intelligentieverlies. Voor eigen hosting belangrijk, want je hardware-eisen hangen vooral af van actieve parameters.

Context window: input is niet output

De context window geeft aan hoeveel tokens het model maximaal aankan (input + output samen). Veel modellen adverteren met 1M tokens context — handig voor RAG-workflows waar je grote documenten doorzoekt.

Let op: de output-limiet ligt vaak veel lager dan de input-limiet. Een model met 1M tokens context kan bijvoorbeeld maximaal 32k tokens genereren. Voor chatbots geen probleem, voor lange rapporten genereren wel.

Welke grootte heb je nodig?

Modellen worden ingedeeld op totale parameters:

  • Tiny: ≤4B (draait op laptop, beperkte capaciteiten)
  • Small: <40B (balans tussen kwaliteit en resource-gebruik)
  • Medium: 40-150B (professionele toepassingen)
  • Large: >150B (hoogste intelligentie, zware hardware)

Praktijkvoorbeeld: je bouwt een klantenservice-chatbot. Een small-model als GLM-5.3-Flash (320B totaal, 18B actief, score 46) kost $0.1 en draait vlot — meer dan genoeg voor standaard vragen. Voor complexe technische support heb je misschien GLM-5.3 (max) nodig, maar die kost $0.9 en vraagt meer compute.

Zoek de sweet spot

Niet elk model met meer parameters is slimmer. Een Pareto-analyse toont welke modellen de beste intelligentie-per-parameter leveren — de sweet spot tussen prestatie en resource-gebruik.

Qwen3.8 2.4T A95B scoort bijvoorbeeld 47 punten met 95B actieve parameters, terwijl Kimi K3 (max) 50 punten haalt met 104B actief. Dat verschil van 3 punten kost je 9B extra parameters — misschien niet de moeite waard, afhankelijk van je use case.

Checklist voor modelkeuze

Stel jezelf deze vragen:

  • Mag het model commercieel? Check de openness score en labels
  • Hoeveel compute heb je? Kijk naar actieve parameters, niet totale
  • Wat moet het kunnen? Match je use case met relevante benchmarks (coderen, redeneren, tool-gebruik)
  • Hoeveel context heb je nodig? RAG-workflows vragen grote context windows, chatbots vaak niet
  • Wat mag het kosten? Zowel hardware als eventuele API-kosten meetellen

Open-source modellen sluiten de kloof met proprietary alternatieven. De verschillen in specs en licenties vragen om zorgvuldige vergelijking, maar met gestandaardiseerde indices en duidelijke categorieën wordt dat steeds makkelijker.

AI Generated