Open-source AI-tools die je écht gebruikt
De open-source AI-wereld groeit sneller dan je kunt bijhouden. Elke week duiken er nieuwe tools op, maar welke zijn de moeite waard? Hier een overzicht van tools die daadwerkelijk ingezet worden — van RAG-applicaties tot workflow-automatisering.
Welke RAG-tool geeft je geen vendor lock-in?
AnythingLLM springt eruit als multiuser RAG-oplossing die je zowel op een bedrijfsserver als lokaal op Windows draait. Het grote voordeel: je bent niet gebonden aan één AI-provider en kunt wisselen tussen modellen.
Onyx (vroeger Danswer) richt zich specifiek op enterprise-scenario’s, waar je meerdere kennisbronnen wilt doorzoeken met AI. Denk aan interne documentatie, ticketsystemen en gedeelde drives — allemaal doorzoekbaar vanuit één interface.
Veel RAG-tools hebben nog kinderziektes. Token-limieten van bijvoorbeeld 400 tokens maken sommige interfaces onbruikbaar voor serieus werk, en ondersteuning voor backends zoals KoboldCPP ontbreekt vaak.
Workflows bouwen zonder code
Dify laat je snel AI-workflows samenstellen met een visuele editor. Je bouwt bijvoorbeeld een klantenservice-flow: vraag komt binnen → classificatie → doorsturen naar specialist → antwoord genereren → verzenden.
N8N is strikt genomen geen AI-tool, maar onmisbaar in een AI-stack. Je koppelt ermee API-calls, transformeert data en stelt triggers in. Combineer het met LLMs en je automatiseert complexe processen.
Harbor valt op als service directory: het verzamelt 50+ LLM-gerelateerde projecten die allemaal lokaal draaien. Handig als startpunt wanneer je een specifieke functionaliteit zoekt maar niet weet welke tool daarvoor bestaat.
Code schrijven met AI
Zed is een Rust-gebaseerde editor die zich positioneert als open-source alternatief voor Cursor en Windsurf. Standaard draait het op Anthropic’s Sonnet met slimme caching voor snelle partial-file edits, maar je configureert het ook voor lokale modellen via Ollama of Groq.
Het werkt niet alleen voor code — je gebruikt het evengoed voor blogposts of documentatie. De Jetbrains keyboard shortcuts zijn beschikbaar, wat de overstap makkelijker maakt als je van IntelliJ of PyCharm komt.
Agents die echt iets doen
Langroid is een Python-framework voor agent-georiënteerde applicaties, ontwikkeld door onderzoekers van CMU en UW-Madison. Het werkt met lokale én remote LLMs en dwingt je niet in de architectuur van LangChain of soortgelijke libraries.
Een praktisch voorbeeld: je bouwt een agent die wekelijks nieuwsbrieven samenstelt. De agent haalt artikelen op, filtert op relevantie, schrijft samenvattingen en stelt een conceptmail samen. Met Langroid definieer je elke stap als een aparte agent die je vervolgens koppelt.
VoltAgent focust op het bouwen én debuggen van agents — dat laatste wordt vaak vergeten, terwijl je juist daar veel tijd in steekt.
Hoe maak je fine-tuning toegankelijk?
Kiln maakt synthetic data generation en fine-tuning behapbaar. In plaats van handmatig trainingsdata te verzamelen, genereer je voorbeelden met een groter model en gebruik je die om een kleiner model te trainen.
Dit werkt goed voor domein-specifieke taken: je traint een klein model op juridische teksten of technische specificaties, waardoor het sneller en goedkoper werkt dan een algemeen model.
Gespecialiseerde tools
Open Scholar van AI2 doorzoekt computerwetenschappelijke papers met een 8b model en genereert rapporten met citaties. Dat klinkt niche, maar het patroon — gespecialiseerd zoeken met een relatief klein model — werkt ook voor andere vakgebieden.
DuckDB verdient een vermelding als database voor lokale tests. Het draait sneller dan Postgres of Spark wanneer je datasets valideert of transformaties checkt in een notebook, voordat je naar productie gaat.
ComfyUI wordt ingezet voor wie text, embeddings en image generation wil combineren via custom nodes — een interessante richting voor multimodale toepassingen.
Wat ontbreekt er nog?
De community vraagt om een geconsolideerde GitHub-repo die alle tools overzichtelijk verzamelt. Nu zitten ze verspreid over Reddit-threads, Discord-servers en persoonlijke blogposts.
Ook opvallend: veel ontwikkelaars zoeken een plek om hun eigen AI-apps te delen zonder dat het als spam wordt gezien. Er is kennelijk behoefte aan een soort showcase-platform voor experimentele tools.
Waar begin je?
Start met een duidelijke use case.
- Wil je interne documentatie doorzoekbaar maken? Kies AnythingLLM of Onyx.
- Wil je workflows automatiseren? Probeer Dify of N8N.
- Voor code-assistentie: Zed.
De kracht van open-source zit in de flexibiliteit: je combineert tools, past ze aan en draait ze lokaal zonder afhankelijk te zijn van externe diensten. Dat kost meer tijd dan een SaaS-oplossing, maar geeft je volledige controle.
