Het begon met een vrij eenvoudige behoefte
In mijn werk binnen het hoger onderwijs heb ik regelmatig te maken met gesprekken, interviews en overleggen waarvan ik achteraf een goede inhoudelijke samenvatting wil maken. Generatieve AI kan daarbij enorm helpen. Niet alleen om notulen te maken, maar ook om besluiten, actiepunten en terugkerende thema's uit gesprekken te halen.
Tegelijkertijd bevatten transcripties regelmatig informatie die je niet zonder meer met een externe AI-dienst wilt delen. Denk aan namen van collega's, studenten, organisaties of andere gegevens die personen identificeerbaar maken.
Mijn eerste gedachte was daarom vrij logisch: waarom zou ik die transcripties niet volledig lokaal verwerken?
Experimenteren met lokale AI
Ik begon met het testen van verschillende lokale taalmodellen via Ollama op mijn MacBook M1 met 16 GB werkgeheugen. Mijn doel was om zonder externe AI-diensten kwalitatief goede samenvattingen van Nederlandstalige en Engelstalige transcripties te genereren.
Dat bleek in de praktijk lastiger dan verwacht.
Kleinere modellen konden wel samenvatten, maar de kwaliteit bleef regelmatig achter bij wat ik nodig had. Belangrijke nuances verdwenen, actiepunten waren niet altijd voldoende onderbouwd en bij langere transcripties liep ik tegen beperkingen aan.
Grotere modellen boden mogelijk meer kwaliteit, maar waren op mijn hardware onvoldoende praktisch inzetbaar.
Natuurlijk zijn lokale modellen volop in ontwikkeling en zijn er krachtigere computers beschikbaar. Mijn conclusie was dan ook niet dat lokale AI ongeschikt is, maar dat ik met mijn beschikbare hardware niet de gewenste combinatie van snelheid, kwaliteit en gebruiksgemak kon bereiken.
Een andere vraag: moet eigenlijk alles lokaal?
De resultaten die ik met externe AI-modellen zoals ChatGPT, Gemini en Claude kon bereiken, waren aanzienlijk beter.
Maar daarmee kwam het oorspronkelijke privacyvraagstuk weer terug. Want wil je een volledige transcriptie, inclusief alle persoons- en organisatiegegevens, naar een externe AI-provider sturen?
Ik begon me af te vragen of ik het probleem niet anders moest benaderen.
Wat als ik lokale AI niet inzet om de volledige samenvatting te genereren, maar juist voor de taak waarvoor ik die lokale verwerking het belangrijkst vind: het herkennen en afschermen van potentieel identificerende informatie?
Daarna zou ik de inhoudelijk opgeschoonde transcriptie kunnen aanbieden aan een krachtiger extern taalmodel.
Een hybride aanpak dus, waarbij lokale verwerking en externe AI elkaar aanvullen.
Van experiment naar een eigen applicatie
Vanuit die gedachte ontstond Timonym.
Timonym is een applicatie waarin je bestaande transcripties kunt importeren. De applicatie probeert vervolgens lokaal namen, organisaties en andere direct identificerende gegevens te herkennen en af te schermen.
Hiervoor combineert Timonym een lokaal AI-model met aanvullende herkenningsregels.
Een belangrijk onderdeel is dat je als gebruiker altijd zelf kunt controleren wat er is herkend en welke tekst uiteindelijk naar de externe AI-provider wordt verstuurd.
Pas daarna kun je de afgeschermde transcriptie laten verwerken door bijvoorbeeld Gemini, ChatGPT of Claude. De resultaten kunnen bestaan uit uitgebreide notulen, samenvattingen, actiepunten of gestructureerde overzichten voor onderzoeksinterviews.
De oorspronkelijke transcriptie en de koppeling tussen oorspronkelijke gegevens en vervangende aanduidingen blijven lokaal op de Mac of PC.
Geen garantie op anonimiteit
Hierbij hoort een belangrijke kanttekening.
Het automatisch afschermen van persoonsgegevens betekent niet dat een transcriptie daarmee volledig anoniem wordt. Namen kunnen worden gemist en ook zonder directe identificerende gegevens kan de inhoud van een gesprek informatie bevatten waarmee personen of organisaties alsnog herkenbaar zijn.
Bovendien worden de afgeschermde transcripties nog steeds naar een externe AI-dienst verstuurd. De toepasselijke afspraken, instellingen, verwerkingsdoeleinden en eventuele risico's blijven dus relevant.
Timonym is nadrukkelijk geen garantie op anonimiteit of AVG-compliance. Ik zie het als een aanvullende technische en organisatorische voorzorgsmaatregel, waarbij de gebruiker bewust controle houdt over wat wordt gedeeld.
Voor bepaalde vertrouwelijke informatie kan het nog steeds noodzakelijk zijn om helemaal geen externe AI-dienst te gebruiken.
Gebouwd met AI, vanuit een ontwerpachtergrond
Wat dit experiment voor mij persoonlijk extra interessant maakte, is dat ik geen traditionele softwareontwikkelaar ben.
Mijn achtergrond ligt in design en onderwijs. Toch heb ik de applicatie in korte tijd kunnen ontwikkelen met behulp van AI-ondersteunde ontwikkelomgevingen, aanvankelijk Codex en later Antigravity.
Dat proces bestond uit veel experimenteren, testen, fouten ontdekken en opnieuw proberen.
Het heeft me laten zien hoe toegankelijk softwareontwikkeling inmiddels kan worden voor mensen die vooral vanuit een probleem, een ontwerpidee en een gewenste gebruikerservaring denken.
Tegelijkertijd roept dit natuurlijk nieuwe vragen op over de kwaliteit, veiligheid en onderhoudbaarheid van software die op deze manier wordt ontwikkeld.
Een experiment dat ik graag wil delen
Timonym is inmiddels gratis beschikbaar voor zowel macOS als Windows. Ik heb geen commerciële doelstellingen met de applicatie. Ik ontwikkel haar vanuit mijn eigen behoefte en ben vooral benieuwd of anderen er iets aan hebben.
Daarom deel ik het project graag met de SURF-community.
De applicatie is te vinden op:
Ik ben vooral geïnteresseerd in ervaringen van docenten, onderzoekers en andere onderwijsprofessionals die regelmatig transcripties verwerken.
Daarbij ben ik benieuwd naar drie vragen:
- In hoeverre is lokale pseudonimisering voor jullie een bruikbare tussenstap voordat informatie naar een extern AI-model wordt gestuurd?
- Welke risico's of beperkingen zien jullie in deze hybride aanpak?
- Zijn er mensen die Timonym met een fictieve of niet-vertrouwelijke transcriptie willen uitproberen en kritisch feedback willen geven op de privacycontrole en gebruiksvriendelijkheid?
Ik realiseer me dat mijn aanpak niet alle privacyvraagstukken oplost. Juist daarom lijkt het me interessant om hierover ervaringen en inzichten uit te wisselen.
Misschien levert het niet alleen een betere versie van Timonym op, maar ook een waardevolle discussie over hoe we generatieve AI op een bewuste en verantwoorde manier kunnen inzetten binnen onderwijs en onderzoek.
0 Praat mee