Alternatieven ondersteunen - Nextcloud & AI

Wat en Waarom?

Waarom een alternatief voor big tech?

We praten met Rik Dekker, free lance Nextcloud & Microsoft 365 consultant, op dit moment werkzaam bij SURF en de HvA/UvA. En met Sam Ditmeijer, een Microsoft 365 beheerder die samen met Rik nauw betrokken is bij een Nextcloud-experiment door de UvA en HvA. Waarom testen zij een alternatief voor big tech? Rik: “Microsoft is bij de overheid en in het onderwijs heel dominant en bepaalt in welke richting hun samenwerk- en officeapplicaties zich ontwikkelen. Ik vind dat we meer zelf aan het roer moeten zitten. Bij open source dacht ik altijd aan hobbyisme en amateurisme, maar ik ben er inmiddels achter dat het heel professioneel kan zijn.” Sam: “Open source biedt vrijheid; je kunt doen en laten wat je wilt, zonder dat je aan de structuur van bijvoorbeeld Microsoft vast zit. Als je een knopje of functionaliteit niet goed vindt, kun je het zelf aanpassen. Rik: “Daarin schuilt wel een risico op veel maatwerk. Maar goed, het voordeel van open source is dat je het kunt behouden, ook als het hoofdpakket zich in een andere richting ontwikkelt.”

Wat doen jullie met Nextcloud en wat leert jullie dat?

Rik: “We hebben een volledig functionele versie van Nextcloud met alle toeters en bellen als experiment draaien op SURF Research Cloud, dus op de eigen datacenters van SURF. Het is een testomgeving om te weten wat er kan en hoe het werkt.” Nextcloud ontwikkelt zich volgens Rik en Sam tot een pakket dat veel kan wat Office 365 doet. Rik: “Voor veel bekende applicaties heeft Nextcloud alternatieven. Je kunt nog niet één op één over van Office 365 naar Nextcloud, daar is het nog niet compleet genoeg voor. Maar het kan wel delen ervan doen of als back-up scenario fungeren.”

Wat kan er met AI binnen Nextcloud?

Rik en Sam willen alles proberen, dus zijn ook met AI aan de slag gegaan. Sam: “Waar je binnen Microsoft vastzit aan Copilot, kun je als instelling bij Nextcloud zelf kiezen welk AI-model je binnen Nextcloud beschikbaar stelt. Dat kan ChatGPT zijn, maar ook verantwoorde AI, oftewel AI die veilig, betrouwbaar, ethisch en transparant is.” In welke gedaante ziet de gebruiker AI terug in Nextcloud? Sam: “Wat binnen Office 365 Copilot heet, heet binnen Nextcloud Assistant. Assistant omvat twee functionaliteiten. Als eerste een standaard chat – zoals mensen dat kennen van ChaptGPT – waaraan je vragen kunt stellen. Daarnaast is er een context-chat. Die indexeert alle documenten in je omgeving en daar kun je vragen over stellen. Dat helpt bijvoorbeeld om snel iets te vinden of snel een belangrijke rode draad uit een paar documenten te halen. Assistant vind je door op een specifiek icoontje te klikken en op steeds meer plaatsen ook als onderdeel van een menu in de applicatie waarin je werkt.”

Wat zien jullie als de toegevoegde van AI in een samenwerk- en officeomgeving?

Rik: “Er zijn natuurlijk de bekende voordelen, zoals documenten analyseren, samenvatten en verbeteren. Of samen met AI denkwerk doen. Maar daarnaast zie ik een grote kans voor het beheer van documenten. Mensen slaan veel op, alleen opschonen doen ze nauwelijks. Daar kun je gebruikers bij helpen. Door AI bijvoorbeeld te laten screenen voor welke documenten wettelijke bewaartermijnen gelden en voor welke niet. Of door te vragen welke documenten niet meer relevant zijn. Al die documenten die je blijft bewaren vervuilen namelijk je zoekresultaten als je iets probeert te vinden. En het kost geld om alles maar te blijven opslaan. Natuurlijk speelt ook het voorkomen van datalekken een rol, want wat er niet is kun je het ook niet per ongeluk delen.”

Hoe makkelijk of moeilijk was het om Assistant te configureren?

Sam: “De standaard chat instellen is niet ingewikkeld. Je moet een aantal apps installeren en die koppelen met de AI provider van je keuze. De context-chat configureren is wat ingewikkelder. Je moet Linux-servers kunnen inrichten en daarop dingen kunnen installeren. Je werkt dan in een commando’s terminal en het is handig om een codetool te gebruiken om code te maken. Daarvoor is iemand nodig die een open source IT-infrastructuur kan inrichten.” 

Stel dat je niet de licenties hebt om een betaald AI-model te gebruiken, heeft Nextcloud dan zelf ook een standaard GPT?

Sam: “Nee, dat heeft Nextcloud niet. Je kunt wel een eigen LLM installeren.”

Als ik binnen Nextcloud een AI-model gebruik (nadat deze is geconfigureerd), zijn de antwoorden op de prompts dan van dezelfde kwaliteit als wanneer ik in de eigen interface van de aanbieder werk? 

Sam: “Ja.”

Kun je meerdere AI-modellen configureren, zodat een gebruikers steeds kan kiezen welke hij wil inzetten?

Sam: “De beheerder stelt in welk AI-model wordt verbonden met Nextcloud. Je kunt niet meerdere modellen instellen en gebruikers de keuze geven.”

Als je een betaald AI-model koppelt met Nextcloud, heb je dan een account voor dat model nodig? Of meerdere, bijvoorbeeld per gebruiker?

Sam: “Je werkt niet echt met een account, het is meer een registratie van de applicatie bij de aanbieder van het AI-model. De beheerder stelt dat in en maakt een verbinding met de server van het AI-model. Je kunt een ongelimiteerde (fair use) verbinding maken of een met een maximum aantal tokens (eenheden die waarde vertegenwoordigen, red.). Alleen de beheerder ziet het totaal aantal tokens en hoeveel er zijn gebruikt. De beheerder kan wel per gebruiker een limiet instellen. Die gebruiker kan dan ook z’n maximum en status zien.

Wat kan er volgens jullie nog worden verbeterd?

Sam: “Een betere integratie van Assistant in de werkflow van de gebruiker, bijvoorbeeld in documenten, in de agenda, et cetera. Dus dat je in de context van waar je bent makkelijk Assistant kunt inroepen en dan op de plek blijft waar je bent.”

Hoe doe je dat?

Nextcloud Assistant - Compacte handleiding met LocalAI (en andere AI-providers)

De Nextcloud Assistant biedt AI-functionaliteiten zoals tekstgeneratie, samenvatten, beeldcreatie, vertaling en spraakherkenning. Ondersteunde providers zijn o.a.: OpenAI, IONOS AI Model Hub, Groqcloud, LocalAI, Ollama, MistralAI, Plusserver en LocalAI (een gratis en opensource service).

Stap A. Apps installeren

1. Ga naar Apps → App Store.
2. Installeer en activeer OpenAI and LocalAI integration en Nextcloud Assistant.
3. Het Assistant-pictogram verschijnt in de bovenste balk.

Stap B. AI-provider configureren

1. Ga naar Instellingen → Administration settings → Assistant.
2. Voeg een provider toe via OpenAI and LocalAI integration.
3. Vul in: 
   - Service-URL: bijv. `http://localhost:8080/v1` of extern `https://ai.jouwdomein.nl/v1` 
   - Service-naam: optioneel 
   - API-sleutel: indien vereist 

Stap C. Testen & Pro Tip

Klik op het Assistant-pictogram en test opdrachten zoals “Vat deze tekst samen” of “Genereer een titel voor dit document”. 

 Pro Tip: Standaard worden de prompts een keer per 5 minuten verwerkt. Voor snellere reacties (direct) van AI-taken kun je systemd background workers inzetten die continu draaien en taken direct oppakken. 

Maak een systemd-unit nano /etc/systemd/system/nextcloud-ai-worker@.service en plak hier de volgende gegevens in:

“[Unit]

Description=Nextcloud AI Worker %i

After=network.target mysql.service redis.service

Requires=mysql.service redis.service

[Service]

User=www-data

ExecStart=/usr/bin/php -f /var/www/nextcloud/occ background-job:worker -v -t 60 "OC\TaskProcessing\SynchronousBackgroundJob"

Restart=always

RestartSec=5s

[Install]

WantedBy=multi-user.target”

Activeer vervolgens meerdere workers (`systemctl enable --now nextcloud-ai-worker@1..4.service`) (in dit geval 4) en controleer status/logs (systemctl status journalctl). Hoe meer workers, hoe sneller de AI-functies reageren.