De AI-laag
De AI in het platform draait op een laag die los staat van de werkbladen. Welk model welke taak doet, is een instelling van de platformbeheerder en geen bouwwerk, en een nieuw model gaat pas in gebruik nadat het eerst naast het huidige heeft meegedraaid.
Een lijst van modellen, in beheer
De modellen waaruit het platform kan kiezen staan in een lijst in beheer en niet in de code. Per model staat vast wat het aankan en wat het kost, ook per promptlengte, en vanaf welke grens «denken» uit kan. Een keuze in beheer kan geen AI-knop laten mislukken op een instelling die het model niet kent.
Model en denkdiepte per AI-knop
De platformbeheerder kan per soort opdracht en per AI-knop een ander model, een andere denkdiepte, een eigen lengte of een tijdsbudget instellen. Zolang niets is ingesteld, werkt elke knop zoals voorheen. De lengte houdt rekening met het denken, zodat een antwoord niet midden in een zin wordt afgekapt doordat het nadenken de ruimte opat.
Een terugval als een model weigert
Weigert het gekozen model een vraag voordat er antwoord is, of is het overbelast, dan valt de knop één keer terug op een ander model dat actief staat: het vorige model van die knop, anders het standaardmodel van de soort opdracht. Een model dat is uitgefaseerd, wordt nooit als terugval gekozen. De gebruiker krijgt zo gewoon een antwoord in plaats van een fout.
Twee routes, met de regio als instelling
De AI kan via twee routes lopen. Een platformbeheerder kan instellen dat de AI alleen in de EU draait. Beide instellingen staan uit tot ze worden aangezet.
Een nieuw model eerst beproeven: de proefbank
In het beheerscherm AI-modellen staat een tabblad Proefbank. Je kiest het huidige model en een kandidaat, draait dezelfde vaste set met beide en legt de uitkomsten naast elkaar: hoeveel goed, hoeveel afgekapt, de tijd en de kosten. Daarnaast lees je zelf een steekproef van tien teksten naast elkaar en geef je per tekst je oordeel. Valt er iets niet te meten, dan staat er «niet gemeten» en start er niets. Een vergelijking die niets kon meten, wordt rood en zegt bovenaan waarom, in plaats van groen met een tabel vol fouten. De proefbank draait met je eigen inlog.
Een modelwissel als proces
Een modelwissel volgt een vast draaiboek: een nieuw model komt eerst als proefmodel in de lijst en wordt op de proefbank met het huidige vergeleken; pas daarna gaat het in gebruik. Elke nacht wordt gecontroleerd of de modellijst nog klopt met wat de aanbieder levert.
Wat dit voor een gebruiker betekent
Niets verandert onverwacht. De consultant merkt een modelwissel alleen aan betere of snellere voorstellen; de regels uit AI-ondersteuning blijven gelden: een voorstel is een voorstel, met zijn herkomst, tot iemand het accepteert.