Het model van Core¶

Core is een platform waarop je oplossingen met taalmodellen bouwt voor je klanten. Elke klant krijgt een eigen organisatie. In die organisatie leg je vast wat een agent weet, wat hij mag doen en met welk model hij werkt, en je applicatie roept dat aan met een sleutel.

De bouwstenen¶

Hoe het samenhangt¶

flowchart TB
    app["Je applicatie"] -->|"verzoek met een sleutel"| key
    subgraph org["Organisatie: de ruimte van één klant"]
        key["Sleutels en policy<br/>wie mag wat"]
        agent["Agents<br/>redeneert en handelt"]
        knowledge["Kennis<br/>wat de agent weet"]
        tools["Tools<br/>wat de agent doet"]
        models["Modellen<br/>waarmee de agent denkt"]
        insight["Gebruik, Audit, Traces<br/>wat er gebeurde"]
        key --> agent
        agent --> knowledge
        agent --> tools
        agent --> models
        agent -.-> insight
    end
    pub["Publicaties<br/>hergebruik bij andere klanten"] -.->|"kopieën"| org

Een verzoek doorloopt de bouwstenen in deze volgorde:

1. Je applicatie stuurt een verzoek met een sleutel. De sleutel hoort bij precies één organisatie, en alles wat het verzoek daarna raakt, is van die organisatie.
2. Core toetst het verzoek aan de capabilities en de policy van de sleutel: staat de functie aan, en mag deze sleutel dit model, deze tool en deze kennis bereiken?
3. Het verzoek noemt een agent, of beschrijft zelf het model, de instructies en de tools. De agent is de vastgelegde vorm van hetzelfde.
4. Het model antwoordt, of vraagt om een tool. Een zoektool over kennis is ook een tool: zo komt de inhoud van je documenten in het antwoord terecht.
5. Core legt vast wat er gebeurde: verbruik per sleutel en per persoon, auditgebeurtenissen per beslissing, en een trace per modelaanroep.

Een voorbeeld. Je bouwt een supportassistent voor de klant Noordwind. Noordwind is een organisatie onder de jouwe. Daarin staat een collectie met het handboek, een index daarover en een zoektool knowledge__handboek. Een API-koppeling geeft toegang tot het ticketsysteem. De agent support legt het model, de instructie en die twee tools vast. De applicatie van Noordwind stuurt {"agent": {"id": "support"}, "input": "..."} met een sleutel van Noordwind. Heeft je volgende klant dezelfde assistent nodig, dan publiceer je de agent en installeer je hem daar.

Wat een organisatie niet deelt¶

Organisaties delen niets vanzelf. Een sleutel van Noordwind ziet geen agent, document of verbruiksregel van een andere klant, en ook niet van jouw eigen organisatie. Iets hergebruiken doe je bewust, met een publicatie. Als beheerder van de organisatie erboven beheer je de klantorganisatie wel: haar sleutels, limieten en instellingen (Organisaties en klanten).

Verder¶