Suoraan sisältöön
XSIS
Insinööri kävelee palvelinkeskuskäytävällä palvelintelineiden välissä

Asiakastarinat

Ilmaraotettu suvereeni LLM-alusta, MCP-pohjainen moniagenttiautomaatio ja token-FinOps

Tuotantokelpoista tekoälyä, jonka CISO hyväksyi ja CFO otti vastaan, kun jokainen asiakasdatan tavu pysyy lainkäyttöalueellaan.

Yhdellä silmäyksellä

  1. Asiakas

    Säännelty eurooppalainen ja MENA-alueen rahoituspalvelulaitos.

  2. Tiimi

    1 päätekoäly- ja data-arkkitehti, 2 suvereenin koneoppimisen ja agenttien insinööriä ja 1 pilvi- ja PQC-tietoturvainsinööri

  3. Kesto

    10 viikkoa

Haaste

Asiakas halusi automatisoida monimutkaisen kaksikielisen (englanniksi ja arabiaksi) KYC-asiakirjojen poiminnan, vaatimustenmukaisuuden auditoinnin ja sisäisen tietämyksen haun. Tiukat datan sijaintia koskevat lait, MENA-alueen henkilötietosuojalait (PDPL), EU:n tekoälyasetus ja DORA estivät käsittelemättömien asiakastietojen lähettämisen julkisiin yhdysvaltalaisiin kuluttaja-LLM-rajapintoihin.

Sen ensimmäinen pilvitekoälyprototyyppi kärsi myös riistäytyvistä token-inferenssikustannuksista ja hallusinaatioriskistä.

Mitä rakensimme ja yhdistimme

  1. Yksityinen inferenssi ilman datan ulosvirtausta

    Yksityinen inferenssiklusteri suurille ja pienille kielimalleille suvereenin alueellisen pilven VPC:ssä, käyttöoikeudet huomioivalla GraphRAG:lla, joka varmistaa asiakirjojen roolipohjaisen käytön.

  2. Valvotut MCP-agentit

    Model Context Protocol (MCP) -protokollaan perustuvat autonomiset agentit, joita ihmiset valvovat silmukassa ja jotka poimivat, ristiintarkistavat ja kirjaavat KYC-, kaupparahoitus- ja onboarding-asiakirjat suoraan ydinjärjestelmiin (älykäs asiakirjakäsittely, IDP 2.0).

  3. Token-FinOps-yhdyskäytävä

    Semanttinen välimuisti ja dynaaminen mallireititys, jotka ohjaavat 75 % rutiinitehtävistä kvantisoituihin pieniin kielimalleihin ja jättävät huippumallit monimutkaiseen päättelyyn.

Järjestelmät ja teknologiapino

Tekoäly ja koneoppiminen
  • Mistral

Mitatut tulokset

pienemmät kuukausittaiset tekoälyn token- ja GPU-inferenssikustannukset semanttisen välimuistin ja pienten mallien reitityksen ansiosta
52 %
nopeampi KYC- ja asiakirjojen käyttöönotto, deterministisillä lähdeviittauksilla vaatimustenmukaisuudesta vastaaville henkilöille
78 %
eikä yhtään henkilötietojen ulkoista vuotoa, ja sisäiset CISO- ja sääntelyriskiauditoinnit läpäistiin ensimmäisellä kierroksella
100 %:n datan sijainti

XSIS toimitti meille tuotantokelpoista suvereenia tekoälyä, jonka CISO hyväksyi ja CFO kehui: inferenssilaskumme puolittui, kun jokainen asiakasdatan tavu pysyy lainkäyttöalueellamme.

Tietohallinto- ja tekoälyjohtaja

Aloittakaa keskustelulla, ei sopimuksella.

Kertokaa, mitä haluatte rakentaa, yhdistää tai suojata. Arkkitehti käy sen kanssanne läpi ja suosittelee, mistä aloittaa.

Mitä tapahtuu seuraavaksi

  1. Ajan sopiminen

    Tiimimme lähettää teille sähköpostia sopiakseen ajan tapaamiseen.

  2. Ennakkokonsultointi

    Tilaisuus on maksuton 30 minuutin verkkopohjainen ennakkokonsultointi: käymme läpi tavoitteenne, järjestelmänne ja rajoituksenne.

  3. Valmiustarkastus

    Tilaisuuden jälkeen järjestetään maksuton 48 tunnin valmiustarkastus, jossa pääarkkitehti tarkistaa projektinne kuusikohtaista valmiuden määritelmää vasten ja suosittelee sopivaa polkua.

  4. Polun valinta

    Laajuudeltaan valmiit projektit saavat sitovan tarjouksen kolmen ja viiden arkipäivän kuluessa. Konseptivaiheen projektit alkavat Blueprint Studiossa. Käynnissä oleva järjestelmä, joka ei toimi, on dokumentoimaton tai vaatii integraatiota, alkaa diagnostiikalla, jonka kesto on 1-2 viikkoa. Blueprint Studiolla ja diagnostiikalla on kummallakin kiinteä maksu, joka ilmoitetaan tarjouksessa.