It’s your data: lokale AI voor organisaties die controle willen houden

Lokale AI zonder cloud met Silent AI

Silent AI is een lokale AI-appliance voor organisaties die generatieve AI willen gebruiken zonder gevoelige data naar publieke cloudomgevingen te sturen.

De oplossing draait in je eigen omgeving, werkt met je eigen databronnen en respecteert bestaand rechtenbeheer. Zo kunnen medewerkers vragen stellen aan interne kennis, documenten, tickets, intranet, SharePoint, Confluence of andere tekstbronnen, terwijl data lokaal en onder controle blijft.

Wat is Silent AI?

Silent AI is een lokale AI-oplossing voor organisaties die generatieve AI willen gebruiken zonder controle over hun data te verliezen.

De oplossing draait in je eigen omgeving en combineert taalmodellen, veilige opslag, vectordatabases en rechtenbeheer in één appliance. Daardoor kunnen medewerkers vragen stellen aan interne documenten, kennisbanken en andere databronnen, terwijl gevoelige informatie lokaal blijft.

Silent AI gebruikt bestaande bedrijfsdata om antwoorden te geven, maar stuurt deze data niet naar publieke AI-diensten. Het platform houdt rekening met bestaand gebruikers- en rechtenbeheer, zodat medewerkers alleen informatie kunnen opvragen waartoe zij toegang hebben.

De oplossing is gebaseerd op geharde Linux, veilige storage en RAG-technologie. Via de API kan Silent AI ook worden gekoppeld aan bestaande applicaties, zoals DMS-systemen, intranet, ticketsystemen of andere bedrijfssoftware.

Met FAST LTA CARE blijft het systeem veilig en goed beheerd. Op aanvraag is 24/7 ondersteuning beschikbaar en dankzij vaste kosten houd je grip op de lange termijn.

Waarom lokale AI steeds belangrijker wordt

Veel organisaties willen aan de slag met generatieve AI, maar lopen vast op dezelfde vragen: welke data mag naar een publieke AI-tool, wie heeft toegang tot welke informatie en hoe voorkom je dat gevoelige bedrijfskennis buiten je eigen omgeving terechtkomt?

Silent AI is ontwikkeld voor organisaties die AI willen inzetten op eigen documenten, kennisbanken en interne systemen, maar controle willen houden over data, rechten, kosten en compliance. In plaats van bedrijfsinformatie naar een externe AI-dienst te sturen, blijft de verwerking lokaal binnen de eigen omgeving.

De belangrijkste zaken op een rij:

AI gebruiken zonder bedrijfsdata naar publieke cloudtools te sturen
Antwoorden genereren op basis van eigen documenten en kennisbronnen
Bestaand rechtenbeheer respecteren
Geen token-based facturering per vraag of gebruiker
Geschikt voor kennismanagement, support, documentatie en interne zoekvragen
Europese oplossing met lokale ondersteuning

> Lees meer over off-cloud AI

De uitdagingen

voor het gebruik van een GenAI (GPT) in het bedrijf

AI in het bedrijf

AI kan meerdere gegevensbronnen doorzoeken op gewenste informatie en de resultaten samenvatten in een begrijpelijk antwoord.

Samenvattingen van gedetailleerde inhoud, vertalingen en herformuleringen behoren ook tot de sterke punten van generatieve AI.

Het gebruik van generatieve AI (GenAI) zoals ChatGPT herbergt ongetwijfeld veel potentieel voor bedrijven en instellingen.

In tegenstelling tot machine learning, dat al jaren wordt gebruikt voor voorspellend onderhoud en soortgelijke toepassingen, is GenAI relatief nieuw. Grote taalmodellen (LLM’s) maken het mogelijk om complexe vragen “menselijk” te beantwoorden in plaats van alleen maar een lijst met zoekresultaten te geven.

Vragen vervangen zoekopdrachten, antwoorden vervangen zoekresultaten.

Bedrijven en instellingen hopen dat dit vooral de efficiëntie verhoogt bij het steeds opnieuw beantwoorden van dezelfde vragen, bijvoorbeeld bij eerstelijnsondersteuning.

Bij het plannen van het gebruik van een GenAI zijn er echter een aantal problemen die samenhangen met openbare GenAI-oplossingen: De meest dringende is de kwestie van privacy en gegevensbeveiliging, aangezien bij cloudoplossingen de gegevens die worden gebruikt om de LLM te trainen, worden gebruikt om zijn “kennis” te verrijken. Hallucinatie en ondoorzichtige prijzen zijn ook obstakels voor het gebruik van openbaar beschikbare GenAI-oplossingen.

De principes van Silent AI: lokaal, privé en veilig

Local: AI draait in je eigen omgeving

Silent AI draait volledig in een lokale omgeving en werkt zonder online verbinding. Dit betekent dat je altijd volledige controle behoudt over je gegevens, die je ook op elk moment weer kunt verwijderen, zelfs gedeeltelijk.

Private: rechtenbeheer blijft leidend

Silent AI is geïntegreerd in je rechten- en gebruikersbeheersysteem. Toegang tot de gebruikte gegevens is gebaseerd op de rechten van de gebruikers. Uw gegevens verlaten nooit de lokale omgeving.

Secure: ontworpen voor gevoelige bedrijfsdata

Silent AI is gebaseerd op onze decennialange ervaring met zeer veilige opslagsystemen, waarbij gegevens nooit verloren mogen gaan of gecompromitteerd mogen worden door misbruik.

Managed: kant-en-klare AI appliance

Silent AI zal beschikbaar zijn als kant-en-klare toepassing voor AI-ondersteund kennisbeheer in bedrijven, bijvoorbeeld ter ondersteuning van verkoop of klantenservice. Gegevens uit verschillende bronnen kunnen worden geïntegreerd.

Sustainable: minder GPU resources en vaste kosten

Omdat er geen training van de LLM plaatsvindt in Silent AI, heeft het systeem veel minder GPU-resources nodig dan vergelijkbare systemen. Dit bespaart energie en zorgt voor een lage CO2-voetafdruk.

From Europe: Europese AI met lokale ondersteuning

Silent AI is ontwikkeld in Duitsland en voldoet aan de GDPR en Europese AI-wetgeving. Je hebt toegang tot lokale ondersteuning en er wordt persoonlijk voor je gezorgd.

Geen hertraining.

Lokale taalmodellen met RAG maken volledig zelfvoorzienende AI mogelijk.

Local LLM: taalmodel zonder cloudverbinding

Er zijn niet langer alleen commerciële “black box” taalmodellen beschikbaar. De open source gemeenschap heeft een groot aantal vrij beschikbare LLM’s opgeleverd die zich qua prestaties niet hoeven te verschuilen achter ChatGPT en anderen.

Deze modellen kunnen lokaal en dus volledig zonder internettoegang worden gebruikt.

In plaats van zeer grote, universele taalmodellen te moeten gebruiken die enorme middelen vereisen voor training en inzet, kunnen deze LLM’s vooraf worden getraind voor specifieke taken en zo compact worden gehouden.

RAG: antwoorden op basis van je eigen data

Om dit lokale taalmodel rekening te laten houden met particuliere gegevensbronnen, worden deze met behulp van RAG (Retrieval Augmented Generation) overgedragen op het moment van de query met de prompt. De LLM haalt de informatie uit een vectordatabase die vooraf is gegenereerd op basis van deze brongegevens.

Als de toegang tot deze database voor de LLM wordt verwijderd, kunnen resultaten die alleen uit deze privégegevens kunnen komen, niet meer worden opgevraagd.

Het gebruik van een lean LLM en RAG-injectie maakt het mogelijk om de taal (begrip en uitvoer) te scheiden van de kennis (informatiebronnen).

Transparant gebruik zonder data-analyse door derden

Aanbieders van openbare GenAI-oplossingen zullen verschillende advertentiemodellen in hun diensten moeten integreren om de immense kosten te dekken, zoals Perplexity zojuist heeft aangekondigd. De basis hiervoor is natuurlijk de evaluatie van de ingevoerde zoekopdrachten en de resulterende antwoorden.

Zelfs na anonimisering bestaat het risico dat bedrijfsinformatie wordt opgeslagen en gebruikt door GenAI-aanbieders op basis van de vragen.

Silent AI onthoudt zich natuurlijk van elke vorm van evaluatie van de vragen en antwoorden. Gebruikers kunnen optioneel de kwaliteit van het antwoord na een query beoordelen en deze beoordelingen beschikbaar stellen aan FAST LTA.

Toepassingen

Silent AI is geschikt voor een reeks tekstgebaseerde toepassingen waarbij privégegevens de lokale site niet mogen verlaten.

AI voor intern kennismanagement

Kennisbeheer is een van de grootste uitdagingen voor bedrijven en overheden. De mogelijkheid om snel correcte antwoorden te krijgen op terugkerende vragen verhoogt de efficiëntie en verkort de trainingstijd.

Ondanks de voortschrijdende digitalisering is informatie vaak verspreid over meerdere bronnen en systemen. In de meeste gevallen wordt informatie verkregen via verschillende zoekopdrachten in het betreffende platform. Het gevolg is dat medewerkers meer of minder geschikte zoekopdrachten krijgen, waaruit vervolgens moeizaam de relevante informatie moet worden gezocht.

Silent AI zet het ophalen van informatie uit meerdere zoekopdrachten om in een begrijpelijk antwoord met precieze broninformatie.

Hierdoor kunnen medewerkers snel relevante antwoorden uit verschillende bronsystemen vinden.

Omdat Silent AI rekening houdt met bestaand rechtenbeheer, krijgen werknemers alleen antwoorden op informatie waartoe ze toegang hebben. Bovendien kunnen hele informatiegebieden tijdelijk of permanent ontoegankelijk worden gemaakt door databases te ontkoppelen.

Intelligente codeerassistent

AI helpt al lange tijd bij de ontwikkeling van software. De huidige hulpsystemen zijn echter gebaseerd op publieke clouddiensten. Het is niet altijd transparant welke informatie en delen van code door de aanbieder worden opgeslagen en gebruikt om de AI te verbeteren. In het ergste geval kan code met een hoge ontwikkelinspanning en bijbehorende waarde ineens vrij beschikbaar zijn voor iedereen zonder dat de bijbehorende licentievoorwaarden in acht worden genomen.

Het gebruik van Silent AI beperkt de ondersteuning tot de lokale ontwikkelomgeving.

Hiervoor kunnen speciale LLM’s worden gebruikt die zijn geoptimaliseerd voor de respectievelijke gebruikte programmeertalen. Code die al beschikbaar is in het bedrijf kan ook worden gebruikt voor ondersteuning via RAG.

AI-integratie in bestaande software

Silent AI kan ook worden geïntegreerd in bestaande software. Vervang het zoekveld van je oplossing door een vragenveld. Je gebruikers krijgen antwoorden met informatie rechtstreeks uit je software, met een hoge relevantie en precieze broninformatie.

We bieden een uitgebreide API om Silent AI in je applicatie te integreren.

Of het nu gaat om DMS, financiële applicaties, documentatie, ticketsystemen of uw specifieke brancheoplossing: lokale AI-integratie met Silent AI verbetert de gebruikerservaring en verhoogt de productiviteit.

Veelgestelde vragen over Silent AI

Wat is het verschil tussen Silent AI en ChatGPT Enterprise?

Silent AI is een AI-appliance die wordt geïnstalleerd in jouw datacenter of in een edge datacenter. Je hebt volledige controle over welke verbindingen Silent AI mag maken, welke gegevens worden verwerkt en wie toegang heeft tot de appliance. Silent AI heeft geen verbinding met een cloudservice nodig (behalve voor optionele monitoring van het systeem zelf).

Silent AI is gebaseerd op een speciaal opslagplatform dat profiteert van onze jarenlange ervaring op het gebied van beveiligde opslagsystemen. Naast een hoge interne gegevensdoorvoer lag de focus tijdens de ontwikkeling op gegevensbeveiliging en gegevensprivacy.

Silent AI is direct verbonden met uw gegevensbronnen en vereist geen “upload” van documenten. Onze parsers kunnen overweg met verschillende op tekst gebaseerde bronnen, zoals Office365 & Sharepoint, Confluence / Jira, websites / intranet. Jij bepaalt hoe vaak de informatie wordt bijgewerkt vanuit de respectievelijke bronnen.

Silent AI is ontworpen voor maximaal 50 gebruikers per unit en toepassing. Als lokaal apparaat respecteert Silent AI je bestaande rechtenbeheer (bijv. AD) en kan functies en toegang tot databases dienovereenkomstig vrijgeven en beperken.

Silent AI is niet gebaseerd op token-gebaseerde facturering die je “straft” naarmate je het systeem meer gebruikt. Naast de hardware zorgen constante licentie- en onderhoudskosten voor lage kosten die op de lange termijn kunnen worden ingepland.

Wat is het verschil tussen Silent AI en andere AI-apparaten?

De meeste AI-apparaten hebben als doel om hun eigen AI-model te bouwen (meestal machine learning, zeldzame GenAI / LLM) en dit te trainen voor de specifieke use case. Dit proces duurt lang, vereist extreem veel GPU-rekenkracht en is daarom erg energie- en kostenintensief.

Silent AI combineert een algemeen, slank open-source taalmodel met gerichte RAG-injectie vanuit lokale vectordatabases. Hiervoor is geen training van een AI-model nodig. Het creëren en ophalen van de vectordatabases vereist een fractie van de GPU-rekenkracht van andere AI-apparaten.

Wat is het verschil tussen Generatieve AI en Machine Learning?

Machine learning wordt al tientallen jaren gebruikt om voorspellingen van hoge kwaliteit te verkrijgen voor specifieke gebieden op basis van zoveel mogelijk historische gegevens. Voorspellend onderhoud, financiële voorspellingen en weerberichten zijn slechts enkele van de veelvoorkomende toepassingen.

Generatieve AI combineert informatie uit verschillende bronnen en kan in begrijpelijke taal worden ondervraagd en antwoorden geven, maar kan ook beelden, geluiden en video’s genereren, samenvattingen maken, patronen herkennen (beeldanalyse) en analyses schrijven. Voorspellingen maken geen deel uit van het repertoire van GenAI.

Kan Silent AI ook worden gebruikt voor beeldanalyse of -generatie?

Nee, Silent AI is een tekstgebaseerde GenAI. Er kunnen vragen worden gesteld in begrijpelijke taal en er kunnen antwoorden worden geschreven op basis van de aanvullende informatie die door RAG is verstrekt op het moment van de vraag. Silent AI heeft ook de mogelijkheden van het betreffende taalmodel, d.w.z. het kan teksten samenvatten, herformuleren en vertalen.

Jouw persoonlijke demo.

Plan een demo met onze experts en ervaar het zelf.