CCsolutions.io
Private KI-Architektur

Private KI für Banken und Finanzdienstleister

KI-Modelle, die MaRisk und DSGVO erfüllen, weil sie auf eurer Infrastruktur laufen und Kundendaten nie das Haus verlassen.

0
Externe Datenübertragung
Kundendaten und Anfragen bleiben vollständig intern
MaRisk
Konform
Keine Drittauslagerung von Datenverarbeitung an KI-Anbieter
RAG
Internes Wissen
Modell greift auf interne Dokumentenbanken zu
Audit-Log
Jede Anfrage
Jede KI-Interaktion protokolliert und nachvollziehbar

Finanzdienstleister haben KI-Potenzial in internen Prozessen, Dokumentenverarbeitung und Kundenbetreuung, aber jede Public-Cloud-KI ist ein regulatorisches Problem. Kundendaten an OpenAI oder Microsoft zu schicken verstößt gegen bankaufsichtsrechtliche Anforderungen an Datenlokalisierung und Vertraulichkeit. Private AI beseitigt diesen Konflikt.

Die häufigsten Herausforderungen

1

KI-Nutzung in der Bank kollidiert mit bankaufsichtsrechtlichen Anforderungen

MaRisk und BAIT verlangen, dass Institute Kontrolle über ihre IT-Infrastruktur und die Verarbeitung von Kundendaten behalten. Die Nutzung von Public-Cloud-KI für bankgeschäftliche Daten ist in den meisten Instituten rechtlich nicht genehmigt, und de facto trotzdem verbreitet.

2

Interne Prozesse mit KI automatisieren, ohne externen Zugriff auf Daten

Kreditantragsverarbeitung, Dokumentenprüfung, interne Richtlinien-Recherche: alles Anwendungsfälle, die mit KI massiv beschleunigt werden könnten, wenn die Daten nicht das Haus verlassen würden.

3

DSGVO-konforme KI ist mit Public-Cloud-Angeboten strukturell schwer umsetzbar

Auch mit Microsoft-Datenschutzverträgen: der Nachweis, dass personenbezogene Daten ausschließlich in der EU verarbeitet werden und kein Training auf Kundendaten stattfindet, ist bei Public-Cloud-KI aufwändig zu erbringen.

Der CCsolutions-Ansatz

CCsolutions implementiert KI-Modelle auf eurer Infrastruktur, on-premises, in eurem Private-Cloud-Segment oder auf einem dedizierten Server in einem deutschen Rechenzentrum nach eurer Wahl. Kundendaten verlassen die Infrastruktur nicht.

Die häufigsten Anwendungsfälle bei Finanzinstituten: intelligente Dokumentensuche über interne Richtlinien und Compliance-Handbücher via RAG, Unterstützung bei Kreditentscheidungen durch strukturierte Datenauswertung, automatisierte Zusammenfassung von Kreditakten und Vertragsunterlagen.

Der Betrieb läuft auf Kubernetes, wartbar, skalierbar, mit demselben Monitoring und denselben Audit-Trails wie eure übrige Infrastruktur. Das Modell ist Teil eurer IT, nicht ein externer Dienst.

Technologien

Llama 3 Mistral vLLM RAG Kubernetes GPU Nodes HashiCorp Vault Audit Logging

Häufige Fragen

Gilt ein Private-AI-System als IT-Auslagerung im Sinne von MaRisk?

Nein, wenn das System on-premises oder in einem von der Bank kontrollierten Rechenzentrum betrieben wird. CCsolutions kann das System aufbauen und übergeben oder im Managed-Betrieb übernehmen, mit entsprechendem Dienstleistungsvertrag nach MaRisk AT 9.

Kann das Modell mit vertraulichen Bankdokumenten umgehen?

Ja. Via RAG werden interne Dokumente indiziert und für die KI zugänglich gemacht, ohne dass Daten das System verlassen. Zugriffsrechte auf Dokument-Ebene bleiben erhalten.

Welche GPUs werden für den Betrieb bei einer mittelgroßen Bank benötigt?

Für Inferenz-Workloads (kein Training) reichen ein bis zwei NVIDIA A10G oder H100 GPUs für die meisten Anwendungsfälle. Für CPU-only-Betrieb mit quantisierten Modellen sind leistungsstarke Server ohne GPUs ausreichend.

Bereit, loszulegen?

Wir analysieren eure Situation kostenlos und zeigen, was in eurem konkreten Fall möglich ist.

KI-Assessment für Finanzinstitut anfragen