Safe AI Proxy - Sicherer KI-Einsatz für Unternehmen

Safe AI Proxy ist ein Proxy-Service, der die sichere Nutzung von KI in Unternehmen gewährleistet. Entwickelt für den Betrieb in einer Microsoft Azure-Umgebung, ermöglicht es Unternehmen, KI-Anwendungen sicher zu integrieren und Datenschutz-, sowie Compliance-Richtlinien einzuhalten.

Neben der Integration von KI in betriebliche Prozesse stellt die technische Bereitstellung einer datenschutzkonformen Umgebung eine große Herausforderung dar. Safe AI Proxy bietet eine zuverlässige API, die nahtlos in Workflow-Engines, Automatisierungslösungen, Office-Anwendungen wie Excel und andere Software eingebunden werden kann. Ein wesentlicher Vorteil ist, dass die Schnittstelle stabil bleibt, auch wenn sich die zugrunde liegenden KI-Anwendungen ändern. Dies ermöglicht maximale Flexibilität bei der Auswahl und dem Wechsel von KI-Modellen, ohne Anpassungen an den bestehenden Systemen vornehmen zu müssen.

Vorteile

Zentrale Kontrolle: Safe AI Proxy bietet eine zentrale Steuerung des KI-Datenverkehrs durch die IT-Abteilung und verwendet Azure-Dienste. Es sorgt dafür, dass nur autorisierte Nutzer auf die KI-Dienste zugreifen.

Austauschbare KI-Modelle: Die API ermöglicht den flexiblen Einsatz verschiedener KI-Modelle, ohne Anpassungen an den Clients vorzunehmen. So bleibt die Infrastruktur anpassungsfähig.

Datenschutzkonform: Sensible Daten werden nicht an Dritte weitergegeben, da nur eigene Modelle verwendet werden. Die Wahl von Azure als zentrale Plattform, nutzt bestehende Datenschutzmaßnahmen, die Unternehmen mit Microsoft vereinbart hat.

Eigener Betrieb: Der Service läuft in der eigenen Azure-Umgebung und nutzt Technologien wie Azure Functions, Cosmos DB und Azure OpenAI. Es werden keine Daten an uns weitergegeben.

Schnelle Einführung: Safe AI Proxy und Clients werden immer durch den Kunden betrieben. Wir verstehen uns als Software-Entwickler und bieten unsere Software als jährliche Lizenz an. Dies ermöglicht sehr schnelle Einführung von KI-Lösungen im Unternehmen.

Anwendungsfälle

• Automatisierung von Abläufen
• Mitarbeiter-Support mit intelligenten Assistenten
• Datenschutzkonforme KI-Nutzung

Safe AI Proxy bietet eine REST-API, die eine einfache Integration in bestehende Systeme ermöglicht. Kunden können die Lösung in ihrem eigenen Azure-Abonnement betreiben und individuell anpassen.

Kernfunktionen

Safe AI Proxy bietet eine Vielzahl von Funktionen, die speziell auf die Anforderungen moderner Unternehmen zugeschnitten sind:

Clients

Jeder Client wird als separate Identität behandelt, z. B. eine Organisation oder Sub-Organisation. Dies ermöglicht eine genaue Verwaltung und Trennung von Daten und Berechtigungen.

User

Benutzer sind die Personen, die den Service nutzen. Sie werden durch ihre E-Mail-Adresse identifiziert und sind einem Client zugeordnet. So behalten Sie stets den Überblick über die Nutzeraktivitäten.

KI-Modelle

KI-Modelle sind der Kern der Verarbeitung. Safe AI Proxy ermöglicht Ihnen den Einsatz verschiedenster Modelle, die jederzeit ausgetauscht werden können, ohne dass die Clients davon betroffen sind.

API-Keys

API-Keys bieten zahlreiche Vorteile im Zusammenhang mit der Nutzung von Safe AI Proxy unter anderem bieten API-Keys die präzise Steuerung darüber, wer auf die KI-Dienste zugreifen kann. Statt einen globalen API-Schlüssel zu verwenden, werden benutzerspezifische API-Keys generiert. So wird sichergestellt, dass nur autorisierte Benutzer Zugriff auf den Safe AI Proxy und die zugrunde liegenden KI-Modelle haben.

Prompts

Jede Anfrage an das KI-Modell wird als „Prompt“ behandelt. Dies sorgt für eine transparente Nachverfolgung und Auswertung aller Interaktionen.

Prompt-Templates

Mithilfe von Prompt-Templates können standardisierte Anfragen erstellt und verwendet werden, um die Konsistenz in der Kommunikation mit dem KI-Modell zu gewährleisten.

Chats

Die Chat-Funktion erlaubt es Benutzern, auf Basis von KI-generierten Antworten zu interagieren. Dies ist besonders nützlich für Kunden-Support und ähnliche Anwendungsfälle.

Knowledge Bases

Die Knowledge Bases bieten eine strukturierte Informationsbasis, auf die das KI-Modell bei der Beantwortung von Anfragen zurückgreifen kann. Diese Informationen bleiben unter Ihrer Kontrolle und werden nicht extern verarbeitet. Knowledge Bases können in allen Chats und Prompts verwendet werden.

Dokumente

Safe AI Proxy stellt einen Mechanismus für das Sichern von JSON-Dokumenten für den jeweiligen Benutzer zur Verfügung. Über diesen Mechanismus können Anwendungen, die den Proxy verwenden sehr einfach JSON-Dokumenten schreiben, lesen, ändern und löschen. Beispiele sind "Benutzer-Profile", "Chat-Historien", etc.

Geplante Erweiterungen

Agenten: Agenten sind vordefinierte API-Aufgaben, die automatisiert bestimmte Antworten generieren können. Dies erleichtert den Nutzern die Arbeit und spart Zeit.

Bildmodelle: Diese ermöglichen es, visuelle Daten wie Bilder und Grafiken in die Analyse einzubeziehen und darauf basierend automatisierte Antworten oder Erkennungen zu generieren. So können Bildverarbeitungslösungen effizient in bestehende Prozesse integriert werden.

Dateien: Speichern von Dateien (z.B. Bilder) in einem Blob-Storage wird mit der Erweiterung "Bildmodelle" eingefügt.

Safe AI Clients

Zur Verwendung des Safe AI Proxy werden von uns verschiedene Clients entwickelt, die die Kunden in der eigenen Infrastruktur deployen können. Geplant sind unter anderem folgende Anwendungen:

• Webbasierte Chat Lösung auf der Basis von Nextjs
• Azure Logic Apps für Azure basierte Automation
• Excel-Makros und Add-ins
• Chrome- und Edge-Browser Extensions
• Windows / MacOs Standalone Anwendungen
• iOS / Android Apps
• Open API-Dokumentation s

Lizenz

Mit dem Erwerb der Lizenz erhält der Kunde folgende Leistungen:

• Voller Zugriff auf das Repository und den Source-Code: Der Kunde erhält uneingeschränkten Zugang zum Repository (Github) und kann den Quellcode einsehen, anpassen und erweitern.
• Recht auf Deployment in der eigenen Infrastruktur: Die Software kann in der eigenen Microsoft Azure-Umgebung des Kunden betrieben werden, ohne dass externe Abhängigkeiten entstehen.
• Möglichkeit zur Erweiterung: Der Kunde darf die Software um eigene Module und Funktionen erweitern, um sie an individuelle Unternehmensanforderungen anzupassen.
• Umfassende Einweisung für Installation und Betrieb: Eine detaillierte Anleitung sowie Unterstützung für die Installation und Inbetriebnahme wird bereitgestellt, um einen reibungslosen Start sicherzustellen.
• Zugang zum Support und Ticket-System: Kunden können über das Ticket-System Verbesserungsvorschläge einreichen und Probleme melden. Der Support steht bereit, um Fragen zu beantworten und Lösungen anzubieten.

FAQ

Frage: Was sind die Kosten für die Nutzung von Safe AI Proxy und welche Faktoren beeinflussen diese?

Antwort: Die Kosten für den Einsatz von Safe AI Proxy setzen sich aus mehreren Faktoren zusammen.

• Jährliche Lizenzgebühr für Safe AI Proxy
• Eigene Azure-Nutzungskosten (abhängig von den verwendeten Azure-Diensten und deren Umfang)
• Eigener Betrieb & Wartung
• Optionale Kosten für individuelle Anpassungen, erweiterten Support und Schulungen

Kontakt

Kundenanfragen richten Sie bitte per E-Mail an: sven@efec.de.