Produkt · KI-Anlage

Lokaler KI-Server. Ein Gerät, fertig eingerichtet.

Ein KI-Server führt offene Sprachmodelle auf eigenen Grafikkarten in Ihrem Firmennetz aus, man spricht auch von On-Premise-KI. Fertig eingerichtet und mit Wartung nennen wir ihn Anlage. Das Sprachmodell läuft auf Ihrer Anlage. Umschrift, Gateway und Protokoll laufen daneben. Für die Größe zählen vier Dinge: Aufgaben, Gleichzeitigkeit, Datenräume und vorhandene Infrastruktur.

Vier Wege
Kauf nach Stückliste, Lieferung durch uns, Miete oder Ihre vorhandene Hardware. Hardware wird immer einzeln ausgelegt.
Vier Größen
Vom Kompaktrechner im Büro bis zu mehreren gekoppelten Servern, je nach Nutzerzahl und Last.
Vier Servicestufen
Basis, Standard, Plus und Pro: von den gesetzlichen Pflichten bis zur Erreichbarkeit rund um die Uhr.

Aufbau eines lokalen KI-Servers. Die Anlage aufgeklappt, von der Tür bis zum Arbeitsplatz in sieben Schritten.

So ist eine Anlage der Größe Groß aufgebaut, von der Tür bis zum Arbeitsplatz. Kleinere Anlagen haben weniger Einschübe, die Bauteile sind dieselben.

Schritt 1 von 7Die Anlage

Die Anlage von außen.

Vorn eine Tür mit Lochblech, dahinter vier Einschübe mit je einer Aufgabe. Das Rack steht in Ihrem Serverraum und hängt an Ihrem Firmennetz. Ein Kompaktrechner kommt ohne Rack aus und steht im Büro.

Schritt 2 von 7Tür auf

Tür auf: vier Einschübe.

Die Tür klappt auf, die Einschübe werden sichtbar: Netzwerk, Rechenserver, Speicher und Stromversorgung.

Schritt 3 von 7Einschub 1

Netzwerk-Switch.

Der Switch verbindet die Geräte der Anlage mit Ihrem Firmennetz. Erreichbar ist die Anlage nur über HTTPS auf Port 443. Bei einem Kompaktrechner entfällt dieser Einschub, das Gerät hängt direkt am Netz.

Schritt 4 von 7Einschub 2

GPU-Server.

Hier laufen Sprachmodell, Umschrift und Gateway. Der Grafikspeicher bestimmt, welche Modelle laufen und wie viele Personen gleichzeitig fragen können. Die Umschrift hält Audio nur im Arbeitsspeicher.

Schritt 5 von 7Einschub 3

Speicher.

Der Speicher hält Betriebssystem, Einstellungen, Modelle und Protokoll, verschlüsselt mit LUKS. Ihre Dokumente bleiben in Ihren Ablagen; die App öffnet sie in der Sitzung der Person.

Schritt 6 von 7Einschub 4

Stromversorgung.

Doppelte Netzteile, wo die Bauform es zulässt, und eine unterbrechungsfreie Stromversorgung überbrücken kurze Ausfälle.

Schritt 7 von 7Ihr Netz

Ihr Netz und Ihre Arbeitsplätze.

Die Arbeitsplätze erreichen die Anlage über Ihr Firmennetz, immer über das Gateway. Aus Ihrem Verzeichnis liest der Server nur Anmeldung und Gruppen. Dateien öffnet die App in der Sitzung der Person, mit deren Rechten.

ANSCHLÜSSE ANLAGE 1 UPLINK 2 WARTUNG 3 STATUS 4
Bauteil wählen: Netzwerk-Switch.
LÜFTERWAND 3 CPU · RAM 2 GRAFIKKARTEN 1 LAN 4
Bauteil wählen: GPU-Server.
SYSTEM 1 SCHLÜSSEL 2 MODELLE 3 PROTOKOLL 4
Bauteil wählen: Speicher.
VERTEILUNG 4 USV 1 NETZTEIL A 2 NETZTEIL B 3
Bauteil wählen: Stromversorgung.
ARBEITSPLÄTZE 1 FIRMENNETZ 2 GATEWAY :443 3 VERZEICHNIS 4 SPRACHMODELL UMSCHRIFT
Bauteil wählen: Ihr Netz und Ihre Arbeitsplätze.

Vier Größen. Die Nutzerzahl gibt die Richtung vor, die Last den Ausschlag.

Stellen Sie vier Angaben ein. Das Ergebnis ist ein Richtwert für die Größenklasse. Darunter sehen Sie, wie dieselbe Klasse als Gerät aussieht, und die technischen Daten aller vier Größen.

1 · Personen mit Konto
2 · Gleichzeitigkeit
3 · Dokumentlänge
4 · Hardwareweg

GrößenklasseKompaktKompaktrechner, ohne Serverraum

Für
Einzelunternehmen und kleine Teams
Aufstellort
Büro oder Technikraum

GrößenklasseMittelWorkstation, Tower oder Rack

Für
Abteilungen und mittlere Unternehmen
Aufstellort
Technikraum, leise Geräte auch im Büro

GrößenklasseGroßKI-Server im 19-Zoll-Rack

Für
viele Nutzer zur gleichen Zeit
Aufstellort
Serverraum

GrößenklasseClustermehrere gekoppelte Server

Für
Konzerne und große Häuser
Aufstellort
Rechenzentrum oder klimatisierter Serverraum
Ihre Last
Ihre Last ist gering: eine Klasse kleiner, als die Personenzahl allein ergäbe.Ihre Last ist üblich für diese Personenzahl.Ihre Last ist hoch: eine Klasse größer, als die Personenzahl allein ergäbe.
Ihr Weg
Sie erhalten eine Stückliste mit Begründung und bestellen beim Händler. Wir richten das Gerät ein.Wir liefern das Gerät fertig eingerichtet. Sie stellen es auf und schließen Strom und Netz an.Das Gerät bleibt unser Eigentum, Sie zahlen eine Rate. Aufstellort bei Ihnen.Wir prüfen Steckplätze, Netzteil und Luftweg Ihres Servers und sagen, ob er die Größe trägt.
Personen mit Konto
  1. 1–49KompaktKompaktrechner, ohne ServerraumIhre Größe
  2. 50–199MittelWorkstation, Tower oder RackIhre Größe
  3. 200–999GroßKI-Server im 19-Zoll-RackIhre Größe
  4. ab 1.000Clustermehrere gekoppelte ServerIhre Größe

Jedes Paket läuft auf jeder Größe. Welche Größe passt, richtet sich nach der Last.

Technische Daten. Vier Größen im Vergleich.

Vier Größen im Vergleich
Größe Gerät Grafikspeicher Gleichzeitig, ungefähr Bauform Strom Anfrage
KompaktIhre Größe Kompaktrechner 128 GB gemeinsamer Speicher 4 Anfragen parallel kleines Gerät, Büro oder Technikraum abgesicherte Steckdose Für diese Größe anfragen (Kompakt)
MittelIhre Größe Workstationzwei Grafikkarten, ausbaubar auf vier etwa 100 bis 384 GB etwa 5 bis 20 Anfragen Tower oder Rack, leise Geräte auch im Büro abgesicherte Steckdose Für diese Größe anfragen (Mittel)
GroßIhre Größe KI-Servervier bis acht Grafikkarten etwa 384 bis 768 GB nach Auslegung 19-Zoll-Rack im Serverraum Stromleiste im Rack, unterbrechungsfreie Versorgung Für diese Größe anfragen (Groß)
ClusterIhre Größe Mehrere Servermehrere solcher Rack-Server ab etwa 768 GB, nach Auslegung nach Auslegung gekoppelte Server in mehreren Racks nach Planung des Rechenzentrums Für diese Größe anfragen (Cluster)

Vier Wege zu Ihrer Anlage. Sie wählen, wie das Gerät zu Ihnen kommt.

Weg wählen

Sie kaufen nach unserer Stückliste.

Aus Ihren Angaben stellen wir eine Stückliste zusammen: Grafikkarten, Prozessor, Arbeitsspeicher, Platten und Netzteile. Sie bestellen bei Ihrem Händler, wir richten das Gerät ein.

Sie
  • bestellen die Teile oder den fertigen Server
  • stellen das Gerät auf und schließen Strom und Netz an
Wir
  • erstellen die Stückliste mit Begründung
  • richten das Gerät ein, härten es und laden die Modelle

Stückliste für Ihre Auslegung

Grafikkarten
Anzahl und Speicher nach Auslegung
Prozessor
nach Zahl der Karten
Arbeitsspeicher
mit Reserve für Ihre Dokumente
Systemplatten
gespiegelt (RAID 1)
Netzteile
doppelt, wo möglich

Wir liefern die Anlage fertig eingerichtet.

Wir wählen die Hardware aus, bereiten sie vor und liefern sie gegen Vorkasse. Bei Ihnen werden nur noch Strom und Netz angeschlossen.

Sie
  • nennen Aufstellort, Strom und Kühlung
  • schließen die Anlage mit Ihrer IT an
Wir
  • wählen und beschaffen die Hardware
  • richten ein, prüfen und übergeben

Von der Auslegung bis zur Übergabe

  1. 1Auslegung aus Ihren AngabenFragebogen, Staffel, Last
  2. 2Beschaffung und VorbereitungHärtung, Modelle, Anmeldung
  3. 3Lieferung gegen Vorkassezu Ihrem Aufstellort
  4. 4Anschluss mit Ihrer ITStrom, Netz, Kühlung
  5. 5Prüflauf und Übergabeerste Antwort der KI

Sie mieten die Anlage bei uns.

Sie nutzen sinlu auf einem Gerät, das uns gehört. Die Betreuung läuft in der Servicestufe, die Sie wählen.

Sie
  • nennen Aufstellort, Strom und Kühlung
  • zahlen monatlich oder jährlich im Voraus
Wir
  • stellen das Gerät, richten es ein und betreuen es

Mietgerät

Eigentum
sinlu
Betreuung
in der gewählten Servicestufe
Zahlung
monatlich oder jährlich im Voraus
Aufstellort
bei Ihnen, mit Strom, Kühlung und Netz

Wir prüfen Ihre vorhandene Hardware.

Ob ein Server die Grafikkarten aufnimmt, hängt an Steckplatz, Netzteilreserve und Luftdurchsatz. Wo Ihr Bestand trägt, sagen wir das, auch wenn es den Auftrag kleiner macht.

Sie
  • nennen Gerät, Ausbaustufe und Vorgaben des Herstellers
  • geben das Gerät für die Prüfung frei
Wir
  • prüfen es gegen Ihre Nutzung
  • sagen, ob es trägt oder was fehlt

Prüfung Ihrer Hardware

Steckplatz
nimmt der Server die Karten auf?
Netzteil
reicht die Reserve für Dauerlast?
Luftweg
reicht der Luftdurchsatz?
Hersteller
gibt er die Karten für das Gerät frei?

Auf welchem Weg auch immer: sinlu läuft als gehärtete Anlage direkt auf der Hardware, nicht in einer virtuellen Maschine bei Ihnen. Wer vor dem Vertrag testen möchte, bekommt auf Wunsch ein Leihgerät für einen Pilot. Welcher Weg sich rechnet, vergleicht der Ratgeber KI-Server kaufen oder mieten.

Wo die Anlage steht. Strom, Kühlung und Netzanschluss genügen.

GPU-Server sind unter Last laut, ins Büro passen nur leise Geräte. Diese Angaben brauchen wir immer, auch wenn wir die Anlage liefern oder vermieten.

Aufstellort wählen
Passt für
  • Groß
  • Cluster
Das brauchen wir von Ihnen
Strom am Aufstellort, Kühlung, Platz im Rack und einen Netzanschluss ins Firmennetz.
Darauf achten wir
Bautiefe und Schienenmaß, Statik, Luftweg vor und hinter dem Schrank, freie Anschlüsse an der Stromleiste.
Passt für
  • Kompakt
  • Mittel
Das brauchen wir von Ihnen
Strom am Aufstellort, die Raumtemperatur im Sommer und einen Netzanschluss ins Firmennetz.
Darauf achten wir
Zuluft und ein Abluftweg für die Dauerlast. Unter Last wird das Gerät warm und hörbar.
Passt für
  • Kompakt
  • Mittel
Das brauchen wir von Ihnen
Eine ausreichend abgesicherte Steckdose und einen Netzanschluss ins Firmennetz.
Darauf achten wir
Lautstärke unter Last. GPU-Server sind dafür zu laut, leise Workstations passen.

Betriebsarten eines lokalen KI-Servers. Lokal zuerst, in drei Varianten.

Der Standard ist eine Anlage in Ihrem Haus, aufgestellt von uns, in der Region etwa bei KI-Servern in Stuttgart. Was sich daran ändern lässt, steht hier.

  • Standard

    Alles im Haus

    Sprachmodell, Umschrift, Gateway und Protokoll laufen auf Ihrer Anlage. Die Arbeitsplätze verbinden sich über Ihr Firmennetz, die App holt ihre Updates von der Anlage.

  • Standard

    Mehrere Standorte, eine Anlage

    Die Standorte greifen über Ihr WAN oder per VPN auf die Anlage zu. Jede weitere Anlage wird einzeln eingerichtet und in der Servicestufe betreut.

  • Zusatz

    Zweites Gerät in Bereitschaft

    Ein zweites Gerät hält die Anlage bereit, umgeschaltet wird von Hand. Ohne dieses Zusatzangebot richtet sich die Wiederherstellung nach der Servicestufe.

Betreut wird jede Anlage in einer von vier Servicestufen von Basis bis Pro.

Sind Sie unsicher, ob sinlu zu Ihnen passt, testen Sie es vor dem Vertrag auf Wunsch etwa drei Monate als Pilot auf einem Leihgerät; wie das abläuft, steht unter Einrichten im Projektablauf.

Eingerichtet per Klick. Ohne Terminal.

Die Einrichtung läuft über einen Installer vom Stick und danach über den Assistenten in der Verwaltung im Browser. Ihre IT sieht jeden Schritt, die Unterlagen für Ihren Datenschutz gehören dazu.

Updates kommen als signierte Datei per Stick oder über die Verwaltung, nie aus dem Internet. App-Updates tragen zwei Signaturen, Server-Bündel eine.

Einrichtung der Anlage7 von 7

  1. Rechner geprüftBetriebssystem, Platz, Arbeitsspeicher
  2. Gerät gehärteteingehend nur Port 443, Wartung mit Schlüssel
  3. Platte verschlüsseltLUKS eingerichtet
  4. Modelle geprüftPrüfsumme SHA-256 und Signatur
  5. Dienste gestartetGateway, Sprachmodell, Umschrift
  6. Anmeldung verbundenGruppen aus Ihrem Verzeichnis
  7. Übergabe an Ihre ITApp-Paket für die Rechner bereit

Fertig. Die Anlage ist eingerichtet und an Ihre IT übergeben.

Fragen zur Hardware.

Je eine kurze Antwort, die ganze steht in den Fragen und Antworten.

Alle Fragen und Antworten

Muss bereits ein Serverraum vorhanden sein?

Nein. Aufstellort, Strom, Kühlung, Netzwerk und physische Sicherheit werden in der Bestandsaufnahme geprüft und fließen in die Dimensionierung ein.

Ganze Antwort: Muss bereits ein Serverraum vorhanden sein?

Wie viele Nutzer unterstützt eine Anlage?

Das richtet sich nach den gleichzeitigen Anfragen: Als Richtwert trägt ein Kompaktrechner mit 128 GB gemeinsamem Speicher 4 Anfragen parallel, größere Stufen stehen in der Größentabelle.

Ganze Antwort: Wie viele Nutzer unterstützt eine Anlage?

Wie wird die Hardware später erweitert?

Der Ausbaupfad wird im Systemplan berücksichtigt.

Ganze Antwort: Wie wird die Hardware später erweitert?

Welche laufenden Kosten entstehen im Betrieb?

Strom und Kühlung hängen an der Anlagenklasse.

Ganze Antwort: Welche laufenden Kosten entstehen im Betrieb?

Kann die Anlage gekauft oder gemietet werden?

Beides ist möglich. Die gekaufte Anlage gehört Ihnen.

Ganze Antwort: Kann die Anlage gekauft oder gemietet werden?

Was passiert bei einer Störung oder einem Ausfall?

Die Meldung geht an eine benannte Adresse.

Ganze Antwort: Was passiert bei einer Störung oder einem Ausfall?

Die Größe folgt aus Ihren Angaben.Im Expertengespräch klären wir, was in Ihren Technikraum passt.

Wir fragen, wofür Ihre Leute sinlu nutzen wollen und was in Ihrem Haus schon steht. Daraus entstehen der Systemplan und ein grober Preisrahmen für Ihre Anlage.