Smart Router senkt Token-Kosten um 30%: Amazon und Superblocks kooperieren

Amazon automatisiert Richtlinien-Diagnosen in Bedrock und kooperiert mit Superblocks. Ein Smart Router soll Token-Kosten um bis zu 30 Prozent senken.

Amazon hat eine technologische Neuerung für seinen Dienst Bedrock vorgestellt. Durch die Einführung des sogenannten Automated Reasoning zur Verfeinerung von Richtlinien sollen zeitintensive manuelle Diagnosezyklen künftig entfallen. Diese Entwicklung zielt darauf ab, die Verwaltung und Absicherung von Anwendungen im Bereich der generativen Künstlichen Intelligenz (KI) effizienter zu gestalten.

Technologische Integration und automatisierte Prozesse

Die neue Funktion innerhalb von Amazon Bedrock nutzt automatisierte logische Schlussfolgerungen, um Richtlinien präziser zu definieren und anzupassen. Bisher waren für die Fehlerdiagnose und die Feinabstimmung von Sicherheits- oder Governance-Vorgaben oft mehrere manuelle Schritte notwendig. Durch die Automatisierung dieser Prozesse können Unternehmen ihre KI-Modelle schneller und mit geringerem personellen Aufwand in produktive Umgebungen überführen.

In diesem Zusammenhang wurde zudem eine mehrjährige strategische Zusammenarbeit zwischen AWS und Superblocks bekannt gegeben. Ziel dieser Kooperation ist es, die generative KI-Plattform von Superblocks über Amazon Bedrock direkt an AWS-Kunden bereitzustellen. Im Rahmen dieser Partnerschaft fungiert AWS als bevorzugter Cloud-Anbieter für Superblocks. Die Lösungen sind zudem über den AWS Marketplace verfügbar, was die Integration in bestehende Unternehmensinfrastrukturen vereinfachen soll.

Effizienzsteigerung und Kostenkontrolle

Die Plattform von Superblocks wurde gezielt auf die Infrastruktur von AWS optimiert. Sie wird innerhalb der Virtual Private Cloud (VPC) des jeweiligen Kunden betrieben, was die Datensicherheit erhöhen soll. Dabei kommt unter anderem Amazon Aurora zum Einsatz, um Datenbankkapazitäten nach dem Scale-to-Zero-Prinzip bereitzustellen. Dies ermöglicht eine bedarfsgerechte Skalierung, bei der Ressourcen nur dann verbraucht werden, wenn sie tatsächlich benötigt werden.

Anzeige

Wer KI-Systeme produktiv einsetzt, muss nicht nur die technische Effizienz, sondern auch die rechtlichen Rahmenbedingungen der neuen EU-Vorgaben im Blick behalten. Dieser kostenlose Umsetzungsleitfaden bietet Unternehmen einen kompakten Überblick über alle relevanten Fristen, Pflichten und Risikoklassen des AI Acts. EU AI Act in 5 Schritten verstehen

Ein wesentlicher wirtschaftlicher Aspekt der Integration ist der Einsatz eines intelligenten Routers auf Basis von Amazon Bedrock. Laut Unternehmensangaben ermöglicht dieser sogenannte Smart Router eine Reduzierung der Token-Kosten um bis zu 30 %. Dies ist insbesondere für Unternehmen relevant, die großflächige KI-Anwendungen betreiben und die Betriebskosten der zugrunde liegenden Sprachmodelle optimieren müssen.

Sicherheitsfunktionen und neue Software-Generation

Mit der Einführung von Superblocks 3.0 werden weitere Funktionen für die Entwicklung auf AWS verfügbar. Dazu gehört das sogenannte Vibe Coding, das eine sichere Inferenz über Amazon Bedrock innerhalb der Kunden-VPC ermöglicht. Zur Absicherung der Entwicklungsprozesse umfasst die neue Version zudem einen Schwarm von Sicherheitsagenten sowie ein Scanning der Software-Stücklisten (SBOM). Damit sollen Schwachstellen in der Software-Lieferkette frühzeitig erkannt und dokumentiert werden.

Anzeige

Die Automatisierung von Sicherheitsvorgaben ist ein wichtiger Schritt, um neue gesetzliche Anforderungen und Dokumentationspflichten für KI-Anwendungen rechtssicher zu erfüllen. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und wie Sie Ihre Compliance-Strategie jetzt anpassen sollten. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen

Die Kombination aus den automatisierten Analysefunktionen von Amazon Bedrock und der spezialisierten Plattform von Superblocks verdeutlicht den Trend zur stärkeren Automatisierung von Sicherheits- und Management-Prozessen im KI-Sektor. Unternehmen erhalten dadurch Werkzeuge, um komplexe Sprachmodelle nicht nur performanter, sondern auch kosteneffizienter in ihre Geschäftsprozesse einzubinden.