Der CEO von Tether Data, Paolo Ardoino, hat mit QVAC einen neuen KI-Assistenten demonstriert, der die Landschaft der künstlichen Intelligenz durch einen konsequenten Fokus auf Dezentralisierung verändern soll. Die Anwendung zeichnet sich dadurch aus, dass sie vollständig auf den Endgeräten der Nutzer operiert. Durch die Nutzung des sogenannten Model Context Protocol (MCP) ist das System in der Lage, auf verschiedene Fähigkeiten zuzugreifen, ohne dabei auf externe Cloud-Infrastrukturen angewiesen zu sein.
Lokale Inferenz und Datenschutz im Fokus
Ein zentraler Aspekt der Demonstration war die Leistungsfähigkeit der lokalen Inferenz. QVAC benötigt keine massiven Serverfarmen, sondern ist so konzipiert, dass die Berechnungen direkt auf der Hardware der Anwender stattfinden. Laut den Ausführungen von Ardoino ist dies bereits auf herkömmlichen Laptop-GPUs möglich. Dieser technische Ansatz soll sicherstellen, dass die verarbeiteten Daten das Gerät des Nutzers nicht verlassen, was einen erheblichen Fortschritt im Bereich des digitalen Datenschutzes darstellt.
Die Architektur von QVAC zielt darauf ab, dem Nutzer die vollständige Kontrolle über die KI-Prozesse zurückzugeben. In einer Branche, die derzeit stark von zentralisierten Rechenzentren dominiert wird, setzt Tether Data damit ein deutliches Zeichen für die Autonomie der Anwender. Ardoino unterstrich in diesem Zusammenhang, dass die Kontrolle über künstliche Intelligenz nicht ausschließlich bei den großen Betreibern von Cloud-Plattformen liegen sollte.
Wer sich mit dem Schutz digitaler Daten und der IT-Sicherheit im Unternehmen befasst, muss heute auch die Risiken durch neue KI-Technologien im Blick behalten. Dieses kostenlose E-Book klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. Report zu KI-Gesetzen und Cyberrisiken gratis herunterladen
Technologische Basis und Open-Source-Strategie
Die Entwicklung von QVAC baut auf Grundlagen auf, die Tether Data bereits Ende des vergangenen Jahres gelegt hat. Im Dezember startete das Unternehmen mit QVAC Fabric LLM ein spezielles Open-Source-Framework unter der Apache 2.0-Lizenz. Dieses Framework wurde explizit dafür entwickelt, die Ausführung, das Training und das Fine-Tuning von großen Sprachmodellen auf Verbrauchergeräten wie Smartphones und Laptops zu ermöglichen.
Das System zeichnet sich durch eine breite Kompatibilität aus und unterstützt Betriebssysteme wie iOS, Android, Windows, macOS und Linux. Besonders hervorzuheben ist dabei die technologische Vorreiterrolle des Frameworks beim Fine-Tuning auf mobilen Grafikeinheiten. Es gilt als die erste Lösung, die solche Anpassungsprozesse direkt auf mobilen GPUs wie Qualcomm Adreno oder ARM Mali ermöglicht.
Die zunehmende Vernetzung und Nutzung mobiler Endgeräte erfordert proaktive Schutzmaßnahmen, um Sicherheitslücken effektiv zu schließen. Erfahren Sie in diesem kostenlosen Ratgeber, wie Sie Ihre IT-Sicherheit stärken und Ihr Unternehmen langfristig vor Angriffen schützen. Gratis-E-Book: Cyberbedrohungen erfolgreich abwenden
Ausblick auf eine offene Entwicklung
Tether Data verfolgt mit der Neuvorstellung weiterhin eine transparente Entwicklungsstrategie. Wie das Unternehmen im Rahmen der Demonstration bestätigte, besteht die Absicht, QVAC als Open-Source-Software zu veröffentlichen. Damit wird die eingeschlagene Richtung fortgesetzt, die bereits mit der Bereitstellung des Fabric LLM Frameworks unter einer freien Lizenz begonnen wurde.
Durch die Offenlegung des Quellcodes und die lokale Ausrichtung der Software möchte Tether Data eine Alternative zu proprietären Systemen schaffen. Der Fokus liegt dabei auf der Verbindung von hoher technischer Leistungsfähigkeit mit einem maximalen Maß an Privatsphäre und Nutzerkontrolle, um die Abhängigkeit von zentral gesteuerten KI-Diensten nachhaltig zu verringern.
