Tether geht mit einer neuen Version, die die Hürde für das Training großer Sprachmodelle deutlich senken könnte, einen Schritt weiter in Richtung künstliche Intelligenz.
Das Unternehmen, das vor allem für die Ausgabe von Tether (USDT) bekannt ist, hat innerhalb seiner QVAC-Plattform ein Framework eingeführt, das es ermöglicht, KI-Modelle auf alltäglichen Verbrauchergeräten – einschließlich Smartphones und Nicht-Nvidia-GPUs – feinabzustimmen.
Wichtige Erkenntnisse
- Tether hat ein neues QVAC-Framework vorgestellt, das es ermöglicht, große KI-Modelle auf Smartphones und Hardware für Endverbraucher feinabzustimmen.
- Durch die Integration von Microsoft BitNet wird der Speicherverbrauch deutlich reduziert, sodass auch Modelle mit Milliarden von Parametern auf leistungsschwächeren Geräten ausgeführt werden können.
- Das System beseitigt die Abhängigkeit von Nvidia, indem es das KI-Training auf Chips von AMD, Intel, Apple und mobilen GPUs unterstützt.
- Benchmarks zeigen, dass KI-Modelle auf Smartphones innerhalb von Minuten bis Stunden trainiert werden können, wobei mobile GPUs im Vergleich zu CPUs eine schnellere Inferenzleistung bieten.
- Diese Entwicklung steht im Einklang mit dem breiteren Trend, dass Krypto-Unternehmen in die Bereiche KI-Infrastruktur und dezentrale On-Device-Computing-Lösungen expandieren.
Eine Abkehr von teurer KI-Infrastruktur
Das Training moderner KI-Systeme erforderte lange Zeit den Zugriff auf spezialisierte Hardware, insbesondere GPUs von Nvidia, oder auf kostspielige Cloud-Infrastruktur. Tethers neueste Entwicklung zielt darauf ab, diese Situation zu verändern.
Das auf Microsoft BitNet basierende und mit LoRa-Verfahren (Low-Rank Adaptation) kombinierte Framework reduziert den Speicher- und Rechenaufwand drastisch. Laut Hersteller ermöglicht dies die Feinabstimmung von Modellen mit bis zu einer Milliarde Parametern auf Smartphones in weniger als zwei Stunden, während kleinere Modelle innerhalb weniger Minuten trainiert werden können.
Das System ist so konzipiert, dass es auf einer breiten Palette von Hardware läuft, darunter Chips von Intel, AMD und Apple sowie mobile GPUs von Qualcomm und Apple-Geräten.
In Benchmark-Tests berichteten die Ingenieure von Tether, dass ein Modell mit 125 Millionen Parametern auf einem Android-Flaggschiffgerät in etwa 10 Minuten trainiert werden konnte, während ein Modell mit 1 Milliarde Parametern ähnliche Aufgaben sowohl auf Android- als auch auf iOS-Geräten in etwas mehr als einer Stunde erledigte.
Das Team ging noch einen Schritt weiter und demonstrierte, dass Modelle mit bis zu 13 Milliarden Parametern auf einem Smartphone feinabgestimmt werden können.
Effizienzgewinne durch 1-Bit-Architektur
Ein wesentlicher Faktor für diese Leistung ist BitNets 1-Bit-Modell, das den Speicherverbrauch im Vergleich zu herkömmlichen 16-Bit-Systemen deutlich reduziert. Tether gibt an, dass sich der VRAM-Bedarf durch diesen Ansatz um bis zu 77.8 % senken lässt, wodurch Ressourcen für größere Modelle auf leistungsschwächerer Hardware frei werden.
Das Framework verbessert zudem die Inferenzgeschwindigkeit. Auf mobilen GPUs laufen BitNet-basierte Modelle Berichten zufolge zwei- bis elfmal schneller als auf CPUs, was darauf hindeutet, dass moderne Smartphones zunehmend in der Lage sind, Arbeitslasten zu bewältigen, die einst Rechenzentren vorbehalten waren.
Ein weiterer wichtiger Meilenstein ist die Kompatibilität des Frameworks mit Hardware anderer Hersteller für die LoRa-Feinabstimmung – etwas, das bisher auf das Nvidia-Ökosystem beschränkt war. Dies erweitert den Zugang für Entwickler, die mit alternativen Chipsätzen und Endgeräten arbeiten.
Dezentralisierung der KI-Entwicklung
Tether positioniert die Veröffentlichung als Teil einer umfassenderen Initiative zur Dezentralisierung von KI. Durch die Möglichkeit des Trainings direkt auf dem Gerät bleiben sensible Daten lokal gespeichert, anstatt an zentrale Server gesendet zu werden. Dies ebnet den Weg für föderiertes Lernen, bei dem Modelle auf verteilten Geräten aktualisiert werden können, ohne die Privatsphäre zu beeinträchtigen.
Paolo Ardoino, CEO von Tether, betonte die weitreichenderen Auswirkungen dieser Veränderung:
Er fügte hinzu, dass die Abhängigkeit von zentralisierter Infrastruktur die Innovation verlangsamen und die Macht konzentrieren könnte, während geräteinterne Funktionen die KI-Entwicklung inklusiver gestalten könnten.
Kryptofirmen setzen verstärkt auf KI
Die Ankündigung von Tether spiegelt einen breiteren Trend im Kryptosektor wider , wo Unternehmen zunehmend in KI-Infrastruktur und Hochleistungsrechnen investieren.
Insbesondere Mining-Unternehmen haben begonnen, ihre Hardware für KI-Anwendungen umzurüsten. Cipher Mining sicherte sich kürzlich einen milliardenschweren Vertrag über die Kapazität von KI-Rechenzentren, während Core Scientific eine umfangreiche Kreditlinie zur Erweiterung seiner Infrastruktur erhielt. HIVE Digital Technologies verzeichnete unterdessen steigende Umsätze, die unter anderem auf KI-fokussierte Geschäftsbereiche zurückzuführen sind.
Gleichzeitig gewinnen KI-Agenten – autonome Programme, die Transaktionen ausführen und mit Diensten interagieren können – in Blockchain-Ökosystemen zunehmend an Bedeutung. Plattformen wie Coinbase und Alchemy haben Tools eingeführt, die es diesen Agenten ermöglichen, auf der Blockchain zu operieren, während Initiativen, die von Unternehmen wie Franklin Templeton unterstützt werden, Anwendungsfälle für Unternehmen erforschen.
Was das für Entwickler bedeutet
Sollten sich die Behauptungen von Tether bei breiterer Anwendung bestätigen, könnten die Auswirkungen erheblich sein. Entwickler, die bisher auf teure GPU-Cluster angewiesen waren, könnten schon bald Modelle lokal mit ihren vorhandenen Geräten trainieren und anpassen.
Dies könnte Experimente beschleunigen, insbesondere in Regionen oder Gemeinschaften mit eingeschränktem Zugang zu moderner Infrastruktur. Es entspricht auch den wachsenden Bedenken hinsichtlich des Datenschutzes, da die Verarbeitung auf dem Gerät selbst die Notwendigkeit verringert, sensible Informationen an Server von Drittanbietern zu übertragen.
Dennoch bleiben Fragen zur Skalierbarkeit, zur Leistungsfähigkeit in der Praxis bei unterschiedlichen Arbeitslasten und zum Vergleich des Frameworks mit etablierten KI-Trainingspipelines offen.
Klar ist jedoch, dass die Grenzen zwischen Verbraucherhardware und KI-Fähigkeiten für Unternehmen zunehmend verschwimmen. Mit QVACs BitNet LoRA-Framework setzt Tether darauf, dass die KI-Entwicklung der Zukunft deutlich dezentralisierter und zugänglicher sein wird als heute.
