Tether 正在通过新版本进一步进军人工智能领域，该版本可能会大幅降低训练大型语言模型的门槛。
这家以发行 Tether (USDT) 而闻名的公司，在其 QVAC 平台中引入了一个框架，使 AI 模型能够在日常消费设备（包括智能手机和非英伟达 GPU）上进行微调。
关键精华
- Tether 推出了一种新的 QVAC 框架，该框架能够对智能手机和消费级硬件上的大型 AI 模型进行微调。
- 集成 Microsoft BitNet 可显著降低内存使用量，从而能够在资源有限的设备上运行数十亿参数模型。
- 该系统通过支持来自 AMD、Intel、Apple 和移动 GPU 的芯片上的 AI 训练，消除了对 Nvidia 的依赖。
- 基准测试表明，人工智能模型可以在智能手机上于几分钟到几小时内完成训练，并且与 CPU 相比，移动 GPU 的推理性能更快。
- 这一发展与加密货币公司向人工智能基础设施和去中心化设备端计算解决方案领域扩张的更广泛趋势相符。
摆脱昂贵的人工智能基础设施
长期以来，训练现代人工智能系统需要专用硬件，尤其是英伟达的GPU，或者成本高昂的云基础设施。Tether的最新研发成果旨在改变这种现状。
该框架基于微软BitNet构建，并结合了LoRA（低秩自适应）技术，显著降低了内存和计算需求。据该公司称，这使得参数量高达1亿的模型能够在智能手机上于两小时内完成微调，而较小的模型则只需几分钟即可完成训练。
该系统旨在跨多种硬件运行，包括英特尔、AMD 和苹果的芯片，以及高通和苹果设备的移动 GPU。
在基准测试中，Tether 的工程师报告称，在旗舰 Android 设备上，一个 125 亿参数的模型可以在大约 10 分钟内训练完成，而一个 1 亿参数的模型在 Android 和 iOS 设备上完成类似任务只需一个多小时。
该团队还进一步突破了极限，证明可以在智能手机上对多达 13 亿个参数的模型进行微调。
通过 1 位架构提高效率
BitNet之所以能取得如此优异的性能，关键在于其1位模型设计，与传统的16位系统相比，该设计显著降低了内存占用。Tether公司声称，其方案最多可减少77.8%的显存需求，从而释放资源，使更大型的模型能够在硬件资源有限的环境下运行。
该框架还提高了推理速度。据报道，在移动GPU上，基于BitNet的模型运行速度比CPU快2到11倍，这表明现代智能手机越来越能够处理过去只有数据中心才能处理的工作负载。
另一个值得关注的里程碑是该框架与非英伟达硬件的兼容性，可用于LoRa微调——这在以往仅限于英伟达生态系统。这扩大了使用其他芯片组和消费级设备的开发者的访问权限。
人工智能开发的去中心化
Tether 将此次发布定位为推动人工智能去中心化进程的一部分。通过启用设备端训练，该系统允许敏感数据保留在本地，而不是发送到集中式服务器。这为联邦学习打开了大门，使得模型可以在分布式设备上更新，而不会泄露隐私。
Tether首席执行官保罗·阿尔多伊诺强调了这一转变的更广泛影响：
他还补充说，依赖集中式基础设施可能会减缓创新并导致权力集中，而设备端功能可以使人工智能开发更具包容性。
加密货币公司加倍投资人工智能
Tether 的声明反映了加密货币领域的一个更广泛的趋势，即各公司正越来越多地投资于人工智能基础设施和高性能计算。
尤其是矿业公司，已经开始将硬件改造用于人工智能工作负载。Cipher Mining 近期达成了一项价值数十亿美元的协议，用于扩建其人工智能数据中心；Core Scientific 也获得了一笔巨额信贷，用于扩展其基础设施。与此同时，HIVE Digital Technologies 的营收也出现增长，部分原因是其专注于人工智能的业务。
与此同时，人工智能代理——能够执行交易并与服务交互的自主程序——在区块链生态系统中正日益受到关注。Coinbase 和 Alchemy 等平台已经推出了允许这些代理在链上运行的工具，而富兰克林邓普顿等公司支持的项目则正在探索企业应用案例。
这对开发人员意味着什么
如果 Tether 的说法在更广泛的应用场景下得到证实，其影响可能十分深远。此前依赖昂贵 GPU 集群的开发者或许很快就能使用他们已有的设备在本地训练和定制模型。
这可能会加速实验进程，尤其是在那些高端基础设施匮乏的地区或社区。此外，这也符合人们对数据隐私日益增长的关注，因为设备端处理减少了将敏感信息传输到第三方服务器的需求。
不过，关于可扩展性、在各种工作负载下的实际性能，以及该框架与已建立的 AI 训练流程的比较，仍然存在疑问。
然而，显而易见的是，消费级硬件和企业级人工智能能力之间的界限正变得日益模糊。Tether 公司借助 QVAC 的 BitNet LoRa 框架，押注人工智能的未来发展将比现在更加分散化，也更加普及。
