-
Tether的BitNet LoRA框架实现了在智能手机、GPU和消费级设备上的AI模型训练。
-
该系统降低了内存使用量并提升了性能,VRAM需求最多降低77.8%。
-
用户可以在移动设备上微调高达13B参数的模型,扩展边缘AI能力。
Tether通过其QVAC Fabric平台宣布推出一款新的AI框架,支持在消费设备上进行跨平台的BitNet LoRA训练。此次更新使得亿参数模型能够在智能手机和GPU上运行。CEO Paolo Ardoino分享了这一进展,强调降低成本和扩大AI工具的使用范围。
跨平台AI训练拓展访问渠道
QVAC Fabric的更新引入了对BitNet LoRA微调的跨平台支持。这允许AI模型在不同硬件和操作系统上运行。
值得注意的是,该框架支持来自AMD、Intel和Apple的GPU,包括移动芯片组。它还采用Vulkan和Metal后端以确保兼容性。
据Tether介绍,这是BitNet LoRA首次在如此广泛的设备范围内工作。因此,用户可以在日常硬件上进行模型训练。
在消费硬件上的性能提升
该系统通过结合BitNet和LoRA技术,减少了内存和计算需求。BitNet将模型权重压缩为简化值,而LoRA限制可训练参数。
这两种方法共同显著降低了硬件要求。例如,在移动设备上,GPU推理速度比CPU快两到十一倍。
此外,与全精度模型相比,内存使用量大幅下降。基准测试显示,VRAM使用比类似系统少达77.8%。
Tether还展示了在智能手机上的微调能力。测试显示,在Samsung S25等设备上,几分钟内即可训练出1.25亿参数的模型。
移动和边缘设备处理更大模型
该框架使得在边缘设备上运行更大模型成为可能。Tether报告称,在iPhone 16上成功微调了高达130亿参数的模型。
此外,该系统支持Adreno、Mali和Apple Bionic等移动GPU,拓宽了AI开发的硬件基础。
据Paolo Ardoino表示,AI开发通常依赖昂贵的基础设施。他指出,这一框架将能力转向本地设备。
Tether补充说,该系统减少了对中心化平台的依赖,还允许用户在设备上直接训练和处理数据。
免责声明:本页面信息可能来自第三方,不代表 Gate 的观点或意见。页面显示的内容仅供参考,不构成任何财务、投资或法律建议。Gate 对信息的准确性、完整性不作保证,对因使用本信息而产生的任何损失不承担责任。虚拟资产投资属高风险行为,价格波动剧烈,您可能损失全部投资本金。请充分了解相关风险,并根据自身财务状况和风险承受能力谨慎决策。具体内容详见
声明。
相关文章
Tether从中心化交易所收购价值$70.47M的951.35 BTC
Gate 新闻消息,Tether 从一家中心化交易所购买了 951.35 BTC,价值 7,047 万美元。完成此次交易后,Tether 的比特币总持仓已达到 97,204 BTC,价值约 72.8 亿美元。
GateNews3 分钟前
Tether 投资 $134M 于 Stablecoin Development Corporation,以扩展超越 USDT 的发行
泰达(Tether)向稳定币开发公司 $134 SDEV( 投资了 )百万美元,在 Sky Protocol 的治理中获得了影响力。这笔资金旨在加强稳定币基础设施,表明泰达(Tether)更广泛的投资策略超越了 USDT。
GateNews44 分钟前
Fellowship PAC 完成 1100 万美元募资,FEC 文件披露资金来源
奖学金政治行动委员会(PAC)近日根据FEC申报文件披露,已募集1,100万美元,其中来自Cantor Fitzgerald的1,000万美元以及Anchorage Digital的100万美元。该PAC专注于支持共和党候选人,已投入广告费用300万美元给Nxum Group。该组织成立时宣称有1亿美元资金承诺,但目前实际募资额仅为1,100万美元。
Market Whisper3小时前
Gate日报(4月16日):Tether疑似购买951枚比特币;维吉尼亚州颁布加密资产法
比特币持续上涨,报74,630美元。Tether 用利润购买951枚比特币。维吉尼亚州通过无人认领财产法,要求将闲置加密货币移交州政府。美国股市受科技股驱动,标普500指数创历史新高。加密市场动态显示,投资者关注地缘政治情况和美国货币政策。
Market Whisper5小时前
泰达增加 $70M 比特币储备,将持仓提高至 97,141 BTC
泰达(Tether)已将价值约$70 百万美元的951 BTC转入其比特币储备,使其总持仓增加至97,141 BTC,价值约为71.6亿美元。此举符合泰达的策略,即将运营利润的15%投资到比特币中。
GateNews6小时前
坎特·菲茨杰拉德向对加密货币友好的超级政治行动委员会捐赠$10M ,该委员会由泰达官方/官员担任主席
坎特·菲茨杰拉德在1月向$10 百万美元捐赠给Fellowship PAC,用于支持亲加密货币候选人,正如近期联邦选举委员会的申报文件所披露。来自Tether的Jesse Spiro担任该委员会主席。
GateNews6小时前