Tether推出BitNet LoRA框架跨平台应用

  • Tether的BitNet LoRA框架实现了在智能手机、GPU和消费级设备上的AI模型训练。

  • 该系统降低了内存使用量并提升了性能,VRAM需求最多降低77.8%。

  • 用户可以在移动设备上微调高达13B参数的模型,扩展边缘AI能力。

Tether通过其QVAC Fabric平台宣布推出一款新的AI框架,支持在消费设备上进行跨平台的BitNet LoRA训练。此次更新使得亿参数模型能够在智能手机和GPU上运行。CEO Paolo Ardoino分享了这一进展,强调降低成本和扩大AI工具的使用范围。

跨平台AI训练拓展访问渠道

QVAC Fabric的更新引入了对BitNet LoRA微调的跨平台支持。这允许AI模型在不同硬件和操作系统上运行。

值得注意的是,该框架支持来自AMD、Intel和Apple的GPU,包括移动芯片组。它还采用Vulkan和Metal后端以确保兼容性。

据Tether介绍,这是BitNet LoRA首次在如此广泛的设备范围内工作。因此,用户可以在日常硬件上进行模型训练。

在消费硬件上的性能提升

该系统通过结合BitNet和LoRA技术,减少了内存和计算需求。BitNet将模型权重压缩为简化值,而LoRA限制可训练参数。

这两种方法共同显著降低了硬件要求。例如,在移动设备上,GPU推理速度比CPU快两到十一倍。

此外,与全精度模型相比,内存使用量大幅下降。基准测试显示,VRAM使用比类似系统少达77.8%。

Tether还展示了在智能手机上的微调能力。测试显示,在Samsung S25等设备上,几分钟内即可训练出1.25亿参数的模型。

移动和边缘设备处理更大模型

该框架使得在边缘设备上运行更大模型成为可能。Tether报告称,在iPhone 16上成功微调了高达130亿参数的模型。

此外,该系统支持Adreno、Mali和Apple Bionic等移动GPU,拓宽了AI开发的硬件基础。

据Paolo Ardoino表示,AI开发通常依赖昂贵的基础设施。他指出,这一框架将能力转向本地设备。

Tether补充说,该系统减少了对中心化平台的依赖,还允许用户在设备上直接训练和处理数据。

免责声明:本页面信息可能来自第三方,不代表 Gate 的观点或意见。页面显示的内容仅供参考,不构成任何财务、投资或法律建议。Gate 对信息的准确性、完整性不作保证,对因使用本信息而产生的任何损失不承担责任。虚拟资产投资属高风险行为,价格波动剧烈,您可能损失全部投资本金。请充分了解相关风险,并根据自身财务状况和风险承受能力谨慎决策。具体内容详见声明

相关文章

Tether从中心化交易所收购价值$70.47M的951.35 BTC

Gate 新闻消息,Tether 从一家中心化交易所购买了 951.35 BTC,价值 7,047 万美元。完成此次交易后,Tether 的比特币总持仓已达到 97,204 BTC,价值约 72.8 亿美元。

GateNews3 分钟前

Tether 投资 $134M 于 Stablecoin Development Corporation,以扩展超越 USDT 的发行

泰达(Tether)向稳定币开发公司 $134 SDEV( 投资了 )百万美元,在 Sky Protocol 的治理中获得了影响力。这笔资金旨在加强稳定币基础设施,表明泰达(Tether)更广泛的投资策略超越了 USDT。

GateNews44 分钟前

Fellowship PAC 完成 1100 万美元募资,FEC 文件披露资金来源

奖学金政治行动委员会(PAC)近日根据FEC申报文件披露,已募集1,100万美元,其中来自Cantor Fitzgerald的1,000万美元以及Anchorage Digital的100万美元。该PAC专注于支持共和党候选人,已投入广告费用300万美元给Nxum Group。该组织成立时宣称有1亿美元资金承诺,但目前实际募资额仅为1,100万美元。

Market Whisper3小时前

Gate日报(4月16日):Tether疑似购买951枚比特币;维吉尼亚州颁布加密资产法

比特币持续上涨,报74,630美元。Tether 用利润购买951枚比特币。维吉尼亚州通过无人认领财产法,要求将闲置加密货币移交州政府。美国股市受科技股驱动,标普500指数创历史新高。加密市场动态显示,投资者关注地缘政治情况和美国货币政策。

Market Whisper5小时前

泰达增加 $70M 比特币储备,将持仓提高至 97,141 BTC

泰达(Tether)已将价值约$70 百万美元的951 BTC转入其比特币储备,使其总持仓增加至97,141 BTC,价值约为71.6亿美元。此举符合泰达的策略,即将运营利润的15%投资到比特币中。

GateNews6小时前

坎特·菲茨杰拉德向对加密货币友好的超级政治行动委员会捐赠$10M ,该委员会由泰达官方/官员担任主席

坎特·菲茨杰拉德在1月向$10 百万美元捐赠给Fellowship PAC,用于支持亲加密货币候选人,正如近期联邦选举委员会的申报文件所披露。来自Tether的Jesse Spiro担任该委员会主席。

GateNews6小时前
评论
0/400
暂无评论