网站建设培训班南宁深圳景观设计公司排名

网站建设培训班南宁,深圳景观设计公司排名,遵义企业网站建设,网页制作成品源代码简介 本文详细介绍了11种大模型参数高效微调方法#xff0c;包括前缀调优、提示调优、P-Tuning v2、LORA及其衍生方法(DyLORA、AdaLORA)、QLORA、OA-LORA、LongLORA、VeRA和S-LORA。这些方法通过冻结预训练模型参数#xff0c;仅优化少量特定参数#xff0c;显著减少计算和存…简介本文详细介绍了11种大模型参数高效微调方法包括前缀调优、提示调优、P-Tuning v2、LORA及其衍生方法(DyLORA、AdaLORA)、QLORA、OA-LORA、LongLORA、VeRA和S-LORA。这些方法通过冻结预训练模型参数仅优化少量特定参数显著减少计算和存储资源消耗同时保持模型性能为不同规模和应用场景的模型微调提供了多样化的解决方案。前缀调优前缀调优(PrefixTuning)是一种轻量级的微调替代方法专门用于自然语言生成任务。前缀调优的灵感来自于语言模型提示前缀就好像是“虚拟标记”一样这种方法可在特定任务的上下文中引导模型生成文本。前缀调优的独特之处在于它不改变语言模型的参数而是通过冻结LM参数仅优化一系列连续的任务特定向量(即前缀)来实现优化任务如图1所示由于在训练中只需要为每个任务存储前缀前缀调优的轻量级设计避免了存储和计算资源的浪费同时保持了模型的性能具有模块化和高效利用空间的特点有望在NLP任务中提供高效的解决方案。提示调优提示调优(PromptTuning)方法是由BrianLester在论文“ThePower of Scale for Parameter-Efficient Prompt Tuning,”中提出的。提示调优采用“软提示”(SoftPrompt)的方式通过冻结整个预训练模型只允许每个下游任务在输入文本前面添加k个可调的标记(Token)来优化模型参数赋予语言模型能够执行特定的下游任务的能力如图2所示在论文的实验对比中对于T5-XXL模型每个经过调整的模型副本需要110亿个参数相较于为每个下游任务制作特定的预训练模型副本提示调优需要的参数规模仅为20480个参数。该方法在少样本提示方面表现出色。P-Tuning v2尽管提示调优在相应任务上取得了一定的效果但当底座模型规模较小特别是小于1000亿个参数时效果表现不佳。为了解决这个问题清华大学的团队提出了针对深度提示调优的优化和适应性实现–P-Tuning v2方法。该方法最显著的改进是对预训练模型的每一层应用连续提示而不仅仅是输入层。这实际上是一种针对大型语言模型的软提示方法主要是将大型语言模型的词嵌入层和每个Transformer网络层前都加上新的参数。深度提示调优增加了连续提示的功能并缩小了在各种设置之间进行微调的差距特别是对于小型模型和困难的任务。LORA微软公司在2021年提出了一种名为Low-RankAdaptation(LORA,低秩适配器)的方法。LORA的核心思想是通过冻结预训练模型的权重并将可训练的秩分解矩阵注入Transformer架构的每一层从而显著减少下游任务中可训练参数的数量。在训练过程中只需要固定原始模型的参数然后训练降维矩阵A和升维矩阵B如图3所示与使用Adam微调的GPT-3175B相比LORA可以将可训练参数的数量减少10000倍并将GPU内存需求减少3倍。尽管LORA的可训练参数较少训练吞吐量较高但与ROBERTa、DeBERTa、GPT-2和GPT-3等模型相比LORA在模型质量性能方面与微调相当甚至更好DyLORA但随着研究的深入LORA块存在两大核心问题1一旦训练完成后LORA块的大小便无法更改若要调整LORA块的秩则需重新训练整个模型这无疑增加了大量时间和计算成本。2LORA块的大小是在训练前设计的固定超参优化秩的过程需要精细的搜索与调优操作仅设计单一的超参可能无法有效提升模型效果。为解决上述问题研究者引入了一种全新的方法-DyLORA(动态低秩适应)研究者参考LORA的基本架构针对每个LORA块设计了上投影(Wup)和下投影(Wdw)矩阵及当前LORA块的规模范围R。为确保增加或减少秩不会明显阻碍模型的表现在训练过程中通过对LORA块对不同秩的信息内容进行排序再结合预定义的随机分布中进行抽样来对LORA块镜像上投影矩阵和下投影矩阵截断最终确认单个LORA块的大小如图4所示研究结果表明与LORA相比使用DyLORA训练出的模型速度可提升4~7倍且性能几乎没有下降。此外与LORA相比该模型在更广泛的秩范围内展现出了卓越的性能。AdaLORA正如DyLORA优化方法一样提出AdaLORA的研究者也发现当前LORA存在的改进方向:由于权重矩阵在不同LORA块和模型层中的重要性存在差异因此不能提前制定一个统一规模的秩来约束相关权重信息需要设计可以支持动态更新的参数矩阵需要设计有效的方法来评估当前参数矩阵的重要性并根据重要性程度为重要性高的矩阵分配更多参数量以提升模型效果对重要性低的矩阵进行裁剪进一步降低计算量根据上述思想。研究者提出了AdaLORA方法可以根据权重矩阵的重要性得分在权重矩阵之间自适应地分配参数规模。在实际操作中AdaLoRA采用奇异值分解(SVD)的方法来进行参数训练根据重要性指标剪裁掉不重要的奇异值来提高计算效率从而进一步提升模型在微调阶段的效果。QLORATimDettmers等研究者在论文“QLORA:Efficient Finetuning ofQuantized LLMs”中提出了一种高效的模型微调方法–OLORA如图5所示OLORA的创新内容主要如下:4bit NormalFloat(NF4)。NF4是一种新型数据类型它对正态分布的权重来说是信息理论上的最优选择双重量化技术。双重量化技术减少了平均内存的使用它通过对已量化的常量进行再量化来实现分页优化器。分页优化器有助于管理内存峰值防止梯度检查点时出现内存不足的错误实验表明QLORA技术使得研究者能够在单个48GBGPU上微调650亿个参数规模的模型同时维持16bit精度任务的完整性能。例如在训练Guanaco模型时仅需在单个GPU上微调24h即可达到与ChatGPT相当的99.3%性能水平。通过OLORA微调技术可以有效降低模型微调时的显存消耗OA-LORA在论文“OA-LoRA: Quantization-aware Low-rank Adaptation oflargelanguagemodels”中研究者提出了一种量化感知的低秩适应(OA-LORA)算法。该方法来源于量化和适应的自由度不平衡的思想。研究者提出采用分组运算符的方式旨在增加量化自由度的同时减少适应自由度。QA-LORA的实现简便仅需几行代码同时赋予原始的LORA两倍的能力:在微调过程中LLM的权重被量化(如INT4)以降低时间和内存的使用微调后LLM和辅助权重能够自然地集成到一个量化模型中而不损失准确性通过在LLaMA和LLaMA2模型系列的实验中证明QA-LORA在不同的微调数据集和下游场景中验证了其有效性。如图6所示与之前的适应方法LORA和QLORA相比OA-LORA在微调和推理阶段都具有更高的计算效率。由于不需要进行训练后量化因此它不会导致准确性损失。在图6中展示了INT4的量化但OA-LORA可以推广到INT3和INT2LongLORA通常情况下用较长的上下文长度训练大型语言模型的计算成本较高需要大量的训练时间和GPU资源。为了在有限的计算成本下扩展预训练大型语言模型的上下文大小研究者在论文“LongLoRA: Efficient Fine-tuningof Long-ContextLarge LanguageModels”中提出了LongLORA的方法如图7所示LongLORA在两个方面进行了改进:虽然在推理过程中需要密集的全局注意力但通过采用稀疏的局部注意力可以有效地进行模型微调。在LongLORA中引入的转移短暂的注意力机制能够有效地实现上下文扩展从而在性能上与使用香草注意力(Vanilla Attention)进行微调的效果相似通过重新审视上下文扩展的参数高效微调机制研究者发现在可训练嵌入和规范化的前提下用于上下文扩展的LORA表现良好LongLORA在从70亿、130亿到700亿个参数的LLaMA2模型的各种任务上都取得了良好的结果。LongLORA采用LLaMA2-7B型将上下文长度从4000个Token扩展到10万个Token展现了其在增加上下文长度的同时保持了高效计算的能力。这为大型语言模型的进一步优化和应用提供了有益的思路。VeRALORA是一种常用的大型语言模型微调方法它在微调大型语言模型时能够减少可训练参数的数量。然而随着模型规模的进一步扩大或者需要部署大量适应于每个用户或任务的模型时存储问题仍然是一个挑战。研究者提出了一种基于向量的随机矩阵适应(Vector-based Randommatrix AdaptationVeRA)的方法VeRA的实现方法是通过使用对低秩矩阵在所有层之间共享并学习小的缩放向量来实现这一目标。与LORA相比VeRA成功将可训练参数的数量减少了10倍同时保持了相同的性能水平如图8所示LORA通过训练低秩矩阵和来更新权重矩阵中间秩为。在VeRA中这些矩阵被冻结在所有层之间共享并通过可训练向量和进行适应从而显著减少可训练参数的数量。在这种情况下低秩矩阵和向量可以合并到原始权重矩阵中不引入额外的延迟。这种新颖的结构设计使得VeRA在减少存储开销的同时还能够保持和LORA相媲美的性能为大型语言模型的优化和应用提供了更加灵活的解决方案。实验证明VeRA在GLUE和E2E基准测试中展现了其有效性并在使用LLaMA2 7B模型时仅使用140万个参数的指令就取得了一定的效果。这一方法为在大型语言模型微调中降低存储开销提供了一种新的思路有望在实际应用中取得更为显著的效益。S-LORALORA作为一种参数高效的大型语言模型微调方法通常用于将基础型适应到多种任务中从而形成了大量派生自基础模型的LORA模型。由于多个采用LORA形式训练的模型的底座模型都为同一个因此可以参考批处理模式进行推理。据此研究者提出了一种S-LoRA(Servingthousandsofcon currentLoRAadapters)方法S-LORA是一种专为可伸缩地服务多个LORA适配器而设计的方法。S-LORA的设计理念是将所有适配器存储在主内存中并在GPU内存中动态获取当前运行查询所需的适配器。为了高效使用GPU内存并减少碎片S-LORA引入了统一分页。统一分页采用统一的内存池来管理具有不同秩的动态适配器权重以及具有不同序列长度的KV缓存张量。此外S-LORA还采用了一种新颖的张量并行策略和高度优化的自定义CUDA核心用于异构批处理LORA计算。这些特性使得S-LORA能够在单个GPU或跨多个GPU上提供数千个LORA适配器而开销相对较小。通过实验发现S-LORA的吞吐量提高了4倍多并且提供的适配器数量增加了数个数量级。因此S-LORA在实现对许多任务特定微调模型的可伸缩服务方面取得了显著进展并为大规模定制微调服务提供了潜在的可能性。如何学习AI大模型如果你对AI大模型入门感兴趣那么你需要的话可以点击这里大模型重磅福利入门进阶全套104G学习资源包免费分享这份完整版的大模型 AI 学习和面试资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】这是一份大模型从零基础到进阶的学习路线大纲全览小伙伴们记得点个收藏第一阶段从大模型系统设计入手讲解大模型的主要方法第二阶段在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用第三阶段大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统第四阶段大模型知识库应用开发以LangChain框架为例构建物流行业咨询智能问答系统第五阶段大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型第六阶段以SD多模态大模型为主搭建了文生图小程序案例第七阶段以大模型平台应用与开发为主通过星火大模型文心大模型等成熟大模型构建大模型行业应用。100套AI大模型商业化落地方案大模型全套视频教程200本大模型PDF书籍学会后的收获• 基于大模型全栈工程实现前端、后端、产品经理、设计、数据分析等通过这门课可获得不同能力• 能够利用大模型解决相关实际项目需求 大数据时代越来越多的企业和机构需要处理海量数据利用大模型技术可以更好地处理这些数据提高数据分析和决策的准确性。因此掌握大模型应用开发技能可以让程序员更好地应对实际项目需求• 基于大模型和企业数据AI应用开发实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能 学会Fine-tuning垂直训练大模型数据准备、数据蒸馏、大模型部署一站式掌握• 能够完成时下热门大模型垂直领域模型训练能力提高程序员的编码能力 大模型应用开发需要掌握机器学习算法、深度学习框架等技术这些技术的掌握可以提高程序员的编码能力和分析能力让程序员更加熟练地编写高质量的代码。LLM面试题合集大模型产品经理资源合集大模型项目实战合集获取方式有需要的小伙伴可以保存图片到wx扫描二v码免费领取【保证100%免费】