上海做网站站优云一一十七移动建站平台有哪些

上海做网站站优云一一十七,移动建站平台有哪些,网站内容包括哪些,台州网站制作系统这是一份系统化的大模型(LLM)学习指南#xff0c;内容涵盖从数学基础、Python编程、神经网络到自然语言处理的基础知识#xff0c;以及LLM架构、数据构建、预训练、微调、评估、量化等核心技术#xff0c;最后介绍LLM的工程应用#xff0c;包括运行、向量存储、检索增强生成…这是一份系统化的大模型(LLM)学习指南内容涵盖从数学基础、Python编程、神经网络到自然语言处理的基础知识以及LLM架构、数据构建、预训练、微调、评估、量化等核心技术最后介绍LLM的工程应用包括运行、向量存储、检索增强生成、推理优化、部署和安全等方面。文章提供了丰富的学习资源和实践案例适合小白入门和程序员进阶帮助读者系统掌握大模型技术。LLM Fundamentals 基础1. 机器学习的数学基础在掌握机器学习之前理解支撑这些算法的基本数学概念非常重要。线性代数这是理解许多算法特别是深度学习算法的关键。主要概念包括向量、矩阵、行列式、特征值和特征向量、向量空间以及线性变换。微积分许多机器学习算法涉及到连续函数的优化这需要理解导数、积分、极限和级数。多变量微积分以及梯度的概念也很重要。概率论与统计学这些知识对于理解模型如何从数据中学习并进行预测至关重要。主要概念包括概率理论、随机变量、概率分布、期望、方差、协方差、相关性、假设检验、置信区间、最大似然估计和贝叶斯推断。有的时候临时抱佛脚也是可以的 其他资源3Blue1Brown - 线性代数的本质一系列视频提供了这些概念的几何直观解释。StatQuest with Josh Starmer - 统计学基础为许多统计概念提供简单明了的解释。Ms Aerin 的 AP 统计学直观理解一系列 Medium 文章提供每种概率分布的直观理解。Immersive Linear Algebra线性代数的另一种视觉解释。可汗学院 - 线性代数适合初学者以非常直观的方式解释概念。可汗学院 - 微积分一个互动课程涵盖了微积分的所有基础知识。可汗学院 - 概率与统计以易于理解的格式提供材料。2. 机器学习的 PythonPython 是一种强大且灵活的编程语言因其可读性、一致性和强大的数据科学库生态系统而特别适合机器学习。Python 基础掌握 Python 编程需要理解基本语法、数据类型、错误处理和面向对象编程。数据科学库包括熟悉 NumPy 用于数值计算Pandas 用于数据操作和分析以及 Matplotlib 和 Seaborn 用于数据可视化。数据预处理这包括特征缩放和标准化、处理缺失数据、异常值检测、分类数据编码以及将数据划分为训练集、验证集和测试集。机器学习库熟练使用 Scikit-learn 是至关重要的这个库提供了广泛的有监督和无监督学习算法。理解如何实现线性回归、逻辑回归、决策树、随机森林、K 最近邻K-NN和 K-means 聚类等算法也很重要。主成分分析PCA和 t-SNE 等降维技术对可视化高维数据也非常有帮助。 其他资源Real Python: 提供全面的资源包括适合初学者和高级用户的 Python 文章和教程。freeCodeCamp - 学习 Python: 长视频全面介绍 Python 的所有核心概念。Python 数据科学手册: 免费数字书籍非常适合学习 pandas、NumPy、Matplotlib 和 Seaborn。freeCodeCamp - 面向所有人的机器学习: 针对初学者的机器学习算法实用入门。Udacity - 机器学习入门: 免费课程涵盖主成分分析 (PCA) 和其他几个机器学习概念。3. 神经网络神经网络是许多机器学习模型的基础特别是在深度学习领域。要有效利用神经网络需要全面理解其设计和机制。基础知识包括理解神经网络的结构如层、权重、偏置以及激活函数如 sigmoid、tanh、ReLU 等。训练和优化熟悉反向传播算法以及不同类型的损失函数如均方误差MSE和交叉熵。理解各种优化算法如梯度下降、随机梯度下降、RMSprop 和 Adam。过拟合了解过拟合的概念即模型在训练数据上表现良好但在未见过的数据上表现较差各种正则化技术如 dropout、L1/L2 正则化、提前停止、数据增强以防止过拟合。实现多层感知机MLP构建一个多层感知机也称为全连接网络。 其他资源3Blue1Brown - 神经网络是什么: 该视频直观地解释了神经网络及其内部工作原理。freeCodeCamp - 深度学习速成课程: 该视频高效地介绍了深度学习中的所有重要概念。Fast.ai - 实用深度学习: 面向具有编程经验的人的免费课程旨在学习深度学习。Patrick Loeber - PyTorch 教程: 适合初学者的系列视频学习 PyTorch。4. 自然语言处理NLP自然语言处理NLP是人工智能的一个迷人领域它弥合了人类语言与机器理解之间的差距。从简单的文本处理到理解语言细微差别NLP 在翻译、情感分析、聊天机器人等许多应用中扮演了关键角色。文本预处理学习各种文本预处理步骤如分词将文本拆分为单词或句子、词干提取将单词还原为其根形、词形还原类似于词干提取但考虑上下文、停用词去除等。特征提取技术熟悉将文本数据转换为机器学习算法可以理解的格式的方法。关键方法包括词袋模型BoW、词频-逆文档频率TF-IDF和 n-grams。词嵌入词嵌入是一种词语表示方法它允许具有相似含义的词具有相似的表示。关键方法包括 Word2Vec、GloVe 和 FastText。递归神经网络RNNs理解 RNNs 的工作原理这是一种设计用于处理序列数据的神经网络。探索 LSTM 和 GRU这两种 RNN 变体能够学习长期依赖关系。 参考资料RealPython - 使用 spaCy 进行 Python 中的自然语言处理: 关于 spaCy 库在 Python 中进行自然语言处理任务的详尽指南。Kaggle - 自然语言处理指南: 一些笔记本和资源提供 Python 中自然语言处理的动手解释。Jay Alammar - Word2Vec 插图: 一个很好的参考帮助理解著名的 Word2Vec 架构。Jake Tae - 从零开始的 PyTorch RNN 实现: 在 PyTorch 中对 RNN、LSTM 和 GRU 模型的实用而简单的实现。colah’s blog - 理解 LSTM 网络: 关于 LSTM 网络的更理论化的文章。LLM Scientist 科学家1. 大型语言模型LLM架构虽然对 Transformer 架构的深入理解不是必须的但了解其输入tokens和输出logits是非常重要的。原始的注意力机制是另一个关键组件因为后续版本中引入了改进的版本。高层次视角重新审视编码器-解码器 Transformer 架构特别是仅解码器的 GPT 架构这在现代大型语言模型中广泛使用。分词理解如何将原始文本数据转换为模型可以理解的格式这涉及将文本拆分为 tokens通常是单词或子词。注意力机制掌握注意力机制的理论包括自注意力和缩放点积注意力这使得模型在生成输出时能够关注输入的不同部分。文本生成了解模型生成输出序列的不同方式。常见的策略包括贪婪解码、束搜索beam search、top-k 采样和核采样nucleus sampling。参考资料插图化的 Transformer by Jay Alammar: 对 Transformer 模型的视觉和直观解释。插图化的 GPT-2 by Jay Alammar: 比前一篇文章更为重要专注于 GPT 架构与 Llama 的架构非常相似。Transformer 的视觉介绍 by 3Blue1Brown: 简单易懂的 Transformer 视觉介绍。LLM 可视化 by Brendan Bycroft: 对 LLM 内部发生的事情的惊人 3D 可视化。nanoGPT by Andrej Karpathy: 一段长达 2 小时的 YouTube 视频讲解如何从零实现 GPT适合程序员。注意力注意力 by Lilian Weng: 以更正式的方式介绍注意力机制的必要性。LLM 中的解码策略: 提供代码和不同解码策略的视觉介绍用于生成文本。2. 构建指令数据集虽然从维基百科和其他网站获取原始数据很容易但在自然环境中收集指令和答案的配对却很困难。正如在传统机器学习中一样数据集的质量将直接影响模型的质量因此它可能是微调过程中最重要的组成部分。Alpaca-类似数据集使用 OpenAI APIGPT从零生成合成数据。您可以指定种子和系统提示以创建多样化的数据集。高级技术学习如何使用 Evol-Instruct 改进现有数据集如何生成高质量的合成数据如在 Orca 和 phi-1 论文中所述。数据过滤传统技术包括正则表达式regex、删除近似重复项、关注具有较高 token 数量的答案等。提示模板没有真正标准的指令和答案格式因此了解不同的聊天模板如 ChatML、Alpaca 等是重要的。参考资料为指令微调准备数据集 by Thomas Capelle: 探讨 Alpaca 和 Alpaca-GPT4 数据集以及如何格式化它们。生成临床指令数据集 by Solano Todeschini: 教程讲解如何使用 GPT-4 创建合成指令数据集。使用 GPT 3.5 进行新闻分类 by Kshitiz Sahay: 利用 GPT 3.5 创建指令数据集以微调 Llama 2 进行新闻分类。微调 LLM 的数据集创建: 含有一些过滤数据集并上传结果的技术的笔记本。对话模板 by Matthew Carrigan: Hugging Face 关于提示模板的页面。3. 预训练模型预训练是一个非常漫长且昂贵的过程。了解预训练过程中发生的事情是有益的但不需要实际操作经验。数据管道预训练需要巨大的数据集例如Llama 2 在 2 万亿 tokens 上进行了训练这些数据需要经过过滤、分词并与预定义的词汇表进行整理。因果语言建模了解因果语言建模与掩码语言建模的区别以及在这种情况下使用的损失函数。为了高效的预训练深入了解 Megatron-LM 或 gpt-neox。规模定律规模定律 描述了模型性能如何随着模型大小、数据集大小和训练所用计算量的变化而变化。高性能计算此处不涉及但如果您计划从头开始创建自己的大型语言模型了解 HPC硬件、分布式工作负载等是基础知识。参考资料LLMDataHub by Junhao Zhao: 精选的数据集列表用于预训练、微调和RLHF。从零开始训练因果语言模型 by Hugging Face: 使用 transformers 库从头开始预训练一个 GPT-2 模型。TinyLlama by Zhang et al.: 查看这个项目以深入了解 Llama 模型从零开始训练的过程。因果语言建模 by Hugging Face: 解释因果语言建模与掩码语言建模之间的区别并介绍如何快速微调 DistilGPT-2 模型。Chinchilla 的深远影响 by nostalgebraist: 讨论扩展规律及其对 LLM 的一般意义。BLOOM by BigScience: 描述 BLOOM 模型构建过程的 Notion 页面包含大量关于工程部分及遇到的问题的有用信息。OPT-175 日志 by Meta: 研究日志记录了哪些方面出现了问题和哪些方面做得对。如果你计划预训练一个非常大的语言模型在这种情况下为175B参数这份日志非常有用。LLM 360: 一个针对开源 LLM 的框架提供训练和数据准备代码、数据、指标和模型。4. 监督微调预训练模型仅在下一个 token 预测任务上进行训练这使得它们在处理指令时并不是特别有用。监督微调SFT可以调整它们以响应指令。此外它还允许您在任何数据上如私有数据或未见过的数据对模型进行微调并在不需要支付如 OpenAI API 的费用的情况下使用它。全面微调全面微调指的是训练模型中的所有参数。这是一种效率较低的技术但能够产生略好的结果。LoRA一种基于低秩适配器的参数高效技术PEFT。它不是训练所有参数而是仅训练这些适配器。QLoRA另一种基于 LoRA 的 PEFT 技术它将模型的权重量化为 4 位并引入分页优化器以管理内存峰值。结合 Unsloth 使用可以在免费的 Colab 笔记本上高效运行。Axolotl一个用户友好且功能强大的微调工具被许多最先进的开源模型使用。DeepSpeed针对多 GPU 和多节点设置的高效预训练和微调工具在 Axolotl 中实现。参考资料新手 LLM 训练指南 by Alpin: 介绍微调 LLM 时需要考虑的主要概念和参数。LoRA 深度解析 by Sebastian Raschka: 关于 LoRA 的实际见解及如何选择最佳参数。微调你的 Llama 2 模型: 如何使用 Hugging Face 库微调 Llama 2 模型的实用教程。填充大型语言模型 by Benjamin Marie: 为因果 LLM 填充训练示例的最佳实践。LLM 微调入门指南: 如何使用 Axolotl 微调 CodeLlama 模型的教程。5. 偏好对齐在监督微调之后强化学习从人类反馈RLHF是用于将大型语言模型LLM的回答与人类期望对齐的步骤。其核心思想是通过从人类或人工反馈中学习偏好以减少偏见、审查模型或使其更有用。这比 SFT 更复杂通常被视为可选步骤。偏好数据集这些数据集通常包含若干个带有某种排序的答案因此比指令数据集更难生成。近端策略优化PPO该算法利用一个奖励模型来预测给定文本是否被人类高度评价。然后使用这个预测来优化 SFT 模型并根据 KL 散度施加惩罚。直接偏好优化DPODPO 通过将问题重新表述为分类问题来简化过程。它使用参考模型而不是奖励模型无需训练并且只需要一个超参数使其更加稳定和高效。参考资料Distilabel by Argilla: 出色的工具用于创建自己的数据集。特别设计用于偏好数据集但也可以进行监督微调SFT。使用 RLHF 训练 LLMs 的介绍 by Ayush Thakur: 解释了为什么 RLHF 有助于减少偏见并提高 LLM 的性能。RLHF 说明 by Hugging Face: 介绍 RLHF包括奖励模型训练和通过强化学习进行微调。LLMs 偏好微调 by Hugging Face: 比较 DPO、IPO 和 KTO 算法以执行偏好对齐。LLM 训练RLHF 及其替代方案 by Sebastian Rashcka: RLHF 过程及其替代方案如 RLAIF的概述。使用 DPO 微调 Mistral-7b: 微调 Mistral-7b 模型的教程并重现 NeuralHermes-2.5。6. 评估评估大型语言模型LLM是管道中一个被低估的部分这一过程既耗时又具有一定的可靠性。您的下游任务应决定您需要评估的内容但始终记住 Goodhart 定律“当一个度量成为目标时它不再是一个好的度量。”传统指标像困惑度Perplexity和 BLEU 分数这样的指标现在不如以前流行因为它们在大多数情况下存在缺陷。尽管如此理解这些指标以及它们的适用场景仍然很重要。通用基准基于 语言模型评估工具包Language Model Evaluation HarnessOpen LLM Leaderboard 是通用 LLM如 ChatGPT的主要基准。还有其他流行的基准如 BigBench、MT-Bench 等。任务特定基准诸如摘要生成、翻译和问答等任务具有专门的基准、指标甚至子领域如医学、金融等例如用于生物医学问答的 PubMedQA。人工评估最可靠的评估是用户的接受率或人类的比较。除了聊天记录之外记录用户反馈例如使用 LangSmith有助于识别潜在的改进领域。参考资料固定长度模型的困惑度 by Hugging Face: 提供困惑度的概述并提供使用 transformers 库实现困惑度的代码示例。BLEU 得分的风险 by Rachael Tatman: 介绍了 BLEU 得分及其许多问题并提供了相关示例。对 LLM 评估的调查 by Chang et al.: 关于评估内容、评估地点和评估方法的全面论文。聊天机器人竞技场排行榜 by lmsys: 基于人类比较的通用 LLMs 的 Elo 评分排行榜。7. 量化量化是将模型的权重和激活值转换为更低精度的过程。例如将使用 16 位存储的权重转换为 4 位表示。这个技术在减少大型语言模型LLM的计算和内存成本方面变得越来越重要。基础技术学习不同的精度级别如 FP32、FP16、INT8 等以及如何使用 absmax 和零点技术进行简单的量化。GGUF 和 llama.cpp最初设计用于在 CPU 上运行llama.cpp 和 GGUF 格式已成为在消费级硬件上运行 LLM 的最受欢迎的工具。GPTQ 和 EXL2GPTQ 和更具体的 EXL2 格式提供了极快的速度但只能在 GPU 上运行。模型的量化过程也需要较长时间。AWQ这种新格式比 GPTQ 更准确困惑度更低但使用了更多的 VRAM且不一定更快。参考资料量化介绍: 量化的概述包括 absmax 和零点量化以及 LLM.int8() 的代码示例。使用 llama.cpp 量化 Llama 模型: 教程介绍如何使用 llama.cpp 和 GGUF 格式来量化 Llama 2 模型。使用 GPTQ 进行 4-bit LLM 量化: 教程介绍如何使用 GPTQ 算法和 AutoGPTQ 对 LLM 进行 4-bit 量化。ExLlamaV2最快的 LLM 运行库: 指南介绍如何使用 EXL2 格式量化 Mistral 模型并用 ExLlamaV2 库运行它。理解激活感知权重量化 by FriendliAI: 关于 AWQ 技术及其优势的概述。8. 新趋势一些新的发展趋势。位置嵌入了解大型语言模型LLM如何编码位置特别是像 RoPE 这样的相对位置编码方案。实现 YaRN将注意力矩阵乘以温度因子或 ALiBi基于 token 距离的注意力惩罚来扩展上下文长度。模型合并合并训练好的模型已成为创建高性能模型的一种流行方法无需进行微调。流行的 mergekit 库实现了最受欢迎的合并方法如 SLERP、DARE 和 TIES。专家混合由于其优异的性能Mixtral 使 MoE 架构重新流行。与此同时OSS 社区中出现了一种 frankenMoE 类型通过合并模型如 Phixtral 提供了更便宜且性能良好的选择。多模态模型这些模型如 CLIP、Stable Diffusion 或 LLaVA可以处理多种类型的输入文本、图像、音频等并使用统一的嵌入空间这解锁了如文本到图像等强大的应用。参考资料扩展 RoPE by EleutherAI: 总结了不同位置编码技术的文章。理解 YaRN by Rajat Chawla: YaRN 的介绍。使用 mergekit 合并 LLMs: 关于使用 mergekit 进行模型合并的教程。专家混合模型解释 by Hugging Face: 关于专家混合模型MoEs的详尽指南及其工作原理。大型多模态模型 by Chip Huyen: 多模态系统的概述以及该领域的近期历史。LLM Engineer 工程师1. 运行大型语言模型LLMs由于硬件要求高运行大型语言模型可能会很困难。根据您的使用案例您可能希望通过 API如 GPT-4来简单地使用模型或在本地运行它。在任何情况下提示和指导技术可以改善和约束您的应用输出。LLM APIAPI 是部署 LLM 的一种方便方式。这个领域分为私人 LLM如 OpenAI、Google、Anthropic、Cohere 等和开源 LLM如 OpenRouter、Hugging Face、Together AI 等。开源 LLM可以在 Hugging Face Hub 上找到 LLM。您可以直接在 Hugging Face Spaces 中运行其中一些或通过像 LM Studio 这样的应用程序本地下载并运行或通过 CLI 使用 llama.cpp 或 Ollama。提示工程常见的技术包括零样本提示、少样本提示、思维链和 ReAct。这些技术在更大的模型中效果更好但也可以调整用于较小的模型。结构化输出许多任务需要结构化输出如严格的模板或 JSON 格式。可以使用像 LMQL、Outlines、Guidance 等库来指导生成并遵循给定的结构。参考资料使用 LM Studio 本地运行 LLM by Nisha Arya: 关于如何使用 LM Studio 的简短指南。提示工程指南 by DAIR.AI: 提供详细的提示技巧列表和示例。Outlines - 快速入门: 由 Outlines 启用的指导生成技术列表。LMQL - 概述: LMQL 语言的介绍。2. 构建向量存储创建向量存储是构建检索增强生成RAG管道的第一步。文档被加载、拆分并且相关的块被用来生成向量表示嵌入这些向量会被存储以便在推理过程中使用。文档导入文档加载器是处理多种格式的便利工具包括 PDF、JSON、HTML、Markdown 等。它们还可以直接从一些数据库和 API如 GitHub、Reddit、Google Drive 等中检索数据。拆分文档文本拆分器将文档分解为较小且语义上有意义的块。与其在n个字符后拆分文本不如按标题拆分或递归拆分并附加一些额外的元数据。嵌入模型嵌入模型将文本转换为向量表示。这允许对语言进行更深层次和更细致的理解这是执行语义搜索所必需的。向量数据库向量数据库如 Chroma、Pinecone、Milvus、FAISS、Annoy 等专门用于存储嵌入向量。它们可以根据向量相似性高效地检索与查询“最相似”的数据。参考资料LangChain - 文本分割器: LangChain 中实现的不同文本分割器列表。Sentence Transformers 库: 受欢迎的嵌入模型库。MTEB 排行榜: 嵌入模型的排行榜。五大顶级向量数据库 by Moez Ali: 对最佳和最受欢迎的向量数据库进行比较。3. 检索增强生成RAG通过 RAG大型语言模型LLM从数据库中检索上下文文档以提高答案的准确性。RAG 是增强模型知识的一种流行方法无需进行微调。协调器协调器如 LangChain、LlamaIndex、FastRAG 等是将 LLM 连接到工具、数据库、记忆等的流行框架并增强其能力。Zlai也是属于这里。检索器用户指令通常没有针对检索进行优化。可以应用不同的技术例如多查询检索器、HyDE 等来重新措辞/扩展它们并提高性能。记忆为了记住先前的指令和回答LLM 和像 ChatGPT 这样的聊天机器人将这些历史信息添加到上下文窗口中。可以通过总结例如使用较小的 LLM、向量存储 RAG 等方法来改进这个缓冲区。评估我们需要评估文档检索上下文精确度和召回率和生成阶段答案的准确性和相关性。可以使用 Ragas 和 DeepEval 等工具简化评估过程。参考资料Llamaindex - 高级概念: 在构建 RAG 流水线时需要了解的主要概念。Pinecone - 检索增强: 检索增强过程的概述。LangChain - 基于 RAG 的问答: 构建典型 RAG 流水线的逐步教程。LangChain - 记忆类型: 不同记忆类型及其相关用法的列表。RAG 流水线 - 评估指标: 评估 RAG 流水线的主要指标概述。4. 高级 RAG现实应用可能需要复杂的管道包括 SQL 或图数据库以及自动选择相关工具和 API。这些高级技术可以改进基础解决方案并提供额外功能。查询构造存储在传统数据库中的结构化数据需要特定的查询语言如 SQL、Cypher、元数据等。我们可以直接将用户指令转换为查询以通过查询构造访问数据。代理和工具代理通过自动选择最相关的工具来增强 LLM。这些工具可以像使用 Google 或 Wikipedia 这样简单也可以像 Python 解释器或 Jira 这样复杂。后处理最后一步处理输入的数据这些数据被送入 LLM。通过重新排序、RAG-fusion 和分类等方法增强检索文档的相关性和多样性。编程 LLM像 DSPy 这样的框架允许您基于自动评估以编程方式优化提示和权重。参考资料LangChain - 查询构造: 介绍不同类型查询构造的博客文章。LangChain - SQL: 关于如何使用 LLM 与 SQL 数据库交互的教程包括文本到 SQL 的转换和可选的 SQL 代理。Pinecone - LLM 代理: 介绍不同类型的代理和工具。LLM 驱动的自主代理 by Lilian Weng: 关于 LLM 代理的理论文章。LangChain - OpenAI 的 RAG: 概述 OpenAI 采用的 RAG 策略包括后处理。DSPy 的 8 个步骤: 一般用途的 DSPy 指南介绍模块、签名和优化器。5. 推理优化文本生成是一个成本高昂的过程需要昂贵的硬件。除了量化之外还有各种技术被提出以最大化吞吐量并降低推理成本。闪电注意力Flash Attention优化注意力机制将其复杂度从平方级别降低到线性级别从而加快训练和推理速度。键值缓存Key-value cache了解键值缓存以及 多查询注意力Multi-Query AttentionMQA 和 分组查询注意力Grouped-Query AttentionGQA 中引入的改进。推测解码Speculative decoding使用一个小模型生成草稿然后由更大的模型进行审查以加速文本生成。参考资料GPU 推理 by Hugging Face: 解释如何优化 GPU 上的推理。LLM 推理 by Databricks: 生产环境中优化 LLM 推理的最佳实践。优化 LLM 的速度和内存 by Hugging Face: 介绍三种主要的优化技术量化、Flash Attention 和架构创新。辅助生成 by Hugging Face: Hugging Face 的版本的推测解码介绍了其工作原理以及实现代码。6. 部署 LLM在大规模部署 LLM 是一项工程壮举可能需要多个 GPU 集群。在其他场景下演示和本地应用可以用更低的复杂度实现。本地部署隐私是开源 LLM 相较于私有 LLM 的一个重要优势。本地 LLM 服务器如 LM Studio、Ollama、oobabooga、kobold.cpp 等利用这一优势为本地应用提供支持。演示部署像 Gradio 和 Streamlit 这样的框架有助于原型设计和分享演示。你也可以轻松地在线托管这些应用例如使用 Hugging Face Spaces。服务器部署大规模部署 LLM 需要云服务参见 SkyPilot或本地基础设施通常利用优化的文本生成框架如 TGI、vLLM 等。边缘部署在受限环境中像 MLC LLM 和 mnn-llm 这样的高性能框架可以将 LLM 部署在网页浏览器、Android 和 iOS 上。参考资料Streamlit - 构建基本的 LLM 应用: 教程讲解如何使用 Streamlit 创建一个基本的类似 ChatGPT 的应用。HF LLM 推理容器: 使用 Hugging Face 的推理容器在 Amazon SageMaker 上部署 LLM。Philschmid 博客 by Philipp Schmid: 关于使用 Amazon SageMaker 部署 LLM 的高质量文章集合。优化延迟 by Hamel Husain: 比较 TGI、vLLM、CTranslate2 和 mlc 在吞吐量和延迟方面的表现。7. 安全性 LLM除了传统的软件安全问题外LLM 由于其训练和提示方式还存在独特的弱点。提示攻击与提示工程相关的不同技术包括提示注入附加指令以劫持模型的回答、数据/提示泄露检索其原始数据/提示和越狱构造提示以绕过安全功能。后门攻击向量可以针对训练数据本身例如通过毒化训练数据例如添加虚假信息或创建后门秘密触发器以在推理过程中改变模型的行为。防御措施保护 LLM 应用的最佳方法是针对这些漏洞进行测试例如使用红队和检查工具如 garak并在生产环境中监控它们使用像 langfuse 这样的框架。参考资料OWASP LLM 前10大安全问题 by HEGO Wiki: 列出了在 LLM 应用中看到的十大最关键漏洞。Prompt Injection Primer by Joseph Thacker: 针对工程师的简短指南专注于提示注入。LLM 安全 by llm_sec: 涉及 LLM 安全的广泛资源列表。红队测试 LLM by Microsoft: 如何进行 LLM 红队测试的指南。​最后我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我整理出这套 AI 大模型突围资料包✅AI大模型学习路线图✅Agent行业报告✅100集大模型视频教程✅大模型书籍PDF✅DeepSeek教程✅AI产品经理入门资料完整的大模型学习和面试资料已经上传带到CSDN的官方了有需要的朋友可以扫描下方二维码免费领取【保证100%免费】​​为什么说现在普通人就业/升职加薪的首选是AI大模型人工智能技术的爆发式增长正以不可逆转之势重塑就业市场版图。从DeepSeek等国产大模型引发的科技圈热议到全国两会关于AI产业发展的政策聚焦再到招聘会上排起的长队AI的热度已从技术领域渗透到就业市场的每一个角落。智联招聘的最新数据给出了最直观的印证2025年2月AI领域求职人数同比增幅突破200%远超其他行业平均水平整个人工智能行业的求职增速达到33.4%位居各行业榜首其中人工智能工程师岗位的求职热度更是飙升69.6%。AI产业的快速扩张也让人才供需矛盾愈发突出。麦肯锡报告明确预测到2030年中国AI专业人才需求将达600万人人才缺口可能高达400万人这一缺口不仅存在于核心技术领域更蔓延至产业应用的各个环节。​​资料包有什么①从入门到精通的全套视频教程⑤⑥包含提示词工程、RAG、Agent等技术点② AI大模型学习路线图还有视频解说全过程AI大模型学习路线③学习电子书籍和技术文档市面上的大模型书籍确实太多了这些是我精选出来的④各大厂大模型面试题目详解⑤ 这些资料真的有用吗?这份资料由我和鲁为民博士共同整理鲁为民博士先后获得了北京清华大学学士和美国加州理工学院博士学位在包括IEEE Transactions等学术期刊和诸多国际会议上发表了超过50篇学术论文、取得了多项美国和中国发明专利同时还斩获了吴文俊人工智能科学技术奖。目前我正在和鲁博士共同进行人工智能的研究。所有的视频教程由智泊AI老师录制且资料与智泊AI共享相互补充。这份学习大礼包应该算是现在最全面的大模型学习资料了。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。智泊AI始终秉持着“让每个人平等享受到优质教育资源”的育人理念‌通过动态追踪大模型开发、数据标注伦理等前沿技术趋势‌构建起前沿课程智能实训精准就业的高效培养体系。课堂上不光教理论还带着学员做了十多个真实项目。学员要亲自上手搞数据清洗、模型调优这些硬核操作把课本知识变成真本事‌​​​​如果说你是以下人群中的其中一类都可以来智泊AI学习人工智能找到高薪工作一次小小的“投资”换来的是终身受益应届毕业生‌无工作经验但想要系统学习AI大模型技术期待通过实战项目掌握核心技术。零基础转型‌非技术背景但关注AI应用场景计划通过低代码工具实现“AI行业”跨界‌。业务赋能 ‌突破瓶颈传统开发者Java/前端等学习Transformer架构与LangChain框架向AI全栈工程师转型‌。获取方式有需要的小伙伴可以保存图片到wx扫描二v码免费领取【保证100%免费】**​