开发框架
LLM 应用开发框架,如 LangChain、LlamaIndex 等
LangChain 框架教程
一份深入 LangChain 框架的实战教程,系统讲解其架构与核心模块——Chains、Agents、Memory,并配合大量代码示例。还涵盖 RAG 集成、自定义工具开发和调试策略,适合已不满足于简单提示词、希望构建生产级 LLM 应用的开发者。
Python AI/ML 库大全
一份精选的 Python AI/机器学习常用库汇总,涵盖深度学习框架 TensorFlow 和 PyTorch、经典机器学习库 Scikit-learn、数据处理工具 NumPy 与 Pandas,以及新兴的 LLM 集成工具。每个条目包含简介、典型使用场景和安装命令,是从业者构建 ML 工具箱的实用参考。
Hugging Face Transformers 教程
Hugging Face Transformers 官方教程——NLP 与计算机视觉领域的行业标准库。涵盖文本分类、分词、翻译、图像分割等任务,提供 PyTorch 和 TensorFlow 双后端代码示例。适合希望利用预训练模型或在自定义数据集上微调以投入生产使用的从业者。
LlamaIndex 框架教程
LlamaIndex 实战教程——专为构建 RAG 应用而设计的框架,将 LLM 连接到自定义数据源。涵盖数据摄入管线、索引策略、查询引擎和基于 Agent 的检索,并提供 PDF、网页和数据库连接器的实战示例。适合希望构建基于自有文档的领域专属 AI 助手的开发者。
PyTorch 深度学习框架
PyTorch 是 Meta 开发的业界主流开源深度学习框架,以动态计算图和 Python 风格的接口著称。它既支撑前沿 AI 研究,也用于生产环境部署,拥有丰富的训练、调试工具生态,支持在多 GPU 和 TPU 上扩展模型。
vLLM 高性能推理框架
vLLM 是面向大语言模型的高吞吐推理与服务引擎,通过 PagedAttention 技术大幅提升显存利用率和吞吐量。它支持连续批处理、张量并行和 OpenAI 兼容 API 服务,是大规模部署 LLM 的首选方案。
Haystack RAG 框架
Haystack 是 deepset 开源的生产级 LLM 应用框架,专注检索增强生成(RAG)和问答管线。它提供文档处理、嵌入和检索等模块化组件,可轻松对接 OpenAI、Hugging Face 等模型,适合搭建企业级搜索与知识问答系统。
DSPy
DSPy 是一个以编程(而非提示)方式使用语言模型的框架,通过组合模块化流水线并自动优化提示词和权重。它由斯坦福开发,用可复现、可测试的程序取代脆弱的提示工程,可跨不同模型和任务自适应。