
示例工程大模型人工智能【免费下载链接】LLMs-from-scratchImplement a ChatGPT-like LLM in PyTorch from scratch, step by step项目地址https://gitcode.com/GitHub_Trending/ll/LLMs-from-scratch点击查看免费下载本文以LLMs-from-scratch仓库的官方环境配置文档setup/01_optional-python-setup-preferences/README.md为主线完整讲解在本地为「从零手写类 ChatGPT 大语言模型」系列代码搭建 Python 开发环境的三种主流方案uvuv pip接口官方推荐首选、CondaMiniforge以及进阶的uv 原生命令uv sync/uv add与pixi。读完本文你将能够独立完成 Python 版本选择、虚拟环境创建、依赖安装、环境自检与 JupyterLab 启动的全部流程并理解仓库中requirements.txt、pyproject.toml、pixi.toml三类依赖清单的差异与适用场景。环境设置的整体思路与工具选型仓库作者在长期使用conda与pip之后近年转向了uv——一个安装速度更快、依赖解析更高效的 Python 包管理工具。官方给出的推荐路径是首选 Option 1使用 uv2025 年更现代的做法若 Option 1 遇到问题再回退到Option 2使用 CondaMiniforge。文档以 macOS 为例编写但工作流同样适用于 Linux多数步骤也兼容其他操作系统。整个环境搭建的核心理念是始终在独立的虚拟环境中安装依赖避免污染操作系统自带的 Python从而防止系统级冲突。提示如果你只是在 Google Colab 上运行仓库中的 notebook可以直接在 notebook 顶部的新单元格执行pip install uv uv pip install --system -r 仓库根目录的 requirements.txt一行命令完成全部依赖安装跳过本文的其余本地配置步骤。Option 1使用 uvuv pip接口uv pip接口的语法与传统的pip高度相似对熟悉 pip 的 Python 用户几乎没有学习成本是官方推荐初学者优先尝试的路线。1. 检查或安装 Python首先确认系统中是否已安装现代版本的 Python官方建议3.10 或更新在终端执行python --version若返回结果为 3.10 或更新版本则无需进一步操作若提示找不到命令可尝试python3 --version因为部分系统默认使用python3命令若 Python 未安装或版本过旧按下述方式安装。Python 版本选择的黄金法则建议安装比最新发布版本落后 12 个版本的 Python以保证与 PyTorch 的兼容性。例如最新版本为 3.13 时推荐安装 3.10 或 3.11。仓库自身的 pyproject.toml 也声明了requires-python 3.10,3.15即代码库正式支持的 Python 范围为 3.10 至 3.14。各平台安装方式LinuxUbuntu/Debiansudo apt update sudo apt install python3.10 python3.10-venv python3.10-devmacOS使用 Homebrewbrew install python3.10也可以从 Python 官网下载页面下载并运行安装器。Windows从 Python 官网下载并运行安装器即可。2. 创建虚拟环境虚拟环境的目的是隔离项目依赖避免修改操作系统可能依赖的系统级包。在项目目录下依次执行三步# 1. 安装 uv pip install uv # 2. 创建虚拟环境使用 Python 3.10 uv venv --pythonpython3.10 # 3. 激活虚拟环境Linux/macOS source .venv/bin/activateWindows 用户需要将激活命令替换为source .venv/Scripts/activate或.venv/Scripts/activate。需要特别注意的是每次新开终端会话都必须重新激活虚拟环境。例如第二天继续开发时只需在项目目录再次执行source .venv/bin/activate即可。想退出环境时执行deactivate命令。激活成功后终端会显示环境标识后续所有python、pip、uv pip命令都会在.venv环境内生效。3. 安装依赖包激活环境后即可使用uv安装 Python 包。安装单个包uv pip install packaging安装仓库根目录的requirements.txt中列出的全部依赖假设文件与终端会话位于同一目录uv pip install -r requirements.txt也可以直接从仓库远程获取最新的依赖清单进行安装。若上述命令因平台差异如 Windows 上的某些依赖出现问题可以随时回退到常规 pippip install -r requirements.txt可选依赖组bonus仓库的 pyproject.toml 中定义了一个bonus依赖组包含blobfile、chainlit、huggingface_hub、ipywidgets、openai、scikit-learn、sentencepiece、transformers等用于各章 bonus 扩展材料的包。若希望在阅读可选的 bonus 材料时不必逐个手动安装可在项目根目录一次性安装uv pip install --group bonus4. 验证环境并启动 JupyterLab环境配置完成后可运行仓库自带的环境检查脚本确认所有依赖版本满足要求python setup/02_installing-python-libraries/python_environment_check.py该脚本的实现逻辑值得关注源码见 python_environment_check.pyget_requirements_dict()读取仓库根目录的requirements.txt使用packaging.requirements.Requirement解析每一行正确处理环境标记environment markers例如 Intel macOS 与 ARM macOS 对torch/tensorflow的不同版本约束跳过注释行与空行get_packages()通过importlib动态导入各包并读取__version__对tensorflow-cpu这类特殊包名做了模块名映射处理check_packages()用packaging.specifiers.SpecifierSet将已安装版本与声明版本范围逐一比对不匹配时输出[FAIL]提示。配套的单元测试 tests.py 直接调用脚本的main()并断言输出中不包含FAIL确保脚本在 CI 与本地都能作为环境体检的「金标准」使用。如果检查发现某个包有问题可用uv pip install packagename单独重装packagename需替换为实际包名。问题持续存在时可转到下面的Option 2使用 Conda方案或前往仓库的 Discussion 区提问。最后启动 JupyterLab 开始运行代码仓库各章代码均以 notebook 形式提供jupyter lab若jupyter lab命令报错可用虚拟环境内的完整路径启动Linux/macOS 下使用.venv/bin/jupyter labWindows 下使用.venv\Scripts\jupyter-lab。Option 2使用 CondaMiniforge若 uv 路线遇到问题官方提供了基于condaMiniforge 发行版的备选方案。Miniforge 是 conda-forge 社区维护的精简发行版流程同样以 macOS 为例Linux 操作类似。1. 下载并安装 Miniforge从 Miniforge 的 GitHub 仓库页面下载安装包。根据操作系统不同下载的是.sh文件macOS、Linux或.exe文件Windows。对于.sh文件在终端执行假设下载到了桌面Desktop/需替换为实际下载目录如Downloads/sh ~/Desktop/Miniforge3-MacOSX-arm64.sh随后按提示逐项确认回车完成安装。2. 创建新的虚拟环境官方建议创建一个名为LLMs的独立虚拟环境conda create -n LLMs python3.10与 uv 章节相同这里同样遵循「使用比最新版落后一到两个版本的 Python」的原则若最新 Python 为 3.13则推荐 3.10 或 3.11因为许多科学计算库不会立即支持最新版 Python。每次打开新的终端窗口或标签页后都需要激活该环境conda activate LLMs可选若希望终端能直观显示当前激活的虚拟环境可以配置 Oh My Zsh 之类的终端主题来美化提示符。3. 安装新的 Python 库激活LLMs环境后可使用 conda 安装包。例如同时安装 JupyterLab 与 watermark一个在 notebook 中打印环境信息的实用小工具conda install jupyterlab watermark也可以继续使用pip安装默认情况下pip会自动关联到新创建的LLMsconda 环境因此pip install的包会安装进该环境而非系统环境。4. 安装 PyTorchPyTorch 可以像普通 Python 包一样通过 pip 安装pip install torch不过由于 PyTorch 是一个同时包含 CPU 与 GPU 代码的综合性库具体安装可能还需要额外配置书中A.1.3 安装 PyTorch一节有详细说明强烈建议同时参考 PyTorch 官网的安装指南菜单来选择适合当前硬件与 CUDA 版本的安装命令。5. 安装本书所需的 Python 包conda 方案中剩余依赖的完整安装步骤请参考文档 setup/02_installing-python-libraries/README.md其中提供了基于requirements.txt的 pip 安装命令、python_environment_check.py版本校验以及 JupyterLab 连接了错误 conda 环境时的排查建议可使用watermark --conda检查当前 notebook 关联的环境。进阶方案 Auv 原生命令uv sync/uv add主文档中提到uv 还有一套比uv pip更快的原生命令接口详细教程见 setup/01_optional-python-setup-preferences/native-uv.md。原生uv接口比uv pip开销更少无需处理 PyPy 依赖管理等历史兼容逻辑因此速度更快。不同包管理工具的速度对比官方文档给出了以下安装时依赖解析速度的对比注意仅指安装时的依赖解析速度不涉及包运行性能且对当前项目而言安装是一次性操作选择工具时更应以整体便利性为准命令速度对比conda install pkg最慢基准线pip install pkg比上者快 2–10 倍uv pip install pkg比上者快 5–10 倍uv add pkg比上者快 2–5 倍安装 uvmacOS 与 Linux二选一curl -LsSf https://astral.sh/uv/install.sh | sh或wget -qO- https://astral.sh/uv/install.sh | shWindowsPowerShellpowershell -c irm https://astral.sh/uv/install.ps1 | more更多安装方式可查阅 uv 官方文档的 standalone installer 章节。用uv sync一键安装全部依赖uv sync会直接读取仓库根目录的 pyproject.toml在.venv子目录中创建独立的虚拟环境并安装全部依赖含dev依赖组并生成uv.lock锁文件uv sync --dev --python 3.11若系统没有 Python 3.11uv 会自动下载并安装同样建议使用比最新版落后 13 个版本的 Python例如最新 3.13 时可用 3.10、3.11 或 3.12以保证 PyTorch 兼容Windows 用户若遇到依赖问题可回退方案先uv add pip再uv run python -m pip install -U -r requirements.txt想彻底重建环境时直接删除.venv文件夹再重新执行uv sync即可。用uv add/uv remove增删包安装pyproject.toml中未声明的包uv add packaging移除包uv remove packaginguv add的额外优势在于它会同步把新依赖记录到pyproject.toml与uv.lock中保证依赖声明的可追溯性。用uv run运行脚本环境就绪后可随时用uv run在项目环境中执行命令uv run python setup/02_installing-python-libraries/python_environment_check.py uv run jupyter lab跳过uv run前缀如果觉得每次输入uv run繁琐可以手动激活虚拟环境后直接使用python/jupytermacOS/Linuxsource .venv/bin/activateWindowsPowerShell.venv\Scripts\activate可选手动管理虚拟环境也可以继续使用uv pip接口手动管理。但注意这种方式不会像uv add那样在uv.lock中记录依赖且需要手动创建并激活虚拟环境# 1. 创建虚拟环境保存到 .venv 子目录 uv venv --pythonpython3.10 # 2. 激活macOS/Linux source .venv/bin/activate # 3. 从仓库远程安装最新依赖 uv pip install -U -r 仓库根目录的 requirements.txt进阶方案 Bpixi多语言声明式环境管理对偏好pixi原生命令的用户仓库还提供了完整教程 setup/01_optional-python-setup-preferences/native-pixi.md。pixi 与 uv 都是现代 Python 包与环境管理工具区别在于pixi 是多语言包管理器不仅管理 Python还支持其他语言类似 conda而uv 是 Python 专用工具专注超快的依赖解析与安装。需要管理多种语言环境、或偏好类似 conda 的声明式环境管理时可优先选择 pixi。值得注意pixi 内部底层依赖 uv 的解析能力因此与uv add的工作流类似。安装 piximacOS 与 Linux二选一curl -fsSL https://pixi.sh/install.sh | sh或wget -qO- https://pixi.sh/install.sh | shWindows从 pixi 官方文档下载安装器或运行其列出的 PowerShell 命令。用 pixi 安装 Pythonpixi add python3.10同样遵循「落后最新版 12 个版本」的 Python 选择原则。用pixi install安装项目依赖pixi install会读取仓库根目录的 pixi.toml默认创建项目专属的独立虚拟环境一次性安装全部依赖pixi installpixi.toml 中声明了项目运行所需的核心依赖python 3.10.*、pytorch-cpu 2.6.0、jupyterlab 4.3.5、tiktoken 0.9.0、matplotlib 3.10.0、tqdm、pandas、numpy、psutil以及通过[pypi-dependencies]引入的tensorflow与llms-from-scratch以 editable 方式安装当前项目包。Windows 用户遇到依赖问题时可回退使用pixi run pip install -U -r requirements.txt。新增 / 移除pixi.toml中未声明的包pixi add packaging pixi remove packaging用pixi run运行代码pixi run python setup/02_installing-python-libraries/python_environment_check.py pixi run jupyter lab仓库依赖清单详解无论选择哪种安装方式最终安装的依赖都以仓库根目录的 requirements.txt 为准。这份清单按章节标注了每个包的用途注释见文件原文包版本约束涉及章节 / 用途torch2.2.2Intel macOS 特例2.6全章节PyTorch 深度学习框架jupyterlab4.0全章节运行 notebooktiktoken0.5.1ch02 / ch04 / ch05OpenAI BPE 分词器matplotlib3.7.1ch04 / ch06 / ch07绘图tensorflow2.16.2Intel macOS/2.18.0ch05 / ch06 / ch07用于加载/比较参考权重tqdm4.66.1ch05 / ch07进度条numpy1.26多个库torch、pandas 等的传递依赖pandas2.2.1ch06数据处理psutil5.9.5ch07通常随 torch 自动安装同时pyproject.toml 中的[project].dependencies提供了等价且更细粒度、带平台/版本标记的依赖声明并额外包含pip25.0.1与pytest9.1.1[dependency-groups]下定义了dev构建与发布工具链如build、twine、tokenizers、safetensors与bonus各章扩展材料所需两组可选依赖。这也是「uv 原生方案直接读pyproject.tomluv pip方案读requirements.txt」的根本原因。常见问题与排查建议Python 版本过新科学计算生态尤其 PyTorch对新版 Python 支持滞后请遵循「落后最新版 12 个版本」的原则选择 3.10 / 3.11 / 3.12。Windows 平台依赖异常requirements.txt与pyproject.toml中部分包如 tensorflow 相关在 Windows 上有特殊处理出现问题时优先回退到常规pip install -r requirements.txt或改用 pixi 方案pixi.toml 对 Windows 单独声明了tensorflow-cpu。JupyterLab 环境错乱notebook 中 import 失败但终端正常时多半是 JupyterLab 关联到了错误的 conda 环境可用watermark配合--conda标志核对详见 setup/02_installing-python-libraries/README.md。依赖版本冲突运行python setup/02_installing-python-libraries/python_environment_check.py定位不满足版本要求的包然后用uv pip install 包名单独重装。单包重装无效问题持续时建议切换另一套环境方案如从 uv 切到 Conda重新搭建或在仓库 Discussion 区寻求帮助。至此你的本地开发环境已完全就绪无论是跟随 ch02 实现数据加载、ch03 搭建多头注意力还是 ch05 预训练 GPT 模型都可以在 JupyterLab 中直接运行对应的 notebook 代码了。赞分享示例工程大模型人工智能【免费下载链接】LLMs-from-scratchImplement a ChatGPT-like LLM in PyTorch from scratch, step by step项目地址https://gitcode.com/GitHub_Trending/ll/LLMs-from-scratch点击查看免费下载相关推荐pixi 环境离线交付实战使用 pixi-pack 打包、分发与重建 Conda 环境pixi 环境离线交付实战使用 pixi pack 打包、分发与重建 Conda 环境 本文围绕 pixi 生态中的 pixi pack / pixi unp开发工具CLI包管理器任务调度qgis2web完全指南无需服务器轻松将QGIS项目导出为Leaflet/OpenLayers交互式地图qgis2web完全指南无需服务器轻松将QGIS项目导出为Leaflet/OpenLayers交互式地图 qgis2web是一款强大的QGIS插件能够帮助Pixi 环境导入实战用 pixi import 与 pixi init --import 迁移 conda-env 与 pypi-txt 环境Pixi 环境导入实战用 pixi import 与 pixi init import 迁移 conda env 与 pypi txt 环境 本指南围绕 Pi开发工具CLI包管理器任务调度上一篇开源 PPT 计时器 PPTTimer全屏自动倒计时让演讲不再超时下一篇TPFanCtrl2 实战ThinkPad 双风扇控制的完整指南创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考