【转载】一文看懂“提示词” vs “提示词工程” vs “上下文工程”一文看懂“提示词” vs “提示词工程” vs “上下文工程” 很多人分不清楚什么是“提示词”(Prompt),什么是“提示词工程”(Prompt Engineering),现在还又多了一个概念叫“上下文工程”(Context Engineering),这又和“提示词工程”什么区别?
LLaMAFactory 微调实战LLaMA Factory 是一个简单易用且高效的大型语言模型(Large Language Model)训练与微调平台。通过 LLaMA Factory,可以在无需编写任何代码的前提下,在本地完成上百种预训练模型的微调
MPC 不完全笔记MPC 全称 Model Context Protocol ,是由 Claude 母公司 Anthropic 于 2024 年 11 月提出的一种开放协议,它标准化了应用程序如何向LLMs提供上下文。 MCP 作为一种标准化协议,极大地简化了大语言模型与外部世界的交互方式,使开发者能够以统一的方式为 AI 应用添加各种能力。 MCP 遵循客户端-服务器架构,其中主机应用程序可以连接到多个服务器
【小记】分布式训练中进程崩溃 SIGSEGVtorch.multiprocessing.spawn.ProcessExitedException: process 1 terminated with signal SIGSEGV
【小记】纯手工绘制 Transformer 架构流程图纯手工绘制 Transformer 架构图;Drawing the Transformer architecture diagram by hand
Cloudflare + 自定义域名 + Cursor Free VIP = Cursor Pro如果想一直使用真实邮箱,则到期或限额用完后需要去官网注销账号,然后重新注册,这样的可能会被记住机器码,此时使用 Cursor Free VIP 的功能 1:重置机器ID;即可重复使用 如果不想重复注销账号,则可以使用我们上面申请的无限邮箱账号,到期或限额用完后使用新账号,选择功能 2:使用自定义邮箱注册Cursor;会自动注册 Cursor 账号,我们只需要登录即可(从 Cursor 登录时会跳转到网页,此时我们可以使用验证码登录,这样验证码就会发送到我们之前设置好的真实邮箱中了)
Mac HomebrewHomebrew 是 macOS 和 Linux 下的包管理器,用于安装和管理各种开发工具、系统库和常用软件。其口号是:“The missing package manager for macOS (or Linux)” Homebrew 通过简单的命令就能安装、更新、卸载和查找软件包,极大地简化了软件管理流程,尤其适合开发者使用。
【小记】在 Docker 中分布式训练深度学习模型在深度学习训练中,训练方式根据并行策略的不同分为模型并行和数据并行。 在 N 卡上使用 torch 进行数据并行训练时,又有两种不同的选择:torch.nn.DataParallel(DP)、torch.nn.DistributedDataParallel(DDP)。 今天的重点是在 Docker 中使用 torch.nn.DataParallel(DP) 进行单机多卡训练。
GPU 分布式训练——PyTorch 版在当今 AI 飞速发展的时代,模型变得越来越庞大复杂,单块 GPU 的计算能力已逐渐无法满足训练需求。这时,GPU 分布式训练应运而生,它像一个强大的引擎,通过协同多块 GPU 甚至多台机器上的 GPU,将原本漫长的训练过程大幅缩短。这不仅能让我们在更短的时间内迭代模型,探索更广阔的参数空间,也为训练超大规模模型(如大型语言模型和高分辨率图像模型)提供了可能
用 Cursor 开发了一个导航网站Cursor 已经火了一段时间了,在刚发布的时候进行了试用,但说实话给我的冲击感并不强烈,甚至觉得这不就是一节简单的 AI 写代码工具吗,同样的功能其他 vscode 插件也能实现;当时还一直在使用通义灵码,甚至后来还尝试过将 Deepseek 接入到 vscode, 同样用着还不赖。直到前段时间又看到铺天盖地的营销,决定再去试用一番,顺便上网看看教程,进行更全面的了解;
OpenAI 12 天发布会发布了啥OpenAI 于 12 月 5 日开启为期 12 天的系列发布活动,每天发布一个产品或样品,涵盖多个令人期待的 AI 工具和功能升级。包括 o1 满血版上线及 ChatGPT Pro 订阅服务、强化微调技术、Sora 正式版及新版本、ChatGPT Canvas 全面开放、与苹果合作将 ChatGPT 集成到 Apple Intelligence、高级语音模型增强、推出 ChatGPT Projects 功能、ChatGPT Search 全面升级免费开放、o1 推理模型开放 API、通过电话和 WhatsApp 使用 ChatGPT、ChatGPT 与 Mac 应用深度集成以及发布最新一代推理模型 o3 和 o3--mini。