最初在 2019 年,OpenAI 使用 32 块 TPU v3 芯片训练了 168 小时(7 天),当时每块 TPU v3 每小时 8 美元,总成本约为 4.3 万美元。它达到了 0.256525 的 CORE 分数,这是 DCLM 论文中提出的一个综合指标,涵盖了 ARC/MMLU 等 22 项评测。

随着最近合并到 nanochat 的多项改进(其中许多来自 modded-nanogpt 仓库),我现在可以在单个 8XH100 节点上用 3.04 小时(约 73 美元)达到更高的 CORE 分数。这意味着在 7 年内成本降低了 600 倍,也就是说,训练 GPT-2 的成本大约每年下降 2.5 倍。来源: Simon Willison 的网络日志

Andrej Karpathy

iFlow CLI

iFlow 登录

OpenAI 兼容 API

可以手动修改配置文件:~/.iflow/settings.json

{
  "cna": "dp3vIQIkkhcCAXyAlGrAY4my",
  "selectedAuthType": "openai-compatible",
  "searchApiKey": "sk-72c24939a1ac137a28e990cdee4d5d7f",
  "baseUrl": "http://localhost:11434/v1",
  "apiKey": "NONE",
  "modelName": "qwen3-coder:latest",
  "bootAnimationShown": true
}

不能使用工具(todo, write_file 等),不可用。

参考资料

LongCat-Flash-Thinking-2601 技术报告

LongCat-Flash-Thinking-2601 创新性地开启了全栈式的智能体推理(Agentic Reasoning)训练体系与架构优化。首先,提出了自动化的环境扩展流水线,构建了覆盖 20 多个领域的高质量、可执行且可验证的智能体环境,有效解决了真实世界中复杂智能体交互数据匮乏的难题。其次,针对现实任务的不确定性,创新性地引入了鲁棒性智能体训练流程,通过系统性分析现实噪声模式并采用课程强化学习(Curriculum RL)将噪声整合进训练,显著增强了模型在非理想环境下的泛化与生存能力。在底层支撑上,扩展了异步强化学习框架 DORA 以支持高达 32,000 个环境的大规模并发训练,并引入了 Heavy Thinking(深思考)模式,通过在推理阶段同时扩展思考的深度与广度(Test-time Scaling),进一步突破了复杂任务的性能边界。此外,还设计了 Zigzag Attention 稀疏注意力机制,使模型能以极低开销实现高达 100 万 token 的长上下文扩展,为长程智能体任务提供了坚实的架构基础。

重思考模式架构

“重思考模式”(Heavy Thinking Mode)是 LongCat-Flash-Thinking-2601 模型为了突破现有推理能力极限而引入的一种推理时扩展(Test-Time Scaling)架构。

Dify 定制您的政策解读智能体

📌 DSL

Dify

  1. 克隆代码仓库
git clone https://github.com/langgenius/dify
  1. Docker 部署

Dify 提供了 Docker 部署方式,您可以通过以下步骤快速部署:

cd dify
cd docker
cp .env.example .env
docker compose up -d

运行后,可以在浏览器上访问 http://localhost/install 进入 Dify 控制台并开始初始化安装操作。

vLLM

vllm serve /data/models/llm/deepseek/DeepSeek-R1-Distill-Qwen-32B-AWQ/ \
    --served-model-name gpt-4o-mini \
    --tensor-parallel-size 4 \
    --max-model-len 102400 \
    --dtype half \
    --port 8111

Ollama

  1. 安装 Ollama 服务。
curl -fsSL https://ollama.com/install.sh | sh
  1. 编辑 systemd 服务,调用 systemctl edit ollama.service。这将打开一个编辑器。
sudo systemctl edit ollama.service

对于每个环境变量,在 [Service] 部分下添加一行

评估模型投资分析能力:京东健康案例

优先使用:豆包Grok

提示词

根据历年财报进行投资分析

基于京东健康上市后历年的财报,从价值投资的角度进行分析。

文件

  • 京东健康 2020 年度报告.pdf
  • 京东健康 2021 年度报告.pdf
  • 京东健康 2022 年度报告.pdf
  • 京东健康 2023 年度报告.pdf
  • 京东健康 2024 年度报告.pdf
  • 京东健康 2025 中期报告.pdf

评估各模型投资分析能力

下面是我使用提示词:“基于京东健康上市后历年的财报,从价值投资的角度进行分析。”对多个大语言模型进行的分析结果。你作为一个评判专家,请对比各模型的分析内容,给出你的综合评价。

评判结果

Doubao

Grok 4.1

Gemini3

ChatGPT

DeepSeek-Think

混元

Kimi-K2-Think

LeChat

LongCat

MiniMax M2.1

Qwen3-千问

综合AI助手,全面回答工作、学习、生活各类问题

Qwen3-Max

千问系列中最强大的语言模型

各模型投资分析结果

Gemini

Cursor 的上下文工程与编程智能体

《Context Engineering & Coding Agents with Cursor》(Cursor 的上下文工程与编程智能体),由 Cursor 团队成员 Lee 和 CEO Michael 主讲。视频深入探讨了软件开发的演变、Cursor 如何利用 AI 提升编程效率,以及未来编程智能体的发展方向。

1. 编程的演变与 Cursor 的核心功能

  • 编程历史回顾:从打孔卡片到图形界面,再到如今的 AI 辅助编程,AI 正在以前所未有的速度推动软件开发的进步。
  • Cursor Tab (代码补全)
  • Cursor 的 Tab 功能深受 GitHub Copilot 启发,但已从简单的“预测下一个词”进化为“预测下一个动作”甚至“预测光标去向”。
  • 强化学习:模型会根据用户的“接受”或“拒绝”操作进行实时在线强化学习(RL),在 30 分钟内即可更新模型行为。
  • 平衡性:Cursor 致力于在建议速度(不打断心流)和建议质量之间找到平衡点。

2. 上下文工程 (Context Engineering)

  • 超越提示词工程:随着模型变强,获取高质量输出的关键不再是“提示词技巧”,而是提供“正确的上下文”。
  • 混合检索策略
  • 字符串匹配:单纯依靠 grep (字符串匹配) 是不够的。
  • 语义搜索:Cursor 通过对代码库建立索引(embeddings),即使文件名不完全匹配(如 header.tsx vs "top navigation"),也能通过语义准确找到相关代码。

DeepSeek Engram:类脑记忆存储与检索新范式

Engram 是一种旨在增强大语言模型性能的条件记忆(Conditional Memory)模块。传统的 Transformer 架构在处理静态知识检索时效率较低,往往需要通过复杂的计算来模拟记忆,而 Engram 通过现代化的 N-gram 哈希查找实现了常数级时间复杂度 O(1) 的知识获取。研究者揭示了一种 U 型缩放法则,证明在固定参数预算下,平衡条件计算(MoE)静态内存(Engram) 能显著提升模型在推理、代码及数学任务中的表现。实验分析表明,Engram 能减轻模型底层对基础模式的重复构建,从而释放更多算力用于处理全球上下文和深度推理。此外,Engram 的确定性寻址特性支持从主机内存预取数据,使其能在不增加硬件负担的情况下实现大规模参数扩张。最终,该技术为构建更高效、具备长文本处理能力的新一代稀疏模型提供了核心原语。

Engram 架构

记忆内存的参数就像是图书馆书架上的一本本百科全书,记录着世界上的事实;而 Engram 模块的参数就像是一位经验丰富的图书管理员。管理员通过训练(学习),能够根据你当前提出的研究课题(隐藏状态),迅速判断哪些百科全书的条目是有用的,哪些是由于名字相似而找错的(哈希冲突),并帮你把这些知识翻译成你研究报告能用的语言(投影整合)。

该模块通过检索静态 N-gram 记忆,并利用上下文感知门控(context-aware gating)将其

AI 编程的演进:从插件到原生 IDE 再到 CLI 工具

AI 编程的演进逻辑非常清晰:GitHub Copilot 作为插件,在传统 IDE 里为大众提供辅助;Cursor 则打破束缚,通过 AI 原生 IDE 实现了深度的体验跃迁;而 Claude Code 这类 CLI 工具,则是为追求极致自由与自动化的极客准备的——它摆脱了图形界面的繁琐,让开发者在命令行中,就能以‘操作指令’驱动 AI 完成从编码到部署的全流程。

AI 编程三剑客:时间线与营收对比

维度 GitHub Copilot Cursor Claude Code
代表形态 IDE 插件 (Plugin) AI 原生 IDE (Forked) CLI 智能体 (Agent)
正式发布/爆发时间 2021年6月 (预览) / 2022年6月 (正式) 2023年 (起步) / 2024年底 (爆发) 2025年2月 (GA)
年营收 (ARR) 20亿+(2025Q3数据)20 亿+ (2025年Q3数据) 10 亿+ (2025年底估算) $10 亿+ (上线6个月即达成)
用户规模 2000万+ 开发者 100万+ 付费用户 爆发式增长中 (API驱动)
核心地位 行业标准与基建 效率工具的巅峰 自主编程的开端

1. GitHub Copilot:稳坐江山的“老牌霸主”

  • 登基时间: 2021-2022年。它是 AI 编程的开创者,利用 GitHub 庞大的生态系统,迅速完成了从 0 到 1 的教育。
  • 营收状况: 2025年 9月,微软在财报中确认 GitHub Copilot 的年经常性收入(ARR)已突破 20 亿美元
  • 现状: 虽然面临 Cursor 的挑战,但它依然是 90% 以上 500 强企业的标准配置。它的战略重心已转向 “代理化” (Agentic),在 GitHub Universe 2025 上展示了全流程的 AI 协作能力。

NVIDIA CES 2026:物理 AI 时代来了

NVIDIA 正致力于打造全栈物理AI(Physical AI)平台,推动人工智能从数字领域向理解并交互物理世界跨越。该平台的核心由 Cosmos 世界模型、Omniverse 模拟环境以及针对机器人(GROOT)和自动驾驶(Alpamayo)的专属模型组成。

在硬件层面,NVIDIA 推出了突破性的 Vera Rubin 架构。其中,Rubin GPU 拥有 3360 亿个晶体管,其推理性能达到 Blackwell 的 5 倍;Vera CPU 则配备 88 个定制内核,显著提升了系统内存带宽。配合 BlueField-4 DPU 和 NVLink 6 技术,NVIDIA 构建了能够支持海量算力需求的 AI 基础设施。

  • NVIDIA Omniverse:是 NVIDIA 推出的、基于 OpenUSD 的实时 3D 开发与协作平台,核心用于构建大规模 3D 应用、工业数字孪生及物理 AI 仿真,依托 RTX 渲染与 GPU 加速,实现跨工具互操作、实时协作与高保真模拟,支持云边端灵活部署。
  • NVIDIA Cosmos:这是一款为物理 AI 设计的世界基础模型(World Foundation Model)。它能理解物理定律(如重力、惯性、碰撞),并能将合成数据(Synthetic Data)转化为训练 AI 的高质量数据,解决物理世界数据稀缺的问题。
  • Alpamayo:NVIDIA 发布了首个具备推理能力的自动驾驶 AI。它不仅能控制车辆,还能用自然语言解释其驾驶行为的原因,应对道路上的长尾(边缘)案例。
  • GROOT:是 NVIDIA 面向通用人形机器人的开放基础模型体系,核心是视觉-语言-动作(VLA)端到端架构,以双系统协同实现环境理解与实时动作生成,依托 Omniverse 仿真与 Cosmos 数据平台形成机器人 “学习-仿真-部署” 闭环。

分析基于边端电力设备的人工智能应用

基于边端电力设备的报文需要使用人工智能

这是一个非常前沿且具有实际意义的问题。简单直接的回答是:是的,在边端电力设备中引入人工智能(AI)处理报文,正在从“锦上添花”转变为“行业刚需”。

传统的电力报文处理主要依赖预设规则阈值报警,但在复杂的现代电网环境下,这种方式已显露疲态。

以下是为什么边端电力设备报文需要 AI 的核心原因及应用场景:

1. 毫秒级的实时响应需求

电力系统的故障处理通常要求在 到 内做出反应。

  • 传统痛点: 如果将海量报文上传到云端处理,网络延迟和带宽压力会导致响应滞后。
  • AI 优势: 在边缘侧部署轻量化 AI 模型(如卷积神经网络 CNN 或长短期记忆网络 LSTM),可以直接在设备端实时解析 GOOSE、SV 等协议报文,瞬间识别出瞬时故障并触发保护机制。

2. 网络安全与入侵检测

电力报文(如 IEC 61850、DNP3)往往缺乏复杂的加密,容易受到恶意篡改或重放攻击。

  • AI 应用: AI 可以学习正常报文的“行为基准”(流量特征、时间间隔、序列逻辑)。一旦黑客尝试通过异常报文操纵开关,AI 能基于异常检测算法识别出这种不符合常规逻辑的行为并阻断,这是静态规则防火墙难以做到的。

3. 故障预测与健康管理 (PHM)

报文不仅是指令,还包含丰富的设备状态数据。

  • 应用场景: 通过对变压器、断路器上报的采样值(SV)报文进行深度挖掘,AI 可以捕捉到波形中极其细微的畸变或局部放电特征。
  • 价值: 在设备真正坏掉之前,AI 就能发现其性能衰减的趋势,从而实现**从“事后维修”到“预测性维护”**的转变。

深度网络连接范式演进:残差连接 → 超连接 (HC) → 流形约束超连接 (mHC)

深度神经网络架构的演进,本质上是在寻找梯度稳定性特征表达力的最优解:残差连接 通过恒等映射初步破解了深层网络的退化难题,但在缓解梯度消失与防止表征坍缩之间仍存在“跷跷板效应”;超连接(HC) 在此基础上打破了固定连接的束缚,通过引入可学习的深度连接与宽度连接,允许网络“自主学习最优连接强度”,显著提升了大模型训练的性能;流形约束超连接(mHC) 则通过将 HC 的连接矩阵投影至双随机流形,利用数学上的凸组合约束恢复了恒等映射的数值稳定性,并辅以算子融合、选择性重算和 DualPipe 通信重叠等工程优化,最终在大模型训练中实现了训练稳定性和显著降低延迟负载。

深度神经网络

梯度消失与梯度爆炸

在深度学习中,梯度消失(Vanishing Gradient)梯度爆炸(Exploding Gradient) 是训练深层神经网络时经常遇到的两个核心障碍。

它们本质上是由于神经网络在反向传播过程中,梯度通过多层链式法则累积相乘导致的数值稳定性问题。

数学根源:链式法则的连乘效应

在反向传播时,我们需要计算损失函数对某一层权重的偏导数。根据链式法则,对于每一层,其梯度贡献项通常与激活函数的导数以及权重的数值有关。

  • 梯度消失: 如果每一层的梯度项都小于 1(例如使用 Sigmoid 激活函数,其导数最大值仅为 0.25),经过 层连乘后,梯度会呈指数级衰减。当层数很多时,靠近输入层的梯度会变得接近于 0,导致权重无法更新,网络停止学习。
  • 梯度爆炸: 如果每一层的权重较大(例如 ),且激活函数的导数也大于 1,梯度会随着层数的增加呈指数级增长。这会导致权重更新步长过大,数值溢出(出现 NaN),模型剧烈震荡甚至崩溃。

2026 年飞马图像生成

提示词(DeepSeek)

2026年新年来了,生成一张红色的飞马图像。以这个为基础写个生成图像的提示词

一只雄伟的飞马(天马)在绚烂的夜空中展翅翱翔,周围环绕着金色与橙红色的新年烟火,鬃毛与翅膀边缘散发柔和光芒,背景为深红色星空与闪烁的星光,风格融合奇幻艺术与节日喜庆,色彩以红色、金色为主,充满动态与希望感,4K高清,细节精致,史诗光影。

生成结果

ChatGPT

豆包

Gemini

Grok

可灵 2.1

龙猫

MiniMax

千问

元宝

美团核心能力与护城河分析

美团历年财报2018年至2025年上半年)来看,其核心能力已从早期的 “Food + Platform” 演进为 “零售+科技” 战略。在2025年上半年对“美团优选”进行战略转型并撤出亏损区域后,美团的护城河更加聚焦于高效率的即时履约网络和强大的零售生态体系。

以下是基于财报的美团核心能力与护城河分析:

1. 核心能力:全球领先的即时配送基础设施

  • 规模经济与履约效率: 美团建立了全球规模最大、订单密度最高的即时配送网络,通过人工智能调度系统优化,单均配送人工成本持续改善。
  • 物流网络韧性: 配送网络已成为本地生活的关键基础设施,在疫情等特殊时期保障了民生供应。目前,该网络不仅支撑餐饮外卖,还成功扩展至美团闪购、小象超市等即时零售品类,实现了 “万物到家” 的愿景。
  • 技术领先优势: 美团持续投入无人机配送自动配送车等前沿科技,进一步提升了长期的履约效率和创新运营能力。

2. 核心能力:高频带动低频的超级平台生态

  • 强大的双向网络效应: 美团连接了8亿交易用户和超过1450万活跃商家。这种规模效应形成了良性循环:更多的用户吸引更多商家,更丰富的供给又进一步提升了用户黏性。
  • 交叉销售与会员体系: 美团利用餐饮外卖等高频业务获取用户流量,并成功将其转化为到店、酒店及旅游等高利润业务的客户。神会员体系的升级有效实现了不同业务间的用户转化。