↓ 跳过正文
  1. Categories/

AI技术

2026

Prompt Optimizer:一个让你写出更好 Prompt 的开源利器
AI技术 · 2026-01-20 · 3 分钟

Prompt Optimizer:一个让你写出更好 Prompt 的开源利器

用过 AI 的人大概都有这种体验:同样一个需求,Prompt 写得好和写得差,结果天差地别。问题在于,大多数人并不擅长写 Prompt——这不是天赋问题,而是缺少一个系统化的优化流程。

1035 字 阅读 ➔

2025

PDF2Markdown - 大型PDF文档智能文章提取工具完全指南
AI技术 · 2025-11-25 · 9 分钟

PDF2Markdown - 大型PDF文档智能文章提取工具完全指南

PDF2Markdown - 大型 PDF 文档智能文章提取工具 # 项目概述 # PDF2Markdown 是一个专门用于处理大型扫描件 PDF 文件的智能内容提取工具。结合传统 OCR 技术与现代 AI 大模型,智能提取文档中的纯文章内容,自动过滤图片、表格等非文章元素。完美支持中英文混合文档处理。

4214 字 阅读 ➔
RAG系统完全指南——从零搭建本地检索增强生成系统
AI技术 · 2025-08-27 · 12 分钟

RAG系统完全指南——从零搭建本地检索增强生成系统

用 LangChain + Ollama + pgvector 搭建本地 RAG:从 0 到 1 的完整实战(含 uv 依赖管理 & 面试指南) # 本文是可直接落地的 Markdown 文档。按文档自上而下执行即可从零搭建出一个本地 RAG(检索增强生成)系统,并理解关键概念与代码。所有核心脚本都附带中文注释,便于学习与面试复盘。

5894 字 阅读 ➔
CPU/GPU 与大模型训练
AI技术 · 2025-08-20 · 8 分钟

CPU/GPU 与大模型训练

AI 教程: CPU/GPU 与大模型训练 # 这是一份高浓缩资料:结构清晰、要点到位,涵盖 CPU/GPU 基础、张量与数值精度、CUDA 与 PyTorch 实操、硬件选型、常见问答与排错清单。

3684 字 阅读 ➔
Transformer架构深度解构:自注意力、几何缩放与显存IO约束
AI技术 · 2025-08-05 · 11 分钟

Transformer架构深度解构:自注意力、几何缩放与显存IO约束

现代大语言模型在长上下文扩展中遭遇的物理瓶颈,从来不是浮点计算吞吐量(FLOPs),而是高带宽显存(HBM)与片上静态随机存取存储器(SRAM)之间的访存墙。Vaswani et al. (2017) 确立的标准缩放点积注意力算子(Scaled Dot-Product Attention),在序列长度 $N$ 膨胀时,其中间注意力矩阵产生 $O(N^2)$ 的显存搬运开销,使得自注意力算子本质上沦为内存带宽受限(Memory-Bound)任务。

5026 字 阅读 ➔