跳到主要内容

Software Tech Notebook

Common Use​

Temporary Storage​

Python​

uv​

Anaconda​

Jupyter​

Go​

JavaScript​

TypeScript​

CSS​

React​

Next.js​

FastAPI​

Django​

Celery​

Pydantic​

Git​

MySQL​

PostgreSQL​

SQLite​

MongoDB​

Redis​

Milvus​

Qdrant​

zvec​

RabbitMQ​

Kafka​

Docker​

Kubernetes​

Harbor​

Jenkins​

Linux​

WSL​

Process Management​

Machine Learning​

PyTorch​

Large Language Models​

  • 01-large-language-models — LLM 从原始世界知识到可对话服务的完整工业流程:数据工程 → 预训练 → 后训练(SFT + 偏好对齐)→ 推理部署 → 模型压缩。所有阶段用具体技术栈描述,避免抽象/比喻。
  • 02-inference-deployment — vLLM 与 SGLang 在生产环境的完整使用方法:显存优化参数、并发机制、Prometheus 指标、token 吞吐率量化、Grafana 面板、日志配置;附 vLLM vs SGLang 选型对比。所有结论来自公开文档与官方博客。

LLM Evaluation​

  • opencompass — 上海 AI Lab / 书生·浦语出品的大模型评测框架:架构、本地 / 远程模型测试、60+ 内置数据集、自定义数据集、评测指标、生产环境特性。覆盖 v0.5.3。
  • evalscope — 阿里魔搭出品的一站式大模型评测框架:四大后端、本地 / 远程模型测试、191 个内置 benchmark、CollectionSchema 权重采样、LLM-as-Judge、Arena 对战、推理压测、Web Dashboard。覆盖 v1.8.1。

Prompt Engineering​

  • prompt-engineering — 2026 年工业级 Prompt 工程:Anthropic 官方 7 大原则、DSPy 编译器范式(35.7k stars)、结构化输出四件套(Instructor / Outlines / TypeChat / Prompty)、Prompt 优化工具、模板管理三件套(LangSmith / Helicone / PromptLayer)、注入防护(NeMo Guardrails)、Few-shot/CoT/ReAct 现状、完整工业流程。

RAG​

  • rag-industrial-solutions — 2026 年最新 RAG 工业级方案选型:范式演进(Naive → Advanced → Modular + Agentic RAG)、9 大开源框架(RAGFlow / LightRAG / GraphRAG / Dify / FastGPT / MaxKB / LangChain / LlamaIndex / Haystack)、文档解析、Embedding、向量库、评测体系(RAGAS)、完整工业链路、场景化选型决策树。
  • rerank — 2026 年工业级重排序:4 种范式对比(Cross-encoder / Bi-encoder / Late Interaction / LLM-based)、主流模型(BGE v2/v3 / Cohere v3.5 / Jina m0 / Qwen3-Reranker / gte-rerank)、LLM-based 重排序(RankGPT / RankZephyr / PRP / RankT5)、工业级部署(TEI / vLLM / SGLang / TensorRT-LLM)、场景化选型决策树。

Agent​

MCP​

Skills​

AI Coding Assistants​

Model & Inference Platform​

Figma​

UI/UX Design​

Computer Networks​