0x0D AI之路(2025版)

[lzh2nix]

缘起

1. 大模型没出来之前如果要搞AI，你必须得去搞算法，那得好几年的研究，有了大模型之后可以通过基础模型快速的实现自己的想法，而且目前的大模型推理能力已经足够的强大，应用侧就是提供的更多的context， 然后让大模型去推理。
2. 接下来的三/五年估计是 AI创业最黄金的几年， 错过了移动互联网整个大浪潮，这一波错过了那就得能很久了。

001 LangChain

选择 LangChain 的原因:

1. Langchain 最大的特定还是他的实战特性，从实操去出发学习 LLM相关的知识
2. Langchain 是可编程的相比 dify/n8n 更底层也更具有通用性, 主要通过其学习一下相对基础的一些知识

• 001 Preface(2025.09.20)
• 002 LLM Fundamentals with LangChain(2025.09.21)

002 生成式人工智慧與機器學習導論2025

• 001 Generative AI 的基本原理(2025.10.03)

003 Agentic Design Patterns: A Hands-On Guide to Building Intelligent Systems

004 memos

[lzh2nix]

001 Preface(2025.09.20)

LLM 和传统 ML 的不同点:

1. LLM 是在一个很大的数据集(40T)上训练，训练类似的模型需要很大的花销(DeepSeek 600万美金)，不像之前的 ML 主要 focus 在算法上
2. 足够的通用, 之前在 ML 阶段训练的都是 spicific 的。语音识别就是语音识别，翻译就是翻译可能是完全两波人在搞，也没有通用性

transformer 架构: 基于词在句子 code sequence 里其他 code 的关系来预测下一个词

然后在看到 中国的首都是___, 中国， 首都， 然后最关联的就是北京

Brief Primer on Prompting

• zero-shot prompting: 简单问题可以直接丢给 LLM 回答， xxx 出生的出生是在哪个年代

• Chain-of-Thought: 给LLM 每一步的思考流程

• Retrieval-Augmented Generation(RAG):

• Tool Calling:在 RAG 的基础上使用指定的工具

LangChain 的几个优势:

1. Beyond Chat
2. 提供了 prompt template 的抽象
3. 提供了很多第三方的 tool 可以直接使用(也可以直接用 MCP adapter)
4. 针对 RAG 提供了 embedding 和 vector store
5. 给 CoT 提供了 agent 的抽象

Back To Top

[lzh2nix]

002 LLM Fundamentals with LangChain(2025.09.21)

书中的例子都是基于openai的， 在国内只能使用 qwen 来代替。关于 ChatModel的两个关键参数:

temperature: LLM 自由发挥空间控制,月底越是开预测的， 在不同的场景是使用不同的值(数学编程中使用 0.1， 创意性文本使用 0.9)

max_tokens: 控制 token 的使用量(cost,output)

几个关键的 Role 及对应的 message：

System Role(SystemMessage): LLM 在回答问题时必须遵守的 rule

User Role(HumanMessage): 普通用户的输入

assistant Role(AIMessage): LLM 生成的 message

from langchain_core.messages import HumanMessage,SystemMessage
from langchain_openai import ChatOpenAI
model = ChatOpenAI(
    model="qwen3-max-preview",
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
    temperature=0.0
    )

# 测试调用
prompt = [
    SystemMessage(content="你是一个 helpful 的助手。使用最简单的语句来回答问题"),
    HumanMessage(content="法国的首都是哪里？")
    ]
resp = model.invoke(prompt)
print(resp.content)

output:

巴黎

在 LLM 中最大变量还是 prompt，加了 system message(使用最简单的语句来回答问题) 前后的输出对比:

其实最让我惊讶的是让其按照指定的 context 去推理:

这样的话就让其完全按照 context 去推理，知识将推理的能力泛化到这个问题上。也避免了胡乱回答

from langchain_core.prompts import PromptTemplate
from langchain_openai import ChatOpenAI

model = ChatOpenAI(
    model="qwen3-max-preview",
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
    temperature=0.0
    )

template = PromptTemplate.from_template("""基于以下的上下文来回答问题。只回答和 context 相关的问题，否则礼貌的拒绝回答
                                        
                                        Context: {context}
                                        
                                        Question: {question},
                                        
                                        Answer:""")

prompt = template.invoke({  # pyright: ignore[reportUnknownMemberType]
    "context":"""The most recent advancements in NLP are being driven by Large
    Language Models (LLMs). These models outperform their smaller
counterparts and have become invaluable for developers who are creating
applications with NLP capabilities. Developers can tap into these models
through Hugging Face's transformers library, or by utilizing OpenAI
and Cohere's offerings through the openai and cohere libraries,
respectively.""",
    "question":"哪些模型提供了 LLM 的能力?"
})
resp = model.invoke(prompt)
print(resp.content)  # pyright: ignore[reportUnknownMemberType, reportUnknownArgumentType]

后面output format(json,xml,csv). 异步处理(batch/stream/LCEL) 也算是语言层面的常规操作， 下一章开始和最有数据chat

Back To Top