LangChain-文本切分与Embedding
文本进入向量库前需要先切分。原文示例建议:
chunk_size取 500~1000 个字符。chunk_overlap取chunk_size的 10%~20%。- 针对代码或结构化文本,使用语言专属分割器,减少语义边界被破坏。
嵌入示例使用 DashScopeEmbeddings 的 text-embedding-v2 模型。
python
embeddings = DashScopeEmbeddings(model="text-embedding-v2")
vector = embeddings.embed_query("待检索文本")切分粒度和 Embedding 模型会影响召回质量。索引与查询应使用一致的向量化方案。