Giới thiệu
Vector search tìm kiếm theo ngữ nghĩa — nhưng nó không hiểu quan hệ giữa các thực thể. Khi câu hỏi đòi hỏi suy luận nhiều bước (multi-hop), vector search thường thất bại.
Ví dụ: "Ai là sếp của người quản lý dự án Alpha?"
- Vector search tìm đoạn chứa "dự án Alpha" → biết PM là Minh
- Nhưng KHÔNG tìm được "sếp của Minh" vì đó ở chunk khác, không liên quan về ngữ nghĩa
- Knowledge Graph:
Minh --[quản_lý]--> Alpha,Hùng --[quản_lý]--> Minh→ trả lời ngay!
Bài này cover:
- Knowledge Graph — xây đồ thị entity-relationship từ tài liệu
- Graph RAG — kết hợp graph + vector cho multi-hop reasoning
- Microsoft GraphRAG — framework production-ready
1. Knowledge Graph cơ bản
1.1 Khái niệm
Knowledge Graph = Đồ thị gồm:
- Nodes (entities): Người, Địa điểm, Dự án, Phòng ban...
- Edges (relationships): quản_lý, thuộc_về, làm_việc_tại...
Ví dụ:
[Minh] ──quản_lý──→ [Dự án Alpha]
[Minh] ──thuộc_về──→ [Phòng IT]
[Hùng] ──quản_lý──→ [Minh]
[Hùng] ──thuộc_về──→ [Ban Giám đốc]
[Dự án Alpha] ──sử_dụng──→ [Python]
[Dự án Alpha] ──deadline──→ [2025-06-30]
1.2 Trích xuất Knowledge Graph từ text
"""Dùng LLM để trích xuất entities và relationships"""
from langchain_openai import ChatOpenAI
from langchain.prompts import ChatPromptTemplate
llm = ChatOpenAI(model="gpt-4o-mini", temperature=0)
EXTRACT_PROMPT = ChatPromptTemplate.from_messages([
("system", """Trích xuất entities và relationships từ đoạn văn.
Output dạng JSON:
{{
"entities": [
{{"name": "...", "type": "Person|Org|Project|Location|Tech"}},
],
"relationships": [
{{"source": "...", "relation": "...", "target": "..."}},
]
}}"""),
("human", "{text}"),
])
text = """Minh là Project Manager của dự án Alpha, thuộc phòng IT.
Dự án Alpha sử dụng Python và PostgreSQL, deadline 30/6/2025.
Minh báo cáo trực tiếp cho Giám đốc Hùng."""
result = (EXTRACT_PROMPT | llm).invoke({"text": text})
print(result.content)
# {
# "entities": [
# {"name": "Minh", "type": "Person"},
# {"name": "Alpha", "type": "Project"},
# {"name": "Phòng IT", "type": "Org"},
# {"name": "Hùng", "type": "Person"},
# {"name": "Python", "type": "Tech"},
# {"name": "PostgreSQL", "type": "Tech"}
# ],
# "relationships": [
# {"source": "Minh", "relation": "quản_lý", "target": "Alpha"},
# {"source": "Minh", "relation": "thuộc_về", "target": "Phòng IT"},
# {"source": "Alpha", "relation": "sử_dụng", "target": "Python"},
# {"source": "Alpha", "relation": "sử_dụng", "target": "PostgreSQL"},
# {"source": "Minh", "relation": "báo_cáo", "target": "Hùng"}
# ]
# }
1.3 Lưu vào Neo4j
"""Lưu Knowledge Graph vào Neo4j"""
from neo4j import GraphDatabase
driver = GraphDatabase.driver(
"bolt://localhost:7687",
auth=("neo4j", "password")
)
def create_graph(entities, relationships):
with driver.session() as session:
# Tạo nodes
for entity in entities:
session.run(
"MERGE (n:{type} {{name: $name}})".format(type=entity["type"]),
name=entity["name"]
)
# Tạo edges
for rel in relationships:
session.run(
"""MATCH (a {{name: $source}}), (b {{name: $target}})
MERGE (a)-[:{relation}]->(b)""".format(relation=rel["relation"]),
source=rel["source"],
target=rel["target"]
)
# Query: "Ai quản lý dự án Alpha?"
result = session.run("""
MATCH (person)-[:quản_lý]->(project {name: 'Alpha'})
RETURN person.name
""")
# → "Minh"
# Multi-hop: "Sếp của người quản lý dự án Alpha?"
result = session.run("""
MATCH (boss)-[:quản_lý]->(manager)-[:quản_lý]->(project {name: 'Alpha'})
RETURN boss.name
""")
# → "Hùng" ← Vector search KHÔNG THỂ trả lời!
💡 Bài tập 1: Trích xuất Knowledge Graph từ 1 đoạn văn bản (ít nhất 10 entities). Lưu vào Neo4j. Thử 3 câu hỏi multi-hop.
2. Graph RAG — Kết hợp Graph + Vector
2.1 Kiến trúc
User Query
│
┌───────────┼───────────┐
│ │
┌───────┴───────┐ ┌───────┴───────┐
│ Vector Store │ │ Knowledge │
│ (semantic) │ │ Graph (Neo4j)│
└───────┬───────┘ └───────┬───────┘
│ │
Semantic chunks Graph traversal
(context rộng) (quan hệ chính xác)
│ │
└───────────┬───────────┘
│
Merge context
│
LLM → Answer
2.2 Implementation với LangChain + Neo4j
"""Graph RAG: kết hợp Neo4j graph + Chroma vector"""
from langchain_community.graphs import Neo4jGraph
from langchain.chains import GraphCypherQAChain
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(model="gpt-4o", temperature=0)
# Neo4j graph
graph = Neo4jGraph(
url="bolt://localhost:7687",
username="neo4j",
password="password",
)
# GraphCypherQAChain: LLM tự viết Cypher query
graph_chain = GraphCypherQAChain.from_llm(
llm=llm,
graph=graph,
verbose=True,
)
# Query multi-hop
result = graph_chain.invoke(
"Liệt kê tất cả tech stack mà team của Hùng sử dụng?"
)
# LLM tự generate Cypher:
# MATCH (Hùng {name:'Hùng'})-[:quản_lý]->(person)
# -[:quản_lý]->(project)-[:sử_dụng]->(tech)
# RETURN DISTINCT tech.name
2.3 Hybrid: Graph context + Vector context
"""Kết hợp graph traversal + vector search"""
def hybrid_graph_rag(question, graph_chain, vector_retriever, llm):
# 1. Graph context (quan hệ, facts)
try:
graph_context = graph_chain.invoke(question)["result"]
except Exception:
graph_context = "Không tìm thấy thông tin trong graph."
# 2. Vector context (nội dung chi tiết)
vector_docs = vector_retriever.invoke(question)
vector_context = "\n".join([d.page_content for d in vector_docs])
# 3. Merge và trả lời
prompt = f"""Dựa trên thông tin sau, trả lời câu hỏi.
**Thông tin từ Knowledge Graph:**
{graph_context}
**Thông tin từ tài liệu:**
{vector_context}
**Câu hỏi:** {question}
**Trả lời:**"""
return llm.invoke(prompt).content
3. Microsoft GraphRAG
3.1 Kiến trúc GraphRAG
Microsoft GraphRAG tự động hóa toàn bộ pipeline:
Documents → Entity Extraction → Community Detection → Summarization
│ │ │
Entities & Groups of related Summary per
Relationships entities (Leiden) community
│ │ │
└───────────────────────┼────────────────────┘
│
Query modes:
Local search │ Global search
(specific) │ (broad themes)
3.2 Setup Microsoft GraphRAG
# Cài đặt
pip install graphrag
# Init project
graphrag init --root ./my-rag-project
# Cấu hình settings.yaml
# - llm: model, api_key
# - embeddings: model
# - chunks: size, overlap
"""Index tài liệu"""
# graphrag index --root ./my-rag-project
# → Tự extract entities, build graph, detect communities, summarize
"""Query"""
# Local search: tìm thông tin cụ thể
# graphrag query --root ./my-rag-project --method local \
# --query "Ai quản lý dự án Alpha?"
# Global search: tổng hợp theo chủ đề
# graphrag query --root ./my-rag-project --method global \
# --query "Tóm tắt các dự án đang triển khai và tech stack?"
3.3 Local vs Global Search
| Mode | Cách hoạt động | Khi nào dùng |
|---|---|---|
| Local | Tìm entities liên quan → traverse graph → context | Câu hỏi cụ thể, factual |
| Global | Dùng community summaries → tổng hợp | Câu hỏi tổng quan, thematic |
4. So sánh GraphRAG vs Vector RAG
4.1 Benchmark
| Tiêu chí | Vector RAG | Graph RAG | Hybrid |
|---|---|---|---|
| Single-hop queries | ⭐⭐⭐⭐ | ⭐⭐⭐ | ⭐⭐⭐⭐ |
| Multi-hop queries | ⭐⭐ | ⭐⭐⭐⭐ | ⭐⭐⭐⭐⭐ |
| Summarization | ⭐⭐ | ⭐⭐⭐⭐ | ⭐⭐⭐⭐ |
| Setup complexity | ⭐ (đơn giản) | ⭐⭐⭐ (phức tạp) | ⭐⭐⭐⭐ |
| Indexing cost | Thấp | Cao (LLM extract) | Cao |
| Query latency | Nhanh | Chậm hơn | Trung bình |
4.2 Khi nào dùng Graph RAG?
✅ Dùng Graph RAG khi:
- Câu hỏi multi-hop, cần suy luận qua nhiều entities
- Tài liệu có nhiều quan hệ phức tạp (org chart, supply chain)
- Cần tổng hợp theo chủ đề (global search)
- Domain có entity types rõ ràng (legal, medical, HR)
❌ KHÔNG cần Graph RAG khi:
- Câu hỏi đơn giản, 1-hop
- Tài liệu ít quan hệ (blog posts, FAQ)
- Budget thấp (indexing tốn nhiều LLM calls)
- Latency-critical (graph query chậm hơn vector)
💡 Bài tập 2: Dùng Microsoft GraphRAG index 1 folder tài liệu. So sánh kết quả local search vs global search trên 5 câu hỏi cụ thể + 5 câu tổng quát.
Tóm tắt
| Concept | Ghi nhớ |
|---|---|
| Knowledge Graph | Đồ thị entity-relationship, tốt cho multi-hop |
| Entity Extraction | Dùng LLM trích xuất entities + relations từ text |
| Neo4j | Graph database, query bằng Cypher |
| GraphCypherQAChain | LLM tự viết Cypher query |
| Microsoft GraphRAG | Framework auto: extract → community → summarize |
| Local vs Global | Local = specific facts, Global = themes |
| Hybrid | Graph facts + Vector context = best results |
Bài tập tổng hợp
- ✅ Hoàn thành 2 bài tập nhỏ (1, 2)
- Full Graph Pipeline: Tự build Knowledge Graph từ 10+ tài liệu. Extract entities bằng LLM → lưu Neo4j → implement GraphCypherQAChain → test 10 câu multi-hop.
- Hybrid System: Xây system kết hợp: Neo4j graph + Chroma vector. Router tự chọn data source theo loại câu hỏi. So sánh accuracy với pure vector RAG.
- Visualization: Export graph từ Neo4j → visualize bằng NetworkX hoặc Neo4j Browser. Screenshot 1 subgraph có ít nhất 20 nodes.
Bài tiếp theo: Multimodal RAG — xử lý ảnh, bảng, biểu đồ trong tài liệu — RAG không chỉ cho text.