xDev Asia

NER là gì: entity types (PER, ORG, LOC, DATE). IOB/BIO tagging. CRF cho sequence labeling. Fine-tune BERT cho NER. spaCy NER training. Custom entity types cho domain-specific (y tế, pháp luật). Evaluation: entity-level F1.

NLP từ Cơ bản đến Nâng cao: Làm chủ Xử lý Ngôn ngữ Tự nhiên

Phần 5: Bài toán NLP Ứng dụng — Hands-on Projects

xdev.asia

Giới thiệu

Named Entity Recognition (NER) — nhận dạng thực thể có tên — là bài toán trích xuất các thực thể (người, tổ chức, địa điểm, ngày tháng...) từ text. NER là thành phần cốt lõi trong information extraction, knowledge graphs, và chatbot.

1. NER Basics

Entity Types phổ biến

Tag	Ý nghĩa	Ví dụ
PER	Person	Nguyễn Văn A
ORG	Organization	FPT, Google
LOC	Location	Hà Nội, California
DATE	Date/Time	31/03/2026
MONEY	Monetary value	1 triệu đồng
MISC	Miscellaneous	COVID-19

IOB Tagging

Text:   Nguyễn Văn A  làm  việc  tại  FPT   ở  Hà  Nội
Tags:   B-PER  I-PER  I-PER  O    O    O   B-ORG  O  B-LOC I-LOC

Prefix	Ý nghĩa
B-	Beginning of entity
I-	Inside (continuation) of entity
O	Outside (not an entity)

2. NER với Hugging Face

from transformers import pipeline

# Pre-trained NER
ner = pipeline("ner", model="dslim/bert-base-NER", grouped_entities=True)

text = "Elon Musk is the CEO of Tesla and SpaceX, based in Austin, Texas"
entities = ner(text)

for e in entities:
    print(f"  {e['word']:20s} | {e['entity_group']:5s} | {e['score']:.4f}")
# Elon Musk            | PER   | 0.9987
# Tesla                | ORG   | 0.9956
# SpaceX               | ORG   | 0.9934
# Austin               | LOC   | 0.9891
# Texas                | LOC   | 0.9923

3. Fine-tune BERT cho Custom NER

from transformers import (
    AutoTokenizer,
    AutoModelForTokenClassification,
    Trainer,
    TrainingArguments,
    DataCollatorForTokenClassification,
)
from datasets import load_dataset

# Load NER dataset
dataset = load_dataset("conll2003")

# Label mapping
label_list = dataset["train"].features["ner_tags"].feature.names
id2label = {i: l for i, l in enumerate(label_list)}
label2id = {l: i for i, l in enumerate(label_list)}

# Tokenizer
tokenizer = AutoTokenizer.from_pretrained("bert-base-cased")

def tokenize_and_align_labels(examples):
    tokenized = tokenizer(
        examples["tokens"],
        truncation=True,
        is_split_into_words=True,
    )
    labels = []
    for i, label in enumerate(examples["ner_tags"]):
        word_ids = tokenized.word_ids(batch_index=i)
        label_ids = []
        prev_word_id = None
        for word_id in word_ids:
            if word_id is None:
                label_ids.append(-100)
            elif word_id != prev_word_id:
                label_ids.append(label[word_id])
            else:
                label_ids.append(-100)  # Subword tokens
            prev_word_id = word_id
        labels.append(label_ids)
    tokenized["labels"] = labels
    return tokenized

tokenized = dataset.map(tokenize_and_align_labels, batched=True)

# Model
model = AutoModelForTokenClassification.from_pretrained(
    "bert-base-cased",
    num_labels=len(label_list),
    id2label=id2label,
    label2id=label2id,
)

# Train
data_collator = DataCollatorForTokenClassification(tokenizer)

training_args = TrainingArguments(
    output_dir="./ner-model",
    num_train_epochs=3,
    per_device_train_batch_size=16,
    learning_rate=2e-5,
    evaluation_strategy="epoch",
)

trainer = Trainer(
    model=model,
    args=training_args,
    train_dataset=tokenized["train"],
    eval_dataset=tokenized["validation"],
    data_collator=data_collator,
    tokenizer=tokenizer,
)

trainer.train()

4. NER với spaCy

import spacy

# Load pre-trained
nlp = spacy.load("en_core_web_trf")  # Transformer-based

doc = nlp("Apple was founded by Steve Jobs in Cupertino, California")

for ent in doc.ents:
    print(f"  {ent.text:20s} | {ent.label_:10s} | {ent.start_char}-{ent.end_char}")
# Apple                | ORG        | 0-5
# Steve Jobs           | PERSON     | 22-32
# Cupertino            | GPE        | 36-45
# California           | GPE        | 47-57

5. Evaluation: Entity-level F1

from seqeval.metrics import classification_report, f1_score

# Predictions vs Ground truth (IOB format)
y_true = [["B-PER", "I-PER", "O", "B-ORG", "O"]]
y_pred = [["B-PER", "I-PER", "O", "B-ORG", "O"]]

print(classification_report(y_true, y_pred))
# Entity-level: chỉ tính đúng khi TOÀN BỘ entity đúng

⚠️ Entity-level F1 khác token-level F1: phải đúng toàn bộ span (B + I tokens) mới tính là correct.

Tổng kết

Approach	Ưu điểm	Use case
Pre-trained pipeline	Nhanh, no training	General NER
Fine-tune BERT	Custom entities	Domain-specific
spaCy	Production-ready	Pipeline integration

Bài tiếp theo

Bài 15: Question Answering — Xây dựng hệ thống hỏi đáp thông minh: extractive QA với BERT và retrieval-augmented QA.

Bài 14: Named Entity Recognition (NER) — Trích xuất Thực thể