シリーズのご紹介
AI と LLM: 基本から高度まで シリーズは、AI の最も基本的な概念から実稼働対応の LLM アプリケーションの構築とデプロイまでを包括的に説明します。
理論を学ぶだけでなく、NumPy を使用したニューラル ネットワークの作成、PyTorch を使用したアテンション メカニズムの実装、GPU での LLM の微調整、RAG パイプラインの構築、実サーバーへのモデルのデプロイに至るまで、各概念の 実践コード も学習します。
何を学ぶのですか?
パート 1: AI および深層学習プラットフォーム
- レッスン 1: AI、ML、DL、LLM の概要 — 全体像
- レッスン 2: AI のための数学: 線形代数、微積分、確率
- レッスン 3: ゼロからのニューラル ネットワーク: パーセプトロン、バックプロパゲーション、活性化関数
- レッスン 4: 深層学習: CNN、RNN、LSTM — Transformer の前提
パート 2: トランスのアーキテクチャ
- レッスン 5: 注意メカニズム: 自己注意と多頭注意
- レッスン 6: トランスフォーマーのアーキテクチャ: エンコーダー、デコーダー、位置エンコーディング
- レッスン 7: BERT およびエンコーダーのみのモデル: マスクされた言語モデリング
- レッスン 8: GPT およびデコーダーのみのモデル: 自己回帰生成
- レッスン 9: トークン化: BPE、WordPiece、SentencePiece
パート 3: LLM のトレーニングと微調整
- レッスン 10: 事前トレーニング: CLM、MLM、およびスケーリングの法則
- レッスン 11: 教師あり微調整 (SFT): 命令チューニング
- レッスン 12: PEFT: LoRA、QLoRA — 少ないリソースでの効率的な微調整
- レッスン 13: RLHF と連携: DPO、PPO、憲法上の AI
パート 4: プロンプトと RAG
- レッスン 14: プロンプト エンジニアリング: ゼロショット、フューショット、システム プロンプト
- レッスン 15: 高度なプロンプト: 思考連鎖、思考ツリー、ReAct
- レッスン 16: RAG: A から Z までの検索拡張生成
- レッスン 17: ベクトル データベース: 埋め込み、セマンティック検索、ChromaDB、Qdrant
パート 5: AI アプリケーションの構築
- レッスン 18: AI エージェント: ツールの使用、関数呼び出し、エージェント ワークフロー
- レッスン 19: LLM API: OpenAI、Anthropic Claude、Google Gemini
パート 6: 生産と強化
- レッスン 20: LLM のデプロイ: Ollama、vLLM、TGI、評価
- レッスン 21: Apple Silicon 上で Ollama を使用して AI Local を実行する — ディープダイブ
入力が必要です
- 基本的な Python (関数、クラス、リストの内包表記の書き方を知っている)
- レベル 3 数学 (専門化する必要はありません - レッスン 2 で必要なものを復習します)
- 少なくとも 8GB RAM を搭載したコンピューター (初期のパーツには GPU は必要ありません)
使用したツール
Python 3.11+ | Ngôn ngữ lập trình chính
NumPy / Pandas | Xử lý số học và dữ liệu
PyTorch | Deep Learning framework
Hugging Face | Transformers, Datasets, TRL
LangChain | LLM application framework
Ollama | Chạy LLM local
OpenAI API | GPT-4o, Embeddings
Anthropic API | Claude
ChromaDB / FAISS | Vector databases