# C0: GenAI - 暖身與 Alignment
Align 幾個概念,讓大家能夠更好地理解大型語言模型(LLM)的工作原理和如何與之進行有效的溝通。
## 1. ChatGPT vs GPT-4 ("車輛" vs "引擎") ("介面程式" vs "內核")
* 掀蓋直觸引擎
[@openAI](https://platform.openai.com/playground) : 川普的關稅惡搞目前狀況怎樣了?
* 被包裝過的互動
[@chatGPT](https://chatgpt.com/) : 川普的關稅惡搞目前狀況怎樣了?
* 穿透包裝作法: 「請先不查網頁,只用你知道的來回答」, 川普的關稅惡搞目前狀況怎樣了?
[光桿 LLM API vs Chat](https://chatgpt.com/share/6848eeba-d334-8012-b234-1a229e17124b)
## 2. 介面程式加工了什麼:
* Context :
* 使用 Chat Completion API 時,prompts 分為三個部分:
* System prompt:設定模型的角色和風格。
* User prompt:用戶輸入的指令或問題。
* Assistant prompt:模型的先前回應,用於前後問答連貫。
* Size mattered :
| 時期 / 模型 | 最大 context window |
| :--------------------------- | --------------------: |
| GPT‑3.5 / 初期 ChatGPT | **4,096 tokens** |
| GPT‑4 | **8,192 tokens** |
| GPT‑4 Turbo / ChatGPT App | **32,768 tokens** |
| GPT‑4o(API) | **128,000 tokens** |
| GPT‑4.1(API) | **1,000,000 tokens** |
* Tools -> Agents -> MCPs
* ChatGPT 的工具功能允許模型在回答問題時調用外部 API 或執行特定任務。
* 工具可以包括計算器、網頁搜索、數據庫查詢等,這些工具可以擴展模型的能力,使其能夠處理更複雜的請求。
* 工具的使用需要在模型的設置中啟用,並且需要提供相應的 API 密鑰或訪問權限。
## 3. RAG

ref: https://pureinsights.com/blog/2023/what-is-retrieval-augmented-generation-rag
* Retrieval Augmented Generation (RAG) 是一種結合檢索和生成的技術,旨在提高大型語言模型(LLM)的回答準確性和相關性。
* RAG 的工作原理是先從外部資料庫中檢索相關信息,然後將這些信息與 LLM 結合,以生成更具上下文的回答。
* RAG 的應用場景包括問答系統、聊天機器人和內容生成等。
## 4. IDE as a LLM-powered Vehicle
* IDE 整合大型語言模型(LLM)引擎,作為智能化的編程助手/工作環境
* Context: 你的 codebase, 你的 coding style, 你的 coding habits
* 內建 Tools: 內建的編輯器功能、調試工具、版本控制系統等
* 外搭 MCPs: 透過插件或擴展功能,整合各種工具和服務
* [GitHub Copilot](https://github.com/features/copilot)
* 由 GitHub 和 OpenAI 共同開發的 AI 編程助手,於 2022 年 11 月正式推出。
* 是一個 extension,支援的 IDE 包括 VS Code、Visual Studio、JetBrains 系列(如 IntelliJ IDEA、PyCharm 等)、Vim /Neovim、XCode、Azure Data Studio、Eclipse 等。
* 我們將使用 VS Code + GitHub Copilot,與此類似的 GAI 輔助軟體開發組合有:
* Web-based IDEs: Replit, Blot.new, Lovable ... (偏 UI,新手友好型)
* AI 編程 IDEs: Cursor, Windsurf, Trae... (都是 clone 自 VS Code 的變種)
* AI 編程 Extensions: Cline, Roo Code, Augument... (在 VS Code 上也可並存)
* 非同步運作的 Coding Agents: (外包式的 AI 編程助手)
- OpenAI 的 [Codex](https://chatgpt.com/codex)
- Google 的 Jules
- Anthropic 的 Claude Code
- GitHub 的 Copilot coding agent