Parlant: 可擴展的對話式 AI 控制框架

🎯 開發動機與解決痛點

在 AI 對話代理快速發展的今天，開發者經常面臨一個共同困境：雖然能夠快速建構對話式 AI 代理，但當實際測試時卻發現代理無法正確處理許多客戶互動，商業專家對其行為也不滿意。Parlant 正是為了解決這個關鍵問題而誕生的開源專案。

                    核心痛點：
                    大型語言模型在複雜對話情境中缺乏一致性和可預測性
隨著代理複雜度增加，控制其行為變得越來越困難
缺乏可擴展的架構來管理大量對話規則和業務邏輯
難以確保代理在不同情況下都能遵循企業級合規要求
傳統提示工程方法在處理複雜對話流程時效率低下

                

Parlant 透過提供一個強大的對話建模引擎，讓開發者能夠以自然語言定義對話規則和邏輯，同時管理底層 LLM 的上下文，確保代理在任何對話節點都知道應該遵循哪些規則。這種方法大幅提升了 LLM 遵循指令的一致性，為企業級對話 AI 應用提供了可靠的基礎架構。

🛠️ 技術框架與設計模式

🐍 Python 後端核心

基於 Python 3.10+ 構建，採用 FastAPI 作為 Web 框架，提供高效能的異步處理能力和自動 API 文件生成

⚛️ React 前端界面

現代化的 TypeScript + React 聊天界面，支援實時 WebSocket 通信和響應式設計

🧠 多 LLM 提供者整合

支援 OpenAI、Anthropic、Google Gemini、Azure 等多種 AI 服務，採用統一的適配器模式

🗄️ 靈活的資料存儲

支援 MongoDB、JSON 檔案、記憶體存儲等多種後端，ChromaDB 提供向量搜尋能力

🔌 MCP 工具整合

實作 Model Context Protocol，支援動態工具註冊和調用，提供豐富的擴展性

📊 事件驅動架構

採用事件發布訂閱模式，支援實時日誌記錄、狀態同步和系統監控

核心設計模式

🔧 適配器模式 (Adapter Pattern)

# 來自 src/parlant/adapters/nlp/anthropic_service.py
class AnthropicService(NLPService):
    def __init__(self, logger: Logger) -> None:
        self._logger = logger
        self._logger.info("Initialized AnthropicService")

    async def get_schematic_generator(self, t: type[T]) -> AnthropicAISchematicGenerator[T]:
        return Claude_Sonnet_3_5[t](self._logger)

    async def get_embedder(self) -> Embedder:
        return JinaAIEmbedder()

Parlant 使用適配器模式統一不同 LLM 提供者的介面，讓系統能夠輕鬆切換或支援新的 AI 服務，而不需要修改核心業務邏輯。

🎛️ 策略模式 (Strategy Pattern)

# 來自 src/parlant/core/engines/alpha/engine.py
def _get_message_composer(self, agent: Agent) -> MessageEventComposer:
    match agent.composition_mode:
        case CompositionMode.FLUID:
            return self._fluid_message_generator
        case (
            CompositionMode.STRICT_UTTERANCE
            | CompositionMode.COMPOSITED_UTTERANCE
            | CompositionMode.FLUID_UTTERANCE
        ):
            return self._utterance_selector

透過策略模式，Parlant 允許不同的代理使用不同的消息組合策略，從嚴格的範本模式到靈活的生成模式，滿足各種業務需求。

🏭 依賴注入模式 (Dependency Injection)

# 來自 src/parlant/api/app.py
async def create_api_app(container: Container) -> ASGIApplication:
    logger = container[Logger]
    agent_store = container[AgentStore]
    session_store = container[SessionStore]
    nlp_service = container[NLPService]
    application = container[Application]
    
    # 使用 Lagom 容器進行服務組裝
    api_app = FastAPI()

使用 Lagom 依賴注入容器管理所有服務的生命週期和依賴關係，提高程式碼的可測試性和模組化程度。

🔄 觀察者模式 (Observer Pattern)

# 來自 src/parlant/core/engines/alpha/engine.py
async def _emit_processing_event(self, context: LoadedContext) -> None:
    await context.session_event_emitter.emit_status_event(
        correlation_id=self._correlator.correlation_id,
        data={
            "acknowledged_offset": context.interaction.last_known_event_offset,
            "status": "processing",
            "data": {},
        },
    )

事件發射器系統讓前端能夠即時接收處理狀態更新，提供流暢的使用者體驗和完整的系統監控能力。

💡 應用情境

🏦 受監管金融服務

在銀行和金融機構中，Parlant 確保客戶互動的合規性和準確性。透過結構化的指導原則系統，代理能夠在提供財務建議時嚴格遵循法規要求，避免違規風險。

🏥 醫療溝通系統

在醫療環境中提供準確、合規和敏感的患者資訊。Parlant 的上下文感知能力確保醫療代理能夠根據患者的具體情況提供個性化的健康指導，同時維持醫療專業標準。

⚖️ 法律諮詢助手

為法律服務提供可靠和可驗證的指導。透過嚴格的指導原則匹配系統，確保法律建議的準確性和一致性，減少人為錯誤的風險。

🏢 品牌敏感客戶服務

維持一致的品牌聲音和政策。Parlant 讓企業能夠定義詳細的品牌指導原則，確保所有客戶互動都符合公司的價值觀和服務標準。

📚 教育科技平台

創建個性化的學習體驗。透過上下文變數和情境感知，Parlant 能夠根據學生的學習進度和偏好調整教學策略，提供更有效的教育支援。

🏗️ 軟體架構圖與流程圖

系統架構圖

Parlant 採用分層架構設計，從 React 前端到 Alpha 引擎核心，再到多種 AI 服務和資料存儲的完整技術棧

對話處理序列圖

完整的對話處理序列：從用戶輸入到 AI 回應的每個步驟，包含指導原則匹配和工具調用的完整流程

❓ 常見問題 Q&A

Q1: Parlant 與傳統聊天機器人框架有什麼根本差異？

🎯 核心差異

結構化指導原則系統：Parlant 允許以自然語言定義複雜的對話規則，系統會智能匹配最相關的指導原則，確保 AI 行為的一致性和可預測性。

上下文感知決策：不同於簡單的關鍵字匹配，Parlant 使用語義搜尋和向量資料庫技術，能夠理解對話的深層含義並做出智能決策。

企業級可擴展性：支援數百條指導原則的管理，透過關係系統和優先級機制，確保複雜業務邏輯的正確執行。

Q2: 如何確保 AI 代理在複雜情境下的行為一致性？

🔧 技術保障機制

動態指導原則匹配：Alpha 引擎在每次互動中都會重新評估相關的指導原則，確保當前上下文下的最佳決策。

關係依賴系統：指導原則之間可以建立依賴關係、優先級和條件觸發，創建複雜但可控的行為邏輯。

持續重新評估：系統會持續監控對話狀態，在新資訊出現時自動調整策略，保持回應的相關性和準確性。

Q3: Parlant 的學習曲線如何？新手開發者容易上手嗎？

📚 學習路徑建議

漸進式學習：從簡單的代理創建開始，逐步學習指導原則、工具整合和上下文變數等進階功能。框架提供豐富的範例和文件。

自然語言配置：大部分配置都可以用自然語言描述，降低了技術門檻。開發者可以專注於業務邏輯而非技術實作細節。

建議準備：熟悉 Python 異步程式設計和基本的 AI/LLM 概念會有助於更深入地使用 Parlant 的進階功能。

Q4: 開發者能夠以自然語言定義對話規則和邏輯，是否有內建一些既定的指導原則？或是可以提供一些指導原則的設定範例？

🎯 指導原則系統概述

無內建指導原則：Parlant 不提供任何預設的指導原則，所有指導原則都需要開發者根據業務需求自行定義。這種設計確保了系統的純淨性和完全的客製化彈性。

📝 指導原則結構與語法

When-Then 模式：所有指導原則都遵循「當...時，則...」的自然語言模式，條件（condition）描述觸發情境，動作（action）描述應執行的行為。

# 基本指導原則結構
from parlant.core.guidelines import Guideline, GuidelineContent

guideline = Guideline(
    content=GuidelineContent(
        condition="當客戶詢問價格資訊時",
        action="提供最新的價格資訊並提及任何進行中的促銷活動"
    ),
    enabled=True,
    tags=["agent:customer_service"]
)

🍕 實際業務範例：餐廳訂餐系統

完整的披薩訂餐對話流程：以下是從 Parlant 測試案例中提取的真實指導原則範例，展示如何處理完整的訂餐流程。

# 餐廳訂餐系統指導原則範例
pizza_guidelines = [
    {
        "condition": "對話開始時",
        "action": "向客戶問候並詢問是否想要訂披薩"
    },
    {
        "condition": "客戶提到餓了",
        "action": "向客戶推薦我們的披薩特餐"
    },
    {
        "condition": "客戶詢問素食選項",
        "action": "列出所有素食披薩選項"
    },
    {
        "condition": "客戶要求客製化披薩",
        "action": "引導客戶選擇餅皮、醬料、配料和起司"
    },
    {
        "condition": "客戶詢問份量大小",
        "action": "描述不同披薩尺寸和通常可供應的人數"
    }
]

🏦 企業級應用範例：金融服務

銀行客戶服務指導原則：展示如何在受監管的金融環境中定義合規的對話規則。

# 銀行客戶服務指導原則
banking_guidelines = [
    {
        "condition": "客戶想要鎖定信用卡",
        "action": "執行卡片鎖定程序"
    },
    {
        "condition": "客戶申請補發信用卡",
        "action": "為客戶訂購新卡片"
    },
    {
        "condition": "客戶想要暫時凍結卡片",
        "action": "凍結客戶的信用卡"
    },
    {
        "condition": "討論客戶醫療記錄時",
        "action": "即使擁有相關資訊也不得提供任何個人醫療資訊"
    }
]

🔗 指導原則關係與優先級

智能關係管理：Parlant 支援複雜的指導原則關係，包括依賴、優先級和條件觸發。

# 指導原則關係範例
async def setup_guideline_relationships():
    # 基礎問候指導原則
    greeting_guideline = await agent.create_guideline(
        condition="當客戶說您好時",
        action="用 'Howdy' 問候客戶"
    )
    
    # 延伸禮貌用語指導原則
    polite_guideline = await agent.create_guideline(
        condition="當說 'Howdy' 時",
        action="加上 'good sir'"
    )
    
    # 建立蘊含關係（entailment）
    await greeting_guideline.entail(polite_guideline)
    # 結果：客戶說 "Hello" → AI 回應 "Howdy good sir"

🛠️ 工具整合指導原則

動態工具調用：指導原則可以與特定工具關聯，實現自動化的功能調用。

# 工具整合指導原則範例
tool_integrated_guideline = {
    "condition": "客戶詢問產品價格時",
    "action": "調用價格查詢工具並提供最新報價",
    "tool_association": {
        "service_name": "pricing_service",
        "tool_name": "get_prices"
    }
}

# 透過 API 創建指導原則
import requests

response = requests.post(
    "/api/guidelines",
    json={
        "condition": "客戶詢問技術支援時",
        "action": "收集系統資訊並逐步進行故障排除",
        "enabled": True,
        "tags": ["support", "technical"]
    }
)

📊 指導原則最佳實務

設計建議：

具體明確：條件描述要具體，避免過於寬泛的觸發條件
行為導向：動作描述應該是行為指令，而非具體的回應文字
上下文感知：善用上下文變數和對話歷史資訊
關係管理：合理使用優先級和依賴關係避免衝突
標籤分類：使用標籤系統組織和管理大量指導原則

🔮 未來展望

Parlant 作為開源對話式 AI 控制框架，正在快速發展並擴展其能力範圍。未來的發展重點將集中在提升系統的智能性、可擴展性和使用者體驗上。

🧠 進階 AI 整合

計劃整合更多先進的 AI 模型和技術，包括多模態能力（圖像、語音處理）和更精確的意圖識別系統

🔧 視覺化設計工具

開發圖形化的指導原則設計界面，讓非技術使用者也能輕鬆創建和管理複雜的對話邏輯

📊 智能分析儀表板

提供詳細的對話品質分析、效能監控和用戶行為洞察，幫助持續優化代理表現

🌐 多語言支援擴展

加強對不同語言和文化背景的支援，提供更好的國際化對話體驗

🚀 雲端原生架構

優化容器化部署和微服務架構，提供更好的可擴展性和運維體驗

🤝 生態系統建設

建立更豐富的外掛程式生態系統，促進社群貢獻和知識分享