LangChain 的提示詞模板 (Prompt Templates) 功能利用預留變數將靜態文字轉化為動態指令, 可根據不同的傳入參數重複生成結構化的提示詞. LangChain 的 langchain_core.prompts 子模組提供兩種提示詞模板 :
- 字串提示模板 (PromptTemplate 類別):
用於單一句子的簡單提問 - 對話提示模板 (ChatPromptTemplate 類別) :
用於需要更多上下文語境之完整對話
本篇旨在測試字串提示模板 PromptTemplate 類別的用法.
本系列全部文章索引參考 :
以下將使用 OpenAI 與 Gemini API 來測試字串提示模板用法, 首先匯入所需之金鑰與外掛套件並預先建立模型物件 :
(myvenv) D:\python\test>python
Python 3.12.1 (tags/v3.12.1:2305ca5, Dec 7 2023, 22:03:25) [MSC v.1937 64 bit (AMD64)] on win32
Type "help", "copyright", "credits" or "license" for more information.
>>> from langchain_openai import ChatOpenAI
>>> from langchain_google_genai import ChatGoogleGenerativeAI
>>> from dotenv import dotenv_values
>>> config=dotenv_values('.env')
>>> openai_api_key=config.get('OPENAI_API_KEY')
>>> gemini_api_key=config.get('GEMINI_API_KEY')
>>> gpt_model=ChatOpenAI(api_key=openai_api_key, model='gpt-3.5-turbo')
>>> gemini_model=ChatGoogleGenerativeAI(api_key=gemini_api_key, model='gemini-2.5-flash')
由於之前在虛擬目錄下只安裝 langchain_core, 沒有安裝大禮包 langchain; 所以要從 langchain_core 匯入 prompts 子模組下的 PromptTemplate 類別 :
from langchain_core.prompts import PromptTemplate
>>> from langchain_core.prompts import PromptTemplate
然後呼叫其建構式 PromptTemplate() 並傳入 template (字串) 與 input_variables (串列) 參數建立 PromptTemplate 物件, 其中 input_variables 中列舉了要傳入之模板參數, 例如 :
prompt_template=PromptTemplate(
template='用 300 個以內的字說明關於{topic}的知識',
input_variables=['topic']
)
此 PromptTemplate 物件含有一個模板參數 topic.
>>> prompt_template=PromptTemplate(
... template='用 300 個以內的字說明關於{topic}的知識',
... input_variables=['topic']
... )
>>> type(prompt_template)
<class 'langchain_core.prompts.prompt.PromptTemplate'>
>>> prompt_template
PromptTemplate(input_variables=['topic'], input_types={}, partial_variables={}, template='用 300 個以內的字說明關於{topic}的知識')
上面所建立的 PromptTemplate 物件只是一個模板結構而已, 還不能直接做為訊息物件傳給語言模型, 必須呼叫 PromptTemplate 物件的 format() 或 invoke() 方法傳入模板參數進行填充後才行, 這兩個方法的差異如下 :
- format() :
單純的字串填充, 傳入值為單一字串, 傳回值是填充後的字串, 效果類似 f 字串的功能. - invoke() :
這是 LCEL (LangChain Expression Language) 的標準接口, 是為了配合 LCEL 的鏈式調用而設, 也是推薦的用法. 它的傳入值為模板參數字典, 傳回值為 PromptValue 物件, 它會根據後續接的是純文字模型還是對話模型自動轉成 StringPromptValue 或 ChatPromptValue 物件後傳回.
總之, 如果是要除錯, 列印提示詞內容, 或串接非 LangChain 的自定義函數等場景, 可以呼叫 format() 以快速得到填充後的字串; 如果是要參與 LangChain 的鏈 (Chain) 運算, 則應該呼叫 invoke().
首先用 format() 方法來填充 :
>>> prompt_string=prompt_template.format(topic='疊加態')
>>> type(prompt_string)
<class 'str'>
>>> prompt_string
'用 300 個以內的字說明關於疊加態的知識'
可見 format() 傳回填充後的訊息字串, 這樣就可以傳給模型物件的 invoke() 讓模型來生成回應了, 例如 OpenAI 的 GPT :
>>> response=gpt_model.invoke(prompt_string)
>>> print(response.content)
疊加態是一種量子物理學中的概念，指的是當一個系統同時處於多個可能的狀態時，這些狀態之間可以相互叠加，而不會直接混合在一起。
在疊加態中，系統可以同時存在於不同的狀態中，直到進行測量時才會產生確定的結果。這也解釋了量子超密碼等量子現象的奇異性。
疊加態是量子力學中的一個核心概念，也是量子計算和量子通信等領域的基礎。通過利用疊加態，科學家們可以設計出更快速和更強大的計算機系統，以及更加安全和高效的通訊技術。
總的來說，疊加態是一個深奧而又神秘的概念，它挑戰了我們對現實世界的直覺和理解，也為我們揭示了量子世界的獨特之處。
或者谷歌的 Gemini :
>>> response=gemini_model.invoke(prompt_string)
>>> print(response.content)
疊加態是量子力學中的一個基本概念，指微觀粒子在被測量前，可以同時處於多個可能的狀態。例如，一個電子可以同時向上和向下自旋，或同時在多個位置。只有當我們進行觀測或測量時，疊加態才會「坍縮」，粒子隨機選擇其中一個狀態顯現出來。在未觀測前，它並非處於某個確定的狀態，而是所有可能性的疊加。
其次, 改為呼叫 invoke() 方法, 這時傳入參數是模板參數字典 :
>>> prompt_value=prompt_template.invoke({'topic': '普郎克常數'})
>>> type(prompt_value)
<class 'langchain_core.prompt_values.StringPromptValue'>
>>> prompt_value
StringPromptValue(text='用 300 個以內的字說明關於普郎克常數的知識')
由於模板是純文字模型, 所以傳回值為 StringPromptValue 物件, 可以直接將此 PromptValue 物件傳給模型來生成回應, 例如 GPT :
>>> response=gpt_model.invoke(prompt_value)
>>> print(response.content)
普朗克常數是物理學中的一個重要常數，通常用符號h表示。它的數值約為6.626×10^-34 J·s。普朗克常數被廣泛應用於量子力學和粒子物理學中，尤其是在描述微觀世界中微小粒子的運動和行為時。根據普朗克常數，能量和頻率之間存在著一個固定的關係，即E=hf，其中E是能量，h是普朗克常數，f是頻率。普朗克常數還與黑體輻射和光子的能量密度等現象密切相關。因此，普朗克常數在物理學中具有重要的地位，對於我們理解微觀世界的運作方式至關重要。
或者 Gemini 模型 :
>>> response=gemini_model.invoke(prompt_value)
>>> print(response.content)
普朗克常數（h）是一個基本物理常數。它揭示了能量的量子化現象，即能量不是連續的，而是以離散的「量子」形式存在。它將光子的能量E與其頻率ν聯繫起來，公式為E=hν。普朗克常數是量子力學的基石，描述了微觀世界中能量的最小作用量單位。
這就是使用 LangChain 的好處, 不論是串接哪一個 LLM, 呼叫介面都相同.
沒有留言 :
張貼留言