今天開大灰熊來大中服務廠做 135K 保養, 帶了筆電來繼續複習前三周的 ESP32-CAM 課程錄影, 科目是申請免費的大型語言模型 groq 的 API Key.
Groq 是由一群前谷歌工程師於舊金山山景城成立的 AI 新創公司, 他們曾經是谷歌雲端計算模組 TPU (Tensor Processing Unit) 的設計者, 其所設計的 AI 運算專用晶片稱為 LPU (Language Processing Unit), 主要用來加速所運行的大型語言模型 (LLM), 開發者可透過 GroqCloud 平台申請 API 來使用它上面所運行的多種 LLM, 參考 :
1. 註冊 Groq 帳號 :
連線登入網址 :
可以使用 GitHub 或 Google 帳號直接登入, 也可以使用 Email 註冊 :
Groq 會寄一封信到信箱 :
讀取信件按下其中的 "Continue" 即完成註冊並直接登入到 Playground 頁面 :
Playground 網址如下 :
2. 取得 API Keys :
在 Playground 頁面上按左邊導覽列上的 API Keys 鈕, 按 "Create API Key" 鈕 :
填寫 API Key 名稱 (可以為不同任務建立多個 API Key, 所以要命名以利區別) 後按 "Submit" 鈕 :
先按 "Copy" 鈕將 API key 複製到記事本中保存後再按 "Done" 鈕 :
此頁面會列出所有已建立之 API keys, 可以按右邊的兩個按鈕編輯 API Key 的名稱, 不再使用者可以刪除 :
可以將 API Key 儲存到目前工作目錄下的隱藏檔 .env 下, 然後用 dotcnv 讀出來用, 這樣在分享程式碼時才不會因為疏忽而洩漏 API Key :
>>> import os
>>> from dotenv import load_dotenv
>>> load_dotenv()
True
>>> groq_api_key=os.environ.get('ESP32-CAM-TEST')
參考 :
週五上課聽老師說有人不斷地對 LLM 說 "嗨!" 反應都不一樣, 我試著對預設的 llama3-8b-8192 一直說嗨, 它都是回應一個笑臉, 或者一個嗨接著笑臉, 好可愛 :
切到 mistral-8x7b-32768 回應是問我今天是怎樣一直在說嗨 :
沒有留言 :
張貼留言