註冊 Groq 帳號與申請 API Key

今天開大灰熊來大中服務廠做 135K 保養, 帶了筆電來繼續複習前三周的 ESP32-CAM 課程錄影, 科目是申請免費的大型語言模型 groq 的 API Key. 

Groq 是由一群前谷歌工程師於舊金山山景城成立的 AI 新創公司, 他們曾經是谷歌雲端計算模組 TPU (Tensor Processing Unit) 的設計者, 其所設計的 AI 運算專用晶片稱為 LPU (Language Processing Unit), 主要用來加速所運行的大型語言模型 (LLM), 開發者可透過 GroqCloud 平台申請 API 來使用它上面所運行的多種 LLM, 參考 : 

# https://en.wikipedia.org/wiki/Groq 

# Beginner’s Guide to Groq API with Llama 3

1. 註冊 Groq 帳號 : 

連線登入網址 : 

# https://console.groq.com/login 

可以使用 GitHub 或 Google 帳號直接登入, 也可以使用 Email 註冊 : 

Groq 會寄一封信到信箱 :

讀取信件按下其中的 "Continue" 即完成註冊並直接登入到 Playground 頁面 : 

Playground 網址如下 :

# https://console.groq.com/playground

2. 取得 API Keys : 

在 Playground 頁面上按左邊導覽列上的 API Keys 鈕, 按 "Create API Key" 鈕 : 

填寫 API Key 名稱 (可以為不同任務建立多個 API Key, 所以要命名以利區別) 後按 "Submit" 鈕 :

先按 "Copy" 鈕將 API key 複製到記事本中保存後再按 "Done" 鈕 :

此頁面會列出所有已建立之 API keys, 可以按右邊的兩個按鈕編輯 API Key 的名稱, 不再使用者可以刪除 : 

可以將 API Key 儲存到目前工作目錄下的隱藏檔 .env 下, 然後用 dotcnv 讀出來用, 這樣在分享程式碼時才不會因為疏忽而洩漏 API Key : 

>>> import os    

>>> from dotenv import load_dotenv    

>>> load_dotenv()    

True

>>> groq_api_key=os.environ.get('ESP32-CAM-TEST')    

參考 : 

# Python 學習筆記 : 如何隱藏 API 金鑰或權杖

週五上課聽老師說有人不斷地對 LLM 說 "嗨!" 反應都不一樣, 我試著對預設的 llama3-8b-8192 一直說嗨, 它都是回應一個笑臉, 或者一個嗨接著笑臉, 好可愛 :

切到 mistral-8x7b-32768 回應是問我今天是怎樣一直在說嗨 :