2024年8月31日 星期六

註冊 Groq 帳號與申請 API Key

今天開大灰熊來大中服務廠做 135K 保養, 帶了筆電來繼續複習前三周的 ESP32-CAM 課程錄影, 科目是申請免費的大型語言模型 groq 的 API Key. 

Groq 是由一群前谷歌工程師於舊金山山景城成立的 AI 新創公司, 他們曾經是谷歌雲端計算模組 TPU (Tensor Processing Unit) 的設計者, 其所設計的 AI 運算專用晶片稱為 LPU (Language Processing Unit), 主要用來加速所運行的大型語言模型 (LLM), 開發者可透過 GroqCloud 平台申請 API 來使用它上面所運行的多種 LLM, 參考 : 



1. 註冊 Groq 帳號 : 

連線登入網址 : 


可以使用 GitHub 或 Google 帳號直接登入, 也可以使用 Email 註冊 : 




Groq 會寄一封信到信箱 :




讀取信件按下其中的 "Continue" 即完成註冊並直接登入到 Playground 頁面 : 





Playground 網址如下 :



2. 取得 API Keys : 

在 Playground 頁面上按左邊導覽列上的 API Keys 鈕, 按 "Create API Key" 鈕 : 




填寫 API Key 名稱 (可以為不同任務建立多個 API Key, 所以要命名以利區別) 後按 "Submit" 鈕 :




先按 "Copy" 鈕將 API key 複製到記事本中保存後再按 "Done" 鈕 :



此頁面會列出所有已建立之 API keys, 可以按右邊的兩個按鈕編輯 API Key 的名稱, 不再使用者可以刪除 : 




可以將 API Key 儲存到目前工作目錄下的隱藏檔 .env 下, 然後用 dotcnv 讀出來用, 這樣在分享程式碼時才不會因為疏忽而洩漏 API Key : 




>>> import os    
>>> from dotenv import load_dotenv    
>>> load_dotenv()    
True
>>> groq_api_key=os.environ.get('ESP32-CAM-TEST')    

參考 : 


週五上課聽老師說有人不斷地對 LLM 說 "嗨!" 反應都不一樣, 我試著對預設的 llama3-8b-8192 一直說嗨, 它都是回應一個笑臉, 或者一個嗨接著笑臉, 好可愛 :




切到 mistral-8x7b-32768 回應是問我今天是怎樣一直在說嗨 :




沒有留言 :