2023年12月15日 星期五

參加 Google Cloud 開發者培訓系列課程 (一) Text Generation for Applications using Gen AI Studio

前陣子收到公司訓練單位寄來的 Google Cloud 開發者培訓課程資訊, 收到回函如下 :

您已報名參加 Google Cloud 開發者培訓系列：生成式 AI 專題 線上課程。為確保課程當天的學習進度及實驗室練習相關權限，請務必於活動前依照下方指示前往註冊 Qwiklabs 學員帳號，以便於課程期間執行實驗練習。


課程名稱：Text Generation for Applications using Gen AI Studio

課程時間： 2023 年 12 月 15 日  9:00 AM – 4:00 PM GMT+8

上課地點：線上遠距教室 (課程當天，請點選本信件中的觀看連結進而參與課程)

授課語言：中文


實驗練習權限取得方式：請以 “報名課程之公司電子郵件帳號 ” 至 https://googlecloud.qwiklab.com 註冊學員帳號；如您為舊生，請以既有帳戶 (公司 email)登入 


1. 點選右上角 Join > 填寫基本資料送出申請> 回到網站成功登入> 課程將列於首頁

2. 建議用Chrome瀏覽器；右上角地球符號可改英文介面


注意, Generative AI Studio 現在已改A名為 Vertex AI Studio.


我報名時沒有使用公司郵件, 而是使用 Hinet 郵件, 還是可以在 qwilab 建立帳號 Lab 帳號 :

Overview

In this course, you will explore the use of text generation models using Gen AI Studio on Vertex AI and learn how to incorporate those models into your application using the PaLM API and client libraries. You will learn how to design and tune prompts to ensure the best outputs for your applications and discuss how to fine-tune foundational models to improve model output quality.

Date

Friday, December 15, 2023 6:00AM CST —
Friday, December 15, 2023 11:00PM CST

Location

Virtual

Instructor

HanSheng CHIU

级别

入门级

此課程的教學大綱如下 : 


Vertex 的 Model Garden 提供了許多模型可供選擇 :


Lab 需要用 Chrome 無痕式視窗開啟, 此種視窗 Chrome 不會記錄瀏覽歷史與 Cookies 等 :




Google AI 服務 :

https://cloud.google.com/natural-language?hl=zh_tw (免費試用需登錄信用卡)

以下的 Lab 實驗都是在真實的 GCP 雲端環境中以學生帳戶執行執行 (必須在 Chrome 無痕視窗中操作, 以免因為與自己的 GCP 帳戶衝突導致額外的費用支出), 只到今晚 23:00 有效 :

Lab 1 :

此實驗目標是使用三種方式來使用 PaLM API : 
(1). 在命令列用 cURL 發出 REST 請求 
(2). 使用 Jupyter Notebook
(3). 使用 Python 程式




Lab 2 :

Fine-tunning 資料 :

課程問卷：


課後記 :

雖然我 Lab 沒全部完成, 但今天收穫頗豐, 我勇敢拋出心中愚笨的問題, 老師有問必答破解了我許多迷思, 感謝 :
  1. 微調的 adaptor 模型是與基礎模型 PaLM2 綁在一起的 (參數依賴於 PaLM2), 所以它無法被單獨下載到本機與其他 foundation 搭配執行 (我之前是想說能不能用 Vertex 微調一個 adaptor, 因為它很小, 是否可下載與本機的 LLaMA2 一起跑, 答案是不行).
  2. PaLM2 與 Codey 都可以生成程式碼, 但 Codey 的表現會較好.
  3. PaLM2 與 GPT4 在中文表現方面的比較, 老師表示也許 GPT4 較優, 但需要更多測試研究才知道.   
上完課突然好想搞懂 GCP, 因為 Lab 實驗時發現自己對 GCP 平台操作不熟. 


2023-12-20 補充 : 

下一次上課是 2024-02-07 10:00~12:00 :




於

沒有留言:

張貼留言