2023年12月15日 星期五

參加 Google Cloud 開發者培訓系列課程 (一) Text Generation for Applications using Gen AI Studio

前陣子收到公司訓練單位寄來的 Google Cloud 開發者培訓課程資訊, 收到回函如下 :

您已報名參加 Google Cloud 開發者培訓系列:生成式 AI 專題 線上課程。為確保課程當天的學習進度及實驗室練習相關權限,請務必於活動前依照下方指示前往註冊 Qwiklabs 學員帳號,以便於課程期間執行實驗練習。


課程名稱:Text Generation for Applications using Gen AI Studio

課程時間: 2023 年 12 月 15 日  9:00 AM – 4:00 PM GMT+8

上課地點:線上遠距教室 (課程當天,請點選本信件中的觀看連結進而參與課程)

授課語言:中文


實驗練習權限取得方式:請以 “報名課程之公司電子郵件帳號 ” 至 https://googlecloud.qwiklab.com 註冊學員帳號;如您為舊生,請以既有帳戶 (公司 email)登入 


1. 點選右上角 Join > 填寫基本資料送出申請> 回到網站成功登入> 課程將列於首頁

2. 建議用Chrome瀏覽器;右上角地球符號可改英文介面


注意, Generative AI Studio 現在已改A名為 Vertex AI Studio.


我報名時沒有使用公司郵件, 而是使用 Hinet 郵件, 還是可以在 qwilab 建立帳號 Lab 帳號 :

Overview

In this course, you will explore the use of text generation models using Gen AI Studio on Vertex AI and learn how to incorporate those models into your application using the PaLM API and client libraries. You will learn how to design and tune prompts to ensure the best outputs for your applications and discuss how to fine-tune foundational models to improve model output quality.

Date

Friday, December 15, 2023 6:00AM CST —
Friday, December 15, 2023 11:00PM CST

Location

Virtual

Instructor

HanSheng CHIU

级别

入门级

此課程的教學大綱如下 : 


Vertex 的 Model Garden 提供了許多模型可供選擇 :


Lab 需要用 Chrome 無痕式視窗開啟, 此種視窗 Chrome 不會記錄瀏覽歷史與 Cookies 等 :




Google AI 服務 :

https://cloud.google.com/natural-language?hl=zh_tw (免費試用需登錄信用卡)

以下的 Lab 實驗都是在真實的 GCP 雲端環境中以學生帳戶執行執行 (必須在 Chrome 無痕視窗中操作, 以免因為與自己的 GCP 帳戶衝突導致額外的費用支出), 只到今晚 23:00 有效 :

Lab 1 :

此實驗目標是使用三種方式來使用 PaLM API : 
(1). 在命令列用 cURL 發出 REST 請求 
(2). 使用 Jupyter Notebook
(3). 使用 Python 程式




Lab 2 :

Fine-tunning 資料 :

課程問卷:


課後記 :

雖然我 Lab 沒全部完成, 但今天收穫頗豐, 我勇敢拋出心中愚笨的問題, 老師有問必答破解了我許多迷思, 感謝 :
  1. 微調的 adaptor 模型是與基礎模型 PaLM2 綁在一起的 (參數依賴於 PaLM2), 所以它無法被單獨下載到本機與其他 foundation 搭配執行 (我之前是想說能不能用 Vertex 微調一個 adaptor, 因為它很小, 是否可下載與本機的 LLaMA2 一起跑, 答案是不行).
  2. PaLM2 與 Codey 都可以生成程式碼, 但 Codey 的表現會較好.
  3. PaLM2 與 GPT4 在中文表現方面的比較, 老師表示也許 GPT4 較優, 但需要更多測試研究才知道.   
上完課突然好想搞懂 GCP, 因為 Lab 實驗時發現自己對 GCP 平台操作不熟. 


2023-12-20 補充 : 

下一次上課是 2024-02-07 10:00~12:00 :




MicroPython v1.21 釋出

好久沒玩 MicroPython 了, 今天突然想起來就去官網看看, 發現 1.21 版的韌體已於 10 月初釋出, 下載網址如下 : 


此版的最大亮點是更改了內建模組命名方式, 將開頭的 'u' 移除, 例如 utime 改為 time, 跟 CPython 完全一樣, 可避免開發者對於該匯入 utime 還是 time 的困擾. 唯一還保留 u 開頭的模組是 uctype, 因為它與 CPython 的 ctype 不相容之故. 

但為了向後相容舊版程式, 下列模組仍然可以用 u 開頭名稱匯入使用 : 

array, asyncio, binascii, bluetooth, collections, cryptolib, errno, hashlib, heapq, io, json, machine, os, platform, random, re, select, socket, ssl, struct, time, websocket

參考 : 



以下統一使用 esptool 模組來燒錄 ESP32/ESP8266 韌體, 使用前先確認電腦的 Python 執行環境是否已安裝 esptool, 否則用 pip install 安裝 :

pip install esptool 


一. ESP32 韌體燒錄 :

將 ESP32 WROOM 開發板連接電腦 USB 埠後, 首先到裝置管理員查看該 USB 目前是連接到哪個 COM 埠以便於指令中指定 COM 埠, 指令如下 :
  1. 檢查 Flash 容量 (WROOM 為 4MB) :
    esptool.py --port COM13 flash_id    
  2. 抹除 Flash :
    esptool.py --chip esp32 --port COM13 erase_flash   
  3. 燒錄韌體 (下燒錄指令前須按住 ESP32 WROOM 板右下角的 Flash 鈕) : 
    esptool.py --chip esp32 --port COM13 write_flash -z 0x1000 ESP32_GENERIC-20231005-v1.21.0.bin      
燒錄完成後按板子左下角 Reset 鈕, 用 Putty 或 Thonny 連線該 COM 埠 :

MicroPython v1.21.0 on 2023-10-05; Generic ESP32 module with ESP32

Type "help()" for more information.
>>> import os 
>>> os.uname()  
(sysname='esp32', nodename='esp32', release='1.21.0', version='v1.21.0 on 2023-10-05', machine='Generic ESP32 module with ESP32')

可見版本確實為 1.21.0. 


二. ESP8266 韌體燒錄 :   

常見的 ESP8266 開發板有 D1 mini (Pro) 與 Witty Cloud 等, 燒錄時有的要按住 Flash 鈕直到進度 % 出現 (Witty Cloud), 有的須將特定 GPIO 腳接地燒錄完移除 (D1 mini), 有的不須任何前提直接燒錄即可 (D1 mini Pro). 燒錄指令如下 :
  1. 檢查 Flash 容量 (D1 mini/Witty Cloud 為 4MB) :
    esptool.py --port COM13 flash_id    
  2. 抹除 Flash :
    esptool.py --chip esp8266 --port COM13 erase_flash   
  3. 燒錄韌體 (下燒錄指令前須按住右下角的 Flash 鈕) : 
    esptool.py --port COM13 --baud 115200 write_flash --flash_size=detect -fm dio 0 ESP8266_GENERIC-20231005-v1.21.0.bin      
燒錄完成後, D1 mini 要拔掉 D3 的接地線, 用 Putty 或 Thonny 連線該 COM 埠, 按板子左下角 Reset 鈕 :

MicroPython v1.21.0 on 2023-10-05; ESP module with ESP8266

Type "help()" for more information.
>>> import os  
>>> os.uname()  
(sysname='esp8266', nodename='esp8266', release='2.2.0-dev(9422289)', version='v1.21.0 on 2023-10-05', machine='ESP module with ESP8266')

參考 : 

# MicroPython v1.19 釋出 (以 ESP32 WROOM 為例)
# WeMOS D1 Mini 開發板測試 (以 D1 mini 為例)

2023年12月13日 星期三

可在嵌入式裝置上執行的 AI 框架 : AIfES

12/12 購物節本想在 momo 買旗標的實驗書套件 (定價 1599, 折扣優惠 $1060) :


但考量目前時間不夠用, 買來也是晾著就打消了. 但檢視目錄發現第三章介紹 AIfES, 頓時對這陌生的縮寫感到好奇, 搜尋才知道原來是一種可在嵌入式裝置上執行的 AI 框架, 甚至能在 8 位元的 Arduino UNO 上跑 (Arduino IDE 支援), 參考 :


此框架為開源專案, 原始碼寄存在 GitHub, 參考 :


先記下來, 有機會再研究. 

最美周芷若離世

昨晚看電視時水某說網傳有 "最美周芷若" 之稱的港星周海媚已離世消息, 我直覺是網路謠言, 這種情況早已是屢見不鮮見怪不怪, 通常本尊很快就會出面闢謠了. 但早上打開手機才知道這是真的, 據說原因是長年的紅斑性狼瘡, 這也太突然了. 

周海媚於 1994 年出演台視版倚天屠龍記中的周芷若一角後獲得最美周芷若讚譽. 不過我看過的倚天屠龍記中以中國 2019 年由曾舜晞, 陳鈺琪, 祝緒丹主演的版本拍得最好, 此劇中周海媚出演周芷若的師父滅絕師太, 我想應該也是最俏的滅絕師太. 


好站 : 新手也能懂得AI-深入淺出的AI課程系列

今天在 iT 邦幫忙發現這個 AI 系列課程 :


作者以 30 篇系列文章由淺入深, 從 Python 安裝到機器學習套件如 Scikit-Learn, TensorFlow, 與 PorTorch 等套件的介紹, 到 AI 基本概念與深度學習模型 (DNN, CNN, RNN) 之實作方法, 目標是讓非理工仔也能順利上手, 值得一讀. 

作者是母校高科大電機碩士班學生黃朝隆, 此系列文章已集結於 10 月底由博碩出版 : 


哇, 讀研究所就出書了, 真的很厲害. 此書博客來到 1/31 前都 7 折 ($503), 比 momo 便宜. 

2023年12月12日 星期二

露天購買直流停電自動切換控制板 (DC ATS)

為了製作門口的智慧監控信箱, 上露天買了 6 塊直流停電自動切換控制板 (5V-48V 與 12V-48V 兩款各 3 塊) :





這板子類似交流 ATS 功能, 在失去主電源時會自動切換到副電源, 接線如下 :




我的用途剛好相反, 主電源是電池, 副電源是市電轉 DC12V. 不過切換時間零點幾秒可能會造成樹莓派系統重開, 負載側加裝大電容不知能否解決, 等到貨再試試. 


2023-12-16 補充 :

下標好幾天都沒看到取貨訊息, 查露天交易清單才知老闆有回覆須滿 399 元才出貨, 只好取消訂單重新下標, 改為 5V*4, 12V*3, 總價 434 元全家免運 : 




momo 買書一本 : 機器學習最強入門

今天 1212 購物節上 momo 買了洪錦魁老師的大作 "機器學習最強入門", 洪老師的書特點就是範例多講解很詳細. 上回參加 MQTT 社團分享會時博客來有配合當天購書 66 折活動, 但我過了 12 點才想起而錯過時機, 沒想到這回 61 折更便宜 : 





這次完全用 momo 幣支付, 實付 0 元. 上回買爸的蓉憶記累積的 momo 幣還有 1600 多, 用掉 603 還剩 1000 多. 

2023年12月11日 星期一

高科大還書 1 本 : 跟著實務學習Bootstrap 4 JavaScript (二版)

調借的 "跨領域學Python : 資料科學基礎養成" 已到館, 先拿下面這本去換 :
Bootstrap 估計要明年初才會用到, 索書號 312.1695 4400 (3F東方語文圖書區) 

宋朝古法八段錦

最近在臉書看到這個 "宋朝古法八段錦" 演示 :




我從學生時代開始練八段錦多年, 從書裡的圖解與光碟演示看過好幾種練法, 但就數這個古法的最飄逸, 值得錄下來學學.  

2023年12月10日 星期日

2023 年第 49 周記事

最近發現手機是萬惡之淵藪 (這算古文嗎?), 尤其是臉書, 如果把隨機彈出來的短劇看久一點才滑走 (最近常看的是中國劇, 描寫永樂帝朱棣靖難篡位的故事, 這朱棣還真是好手段啊), 它的演算法會認為你喜歡歷史, 之後就會冒出很多類似的歷史劇 (如果是咪片那不就 ...), 有時一看就一個小時過去了. 警覺到臉書這個時間殺手, 我最近把手機放很遠, 避免隨手一拿就 Line, Email, FB ... 一直滑一直滑. 

過去這一周在此技術性提防下努力學習, EasyUI 複習持續前進, 因為賠給圖書館 "Python 機器學習錦囊妙計", 這周重拾 Scikit-Learn 的學習 (還有一個原因是上周參加高科大翻轉科技講座發現我聽不懂 XGBoost), 11 月衝太多原本想暫停一下的 Hahow 企業版線上課程也恢復 (本周看郭耀仁老師的 Python 50+ 資料科學 part 1), 我之前想說學習應該聚焦, 但實行後發現太過專注有疲乏的副作用, 所以修正為主軸線聚焦, 副軸線持續進行的做法.

菁菁恢復工作後發現右腳掌有水腫現象, 周一回診時劉醫師說有蜂窩性組織炎跡象, 開了抗生素吃後有改善, 明日回診. 小舅媽周二出院, 我今天本打算買鱸魚煮湯送去, 但到市場買完菜卻忘了, 且買鱸魚要早, 太晚去都賣完了. 下周日早上 7:30 就上市集. 舊橋頭賣豆腐的最近一個月都沒來, 今天問旁邊攤販, 說下周會來, 不知為何停業這麼久. 

連續三周清菜園的香附子, 今天又再翻一遍, 清出半桶, 估計下周那畦菜圃就能種玉米了. 另外還要再整一畦菜圃來種蔥與香菜, 今年這兩樣菜攤都不送, 一把 20 元. 

LG Gram 筆電的鍵盤終於在 12/8 換新修好了, 終於不用外接鍵盤, 這問題跑了三趟一心路的展碁才搞定. 展碁維修工程師莊先生雖然對 LG gram 評價不錯 (特別是面板), 但考慮維修零件價格問題, 認為以後筆電還是買雙 A 為宜. 最近看到 momo 這款 14 吋 ASUS ExpertBook B7 Flip 覺得 CP 值還不錯, 重量 1.44KG 還在可接受的 < 1.6KG 範圍內, 現在辦公室公務筆電就是 ExpertBook (但有 RJ45 較厚重之機型) : 




週六下午回到鄉下發現快到家時路口被攔無法通行, 遠望家門口有兩台大巴, 我以為是有拔蘿蔔活動, 仔細觀察才發現是上回申請自來水配管路權下來在施工, 我把車停在路口樹下徒步回家, 經過時一瞧發現挖掘深度約有 1.5 米, 原來水公司供水管居然埋這麼深. 施工團隊把門口的韓國草挖掉一塊來配管. 我拿了飲料給師傅們之後就去爬山了, 回來已經回填完畢在收尾, 但這一小時似乎讓來往的外地人不知怎麼繞出去, 我下山時就碰到好幾輛, 趕緊給他們指引方向. 





不過水公司僅負責從幹管配到水錶箱, 宅內配管還要自己請水電行來施作. 小舅說還要去水公司拿發票後去區公所辦理補助, 據說是 6 成. 

昨天去爬山時經過對面張家伙房, 給他們家的貓護院趴了兩張照片 :





姊姊說怎麼那眼神好像流氓, 仔細看真的有來者不善之感 (盡量用文言文). 傍晚在菜園除草, 看到我家小灰躺在走道曬太陽, 也給它拍了一張 :




它身上的豹紋蠻特別的.