市圖還書 1 本 : Excel x ChatGPT x Power Automate自動化處理

這本書有人預約需先還 :

1. Excel x ChatGPT x Power Automate自動化處理, 效率提昇便利技 /

這是旗標出版的好書, 但我沒時間看, 只翻了前言與 ChatGPT 部分. 

高科大還書 1 本 : 駕馭Chat GPT 4

因為有預約書到館, 所以中午飯後去母校圖書館還下面這本書 : 

# 駕馭Chat GPT 4 : 探索Azure OpenAI與Cognitive Service for Language開發實踐

此書使用 Azure OpenAI API, 主要是使用 Node.js 與 C#, 部分使用 Python, 雖然我不太熟 C#, 但此書還蠻有參考價值, 例如第二章有說明 Tranformer 的架構與工作原理, 第四章有介紹如何在 AOAI 上做微調等. 有需要時再回借. 

博客來買書兩本 : ChatGPT 萬用手冊 2025 春季號+AI 自動化流程超 Easy

晚上滑臉書看到博客來今日有下面兩書合購 66 折優惠, 當即下單買了 : 

# ChatGPT 萬用手冊 2025 春季號 $449 (66 折)

# AI 自動化流程超 Easy：不寫程式 No code 也能聰明幹大事 $449 (66 折)

合計 898 元折抵 Open Point 17 元, 實付 881 元 (小七至興店取貨付款). 

博客來買書一本 : ChatGPT 4 Omni 領軍

今天我之前寫的博客來 66 折爬蟲 LINE 通報洪錦魁老師的 "ChatGPT 4 Omni領軍" 今日 66 折, 難得的機會當然立馬買一本 :

# ChatGPT 4 Omni領軍 - Copilot、Claude、Gemini、36組GPT ...全面探索生成式AI的無限可能 $514 (66 折, 到今日 23:59 止)

同時今晚 MQTT 社團有辦洪錦魁老師的本書分享會. 但晚上有棒球 12 強台日冠軍爭霸賽, 所以沒辦法專心聽, 時不時跑去書房看轉播, 六局結束台:日為 4:0, 讚讚讚!

OpenAI API 學習筆記 : 使用 requests 模組呼叫 OpenAI API

昨天儲值 10 美元購買 OpenAI API 的隨用隨付額度後, 今天適逢不連假的中秋節, 在家繼續玩 OpenAI API, 主要是參考今年三月菁菁用她的成年禮文化幣買給我的三本 ChatGPT 書以及我在年初買的 ChatGPT 開發手冊 (黃皮書) :

# ChatGPT開發手冊  (旗標, 2023, 施威銘研究室)

# ChatGPT 開發手冊 Turbo×Vision 進化版 (旗標, 2024, 施威銘研究室)

# ChatGPT 4 Turbo 萬用手冊 2024 春季號 (旗標, 2023, 施威銘研究室, 蔡宜坦)

# ChatGPT 4 萬用手冊 2023 秋季號 (旗標, 2023, 施威銘研究室, 蔡宜坦)

本系列之前的文章參考 :

# OpenAI API 學習筆記 : 註冊 OpenAI 帳戶與建立 API 金鑰

# OpenAI API 學習筆記 : 使用 openai 套件串接 GPT 語言模型 (一)

# OpenAI API 學習筆記 : 使用 openai 套件串接 GPT 語言模型 (二)

在前面的測試中都是安裝 openai 套件後使用其中的 OpenAI 類別之物件來呼叫 API (方法), 其實也可以用具有處理 HTTP 協定能力的 requests 模組或命令列的 curl 指令來呼叫 API. 特別是對於跑 MicroPython 的嵌入式設備可能無法安裝 openai 套件, 這時就可以使用 requests 模組. 

首先要安裝 requests 模組 : 

pip install requests   

然後匯入 requests 模組, 並呼叫其 post() 函式向 OpenAI 發出 POST 請求

>>> import requests   

設定 OpenAI API 網址與金鑰變數 :

>>> openai_api_url='https://api.openai.com/v1/chat/completions'   

>>> openai_api_key='輸入 API key' 

設定提示詞變數 :

>>> prompt='甚麼是量子糾纏? 請以能讓小學生了解的程度簡述並以繁體中文 (zh_Hant) 回答'  

呼叫 requests.post() 函式向 OpenAI API 發出 POST 請求 :

>>> response=requests.post(openai_api_url,

                    headers={'Content-Type': 'application/json',

                                    'Authorization': f'Bearer {openai_api_key}'},

                    json={'model': 'gpt-4o-mini',

                               'messages': [{'role': 'user',

                                                     'content': prompt}]

                             }

                    )

回應為 JSON 格式字串, 呼叫回應物件的 json() 函式轉成 Python 字典 :

>>> reply=response.json()   

>>> type(reply)   

<class 'dict'>    

列印字典內容 : 

>>> reply    

{'id': 'chatcmpl-A8N8PsXCHyfYdOiRkSQCmXaQmNdr6', 'object': 'chat.completion', 'created': 1726558917, 'model': 'gpt-4o-mini-2024-07-18', 'choices': [{'index': 0, 'message': {'role': 'assistant', 'content': '量子糾纏是一種很特別的現象，發生在微小的粒子之間，比如電子或光子。當兩個粒子糾纏在一起時，即使它們相隔很遠，一個粒子的狀態改變了，另一個粒子的狀態也會立刻改變。\n\n想像一下，如果你有兩顆神奇的球，這兩顆球是好朋友，無論它們有多遠，只要你對其中一顆球說一句話，另一顆球就能聽到並做出反應。比如，當你告訴第一顆球“變成紅色”時，第二顆球也會立刻變成紅色，無論它們隔了多遠。\n\n量子糾纏告訴我們，世界上有些東西是連在一起的，超越了我們平常的理解。這種現象非常重要，科學家們正在研究它，因為它可能幫助我們發展更好的電腦和通訊技術。', 'refusal': None}, 'logprobs': None, 'finish_reason': 'stop'}], 'usage': {'prompt_tokens': 42, 'completion_tokens': 243, 'total_tokens': 285, 'completion_tokens_details': {'reasoning_tokens': 0}}, 'system_fingerprint': 'fp_483d39d857'}

取得字典中的聊天回應內容 : 

>>> print(reply['choices'][0]['message']['content'])   

量子糾纏是一種很特別的現象，發生在微小的粒子之間，比如電子或光子。當兩個粒子糾纏在一起時，即使它們相隔很遠，一個粒子的狀態改變了，另一個粒子的狀態也會立刻改變。

想像一下，如果你有兩顆神奇的球，這兩顆球是好朋友，無論它們有多遠，只要你對其中一顆球說一句話，另一顆球就能聽到並做出反應。比如，當你告訴第一顆球“變成紅色”時，第二顆球也會立刻變成紅色，無論它們隔了多遠。

量子糾纏告訴我們，世界上有些東西是連在一起的，超越了我們平常的理解。這種現象非常重要，科學家們正在研究它，因為它可能幫助我們發展更好的電腦和通訊技術。

---------------------------------

可見跟使用 openai 套件一樣都能取得聊天回應. 

我將上面程式碼寫成一個模組 ask_openai.py

# ask_openai.py 

import requests

def query_text(prompt, api_key, model='gpt-4o-mini'):

    url='https://api.openai.com/v1/chat/completions'

    headers={'Content-Type': 'application/json',

             'Authorization': f'Bearer {api_key}'}

    json={'model': model,

          'messages': [{'role': 'user', 'content': prompt}]} 

    response=requests.post(url=url,headers=headers, json=json)

    reply=response.json()

    return reply['choices'][0]['message']['content']

使用時先匯入 ask_openai 模組 :

>>> import ask_openai   

>>> api_key='輸入 API key'    

>>> prompt='甚麼是量子糾纏? 請以能讓小學生了解的程度簡述並以繁體中文 (zh_Hant) 回答'  

>>> ask_openai.query_text(prompt, api_key)   

'量子糾纏是一種特別的現象，發生在非常小的粒子（像電子或光子）之間。想像你有兩顆神奇的骰子，無論距離有多遠，當你擲出第一顆骰子，如果它顯示了「3」，那麼第二顆骰子也會立刻變成特定的數字，例如「5」。這種關聯是非常神奇的，因為即使兩顆骰子相隔很遠，第一顆的結果會立刻影響到第二顆的結果。\n\n在量子糾纏中，這兩個粒子是緊密相連的，即使它們在宇宙的兩端，它們也能互相影響。這種現象挑戰了我們對物理世界的理解，因為它告訴我們，粒子之間可以透過一些看不見的方式保持聯繫。就像好朋友之間的心靈相通，無論距離多遠，他們的感覺總是相互影響著。'

OpenAI API 學習筆記 : 使用 openai 套件串接 GPT 語言模型 (二)

由於月底茶米老師要來我司授課 (OpenAI API), 我之前用爸及菁菁手機申請 OpenAI 帳號時獲得的 5 美元免費額度都早已超過三個月失效了, 所以今天改用我的備用手機 iPhone 門號與 Gmail 註冊 OpenAI 帳戶與申請 API Key 先來複習一下, 距離上次玩 OpenAI API 已經超過半年, 有點生疏了. 

本系列之前的文章參考 :

# OpenAI API 學習筆記 : 使用 openai 套件串接 GPT 語言模型 (一)

1. 註冊 OpenAI 帳戶與申請 API Key :

連線登入網址 :

# https://platform.openai.com/login   

 

按右下角的 "註冊" :

填寫 Email 按 "繼續" :

設定長度至少 12 字元的密碼按 "繼續" : 

去信箱開啟驗證信函, 按 "驗證電子郵件地址" : 

填寫個資按 "同意" 即完成註冊 :

自動進入 Overview 頁面 :

# https://platform.openai.com/docs/overview

2. 申請 API Key :

按右上角的姓氏按鈕, 點選 Profile :

點選 User API keys :

按 Start verification 鈕 :

輸入手機號碼 : 

讀取手機收到的 6 位數驗證碼後輸入框框中 : 

結果顯示因為此手機門號已綁定了一個 OpenAI 帳號, 所以不會有免費額度可用 :

蛤? 此門號從未拿來用過啊? 奇怪. 按 Continue 輸入 API key 的名稱, 按 Create secret key :

先按右邊的 Copy 鈕將 API key 複製到記事本檔案中保存 : 

因為之前已用 pip instal openai 安裝過套件, 馬上匯入 OpenAI 類別來測試, 結果出現錯誤訊息  :

>>> from openai import OpenAI     

>>> api_key='輸入 API Key'    

>>> client=OpenAI(api_key=api_key)       

>>> chat_completion=client.chat.completions.create(

    messages=[

        {"role": "user",

         "content": "請問愛情是甚麼?",

        }],

    model="gpt-3.5-turbo",

    )   

... (略) ...

    raise self._make_status_error_from_response(err.response) from None

openai.RateLimitError: Error code: 429 - {'error': {'message': 'You exceeded your current quota, please check your plan and billing details. For more information on this error, read the docs: https://platform.openai.com/docs/guides/error-codes/api-errors.', 'type': 'insufficient_quota', 'param': None, 'code': 'insufficient_quota'}}   

'insufficient_quota' 意思是儲值不足啦! 點選左邊導覽列 Overview 底下的 Billing, 發現 Credit remaining 為 0 :

但我這支 iPhone 手機門號從未用來綁 OpenAI 帳戶啊? 查詢網路才知道, 原來今年三月下旬起 OpenAI 就不再贈送新用戶 5 美元免費體驗額度啦! 參考 :

# OpenAI新注册的账号不再赠送5美元免费API额度

3. 儲值 OpenAI API 帳戶 : 

若要繼續使用 OpenAI API 必須儲值為付費帳戶, 每次最低 5 美元以上, 用多少 token 扣多少費用 (pay as you go), 直到 credits 扣到 0 再儲值即可. 

按 Profile/Billing 的 Add payment details : 

選擇 Indivisuals :

填寫信用卡卡號等資訊後按 Continue : 

選擇儲值額度, 建議 5 或 10 美元即可, 關閉自動扣款 :

按 Confirm payment 完成儲值 :

這時回到 Profile/Billings 就會發現可用額度已變成 10 美元了 : 

再次測試 API 呼叫就能順利取得回應了 : 

>>> from openai import OpenAI     

>>> api_key='輸入 API Key'    

>>> client=OpenAI(api_key=api_key)       

>>> chat_completion=client.chat.completions.create(

    messages=[

        {"role": "user",

         "content": "請問愛情是甚麼?",

        }],

    model="gpt-3.5-turbo",

    )   

>>> chat_completion.choices[0].message.content   

'愛情是一種情感和情緒上的連結，通常是指對另一個人產生深厚的感情和依戀，願意為對方付出和犧牲。愛情包含了關心、尊重、信任、支持和忠誠，是人們之間最重要和特別的情感連結。愛情能夠讓人感到幸福、滿足和安心，同時也需要雙方共同的努力和維護。'

這時去查看 Billing 發現已用掉 0.01 美元, 問這一點點就要 3 元台幣, 好像不便宜咧. 

改用目前最新的 GPT4-o 模型詢問 :

>>> chat_completion=client.chat.completions.create(

    messages=[

        {"role": "user",

         "content": "請問愛情是甚麼?",

        }],

    model="gpt-4o",

    ) 

>>> print(chat_completion.choices[0].message.content)   

愛情是一種深刻而多樣的情感，通常包括對他人的強烈吸引和親密關係的渴望。愛情的具體表現和定義可以因個人、文化和情況的不同而有所不同，但一般來說，愛情包含以下幾個要素：

1. **情感上的依戀**：對另一個人有強烈的情感依附，並渴望與之度過更多的時間。

2. **親密感**：在兩人之間建立深刻的情感連結和理解，分享彼此的生活細節和內心世界。

3. **激情**：這可能包括身體上的吸引和浪漫的激情，通常在戀愛的早期階段最為強烈。

4. **承諾**：願意對另一人負責，並努力維持和增進這段關係。

5. **包容和支持**：在困難和挑戰面前支持對方，並願意為對方的幸福而努力。

心理學家羅伯特·斯坦伯格（Robert Sternberg）提出了著名的「愛的三角理論」，認為愛情由親密、激情和承諾三個成分組成，不同成分的組合可以產生不同類型的愛情。

愛情在不同的文化和時代背景下也可能有不同的表現和價值觀。例如，在一些文化中，愛情可能更多地與家庭安排和社會義務相關，而在其他文化中，則更強調個人的情感體驗和自由選擇。

最後，每個人的愛情體驗都是獨特的，無論是快樂與幸福，還是挑戰與困難，都是愛情的一部分。

這時再去查看 Billing 發現餘額仍是 9.99 美元, 咦, 是新模型比較省錢嗎?

改用 gpt-4o-mini 模型問問 : 

>>> chat_completion=client.chat.completions.create(

    messages=[

        {"role": "user",

         "content": "請問愛情是甚麼?",

        }],

    model="gpt-4o-mini",

    ) 

>>> print(chat_completion.choices[0].message.content)    

愛情是一種複雜的情感，它通常涉及深厚的情感連結、親密感和對另一個人的強烈關懷。愛情可以表現為浪漫的吸引、親密的友誼、無條件的支持和理解。它在不同的文化和個人之間可能會有不同的定義和表現方式。

愛情往往伴隨著一些特徵，比如：

1. **親密感**：希望與對方分享生活中的點滴，有一種心靈上的契合。

2. **依戀**：對對方有持續的情感依賴，渴望對方的陪伴。

3. **吸引力**：對對方的外貌、個性或其他特質有強烈的吸引力。

4. **承諾**：希望在長期的基礎上建立關係，願意為彼此付出和努力。

愛情也可以是短暫的或持久的，它可能會隨著時間的推移而變化。無論是浪漫愛情、友愛還是親情，愛情都是人類關係中不可或缺的一部分，它能夠帶來幸福與滿足，也可能帶來挑戰與痛苦。

再去查看 Billing 餘額仍是 9.99 美元, 我猜可能是顯示問題, 它只到小數第二位, 所以第一次會扣 0.01 讓你有感吧? 關於各模型的費用定價參考 :

# https://openai.com/api/pricing/

目前常用的最新穩定版本價格如下 : 

• gpt-4o : $5.00 / 1M input tokens, $15.00 / 1M output tokens
• gpt-4o-mini : $0.150 / 1M input tokens, $0.600 / 1M output tokens
• gpt-o1-mini : $3.00 / 1M input tokens, $12.00 / 1M output tokens

可見最便宜的應該是 gpt-4o-mini 模型了. 

好站 : AI Python for beginners (吳恩達親授)

今天從陳南宗大神臉書得知吳恩達教授在 deeplearning.ai 線上教學網站上的免費課程 :

# https://www.deeplearning.ai/short-courses/ai-python-for-beginners/ 

這是針對 Python 初學者開設的入門課程, 註冊後即可免費聽吳教授以淺顯的英文講解 Python 基本語法, 這是進入 AI 領域的入門磚, 他強調只要學一丁點的 Python 程式語法 (a little bit coding), 你就能進入快速發展中的 AI 世界. 

此課程包含三個部分, 可以邊看邊用網站所附的 Jupyter Notebook 與 ChatGPT 交談介面直接線上測試程式碼, 完全不需要安裝任何軟體, 非常方便 :

我趁中午午休已看完簡單到不行的 part1 (就當作是複習), 如果覺得有些英文聽不太懂, 可以開啟字幕輔助理解. 其實我比較想上的是下面的 LangChain 這堂課, 目前也是免費 :

# https://learn.deeplearning.ai/courses/langchain/lesson/1/introduction 

momo 購買旗標創客•自造者工作坊-用創客玩 ChatGPT x Python AI 語音大應用

昨天去河堤還書時順便去逛明儀, 發現旗標的創客套件書有新貨 :

# 創客•自造者工作坊-用創客玩 ChatGPT x Python AI 語音大應用 $1599

回來查詢發現 momo 開學季有 79 折活動, 且我還有 momo 幣可用, 所以就在 momo 買了 :

用掉 200 元 momo 幣實付 1063 元, 約 66 折左右. 

ChatGPT 學習筆記 : 自訂 ChatGPT

今天參加茶米老師的 ChatGPT 線上研習 (北門高中), 學到了非常多的技巧, 其中之一便是自訂 ChatGPT 的設定, 這相當於是常設的 System (背景人設), ChatGPT 回答時會先參考此設定來決定答覆內容, 我們可以把自我介紹與對回覆方式的要求 (例如一律使用繁體中文) 設定紀錄在此, 這樣就能精確快速地取得滿意的回答. 

首先必須登入 ChatGPT 帳號, 按右上角的帳號大頭貼, 於彈出選單中點選 "自訂 ChatGPT" :

然後在 "自訂命令" 欄中輸入簡單的自我介紹與要求, 我輸入的是 :

"我是一個住在台灣的軟體工程師, 主要工具是 Python 語言, 在請問程式相關問題時, 如無特別指定, 請一律用 Python 回答. 如果使用中文, 請使用繁體中文 (zh-hant) 回答我."

按 "儲存" 後再按 "取消" 即可跳出設定. 

接下來我問 ChatGPT 判別身分證的正規式寫法 : "請問判別台灣身分證的正規表示法程式怎麼寫?", 我沒指定用甚麼程式語言, 它就自動用 Python 語法回答, 這就是 "自訂命令" 的效果 : 

如果要用別的程式語言, 例如 Javascript, 可以特別指名 : 

哇, ChatGPT 實在日新月異, 越來越好用. (是ChatGPT不是ChatGTP)

高科大還書 1 本 : ChatGPT完整解析

昨天下班順路去母校還書 (被預約) :

# ChatGPT完整解析 : API實測與企業應用實戰

Source : 博客來

此書篇幅不大, 但內容卻很豐富, 可以說是小而美的一本書. 

金石堂買書 5 本

昨天傍晚去楠梓載菁菁回家 (從泰國回來的晚上載姐姐去搭高鐵順路載菁菁去工作室, 機車放在家裡), 回程去高鐵二樓環球商場的金石堂書店取書, 其實上周櫃台小姐通知所訂 5 本書已全到貨, 但配合菁菁要花掉她的文化幣約定 3/12 日取貨. 

因高鐵附近停車不易, 我乾脆從台鐵左營新站這邊開進高鐵停車場, 停好車穿過高鐵站區到另一側台鐵站區環球商場二樓的金石堂, 因滿額有優惠分兩次將 2400 元文化幣用完後剩下 624 元刷卡, 菁菁說原來電腦書不便宜耶! 這五本書定價合起來 3420 元 :

1. ChatGPT 開發手冊 Turbo×Vision 進化版—用 OpenAI Chat/Assistants API.Function calling 設計 GPTs action.LINE/Discord bot.股市分析/自動助理 $820
2. ChatGPT 4 Turbo 萬用手冊 2024 春季號：提示工程、超強外掛、My GPTs、OpenAI API、Midjourney、Copilot、Bard、Claude 2 $680
3. ChatGPT 4 萬用手冊 2023 秋季號：超強外掛、Prompt、LineBot、OpenAI API、Midjourney、Stable $680
4. 跟 NVIDIA 學深度學習！從基本神經網路到 CNN.RNN.LSTM.seq2seq.Transformer.GPT.BERT...，紮穩機器視覺與大型語言模型 (LLM) 的建模基礎 $748
5. 最新LINE官方帳號|邁向百萬星級店家 $500

實付 1740+1284=3024 元 (約 88 折), 扣掉文化幣刷卡 624 元 3024-2400=624. 這 5 本書夠我讀一整年了, 基本上旗標去年到今年出版的重磅 ChatGPT 開發書籍盡入囊中矣, 既然是菁菁有心'送給我的, 那要更用心來練功了, 哈哈! 

高科大還書 3 本 : PyTorch, 自然語言處理, GPT 模型等

今天中午午休時到 50 層大樓的永豐銀行驗證, 順便去母校圖書館還書三本 (被預約) :

1. 28

   PyTorch深度學習攻略 : 核心開發親授! / Eli Stevens, Luca Antiga, Thomas Viehmann著

2. 自然語言處理最佳實務 : 全面建構真正的NLP系統 / Sowmya Vajjala等著 ; 賴屹民譯

   
   

3. GPT語言模型大揭密 : OpenAI API應用全攻略, 打造頂尖NLP產品 / Sandra Kublik, Shubham Saboo著 ; AI人工智慧小組(GPT、博碩編輯室)譯

No.2 這本 NLP 很不錯, 下回再回借, 或乾脆自己買一本. 還 3 本換 3 本回來 :

1. 駕馭Chat GPT 4 : 探索Azure OpenAI與Cognitive Service for Language開發實踐(使用.NET與Node.js)
2. AIoT與OpenCV實戰應用 : Python、樹莓派、物聯網與機器視覺
3. AI繪圖夢工廠

還完書去吃鄧園雞腿飯, 他們的特製雞腿飯可香了, 我每次去借還書都要去吃一次或包便當回家, 還好要下周一才開學, 不用排隊. 

好書 : GPT 語言模型大揭密-OpenAI API 全攻略

此書借自母校圖書館, 因有人預約所以趕緊讀完後要拿去還了 :

# GPT語言模型大揭密 : OpenAI API應用全攻略, 打造頂尖NLP產品

Source : 天瓏

此書譯自 Packt 於 2023 年 2 月出版的這本書 : 

# GPT-3 : the ultimate guide to building NLP products with OenAI API

Source : 天瓏

不過關於 OpenAI API 的介紹其實是第三章, 後面兩章都是跟企業如何應用 ChatGPT 有關, 我就瀏覽而已. 以下是讀後摘要 :

1. GPT=Generative Pre-trained Transformer (生成式預訓練變換器)
2. GPT 模型是由位於美國舊金山的 AI 公司 OpenAI 所建立, 其目標是創造一個不受限於特定任務, 能像人類一樣在各種任務上表現出色的通用人工智慧產品. OpenAI 在 2018 年發表的 GPT-1 模型研究報告中指出, 結合 Transformer 與非監督式預訓練可以實現強大的自然語言理解能力, 並且可在少量語料的微調下執行各種 NLP 任務.  
3. ChatGPT 可以完成 NLP 的四大任務 :
   (1). 分類 (例如情緒分析, 垃圾郵件偵測)
   (2). 命名實體 (NER) 辨識
   (3). 摘要 (summarization)
   (4). 文本生成 (text gerneration)
4. GPT 演化史 :
   2018-06 : 發表 GPT-1, 使用 BooksCorpus 訓練, 包含 1.17 億個參數. 
   2019-02 : 發表 GPT-2, 包含 15 億個參數, 可進行多重任務操作. 
   2020-05 : 發表 GPT-3 論文 (https://arxiv.org/abs/2005.14165), 包含 1750 億個參數
   2020-06 : 發布 OpenAI API 之 GPT3 使用權限
5. NLP=計算語言學+機器學習, 可識別上下文, 理解自然語言意圖之智慧機器.
6. GPT-3 是一個通用的大語言模型, 在 GPT-3 之前並沒有一個語言模型能在各種 NLP 任務上讓人滿意. 
7. 一個 AI 大語言模型 (LLM) 是通過大型語料訓練而得, 就像 Gladwell 在 "異數 (Outlier)" 這本書所說的 10000 小時練習變成專家, 大語言模型就是經過數十萬小時學習的人類知識專家. 
8. LLM 的微調 (fine-tuning) 是使用專門的資料集對 LLM 進行額外的訓練, 可以將預訓練模型進一步調整以符合特定需求, 這比從頭開始訓練更快更有效率.
9. GPT-3 是在五個資料集的文本語料庫訓練而得 :
   (1). Common Crawl : 主要是 8 年網路爬蟲之網頁資料
   (2). WebTex2 : OpenAI 內部精選的高品質網頁資料.
   (3/4). Book1 & Book2 : 包含數萬本不同主題之書籍
   (5). Wikipedia : 至 2019 年為止之英語維基百科文本約 580 萬篇
   這些語料庫合計約 1 兆個單字, 其中英語約 93.7%, 德語 1.2%, 法語 1%.
10. LLM 的突破性進展來自於 Google 於 2017 年發表的一種可以快速處理文本這種序列式資料的深度神經網路 Transformer (轉換器), 它是一種由編碼器 (encoder) 與解碼器 (decoder) 所組成的 seq2seq 結構, 但放棄了傳統的 RNN 與 CNN, 而是採用注意力 (attention mechanism) 機制來平行處理序列的轉換. Transformer 的發明最初是為了改善 AI 在機器翻譯上的表現. 不過 GPT 模型只使用了 Transformer 神經網路中的解碼器部分. 
11. 注意力機制模仿人類大腦在處理序列資料時會集中注意力於序列中的特定部分, 使用機率來表示序列中最相關的部分. 例如 "The cat sat on the mat once it ate the mouse" 中的 it 是指 cat 還是 mat? Tranformer 會用機率來表示 it 與 cat 強烈相關, 這就是注意力. 注意力機制讓 Transformer 能濾掉噪音專注於重要的訊息, 將語意相關但沒有明顯標記指向彼此的兩個單詞連接起來. 與其它的神經網路相比, Transformer 更能理解句子中單詞的上下文 (context). 
12. Transformer 有兩種注意力機制 :
    (1). 自注意力機制 (self-attention) : 一個句子中各單詞間的關係
    (2). 編碼器-解碼器注意力機制 : 從來源句到目標句單詞之間的關係
13. GPT-1 在 NLP 的零樣本 (zero-shot) 任務中表現良好. 所謂零樣本學習能力是指模型在沒有先前看過任務範例的情況下執行一項任務的能力. 
14. GPT-2 是在比 GPT-1 更大的資料集 (40GB 文本) 與更多參數 (15 億) 上訓練, 其研究報告指出, 這可以提升語言模型理解任務的能力, 它與 GPT-1 不同之處為可進行多重任務操作 (multitask). 
    
    

好書 : ChatGPT原理-從 PyTorch 中的 NLP 功能讓你一腳跨入自然語言

昨天晚上去明儀找 Azure 的書沒找著, 但卻找到下面這本好書 :

# ChatGPT原理-從 PyTorch 中的 NLP 功能讓你一腳跨入自然語言 (深智 2023)

Source : 博客來

這是深智引進的繁體版中國資訊書, 裡面有 ELMO, BERT, GPT 等 LLM 的實作程式碼, 對 Transformer 的結構與自注意力原理也有詳細說明與圖解, 先存查以後再買. 

# 書附範例下載 (1.2GB)

momo 買書一本 : ChatGPT 開發手冊

聽了一整年的 ChatGPT 與 LLM 課程, 最近終於想要動手測試 OpenAI API 的串接, 晚上在 momo 找到旗標這本非常棒的開發手冊 :

# ChatGPT 開發手冊－用 OpenAI API•LangChain•Embeddings 設計 (旗標, 2023)

剛好今天打七折 (昨天看還只是 79 折), 還好在忙等到今天才買更划算 : 

手上還有 1005 元 momo 幣, 但既然已打 7 折就先留著吧. 

好站 : 張維元-ChatGPT OpenAI API串接應用

年底錯過了張維元老師的 OpenAI API 串接應用的直播分享會, 所幸有錄影可以補課 :  

# 2023-12-28-張維元-ChatGPT OpenAI API串接應用

我本來就打算 2024 開年這幾天要儲值 5 美元或新開帳戶來測試 OpenAI API 的串接, 先補完課再來玩看看唄. 

補充 : 

看完覺得比較像是深度學習與生成式 AI 概論, API 串接是要報名另一堂課, 有點小小的失望. 問題應該是標題下得不精確. 

博客來買書 2 本

今天參加益師傅 MQTT 社團的線上分享會, 由洪錦魁老師介紹最近的 AI (Copilot) 大作, 博客來配合今日購書 66 折優惠 (到 12/17 23:59 為止), 因 66 折 343 元須 40 元運費, 所以加買一本之前想買的書 : 

# Bing Chat與Copilot邁向文字、視覺、繪圖、語音、程式的AI體驗王者歸來 66 折

# ChatGPT X Keras X PyTorch全方位應用實踐指南：從零開始的AI程式設計養成之路 7 折

7-11 取貨付款 846 元. 

好站 : 茶米老師 1111 線上講座-用 Open AI API 的魔法鑰匙

11/29 科技島有茶米老師的線上講座, 我有打在日曆上卻忘記看了 : 

# 用Open AI API的魔法鑰匙，打開ChatGPT的開發大門|黃信溢線上講座 

今天得空上科技島看補課 (影片在 YT) : 

# 學會API 製作出心目中夢幻圖片 |黃信溢線上講座【上】

(上集)

# API超展開 寫出專屬函式 |黃信溢線上講座【下】

(下集)

雖然之前茶米老師在金門大學分享時我就看過了此課程, 但看完沒實作其實就還給老師了, 還是需要重看找回印象. 茶米老師講課四平八穩, 按部就班非常好懂, 我非常喜歡聽他的課. 

博客來買書兩本 (ChatGPT4 + Notion 套書)

今天晚上參加益師傅 MQTT 社群舉辦的洪錦魁老師線上講座, 同時博客來有配合購買洪老師著作 66 折活動 (只有今天 11/5) :

# ChatGPT-4 與Bing Chat：創新體驗文字/繪圖/音樂/動畫/影片的AI世界 $343 (66 折)

晚上回到高雄上博客來要訂居然無現貨了, 但仍可購買, 下訂時發現好像沒滿 400 元須 40 元運費, 剛好洪老師另外一本 Notion 的著作搭配一起買也是 66 折, 加起來共 673 元 :

# Notion 打造你的高效數位人生 王者歸來 $ 343 (66 折)

結帳時發現之前有 E-coupon 50 元年底到期, 趕緊把它用掉免得過期作廢 : 

實付 623 元, 相當於 61 折, 爽爆. 今天會買這本書除了 66 折貪便宜誘因外 (當然洪老師作品是手把手教學, 口碑相當好), 其實還有一個原因 : 看到所追蹤的臉書 LLM 大神陳南宗的推薦, 他不僅是 AI 好手, 也是文學創作者, 厲害.

2023-11-11 補充:

今天上博客來發現已到貨, 同樣沒收到簡訊與 email 通知, 懶得向客服反映了. 裝睡何必去叫醒. 

好站 : 如何善用 ChatGPT 輔助資料分析與視覺化工作？

前陣子在 1111 人力銀行生成式 AI 系列免費課程中上了彭其捷的 ChatGPT 課, 搜尋網路發現他的部落格內容蠻豐富的, 除了 ChatGPT 外還有資料視覺化方面的文章, 我比較感興趣的是與 Python 相關的部分 (人生苦短, 我只用 Python) :

# 如何善用 ChatGPT 輔助資料分析與視覺化工作？-（四）Python/Colab 協作資料輸入並產出視覺化圖表

只要善用 ChatGPT, 程式設計師就不用在一個個小枝節上卡關 (例如忘記正規式怎麼寫或如何在串列迭代中取得索引等等), 快速地完成專案, 我最近用 tkinter 完成了兩個 GUI 程式專案就是靠著 ChatGPT 的幫忙才能在兩個月內迅速結案, 這在以前恐怕要花個至少半年以上. 但如果說 AI 要完全取代軟體工程師恐怕還言之過早, 畢竟 LLM 目前的能耐就只是個博學的接龍者罷了.