Sunday, December 08, 2024

A* search

 

















Traveling Salesman Problem 簡稱TSP

(一個推銷員要拜訪所有客戶城市,每個城市只能拜訪一次,最後要回到出發城市,請為他/她計算最短的拜訪路徑)

TSP在工業界有重要應用,包括物流(UPS/Amazon配送路線優化)、製造業(電路板鑽孔、機器人組裝路徑)、電信(網路路由、線路安裝)和能源(電網維護、管線檢查)。凡是需要造訪多個地點同時最小化成本、時間或距離的場合都適用。現代變體能處理容量限制、時間窗口等實際約束。企業使用OR-Tools、Gurobi等專業軟體解決這些問題,透過優化倉儲揀貨、切割模式、3D列印路徑和車隊管理等作業,往往能節省數百萬成本。


(樸素) Visualize TSP (Traveling Salesman Problem) by A* search 使其可以改變網路節點個數

(美學) 視覺化 A* for Traveling Salesman Problem 使其可以改變網路節點個數









給定一個電路板,進行鑽孔程序模擬的優化 (建議 AI 一個演算法,例如A*, Greedy Method...)




Wednesday, November 20, 2024

Tuesday, October 29, 2024

使用內省思路逐一針對缺失改進論文

思維鏈,思路,Chain of Thought: 一種按部就班,將複雜任務化為連續較為簡單步驟,使理路更為清晰,每個步驟較容易執行,最後目標因而更容易達成的思考方法。(例如:渡船問題)

 

you are a professor. criticize chap 2 of the thesis








According to weakness 1, improve chap 2, mark the difference in bold.

依據弱點1. 改寫chap 2, 改寫處以黑體字表示





According to weakness 2, keep improving chap 2, mark the difference in bold.


依據弱點2. 繼續改寫chap 2, 改寫處以黑體字表示


改寫結果

Monday, October 28, 2024

#6 Enhance Writing by AI

課堂練習 

使用 Claude Sonnet 3.5 

ChatGPT 4o


Deadline: This is an in-class exercise. 無需繳交作業。


1. 使用一組關鍵字(約四到五個),探索性產生一篇論文。具備清楚章節,引用,文獻,並且使用台灣正式文字用法。


3. 接續前一題,撰寫更好的文獻回顧(使用思維鏈)

4. 依據實驗方法或實驗數據簡報,摘要報告生成完整碩論 歡迎使用你的資料,但注意機敏議題。(實驗方法簡報參考)

5. 接續前一題,撰寫更好的文獻回顧(使用思維鏈, CoT)





Wednesday, October 23, 2024

AI 輔助學術論文寫作(使用大型語言模型,Large Language Model, LLM)











實例1

AI 輔助面試 app
  • 參考實驗結果簡報,或是使用自己的實驗資料(注意請先衡量資料機敏性再決定使否上傳) 
  • 生成論文 example

實例 2



實例3

跳舞評分機 source



精煉階段

撰寫更好章節的各種方法簡介
  • 生成結果實例 example (9 pages, 2463 words)


進階運用




補充資料







需要注意的地方(checklist)

1. 為了生成更好品質的中文文本,最好全部用英文來做提示,到了最後再翻譯為中文。

2. 使用中文提示產生論文文獻回顧,常會出現幻覺,因為中文資料集太少,所以常會發生,英文資料集很龐大的,通常不會有問題,因此建議使用英文做為提示。

3. 建議一次生成一章,一次生成全篇論文會像是論文綱要。如果一次生成一章, 配合思維鏈步驟,可生成較長較為詳盡的內容,舉例可生成76頁的虛擬碩士論文

4. 如果寫碩論時不知從何開始,可以使用上述方法運用AI提供範例。AI 輔助寫作最大的價值之一是它能在極短的時間內,協助你在心中將一個你過往不甚熟悉的寫作主題搭建起一個結構與表達的大方向,並奠基在其上透過啓發式的對話去快速地產出具有洞見且切中主題的內容。

5. Claude 付費版可使用Opus 3,適合生成論文水準的文本。ChatGPT 付費版生成文本品質也是較佳。

6. 檢查文獻真實性可以使用Google Scholar

7. 建議翻譯成中文的時候,提示使用"台灣正式文字"提示它,通常繁體版本的語氣預設是中國用語(會得到質量而非品質,模塊而非模組)。


一些有用的提示
1. 如果生成文章時出現條列式,像在寫投影片,給予提示「in prose」
2. 如果生成文章還沒有結束,卻在中間停止了,給予提示「continue」
3. 如果出現簡體字和中國用詞,給予提示「使用台灣正式文字」



Tuesday, October 08, 2024

存取擴增生成(Retrieval Augmented Generation, RAG)

Tip and example (code example for each tip)

(code example integrated)



Illustration of RAG

Source


檢索機制(Effective Retrieval)




微調成專業模型(微調流程) Fine-tuning of model



實際運用






Prompt for LLM (指引AI)

When AI fails


 Squirrel cage induction motor



  Prompt (提示) 

Is short prompt or long prompt better?

  • Clear - 明確清晰地表達你的需求。你的要求越精確,就能提供越貼合的回應。 例子:
    • 不佳:「告訴我關於貓的事。」
    • 更好:「請列舉五種最受歡迎的家貓品種,並簡述每種貓的主要特徵。」
  • Specific - 提供相關具體資訊。這有助於更好地理解你的需求。 例子:
    • 不佳:「如何準備演講?」
    • 更好:「我是一名大學生,需要在200人的班級上做一個15分鐘關於氣候變化的演講。你能給我一些準備建議嗎?」
上述實例 about prompt 













Merge


代數幾何的AI Animation

已知 m2 + n2 = 5 求 2m + n 最大值




指引AI(提供洞察力)

一張圖勝過一千字(AI in electronics industries)



提升美學

Monday, September 30, 2024

HW#2 如何指引AI

 如何繳交作業 How to turn in your homework exercise.


課堂練習 

Deadline: This Saturday at 23:59

Send all the links to  me chang212@gmail.com by email with subject HW#2 Prompt AI [your id, your name].




任選一個案例來對照比較不同提示得出的效果: Good prompts for LLM


Simulate submarine sonar detection 


simulate submarine detection with random sensor arrays



計算藍色三角形面積


Wednesday, September 04, 2024

AI 現在進行式



回顧十年

(繁體中文版)

2012 

Alexnet, big bang of AI

Toronto University

ImageNet with 14 m images

Error 25 down to 15 %

G4 GTX nvidia

CNN

Alex krizhevsky

Llya sutskever

Geoffrey Hinton


2013 

Alex, Geoffrey found DNN

Sold to Google

Used to power social media feed recommendations

YouTube

Instagram

Duopoly by Google and FB


2015 

openai

Elon musk

Llya (left Google)

Andrej karpathy …

Found OpenAI

Image supervised

Language embedded structure (word learned by joint attention while language by self teaching)


2017 

the transformer paper by Google

Attention is all you need.

Large amount of data needed

Computationally expensive n squared complexity

GPU came in

Parallel nature

OpenAI turned for profit


2018 

ChatGPT 1

Predicting the next word in a sentence


2019 

ChatGPT 2

$1 B from Microsoft


2020 ChatGPT 3


2021

Copilot

$2 B from Microsoft


2022 (FTX fell, triggering mass layoffs of big techs)

ChatGPT 3.5 (nov 30)

$10 B from Microsoft


2023 ChatGPT 4


Outlook

Data center, cloud computing

X86 Intel based CPU

80% of streaming video

GPU comes in, on chip RAM

Parallel computing, graphics, video

Data center as one computer


Questions

1. LLM = AI?

2. Do exams well, enough?

3. Infants, animals, nonverbal

Cognitive test