「練功文 – 再嘗試用 AI 開火箭寫程式」


我上次分享了一招這個時代如何用 AI 輔助快速寫出升維打擊的程式,也就是利用 AI 快速提升自己能力的維度,做出高品質的程式。

這招的心法(看到賺到👍):先把需求用 AI 生成高品質的 AI coding agent 提示詞、作 review,再把提示詞丟給 AI coding agent 執行。簡單的說,連寫提示詞的工作都被 AI 取代😆

這招心法與我之前看某 YouTuber 教的,如何在這時代做個 AI 導演的心法如出一轍,只不過一個是生成程式、一個是生成影片。

昨天我又想到一個之前做過的 AI app 題目 – retrival augmented generation (RAG). 雖然是有一點舊的題目,但我仍覺得它很值得鑽研的應用。因為現今的 LLM AI 模型愈來愈強,能做愈來愈多事,那人的工作價值就相對被壓縮,簡單的說:AI 取代人類🥲😅

那人類(正確來說是前沿 LLM AI 公司以外的人)還有什麼可以玩呢?LLM AI 強在它學過的東西做得比人又快又好。反過來說它沒學過的東西,就是人類還可以玩的,所以封閉的資料(如一家公司的內部資料),就很適合拿來開發 AI 應用。但要自己訓練 LLM AI 模型沒幾個人玩得起,因此 RAG 就是一個好用、不必訓練模型的技術,用來生成封閉領域的資料。

我之前做的 RAG app 有些簡陋,用的是靜態 sample DB、UI 也滿醜的,主要是當時的 AI 不比今天強、再加上我下的提示詞功力還不夠。這次我想用最前沿的 AI 與 AI 生成提示詞,重寫一次練練功。

我這次開發的也是地端 RAG app, 串接地端 embedding, LLM models. 總共用了大約 3 小時就做出來了!(AI 寫 code 不到 30 分鐘)如圖所示。為自己的履歷再添一筆😄

原始碼:https://github.com/MrMYHuang/local-rag


Leave a Reply