Master ChatGPT Prompt in 13 Minutes
Ғылым және технология
#chatgpt #prompt #deeplearningai
Hi! Hello everyone, I am EngineerGary, a machine learning engineer.
This video will talk about how to write a good ChatGPT Prompt
Notion link:
engineergary.notion.site/Chat...
OpenAI x Andrew Ng (free for a limited time) course:
www.deeplearning.ai/short-cou...
====
0:00 Opening
0:36 2 types of large language models
1:30 Two Principles of Prompt
1:42 How to make instructions clear and specific?
5:27 How to give the model time to "think"?
8:17 Iterative Prompt Development
8:57 Common 5 applications of ChatGPT
10:02 The meaning of the "temperature" parameter
11:26 Bonus: 2 tips
12:29 Epilogue
Пікірлер: 82
大家在使用 ChatGPT 的時候有遇過什麼困擾你的問題嗎？歡迎在下面提出來歐！ 搜集夠多的話，之後可以來做另外一集解答大家的疑惑～
@user-fx6cp3zt3g
Жыл бұрын
我要怎麼讓GPT寫的小說不像作文
@EngineerGary
Жыл бұрын
@@user-fx6cp3zt3g 這個可能可以把你要他寫的小說，多加上風格描述，例如說科幻、懸疑，xx 有名作者的風格，例如說金庸、倪匡之類的，應該會有一些幫助
@davidkuo5702
Жыл бұрын
真的很受用歐!!尤其是 ＂＂＂＂＂＂使用這個符號 加上給予清楚的步驟，來產出需要的內容！ 常常遇到的問題就是 ＞無法一次把所有內容說完，要一直打＂ｐｌｅａｓｅ ｃｏｎｔｉｎｕｅ＂然後！當全部寫完了，要拼湊起來來能產出一個所要的最後版 ＞不知道要如何只是ＣＯＰＹ圈選要複製到外面的文件！由其實透過手機，會把所有畫面的資料都貼上去了！ 往往還要在外面的ＷＯＲＤ檔案或ＦＢ做ＤＥＬＥＴＥ的動作！ 再次感謝您～ 真棒！
@lucialu-oz9rx
Жыл бұрын
用三个引号包起来具体是怎么操作，是“““谢谢谢谢谢谢谢谢”””吗
@EngineerGary
Жыл бұрын
@@lucialu-oz9rx 沒錯歐，引號只是個例子，用別的估計也行，如果要人比較好看的換行的話，shift+enter 可以在對話不要送出就換行
表達好清楚 >w< 謝謝分享重要資訊！
非常感谢！原教程我放在那里三个星期也没有看完 这个一口气就看完了 辛苦了！
感谢给老师的分享，真是非常的棒。
都是有价值的建议 谢谢❤
這影片太讚了 已按讚訂閱！
讲得非常好👍
讲的太棒了！！！
分享的讚！
我也有去看官方介紹，但是你的舉例讓人覺得很實用易懂，已訂閱
@EngineerGary
Жыл бұрын
很高興這個影片有幫助到大家了解 prompt 的眉眉角角！謝謝你的訂閱～
角色扮演真的是一個很好用的功能除了寫程式之外你讓gpt扮演一個翻譯官讓翻譯文章能更精確和通順
awesome video ！
感谢分享。。。
我還想聽聽你對notion ai的操作 心得 再跟GPT做比較
影片簡單明瞭 好棒 👍🏻 一直覺得GPT用英文操作會比較順，用過中文操作就一直只是瞎盼的感覺，下次一定要試試看你教的方法👍🏻👍🏻👍🏻
@EngineerGary
Жыл бұрын
很高興影片對你有幫助！ 目前確實多數的語言模型，在表現上還是以英文比較好，中文如果像英文那樣給個簡單的 prompt，通常就很容易遇到沒辦法要他回答我們想要的問題。 所以更好的給他 prompt 在中文又會更重要一些！
👍👍👍
給旅有考慮出一期教大家使用fine-tuning 嗎？還是有推薦的教學嗎？
@EngineerGary
Жыл бұрын
很專業耶！ 沒錯，有在準備中歐～ 這陣子我已經調得不要不要的了！ 相信在未來，AI史上會稱這為羊駝大亂鬥
@bradtsai6746
Жыл бұрын
@@EngineerGary 期待ing
手刀訂閱了！問一個問題，如果跟chatgpt對話比較長，它會忘記較早的對話，此時要怎麼辦？是要放棄目前的對話串，重開新的對話？還是有其他的方法？
@EngineerGary
Жыл бұрын
目前基本上只有治標的辦法：換成 4 的版本，可以容納更多約 8000 token 或是把之前的內容精簡成比較短的內容後繼續 本質上的問題就是 token 有一個上限，而 3.5 只能放 4096 個 token，目前已經有一些研究想辦法把一次能放入的 token 增加 商用的部分像是 Claude AI 已經有 100000 token 的試用了，或許等 OpenAI 他們釋出更新的版本，這樣長對話的效果會好更多
@pochengliang
Жыл бұрын
@@EngineerGary 我目前是用gpt-4的版本, 然後我發現他會忘記較早的對話...... 無論如何,謝謝回覆!!
chatGPT 建議用` `
您好，由於我自己研究所需，目前想要利用ChatGPT幫我閱讀大量文字(約1萬中文字)後，幫我隨機產生不同的Q&A。因ChatGPT 的輸入和輸出都有字數限制，我有嘗試分段輸入讓他記憶，但是回饋給我的Q&A內容幾乎相同。請問我該如何做比較好呢?
@EngineerGary
Жыл бұрын
嗨～先感謝你留言發問啦！這個問題很好而且不是簡單的任務！ 首先你已經知道這麼多字，是沒辦法一次丟進去 ChatGPT 的， 3.5 的版本可以輸入約 4000 個 token，4 目前比較便宜的方案是 8000 個 token，10000個中文字應該會有 20000 多個 token（約略估計） 如果想知道 token 和字的差異，以及怎麼算你手邊的中文字到底有幾個 token 的話， 可以參考之前有做過的一集影片，ChatGPT 揭秘：kzread.info/dash/bejne/oICDuJeTfaetj7g.html 回到你的問題，下面假設你是用 3.5 的模型 API call，如果是我的話會把任務拆解成這幾個部分： 1. 將文字分段，因為要盡量把 「文字+你給的提示+你預期 ChatGPT 回答」，控制在 4000 token 內，所以分段文字的長度要先考慮好 2. 寫一段提示，目標是要把一段文字做摘要，提示類似這樣：你是一個厲害的記者，擅長將文章內容做總結，總結的內容要越具體越好，給你下面文章內容，請用 xx 字內總結 3. 有了這段文字的總結之後，要他把總結改寫成一個問句，提示類似這樣：你是一個厲害的搜尋引擎，擅長將句子改寫成問題，問題要符合 SEO，給你下面句子，請改寫成 yy 個問題，問題要越具體越好 這樣你就有了一段文章 vs 幾個問句的 QA pairs 了，整個思路大概就是先把你的文字內容濃縮之後，反向產生問句這樣，又因為你是要做 QA，問的問題不可以太一般、模糊，例如說：這篇文章在講什麼？這種問題就沒有什麼資訊量，很難回答。 另外加碼回答，如果你是需要做 QA 訓練的話，那麼你需要準備 negative examples，這時候你就隨機抽其他問句來配一個文章，應該就可以有不錯的效果了！
我正在开发调用呢，很疑惑当我的提问 messages 字数（历史的提问和回答）接近 4000的时候，后面的回答就会很快停下来 [DONE] 了 看起来是所有 提问(包括历史)+回答 的字数总数有限制？
@EngineerGary
Жыл бұрын
我猜測是 OpenAI 他們會把歷史訊息做一部分精簡之後，塞進你新的一段，這樣才能保有以前的重要訊息 所以他精簡的內容越多，應該就會影響到它生成給你的字數囉！
為什麼會有Tensorflow的衣服XD 有Notion實在太棒了 啾咪
@EngineerGary
Жыл бұрын
哈哈 衣服好像是以前參加iT邦鐵人賽的獎品！
提问：假如我的prompt比较长，加上样本文案，压缩了GPT上下文的长度，它只会给我一个100-200字的回复，让它继续回复就像断片一样，这类问题应该怎么解决呢？
@EngineerGary
3 ай бұрын
因為 context length 決定了模型可以接受 input+output token 的上限，所以如果你的 context length 沒法加大的話，只能先對於你的樣本文案做壓縮，壓縮的方式就是做內容總結，濃縮一下要點！ 不過最有效的還是換更大 context length 的模型，像是 Claude 系列就都蠻大的
你家的书柜，圣诞节灯，我家都用同款
請問有沒有 Azure OpenAI 的教學
@EngineerGary
Жыл бұрын
是指說在 Azure cloud 上面使用 OpenAI API 嗎？ 看了一下 Azure 上的 API 說明： learn.microsoft.com/zh-tw/azure/cognitive-services/openai/chatgpt-quickstart?tabs=command-line&pivots=programming-language-python azure.microsoft.com/zh-tw/pricing/details/cognitive-services/openai-service/ 應該跟直接用 OpenAI 的 API 沒有差太多才對！ 關於怎麼呼叫 OpenAI API 可以在 ChatGPT 揭秘那集影片，下面我有附上影片內呼叫 API 的 colab 程式碼連結， 那裡應該就可以知道怎麼用囉！
原來是RAP KZreadr
@EngineerGary
Жыл бұрын
Yo~Yo~
请问脑图是用什么软件制作的？
@EngineerGary
Жыл бұрын
是用 xmind 歐！
第一次看影片,介紹得很不錯,但溫度參數我看不懂是什麼意思?
@EngineerGary
Жыл бұрын
如果是透過網站用 ChatGPT 的話，是不會碰到這個參數的～ 透過 API 的開發者，才有這個參數可以調整，官方的 API 文件有簡單說明：platform.openai.com/docs/api-reference/chat/create#chat/create-temperature 簡單的來講，語言模型在生成下一個 token 時，會從好幾個候選 token 挑一個出來，每個 token 的機率是不同的，怎麼挑就是透過溫度這個參數控制的！ 溫度=0 的時候，就會直接挑機率最高的 token 溫度越高就越隨機挑選的感覺！ 希望這樣有讓你更清楚～
@user-mu3nj5pk4f
Жыл бұрын
@@EngineerGary 謝謝你的詳解
notion的分享怎么能看呢？
@EngineerGary
10 ай бұрын
下面的說明欄的 notion 連結點進去應該就有囉！
notion笔记从哪里获得
@EngineerGary
Жыл бұрын
在說明欄有歐！
T血哪里卖的？
@EngineerGary
11 ай бұрын
是比賽的獎品～不確定買不買得到！
材料在哪里领取
@EngineerGary
Жыл бұрын
說明欄的 notion 連結！
prompt和article在输入指令中是什么含义？
@EngineerGary
Жыл бұрын
prompt 就是指示，要丟給 ChatGPT 的文字內容 article 就是你要分析的文章
@ShuZH_Leo10
Жыл бұрын
@@EngineerGary 我在输入的时候是不是只需要把内容一步一步写进去，不需要在前面加上prompt，感谢回复🙏
@EngineerGary
Жыл бұрын
@@ShuZH_Leo10 我假設你是在 ChatGPT 瀏覽器上聊天使用的話，那一次對話你能放進去多少就多少會比較直接，然後不需要加 prompt 沒錯，那個是用程式呼叫模型，用的變數名稱而已！ 程式碼那邊展示的是如果使用 API 呼叫 ChatGPT 的模型的話，會那樣寫～
@ShuZH_Leo10
Жыл бұрын
@@EngineerGary OKOK明白了，谢谢博主
@EngineerGary
Жыл бұрын
@@ShuZH_Leo10 不會～很高興有觀眾問問題！
網頁chatGPT 翻譯日文時常常需要一直提示他是個翻譯家 偶爾會跳日文、英文回復
@EngineerGary
Жыл бұрын
有一招怪招，有時會蠻有效的，可以試試看！ 在你的 prompt 最前面加上 #語言代碼，以日文為例的話：#ja 這樣他就會用這個語言回覆你～ 不過你所說的問題，確實是目前 LLM 多少會遇到的，主要就是根據他訓練文字資料，偏重在哪一個語系， 那個語系的回答就會比較好，也比較容易不時的跑出來這樣！
🍉
@EngineerGary
Жыл бұрын
🍌
@viamshit
Жыл бұрын
@@EngineerGary T = 10000000000000000000000000000
@EngineerGary
Жыл бұрын
@@viamshit ok 都是我了
666
不打鼓改唱RAP?
@EngineerGary
Жыл бұрын
下次是不是要騎車了
看完了我只學到NO~NO~NO
@EngineerGary
Жыл бұрын
這樣你已經學走最重要的部分了 可以畢業了
No No No
@EngineerGary
Жыл бұрын
Yo yo yo
🤡为什么所有的电脑程式都要用英文输入？中文不可以吗？电脑只听得懂英文吗？为什么电脑只听得懂英文？
@user-pe6oo4jf2e
Жыл бұрын
什么文都可以，所有文字都是字符而已，有中文编程语言，易语言，只是没有市场而已。