如何在本地端使用 Auto-GPT

date
May 10, 2023
slug
setup-auto-gpt
status
Published
tags
Technology
summary
type
Post
AutoGPT 是一套你告訴他目標，他會自動給你 THOUGHTS 以及背後的REASONING 最後再生出後續的PLAN 並能讓他讓你一步一步達成目標的應用。其背後是跑 OpenAI 的 GPT model，能支援最新的 GPT4 以及速度較快的 GPT 3.5 turbo。本文將簡單說明如何在本地端使用它。

前置作業

因為 AutoGPT 背後仍是使用 OpenAI 的 GPT model，所以需要先申請 OpenAI 的 API key。另外要注意的是需要先將帳號綁上付款方式，才能正常的運行喔！
首先，進入 https://platform.openai.com/account/billing/overview 頁面，將帳號轉成 PAID account，並綁訂信用卡。
notion image
看到 Pay as you go 就代表設定好囉！
notion image
大部分 GPT 的應用都是 contextual 的，這意味著每次打 api 的 payload 會隨著對話長度持續累積，而 api 的 cost 是看對話的 token 數目，所以當對話一長其實會是一筆不小的費用。如果你害怕不小心被扣太多錢，OpenAI 有提供每月的扣款上限的設定，你可以在 Usage Limits 的頁面找到他。 如果你好奇一段文字是怎麼被切成 token 們的，可以使用官方提供的 playground https://platform.openai.com/tokenizer 玩玩看。
 
接著我們要申請 API key，進入 https://platform.openai.com/account/api-keys 頁面後，點擊「Create new secret key」就可以拿到囉！
notion image
另外，你需要安裝 Docker 並確認所使用的 Python 版本是否為 3.10+

使用 Docker

首先先建立一個 docker-compose.yml，除了要建立 auto-gpt 的 container 外，還需要一顆 redis 來記錄每次的對話。
 
接下來我們需要設定環境變數 .env，並填入剛剛申請的 API key。
 
完整的環境變數範例，可以在 auto-gpt 的 GitHub Repository 中找到 https://github.com/Significant-Gravitas/Auto-GPT/blob/stable/.env.template。
 
設定完成後執行
便可以開始使用囉 🎉
notion image
 
如果覺得預設的 GPT4 速度太慢，可以在 .env 中設定環境變數 FAST_LLM_MODEL=gpt-3.5-turbo，重新執行後，就會切換成 3.5 turbo 了
 
完整的設置教學可以參考官方的文件 https://docs.agpt.co/setup
 

© maxam 2023 - 2024