如何在本地端使用 Auto-GPT
date
May 10, 2023
slug
setup-auto-gpt
status
Published
tags
Technology
summary
type
Post
AutoGPT 是一套你告訴他目標,他會自動給你
THOUGHTS
以及背後的REASONING
最後再生出後續的PLAN
並能讓他讓你一步一步達成目標的應用。其背後是跑 OpenAI 的 GPT model,能支援最新的 GPT4 以及速度較快的 GPT 3.5 turbo。本文將簡單說明如何在本地端使用它。前置作業
因為 AutoGPT 背後仍是使用 OpenAI 的 GPT model,所以需要先申請 OpenAI 的 API key。另外要注意的是需要先將帳號綁上付款方式,才能正常的運行喔!
首先,進入 https://platform.openai.com/account/billing/overview 頁面,將帳號轉成 PAID account,並綁訂信用卡。
看到
Pay as you go
就代表設定好囉!大部分 GPT 的應用都是 contextual 的,這意味著每次打 api 的 payload 會隨著對話長度持續累積,而 api 的 cost 是看對話的 token 數目,所以當對話一長其實會是一筆不小的費用。如果你害怕不小心被扣太多錢,OpenAI 有提供每月的扣款上限的設定,你可以在Usage Limits
的頁面找到他。 如果你好奇一段文字是怎麼被切成 token 們的,可以使用官方提供的 playground https://platform.openai.com/tokenizer 玩玩看。
接著我們要申請 API key,進入 https://platform.openai.com/account/api-keys 頁面後,點擊「Create new secret key」就可以拿到囉!
另外,你需要安裝 Docker 並確認所使用的 Python 版本是否為 3.10+
使用 Docker
首先先建立一個
docker-compose.yml
,除了要建立 auto-gpt 的 container 外,還需要一顆 redis 來記錄每次的對話。接下來我們需要設定環境變數
.env
,並填入剛剛申請的 API key。完整的環境變數範例,可以在 auto-gpt 的 GitHub Repository 中找到 https://github.com/Significant-Gravitas/Auto-GPT/blob/stable/.env.template。
設定完成後執行
便可以開始使用囉 🎉
如果覺得預設的 GPT4 速度太慢,可以在.env
中設定環境變數FAST_LLM_MODEL=gpt-3.5-turbo
,重新執行後,就會切換成 3.5 turbo 了
完整的設置教學可以參考官方的文件 https://docs.agpt.co/setup