Llama3を超高速に動作「Groq API」を使用 | Google Colabにて完全無料・超簡単

今回、Llama3モデルを完全無料で動かしていきます。

超高速にLlama3モデルを動かせるGroq APIを使用して構築していきます。

一刻も早く動かせるようまとめています。

「organization restricted」エラーとなった時の解決策や, 有料プランへの入り方なども解説しています.

使用するサービス一覧

以下のサービスは全て無料版を使用します。 ※以下のリンクからサイトへ飛べます。

※ここからは、アカウント登録が完了したものとして進めていきます。

実装

それでは早速ですが、実装に入っていきましょう。

まずは、Groqのトークンを取得してきます。Groqへログインし、API Keys → Create API Key
任意の名前を入力し、submitをクリック
APIを任意の場所に保存して、DoneをクリックしたらAPIの獲得は完了
以下のコマンドをGoogle Colabにて実行してください。 ※ YOUR_GROQ_API_KEYは取得したAPIに変更してください。

!pip install groq

import os 
os.environ["GROQ_API_KEY"] = "YOUR_GROQ_API_KEY"

from groq import Groq

client = Groq(
    api_key=os.environ.get("GROQ_API_KEY"),
)

chat_completion = client.chat.completions.create(
    messages=[
        {
            "role": "user",
            "content": "Explain the importance of fast language models",
        }
    ],
    model="llama3-8b-8192",
)

print(chat_completion.choices[0].message.content)

5. 完了

プログラムは、Groq公式のDocumentation→Quickstartを使用しています。

今回、llama3-8b-8192モデルを使用しましたが、他のモデルも使用することができます。ただし、使用制限があるためご自身で一度ご確認ください。

使用できるモデル一覧や制限などは、Documentation→Modelsで確認できます。

もし複数のアカウントで使用してしまったら?

2025年2月の出来事です.

自分の経験した体験を話します.

Groq APIの無料アカウントを3つ以上作成して, ぶんぶん回していました.

すると…

全てのアカウントで

organization restricted

というエラーが出て, すごく焦りました.

というのも, 卒業研究で使用していたので

安心してください!

すぐに解除してくれます.

以下に解決策の手順を示します.

Groqの制限されているアカウントにログインする.
左下の「Chat with us」→ 右に表示されるウィンドウ内の「Messages」→「Send us a message」→「Account Question」→「Account is Restricted」をクリックしてチャットを開始します.
「My account shows ‘organization restricted’.」などと入力すると複数のアカウントを使っているからですよ~~アカウントを1つだけなら制限を解除します. などと返してきます.
最後に, 解除したいアカウントのメールアドレスを入力すると解除してくれます.

有料プランもGroqはすごい安いのでお勧めです.

有料プランリンク

おすすめは, 1度無料プランを最大限使ってみて, 有料プランならどのくらいかかるのか以下のリンクから調べることです.

Groq Usage