GitHub Modelsを触ってみたのでメモ📝

以下で公式から公開されているGitHub Modelsを触ってみたのでメモ

github.blog

GitHub Modelsとは

「AI モデルを無料で検索して実験します。」の通り、各種AIモデルをGitHubから利用できるサービス。

docs.github.com

以下のサイトから利用できる

github.com

GitHub Modelsの利用方法

Playground

UI上で各種AIモデルを選択して実際の挙動を確認できる。 以下のようなプロンプトを修正し返答を確認できるPromptEditor機能もあり便利そうだった。

APIでの利用

GitHub Modelsを利用するためには、Personal Access Token (PAT) を付与するだけで簡単にアクセスできる。 (PATに付与する権限は何もなくて問題ない)

サンプルコード

curl -X POST "https://models.inference.ai.azure.com/chat/completions" \
    -H "Content-Type: application/json" \
    -H "Authorization: Bearer $GITHUB_TOKEN" \
    -d '{
        "messages": [
            {
                "role": "system",
                "content": "You are best Friend!"
            },
            {
                "role": "user",
                "content": "Hello world!"
            }
        ],
        "model": "gpt-4o-mini",
        "temperature": 1,
        "max_tokens": 4096,
        "top_p": 1
    }'

上述の通りGitHubの認証情報を利用してAzure上のAIモデルを利用できるっぽい📝

所感

GitHub Modelsはまだプレビュー版ではありますが、実際にローカルでAPI等で呼び出してみた感じレスポンスも思ったよりも早く、GitHubのPATを使うだけで、追加のサービス登録をせずに利用できる点はお手軽に使えて便利そうに感じた。

参考

zenn.dev