ブログ【Grok-1とは】使い方やモデルを使うために必要な環境は？
3月17日、イーロン・マスク氏がひきいるAI企業、xAIがオープンソース化された大規模言語モデル「Grok-1」を発表しました。Grok-1は314Bのパラメータを持つAIモデルです。
（引用元：xAI公式サイト）
3月11日、イーロン・マスク氏はGrokをオープンソース化することをX上で宣言し、3月17日に実際にGrokが公開されました。
（引用元：Elon Musk氏Xアカウント）
Grok-1は3140億（314B）ものパラメーターを保持しており、ChatGPTのAIモデルクラスの大きな言語モデルとなっております。
そのため、言語データの複雑なパターンやニュアンスをより細かに捉えることができ、文章の生成機能や言語理解の能力が高いことが伺えます。
Grokの日本語の精度がどのレベルまで高いかは明らかになっていませんが、ChatGPTクラスの出力は期待できると考えられています。
また、Grok-1は2023年10月までの事前学習がされており、商用利用も可能となっているようです。
Grok-1の性能は？
xAIはGrokの性能比較グラフを公開しています。下にそのグラフを貼りました。
GSM8kとは、中学校レベルの数学の問題。
MMLUは、複数の分野が関連する選択式問題。
HumanEvalは、Pythonのプログラミング問題。
MATHとは、中学校から高校レベルの数学の問題。
（引用元：xAI公式サイト）
Grok-1は、上記の計算や推論能力のベンチマークにおいてLLaMa2やGPT-3.5より優れていることがわかります。
Grok-1はxAIがリリースした初めのモデルであり、Claude 2やGPT-4の性能と比べると見劣りする部分はあるでしょう。
しかし、オープンソース化されていることを考えると、ファインチューニングによって大きく性能が上がる可能性も秘めています。
3140億パラメーターを有する巨大なモデルのため、他のオープンソース化されたモデルよりが性能は高く、企業によってはGrok-1を検討してみても良いかもしれません。
Grok-1はかなり優秀ですが、巨大モデルのため使いづらいという方が多いと思います。
そこで、手軽にAIチャットをスマホ上で使いたいということであれば、AI相談.comがおすすめです。
専門家AIと話せて、調べ事がしたい時にサクッと使うことができます！どうぞお試しください。
Grok-1を使うために必要な環境
Grok-1をダウンロードするには、少なくとも318.24GBの空きスペースが必要です。
また、StabilityAIのCEOが説明するところ、4bitでGrok-1を動かすには320GBのVRAMが必要で、さらに8bitの場合は8x80GBのGPUが求められます。
このGPUの性能は、エヌビディアのDGX H100（約600万円）に相当し、Grok-1は主にAI企業向けのモデルということが言えるでしょう。
（引用元：Emad acc/acc氏Xアカウント）
Grok-1の使い方
もし上記のハードの環境が整えられた方は、ローカルでGrok-1を実際に試していきましょう。Grok-1のGitHubにはこちらからアクセスできます。
下のコードから、必要なパッケージをダウンロードし、Pythonから動かしていきましょう。
pip install -r requirements.txt
このとき、「cpkt-0」ディレクトリが「checkpoint」に入っていることを確認してください。
しっかりと必要なパッケージがダウンロードされたら、下のコードからGrok-1を動かしていきましょう！
python run.py
ちなみに、GitHubに行動規範（コード・オブ・コンダクト）が１行だけ書かれていました。
“Be excellent each other（お互いに尊敬しあいましょう）”
シンプルにまとまってますね笑
最後に
Grok-1はイーロン・マスク氏が公開した初めてのAIモデルで、しかも3140億パラメーターが必要な巨大言語モデルです。
エヌビディア H100レベルのGPUが必要になるので、個人の開発向けモデルではないのは明らかですが、その日本語性能がとても気になりますね。
参考文献
・xAI Blog
・Announcing Grok
・Open Release of Grok-1
・Emad acc/acc X post
