ブログ【超高速AI】Groqとは何か？ChatGPTとの違いも解説
更新日: 2024.11.20 by AI相談.com
GroqがAI界のゲームチェンジャーであると話題になっています。
私もGroqを試してみましたが、なんといってもGroqは回答までの「待ち時間」が恐ろしいほどに早いです。
今までChatGPT-4で待たされていた1回20秒の返答の時間が、Groqでは1秒で返ってくるので驚いています。
今回はそんな世界最速のゲームチェンジャー、GroqAIについて解説していきたいと思います。
1. Groqとは？
「Groq」とはGroq Inc.によって作られた会話型AIです。ChatGPTと同様に文字を生成することができて、ユーザーの質問に答えることができます。
Groqの凄さはなんといっても桁違いの「回答の速さ」です。他のChatGPTやGemini、Claudeなどと比べてもレベルが違うくらいに早いです。
実際にGroqを使ってみたところ、3ページの大学教育に関するエッセイをわずか1秒で出力しました。
ChatGPT-4では回答に20秒くらいかかったので、単純比較だとGroqはChatGPT-4の20倍の返答速度になります。
このあまりにも速い回答スピードからGroqはSNS上で話題となりました。
2. Groqはどうして早いの？
その速さの理由はGroqが使っている特別なAI半導体にあります。
AI半導体とは俗に言われるAIチップなのですが、GroqはLPU（Language Processing Unit）という独自のAIチップを使っています。
LPUはGPUとは違い、特定の計算処理に優れたAI処理専用のチップです。GPUがAIの学習に優れているのに対して、LPUは言語処理のタスクを行うことに優れています。
GPUでは少し遅くなってしまう言語処理を、LPUではスピードと効率性の高さを維持しながら処理することができるのです。
Groqは1秒間に500トークンの生成することができます。対して、ChatGPT-3.5では1秒間に40トークンの生成しかできないので、おおよそ12倍の性能があるといえるでしょう。
ちなみに1トークン = 1英単語と考えられるので、LPUは英語500字を1秒。ChatGPT-3.5は40字を1秒と考えるとわかりやすいかもしれません。
そんな圧倒的な処理速度をもっているがGrokなのです。
（引用元：Groqテクニカルレポート）
↑こちらGroqの公式サイトが発表しているパフォーマンスレポート。この表では1秒間に185トークンと書いてありますが、私が試したところこの3倍のトークンは出しています。
ちなみに、Groq自体に独自のLLM（大規模言語モデル）は搭載しておらず、Meta（旧フェイスブック）がオープン利用を許可しているLLaMAというモデルを活用しています。
3. ChatGPTとGroqはどちらが使いやすい？
この質問に関してはいまだ、ChatGPTに分があると思います。
なぜなら、ChatGPTの方が日本語の回答の質が高いからです。
GroqはMetaのAIモデルを使っているので、日本語の能力はChatGPTほどは高くありません。
また、ChatGPTの方が日本語の入力がしやすいので、依然ChatGPTの優位性は崩れてはいないと思います。
しかし、Groqはあまりにも回答が速いので、英語でのリサーチをするときがあったらChatGPTよりもGroqを使うかもしれません。
英語圏のユーザーであれば、回答に20秒もかかるChatGPTを使うよりもGroqを使った方がタイムパフォーマンスが良いと感じる人もいると感じています。
4. DeepLとGroqならどちらが使いやすいか？
これに関しては、Groqに分があると思っています。ただお伝えしないといけないのは、DeepLの方が翻訳の精度は高いです。
Groqは英語から日本語には訳しきれない部分もあり、英語が残ってしまうこともあります。
しかし、それを差し置いてまでGroqは翻訳のスピードが速いので、ストレスなく翻訳することができます。
DeepLと違い、ログインしていなくてもある程度の長い文章を短い時間で翻訳できるのでストレスフリーです。
また、私の場合、英語から日本語に完璧に直す必要はないと考えています。少しぐらい英語が残っていようが、だいたいの内容がわかれば翻訳としては機能しています。
そのため、自分がリサーチに使うような場合、Groqの翻訳で十分事足りると思いました。
もし翻訳に精度が求められる場合などはおとなしくDeepLを使おうと思います。
ただ、Groqの精度もそんなに悪くないですよ！ぜひお試しください！
5. イーロン・マスクのGrokと名前が似てない？
イーロン・マスク氏が作ったX専用のAIも「Grok」という名前で、両サービスの名前が似すぎているという問題があります。
名前問題に関しては、もともとロス氏の方が「Groq」という名前を先に使っていました。
そしてGroq社の公式ブログでもマスク氏に「Grok」の名前を変更するようにお願いしています。
ちなみにロス氏がマスク氏におすすめしている新しい名前は「Slartibartfast」だそうです。
映画にネタらしいですが、あまり詳しくないのでちょっとよくわかりません。
↓ブログはこちらのURLから読めます。
https://wow.groq.com/hey-elon-its-time-to-cease-de-grok/
6. Groq社の目的とは
GroqのCEOであるロス氏が述べたのは、AIチップを作っているエヌビディアのシェアを奪うことをゴールとしているようです。
GroqのCEO、ロス氏はグーグルに勤めているときから、グーグル独自のAI半導体の開発に携わっていました。その経験があったため、Groq独自のAI半導体を開発することができたそうです。
現在AIを作るために使われている半導体の90%がNVIDIA製であり、エヌビディアはAI時代のキングとも呼べるでしょう。
しかし、NVIDIA製のAIチップは需要過多によって、供給不足におちいっています。
特にNVIDIAのA100とH100と呼ばれるAIを作るのに欠かせない半導体が不足しており、エヌビディアも生産を急いでいます。
そんな供給の隙をつくかのように、OpenAIやソフトバンクといった大手テック企業も半導体制作のインフラに投資をして、AI用チップの生産を急いでいます。
Groq社もそんなAI半導体産業のスキを狙っている一社なのです。
7. Groqはどうやって始められる？
「Groq.com」を開けば、Groqを使い始めることができます。
料金も特にないのでウェブサイトに行けばすぐ使うことができます。
ただ、日本語の入力操作性は悪いです。
初期のChatGPTのように、Enterキーを押した瞬間にメッセージが送信されてしまうので注意が必要です。
あと、日本語もあまりうまくないのかなという印象です。
MetaのAIモデルを使っているので仕方ないところはあるかもしれませんね。
ただ、回答スピードは恐ろしいほどに速いのでぜひ皆さんにも体験してみてほしいです。
もし、GroqのLPUがChatGPTにも使ってもらえたらいいな…なんて想像をしてしまうほど、返信スピードが速いです。
8. 最後に
世界最速のAI、Groqを実際に使ってみて、とても高いポテンシャルを感じました。
ユーザー機能性はまだまだですが、回答の速度はAIの中でも飛び抜けています。
もしGroqが他のAIモデルで使えるようになったらと考えるととても楽しみですね。
参考文献
・Groq
・1秒以内に回答するAIチャットボット「Groq」の衝撃
・元グーグル社員が設立のAIチップ企業「Groq」が320億円を調達
