メタとクアルコムは最終的にLLaMA AIをクエストに導入する可能性がある

クアルコムは、Metaと協力してLLaMA AIモデルをデバイス上で実行できるように最適化していると述べた。

この取り組みを発表したツイートの中で、クアルコムはデバイスカテゴリのXNUMXつとして「XR」を挙げている。

LLaMA は Meta のオープンソース大規模言語モデル (LLM) ファミリであり、OpenAI のクローズド ソース GPT シリーズと同様のトランスフォーマー アーキテクチャを使用しています。

今週 メタがLLaMA 2をリリース, このベンチマークは、他のすべてのオープンソースの大規模言語モデルよりも優れたパフォーマンスを示し、ChatGPT の無料版を強化するモデルである OpenAI の GPT-3.5 にさえ近づきます。

ただし、大規模な言語モデルをモバイル チップセット上で適切な速度で実行することは非常に困難であり、すぐには実現しない可能性があります。特に VR では、システムが最低 72 フレーム/秒でトラッキングとレンダリングを実行するのに十分なオーバーヘッドも必要となります。

たとえば、LLaMA 2 の最小バージョンである 7 億パラメータ モデルを実行するには、フル精度で 28 GB の RAM が必要です。 最近、改造者たちは、わずか 3.5 GB の RAM を必要とする低精度で LLM を実行する実験を行っていますが、これは出力品質に大きく影響し、依然としてかなりの CPU および/または GPU リソースを必要とします。

この OpenAI GPT-3 を利用したデモは、将来の NPC を垣間見ることができます

Modbox の開発者は、Windows 音声認識、OpenAI の GPT-3 AI、および Replica の自然音声合成を組み合わせて、おそらく最初の人工知能仮想キャラクターの XNUMX つであるユニークなデモを作成しました。 Modbox は、SteamVR をサポートするマルチプレイヤー ゲーム作成サンドボックスです。 それは…

Qualcomm と Meta が最終的に LLaMA モデルを Quest ヘッドセット上で実行できるようになれば、さまざまな画期的なユースケースが開かれることになるでしょう。

それは本当に可能にするかもしれません 次世代NPC、実際に会話できる仮想キャラクターがあり、彼らと対話してゲームや体験内の情報を発見することができます。 それは、現在のビデオゲームではなく、スタートレックのホロデッキに似た、まったく新しいジャンルのヘッドセット体験を引き起こす可能性があります。

しかし、それでも、それがすぐにデバイス上で可能になるという兆候はありません。 私たちは Meta と Qualcomm に連絡して、新しいパートナーシップについての詳細を尋ねました。返答が得られたらこの記事を更新します。

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
• プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• プラトンESG。 自動車/EV、 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
• ブロックオフセット。 環境オフセット所有権の近代化。 こちらからアクセスしてください。
• 情報源： https://www.uploadvr.com/meta-qualcomm-llama-ai-quest-on-device/