急速に進化する人工知能の分野で、二大テクノロジー企業のMistral AIとNVIDIAが再び手を組み、最先端の企業向けAIモデル「Mistral NeMo 12B」を発表しました。この革新的な言語モデルは、チャットボット、多言語タスク、コーディング、要約などをサポートできるだけでなく、高度なカスタマイズ性と簡単なデプロイメントを特徴とし、企業アプリケーションに新たな可能性をもたらします。
強力な協力：テクノロジーの巨人たちの完璧なコラボレーション
Mistral NeMo 12Bは、Mistral AIとNVIDIAがそれぞれの分野で培った最先端技術の結晶です。Mistral AIのトレーニングデータにおける豊富な知見とNVIDIAの最適化されたハードウェアおよびソフトウェアエコシステムが完璧に融合し、このモデルは多様なアプリケーションシナリオで優れた性能を発揮します。
Mistral AIの共同創設者兼主任科学者であるGuillaume Lample氏は、「NVIDIAチームと協力し、彼らのトップクラスのハードウェアとソフトウェアを活用できることを幸運に思います。NVIDIA AI Enterpriseのデプロイメントにより、かつてない精度、柔軟性、高効率性、そして企業向けのサポートとセキュリティを兼ね備えたモデルを共同開発しました」と述べています。
強力なパフォーマンス：多様な企業ニーズに対応
Mistral NeMo 12Bは、NVIDIA DGX Cloud AIプラットフォームでトレーニングされ、このプラットフォームは最新のNVIDIAアーキテクチャへの専用かつスケーラブルなアクセスを提供します。NVIDIA TensorRT-LLMおよびカスタム生成AIモデルを構築するためのNVIDIA NeMo開発プラットフォームを使用することで、このモデルは多ターン会話、数学、常識的推論、世界知識、コーディングなどのタスクにおいて優れた性能を発揮し、正確かつ信頼性の高いパフォーマンスを提供します。
Mistral NeMoは128Kのコンテキスト長を備えており、大量かつ複雑な情報をより一貫性を持って正確に処理し、コンテキストに関連した出力を確保します。このモデルはFP8データフォーマットを使用して推論を行い、メモリ使用量を減らし、デプロイメント速度を向上させながら、精度を損なうことなく動作します。これにより、Mistral NeMoはタスクをより良く学習し、様々なシナリオに効果的に対応できるため、企業のユースケースに最適な選択となります。
柔軟なデプロイメント：企業アプリケーションに無限の可能性を提供
Mistral NeMoは、NVIDIA NIM推論マイクロサービスとしてパッケージ化され、性能最適化された推論を提供します。このコンテナ化されたフォーマットにより、どこでも簡単にデプロイメントが可能となり、様々なアプリケーションに対して柔軟性が向上します。モデルは数日ではなく、数分でデプロイメントでき、企業の対応速度を飛躍的に向上させます。
NIMは企業向けソフトウェアであり、NVIDIA AI Enterpriseの一部として、専用の機能ブランチ、厳格な検証プロセス、企業向けのセキュリティとサポートを提供します。これには、包括的なサポート、NVIDIA AI専門家への直接アクセス、定義されたサービスレベルアグリーメントが含まれ、信頼性と一貫性のあるパフォーマンスを提供します。オープンモデルライセンスにより、企業はMistral NeMoを商用アプリケーションにシームレスに統合することができます。
先端技術：トレーニングと推論の最適化
Mistral NeMoのトレーニングと推論の最適化は、Mistral AIとNVIDIAエンジニアの総合的な専門知識によるものです。このモデルは、NVIDIA NeMoの一部であるMegatron-LMを使用してトレーニングされており、3,072個のH100 80GB Tensor Core GPUを使用してDGX Cloud上でトレーニングされました。これには、加速計算、ネットワークファブリック、ソフトウェアを含むNVIDIA AIアーキテクチャが含まれており、トレーニング効率を向上させます。
未来を見据えて：Mistral NeMoの広範な応用
Mistral NeMoはクラウド、データセンター、またはRTXワークステーション上で動作する柔軟性を持ち、様々なプラットフォーム上のAIアプリケーションを革新する準備ができています。ユーザーはai.nvidia.comを通じてNVIDIA NIMとしてのMistral NeMoを体験でき、ダウンロード可能なNIMも近日中に提供される予定です。
Mistral AIとNVIDIAの協力は、AI技術の発展を推進するだけでなく、企業に対してますます複雑化するタスクや課題に対応する強力なツールを提供します。Mistral NeMo 12Bの発表は、AIの新時代の到来を示し、今後のさまざまな応用において大いに期待されています。
オリジナル記事、著者：AIの番人，転載の際には、出典を明記してください：https://nipponai.jp/article/ai-mistral-ai-nvidia-mistral-nemo-12b/
