テクノロジー

OPT2、日本語RAG(検索応答生成)で高精度と推論速度を実現~国内初の日本語推論能力を持つ大規模言語モデルで日本語AIの新たなユーザーケースを創出~

2024-10-29

著者: 愛子

あの注目の「LHTM-OPT2」が、国内の日本語RAG(検索応答生成)で新境地を開きました!この最新の軽量型大規模言語モデル(LLM)は、世界最高水準の精度と推論速度を達成しています。特に、日本語NLP(自然言語処理)領域において、この技術は今後のAIアプリケーションに大きな影響を与えるでしょう。

日本語RAG性能を提供するこの新しいモデル「LHTM-OPT2」は、株式会社オルツが提案する最新技術の集大成であり、現在最も効率的にリソースを活用できる新大規模言語モデルです。モデルは、RAG(検索応答生成)の精度を最適化するために特別に設計されており、これにより日本語の処理においても、非常に高い精度を誇ります。

さらに、最新の研究によって、Wikipediaデータを元にしたRAGの質を保証する手法が開発され、この手法に基づく分析では、LHTM-OPT2がGPT-4oと同等の業績を達成しました。具体的には、LHTM-OPT2の精度は91.0%に達し、GPT-4oの90.8%とほぼ互角です。

最新テスト結果からもわかるように、LHTM-OPT2はJGLUE(Japanese General Language Understanding Evaluation)やJapanese MT-Bench(MTベンチマーク)において、複数のタスクで競合他社を凌ぐ性能を示しました。

特に、検索効率の面で、オルツ社は日本市場向けのAI技術として、適切なアルゴリズムを実装し、ユーザーにとって非常に使いやすいインターフェースを備えています。その結果、平均速度は500TPS(トランザクション毎秒)を達成し、最大速度ではなんと796TPSに達することが確認されました。

こうした技術は、特に日本語特有の表現や文脈を理解する能力に直結しており、今後さまざまな分野での活用が期待されています。オルツ社は、医療、教育、小売などの業界において、これらの技術の応用事例の拡大を目指しています。

結論として、LHTM-OPT2は、日本語情報処理の未来を切り拓く画期的な技術であり、これからのAIの可能性を広げる重要なステップとなるでしょう。