Googleが、LLMに並列で回答を多数生成させ優れたものを選択させることで性能を引き上げられる手法を考案

Googleの新たな研究で、単純なランダムサンプリングと自己検証の組み合わせによってAIモデルの性能を劇的に向上できることが示されました。この研究ではGemini 1.5モデルを使用し、200回のランダムサンプリングと自己検証だけで、OpenAIのo1-Previewを上回り、o1に近い性能を達成しました。研究者らによると、テスト時の計算リソース活用には「多くの解を探索する」「各解を時間をかけて推論する」「モデル自体を改善する」という3つの軸があり、特に「探索」はスケーラブルで上限がないという特徴があります。興味深いことに、モデルのスケールが大きくなると自己検証能力も向上し、多数の解答候補から正解を特定する精度が高まることが判明しました。

https://arxiv.org/abs/2502.01839