s1

AIの技術はタガが外れた感じに急速な効率化技術が発表されていて、スタンフォード大学とワシントン大学の研究者はGeminiを使った新しい蒸留プロセスとウェイトや予算強制といったテクニックで、たった26分のトレーニングでo1を上回る性能を示すモデルを作ることができたという。厳選した教示データと制約によるトレーニングが予想外の成果を出すというのは、進化の道筋にも似てAIにおいても淘汰圧が重要な働きを担うのではないかと想像したりする。研究の競争速度そのものにも久しぶりに科学の進歩を見ている気がする。

Published on: 2025/2/7

Categories: 日々