テキストを1トークンも生成せず、分類やルーティングといった判断だけを高速に返す「意思決定モデル」が、にわかに盛り上がりを見せている。 Typesafe AIの「Jev」が火付け役となったこのジャンルに、 一見華やかな大都会、ニューヨークでの暮らし。 しかし、生活にはお金がかかる！ 生活を維持するために多くの移民が働く場所、それは飲食店。 エージェントが繰り返し参照するキャッシュ済み入力を標準比95%引きとし、長時間稼働の運用コストを一段下げるモデルが投入された。 OpenAIは9月29日(米国時間)、Astraに迫る性能を5分の1の価格