Tokenless、生成途中に発生するLLMリクエストをルーティングして推論コストを削減
Tokenlessの創業者であるRohit Agarwal、Andrew Liu、そしてKevin W.は、複数のモデルがタスクに取りかかるのを見ることが、最初から1つを選ぶよりも優れていると賭けている。
By Ryan Merket · Published

Tokenlessの創業者であるRohit Agarwal、Andrew Liu、そしてKevin W.は、複数のモデルがタスクに取りかかるのを見ることが、最初から1つを選ぶよりも優れていると賭けている。