github / Tools & apps

jevcache (MorrowCache)

AI-assisted summaries and translations. Check original sources for context and performance claims.

kushals256 · 原文の言語: English

jevcacheは、LLMの応答を意図に基づいてキャッシュするOpenAI互換のローカルプロキシです。意味的に同一の質問を識別する判定器を利用することで、開発者は言い換えられた質問に対してもキャッシュされた回答を再利用し、APIコストとレイテンシを削減できます。

翻訳された要約 · AI-assisted; check the original.

原文を開く リンクをコピー保存

JEVLAB ART

トップ10

Supporter

1. W
   Wallpets 270 クリック数67d left
2. W
   Walltank 188 クリック数67d left
3. C
   Chowder 141 クリック数67d left
4. F
   Falconer 121 クリック数67d left
5. L
   Lemonpod 169 クリック数67d left
6. M
   Menta 143 クリック数67d left
7. S
   Sway 100 クリック数67d left
8. P
   Peon-Ping 91 クリック数67d left
9. Z
   Zeron 170 クリック数67d left
10. G
    Guideless 80 クリック数67d left

Supporters