github / Tools & apps

jevcache (MorrowCache)

요약·번역에 AI를 활용합니다. 원문과 성능 주장은 출처에서 확인하세요.

kushals256 · 원문 언어: English

jevcache는 LLM 응답을 의도 기반으로 캐싱하는 OpenAI 호환 로컬 프록시입니다. 의미적으로 동일한 질문을 식별하는 판별기를 사용하여, 개발자는 동일한 의도의 질문에 대해 캐시된 응답을 재사용함으로써 API 비용과 응답 시간을 절감할 수 있습니다.

번역된 요약 · AI-assisted; check the original.

원문 보기 링크 복사저장

JEVLAB ART

상위 10

Supporter

1. W
   Wallpets 270 클릭67d left
2. W
   Walltank 188 클릭67d left
3. C
   Chowder 141 클릭67d left
4. F
   Falconer 121 클릭67d left
5. L
   Lemonpod 169 클릭67d left
6. M
   Menta 143 클릭67d left
7. S
   Sway 100 클릭67d left
8. P
   Peon-Ping 91 클릭67d left
9. Z
   Zeron 170 클릭67d left
10. G
    Guideless 80 클릭67d left

Supporters