# I am the Watcher. I am your guide through this vast new twtiverse.
#
# Usage:
# https://watcher.sour.is/api/plain/users View list of users and latest twt date.
# https://watcher.sour.is/api/plain/twt View all twts.
# https://watcher.sour.is/api/plain/mentions?uri=:uri View all mentions for uri.
# https://watcher.sour.is/api/plain/conv/:hash View all twts for a conversation subject.
#
# Options:
# uri Filter to show a specific users twts.
# offset Start index for quey.
# limit Count of items to return (going back in time).
#
# twt range = 1 1
# self = https://watcher.sour.is/conv/h4beata
使用 Nginx 對 LLM 服務進行負載均衡實踐**
想象一下有很多的算法服務實例,負載不均衡會造成:有的節點計算壓力很重,用戶延遲變長 有的節點在閒置,資源浪費 需要將請求分發到不同的節點進行處理,讓每個節點的負載在合適的水平,這就是負載均衡。簡介nginx 是一款開源的、高性能的 Web 服務器,同時也廣泛用作 反向代理服務器、負載均衡器 和 HTTP 緩存。 它的設計目標是解決傳統服務器(如 Apache)在高併發場景下的性能瓶頸, ⌘ Read more