Frage im Vorstellungsgespräch bei OpenAI

Design a distributed rate limiter for an LLM inference API