Et nyt open-source-projekt, freellmapi, tilbyder en OpenAI-kompatibel proxy, der stabler de gratis niveauer fra 28 forskellige LLM-udbydere bag ét enkelt /v1-endpoint. Ifølge projektbeskrivelsen giver det adgang til omkring 4 milliarder tokens om måneden – med smart routing, automatisk failover og krypterede nøgler.
For beslutningstagere, der hurtigt vil prototype eller teste AI-funktionalitet uden at binde budgettet til en enkelt leverandør, kan dette være en interessant mulighed. Værktøjet understøtter også egne OpenAI-kompatible endpoints, hvilket gør det fleksibelt i eksisterende setups.
Men der er en væsentlig begrænsning: Projektet er eksplicit kun til personlige eksperimenter. Det betyder, at det ikke er egnet til produktionsmiljøer eller kommerciel brug – hvilket gør det mindre relevant for virksomheder, der overvejer at skalere.
Teknisk set er projektet skrevet i TypeScript og har allerede opnået 18.118 stjerner på GitHub, med 88 stjerner alene i dag. Det indikerer stor interesse fra udviklerfællesskabet, men siger ikke noget om stabilitet eller support i et professionelt setup.
