Bij generative AI is de basis in veel gevallen een Large Language Model (LLM). Er zijn tegenwoordig een groot aantal (open source) LLM’s die vrij beschikbaar zijn en serieuze concurrentie vormen voor closed source modellen zoals GPT. Naast de mogelijkheid om deze LLM’s op eigen infrastructuur te draaien (of in jargon: inferen), zijn er ook verschillende aanbieders die dit mogelijk maken via een API endpoint.
In dit artikel is een overzicht te vinden van verschillende aanbieders van API endpoints waarmee het mogelijk is om van een LLM gebruik te maken. Er is echter ook een website met de naam Artificial Analysis die hier volledig aan is gewijd, en daarbij verschillende aanbieders vergelijkt qua de aangeboden modellen en prijzen.
Er zijn echter ook aanbieders van LLM API Endpoints die niet in de voornoemde website worden genoemd. De belangrijkste die in dat licht moet worden genoemd is Hugging Face. Dat is vooral bekend als een repository van verschillende (open source) LLM’s. Daarnaast zijn er ook verschillende mogelijkheden aanbied om LLM’s middels een API Endpoint te consumeren. De prijzen en mogelijkheden zijn hier te vinden.
Andere aanbieders van LLM API Endpoints zijn:
De bovenstaande lijst wordt aangevuld. Suggesties kunnen worden gestuurd naar [email protected].