En språkmodell med 27 miljarder parametrar får numera plats i en iPhone. Det visade startupbolaget PrismML i juli när modellen Bonsai krympts till under fyra gigabyte. Men du behöver inte vänta på framtiden: redan i dag finns flera appar i svenska App Store som kör AI-modeller direkt i telefonen, helt utan molnanslutning. Här går vi igenom vad det innebär, vad hårdvaran klarar och hur Apples egen AI passar in i bilden.
När du ställer en fråga till ChatGPT eller Gemini skickas texten till serverhallar där enorma modeller räknar fram svaret. En lokal språkmodell fungerar tvärtom: hela modellen laddas ner en gång och körs sedan av telefonens egen processor och grafikkrets. Inget av det du skriver lämnar enheten.
Därför vill man köra AI lokalt
Det starkaste argumentet är integritet. Frågor om hälsa, ekonomi eller jobbhemligheter stannar i telefonen i stället för att passera en molntjänst med egna användarvillkor. Det andra argumentet är offline-läget: en lokal modell svarar lika bra i flygplansläge, på fjället eller i tunnelbanan. Det tredje är kostnaden. Modellerna som apparna använder är i regel öppna och gratis att ladda ner, så det finns ingen månadsprenumeration som tickar. Dessutom slipper du nätverkets fördröjning, svaret börjar skrivas direkt i stället för att vänta på en server.
Baksidan ska sägas ärligt: en modell som ryms i en telefon är avsevärt mindre kunnig än de största molnmodellerna. Den hittar oftare på fakta, är sämre på svenska nyanser och saknar aktuell information eftersom den inte kan söka på webben. Lokala modeller är bäst på sammanfattningar, utkast, översättningar och frågor där svaret inte måste vara dagsfärskt.
Minnet är flaskhalsen
Det som avgör vad din iPhone klarar är inte i första hand processorn utan arbetsminnet. Hela modellen måste ligga i RAM medan den används, så modellfilens storlek ger en fingervisning om minnesbehovet. Därför pressas modellerna med så kallad kvantisering: vikterna, modellens miljarder små tal, lagras med färre bitar per tal så att filen krymper, till priset av viss precision.
PrismML:s Bonsai är det hittills mest extrema exemplet. Enligt modellkortet på Hugging Face har 27-miljardersmodellen kvantiserats till drygt en bit per vikt, vilket ger en fil på cirka 3,9 gigabyte, ungefär fjorton gånger mindre än i fullt 16-bitarsformat, samtidigt som runt 90 procent av originalets resultat på ett benchmarkbatteri behålls. På en iPhone 17 Pro Max genererar den enligt samma modellkort omkring 11 token per sekund, ungefär läshastighet. Notebookcheck, som uppmärksammade lanseringen, noterar samtidigt begränsningarna: ett fulladdat batteri räcker till ungefär 67 000 token och telefonen börjar strypa prestandan efter ungefär fem minuters oavbruten körning.
För vanliga användare är slutsatsen enklare än siffrorna. Små modeller på en till två gigabyte, som Metas Llama 3.2 i de minsta utförandena eller Googles Gemma i motsvarande storlekar, rullar även på några år gamla iPhones. Ju nyare och dyrare telefon, desto större modell och desto längre konversationer klarar den, eftersom även samtalshistoriken äter minne. Apple anger inte arbetsminne i sina tekniska specifikationer, så apparnas egna systemkrav är den bästa vägledningen om vad just din telefon klarar.
Apparna som finns i svenska App Store
Vi har kontrollerat att följande appar finns i svenska App Store i juli 2026.
PocketPal AI är gratis och kräver bara iOS 15.1. Appen laddar ner modeller i det spridda GGUF-formatet direkt från Hugging Face, vilket ger ett enormt utbud men också kräver att du själv väljer en modell som passar din telefon. Utvecklaren uppger att ingen data samlas in.
Locally AI, som numera drivs av LM Studio-bolaget Element Labs, är också gratis och bygger på Apples eget ramverk MLX, som är optimerat för Apple-kretsarnas grafikdel. Appen kräver iOS 18.1 och erbjuder ett kurerat modellbibliotek med bland annat Llama 3.2, Gemma, Qwen och just Bonsai, utan inloggning och utan datainsamling enligt utvecklaren.
Private LLM kostar 69 kronor som engångsköp, utan prenumeration, och kräver iOS 17 samt minst A12-kretsen, alltså iPhone XS och senare. Appen använder kvantiseringstekniken OmniQuant, stöder modellfamiljer som Llama, Gemma, Phi, Mistral och Qwen och kan kopplas till Genvägar så att Siri-kommandon kan använda den lokala modellen.
Gemensamt för alla tre är arbetsflödet: installera appen, ladda ner en modell i lämplig storlek hemma på wifi, och chatta sedan var som helst. Börja med en liten modell och gå uppåt tills telefonen säger ifrån.
Apples egen AI kör redan lokalt
Parallellt med tredjepartsapparna har Apple byggt in samma princip i systemet. Apple Intelligence, som kräver iPhone 15 Pro eller senare och numera fungerar på svenska, utför så mycket som möjligt av skrivverktyg, sammanfattningar och bildfunktioner direkt på enheten. Först när en uppgift är för tung skickas den till Private Cloud Compute, Apples egna servrar som enligt företaget inte lagrar användardata.
Systemmodellen är medvetet liten. Apple beskriver den i en teknisk rapport som en modell på ungefär tre miljarder parametrar, kvantiserad till två bitar per vikt, alltså samma bantningsfilosofi som Bonsai fast från fabrik.
Sedan iOS 26 får även apputvecklare använda den inbyggda modellen genom ramverket Foundation Models. Apple lyfter fram att anropen är gratis för utvecklarna, fungerar offline och kan ge strukturerade svar direkt till appens kod. I praktiken betyder det att allt fler vanliga appar får AI-funktioner som körs lokalt utan att du märker det, medan entusiastapparna ovan låter dig välja modell själv.
Vad ska du välja?
Vill du bara ha smarta funktioner som fungerar av sig själva räcker Apple Intelligence på en modern iPhone. Vill du ha en fullständig chattbot i fickan som fungerar utan täckning och utan konto är PocketPal AI eller Locally AI det enklaste gratisspåret, medan Private LLM är ett prisvärt alternativ för den som vill knyta ihop lokal AI med Genvägar. Och utvecklingen går fort: att en 27-miljardersmodell nu ryms i en telefon antyder att gapet mellan fickan och molnet krymper för varje år.
Senast faktagranskad: 18 juli 2026
Foto: Daniel Romero via Unsplash