PrismML mahutas 27 miljardi parameetriga tehisaru mudeli iPhone’i, Apple uurib tehnoloogiat

01Lühidalt

* PrismML avaldas 14. juulil Bonsai 27B mudelipere, mille 1-bitine versioon võtab ettevõtte andmetel umbes 3,9 GB ning töötab iPhone 17 Pro Maxil. * Apple on PrismML-i juhi sõnul hinnanud ettevõtte mudelite kiirust, energiakulu ja kvaliteeti, kuid kokkulepet, investeeringut ega partnerlust ei ole avalikult kinnitatud. * Mudeli väike maht tuleb väga madala bitisügavusega kaaludest, kuid PrismML-i enda testides kaasneb tihendamisega mõõdetav kvaliteedilangus. * Eesti kasutajatele on vahetu mõju piiratud, sest Siri AI ei ole esialgu Euroopa Liidu iPhone’ides saadaval ning eesti keel puudub Apple Intelligence’i toetatud keelte loetelust.

California tehnoloogiafirma PrismML avaldas 14. juulil kaks versiooni suurest keelemudelist Bonsai 27B. Ettevõtte väitel mahub neist väiksem, ligikaudu 3,9 GB suurune versioon iPhone 17 Pro Maxi mällu ja suudab seal vastuseid genereerida. Sellega muutub 27 miljardi parameetriga tehisaru mudel iPhone’is tehniliselt võimalikuks, ehkki praegu veel ettevõtte enda kohandatud tarkvara ja kontrollitud demonstratsiooni tingimustes.

Uudise muudab Apple’i jaoks oluliseks võimalus teha suurem osa Siri ja Apple Intelligence’i tööst telefonis, mitte saata kasutaja päringuid andmekeskusesse. PrismML-i kaasasutaja ja tegevjuht Babak Hassibi ütles CNBC-le, et Apple ning teised ettevõtted on mõõtnud mudelite jõudlust, energiakasutust ja kvaliteeti. The Information oli juba 9. juulil kirjutanud Apple’i ja PrismML-i kohtumistest. Apple pole läbirääkimisi ega võimalikku koostööd ise kinnitanud.

Seetõttu ei ole praegu põhjust rääkida partnerlusest, investeeringust või PrismML-i tehnoloogia jõudmisest järgmisse iPhone’i. Kontrollitud fakt on mudelite avaldamine ja ettevõtte tehniline demonstratsioon. Apple’i huvi puudutav info pärineb PrismML-i juhilt ja anonüümsetele allikatele toetuvast meediakajastusest.

02Apple’i huvi on strateegiliselt loogiline

Apple on juba aastaid jaganud tehisaru ülesandeid telefoni ja pilvetaristu vahel. Ettevõtte 2025. aasta tehnilise raporti järgi kasutas Apple Intelligence umbes kolme miljardi parameetriga kohapealset mudelit ning suuremat serverimudelit, mida käitati Private Cloud Compute’i taristus. Kohapealne mudel oli optimeeritud Apple’i kiipidele muu hulgas kahebitise kvantimise ja vahemälu vähendavate meetoditega.

iOS 27 ja Siri AI laiendavad seda hübriidset ülesehitust. Apple’i 8. juuni teate järgi saab uus Siri kasutada ekraanil olevat sisu, otsida kasutaja isiklikust kontekstist ning teha toiminguid eri rakendustes. Osa keerukamaid funktsioone tugineb siiski serverimudelitele ja nende kasutamisel kehtivad piirangud, mida Apple seob ka iCloud+ tellimustega.

Suurem kohapealne mudel annaks Apple’ile võimaluse teha telefonis ülesandeid, mis praegu vajavad pilveühendust. Võimalikud kasutusviisid hõlmavad pikemate tekstide töötlemist, piltide ja dokumentide analüüsi, rakendustevahelisi toiminguid ning kasutaja isiklikul teabel põhinevaid soovitusi.

Kohapealse käituse peamine väärtus ei seisne ainult mudeli parameetrite arvus. Telefonis töötav mudel võib vastata ilma võrgupäringu viivituseta, toimida osaliselt võrguühenduseta ning vähendada vajadust saata sõnumeid, dokumente, fotosid või terviseandmeid kaugserverisse. Tegelik privaatsus sõltub siiski kogu rakendusest: kohalik mudel ei aita, kui rakendus edastab sisendi, väljundi või telemeetria hiljem ikkagi pilve.

03Mida 27 miljardi parameetriga tehisaru mudel iPhone’is tähendab

Bonsai 27B põhineb PrismML-i andmetel Qwen3.6-27B mudelil. Tavapärases 16-bitises vormingus vajaks mudeli ligikaudu 27,3 miljardit keelekaalu umbes 54 GB mälu juba enne konteksti, vahemälu ja muude tööandmete lisamist. Selline maht ei mahu ühegi praeguse telefoni rakendusele kättesaadavasse töömällu.

PrismML avaldas kaks erinevat varianti. 1-bitine Bonsai 27B kasutab ettevõtte kirjelduse järgi kahte põhiväärtust ning rühmapõhist skaleerimist, mistõttu kujuneb tegelikuks keskmiseks 1,125 bitti ühe kaalu kohta. Mudeli avaldatud maht on umbes 3,9 GB. Ternaarne versioon kasutab kolme väärtust – miinus üks, null ja pluss üks – ning vajab ligikaudu 5,9 GB.

Väiksem variant on suunatud telefonidele, suurem sülearvutitele ja eraldiseisvate graafikaprotsessoritega arvutitele. PrismML-i mudelikaardi järgi genereeris 1-bitine versioon iPhone 17 Pro Maxil ligikaudu 11 tekstisõne sekundis. See on kasutatav vestluse või üksikute tööülesannete jaoks, kuid jääb märgatavalt aeglasemaks ettevõtte avaldatud tulemustest Apple’i M-seeria kiipidel ja Nvidia graafikaprotsessoritel.

Mudelifaili suurus ei võrdu kogu rakenduse mälukuluga. Käitamise ajal on vaja ruumi aktiveeringute, sisendi, väljundi ja võtme-väärtuse vahemälu jaoks. PrismML reklaamib kuni 262 000 tekstisõne pikkust konteksti, kuid mudelikaardi järgi võib üksnes maksimaalse konteksti vahemälu võtta umbes 4,3 GB. Telefonis ei saa seega korraga kasutada nii maksimaalset konteksti kui ka kõiki muid funktsioone ilma täiendavate piiranguteta.

Oluline täpsustus puudutab ka telefoni mudelit. CNBC kajastus ja osa seda refereerinud väljaandeid väitsid, et mudel võib töötada iPhone 15-l või uuemal seadmel. PrismML-i enda avaldatud materjal nimetab seevastu iPhone 17 Pro Maxi ja kirjeldab telefoni demonstratsiooni osaliselt eeltäidetud pildikontekstiga. Praegu on mõistlikum lähtuda ettevõtte tehnilises materjalis konkreetselt dokumenteeritud seadmest.

04Ühebitine mudel ei ole lihtsalt kokkupakitud fail

Kvantimine tähendab mudeli arvväärtuste esitamist väiksema bitiarvuga. Tavapärane mudel võib hoida ühte kaalu 16-bitise ujukomaarvuna, samal ajal kui madala bitisügavusega mudel kasutab palju väiksemat väärtuste hulka. Väiksemad kaalud vähendavad nii mälumahtu kui ka mälust protsessorisse liigutatavate andmete hulka.

Ühe- ja 1,58-bitiste mudelite uurimine ei alanud PrismML-ist. Microsoft Researchi teadlased kirjeldasid 2024. aastal BitNet b1.58 arhitektuuri, kus kaalud saavad võtta kolm väärtust. Järgnenud BitNeti mudelid ja käitustarkvara näitasid, et väga madala bitisügavusega keelemudeleid saab koolitada ja käitada tavapärasest väiksema mälu- ning energiakuluga.

PrismML-i erinevus seisneb ettevõtte väitel meetodis, millega olemasoleva suure mudeli võimeid säilitatakse väga väikese bitisügavuse juures. Ettevõte ütleb, et madala bitisügavusega vorming hõlmab kogu keelemudelit, sealhulgas tähelepanukihte, sisemisi projektsioone, sisendiesitusi ja väljundkihti. Pilditöötluse osa jääb neljabitisesse vormingusse.

Selline arhitektuur ei tähenda, et telefon teeks iga arvutuse ainult ühe bitiga. Mudelis kasutatakse endiselt kõrgema täpsusega skaleerimistegureid, aktiveeringuid ja muid vaheandmeid. Praegused Apple’i ja Nvidia kiibid pole ka spetsiaalselt ühebitiste mudelite jaoks ehitatud. Suur osa kiirusevõidust tuleneb seetõttu väiksemast mäluliiklusest, mitte sellest, et kõik korrutamised oleksid riistvaras asendatud lihtsamate tehetega.

05Kvaliteedis tuleb teha mõõdetav kompromiss

PrismML-i enda 15 võrdlustesti keskmise järgi saavutas ternaarne Bonsai 27B 94,6 protsenti ja 1-bitine variant 89,5 protsenti algse 16-bitise Qweni mudeli tulemusest. Tegemist ei ole sõltumatu hinnanguga: testid, seadistused ja koondmõõdik pärinevad mudeli avaldajalt.

Tulemused ei langenud kõigis valdkondades võrdselt. PrismML-i avaldatud tabeli järgi säilisid matemaatika- ja programmeerimisoskused paremini kui juhiste järgimine, tööriistade kasutamine ning pildimõistmine. 1-bitise mudeli koondtulemus oli 76,1 punkti võrreldes täppisarvutusmudeli 85 punktiga. Nägemisülesannetes oli vahe suurem: 59,6 punkti võrreldes 72,6 punktiga.

Parameetrite arv üksi ei näita mudeli tegelikku kasulikkust. Väiksem, paremini treenitud või konkreetsele ülesandele kohandatud mudel võib anda usaldusväärsema tulemuse kui suurem, kuid tugevalt tihendatud mudel. Telefonis loevad lisaks vastuse kvaliteedile käivituskiirus, püsiv jõudlus, temperatuur, akukulu, katkestusteta töö ja samaaegne kasutamine teiste rakendustega.

Avaldatud demo ei vasta veel miljonite kasutajate tootmiskoormusele. Puuduvad sõltumatud pikaajalised mõõtmised selle kohta, kui kiiresti telefon kuumeneb, kuidas langeb jõudlus mitmeminutilise töö ajal, milline on mõju aku kestusele ja kui stabiilselt toimivad pikad tööriistakutsed. Samuti tuleb kontrollida, kas mudel annab eri keeltes ja haruldaste faktide puhul sama järjekindlaid tulemusi kui ingliskeelsetes võrdlustestides.

06Miks vajab Apple tõenäoliselt ikkagi pilve

Isegi väga tõhus 27 miljardi parameetriga mudel ei asenda kõige võimekamaid pilvemudeleid. Kohapealne mudel sobib ülesannetele, kus on oluline kiire vastus, kasutaja privaatne kontekst või võrguühenduseta töö. Mahukad uurimisülesanded, värske veebiteave, suuremahuline pildiloome ja keerukas mitmeastmeline arutlus jäävad tõenäoliselt serveritesse.

Apple’i loogiline siht oleks seetõttu dünaamiline suunamine. Operatsioonisüsteem võiks otsustada, kas päring lahendatakse väikese süsteemimudeli, suurema kohaliku mudeli, Private Cloud Compute’i või välise teenuse abil. Kasutaja jaoks toimuks see ühe Siri liidese kaudu, kuid arvutuskoht muutuks ülesande tundlikkuse, keerukuse ja seadme koormuse järgi.

PrismML-i mudel ei pea Apple’i jaoks olema valmis Siri asendus. Ettevõte võib olla rohkem huvitatud koolitusmeetoditest, madala bitisügavusega käituskihtidest või võimalusest tihendada Apple’i enda mudeleid. Apple toodab nii seadmete kiibid, operatsioonisüsteemi kui ka mudelite käitustarkvara, mistõttu saab ettevõte optimeerida kogu ahela ühele kindlale riistvarale.

Selline kontroll eristab Apple’it ettevõtetest, mis peavad toetama väga erinevaid Androidi telefone või pilveteenuse klientide riistvara. Samas suurendab see ka testimisvajadust: ükski mudeli tihendamise tulemus ei jõua iOS-i, kui see halvendab märgatavalt aku kestust, süsteemi töökindlust või kasutajaandmete kaitset.

07Eesti ja Euroopa Liidu kasutajad peavad veel ootama

Apple teatas 8. juunil, et Siri AI ei ole iOS 27, iPadOS 27 ega watchOS 27 väljalaskel Euroopa Liidus saadaval. Toetatud keelega Maci ja Apple Vision Pro kasutajad saavad Siri AI-le ligipääsu, kuid iPhone’i ja iPadi puhul pole Apple avaldanud Euroopa turule jõudmise kuupäeva.

Eesti keel puudub Apple’i avaldatud Apple Intelligence’i keelte loetelust. Loetelu sisaldab muu hulgas inglise, saksa, prantsuse, hispaania, rootsi, taani ja norra keelt. Eesti kasutaja võib kasutada toetatud keelt, kuid süsteemi täielik eestikeelne kasutus pole praegu välja kuulutatud.

PrismML-i mudelid on avaldatud Apache 2.0 litsentsiga, mistõttu saavad arendajad neid Apple’i arvutites ja toetatud Nvidia riistvaral ise katsetada. iPhone’i rakendusse jõudmine nõuab aga eraldi optimeerimist, sobivat seadet, mälupiirangutega arvestamist ning App Store’i ja iOS-i turbereeglite järgimist.

Eesti ettevõtete jaoks on tehnoloogia esialgu asjakohasem Maci või kohaliku tööjaama kaudu. Võimalikud rakendused hõlmavad konfidentsiaalsete dokumentide analüüsi, võrguühenduseta assistente, tööstusseadmeid ja lahendusi, kus andmeid ei soovita ettevõtte taristust välja saata. Kasutuselevõtu eel tuleb siiski hinnata mudeli eesti keele kvaliteeti, litsentsitingimusi, turvanõudeid ja tegelikku energiakulu.

08Väiksem mälukulu ei tähenda väiksemat kiibiturgu

PrismML-i tehnoloogia võib vähendada ühe mudeli käitamiseks vajalikku mälu ja arvutusressurssi. Sarnast suunda esindab Google’i TurboQuant, mis keskendub võtme-väärtuse vahemälu ja vektorandmete tihendamisele. See näitab, et mälu optimeerimine on muutunud mudeliarhitektuuri kõrval üheks keskseks tehisaru arendussuunaks.

Ühe tööühiku odavnemisest ei saa siiski järeldada, et kiipide kogunõudlus väheneb. Kiirem ja odavam käitus võimaldab lisada tehisaru rohkematesse rakendustesse ning teha rohkem päringuid. Osa arvutusest võib liikuda andmekeskustest telefonidesse, sülearvutitesse, autodesse ja robotitesse, kuid need seadmed vajavad omakorda rohkem mälu ning tehisarule optimeeritud protsessoreid.

Samuti ei kao andmekeskuste roll. Pilvetaristu jääb vajalikuks mudelite koolitamiseks, keerukate päringute töötlemiseks, internetist värske teabe hankimiseks ja suure hulga kasutajate teenindamiseks. Tõenäolisem tulemus on kohaliku ja pilvearvutuse senisest tihedam kombinatsioon, mitte ühe täielik asendamine teisega.

09Kokkuvõte

PrismML-i Bonsai 27B on sisuline tehniline demonstratsioon: ettevõte on avaldanud mudelifailid, käitustarkvara, mõõtmised ja võrdlustulemused, mille põhjal mahub 27 miljardi parameetriga mudel esimest korda kõrgeima klassi iPhone’i mälueelarvesse. Tulemus ei tõesta siiski, et mudel oleks valmis töötama pidevalt Siri keskse mootorina või et selle kvaliteet vastaks pilves töötavatele suurimatele mudelitele.

Apple’i huvi on usutav, sest suurem kohapealne mudel sobib ettevõtte privaatsus- ja riistvarastrateegiaga. Järgmised olulised märgid oleksid Apple’i ametlik kinnitus, sõltumatud aku- ja jõudlustestid, mudeli töötamine eri iPhone’ides ning tõendid selle kohta, et kvaliteet säilib pika konteksti, mitmekeelse kasutuse ja rakendustevaheliste toimingute puhul.

10Korduma kippuvad küsimused

Mis PrismML 14. juulil 2026 avaldas?

PrismML avaldas Bonsai 27B kaks madala bitisügavusega versiooni, mis põhinevad Qwen3.6-27B mudelil. Ettevõtte teatel kasutab 1-bitine versioon ligikaudu 3,9 GB mälu ja on töötanud iPhone 17 Pro Maxil, samal ajal kui kvaliteedile suunatud ternaarne versioon vajab umbes 5,9 GB.

Kas Apple on PrismML-iga lepingu sõlminud?

Ei ole teada, et Apple oleks PrismML-iga lepingu, investeeringu või omandamistehingu sõlminud. Avalik info piirdub teadetega varajastest kohtumistest ja PrismML-i juhi väitega, et Apple hindab tehnoloogia kiirust, energiakulu ja kvaliteeti.

Kuidas mahub 27 miljardi parameetriga mudel telefoni?

PrismML esitab mudeli kaale ühe- või kolmetasemeliste väärtustena, selle asemel et hoida iga kaalu tavapärases 16-bitises vormingus. Nii väheneb kaalude mälumaht ligikaudu 54 GB-lt 3,9–5,9 GB-ni, kuid käitamiseks on lisaks vaja mälu konteksti, vahetulemuste ja rakenduse enda jaoks.

Kas väiksem mudel on sama hea kui täppisarvutusmudel?

PrismML-i enda testide järgi ei ole väiksem mudel täielikult sama hea. Ettevõte mõõtis 1-bitise versiooni keskmiseks tulemuseks 89,5 protsenti ja ternaarse versiooni tulemuseks 94,6 protsenti täppisarvutusmudeli võrdlustasemest, kusjuures suurem langus ilmnes tööriistakasutuses, juhiste järgimises ja pildimõistmises.

Mida võidaks Apple kohapealsest tehisarust?

Kohapealne tehisaru võib vähendada vastuse viivitust, pilveteenuse kulu ja vajadust saata tundlikku kasutajakonteksti serverisse. Apple saaks suunata tavapärased ja privaatsustundlikud ülesanded seadmesse ning jätta kõige raskemad päringud privaatpilve või väliste mudelite lahendada.

Kas PrismML-i mudel töötab iPhone 15-s?

PrismML-i enda avalik demonstratsioon ja mudelikaart nimetavad iPhone 17 Pro Maxi, mitte tavalist iPhone 15 mudelit. Mõni meediakajastus on väitnud laiemat ühilduvust, kuid selle kohta puudub praegu sama detailne esmane tehniline tõend.

Mida tähendab uudis Eesti ja EL-i kasutajatele?

Otsene mõju on esialgu piiratud, sest Apple teatas, et Siri AI ei ole iOS 27 ja iPadOS 27 väljalaskel Euroopa Liidus saadaval. Eesti keel ei kuulu ka Apple’i 8. juunil avaldatud toetatud Apple Intelligence’i keelte loetellu, kuigi PrismML-i avatud mudelit võivad arendajad sobival riistvaral eraldi katsetada.

Kas mudelite tihendamine vähendab nõudlust andmekeskuste ja kiipide järele?

Ühe ülesande mälukulu ja arvutusvajadus võivad väheneda, kuid sellest ei järeldu automaatselt väiksem kogunõudlus. Odavam ja kiirem käitus võib suurendada kasutuskordade arvu ning nihutada osa arvutusest andmekeskustest telefonidesse, sülearvutitesse ja muudesse servaseadmetesse.

11Allikad

1. Kasutaja esitatud lähtetekst, „Apple in talks with startup that shrinks AI models to run on an iPhone“, kuupäev puudub. 2. CNBC, „Apple in talks with startup that shrinks AI models to run on an iPhone“, 14. juuli 2026. https://www.cnbc.com/2026/07/14/apple-prismml-ai-compression-iphone.html 3. The Information, „Khosla-Backed Startup Claims Breakthrough With Largest-Ever AI Model on an iPhone“, 9. juuli 2026. https://www.theinformation.com/articles/khosla-backed-startup-claims-breakthrough-largest-ever-ai-model-iphone 4. PrismML, „Announcing Bonsai 27B: The First 27B-Class Model to Run on a Phone“, 14. juuli 2026. https://prismml.com/news/bonsai-27b 5. PrismML, „Bonsai-27B-mlx-1bit“, kuupäev puudub, vaadatud 15. juulil 2026. https://huggingface.co/prism-ml/Bonsai-27B-mlx-1bit 6. Apple, „WWDC26: Apple unveils next generation of Apple Intelligence, Siri AI, powerful parental controls, and an expansive set of software improvements“, 8. juuni 2026. https://www.apple.com/newsroom/2026/06/apple-unveils-next-generation-of-apple-intelligence-siri-ai-and-more/ 7. Apple Machine Learning Research, „Apple Intelligence Foundation Language Models: Tech Report 2025“, 17. juuli 2025. https://arxiv.org/abs/2507.13575 8. Microsoft Research, „The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits“, 27. veebruar 2024. https://arxiv.org/abs/2402.17764 9. Google Research, „TurboQuant: Redefining AI efficiency with extreme compression“, 24. märts 2026. https://research.google/blog/turboquant-redefining-ai-efficiency-with-extreme-compression/ 10. The Wall Street Journal, „Caltech Researchers Claim Radical Compression of High-Fidelity AI Models“, 31. märts 2026. https://www.wsj.com/cio-journal/caltech-researchers-claim-radical-compression-of-high-fidelity-ai-models-e66f31c9