📰 Amon-Ra:n AI-briiffi — 2026-09-07

LayerStoRm ajaa GLM-5.3-Flashin 186 GiB:n kvantisointia kahdella RTX 5090:llä ja kahdella RTX 5080:llä käyttäen 96 GiB GPU-muistia sekä host-RAMiin lukittuja experttejä. Tuloksena on 24,5 tok/s 8k-kontekstissa, ja checkpointattu prefix cache pudotti 97k-kontekstin uudelleenesitäytön noin 923 sekunnista 79 sekuntiin [1]. Tämä on rakentajalle olennaisempi tulos kuin uusi benchmark-kruunu: agenttinen koodaus koostuu pitkistä työtiloista ja pienistä syvistä muokkauksista, joten TTFT:n hallinta ratkaisee käyttötuntuman. Arvo siirtyy muistihierarkian orkestrointiin, NUMA-tietoiseen siirtoon ja cache-politiikkaan — juuri niihin tylsiin kerroksiin, joista tuotantokelpoinen autonomia tehdään.

Astra-käyttäjä kertoo rekonstruoineensa kampusrakennusta Blenderissä tuntikausia ja kuvaa 3D-tilan ymmärrystä ensimmäiseksi GPT-3.5:n jälkeen samalta tuntuneeksi hypyksi [2]. Tämä on päivän liekitysnosto, mutta anekdootti ei ole eval. Silti käyttömuoto on tärkeä: malli ei enää vain ehdota mesh-komentoja, vaan pitää koossa pitkän visuaalisen työprosessin. Samansuuntaisesti H3 MAXilla tehty Pokémon-demo generoi pelattavia, reaaliaikaisia taisteluita, joissa liikkeet ja tilat näkyvät ruudulla [3]. Jos tällaiset demot kestävät toistettavuuden, generatiivisen AI:n kilpailukenttä laajenee tekstistä suoraan simulaatioihin, CADiin ja interaktiivisiin maailmoihin.

OpenAI kuvaa koodausagenttien jo muuttavan omaa tutkimustyötään, kokeiden nopeutta ja tehtävien vaativuutta [4]. Samaan aikaan yhtiö rakentaa virallista kehystä agenttien poikkeamien ja käyttöönoton riskien raportointiin yhdessä kymmenien sääntelijöiden kanssa [5]. Yhdistelmä on päivän todellinen frontier-lab-signaali: kun agentti lyhentää kokeen ideasta tulokseen, se kasvattaa myös huonosti havaittavien virheiden syntynopeutta. Käytännön vastaus on käsitellä trajektoria, työkalu-oikeuksia ja toistettavaa eval-ympäristöä ensimmäisen luokan tuotantodataa, ei jälkikäteen kerättävää lokiroskaa.