$LA Lagrange gjør mange rare ting i disse dager Du vet at Gemma 3 kom ut på Google... Gemma3 er en neste generasjons AI-modell laget av Google. Smartere med færre parametere (beregningsenheter som hjerneceller) Den er også rask og nøyaktig, noe som er ganske forskjellig fra den eksisterende GPT-strukturen. for eksempel - Grouped Query Attention (GQA): En metode for å løse det samme problemet flere ganger og dele svaret -> Beregningseffektivitet↑ - Lokal+global oppmerksomhet: Fokuser på ord som er nær deg ved å dele dem inn i lokale og fjerne ord som globale. -> Unødvendige beregninger↓ - Rotary Positional Encoding (RoPE): Representerer ordrekkefølge som enkle rotasjonsverdier i stedet for komplekse matriser -> Lang kontekstbehandlingseffektivitet↑ - RMSNorm, GeGLU: Endre reglene som hjernen organiserer tanker etter og hvordan den reagerer -> Stabilitet og nøyaktighet↑ Men når strukturen endres slik, "Beregnet denne modellen virkelig riktig?" Det blir mye vanskeligere å bevise Normalt har du ikke noe annet valg enn å stole på resultatene som en svart boks, men nøkkelpoenget er å bevise dette. Lagranges DeepProven utvider dette til Gemma3 - Komplekse oppmerksomhetsmasker kan bevises - Kan håndtere nye posisjonskodinger som RoPE - Modularitet opp til RMSNorm/GeGLU kan bevises -> Den nyeste AI-arkitekturen kan nå matematisk bevises at "utgangen er riktig" Hvorfor dette er viktig, Fra utviklerens synspunkt Selv om du bruker den nyeste strukturen, er det ikke noe problem med "uverifiserbar" Fra selskapets synspunkt Regulatoriske og tillitsmessige spørsmål holder tritt med innovasjonstakten I samfunnet Jo smartere AI blir, jo mer vil sikkerheten øke. I fremtiden er ikke konkurranseevnen til AI "hvor mange parametere er det?" Det kan være [Kan du bevise det] —— Så hva $LA? Det reagerer kanskje ikke på tokenet med en gang, men det vil føre til faktisk salg, og det vil være positivt når det gjelder partnerskap og utvidelse av økosystemet. Her om dagen så jeg Lagrange-nyhetene og sa at det var fantastisk, og jeg syntes diagrammet var greit. Diagrammet er ganske stabilt denne gangen også... La oss satse på det.