#268 - Kis magyar szuverenitás: ez a Racka - I. rész

Az epizódról

Ebben az adásban a hazai nyelvtechnológia legújabb mérföldkövét, a Racka nyelvmodellt mutatjuk be Gyöngyössy Natabara és Nemeskey Dávid segítségével. Megvitatjuk, mi értelme van egy 4 milliárd paraméteres magyar SLM (Small Language Model) fejlesztésének, és hogyan viszonyul ez a korábbi, Dávid által készített HuBERT modellhez vagy a globális GPT-családhoz. Alaposan elemezzük a modellek működési rétegeit az inferenciától az agentic AI irányába mutató kontextuskezelésig és a biztonsági „guardrail”-ekig. Szóba kerül a világ tokenizálása, a multimodális és omnimodellek (mint a Qwen vagy a Google-féle Gemini) térnyerése, valamint a technikai kihívások, mint a KV-cashing memóriaigénye és a spekulatív dekódolás. Végül választ kapunk arra is, miért fontos a kulturális beágyazottság és a lokális, felhőfüggetlen futtathatóság a „digitális gyarmatosítással” szemben, elindulva ezzel a hazai AI-szuverenitás felé.