Racka

A hazai mesterséges intelligencia, amit rendesen megtanítottak magyarul

Már évekkel ezelőtt is tudtak magyarul a legnépszerűbb MI-modellek. Vagy legalábbis úgy tettek, de ha valaki sokat beszélgetett velük, annak biztosan feltűnt, hogy időnként azért hiba csúszik a gépezetbe, hol egy fura szóhasználat, hol egy látványosan angolszász logikájú mondatszerkezet bukik ki. Ezt a problémát orvosolhatják a kifejezetten magyar nyelvű nagy nyelvi modellek, és ilyenek már vannak is. Korábban a Nyelvtudományi Kutatóközpont csinált ilyet a PULI-val, nemrég pedig egy összetettebb modell is megjelent, a Racka. Ezt az ELTE Informatikai Kar Mesterséges Intelligencia Tanszékének kutatói készítették a Digitális Örökség Nemzeti Laboratóriummal együttműködésben, és már dolgoznak egy még nagyobb léptékű modellen a szintén magyar Mynds.ai nevű céggel. Ennek nyomán beszélgettünk Palkó Gáborral, az ELTE MI Tanszéke és a Mynds.ai munkatársával, valamint a cég ügyvezetőjével, Radványi Miklóssal arról, hogy miért van szükség a Rackára, hogyan jött létre, mire lehet már most is használni, és hova fejlődhet még. Illetve arról is, hogy mi kellene ahhoz, hogy az ehhez hasonló fejlesztések meg tudjanak valósulni, és mit gondolnak a tavaly újra előszedett, az akkori ígéretek alapján évente frissítendő MI-stratégiáról, és a jelenlegi kilátásokról. Mi az a Racka? A Racka, illetve a Racka-4B modell az első, magyar szakemberek közreműködésével készült, magyar nyelvű érvelő nagy nyelvi modell (LLM), aminek az eddigi ilyen modellekkel ellentétben már logikai és érvelő képességei is vannak. Az érvelő, vagy más néven gondolkodó modellek két éve jelentek meg a köztudatban az OpenAI o1-ével, és nagyon leegyszerűsítve úgy lehet leírni őket, hogy válaszadás előtt végigrágják magukat a kérdésen, és egy végigkövethető gondolatmenettel jutnak el a megoldáshoz. Ezek a modellek fontos előrelépést hoztak a műfajban, különösen olyan feladatoknál, amelyeknél nem egyértelmű a válasz – mint, mondjuk, egy matekpélda, vagy egy logikai feladvány. A Racka-4B egy elég kicsi, mindössze 4 milliárd paraméteres modell, és azt Palkó viszonylag hamar leszögezte, hogy hiába vetekszik a kutatók szerint akár kétszer akkora modellekkel is a teljesítménye a magyar nyelvi feladatokban, nem arra való, hogy átlagemberek használják. Ez inkább egy kísérleti modell, ahol nagyon fontos szempont volt a know-how megszerzése. A Racka esetében, mondjuk, pont volt már példa arra, hogy egy igazságügyi szakértő a gyakorlatban hasznosított egy ezen alapuló kísérleti eszközt, amivel nagy mennyiségű dokumentumot lehet átfésülni, de közben egy pici külső tárolón is elfut. Az nyilvánvaló, hogy a Racka nem lesz soha a ChatGPT versenytársa, és Palkó szerint azt is pontosan tudják, hogy nem is fogják utolérni a piacvezető modellek nyelvi és tudásbeli képességeit. Az érvelő kapacitáson túl a Racka még két dologban más, mint az eddigi magyar fejlesztések. Az egyik, hogy ez az első modell, amit HPC-n, vagyis adatközpontban, konkrétan a Komondor nevű szuperszámítógépen tanítottak. Így skálázható, a meglévő tudással nagyobb modellt is lehet csinálni. A másik pedig, hogy ebben sokkal nagyobb a kulturális örökségi tartalmak aránya, mint az eddigi kísérletekben. „Az volt az egyik elképzelésünk, hogy a csak weboldalakból összegyűjtött adathalmazon tanult modell butább lesz, mint ha könyvek, disszertációk, tehát értékes kulturális örökségi tartalmak kerülnek bele a korpuszba” – mondta Palkó Gábor. Miért jó, hogy van ilyen? Palkó kiemelte, nyilvánvaló, hogy más eredményre jut egy olyan gondolkodás ami angolul folyik, mint egy olyan, ami magyarul, ezért komplexebb, nyelv- vagy kultúraspecifikus feladatoknál egyáltalán nem jó, ha ennek nyelve nem a magyar. A Racka létezése viszont így is nagyon fontos. Palkó szerint egyrészt rendkívüli kiszolgáltatottságot jelent egy magyarhoz hasonló, kis vagy közepes erőforrású nyelv esetében, ha csak nemzetközi, nagy techcégek által készített nyelvi modellek állnak rendelkezésre. Ezek eleve gyengébben tudnak magyarul, mint angolul vagy németül, például azért, mert sokkal kisebb a tanítókorpusz, amit magyar nyelven ezekbe betöltenek a tanítás során, mint a világnyelvek esetében. A magyar nyelv a tapasztalataik szerint egyre hátrébb is sorolódik, mert a gondolkodási képességet erősítő tanítóadatok, ahol részletes feladatmegoldásokat táplálnak be a modellekbe, nem magyarul vannak. Ahhoz, hogy legyenek ilyenek magyarul is, elő kell állítani őket manuálisan, vagy szintetikusan – előbbihez rengeteg emberi munka, utóbbihoz számítási kapacitás kell. Másrészt pedig ott van az is, hogy ha mindenki kész, polcról levehető, vagy inkább sok pénzért megvehető szolgáltatásokat használ, akkor a magyar nyelvtechnológia nem fejlődik, és gyakorlatilag nem tanulunk. „A hasonló, kis méretű LLM-ek fejlesztésében az is nagyon fontos szempont, hogy alakuljon ki egy olyan MI-fejlesztési tudás, ami aztán nemcsak LLM-ek fejlesztésében, hanem az ezekre épülő szolgáltatások kialakításában is elengedhetetlen lesz” – mondta Palkó. Radványi azt is hozzátette, hogy nem ugorhatnak egyből a 30, vagy 120 milliárd paraméteres modellekre, mert azokhoz sokkal több tanítóadatra és sokkal több gépidőre is van szükség. Azt ő is hangsúlyozta, hogy általánosságban nem a nagy modellekkel kell versenyre kelniük, és az átlagember nem is fogja a Rackához hasonló modelleket használni azok helyett, de vannak területek, ahol kifejezetten ezekre van szükség. „Ilyenek például a jogi szövegek, vagy a nagyon érzékeny adatok, mint az egészségügy, az állami, állambiztonsági, nemzetbiztonsági témájú felhasználás, vagy akár önkormányzati. Ezeknél megvannak a kritériumok, amiket teljesíteni kell, és jelenleg csak ezeket megkerülve sikerül beépíteni az MI-t. Vagy egyszerűen azt mondják, hogy ők ezt nem tudják vállalni, hogy kimenjen az adat akár csak európai szerverekre” – mondta Radványi. Palkó szerint összességében a Racka nagyon speciális feladatokra már most is alkalmas, és a mérések szerint a legjobb ilyen eszköz ma, de komplex feladatokra nem jó, mert egyszerűen túl pici. Szerinte ugyanakkor egy éven belül ki lehet jönni olyan modellekkel, amik már nagyon-nagyon sok feladatra lehetnek alkalmasak.

forrás: telex.hu