Paano gumagana ang large language models tulad ng Grok

Ang Grok ay isang large language model, o LLM: isang program na sinanay sa napakalaking bulto ng text para magpatuloy ng mga pangungusap sa kapaki-pakinabang na paraan. Hindi mo kailangang maging magaling sa math para maunawaan ang mga pangunahing ideya nito, at malaki ang maitutulong ng kaalamang ito. Ipinapaliwanag nito kung bakit napakagaling ng Grok mag-rewrite ng talata, kung bakit kung minsan ay may sinasabi itong maling petsa nang buong kumpyansa, kung bakit hindi nito alam ang balita noong nakaraang linggo sa aming chat, at kung bakit mas maganda ang sagot kapag mas malinaw ang prompt.

Ang nag-iisang mahalagang ideya: paghula sa susunod na sasabihin

Sa pinakapuso nito, iisa lang ang ginagawa ng isang LLM. Mula sa ibinigay na text, tinatantya nito kung aling maliit na piraso ng text ang malamang na kasunod, idinadagdag ito, at inuulit ang proseso. Ang tanong mo, ang mga naunang mensahe, at ang mga tagubiling ibinigay ng site sa model ay bahagi lahat ng panimulang text na iyon. Ang sagot na nababasa mo ay binuo mula sa libo-libong maliliit na hula, sunod-sunod, kung saan bawat isa ay nakabatay sa lahat ng naisulat na hanggang sa puntong iyon.

Masyado mang simpleng pakinggan para makabuo ng kapaki-pakinabang na paliwanag sa mga panuntunan sa buwis o isang gumaganang function, nagiging epektibo ito dahil sa lawak at laki (scale). Para makapanghula nang maayos ng text sa bilyun-bilyong halimbawa, kailangang matutunan ng model ang napakaraming bagay tungkol sa gramatika, mga katotohanan, mga pattern ng pangangatwiran, mga istilo, at ang paraan ng pagpapaliwanag ng mga tao. Ang paghula ang mismong gawain; ang pagkakaroon ng malawak at pangkalahatang modelo ng wika at ng mundo ang naging magandang resulta nito.

May kaunting sinasadyang randomness sa bawat pagpili, kaya naman ang parehong tanong ay maaaring magbigay ng sagot na may ibang pagkakasabi sa tuwing magre-regenerate ka.

Mga Token: ang mga pirasong ginagamit ng model

Hindi nagbabasa ang mga model ng mga titik o buong salita. Nagbabasa sila ng mga token: mga piraso na kadalasang isang buong maikling salita, bahagi ng mas mahabang salita, isang space na may kasamang salita, o isang bantas. Ang mga karaniwang salitang Ingles ay karaniwang isang token lamang; ang mga bihirang salita at maraming non-Latin script ay nahahati sa ilan.

Mahalaga sa iyo ang mga token sa dalawang paraan. Ang mga limitasyon sa kung gaano karami ang kayang basahin at isulat ng model ay sinusukat sa mga token, hindi sa mga salita. At dahil mga tipak sa halip na mga titik ang nakikita ng model, ang mga gawain tulad ng pagbibilang ng mga titik sa isang salita o pagbabaligtad ng pagkakasunod-sunod nito ay maaaring maging sanhi ng pagkakamali nito, kahit na madali nitong nagagawa ang mas mahihirap na gawain sa wika.

Tumatanggap din ng mga larawan ang mga Grok model sa aming chat. Ang isang larawan ay ginagawang format na kayang iproseso ng model kasama ng iyong text, kaya nitong magbasa ng chart o maglarawan ng litrato. Sumasagot pa rin ito sa anyo ng text.

Pagsasanay: mula sa hilaw na text patungo sa isang kapaki-pakinabang na assistant

Ang pagbuo ng model tulad ng Grok ay dumadaan sa mga yugto. Ang mga detalye ng proseso ng kahit anong kumpanya ay kadalasang hindi pampubliko, ngunit ang pangkalahatang balangkas ay alam ng marami.

1. Pre-training. Natututo ang model na manghula ng text mula sa napakalaking koleksyon ng mga aklat, website, code, at iba pang materyal. Dito nanggagaling ang pangkalahatang kaalaman at kasanayan nito sa wika.
2. Fine-tuning. Pagkatapos ay sinasanay ito sa mga halimbawa ng magagandang pag-uusap: mga tanong na ipinares sa mga kapaki-pakinabang at maayos ang pormat na sagot. Ginagawa nitong isang assistant na sumusunod sa mga tagubilin ang dating tagahula lang ng text.
3. Feedback. Nagbibigay ng marka ang mga tao at mga automated check sa mga sagot, at inaayos ang model para mas piliin ang mga uri ng sagot na nakakakuha ng mataas na marka, tulad ng mga tumpak, malinaw, at ligtas.

Ang resulta ay isang malaking file ng mga numero, na tinatawag na weights, kung saan naka-encode ang mga natutunan ng model. Hindi nagtatago ang model ng kopya ng mga pinagsanayang text para hanapan ng impormasyon. Mga pattern ang itinatago nito, kaya kaya nitong ipaliwanag ang isang ideya gamit ang mga bagong salita ngunit maaari nitong maipagkamali ang isang partikular na detalye.

Knowledge cut-off at kawalan ng internet

Humihinto ang pagsasanay sa isang takdang panahon, at hindi na alam ng model ang lahat ng sumunod doon. Ang puntong iyon ang tinatawag na knowledge cut-off. Ang ilang bersyon ng Grok ay kayang mag-search sa web: may live search ang opisyal na Grok sa grok.com at X. Walang ganoon ang aming chat, kaya sumasagot lang ang Grok dito batay sa pagsasanay nito at sa kung ano ang inilagay mo sa usapan.

Sa praktikal na paraan: para sa mga balita, presyo, resulta sa sports, iskedyul, mga bagong batas, at mga pinakabagong bersyon ng software, gumamit ng updated na sanggunian. Kung magpe-paste ka ng bagong artikulo sa chat, kayang magtrabaho ng Grok gamit iyon, dahil nagiging bahagi na ng usapan ang impormasyon.

Context window: ang working memory ng model

Ang context window ng isang model ay ang dami ng text na kaya nitong isaalang-alang nang sabay-sabay, kasama ang iyong mga mensahe, ang mga sagot nito, at anumang tagubilin. Napakalalaki ng mga window ng mga Grok model ng xAI; nakatala sa OpenRouter ang 2 milyong token para sa Grok 4.20, 1 milyon para sa Grok 4.3, at 500,000 para sa Grok 4.7. Mas maliit na bahagi lang ang ipinapadala ng aming chat upang manatiling mabilis at libre ang mga sagot, at pinuputol nito ang mga pinakalumang mensahe sa isang mahabang usapan.

Dalawang bagay ang ibig sabihin nito. Sa loob ng isang usapan, "naaalala" lamang ng Grok ang nasa loob pa ng window. At sa pagitan ng mga magkakahiwalay na usapan, wala itong naaalala kahit ano: nagsisimulang blangko ang isang bagong chat, kahit na naka-save sa iyong browser ang mga luma mong chat para mabuksan mo ulit. Kung nagsisimula nang mawala sa tono ang isang mahabang chat, humingi ng buod at magsimula ng bago gamit iyon.

Reasoning: mga model na nag-iisip bago sumagot

Ang ilang model ay sinanay na sumulat muna ng kanilang proseso ng pag-iisip bago ang huling sagot: paglista ng mga kondisyon, pagsubok ng isang paraan, at pag-check nito. Tinatawag itong reasoning, at malaki ang naitutulong nito sa math, lohika, pagpaplano, at debugging. Sa aming chat, nag-iisip muna bago sumagot ang Grok 4.3 Thinking at Grok 4.7, samantalang ang Grok 4.20 ay tumatakbo nang naka-off ang reasoning para sa bilis. Ipinapaliwanag ng aming gabay sa mga reasoning model kung kailan sulit ang paghihintay.

Bakit nag-iimbento ng mga bagay ang mga model

Dahil palaging gumagawa ang model ng kapani-paniwalang karugtong ng text, hindi ito kusang humihinto kapag naabot na nito ang hangganan ng kanyang kaalaman. Kapag hiningan ng sangguniang hindi pa nito nakita kailanman, maaari itong gumawa ng kapani-paniwalang pamagat. Kapag tinanong tungkol sa isang maliit na bayan, maaari nitong paghaluin ang mga detalye mula sa mga katulad na bayan. Karaniwang tinatawag itong hallucination, at isa itong epekto ng parehong mekanismo na nagbibigay-daan para maging mahusay itong magpahayag. Nababawasan ito sa pagsasanay, at nakatutulong ang mga tagubiling tulad ng "sabihin kung hindi ka sigurado," ngunit walang kasalukuyang model ang ganap na ligtas dito. Ipinapakita ng aming gabay sa pag-check ng mga sagot ng AI kung saan dapat mag-ingat.

Ang ibig sabihin nito para sa iyong mga prompt

Bawat ideya sa itaas ay humahantong sa isang praktikal na gawi. Nanghuhula ang model mula sa nakikita nito, kaya ibigay mo ang materyal. May cut-off ito, kaya ikaw mismo ang mag-paste ng mga bagong impormasyon. Maaari itong manghula, kaya sabihan itong ipahiwatig kung nagdududa ito.

Mahina:
Ano ang mga panuntunan para sa visa ko?

Malakas:
Nasa ibaba ang text mula sa opisyal na page tungkol sa uri ng visa ko, kinopya
ngayong araw. Ipaliwanag sa simpleng salita kung ano ang dapat kong gawin bago mag-expire ang aking visa
at ilista ang anumang deadline na binanggit dito. Gamitin lamang ang text na ito, at sabihin sa akin
kung mayroong anumang hindi malinaw.
---
[kinopyang text]

Ang mahinang prompt ay humihiling sa Grok na alalahanin ang mga panuntunang maaaring nagbago na. Ang malakas na prompt ay nagbibigay mismo ng pinakabagong sanggunian at humihiling dito na gawin ang pinakamahusay na ginagawa ng mga LLM: magbasa, magpaliwanag, at mag-ayos ng impormasyon. Subukan ang summarizer para sa ganitong uri ng gawain, o hilingin sa Grok na ipaliwanag ang sarili nito sa simpleng pananalita.

FAQ

Nauunawaan ba ng Grok ang sinasabi nito?

Pinagtatalunan pa rin ang tanong na iyan. Ang malinaw ay kaya nitong magpaliwanag, magbuod, at mangatwiran sa mga paraang madalas na kapaki-pakinabang, at maaari rin itong magkamali nang hindi nito namamalayan. Husgahan ito sa pamamagitan ng pagsusuri sa mismong sagot nito, hindi sa kung gaano kasigurado ang tono nito.

Natututo ba ang Grok mula sa mga chat ko ngayon?

Hindi nagbabago ang model habang kausap mo ito; permanente na ang weights nito pagkatapos ng pagsasanay. Sa loob ng isang chat, ginagamit nito ang iyong mga mensahe bilang context, at ang isang bagong chat ay magsisimula nang wala ang mga iyon.

Bakit magkakaiba ang sagot ng iba't ibang AI model?

Sinalang sila sa iba't ibang data, sa iba't ibang paraan, at may iba't ibang layunin. Tinatalakay sa aming mga paghahambing ng Grok sa iba pang mga model, at sa artikulong ano ang Grok, kung paano naiiba ang pamilya ng Grok.

Sino ang gumagawa ng Grok?

Ang Grok ay gawa ng xAI, na binili ng SpaceX noong Pebrero 2026. Ang aming site ay independyente at gumagamit ng mga Grok model sa pamamagitan ng cloud API; hindi kami konektado sa xAI, SpaceX, o X. Makikita ang timeline sa page ng kasaysayan ng Grok.