Cara model bahasa besar seperti Grok berfungsi

Grok ialah model bahasa besar, atau LLM: program yang dilatih dengan jumlah teks yang amat besar untuk menyambung teks dengan cara yang berguna. Anda tidak memerlukan kepakaran matematik untuk memahami konsep utamanya, dan memahaminya membawa banyak manfaat. Konsep ini menjelaskan sebab Grok sangat hebat dalam menulis semula perenggan, sebab ia kadangkala menyatakan tarikh yang salah dengan penuh yakin, sebab ia tidak mengetahui berita minggu lepas dalam sembang kita dan sebab prom yang lebih jelas menghasilkan jawapan yang lebih baik.

Satu idea utama: meramalkan perkara seterusnya

Pada dasarnya, LLM melakukan satu perkara sahaja. Berdasarkan teks yang diberikan, ia menganggarkan bahagian kecil teks yang berkemungkinan muncul seterusnya, menambahnya, dan mengulangi proses tersebut. Soalan anda, mesej sebelumnya dan arahan yang diberikan oleh laman web kepada model semuanya merupakan sebahagian daripada teks permulaan itu. Jawapan yang anda baca dibina daripada ribuan ramalan kecil ini, satu demi satu, setiap satunya berasaskan semua teks yang telah ditulis setakat itu.

Ini kedengaran terlalu mudah untuk menghasilkan penjelasan peraturan cukai yang berguna atau fungsi kod yang berfungsi. Rahsianya terletak pada skala. Untuk meramalkan teks dengan tepat merentasi berbilion contoh, model perlu menyerap banyak maklumat tentang tatabahasa, fakta, corak penaakulan, gaya bahasa dan cara manusia menerangkan sesuatu. Ramalan ialah tugasnya; model bahasa dan dunia yang luas lagi menyeluruh ialah kesan sampingannya.

Terdapat sedikit unsur rawak yang disengajakan dalam setiap pilihan, itulah sebabnya soalan yang sama boleh memberikan jawapan dengan susunan kata yang berbeza setiap kali anda menjana semula.

Token: cebisan asas yang diproses model

Model tidak membaca huruf atau perkataan penuh. Ia membaca token: cebisan yang sering kali merupakan perkataan pendek yang lengkap, sebahagian daripada perkataan yang lebih panjang, ruang jarak bersama perkataan, atau tanda baca. Perkataan bahasa Inggeris yang biasa biasanya dikira sebagai satu token; perkataan yang jarang digunakan dan kebanyakan skrip bukan Latin dipecahkan kepada beberapa token.

Token penting untuk anda dalam dua cara. Had bagi jumlah yang boleh dibaca dan ditulis oleh model diukur dalam token, bukan perkataan. Oleh sebab model melihat cebisan dan bukannya huruf, tugasan seperti mengira huruf dalam sesuatu perkataan atau menterbalikkan rentetan teks boleh mengelirukannya, walaupun ia mampu mengendalikan tugasan bahasa yang jauh lebih sukar dengan mudah.

Model Grok dalam sembang kami juga menerima imej. Gambar ditukar kepada bentuk yang boleh diproses oleh model bersama teks anda, membolehkannya membaca carta atau menerangkan foto. Ia tetap membalas dalam bentuk teks.

Latihan: daripada teks mentah kepada pembantu yang berguna

Pembangunan model seperti Grok berlaku secara berperingkat. Butiran proses bagi mana-mana syarikat kebanyakannya tidak didedahkan kepada umum, tetapi gambaran umumnya sudah diketahui ramai.

1. Pra-latihan (Pre-training). Model belajar meramalkan teks merentasi koleksi buku, laman web, kod dan bahan lain yang amat besar. Dari sinilah pengetahuan am dan kemahiran bahasanya diperoleh.
2. Penalaan halus (Fine-tuning). Ia kemudiannya dilatih dengan contoh perbualan yang baik: soalan yang dipadankan dengan jawapan yang berguna dan berformat kemas. Ini mengubah peramal teks menjadi pembantu yang mematuhi arahan.
3. Maklum balas (Feedback). Manusia dan semakan automatik menilai jawapan, dan model dilaraskan untuk mengutamakan jenis jawapan yang mendapat skor tinggi, seperti jawapan yang tepat, jelas dan selamat.

Hasilnya ialah fail besar yang mengandungi nombor, dipanggil pemberat (weights), yang mengekod perkara yang dipelajari oleh model. Model tidak menyimpan salinan teks latihannya untuk membuat rujukan. Ia menyimpan corak, itulah sebabnya ia boleh menerangkan sesuatu idea menggunakan perkataan baharu tetapi mungkin tersilap mengingati butiran khusus.

Had masa pengetahuan dan ketiadaan internet

Latihan akan berhenti pada satu ketika, dan semua perkara selepas waktu itu tidak diketahui oleh model. Titik tersebut ialah had masa pengetahuan (knowledge cut-off). Sesetengah versi Grok boleh mencari maklumat di web: Grok rasmi di grok.com dan X mempunyai carian langsung. Sembang kami tiada ciri ini, jadi Grok di sini hanya menjawab berdasarkan latihannya dan maklumat yang anda masukkan dalam perbualan.

Secara praktikal: untuk berita, harga, keputusan sukan, jadual waktu, undang-undang baharu dan versi perisian terkini, gunakan sumber semasa. Jika anda menampal artikel terkini ke dalam sembang, Grok boleh memprosesnya, kerana maklumat tersebut kini menjadi sebahagian daripada perbualan.

Tetingkap konteks: memori kerja model

Tetingkap konteks model ialah jumlah teks yang boleh dipertimbangkannya dalam satu masa, merangkumi mesej anda, balasannya dan sebarang arahan. Model Grok xAI mempunyai tetingkap yang sangat besar; OpenRouter menyenaraikan 2 juta token untuk Grok 4.20, 1 juta untuk Grok 4.3 dan 500,000 untuk Grok 4.7. Sembang kami menghantar bahagian yang jauh lebih kecil untuk memastikan jawapan kekal pantas dan percuma, dengan memotong mesej terawal dalam perbualan yang panjang.

Dua perkara terhasil daripada ini. Dalam satu perbualan, Grok hanya "mengingati" perkara yang masih berada dalam tetingkap. Dan antara perbualan yang berbeza, ia tidak mengingati apa-apa langsung: sembang baharu bermula kosong, walaupun sembang lama anda disimpan dalam pelayar anda untuk dibuka semula. Jika sembang yang panjang mula hilang tumpuan, minta ringkasan dan mulakan sembang baharu dengannya.

Penaakulan: model yang berfikir sebelum menjawab

Sesetengah model dilatih untuk menulis langkah kerja sebelum memberikan jawapan akhir: menyenaraikan syarat, mencuba pendekatan, dan menyemaknya. Ini dipanggil penaakulan (reasoning), dan ia paling membantu dalam matematik, logik, perancangan dan penyahpepijatan kod. Dalam sembang kami, Grok 4.3 Thinking dan Grok 4.7 menaakul sebelum menjawab, manakala Grok 4.20 beroperasi tanpa penaakulan demi kepantasan. Panduan kami tentang model penaakulan menerangkan situasi yang berbaloi untuk menunggu.

Sebab model mereka-reka maklumat

Oleh sebab model sentiasa menghasilkan sambungan teks yang nampak munasabah, ia tidak akan berhenti secara semula jadi apabila mencapai batas pengetahuannya. Jika diminta sumber yang tidak pernah dilihatnya, ia boleh menghasilkan tajuk yang meyakinkan. Jika ditanya tentang pekan kecil, ia mungkin menggabungkan butiran daripada pekan yang serupa. Ini biasanya dipanggil halusinasi (hallucination), dan ia merupakan kesan sampingan daripada mekanisme sama yang menjadikannya petah berbahasa. Latihan mengurangkannya, dan arahan seperti "nyatakan jika anda tidak pasti" turut membantu, namun tiada model sedia ada yang bebas sepenuhnya daripadanya. Panduan kami tentang menyemak jawapan AI menunjukkan aspek yang perlu diperhatikan.

Maksud perkara ini untuk prom anda

Setiap konsep di atas membawa kepada amalan praktikal. Model membuat ramalan daripada apa yang dilihatnya, jadi berikan bahannya. Ia mempunyai had masa pengetahuan, jadi tampal fakta semasa sendiri. Ia mungkin meneka, jadi minta ia menyatakan keraguan jika ada.

Lemah:
Apakah syarat untuk visa saya?

Kukuh:
Di bawah ialah teks daripada halaman rasmi tentang jenis visa saya, disalin
hari ini. Terangkan dengan bahasa mudah perkara yang mesti saya lakukan sebelum visa tamat tempoh
dan senaraikan sebarang tarikh akhir yang dinyatakan. Gunakan teks ini sahaja, dan beritahu saya
jika ada perkara yang tidak jelas.
---
[teks ditampal]

Prom yang lemah meminta Grok mengingati semula peraturan yang mungkin telah berubah. Prom yang kukuh memberikan sumber semasa kepadanya dan memintanya melakukan perkara yang terbaik bagi LLM: membaca, menerangkan dan menyusun. Cuba alat penyimpul kami untuk tugasan sebegini, atau minta Grok menerangkan dirinya dalam bahasa yang mudah.

Soalan Lazim

Adakah Grok memahami apa yang dikatakannya?

Itu perkara yang masih dibahaskan. Apa yang jelas ialah ia boleh menerangkan, meringkaskan dan menaakul dengan cara yang sering kali berguna, dan ia juga boleh melakukan kesilapan tanpa menyedarinya. Nilailah ia dengan menyemak hasilnya, bukan berdasarkan betapa yakin bunyinya.

Adakah Grok belajar daripada sembang saya sekarang?

Model tidak berubah semasa anda bersembang dengannya; pemberatnya (weights) kekal tetap selepas latihan. Dalam sesuatu sesi sembang, ia menggunakan mesej anda sebagai konteks, dan sembang baharu bermula tanpa mesej tersebut.

Mengapa model AI yang berbeza memberikan jawapan yang berbeza?

Model-model tersebut dilatih menggunakan data yang berbeza, dengan kaedah yang berbeza, serta matlamat yang berbeza. Halaman perbandingan kami antara Grok dengan model lain, serta apa itu Grok, menerangkan kedudukan keluarga model Grok.

Siapa yang membangunkan Grok?

Grok dibangunkan oleh xAI, yang diambil alih oleh SpaceX pada Februari 2026. Laman web kami adalah bebas dan menggunakan model Grok melalui API awan; kami tidak berafiliasi dengan xAI, SpaceX atau X. Halaman sejarah Grok memaparkan garis masanya.