Tidak Setiap Tuntutan AI Memerlukan Rujukan — Tetapi Setiap Tuntutan Memerlukan Asas

Mengapa "tiada rujukan" berhenti menjadi ujian yang cukup baikMasalah kepercayaan bukanlah abstrak. Ia boleh diukur, dan ia semakin teruk dalam cara-cara tertentu yang didokumenkan.Kajian 2025 mengenai rujukan yang dijana AI mendapati bahawa 19.9% daripadanya direka sepenuhnya, dan tambahan 45.4% mempunyai ralat bibliografi yang serius — bermakna hampir dua pertiga daripada rujukan yang dihasilkan oleh AI dalam kajian itu sama ada direka atau rosak secara material. Secara berasingan, penjejakan rujukan yang direka dalam penyelidikan yang diterbitkan menunjukkan peningkatan kira-kira 12 kali ganda antara 2023 dan 2025, dengan lebih daripada 4,000 kertas kerja bioperubatan didapati merujuk penyelidikan yang tidak wujud.Sistem perundangan sudah menanggung kos ini. Dalam tempoh setahun sehingga Februari 2026, 66 kes undang-undang AS telah disekat secara khusus kerana ralat yang dijana AI, dan menjelang Jun 2026 angka itu telah meningkat kepada 1,598 prosiding mahkamah di seluruh dunia yang melibatkan kandungan AI dengan rujukan yang direka — dengan lebih $145,000 dalam penalti pemfailan AI di mahkamah AS pada suku pertama 2026 sahaja.Tiada satu pun daripada itu adalah sebab untuk tidak mempercayai AI sepenuhnya. Ia adalah sebab untuk berhenti menggunakan "adakah ia mempunyai rujukan" sebagai keseluruhan ujian, kerana ujian itu terlalu mudah untuk lulus tanpa sebenarnya benar, dan — sama pentingnya — terlalu mudah untuk gagal sedangkan ia sebenarnya betul.Terdapat komplikasi sebenar di sisi lain ini juga, yang patut dinyatakan secara jujur dan bukannya dilewati begitu sahaja: satu kajian Yale mendapati bahawa orang yang menggunakan chatbot AI untuk membantu mengesahkan berita melihat penurunan 15 mata dalam keupayaan mereka sendiri tanpa bantuan untuk mengesan maklumat salah selepas hanya empat minggu. Mengalih keluar pengesahan bukanlah percuma. Ia boleh menjadikan anda lebih teruk dalam melakukannya sendiri. Itu adalah sebab sebenar untuk menginginkan sistem yang menunjukkan kerjanya dan bukannya satu yang hanya memberikan anda jawapan yang kelihatan bersih.---## Apa sebenarnya yang boleh menjadi dasar sesuatu dakwaanJika rujukan sahaja bukan ujian yang betul, soalan yang lebih berguna ialah: apakah jenis bukti yang menghasilkan dakwaan ini? Dalam praktiknya, terdapat enam jawapan yang nyata dan berbeza.### 1. Penyelidikan luaranDakwaan yang berasaskan carian langsung atau pencarian terhadap sumber sebenar, terkini — jenis bukti yang anda harapkan akan ditunjuk oleh rujukan, dan di mana ketiadaan rujukan adalah tanda merah yang sebenar.### 2. Maklumat yang dibekalkan penggunaDakwaan yang dibina daripada sesuatu yang anda beritahu sistem secara langsung — fakta jenama anda sendiri, pengetahuan pasaran anda sendiri, pembetulan yang anda bekalkan. Ini tidak memerlukan rujukan luaran. Rujukan adalah anda.### 3. Bukti yang dibawa ke hadapan dari langkah sebelumnyaDalam sekeping penyelidikan berbilang peringkat, peringkat kemudian boleh dengan betul bergantung pada bukti yang telah ditetapkan dan disahkan oleh peringkat sebelumnya, dan bukannya menyelidikinya semula dari awal. Rujukan itu wujud di hulu, bukan pada setiap ayat hiliran yang menggunakannya.### 4. Inferens analitikal, dilabelkan dengan jelas sebagai inferensKadangkala jawapan yang jujur ialah "berdasarkan bukti yang dikumpul, ini adalah tafsiran yang paling munasabah" — bukan fakta yang ditemui, tetapi pertimbangan. Itu adalah sah, dengan syarat ia dilabelkan sebagai inferens dan bukan disolek sebagai rujukan.### 5. Pengiraan deterministikBeberapa dakwaan hanyalah aritmetik. Jika input adalah betul, pengiraan yang tetap dan boleh dihasilkan semula tidak memerlukan rujukan lebih daripada formula hamparan — "bukti" ialah fakta bahawa input yang sama sentiasa menghasilkan output yang sama.### 6. Pembetulan manusia, diaplikasikan selepas faktaIni adalah satu yang kebanyakan liputan tentang kepercayaan AI langkau sepenuhnya: apabila seseorang dengan pengetahuan sebenar, secara langsung membetulkan dakwaan yang dijana AI, pembetulan itu sendiri adalah satu bentuk bukti — boleh dikatakan jenis yang paling kuat tersedia, kerana ia datang daripada seseorang yang sebenarnya berada di sana. Kami menganggap ini sebagai kategori keenam yang sebenar, bukan sekadar langkah kawalan kualiti yang dipasang pada lima yang lain. Itu adalah sintesis tulen di pihak kami, bukan istilah industri yang mapan — wajar dinyatakan secara terang-terangan dan bukannya dihias seolah-olah lebih daripada itu.Enam jawapan sebenar. Satu ujian — "adakah terdapat rujukan" — tidak akan pernah merangkumi kesemua enam.---## Perbezaan yang hampir tiada siapa yang buat: jurang berbanding artifakBerikut adalah sudut yang sebenarnya kurang diterokai, dan ia lebih penting daripada yang sepatutnya.Apabila sistem AI menandakan sesuatu sebagai tidak pasti, tanda itu boleh bermaksud satu daripada dua perkara yang sangat berbeza:Jurang bukti sebenar — subjek itu sebenarnya tidak dapat disahkan. Tiada siapa yang menerbitkan nombor itu. Maklumat itu tidak umum. Ketidakpastian itu adalah nyata dan tentang dunia.Artifak bahasa — penemuan dasar adalah baik, tetapi ia ditandakan sebagai negatif atau tidak pasti semata-mata kerana cara ia diungkapkan, bukan kerana apa yang sebenarnya dikatakannya. Ketidakpastian adalah mengenai ayat itu, bukan subjeknya.Ini kelihatan sama di halaman. Kedua-duanya muncul sebagai bendera kuning di sebelah dakwaan. Tetapi ia memerlukan tindak balas yang sama sekali berbeza. Jurang sebenar memerlukan lebih banyak penyelidikan. Artifak bahasa memerlukan frasa yang lebih baik — dan memperlakukannya seperti jurang penyelidikan membazir masa mengejar bukti untuk sesuatu yang tidak pernah diragui.Perbezaan ini hampir tidak muncul dalam liputan sedia ada tentang kepercayaan AI dan halusinasi. Kebanyakan daripadanya berhenti pada "AI boleh salah, sahkan dakwaan penting" — benar, tetapi tidak boleh diambil tindakan. Mengetahui jenis bendera yang anda lihat adalah apa yang sebenarnya memberitahu anda apa yang perlu dilakukan seterusnya.---## Mengapa soalan yang lebih sempit mengalahkan yang lebih luasTerdapat pola kedua yang patut dinamakan, dan ia berjalan ke arah yang bertentangan dengan apa yang kebanyakan orang menganggap penyelidikan AI "lebih teliti" sepatutnya kelihatan.Naluri adalah untuk bertanya satu soalan besar, terbuka dan mengharapkan jawapan yang komprehensif kembali. Dalam praktiknya, yang sebaliknya cenderung berfungsi lebih baik: memecahkan soalan yang luas kepada beberapa soalan yang sempit, spesifik, terbatas — dan menanyakannya secara berasingan — menghasilkan bukti yang lebih mudah diperiksa, lebih mudah dipercayai, dan seringkali lebih berguna secara langsung daripada satu jawapan yang meluas cuba merangkumi segalanya sekaligus.Sebahagian sebabnya: soalan yang sempit memberi sistem kurang ruang untuk mengaburkan perkara yang sepatutnya kekal berasingan. Ia juga memberi anda, pembaca, dakwaan yang lebih mudah untuk disahkan sebenarnya — jawapan khusus kepada soalan khusus adalah sesuatu yang boleh anda semak terhadap sumber tertentu. Satu perenggan yang cuba menjawab lima perkara sekaligus biasanya tidak dapat disemak terhadap apa-apa secara khusus.Lebih sedikit, disasarkan dengan lebih tepat, cenderung mengalahkan lebih banyak.---## Apa yang sebenarnya kelihatan seperti ini dalam penyelidikan pasaran sebenarKami tidak menerima ini secara membuta tuli. Kami menjalankan penyelidikan sebenar tentang bagaimana orang ramai pada masa ini menggambarkan kekecewaan mereka dengan alat AI yang membuat dakwaan bukti dan kepercayaan — bahasa berulang yang sebenarnya dicapai oleh orang ramai, bukan hipotesis mengenainya.Tiga frasa muncul cukup kerap, secara bebas, untuk diulang di sini, tanpa melampirkannya kepada mana-mana produk atau syarikat tertentu, kerana pola adalah intinya, bukan mana-mana satu vendor:- Rasa "kadar omong kosong 5%" — perasaan bahawa walaupun alat AI yang kebanyakannya boleh dipercayai mempunyai sebahagian kecil tetapi nyata output yang salah dengan yakin, dan bahawa perkadaran ini jarang mengecil kepada sifar walau bagaimanapun baiknya alat itu.- "Ilusi ketelusan" — di mana alat secara visual menunjukkan alasan atau sumbernya, yang kelihatan boleh dipercayai, tanpa lapisan yang kelihatan itu sebenarnya boleh diperiksa atau betul.- "Beban pengesahan" — kos senyap dan sebenar bahawa kerja bantuan AI tidak menghilangkan keperluan untuk memeriksa sesuatu, ia hanya memindahkan pemeriksaan kepada manusia, kemudian, seringkali tanpa amaran bahawa ia masih diperlukan.Penyelidikan yang sama juga menyingkap apa yang sebenarnya diinginkan oleh orang ramai, secara bebas dan berulang kali, tanpa didorong ke arah jawapan tertentu: keupayaan rujukan yang konsisten dan boleh disahkan; penjelasan yang jelas tentang bagaimana AI mencapai kesimpulannya dan bukannya hanya kesimpulan itu sendiri; dan keputusan yang disintesis dan boleh diambil tindakan dan bukannya pembuangan tanpa tapisan semua yang ditemui oleh sistem.Kami tidak menuntut kredit untuk mengenal pasti permintaan itu — penyelidikan itu menemukannya sendiri. Apa yang ingin kami tunjukkan ialah ia sangat sepadan dengan bagaimana kami membina produk kami sendiri: lapisan kejujuran yang menunjukkan andaian, jurang dan percanggahan dan bukannya menyembunyikannya; cara untuk membetulkan dan menjalankan semula analisis dengan konteks sebenar dan bukannya bermula semula; dan satu keputusan yang disintesis di hadapan, dengan jejak bukti penuh tersedia di bawahnya untuk sesiapa sahaja yang ingin menyemak kerja kami.---## Senarai semak untuk dakwaan AI seterusnya yang anda terimaSeterusnya apabila sistem AI — kami atau orang lain — menyerahkan dakwaan yang anda akan bertindak, lima soalan membawa anda lebih jauh daripada "adakah terdapat rujukan":1. Apakah jenis ini? Penyelidikan luaran, input anda sendiri, bukti yang dibawa ke hadapan, inferens yang dilabel, pengiraan, atau pembetulan manusia — ia memerlukan tahap kepercayaan yang berbeza.2. Jika ia rujukan, adakah sumber itu sebenarnya mengatakan ini? Rujukan yang wujud dan rujukan yang menyokong dakwaan khusus bukanlah semakan yang sama.3. Jika ia ditandakan tidak pasti, adakah itu jurang atau artifak? Tanya apa yang secara khusus tidak disahkan — subjek, atau hanya ayat.4. Adakah versi soalan yang lebih sempit akan memberikan anda jawapan yang lebih mudah disemak? Jika dakwaan itu luas, pertimbangkan sama ada memisahkannya akan membantu.5. Adakah sesiapa yang mempunyai pengetahuan langsung sebenarnya telah melihat ini? Pembetulan manusia, di mana satu tersedia, seringkali merupakan jenis bukti terkuat dalam senarai — gunakannya.Tiada satu pun daripada itu memerlukan tidak mempercayai AI sepenuhnya. Ia memerlukan memperlakukan "dirujuk" dan "benar" sebagai dua soalan yang berbeza, kerana ia memang begitu.