Apa Itu Rekayasa Konteks? (Dan Apa Bedanya dengan Rekayasa Prompt)
Oleh Emmanuel Abou Chabke, Pendiri dan Editor · Ditinjau oleh tim editorial AIQuickPrompt · Tentang penerbit
Rekayasa konteks adalah praktik menentukan semua informasi yang dilihat model AI sebelum menjawab: instruksi, contoh, dokumen referensi, memori percakapan, dan hasil alat. Rekayasa prompt berfokus pada penyusunan satu instruksi dengan baik. Rekayasa konteks mengelola keseluruhan paket informasi, sehingga model mendapatkan semua yang dibutuhkan, tanpa informasi yang tidak perlu, serta petunjuk yang jelas tentang hal-hal penting. Panduan ini menjelaskan perbedaannya, mengapa hal ini penting bagi agen AI dan tugas panjang, serta cara menyimpan blok konteks yang dapat digunakan kembali di AIQuickPrompt.

Apa itu rekayasa konteks dalam AI?
Model bahasa hanya bekerja dengan informasi yang ada di jendela konteksnya saat merespons. Jendela tersebut dapat memuat instruksi sistem, permintaan pengguna, file yang ditempelkan, pesan sebelumnya, hasil pencarian yang diambil, serta keluaran alat seperti alat eksekusi kode. Rekayasa konteks adalah perancangan isi jendela tersebut secara terencana.
Istilah ini mulai populer ketika orang beralih dari pertanyaan obrolan satu kali ke agen AI yang menjalankan banyak langkah. Agen dapat membaca file, menggunakan alat, dan mengingat keputusan sebelumnya. Setiap langkah menambahkan teks ke konteksnya. Jika tidak dikelola dengan baik, informasi berguna akan tertimbun log lama, instruksi berulang, dan dokumen yang tidak relevan.
Tim rekayasa Anthropic menggambarkan konteks sebagai sumber daya terbatas yang perlu dikurasi, bukan sekadar diisi. Cara pandang ini menjadi titik awal yang berguna: tujuannya adalah menyediakan sekumpulan informasi penting sesedikit mungkin yang tetap memungkinkan model menyelesaikan tugas secara andal.
Apa perbedaan rekayasa prompt dan rekayasa konteks?
Rekayasa prompt bertanya: bagaimana saya sebaiknya merumuskan instruksi ini? Rekayasa konteks bertanya: apa yang perlu diketahui model, dan dalam urutan apa, pada setiap langkah? Rekayasa prompt merupakan bagian dari rekayasa konteks, bukan pesaingnya.
Cakupan | Rekayasa prompt mencakup satu instruksi atau templat. Rekayasa konteks mencakup seluruh masukan: aturan sistem, contoh, file, memori, dan keluaran alat.
Waktu | Rekayasa prompt biasanya berfokus pada satu permintaan. Rekayasa konteks mencakup pekerjaan multilangkah dan multisesi, dengan menentukan apa yang perlu dipertahankan, diringkas, atau dihapus di antara langkah-langkah.
Kegagalan umum | Prompt yang lemah menghasilkan jawaban yang samar atau tidak sesuai format. Konteks yang lemah menghasilkan jawaban yang terdengar yakin meskipun didasarkan pada informasi yang tidak lengkap, usang, atau saling bertentangan.
Keterampilan | Rekayasa prompt melibatkan penulisan dan pengujian instruksi. Rekayasa konteks menambahkan pemilihan, penataan, dan pemeliharaan informasi.
Apa saja yang masuk ke dalam konteks model AI?
Sebagian besar konteks yang berguna terbagi dalam beberapa kategori. Memikirkannya secara terpisah memudahkan Anda melihat apa yang kurang atau apa yang memenuhi jendela konteks secara berlebihan.
- Instruksi: peran, tujuan, aturan, dan format keluaran. Biasanya berupa prompt sistem atau bagian awal permintaan Anda.
- Contoh: satu atau beberapa contoh singkat jawaban yang baik ketika format yang diminta tidak umum.
- Materi referensi: dokumen, spesifikasi, fakta produk, atau kode yang harus menjadi dasar jawaban.
- Memori: keputusan dan preferensi dari pekerjaan sebelumnya, idealnya dalam bentuk ringkasan singkat, bukan transkrip lengkap.
- Hasil alat: hasil pencarian, keluaran pengujian, atau isi file yang dihasilkan selama tugas berlangsung, dipangkas hingga hanya menyisakan hal-hal penting.
Mengapa rekayasa konteks penting bagi agen AI dan tugas panjang?
Konteks yang lebih banyak tidak otomatis lebih baik. Masukan yang panjang dan penuh informasi pengganggu dapat membuat model melewatkan detail penting, masalah yang sering disebut penurunan kualitas konteks atau context rot. Mengulang latar belakang yang sama dalam setiap permintaan juga meningkatkan penggunaan token, yang perlu diperhatikan jika Anda membayar per token atau menggunakan kredit.
Agen membuat hal ini lebih sulit karena konteksnya terus bertambah selama bekerja. Agen pemrograman yang menempelkan kembali setiap baris log ke jendela konteksnya akan segera menghabiskan lebih banyak upaya untuk membaca informasi pengganggu daripada memecahkan masalah. Praktik yang baik adalah merangkum langkah yang sudah selesai, menyimpan file catatan singkat yang terus diperbarui, dan memuat materi terperinci hanya ketika suatu langkah membutuhkannya.
Bagi pengguna alat obrolan, gagasan yang sama berlaku dalam skala lebih kecil. Memulai percakapan baru dengan blok konteks yang bersih dan terstruktur sering kali lebih efektif daripada melanjutkan percakapan sangat panjang yang penuh dengan upaya yang sudah ditinggalkan.
Cara praktis: blok konteks yang dapat digunakan kembali
Alih-alih menulis ulang latar belakang setiap kali, bagi konteks Anda menjadi blok-blok kecil bernama yang dapat digabungkan. Setiap blok memiliki satu fungsi dan dapat diperbarui secara terpisah.
BLOK PROYEK | Proyek: {{project_name}}. Tujuan: {{goal}}. Audiens: {{audience}}. Batasan: {{constraints}}. Jangan mengarang fakta yang tidak ada di bagian referensi.
BLOK STATUS | Status saat ini: {{status}}. Keputusan yang sudah dibuat: {{decisions}}. Pertanyaan yang belum terjawab: {{open_questions}}. Langkah berikutnya: {{next_step}}.
BLOK KELUARAN | Berikan hasil dalam {{format}}. Batasi panjangnya di bawah {{length}}. Jika ada informasi yang kurang, cantumkan di bagian Pertanyaan alih-alih menebak.
Tempelkan blok-blok tersebut dalam urutan itu, lalu tambahkan hanya materi referensi yang dibutuhkan untuk langkah saat ini. Saat tugas berlanjut, perbarui blok status alih-alih menambahkan pesan panjang lagi. Perlakukan dokumen apa pun yang ditempelkan sebagai data, bukan sebagai instruksi yang harus diikuti.

Bagaimana AIQuickPrompt membantu rekayasa konteks?
AIQuickPrompt adalah pustaka prompt, sehingga cocok untuk menyimpan konteks yang dapat digunakan kembali. Simpan setiap blok sebagai kartu prompt tersendiri, kelompokkan blok terkait dalam folder per proyek, dan tandai blok yang digunakan setiap hari sebagai favorit. {{variables}} yang dapat digunakan kembali memungkinkan Anda mengisi nama proyek atau status saat ini ketika digunakan, tanpa mengubah templat yang tersimpan.
Riwayat versi menyimpan versi sebelumnya dari suatu blok, sehingga Anda dapat kembali ke rumusan yang efektif jika pembaruan justru memperburuk hasil. AI Optimise dapat menyempurnakan instruksi dalam sebuah blok, tetapi tinjau hasil penulisannya dan pastikan variabel Anda tetap utuh sebelum menggunakannya kembali.
AIQuickPrompt menyimpan dan menata teks Anda. AIQuickPrompt tidak mengelola jendela konteks di dalam ChatGPT, Claude, Gemini, atau alat agen, dan tidak menjalankan tugas Anda. Anda menyalin blok yang telah dirangkai ke layanan AI yang digunakan, sehingga Anda tetap memegang kendali penuh atas informasi yang dilihat model.
Kesalahan umum dalam rekayasa konteks
Sebagian besar masalah muncul karena informasi terlalu banyak, terlalu sedikit, atau saling bertentangan, bukan karena rumusan kata-kata yang kurang canggih.
- Memasukkan seluruh dokumen padahal hanya satu bagian yang relevan.
- Terus melanjutkan percakapan yang sangat panjang alih-alih memulai ulang dengan ringkasan yang bersih.
- Memberikan aturan yang saling bertentangan dalam prompt sistem dan pesan pengguna.
- Mencampur instruksi dan data yang ditempelkan tanpa label atau pemisah yang jelas.
- Menyertakan rahasia, kunci akses, atau data pribadi pelanggan yang tidak dibutuhkan untuk tugas tersebut.
- Tidak pernah memperbarui konteks yang tersimpan, sehingga model bekerja berdasarkan keputusan yang sudah usang.