Prompt sistem pada aplikasi AI iOS tidak dapat dijadikan tempat menyimpan kredensial atau aturan akses yang harus dirahasiakan. Instruksi tersebut dapat terungkap lewat reverse engineering, log, respons model, atau manipulasi input. Instruksi tersembunyi juga tidak mencegah pengguna memanggil endpoint secara langsung.

Amankan desainnya dengan menaruh secret dan keputusan otorisasi di backend. Validasi setiap permintaan, batasi penggunaan endpoint, dan hindari mencatat prompt atau data sensitif. Referensi iOS 27 system prompts dapat dibaca sebagai konteks tentang prompt sistem yang dihimpun dan diamati, bukan sebagai bukti bahwa prompt merupakan batas keamanan.

Batas keamanan prompt sistem

Prompt sistem membantu mengarahkan perilaku model, tetapi bukan mekanisme kerahasiaan atau otorisasi. Instruksi seperti “jangan tampilkan API key” tidak menjamin key tetap aman jika key itu sudah disertakan dalam prompt atau konteks yang dikirim ke model.

  • Jangan masukkan secret ke aplikasi atau prompt. Hindari API key penyedia AI, kredensial basis data, token layanan, dan data pribadi yang tidak diperlukan. Nilai di binary iOS dapat diekstrak; obfuscation hanya menambah hambatan, bukan perlindungan.
  • Jangan mengandalkan instruksi tersembunyi sebagai kontrol akses. Pengguna dapat mengubah input, mengulang permintaan, atau memanggil API tanpa menggunakan antarmuka aplikasi.
  • Anggap keluaran model sebagai data tak tepercaya. Model dapat salah mengikuti instruksi, membocorkan konteks yang tersedia, atau menghasilkan konten yang tidak sesuai.

Prompt tetap berguna untuk menetapkan peran, format jawaban, dan batas perilaku yang diinginkan. Namun, aturan yang berdampak pada data atau tindakan harus ditegakkan oleh kode server dan sistem otorisasi.

Alur ancaman dan desain yang lebih aman

Alur ancaman

  1. Penyerang menginspeksi aplikasi, lalu menemukan prompt, endpoint, atau kredensial yang tertanam di klien.
  2. Penyerang mengirim permintaan langsung ke endpoint, memakai input manipulatif, atau mengulang permintaan untuk menghabiskan kuota.
  3. Jika server mempercayai permintaan klien, model dapat menerima data yang tidak semestinya atau menjalankan tindakan tanpa otorisasi.
  4. Prompt, data pengguna, atau token yang tersimpan dalam log memperluas dampak insiden.

Arsitektur yang disarankan

Aplikasi iOS mengirim permintaan yang diperlukan ke backend milik layanan. Backend mengautentikasi pengguna, memeriksa hak akses, memvalidasi input, menerapkan kuota, lalu menghubungi penyedia AI menggunakan secret yang disimpan di sisi server. Backend hanya mengembalikan hasil yang boleh diterima klien.

Simpan kredensial penyedia AI di pengelola secret atau konfigurasi server yang terlindungi, bukan di kode sumber, berkas konfigurasi aplikasi, atau prompt. Batasi hak dan cakupan kredensial bila penyedia mendukungnya, rotasi saat terpapar, dan jangan mengirimkannya ke klien. Keychain iOS sesuai untuk data lokal pengguna, tetapi bukan tempat menyimpan secret bersama yang harus tetap tersembunyi dari pemilik perangkat.

Mitigasi yang dapat diterapkan

Validasi input dan otorisasi di server

Tetapkan skema permintaan, ukuran maksimum, dan jenis konten yang diterima. Tolak input yang tidak valid sebelum memanggil model. Jangan menganggap instruksi di aplikasi sebagai validasi; klien dapat dimodifikasi.

Periksa identitas dan izin pada setiap operasi yang mengakses data atau melakukan tindakan. Tentukan akses berdasarkan pengguna dan sumber daya di server, bukan berdasarkan klaim dalam prompt atau parameter dari klien. Jika model menghasilkan usulan tindakan, server tetap harus memvalidasi dan mengotorisasi tindakan itu sebelum mengeksekusinya.

Pembatasan laju dan penyalahgunaan endpoint

  • Terapkan kuota dan pembatasan laju di backend, setidaknya berdasarkan akun atau identitas yang terautentikasi. Tambahkan dimensi lain, seperti alamat jaringan, sesuai risiko dan kebijakan privasi.
  • Tetapkan batas ukuran input dan batas penggunaan yang sesuai dengan biaya layanan.
  • Gunakan respons gagal yang aman dan konsisten. Jangan mengungkap kredensial, detail internal, atau informasi akun melalui pesan kesalahan.
  • Pantau pola anomali dan siapkan cara untuk menonaktifkan atau membatasi fitur saat terjadi abuse.

Token aplikasi yang ditanamkan di klien bukan secret yang dapat mengautentikasi aplikasi secara kuat; token itu dapat disalin. Gunakan autentikasi pengguna dan pemeriksaan server. Attestation dapat membantu menilai integritas klien, tetapi tidak menggantikan otorisasi maupun pembatasan laju.

Logging tanpa data sensitif

Catat metadata operasional yang diperlukan, seperti waktu, ID permintaan, hasil validasi, kategori kesalahan, dan pemakaian kuota. Hindari mencatat prompt lengkap, respons lengkap, token akses, secret, serta data pribadi kecuali ada kebutuhan yang jelas dan perlindungan yang sesuai.

Jika konten perlu dicatat untuk debugging, lakukan dengan persetujuan dan kebijakan retensi yang ditetapkan, minimalkan atau redaksi data sensitif, batasi akses, dan cegah log masuk ke sistem yang tidak memiliki kontrol setara. Pastikan pesan kesalahan dan alat analitik di klien juga tidak membocorkan konten.

Daftar verifikasi sebelum rilis

  • Prompt sistem tidak berisi API key, kredensial, token, atau data rahasia.
  • Aplikasi iOS tidak memanggil penyedia AI dengan secret bersama yang ditanamkan di binary.
  • Backend mengautentikasi pengguna dan mengotorisasi setiap permintaan yang mengakses data atau menjalankan tindakan.
  • Input, ukuran permintaan, serta jenis konten divalidasi di server.
  • Endpoint memiliki pembatasan laju, kuota, dan penanganan abuse yang dapat dipantau.
  • Output model tidak langsung dianggap sebagai izin untuk menjalankan tindakan sensitif.
  • Log tidak menyimpan prompt, respons, token, atau data pribadi secara tidak perlu; retensi dan akses log telah ditinjau.
  • Tim sudah menguji permintaan langsung ke endpoint, input manipulatif, akses lintas akun, dan permintaan berulang.

Uji batas keamanan dari sisi server, bukan hanya melalui UI aplikasi. Perubahan prompt dapat mengurangi keluaran yang tidak diinginkan, tetapi pencegahan kebocoran secret dan abuse harus tetap bergantung pada desain backend, validasi, dan otorisasi.