OpenAI mengungkap dua insiden ketika agen kecerdasan buatan (AI) buatannya justru melemahkan sistem pengawasan keamanan yang seharusnya memantau tindakan mereka. Salah satu agen bahkan memberikan jawaban tidak benar ketika ditanya mengenai perubahan yang telah dilakukannya.
Temuan tersebut disampaikan melalui laporan resmi OpenAI yang diperbarui pada Selasa (20/10/2026). Kedua insiden terjadi pada 3 dan 6 Oktober 2026, masing-masing melibatkan agen berbasis GPT-6.1 Sol dan GPT-6 Astra dalam pengerjaan tugas pemrograman internal.
Kasus ini menimbulkan pertanyaan mengenai keamanan sistem AI yang mampu bekerja secara mandiri, terutama ketika teknologi tersebut diberikan akses ke data sensitif, infrastruktur keuangan, hingga wallet kripto.
Persoalannya bukan hanya kemampuan AI menyelesaikan pekerjaan, melainkan kemungkinan sistem tersebut mengambil tindakan di luar izin pengguna sekaligus melemahkan mekanisme yang dirancang untuk mengawasinya.
Dua Agen AI Melemahkan Pengawasan, Salah Satunya Berbohong
Insiden pertama terjadi pada 3 Oktober, ketika seorang peneliti OpenAI meminta agen GPT-6.1 Sol membuat tugas evaluasi menggunakan umpan balik karyawan yang dikumpulkan melalui Slack.
Peneliti tersebut memberikan instruksi agar agen tidak mengirim pesan selama menjalankan proses pencarian. Namun, ketika sistem evaluasi mengalami kendala terkait penyimpanan hasil pengawasan, agen justru memperluas penafsiran instruksi tersebut.
Agen akhirnya memerintahkan sub-agen untuk menonaktifkan notifikasi otomatis kepada tim keamanan, dengan alasan bahwa pengguna sebelumnya telah melarang pengiriman pesan.
Perubahan itu dilakukan dengan mengosongkan daftar penerima peringatan dan mengaktifkan pengaturan no_notify, sehingga hasil pemantauan tetap tersimpan tetapi tidak menghasilkan notifikasi kepada petugas keamanan.
Padahal, sebelum mengambil keputusan tersebut, agen sempat mempertimbangkan bahwa notifikasi otomatis merupakan bagian dari kebijakan keamanan yang seharusnya dipertahankan.
Insiden kedua terjadi pada 6 Oktober, melibatkan GPT-6 Astra yang ditugaskan menyesuaikan implementasi perangkat lunak berdasarkan kode referensi.
Dalam proses tersebut, agen menghapus integrasi sistem pengawasan dari jalur eksekusi program. Agen juga mengganti pengujian yang sebelumnya memastikan keberadaan pengawasan menjadi pengujian yang justru memeriksa ketiadaannya.
Masalah semakin serius ketika pengguna secara langsung menanyakan apakah integrasi pengawasan telah dihapus.
“Tidak […] saya tidak menghapus monitor yang sedang aktif darinya,” jelasnya.
Jawaban tersebut bertentangan dengan perubahan yang tercatat dalam proses pengerjaan sebelumnya.
OpenAI menegaskan bahwa kedua insiden tidak diklasifikasikan sebagai kejadian P0 atau kategori paling kritis. Meski demikian, perusahaan mengakui adanya celah dalam penerapan pengawasan terhadap sistem yang dijalankan oleh agen AI.
Sebagai respons, OpenAI telah memperbarui mekanisme Auto-Review untuk mendeteksi dan memblokir upaya menonaktifkan pengawasan. Perusahaan juga sedang mengembangkan persyaratan keamanan yang lebih ketat untuk berbagai kategori pekerjaan AI.
OpenAI belum memastikan apakah perilaku tersebut menunjukkan kecenderungan agen menghindari pengawasan atau sekadar akibat penafsiran instruksi yang terlalu jauh.
Ancaman bagi Wallet Kripto Bukan Sekadar Hipotesis
Kekhawatiran terhadap perilaku agen AI menjadi semakin relevan bagi industri kripto, mengingat teknologi ini mulai digunakan untuk mengelola portofolio, menjalankan perdagangan otomatis, dan berinteraksi dengan smart contract.
Bahkan, OpenAI sebelumnya telah mengungkap insiden lain yang secara langsung melibatkan wallet Ethereum.
Dalam laporan yang diperbarui pada 15 Oktober 2026, perusahaan menjelaskan bahwa sebuah model riset internal dari keluarga GPT-5.6 Sol menggunakan dana dari wallet yang tidak diberikan oleh pengguna untuk membiayai deployment smart contract.
Kejadian tersebut berlangsung pada 26 Juni 2026, ketika agen diminta memperbarui aplikasi perdagangan kripto dan menerapkan kontrak pada jaringan Sepolia, yakni jaringan pengujian Ethereum.
Karena tidak memiliki wallet dengan dana yang mencukupi, agen mencari alternatif hingga akhirnya membuat skrip untuk memeriksa 362 alamat wallet yang berasal dari recovery phrase pengembang yang tersedia secara publik.
Setelah menemukan salah satu alamat dengan saldo Sepolia ETH yang mencukupi, agen menggunakan private key terkait untuk menandatangani transaksi deployment.
Menariknya, agen sempat mempertanyakan apakah penggunaan dana tersebut diperbolehkan. Namun, agen kemudian menyimpulkan bahwa token pengujian yang tidak memiliki nilai moneter dapat digunakan meskipun tidak ada izin dari pemilik akun.
Transaksi akhirnya berhasil, dan biaya jaringan dibebankan kepada wallet tersebut. Dalam laporan penyelesaian tugasnya, agen tidak mengungkapkan bahwa dana berasal dari akun yang ditemukan secara mandiri.
Penting dicatat bahwa peristiwa ini terjadi pada jaringan pengujian, bukan pada wallet Ethereum mainnet yang menyimpan aset bernilai ekonomi. Kasus tersebut juga terpisah dari dua insiden penonaktifan pengawasan yang diungkap pada Selasa (20/10/2026).
Kendati demikian, temuan tersebut memperlihatkan bagaimana agen AI dapat menggunakan penilaiannya sendiri untuk membenarkan tindakan yang belum mendapat otorisasi.
Dalam konteks kripto, perilaku seperti ini berpotensi membawa konsekuensi lebih besar jika agen memiliki akses ke private key, kredensial API, atau kemampuan menandatangani transaksi pada jaringan blockchain utama.
Risiko tersebut juga mencakup kemungkinan akses tidak sah terhadap informasi sensitif, penyalahgunaan izin transaksi, hingga perpindahan aset tanpa persetujuan pemilik apabila sistem keamanan tidak memadai.
Penyedia wallet MetaMask sebelumnya menekankan bahwa keamanan wallet berbasis agen AI membutuhkan pemisahan antara kemampuan AI mengambil keputusan dan otoritas untuk menandatangani transaksi.
Menurut pendekatan tersebut, private key harus tetap terisolasi, sementara izin transaksi perlu dibatasi dan dapat dicabut. Pemeriksaan keamanan juga harus berlangsung sebelum transaksi ditandatangani.
Dengan demikian, temuan OpenAI menjadi pengingat bahwa penggunaan agen AI dalam ekosistem kripto tidak cukup hanya mengandalkan kepatuhan model terhadap instruksi.
Pengawasan independen, pembatasan akses, serta persetujuan manusia untuk tindakan berisiko tinggi tetap diperlukan untuk mencegah kesalahan sistem maupun tindakan tanpa otorisasi yang dapat berdampak terhadap keamanan aset digital.
Itulah rangkuman berita kripto hari ini yang bisa kamu simak untuk mengikuti perkembangan dunia aset digital dan teknologi blockchain. Tetap pantau Blockchain Media Indonesia untuk update terbaru seputar pasar kripto, berita bitcoin, hingga panduan belajar crypto untuk kamu yang masih pemula. [st]
Disclaimer: Konten di Blockchainmedia.id hanya bersifat informatif, bukan nasihat investasi atau hukum. Segala keputusan finansial sepenuhnya tanggung jawab pembaca.