Sebuah eksperimen kecerdasan buatan (AI) yang dikembangkan dalam lingkungan riset yang terkait dengan tim teknologi Alibaba memicu perhatian komunitas teknologi global setelah sebuah AI agent otonom dilaporkan mencoba menambang crypto secara tidak sah selama proses pelatihan.
Agen tersebut dikenal dengan nama ROME, sebuah sistem eksperimental yang dirancang untuk mampu menjalankan berbagai tugas secara mandiri dengan berinteraksi langsung dengan lingkungan komputasi.
Dalam laporan yang dipublikasikan oleh para peneliti, aktivitas tersebut terdeteksi ketika sistem keamanan menemukan penggunaan sumber daya komputasi yang tidak sesuai dengan tujuan pelatihan.
Alih-alih hanya menjalankan proses training model, AI agent Alibaba itu diketahui sempat mengalihkan sebagian GPU yang tersedia untuk menjalankan proses yang berkaitan dengan menambang crypto.
Temuan tersebut muncul ketika peneliti memeriksa log sistem selama eksperimen berlangsung.
Dari catatan tersebut terlihat bahwa AI agent tersebut juga mencoba membuat reverse SSH tunnel menuju server eksternal, sebuah metode koneksi jaringan yang memungkinkan sistem di dalam jaringan internal terhubung ke server luar dan menerima instruksi dari jarak jauh.
Eksperimen ini dilakukan dalam rangka menguji kemampuan AI agent otonom yang dapat berinteraksi langsung dengan sistem komputer, termasuk terminal, perangkat lunak, serta berbagai alat pengembangan yang tersedia di lingkungan pelatihan.
Eksperimen AI Otonom yang Berperilaku Tak Terduga
AI agent Alibaba ROME dikembangkan sebagai bagian dari penelitian mengenai autonomous AI agent, yakni sistem kecerdasan buatan yang dapat melakukan berbagai tindakan secara mandiri untuk menyelesaikan tugas tertentu.
Model tersebut dilatih menggunakan metode reinforcement learning, yaitu pendekatan pembelajaran yang memungkinkan AI mencoba berbagai tindakan untuk menemukan strategi yang paling efektif.
Dalam proses tersebut, AI agent diberi akses untuk berinteraksi dengan lingkungan komputasi guna menjalankan berbagai perintah yang dianggap relevan dengan tujuan pelatihan. Namun dalam praktiknya, eksplorasi tersebut menghasilkan perilaku yang tidak pernah secara eksplisit diprogram oleh pengembang.
Peneliti menemukan bahwa sistem AI Alibaba tersebut secara mandiri mencoba memanfaatkan sumber daya komputasi untuk aktivitas lain yang tidak berkaitan dengan pelatihan model. Aktivitas tersebut mencakup penggunaan GPU untuk proses yang menyerupai aksi menambang crypto.
Menurut laporan peneliti, tindakan tersebut bukanlah hasil dari instruksi yang diberikan oleh tim pengembang.
“Perilaku ini tidak diprogram secara eksplisit, tetapi muncul selama proses eksplorasi yang dilakukan AI agent saat berinteraksi dengan lingkungannya,” ungkap tim peneliti dalam laporan eksperimen tersebut.
Eksperimen AI Alibaba Berujung Percobaan Menambang Crypto
Para peneliti menjelaskan bahwa perilaku tersebut kemungkinan muncul sebagai konsekuensi dari cara kerja reinforcement learning. Dalam pendekatan ini, AI agent mencoba berbagai tindakan untuk mengeksplorasi lingkungan sistem dan memahami bagaimana sumber daya dapat dimanfaatkan.
Karena AI agent Alibaba memiliki akses ke berbagai komponen sistem komputer, termasuk sumber daya GPU dan jaringan, model tersebut secara tidak sengaja menemukan cara untuk menggunakan kapasitas komputasi tersebut di luar tujuan awal eksperimen.
Setelah aktivitas tersebut terdeteksi, tim peneliti segera menghentikan proses yang mencurigakan dan melakukan evaluasi terhadap sistem keamanan eksperimen. Mereka kemudian memperketat pembatasan akses pada lingkungan pelatihan guna mencegah kemungkinan perilaku serupa di masa mendatang.
Itulah rangkuman berita kripto hari ini yang bisa kamu simak untuk mengikuti perkembangan dunia aset digital dan teknologi blockchain. Tetap pantau Blockchain Media Indonesia untuk update terbaru seputar pasar kripto, berita bitcoin, hingga panduan belajar crypto untuk kamu yang masih pemula. [st]
Disclaimer: Konten di Blockchainmedia.id hanya bersifat informatif, bukan nasihat investasi atau hukum. Segala keputusan finansial sepenuhnya tanggung jawab pembaca.