Perusahaan riset kecerdasan buatan Anthropic mengungkapkan sebuah peringatan penting dalam dokumen pengajuan S-1A revisi mereka. Perusahaan tersebut menyatakan berada di ambang pembuatan model yang mampu melakukan peningkatan mandiri secara rekursif atau *recursive self-improvement* (RSI).
Pandangan Berbeda Mengenai RSI
RSI merupakan titik ketika kecerdasan buatan menjadi sangat mahir dalam melatih dirinya sendiri sehingga memicu percepatan kemampuan yang drastis. Bagi para pihak yang mengkhawatirkan risiko kecerdasan buatan, RSI dipandang sebagai malapetaka tanpa jalan kembali, di mana teknologi tersebut membangun dirinya hingga melampaui kendali manusia.
Sebaliknya, bagi para pendukung teknologi ini, RSI melambangkan potensi besar kecerdasan buatan sebagai alat produktivitas yang luar biasa serta penemuan ilmiah. Anthropic tampaknya memandang RSI sebagai gabungan antara peluang dan bahaya sekaligus.
Pernyataan dalam Dokumen Risiko
Dalam bagian Faktor Risiko di dokumen tersebut, Anthropic menyatakan telah menggunakan kecerdasan buatan untuk mengembangkan model baru yang lonjakan kemampuannya tidak disadari pada saat itu. Perusahaan juga menyampaikan bahwa mereka mungkin akan segera memenuhi definisi internal mereka sendiri mengenai RSI.
Anthropic menambahkan bahwa peningkatan penggunaan sistem kecerdasan buatan untuk mempercepat penelitian dan pengembangan dapat membuat kemampuan model berkembang lebih cepat daripada kemampuan perusahaan dalam menerapkan langkah-langkah keamanan. Akibatnya, perusahaan mungkin gagal mengidentifikasi percepatan signifikan dalam tingkat pengembangan hingga hal itu benar-benar terjadi.
Sebagai contoh, estimasi internal serta ekspektasi terhadap model masa depan menunjukkan bahwa perusahaan dapat segera memenuhi definisi kebijakan penskalaan bertanggung jawab mengenai kemajuan yang dipercepat secara drastis akibat kecerdasan buatan. Meski demikian, Anthropic menegaskan bahwa belum ada model mereka saat ini yang melewati ambang batas tersebut.
Selain itu, Anthropic menyatakan bahwa belum ada model mereka yang melampaui ambang batas RSI dan berjanji untuk tetap melibatkan manusia dalam proses penelitian dan pengembangan di masa mendatang. Perusahaan menyatakan tidak memperkirakan dapat menggunakan Claude secara otonom penuh untuk merancang dan membangun generasi model berikutnya tanpa pengawasan manusia yang bermakna.
Sumber: TechCrunch
