Kecerdasan buatan (AI) kini banyak digunakan untuk menangani sebagian besar respons insiden sistem. Namun, muncul pertanyaan apakah otomatisasi ini justru membuat para pengelola keandalan situs atau *site reliability engineers* (SRE) menjadi kurang terampil dalam menangani masalah krusial yang tersisa.
Ironisnya Otomatisasi dan Risiko Deskilling
Fenomena ini merujuk pada makalah penelitian tahun 1983 oleh psikolog kognitif Lisanne Bainbridge berjudul Ironies of Automation, seperti ditulis dalam buletin Hacker News: Front Page oleh SigNoz. Bainbridge menemukan bahwa semakin banyak proses yang diotomatisasi, operator manusia justru semakin memegang peran krusial saat sistem gagal, tetapi mereka mendapat lebih sedikit latihan sehingga kemampuan intervensinya menurun.
Paralel serupa terjadi antara revolusi AI dan otomatisasi industri. AI mengambil alih tugas-tugas kognitif rutin seperti pencocokan pola, triase, dan resolusi masalah yang diketahui, sementara manusia diserahkan masalah rumit dan jarang terjadi yang menuntut keahlian mendalam. Masalahnya, keahlian tersebut akan mengalami atrofi atau penurunan apabila tidak dilatih secara berkala.
Penelitian di bidang lain menunjukkan tren serupa. Dokter endoskopi yang memakai bantuan AI untuk mendeteksi polip mengalami penurunan tingkat deteksi mandiri dari 28 persen menjadi 22 persen setelah memakainya dalam jangka waktu tertentu. Demikian pula pilot jarak jauh yang terlalu mengandalkan autopilot mengalami penurunan kesadaran situasional dan kemampuan terbang manual, sehingga otoritas penerbangan federal di Amerika Serikat mewajibkan jam terbang manual.
Bagi SRE, penurunan kemampuan atau *deskilling* ini tampak ketika mereka berhenti membaca log mentah karena diringkas oleh AI, berhenti membentuk hipotesis, dan berhenti membangun model mental arsitektur sistem. Situasi ini diperparah dengan fenomena *never-skilling*, di mana SRE junior yang masuk saat AI sudah mendominasi tidak pernah memiliki kesempatan membangun intuisi dasar sejak awal.
Solusi dan Langkah ke Depan
Untuk mengatasi masalah tersebut, tim SRE dapat menerapkan inefisiensi yang disengaja, seperti menunjuk insiden tertentu sebagai kesempatan latihan manual meskipun AI sanggup menyelesaikannya. Selain itu, penting untuk merancang sistem yang menempatkan manusia sebagai pihak yang terlibat aktif bersama AI, bukan sekadar pengawas pasif yang memicu penurunan kewaspadaan.
Pendekatan ini turut diterapkan dalam pengembangan platform observabilitas sumber terbuka SigNoz, di mana asisten AI dirancang untuk membantu SRE dengan tetap mempertahankan manusia dalam kendali penuh. AI tidak diposisikan untuk menggantikan SRE, melainkan memperkuat kapasitas mereka dalam mengambil keputusan penting yang berdampak pada infrastruktur produksi.
Sumber: Hacker News: Front Page
