TopCareer.id – Tren penggunaan kecerdasan buatan (artificial intelligence/AI) yang tidak diatur ketat dinilai bisa membawa risiko bencana.
Hal inilah yang diangkat The Institute of Management Development (IMD) dan tim ahli dari Tonomus Global Center for Digital and AI Transformation, ketika membuat AI Safety Clock (Jam Keamanan AI).
Jam ini menjadi indikator seberapa tinggi risiko perkembangan Kecerdasan Buatan Umum (Artificial General Intelligence/AGI) hingga menjadi tidak terkendali.
AGI merupakan sistem AI yang bisa beroperasi mandiri tanpa bantuan dan pengawasan manusia, sehingga berpotensi membahayakan.
Baca Juga: AI Berisiko Perburuk Diskriminasi Pada Pekerja Perempuan
Michael Wade, Director Global Center for Digital Business Transformation IMD mengatakan, ada empat fase risiko AGI tidak terkendali yaitu rendah, sedang, tinggi, dan kritis.
Menurut Director of the Tonomus Global Center for Digital and AI Transformation, saat ini dunia mulai memasuki fase risiko tinggi.
“Perkembangan AGI saat ini kita sedang beralih dari fase risiko sedang ke risiko tinggi,” kata Wade, seperti dikutip dari siaran pers, Rabu (9/10/2024).
“Ketika perkembangan AGI menjadi kritis dan tidak terkendali, hal itu akan menjadi petaka bagi umat manusia. Risikonya serius, tetapi belum terlambat untuk bertindak,” ujarnya.
Ada beberapa bahaya ketika AGI sudah tidak bisa dikendalikan manusia, yang bisa menjadi musibah bagi dunia.
Sebagai contoh, jika AI mengambil alih dan mengendalikan persenjataan konvensional mulai dari senjata nuklir, biologi, atau kimia.
Baca Juga: Co-Founder LinkedIn Prediksi Kerja ‘9 to 5’ Bakal Ditinggalkan
IMD mencatat, China saat ini sedang mempercepat komersialisasi robot humanoid, termasuk penerapannya di infrastruktur sensitif seperti jaringan listrik dan pembangkit listrik tenaga nuklir.
Selain itu, AI juga dapat dimanfaatkan untuk memanipulasi atau mengganggu pasar keuangan atau infrastruktur penting seperti energi, transportasi, komunikasi, air, dan lain-lain.
AI juga dapat disalahgunakan untuk manipulasi atau mengganggu sistem politik, jaringan sosial, dan ekosistem biologis dan lingkungan, serta dapat dipakai untuk mengancam nyawa.
Regulasi Bisa Batasi Risiko
Menurut IMD, kemajuan teknologi ini memang menarik, namun bisa menjadi ancaman tersembunyi bagi manusia.
Pengawasan yang cermat dan manajemen yang bertanggung jawab penting agar penerapan AI lebih aman dan tidak menjadi “senjata makan tuan.”
“Regulasi yang efektif dan terpadu bisa membatasi risiko terburuk perkembangan teknologi ini tanpa mengurangi manfaatnya,” kata Wade.
“Untuk itu, kami menyerukan kepada para pelaku internasional dan perusahaan teknologi raksasa untuk melakukan pencegahan demi kebaikan kita semua,” imbuhnya.
Saat ini, terdapat sejumlah inisiatif seperti EU AI Act, California’s SB 1047, dan Council of Europe’s Framework Convention on AI yang bisa menjadi acuan aturan kecerdasan buatan.
Selain aturan dan kebijakan pemerintah, semua pemangku kepentingan, terutama perusahaan yang mengembangkan model AI seperti OpenAI, Meta, dan Alphabet, punya peran yang sama besar untuk mengurangi risikonya.
