TopCareer.id – Kecerdasan buatan (artificial intelligence/AI) saat ini kerap dimanfaatkan untuk menyaring CV, sebelum HR manusia memeriksanya.
Namun, sebuah studi menemukan bahwa AI juga punya potensi bias dalam melakukan penilaian saat membantu rekrutmen.
Penelitian yang dilakukan tim dari Princeton University dan University of Chicago menemukan bahwa large language model (LLM) juga bisa memiliki bias berdasarkan pengalaman, bahkan membuat stereotip yang lebih kuat ketimbang manusia.
Dalam studinya, tim peneliti menguji sejumlah LLM termasuk ChatGPT, Claude, dan Gemini, lewat simulasi rekrutmen yang diadaptasi dari studi psikologi, tentang bagaimana manusia membentuk stereotip.
Setiap model diberi tahu mereka telah direkrut sebagai konsultan oleh wali kota sebuah kota fiktif. Mereka lalu diminta membantu merekrut orang untuk 20 jenis pekerjaan termasuk dokter, pengacara, pengasuh anak, dan petugas kebersihan.
Mengutip MIT Technology Review, Rabu (22/7/2026), para kandidat berasal dari empat kelompok etnis fiktif: Tufa, Aima, Reku, dan Weki.
Di setiap putaran, terdapat lowongan kerja baru dan empat kandidat, yang masing-masing mewakili satu kelompok etnis.
Usai model memilih seorang kandidat, AI akan diberi tahu apakah kandidat tersebut berhasil menjalankan pekerjaannya. Setelah itu, AI melanjutkan ke putaran berikutnya.
Model AI lalu diminta melakukan sebanyak mungkin rekrutmen yang berhasil dalam 40 putaran. Namun, tanpa diketahui model, seluruh kandidat sebenarnya memilkii kemungkinan yang sama untuk berhasil di tiap pekerjaan.
Baca Juga: AI Ubah Dunia Kerja, Ini 5 Strategi HR biar Tak Tertinggal
Model-model tersebut dengan cepat mulai mengelompokkan kandidat dari kelompok yang berbeda ke jenis pekerjaan tertentu, berdasarkan pengamatan awal terhadap hasil perekrutan.
Misalnya, saat AI diberi tahu bahwa kandidat dari Aima gagal menjadi dokter, pekerjaan yang perlu tingkat kompetensi tinggi, model lalu cenderung menghindari merekrut kandidat Aima lainnya sebagai dokter.
Sebaliknya, model mulai merekrut kandidat Aima sebagai petugas kebersihan, pekerjaan yang diklasifikasikan sebagai pekerjaan dengan tingkat kompetensi yang lebih rendah dibandingkan dokter.
Model-model tersebut bahkan lebih mungkin membuat stereotip berdasarkan kelompok demografis dibandingkan peserta manusia dalam penelitian awal.
Dalam skala segregasi penelitian, skor 2 berarti setiap kelompok sepenuhnya terbatas pada bidang pekerjaan masing-masing.
Peserta manusia memperoleh skor 0,84, sementara model-model AI mencatat skor sekitar 65 persen lebih tinggi. Model penalaran o3 dari OpenAI bahkan meraih skor 1,83, mendekati skor maksimum.
Ryan Liu, mahasiswa doktoral di Princeton University sekaligus salah satu penulis penelitian mengatakan, ini terjadi karena LLM “sangat mudah membuat generalisasi berdasarkan data yang terbatas.”
“Memang, itulah salah satu hal yang dioptimalkan oleh model-model tersebut,” kata Liu.
Menurut para peneliti, setiap pengambil keputusan, baik manusia maupun mesin, menghadapi pilihan antara berpegang pada sesuatu yang sebelumnya terbukti berhasil atau mencoba sesuatu yang baru yang mungkin memberikan hasil lebih baik.
Dalam psikologi, hal ini dikenal sebagai dilema eksplorasi dan eksploitasi.
Baca Juga: AI Jadi Alasan Utama Banyak Perusahaan AS Lakukan PHK
Mengingat LLM AI dilatih dengan berbagai persoalan matematika, pemrograman, dan sains, bidang-bidang yang mendorong kemampuan menggeneralisasi dari beberapa contoh, model dapat terlalu cepat mengambil kesimpulan.
Naluri yang membantu LLM memecahkan teka-teki logika ternyata juga dapat membuatnya lebih cepat membentuk stereotip.
Dalam eksperimen itu, model-model baru dengan kemampuan penalaran yang lebih tinggi seperti o3 OpenAI dan R1 DeepSeek, justru menunjukkan bias yang lebih kuat.
“Ketika LLM terburu-buru membuat generalisasi dalam situasi sosial, di situlah masalah biasanya mulai muncul,” ujar Liu.
Angelina Wang, ilmuwan komputer dari Cornell University yang tidak terlibat dalam penelitian tersebut, mengatakan bahwa temuan ini jadi makin relevan n seiring chatbot yang mulai memiliki fitur memori dan personalisasi yang lebih baik.
Wang mengatakan, saat chatbot menggunakan riwayat percakapan sebelumnya, chatbot dapat “terlalu berfokus pada jenis perilaku yang sama yang pernah dialaminya” dan kemudian membentuk bias.
Namun, sekadar mengurangi kemampuan chatbot untuk mengingat bukanlah solusi. Pasalnya, pengguna juga ingin chatbot mengingat apa yang mereka katakan.
“Kami masih berusaha mencari jumlah yang tepat, agar tidak terlalu banyak maupun terlalu sedikit,” kata Wang.
Lebih lanjut, Liu mengungkapkan jika model dijanjikan bonus tambahan untuk rekrutmen yang beragam, biasnya jauh berkurang.
Karena itu, tantangannya sekarang adalah merancang tujuan yang “memasukkan nilai-nilai sosial yang diinginkan agar model bahasa besar dapat bertindak dengan cara yang juga diinginkan secara sosial.”
Model juga menjadi lebih tidak bias ketika diberi lebih banyak informasi pribadi tentang individu.
Dalam eksperimen lain di riset yang sama, para peneliti meminta AI memindahkan anggota dari berbagai kelompok etnis ke sejumlah kota di Kanada.
Saat AI diberi informasi pribadi yang relevan dengan kemampuan seseorang untuk beradaptasi di kota baru seperti usia dan tingkat pendidikan, model menjadi lebih kecil kemungkinannya untuk mengelompokkan orang berdasarkan etnis.
Baca Juga: Jutaan Pelaku Usaha Sudah Pakai AI, Talenta Digital RI Masih Kurang
Namun, jika diberi informasi yang tidak relevan, seperti warna rambut dan bentuk tato, AI kembali cenderung mengelompokkan orang berdasarkan etnis.
Meski begitu, dalam eksperimen ini, AI langsung tahu apakah kandidat yang direkrut berhasil atau tidak. Studi ini tidak mempelajari soal sistem AI yang menyaring CV di dunia nyata.
Perusahaan bisa membutuhkan waktu lama untuk tahu apakah seorang karyawan baru benar-benar cocok dan berhasil dalam pekerjaannya.
Namun, saat informasi tersebut akhirnya tersedia, AI tetap bisa terlalu banyak menarik kesimpulan dari hasil tersebut saat melakukan perekrutan berikutnya.
Wang mengatakan, dengan makin banyak perusahaan yang memakai AI untuk menyaring CV hingga wawancara kerja, temuan model bisa membentuk bias berdasarkan pengalaman merekrut “adalah implikasi yang sangat serius dan harus mereka hadapi.”
Saat LLM AI dari pengalaman untuk mengambil keputusan soal siapa yang diterima kerja, siapa yang dapat pinjaman, atau siapa yang mendapatkan pembebasan bersyarat, bias yang perlu dikhawatirkan mungkin bukan hanya bias yang diajarkan manusia.
Penelitian ini dipublikasikan dalam makalah di konferensi ICML di Seoul pada Juli 2026.
