AI, AI, dan AI. Kecerdasan artifisial saat ini dilihat sebagai lentera yang dapat mempermudah semua aspek kehidupan manusia. Pasar seharga USD 279.22 billion ini digadang-gadang sebagai masa depan dari kemanusiaan. Berbagai kalangan institusi pun berpacu untuk turut naik dalam kereta cepat AI. Sam Altman, CEO OpenAI sendiri mengatakan bahwa kita saat ini berada di tahap di mana investor secara keseluruhan terlalu bersemangat tentang AI.
Akan tetapi, apakah benar AI menjadi gerbang masa depan manusia yang gemerlap?
Prihandita dalam novelet sains fiksinya yang berjudul Negative Scholarship on the Fifth State of Being berusaha menceritakan sisi lain dari integrasi AI dalam kehidupan manusia. Novelet pemenang Nebula Award 2024 ini berlatarkan masa depan, di mana manusia telah hidup berdampingan dengan alien di luar angkasa. Semau, tokoh utama dalam novelette yang juga menjadi finalis Eugie Award 2025 ini, adalah seorang manusia dokter-praktisioner pada sebuah koloni kecil dihadapkan oleh dilemma moral dan etika. Ketika mesin AI-nya gagal mendiagnosa seorang pasien, Semau menyaksikan kenyataan AI yang penuh bias dalam masyarakat yang dibayangi kolonialisme.
Bias kolonialisme dalam Sistem Kehidupan Masyarakat
Kehidupan Semau terdistrupsi ketika suatu hari ia menghadapi seorang pasien dari spesies Plyzmorynox dari Planet Matori bernama Txyzna. Txyzna mengeluhkan terdapat “lubang” dalam tubuhnya. Brazs, sistem AI yang wajib digunakan Semau untuk mendiagnosis pasien menjelaskan bahwa spesies Plymorynox sangatlah langka. Hanya terdapat 0.000013% kemungkinan bagi seseorang untuk bertemu dengan spesies Plymorynox yang badannya terdiri dari air dan ombak laut. Langkanya spesies tersebut membuat paket basis data standar yang dimiliki Semau tidak menyimpan informasi mengenai Plymorynox. Untuk mendiagnosis Txyzna, Semau perlu membeli paket informasi tambahan yang harganya hampir dua kali lipat dari anggaran pemerintah yang diterimanya.
Baca juga:
Langkanya spesies Plyzmorynox tersebut terjadi karena spesies yang berasal dari Planet Matori tersebut adalah korban genosida yang dilakukan oleh bangsa Umunua. Saat ini, hanya sedikit sekali spesies Plyzmorynox yang bertahan. Mereka pun hidup saling berpencar di seluruh penjuru antariksa. Sebelumnya, Txyzna tinggal bersama dengan ayahnya. Akan tetapi, Ayah Txyzna meninggal sebelum dapat menjelaskan perubahan pada tubuhnya yang mengakibatkan timbul “lubang” di tubuhnya.
Novellete fiksi ilmiah ini apabila dibaca sekilas hanya membahas mengenai pertemuan antara Semau dan Txyzna di luar angkasa. Akan tetapi, membaca lebih dalam novellete ini akan mengungkapkan bagaimana Prihandita menjelaskan konsep matriks kekuasaan kolonial dalam penggunaan AI melalui penggalan pengalaman Txyzna. Matriks kekuasaan kolonial menjelaskan bahwa segala aspek sistem masyarakat di dunia saat ini berkaitan dengan sejarah kolonialisme. Kekuasaan kolonialisme tersebut mengeksploitasi dan mendominasi ruang ekonomi, otoritas, gender dan seksualitas, serta subjektivitas dan pengetahuan.
Novelet ini secara spesifik membahas mengenai aspek ruang subjektivitas dan pengetahuan, di mana perumusan epistemologi, edukasi, dan konsep diri melanggengkan nilai-nilai kolonialisme. Spesies Plyzmorynox diposisikan sebagai masyarakat adat yang mengalami genosida. Dampak dari genosida tersebut kemudian direproduksi melalui neokolonialisme industri kesehatan berbasis AI.
Hierarki paradigma Eropa sebagai penjajah dalam pengetahuan meletakkan bangsa barat sebagai subjek utama yang rasional. Sedangkan, manusia lainnya diperlakukan sebagai objek pengetahuan dari praktik dominasi. Artinya sumber pengetahuan yang dianggap valid hanyalah dari bangsa Barat. Sedangkan, keberadaan masyarakat jajahan hanya ada untuk dipelajari dan kemudian dieksploitasi.
Pola pikir yang meletakkan bangsa lain sebagai objek pengetahuan memberi otoritas pada bangsa Barat untuk menghancurkan bahasa dan praktik budaya dari bangsa jajahan. Kerajaan Umunua berusaha untuk memahami The Fifth State yang terjadi pada tubuh spesies Plyzmorynox tanpa mendengarkan pengetahuan turun temurun dalam spesies itu sendiri. Ketidakpahaman Kerajaan Umunua tersebut membuat Plyzmorynox menjadi anomali yang tidak dapat dieksploitasi. Pemikiran tersebut menjadi justifikasi genosida yang dilakukan oleh Kerajaan Umunua.
Bias AI pada Minoritas
Seperti dalam kisah Semau dan Tyxzna, epistemologi teknologi dan pengetahuan juga dipengaruhi oleh matriks kekuasaan kolonial. Matriks tersebut merumuskan teknologi oleh masyarakat jajahan sebagai primitif, tradisional, dan tidak rasional. Oleh karena itu, keberadaannya harus digantikan dengan sistem pengetahuan barat ala penjajah. Pada akhirnya, pengetahuan yang berkembang pada kelompok masyarakat jajahan pun hilang.
Pembungkaman narasi bangsa yang dijajah turut terjadi pada masyarakat modern melalui fondasi dasar cara kerja model generatif dalam Artificial Intelligence. Large Language Models (LLMs) seperti ChatGPT mendapatkan data untuk merumuskan keluaran mereka berdasarkan sumber naskah yang mereka pelajari. Sumber naskah tersebut diambil dari berbagai format media. Sayangnya, sumber tersebut terbatas secara geografis, kultural, dan linguistik karena datasets yang tersedia pun bersifat barat-sentris.
Penjelasan kompleks mengenai dominasi kolonial terhadap pengetahuan melalui AI berhasil dinarasikan oleh Prihandita dengan gamblang melalui upaya Semau mencari informasi mengenai apa yang dialami oleh Txyzna. Setelah membeli paket sumber data latihan untuk mendiagnosis spesies Plyzmorynox, Semau menemukan bahwa konten data sangat terbatas. Hanya terdapat informasi mengenai pengukuran badan tiga individu Plyzmorynox, deskripsi iklim dari planet asal Plyzmorynox, 10 halaman cetak biru senjata biologis dari Kerajaan Umunua, dan 20 halaman catatan lapangan dari seorang etnografer. Dengan data latihan tersebut, lebih mudah bagi sistem Brasz untuk merumuskan genosida terhadap spesies Plyzmorynox dibanding mendiagnosis perubahan pada tubuh unik spesies tersebut.
Keluaran dari AI pun masih menyimpan bias-bias prasangka, rasisme, dan seksisme yang ada pada keilmuan barat. Pada akhirnya, alat AI seperti ChatGPT yang dilatih dengan datasets Barat-sentris akan mereplikasi kerangka berpikir kolonial dengan mengutamakan pemikiran barat dibandingkan suara masyarakat yang termarjinalkan.
Seiring dengan terbangunnya komunikasi dengan Txyzna, Semau menyadari bahwa kegagalan AI dalam memahami Plyzmorynox tidak hanya terjadi pada sistem diagnosis. Kegagalan AI juga terjadi pada sistem pengalih bahasa yang selama ini mereka percaya untuk menjembatani percakapan berbeda bahasa. Kesalahan AI dalam menerjemahkan ucapkan Txyzna membuat ia tidak mendapatkan bantuan yang ia perlukan untuk menavigasi perubahan kondisi kelima (fifth state) yang menciptakan “lubang” di tubuhnya.
Narasi kolonial dalam sistem bahasa AI juga muncul dalam upaya Semau dan Txyzna memahami kondisi kelima dalam tubuh Txyzna. Txyzna menceritakan bahwa ia datang pada Semau karena ia membutuhkan seorang dokter untuk membantunya. Akan tetapi, “dokter” yang dimaksud oleh Txyzna tidak sama dengan konsep dokter medis seperti yang didefinisikan oleh INT-Health Inc., the Medical Board of Ethics, maupun the Intergalactic Consortium of Medical Universities. Bagi plyzmorynox, “dokter” adalah tetua spiritual yang membantu plyzmorynox muda dalam proses transisi tubuh mereka ketika mereka tumbuh dewasa. Transformasi pada tubuh seorang plyzmorynox tersebut mengakibatkan timbulnya “lubang” yang harus dideskripsikan oleh individu dengan bantuan tetua spiritual. Setelah genosida terjadi, peran tetua spiritual sebagai pembimbing plyzmorynox muda pun hilang. Txyzna tidak tahu lagi siapa yang dapat membantunya memahami perubahan pada tubuhnya.
Baca juga:
Kepercayan buta kita pada hasil yang diberikan oleh AI membuat kita terkadang luput mengkritisi kinerja mereka. Kita pun menerima hasil kerja AI yang penuh dengan bias dan keterbatasan tersebut tanpa berpikir dua kali. Pada akhirnya, kelompok minoritas rentan seperti masyarakat adat lah yang merasakan dampak dari bias tersebut.
Risiko Penggunaan AI dalam Sistem Pengawasan
Dalam pengembangannya, AI juga digunakan untuk melakukan pengawasan pada masyarakat. Setiap gerak-gerik Semau diawasi oleh sistem AI Brasz yang sebenarnya memiliki fungsi utama mendiagnosis pasien. Data tersebut didapatkan oleh INT-Health, perusahaan yang mengoperasikan Brasz, melalui rekaman percakapan pasien-dokter tanpa Semau mengaktifkan mode rekaman. Di sinilah pengawasan dengan AI menimbulkan ancaman pada masyarakat demokratis. Pengambilan data oleh AI mengaburkan batasan antara ruang privat dan ruang publik dengan cara menggunakan data dari kehidupan privat individu untuk menjadi dasar keputusan yang bersifat publik.
Semau disebut melanggar kewenangannya dalam mendiagnosis pasien tanpa sistem Brasz. Padahal saat itu Semau hanya berbasa-basi menanyakan kondisi Txyzna. Pengawasan yang dilakukan oleh AI memiliki risiko tinggi karena AI menjanjikan prediksi perilaku masa depan. Prediksi tersebut didapatkan melalui pola perilaku yang ditemukan pada banyak orang lainnya. Keputusan mengenai risiko pelanggaran pun dibuat dengan mengategorikan individu ke dalam kelompok data individu-individu menyimpang.
Penggunaan prediksi AI dalam pemolisian tersebut mendorong lingkaran pengawasan dan pengendalian perilaku masyarakat yang dapat dipergunakan untuk penyalahgunaan kekuasaan. Pada akhirnya, kelompok minoritas yang sering mengalami pengendalian dan pemolisian akan memiliki frekuensi risiko prediksi pelanggaran yang lebih tinggi. Mentor lama Semau yang telah meninggal pernah belajar dengan The Negative Scholar, yaitu organisasi perlawanan yang terdiri dari dokter-dokter yang menolak penggunaan Brasz untuk diagnosis. Oleh karena itu, sistem Brasz langsung mengasosiasikan Semau dengan The Negative Scholar dan mengambil langkah-langkah pengendalian.
Sebuah Refleksi
Dalam kondisi perkembangan teknologi saat ini, novelet karya Prihandita menjadi pengingat tentang risiko kemanusiaan yang sering kali terabaikan dalam hiruk pikuk investasi dan pembangunan. AI sebagai alat memang memiliki berbagai kelebihan yang dapat membantu kesejahteraan manusia. Akan tetapi, AI juga dapat menjadi alat bagi kolonialisme dan otoriter untuk mengendalikan masyarakat.
Walaupun genosida pada Plymorynox telah berhenti, Txyzna masih mengalami upaya pembunuhan secara sistematis melalui penerapan AI yang penuh bias dalam institusi kesehatan. Semau sendiri mengalami kriminalisasi oleh korporasi yang berusaha untuk memprivatisasi sistem kesehatan. Upaya pengendalian tersebut juga menunjukkan bagaimana sistem hukum menjadi kaki tangan korporasi dengan penghukuman pada kelompok perlawanan The Negative Scholarship.
Pada akhir kisah, Semau memutuskan untuk membantu Txyzna dengan empati. Berdampingan mereka menavigasi apa makna dari keadaan kelima yang dialami oleh Txyzna. Txyzna pun mempercayai Semau untuk hadir menyaksikan perubahan yang ia alami menuju The Fifth State dan memahami jiwa Txyzna. Kebersamaan itu memberi mereka pemahaman mengenai Plyzmorynox, lebih dari apa yang bisa diberikan oleh AI. Mereka melawan ketergantungan pada AI dan segala bias yang mengikuti.
Mungkin itu yang perlu kita pahami sebelum kita semakin membiarkan AI masuk dalam berbagai aspek kehidupan masyarakat. AI hanya memiliki kemampuan untuk memahami pola dari data-data yang mereka pelajari. Mereka tidak memiliki kemampuan untuk merasakan empati dan keberpihakan pada kelompok minoritas yang rentan.
AI sebagai sistem pun dapat digunakan sebagai alat oleh pihak manapun yang memiliki kekuasaan atas sistem tersebut. Akan tetapi sebagai mesin, AI tidak dapat dimintai akuntabilitas atas tindakan yang diambil. Oleh karena itu, kita tidak dapat membiarkan AI memegang kendali dalam kerja-kerja yang memerlukan nilai kemanusiaan dan keadilan. (*)
Editor: Kukuh Basuki
