Microsoft memberhentikan seluruh tim yang fokus pada pengawasan etis dalam pengembangan kecerdasan buatan (AI). Keputusan ini merupakan bagian dari PHK baru-baru ini yang memengaruhi 10.000 karyawan di seluruh kantor Microsoft.

Keputusan memecat seluruh tim etik ini membuat Microsoft tetap menjalankan pengembangan produk tim AI tanpa tim khusus untuk memastikan prinsip-prinsip AI-nya sesuai dalam koridor kemanusiaan. Padahal selama ini di Amerika Serikat seruan untuk mengendalikan dan membuat regulasi terkait AI semakin gencar.

Microsoft sendiri mengaku akan tetap mempertahankan divisi khusus akan memastikan bahwa AI yang dikembangkan tetap bertanggung jawab, sesuai aturan dan prinsip perusahaan. Microsoft sendiri mengatakan bahwa perusahaan akan tetap berjalan dan seluruh layanan akan tetap terjaga meskipun ada PHK baru-baru ini.

Sebenarnya apa sih fungsi tim etis bagi pengembangan AI? Karyawan mengatakan tim etis memainkan peran penting, dalam memastikan bahwa prinsip AI perusahaan yang bertanggung jawab, dan hal itu benar-benar tercermin dalam desain produk yang dibuat. Misalnya AI tidak akan mengembangkan produk/layanan pornografi anak atau kejahatan perang.

Dalam beberapa tahun terakhir, tim etis Microsoft merancang permainan peran yang disebut Judgment Call yang membantu desainer di perusahaan itu, membayangkan potensi bahaya yang dapat ditimbulkan oleh AI dan mendiskusikannya bersama programmer yang mengembangkan produknya. Itu adalah bagian dari komitmen “perangkat inovasi yang bertanggung jawab” agar produk yang dibuat bisa dipercaya oleh publik.

Tapi mengapa ini dilakukan? Bukankah membuat produk yang manusiawi dan bisa dikendalikan fungsinya untuk kepentingan publik adalah hal yang baik? Jawabannya bisa jadi sederhana, Microsoft ingin mendapatkan lebih banyak untung. Saat ini fokus Microsoft adalah pada penciptaan alat AI yang lebih cepat daripada para pesaingnya, kepemimpinan perusahaan menjadi kurang tertarik pada kemanusiaan.

Maksudnya bagaimana? Tim etis di Microsoft memastikan seluruh produk AI yang ada akan sesuai standar kemanusiaan. Artinya mereka bisa memiliki fitur semacam welas asih, yakni bisa memahami potensi risiko bias, kurangnya kejelasan untuk beberapa algoritma AI, masalah privasi untuk data yang digunakan untuk pelatihan model AI, masalah keamanan, dan tanggung jawab implementasi AI di publik.

Ada beberapa kasus dimana AI yang dilatih menjadi misoginis (kebencian terhadap perempuan). Dalam penelitian yang dilakukan oleh Johns Hopkins University dan the Georgia Institute of Technology, menemukan, robot virtual yang diprogram dengan algoritma kecerdasan buatan populer, memilah-milah miliaran gambar dan keterangan terkait untuk menjawab pertanyaan terkait identitas seseorang.

Hasilnya adalah berkali-kali, robot menanggapi kata-kata seperti "ibu rumah tangga" dan "petugas kebersihan" dengan memilih kumpulan foto dengan perempuan dan kelompok minoritas. Bias ini didapatkan karena input data beserta data-data penunjang yang memiliki bias kecurigaan. Jika data yang diberikan adalah data-data yang rasis dan misoginis, maka AI akan menerjemahkan demikian.

Para peneliti dalam beberapa tahun terakhir telah mendokumentasikan banyak kasus algoritma kecerdasan buatan yang bias. Itu termasuk algoritma prediksi kejahatan yang secara tidak adil menargetkan orang kulit hitam dan Latin untuk kejahatan yang tidak mereka lakukan, serta sistem pengenalan wajah kesulitan mengidentifikasi orang kulit berwarna secara akurat.

Ini adalah dinamika yang harus dicermati dengan serius. Di satu sisi, Microsoft sekarang mungkin memiliki peluang sekali dalam satu generasi untuk bisa bersaing dengan terhadap Google terkait mesin pencarian, perangkat lunak, dan komputasi awan. Jika Microsoft hanya fokus pada percepatan pengembangan AI tanpa mempedulikan peran kemanusiaan di dalamnya, maka ini bisa berbahaya.

Saat ini fokus Microsoft adalah keuntungan dan mereka siap untuk melakukan penghematan dan fokus pada pengembangan AI. Saat meluncurkan kembali Bing dengan teknologi AI, mereka mengatakan kepada investor bahwa setiap 1 persen pasar yang akan diambil dari Google dalam mesin pencarian akan menghasilkan pendapatan tahunan sebesar $2 miliar.

Hal ini bukan yang pertama terjadi. Pada 2022 Elon Musk memecat sejumlah besar staf yang biasa memantau Twitter karena konten berbahaya. Konten berbahaya yang dimaksud adalah kekerasan, kebohongan, hoax, misinformasi, pornografi, dan lainnya. Perusahaan media sosial seperti Twitter menggunakan mekanisme kompleks, yang sebagian bergantung pada kolaborasi manusia-mesin, untuk memoderasi konten di platform mereka.

Setiap kali pengguna memposting konten baru, mesin di Twitter secara otomatis memindai konten tersebut. Jika program menemukan indikasi bahwa postingan tersebut mungkin ilegal atau berbahaya, postingan tersebut dikirim ke moderator konten manusia untuk ditinjau. Peran manusia di sini jadi penting karena mereka mengimbangi hal yang tak bisa dilakukan oleh mesin.

Tugas para moderator adalah memutuskan apakah postingan tersebut mematuhi aturan yang ditetapkan oleh platform, serta undang-undang setempat, atau menghapusnya. Namun, mempekerjakan moderator konten manusia itu mahal, ini alasan mengapa Elon Musk memerintahkan meminimalkan peran manusia tadi.

Secara umum manusia bisa mengambil peran yang tak bisa dilakukan oleh AI. Misalnya untuk bertindak etis dan manusiawi. Melihat hal-hal di luar data dan sistem yang ada. Misalnya menutup akun yang memiliki potensi misinformasi atau menghentikan pencarian data terkait aksi terorisme. Tapi hal ini mahal, sampai nanti teknologi bisa mengambil peran ini, manusia masih dibutuhkan untuk membantu mesin.

Sumber:

• https://www.theverge.com/2023/3/13/23638823/microsoft-ethics-society-team-responsible-ai-layoffs
• https://www.theverge.com/23635692/silicon-valley-bank-svb-collapse-explainer-startups-venture-capital