Peneliti Sebut Perusahaan Perlu Mengurangi Risiko dalam Pemanfaatan AI

Sahabat.com - Peneliti Couchbase menilai perusahaan perlu untuk mengurangi risiko dalam pemanfaatan kecerdasan buatan atau Artificial Intelligence (AI) yang cenderung bias dan bisa mengurangi kualitas dari produk yang dihasilkan.

"Tantangannya adalah bagaimana perusahaan dapat mengurangi bias tersebut dalam penawaran produk mereka, dan menghindari risiko memasukkan model AI yang berbahaya ke dalam produksi," kata Associate Solutions Engineer Couchbase Aaron Schenider dalam pernyataan di Jakarta, Kamis.

Menurut dia, salah satu pemanfaatan AI melalui ChatGPT masih menilai manusia berdasarkan jenis kelamin dan warna kulit. Itu sebabnya respons yang diberikan akan berisiko, diskriminatif, menghasut, serta merusak reputasi bisnis yang benar-benar memanfaatkan AI untuk kebaikan.

Ia pun memastikan, meskipun ini bukan kesalahan AI, dan semata-mata terletak pada input yang diterima teknologi, pengembang harus menghentikan bias dan kesalahan sejak dini.

"Bagaimanapun teka-teki ini sebenarnya bukanlah sesuatu yang baru. Bias AI terjadi ketika model AI menampilkan bias dari penulis manusianya melalui kumpulan data. Apa yang Anda berikan adalah apa yang Anda dapatkan kembali," kata Aaron.

Kondisi demikian, lanjut dia, membuat perusahaan teknologi bisa berpikir dua kali untuk merilis model AI yang kompleks, karena itu berarti menyerahkan kotak pandora yang tidak dapat diprediksi kepada pengguna.

Langkah perusahaan juga bisa dianggap sebagai manuver yang sangat berisiko karena mereka tidak memiliki kendali atas keluaran AI. Setiap respons yang tidak dapat diandalkan dan tidak senonoh akan benar-benar merusak reputasi perusahaan.

Oleh karena itu, agar teknologi tetap menjadi kekuatan yang baik, pengguna harus diberdayakan untuk membangun model AI yang tidak bias. Melalui penggunaan solusi pemrosesan peristiwa dalam waktu nyata, para peneliti dapat memanfaatkan logika bisnis yang ditentukan pengguna untuk menghapus informasi yang tidak diinginkan dari kumpulan data AI secara otomatis.

"Langkah ini akan membutuhkan solusi cloud dengan arsitektur yang mengutamakan memori yang memberikan kinerja tak tertandingi dan membuat kueri SQL++ cepat dan sangat efisien. Semua proyek juga akan mendapat manfaat dari fleksibilitas dan potensi basis data cloud NoSQL," katanya.

Pada akhirnya, kecerdasan buatan didasarkan pada model pembelajaran mesin, dengan model dan teknik yang diteliti dengan baik yang digunakan dalam membuat sistem prediksi. Sistem kecerdasan buatan seperti ChatGPT dan DALL-E perlu menyerap sejumlah besar input dari internet sebelum mereka dapat mencocokkan hubungan antara teks dengan respons.

Selain itu, piranti dan model bahasa lain juga harus digunakan untuk membantu AI memprediksi kata yang digunakan dalam setiap respons.

Sebelumnya, sebuah studi singkat tentang ChatGPT menyatakan bahwa OpenAI sangat menyadari bias AI dan secara naluriah menambahkan batasan ke dalam AI agar mampu menyaring komentar yang menyinggung, rasis atau bahkan seksis.

Pembatasan itu dibuat sesederhana mungkin untuk mencegah ChatGPT membuat tanggapan yang tidak pantas. Daftar kata kunci, frasa, dan panduan yang dilarang juga diterapkan untuk mencegah model AI menjadi tidak menentu dan menggunakan konten terlarang.(Ant)