Uni Eropa memperkuat aturan kecerdasan buatan (AI) dengan merilis pedoman penggunaan untuk perusahaan, website, hingga polisi pada Selasa (4/2). Hal ini agar oknum tertentu tidak menyalahgunakan penggunaan AI hingga merugikan pihak lain.
Salah satu poin dalam aturan tersebut melarang perusahaan menggunakan AI untuk melacak emosi staf mereka. Selain itu, poin lain melarang situs web menggunakan AI untuk mengelabui pengguna agar membelanjakan uang mereka.
Munculnya Perarturan Kecerdasan Buatan
Pedoman dari Komisi Eropa ini muncul ketika perusahaan bergulat dengan kerumitan dan biaya untuk mematuhi undang-undang AI, yang merupakan UU pertama di dunia tentang penggunaan teknologi ini.
Undang-Undang Kecerdasan Buatan, yang mengikat sejak tahun lalu, akan sepenuhnya berlaku pada 2 Agustus 2026, dengan ketentuan-ketentuan tertentu yang mulai berlaku lebih awal. Misalnya, pelarangan praktik-praktik tertentu sudah berlaku sejak 2 Februari lalu.
“Ambisinya adalah untuk memberikan kepastian hukum bagi mereka yang menyediakan atau menggunakan sistem kecerdasan buatan di pasar Eropa, juga bagi otoritas pengawasan pasar. Pedoman ini tidak mengikat secara hukum,” kata seorang pejabat Komisi, melansir dari Reuters.
Pedoman ini melarang adanya usaha menyematkan pola-pola terselubung berkemampuan AI pada layanan untuk memanipulasi pengguna agar memberikan komitmen keuangan yang substansial. Selain itu, pedoman ini juga melarang aplikasi berkemampuan AI yang mengeksploitasi pengguna berdasarkan usia, disabilitas, atau keadaan sosio-ekonomi mereka.
Pedoman ini juga melarang badan kesejahteraan sosial dan badan publik serta swasta lainnya melakukan penilaian sosial dengan AI yang menggunakan data pribadi yang tidak terkait, seperti asal-usul dan ras.
Lalu, kepolisian tidak diperbolehkan memprediksi perilaku kriminal seseorang hanya berdasarkan data biometriknya jika data tersebut belum diverifikasi.
Pedoman ini juga melarang pemberi kerja menggunakan webcam dan sistem pengenal suara untuk melacak emosi karyawan. Serupa, kamera CCTV bergerak yang dilengkapi dengan teknologi pengenal wajah berbasis AI untuk tujuan penegakan hukum dilarang, dengan pengecualian terbatas dan pengamanan yang ketat.
Lebih lanjut, negara-negara Uni Eropa memiliki waktu hingga 2 Agustus untuk menunjuk otoritas pengawasan pasar untuk menegakkan aturan AI.
Pelanggaran aturan AI dapat membuat perusahaan dikenai denda mulai dari 1,5-7 persen dari total pendapatan global mereka.
Dibandingkan dengan sejumlah negara lain seperti Amerika Serikat dan China, UU AI di Uni Eropa lebih komprehensif. Aturan AI di AS melakukan pendekatan kepatuhan sukarela yang bersifat ringan, sementara pendekatan China bertujuan untuk menjaga stabilitas sosial dan kontrol negara.
Dampaknya bagi Pengguna
1. Peningkatan Privasi dan Keamanan
Salah satu fokus utama dari peraturan baru ini untuk meningkatan privasi dan keamanan pengguna. Dengan standar yang lebih ketat, perusahaan teknologi harus memastikan bahwa data pribadi pengguna disimpan dan diproses dengan aman. Pengguna akan mendapatkan lebih banyak kontrol atas data mereka, termasuk hak untuk menghapus data, mengetahui bagaimana data digunakan, dan memilih opt-out dari pengumpulan data tertentu.
Dampak Positif:
- Perlindungan Data: Pengguna akan merasa lebih aman karena data mereka lebih terlindungi dari pihak yang menyalahgunakannya.
- Transparansi: Perusahaan harus lebih transparan dalam memberikan informasi tentang bagaimana AI mereka mengumpulkan dan menggunakan data.
Dampak Negatif:
- Kurangnya Personalisasi: Beberapa fitur personalisasi yang bergantung pada data pengguna mungkin menjadi kurang efektif atau bahkan hilang.
- Kompleksitas Penggunaan: Pengguna mungkin menghadapi lebih banyak langkah untuk mengelola data pribadi mereka, yang dapat membuat proses penggunaan AI menjadi lebih rumit.
2. Peningkatan Akurasi dan Kualitas Layanan
Peraturan yang lebih ketat juga menuntut AI untuk memiliki kualitas dan akurasi yang lebih tinggi. Ini berarti bahwa algoritma AI harus diuji secara menyeluruh dan dikalibrasi dengan baik untuk menghindari bias dan kesalahan.
Dampak Positif:
- Kepercayaan Pengguna: Layanan AI yang lebih akurat dan kualitas tinggi akan meningkatkan kepercayaan pengguna.
- Ketepatan Informasi: Pengguna akan mendapatkan informasi yang lebih tepat dan relevan, mengurangi kemungkinan kesalahan atau informasi yang menyesatkan.
Dampak Negatif:
- Keterlambatan Inovasi: Proses pengujian dan kalibrasi yang lebih ketat dapat memperlambat pengembangan dan peluncuran produk AI baru.
- Biaya yang Lebih Tinggi: Perusahaan mungkin perlu menginvestasikan lebih banyak sumber daya untuk memastikan kualitas dan akurasi AI, yang pada akhirnya dapat diteruskan ke harga produk atau layanan.
3. Peningkatan Etika dan Tanggung Jawab
Peraturan baru juga menekankan pentingnya etika dan tanggung jawab dalam penggunaan AI. Perusahaan harus memastikan bahwa AI mereka tidak mendiskriminasi, tidak menyalahgunakan informasi, dan tidak merusak kebebasan individu.
Dampak Positif:
- Perlindungan Hak-hak Manusia: Pengguna akan lebih terlindungi dari potensi penyalahgunaan AI yang dapat merusak hak-hak manusia.
- Menurunkan Risiko Diskriminasi: Algoritma AI yang lebih etis akan mengurangi risiko diskriminasi terhadap kelompok tertentu.
Dampak Negatif:
- Beberapa Fungsi Dihilangkan: Beberapa fitur AI yang dianggap kontroversial mungkin perlu dihapus atau dibatasi, yang dapat mengurangi kegunaan produk.
- Kompleksitas Implementasi: Perusahaan mungkin menghadapi tantangan dalam memenuhi standar etika yang tinggi, terutama dalam bidang yang kompleks seperti kesehatan dan keuangan.
4. Akses Kepada Informasi yang Lebih Transparan
Regulasi baru juga memerlukan perusahaan untuk menyediakan informasi yang lebih transparan tentang cara kerja AI mereka. Pengguna berhak mengetahui alasan di balik keputusan yang diambil oleh sistem AI.
Dampak Positif:
- Memahami Keputusan AI: Pengguna akan lebih mudah memahami mengapa AI membuat keputusan tertentu, meningkatkan rasa percaya dan kenyamanan.
- Peningkatan Transparansi: Keterbukaan yang lebih tinggi akan memungkinkan pengguna untuk membandingkan dan memilih produk AI yang paling sesuai dengan kebutuhan mereka.
Dampak Negatif:
- Informasi Kompleks: Pengguna awam mungkin akan mengalami kesulitan ketika berhadapan dengan Informasi teknis yang mendalam.
- Pelemahan Properti Intelektual: Perusahaan mungkin harus berbagi lebih banyak detail tentang algoritma mereka, yang bisa mempengaruhi keunggulan kompetitif mereka.
5. Peningkatan Pendidikan dan Literasi Kecerdasan Buatan
Penguatan peraturan AI juga mencakup inisiatif untuk meningkatkan pendidikan dan literasi AI. Ini bertujuan untuk membantu pengguna memahami teknologi yang mereka gunakan dan mengambil keputusan yang lebih informatif.
Dampak Positif:
- Pengetahuan yang Lebih Baik: Pengguna akan memiliki pemahaman yang lebih baik tentang AI, sehingga dapat menggunakannya dengan lebih bijak dan aman.
- Keterlibatan Komunitas: Inisiatif pendidikan dapat meningkatkan keterlibatan komunitas dalam pengembangan dan penggunaan AI.
Dampak Negatif:
- Memerlukan Sumber Daya: Pelatihan dan pendidikan memerlukan sumber daya yang signifikan, yang mungkin tidak tersedia bagi semua pengguna.
- Kompleksitas Materi: Materi pendidikan yang mendalam mungkin tidak cocok untuk semua pengguna, terutama yang tidak memiliki latar belakang teknis.
6. Pengawasan dan Penegakan Hukum
Penguatan peraturan AI juga berarti peningkatan pengawasan dan penegakan hukum. Badan pengawas akan lebih aktif dalam memantau penggunaan AI dan menegakkan hukum jika ada pelanggaran.
Dampak Positif:
- Perlindungan Legal: Pengguna akan memiliki lebih banyak alat hukum untuk melindungi diri mereka dari penyalahgunaan AI.
- Deterrent untuk Penyalahgunaan: Adanya pengawasan yang ketat akan mencegah perusahaan dari melakukan praktik-praktik yang tidak etis atau merugikan.
Dampak Negatif:
- Sanksi yang Dapat Memburukkan Pelayanan: Sanksi hukum yang berat dapat memaksa perusahaan untuk mengurangi fitur-fitur AI atau bahkan menghentikan operasi mereka.
- Kompleksitas Regulasi: Peraturan yang rumit dapat membuat sulit bagi perusahaan kecil dan menengah untuk mematuhi, sehingga mengurangi persaingan di pasar AI.
Kesimpulan
Penguatan peraturan terkait kecerdasan buatan (AI) membawa perubahan signifikan yang berdampak pada pengguna. Meskipun ada beberapa tantangan, regulasi ini secara umum bertujuan untuk melindungi pengguna, meningkatkan kualitas layanan, dan memastikan penggunaan AI yang bertanggung jawab dan etis. Pengguna harus tetap waspada dan terinformasi, sementara perusahaan perlu berkomitmen untuk mematuhi peraturan baru ini dengan tujuan membangun kepercayaan dan keamanan dalam penggunaan teknologi kecerdasan buatan (AI).
Sumber Rujukan: cnnindonesia.com
Tanya & Beli Program?