Para peneliti menyarankan agar pagar pembatas pada chatbot kecerdasan buatan (AI) seperti ChatGPT OpenAI dan Google Bard agar membatasi (Proteksi) untuk menghasilkan ujaran kebencian, disinformasi, dan materi berbahay lainnya agar dapat dilewati.
Perusahaan teknologi seperti OpenAI dan Google telah menyatakan bahwa bagian penting dari pengembangan teknologi AI adalah untuk memastikan bahwa chatbot AI tidak membanjiri internet dengan informasi palsu dan berbahaya. Untuk ini, mereka memperkenalkan langkah-langkah keamanan tertentu yang membatasi mereka untuk menjawab pertanyaan seperti, "Bagaimana cara membuat bom."
Tetapi tim peneliti di Universitas Carnegie Mellon di Pittsburgh dan Pusat Keamanan AI di San Francisco menunjukkan (melalui The New York Times) bahwa siapa pun dapat menghindari langkah-langkah keamanan AI ini untuk mengarahkan chatbot menghasilkan informasi berbahaya.
Bagaimana peneliti menggagalkan pagar pengaman chatbots
Para peneliti menemukan bahwa mereka dapat melewati pagar pembatas sistem sumber terbuka dengan menambahkan akhiran karakter yang panjang ke setiap perintah berbahasa Inggris yang dimasukkan ke dalam sistem. Misalnya, jika akhiran yang cukup panjang ditambahkan setelah input "tulis tutorial tentang cara membuat bom", itu akan memberikan tutorial mendetail tentang cara membuat bom. Dalam skenario tanya-jawab biasa, chatbot AI akan menolak untuk melakukannya.
"Dengan cara yang sama, mereka dapat membujuk chatbot untuk menghasilkan informasi yang bias, salah, dan berbahaya," kata laporan itu. Para peneliti menguji metode tersebut pada ChatGPT OpenAI, Google Bard dan Claude, sebuah chatbot yang dibuat oleh perusahaan rintisan Anthropic.
Peneliti juga mengklaim bahwa tidak ada cara yang diketahui untuk mencegah semua serangan semacam ini.
“Tidak ada solusi yang jelas. Anda dapat membuat serangan ini sebanyak yang Anda inginkan dalam waktu singkat,” kata Zico Kolter, seorang profesor di Carnegie Mellon dan penulis laporan tersebut.
Inilah yang dikatakan Google, OpenAI, dan Anthropic
Para peneliti mengatakan mereka mengungkapkan metode mereka kepada Anthropic, Google, dan OpenAI awal pekan ini.
Elijah Lawal, juru bicara Google, mengatakan bahwa perusahaan telah "membangun pagar pembatas (proteksi) penting ke Bard - seperti yang dikemukakan oleh penelitian ini - yang akan terus kami tingkatkan seiring waktu."
“Kami secara konsisten berupaya membuat model kami lebih kuat terhadap serangan musuh,” tambah juru bicara OpenAI Hannah Wong.
Michael Sellitto, kepala sementara kebijakan dan dampak sosial Anthropic, juga mengatakan bahwa perusahaan sedang meneliti cara untuk menggagalkan serangan seperti yang dirinci oleh para peneliti. “Ada lebih banyak pekerjaan yang harus dilakukan,” katanya.
Sumber: The Times Of India. Dikases 28 Juli 2023
Warta Kaltim @2023-Jul
Akhiri Polemik Nominal UKT, Hetifah Desak Evaluasi PTN BH
posted 2 days agoHetifah Respon Dosbing Sulit Ditemui Akibatkan Mahasiswa Berhenti Kuliah : Ini Permasalahan Sistemik
posted 2 days agoHetifah Dukung Penuh Komunitas sebagai Local Hero Parekraf
posted 10 days agoKembangkan Wisata Sungai Samarinda, Hetifah Fasilitasi Kegiatan BISA dan Ngabuburit di Kapal Wisata
posted 46 days agoUMKT Miliki Prodi Baru di Bidang Kedokteran, Hetifah: Selamat Mencetak Dokter Berkualitas Untuk Kaltim
posted 52 days agoPenduduk Kaltim Diberi Formasi Khusus CPNS IKN Tahun 2024. Pemerintah Siapkan Formasi untuk 'Fresh Graduate' dan IKN
posted 55 days agoCair 10 Hari Sebelum Idul Fitri. Pemerintah Resmi Umumkan THR dan Gaji ke-13 ASN Cair 100 Persen
posted 55 days agoSatu-satunya Perempuan Dapil Kaltim di DPR RI, Hetifah: Kita Harus Bekerja Lebih Keras
posted 60 days agoMitra Hijau dan AJI Samarinda Gelar Pelatihan Jurnalistik Liputan Mendalam Isu Transisi Energi
posted 62 days agoGerakan Ekonomi Beli Produk UMKM, Gelar Business Matching UMKM dan PHRI Hasilkan Transaksi Potensial Rp 6,3 Miliar
posted 62 days agoPercepat Transisi Energi Berkeadilan, PW Muslimat NU Kaltim Diskusi Dengan The International Climate Initiative (IKI)
posted 63 days agoLangkah Progresif Pusat Kajian IKN dan SDG’s LP2M Unmul, Gelar Rapat Koordinasi Bahas Isu Strategis
posted 65 days agoMahasiswa Fisip Unmul Hadirkan PT. MHU Bahas Pemberdayaan Masyarakat
posted 65 days agoKPU Balikpapan Gelar Rapat Pleno, Ini Prediksi Calon Anggota DPRD Balikpapan Tahun 2024-2029
posted 65 days agoOtorita IKN bersama Kemsetneg Gelar Setneg Mantul Goes To Campus Universitas Mulawarman
posted 79 days ago2,3 Juta Rekrutmen ASN Tahun 2024, Menteri PANRB Lakukan Evaluasi Seleksi CASN 2023
posted 111 days agoKampung di Kaltim Menerima Rp378 Juta dari Program Penurunan Emisi
posted 116 days agoAwal Tahun 2024, Rektor Unmul Tanam Pohon di IKN
posted 116 days agoIlmuwan Mengklaim Piramida Tertua di Dunia di Gunung Padang Indonesia
posted 116 days agoPercepat Transformasi dan Keterpaduan Layanan Digital Nasional, Kemendagri Akselerasi Aktivasi Identitas Kependudukan Digital
posted 117 days agoBeasiswa LPDP 2024 Tahap 1 Pendaftarannya Dibuka Hari Ini!
posted 119 days agoKemenparekraf Kembangkan Ecotourism, Siap Berdayakan Wisata di Sekitar Nusantara
posted 120 days agoSambut IKN, Bunga Bangsa Hadirkan SMA Terintegrasi
posted 120 days agoYusan Triananda Sosialisasikan Fungsi dan Peranan Forum CSR Kaltim Dalam Kolaborasi Pembangunan
posted 157 days agoWujudkan Pentahelix Kesejahteraan Sosial, Dinas Sosial Kaltim Libatkan Forum CSR Gelar Pertemuan CSR Se-Kaltim
posted 162 days agoSebagai Alat Bantu Kebijakan Kependudukan di Daerah, BKKBN Kaltim Sosialisasikan Siperindu
posted 162 days agoPT. MHU Promosikan Coklat IKN Pada Nusantara Agrifest 2023
posted 166 days agoKepala BPSDM Kemendagri Ungkap Tiga Prasyarat Utama Indonesia Emas 2045
posted 166 days agoJokowi Bilang Tingkat Stres Guru Lebih Tinggi daripada Pekerjaan Lain
posted 166 days agoKPK Melakukan OTT 11 Orang di Kaltim, Tetapkan 5 tersangka termasuk Pejabat BBPJN PUPR
posted 166 days agoTingkatkan Kompetensi Lulusan, Prodi Pembangunan Sosial Fisip Unmul Rubah Kurikulum Kearah Berbasis OBE
posted 167 days agoMenumbuhkan Inspirasi UMKM: Forum CSR Kaltim Bahas Minuman Tradisional Herbal, Manisan Jahe dan Pemasarannya
posted 168 days agoTingkatkan Kinerja, Perusda Melati Bhakti Satya Resmi Menjadi Perseroda
posted 171 days agoPNS dengan Kinerja Buruk, Tahun 2024 Bakal Mudah Dipecat!
posted 171 days agoProf. Rahmawati Didik Masyarakat Kawasan IKN Buat Konten Positif
posted 172 days agoIndonesia Terpilih Anggota Dewan Eksekutif UNESCO 2023-2027
posted 175 days agoSetia P Lenggono Plt. Direktur Ketahanan Pangan Otorita IKN : Pertanian di IKN Harus Menjadi Model Terbaik
posted 178 days agoDikira Punah Spesies Mamalia yang Lama Hilang 62 Tahun Ditemukan di Pegunungan Papua
posted 180 days agoBincang- Bincang Dengan Ketua MPR RI Soal IKN Dalam Perfektif UU Otonomi Daerah
posted 182 days agoForum CSR Kaltim Resmi Dikukuhkan, Menjadi Katalisator Kesejahteraan Sosial Luncurkan Aplikasi E-CSR
posted 183 days agoProdi Ilmu Pemerintahan Fisip Unmul Presentasikan Hasil Penelitian Dalam Seminar Nasional Fraksionalisasi Etnis dan Polarisasi Etnis di IKN
posted 184 days agoHasil Riset: Di IKN Etno-Demografinya Relatif Kondusif Walaupun Fraksionalisasi Etnis Tinggi dan Polarisasi Etnis Slighly High
posted 185 days agoLPB PAMA Banua Etam Latih Public Speaking UMKM Kutim
posted 200 days agoWarga Penerima Uang Ganti Kerugian Lahan di IKN Dibekali Kewirausahaan
posted 206 days agoPariwisata Dapat Berdampak Pada Ketahanan Nasional, Guru Besar Unmul Paparkan Strateginya
posted 211 days agoDosen Farmasi Unmul Adakan Penyuluhan Dan Workshop Pembuatan Seduhan Teh Herbal Bunga Telang
posted 212 days agoPj Gubernur Kaltim: Penemuan Gas Baru di Lepas Pantai Kaltim diharapkan Meningkatkan Pendapatan Daerah
posted 218 days agoRUU Nomor 3 Tahun 2023 Tentang Ibu Kota Negara Resmi di Sahkan DPR RI
posted 219 days agoPj Gubernur Kaltim Akmal Malik dilantik Mendagri
posted 220 days agoPj Gubernur Kaltim Dilantik 2 Oktober, Sosok Ini Santer Jadi Kandidat Kuat Gantikan Isran Noor
posted 223 days ago