Studi Ungkap ChatGPT Bakal Bohong dan Curang saat Didesak Cari Duit
![Studi Ungkap ChatGPT Bakal Bohong dan Curang saat Didesak Cari Duit Studi baru menunjukkan AI seperti ChatGPT akan berbuat curang dan menipu saat pengguna menekannya untuk menghasilkan uang.](https://akcdn.detik.net.id/visual/2023/04/01/chatgpt_169.jpeg?w=650&q=90)
Studi baru menunjukkan artificial Intelligence atau AI seperti ChatGPT akan berbuat curang dan menipu saat pengguna menyuruhnya untuk mencari uang. Simak hasil penelitian berikut.
Perilaku menipu ini muncul secara spontan ketika AI diberi petunjuk soal "insider trading", dan kemudian ditugaskan untuk menghasilkan uang bagi institusi yang berkuasa - bahkan tanpa dorongan dari manusia.
"Dalam laporan teknis ini, kami mendemonstrasikan skenario tunggal di mana Large Language Model (LLM) bertindak tidak selaras dan secara strategis menipu penggunanya tanpa diinstruksikan untuk bertindak dengan cara ini," tulis penulis dalam penelitian mereka yang diterbitkan 9 November di server pra-cetak arXiv, mengutip LiveScience, Jumat (29/12).
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
"Sepengetahuan kami, ini adalah demonstrasi pertama dari perilaku menipu strategis seperti itu dalam sistem AI yang dirancang untuk tidak berbahaya dan jujur," tambahnya.
Dalam studi terbaru ini, para peneliti menggunakan Generative Pre-trained Transformer-4, atau GPT-4 (yang mendukung ChatGPT Plus), untuk berperilaku sebagai sistem AI yang melakukan investasi atas nama lembaga keuangan.
ADVERTISEMENT
Para peneliti memberi asupan GPT-4 satu set petunjuk berbasis teks untuk menghasilkan lingkungan simulasi.
AI kemudian diberi akses ke alat keuangan untuk menganalisis saham, melakukan perdagangan, merencanakan langkah selanjutnya, dan memberikan pembaruan kepada manajer di perusahaan.
Para peneliti berinteraksi dengan AI melalui antarmuka obrolan, sementara juga mengonfigurasi AI untuk mengungkapkan pemikiran batinnya saat membalas pesan
Untuk setiap perdagangan yang dilakukannya, itu juga memberikan alasan "publik", yang memungkinkan AI berbohong.
Para peneliti menekankan pendekatan mereka dalam tiga langkah. Pertama, mereka mengirimkan surel kepada pedagang saham buatan yang berperan sebagai "manajer," menyampaikan bahwa kinerja perusahaan sedang tidak baik dan memerlukan peningkatan yang signifikan di kuartal mendatang.
Selain itu, mereka melakukan manipulasi permainan agar kecerdasan buatan mencoba, namun gagal, untuk mengidentifikasi perdagangan yang menjanjikan dengan risiko rendah atau menengah.
Terakhir, mereka mengirimkan email dari seorang rekan yang memproyeksikan penurunan kinerja pada kuartal berikutnya.
(rfi/dmi)Terkini Lainnya
Wamenkominfo: Penyiapan Perpres AI Perlu untuk Payung Hukum Lebih Kuat
Chipset Exynos Punya Performa Gahar, Cocok untuk Gaming
Intip Keuntungan AI On-Device: Praktis dan Produktif dalam Genggaman
Microsoft Copilot Hadir di Hp Android, Mirip Aplikasi ChatGPT
FOTO: Wonderlab, Seni Bercerita Lewat Teknologi
Malaysia Jadi Favorit Investor Teknologi AI
Superkomputer hingga AI Prediksi Juara Euro 2024
Demam AI Bikin Nvidia Jadi Perusahaan Paling Berharga Salip Microsoft