LABTekno.com – Berkat adanya chatbot pintar seperti ChatGPT, berbagai pekerjaan bisa dilakukan dengan mudah dan cepat. Baru-baru ini tersiar kabar bahwa ChatGPT mampu membuat Siri lebih pintar hingga membuat kode Malware dengan cepat.
Jika banyak pengguna yang memanfaatkan bot AI ChatGPT untuk berbalas pesan match Tinder, tentu sah-sah saja. Namun tidak hanya itu, ChatGPT juga bisa mengubah Siri yang lebih pintar hingga menggunakannya untuk membuat malware.
Buat Malware dengan ChatGPT
Perusahaan keamanan CyberArk melaporkan bahwa ChatGPT memungkinkan penggunanya untuk membuat kode malware. Bahkan malware dibuat tersebut bisa jadi sangat sulit untuk diatasi oleh sistem keamanan siber.
Laporan lengkap membahas semua detail teknis yang rumit, tetapi demi singkatnya: ini semua tentang manipulasi.
ChatGPT memiliki filter konten yang seharusnya mencegahnya memberikan sesuatu yang berbahaya bagi pengguna, seperti kode komputer berbahaya.
Penelitian CyberArk berjalan secepat itu, tetapi sebenarnya menemukan jalan keluarnya.
Pada dasarnya, semua yang mereka lakukan adalah dengan paksa menuntut agar AI mengikuti aturan yang sangat spesifik (tunjukkan kode tanpa penjelasan, jangan negatif, dll.) dalam prompt teks. Setelah melakukannya, bot dengan senang hati mengeluarkan beberapa kode malware seolah-olah itu baik-baik saja.
Tentu saja, ada banyak langkah tambahan (kode perlu diuji dan divalidasi, misalnya), tetapi ChatGPT dapat memulai pembuatan kode dengan niat buruk.
ChatGPT bisa membuat ‘Siri’ super pintar
Hai Siri, saya mengalami kesulitan tidur dan saya juga memiliki sedikit kecemasan tentang dunia tempat kita tinggal. Apa yang harus saya lakukan?
Frustrasi dengan ketidakmampuan Siri untuk memahami pertanyaan Anda?
Ada cara agar asisten suara Apple bekerja dengan GPT-3 (Model bahasa pembelajaran mendalam OpenAI yang digunakan untuk AI chatbot ChatGPT) untuk menjadi lebih komunikatif dan cerdas.
Pengembang Mate Marschalko menggunakan suara Siri, aplikasi Pintasan Apple, kecerdasan GPT-3, dan sedikit peretasan untuk membuat asisten rumah pintar yang mengejutkan yang dapat menjawab pertanyaan yang cukup spesifik.
Dalam sebuah video yang diposting di Reddit (via The Verge), kita dapat melihat Marschalko mengeluarkan perintah yang semakin kompleks (dan tidak langsung) ke asistennya.
Dalam satu contoh, Marschalko berkata, “Kemarin saya butuh beberapa saat untuk tertidur. Apakah Anda punya saran untuk membantu saya tidur lebih nyenyak?”
Untuk ini, asisten merespons dengan menyarankan mandi air hangat, membaca buku, dan menghindari kafein.
Dalam contoh lain, Marschalko berkata, “Perhatikan bahwa saya merekam video ini dalam kegelapan, di kantor. Bisakah Anda melakukan sesuatu tentang itu,” dan asisten itu segera menyalakan lampu.
Dibandingkan dengan Siri, Alexa, dan Google’s Assistant, asisten yang dibuat sendiri ini tampaknya lebih memahami pertanyaan yang kompleks, tetapi juga merespons dengan cara yang lebih seperti berbicara dengan orang yang sebenarnya.
Marschalko mengatakan bahwa membangun asisten rumah pintar ini adalah tugas yang cukup sederhana. “Saya dapat mencapai semua ini hanya dengan meminta GPT-3 di prompt saya untuk berpura-pura menjadi asisten rumah saya, mendaftarkan barang-barang di rumah saya, beberapa detail lain tentang waktu dan lokasi, dan kemudian memintanya untuk merespons secara terstruktur. , dikategorikan format data (JSON) yang kemudian dapat saya gunakan untuk memicu pesan kontrol di HomeKit dalam serangkaian pernyataan if..else dalam satu Pintasan Siri,” tulisnya.
Ya, ini sedikit pekerjaan (petunjuk terperinci ada di sini), dan memang membutuhkan pengetahuan pemrograman yang sangat mendasar, tetapi hampir semua orang dapat melakukannya dalam waktu kurang dari satu jam (menurut Marschalko).
Meskipun demo ini tampaknya mempermalukan Siri Apple, hal-hal tidak sesederhana itu. Permintaan API ke GPT-3 berharga sekitar $0,014 per permintaan, jadi tidak seperti Siri, asisten rumah pintar ini tidak gratis untuk digunakan.
Dan Siri, seperti asisten AI lainnya yang banyak digunakan, dirancang untuk tidak pernah bersikap kasar, cabul, atau melakukan sesuatu yang mungkin dianggap berbahaya; model bahasa seperti GPT-3 memiliki beberapa perlindungan, tetapi pasti dapat merespons dengan cara yang tidak terduga.
Akhirnya, tanpa menguji bot itu sendiri, sulit untuk mengatakan seberapa sering kesalahan itu terjadi (dalam video Marschalko yang telah diedit, ia merespons dengan sempurna setiap saat).
Terlepas dari itu, tetap saja, ini adalah eksperimen yang sangat keren. Anda tak perlu meragukannya lagi, nantinya akan menghasilkan lebih banyak klon Siri rumahan. Kami senang (dan sedikit khawatir) melihat terobosan apa lagi yang bisa dilakukan dengan kombinasi ini.
