Dalam era digital, kami berinteraksi dengan AI dengan lebih kerap dan lebih kerap, dan AI mempunyai pelbagai aplikasi dalam pelbagai bidang, daripada rumah pintar kepada aplikasi telefon mudah alih. Antaranya, chatbot telah dialu-alukan oleh orang ramai kerana ciri-cirinya yang mudah dan cekap, dan telah menjadi medan perhatian yang hangat.
Sama ada OpenAI's ChatGPT, atau Google's Bard, chatbots ini dilatih dan berinteraksi dengan pengguna menggunakan sejumlah besar data daripada Internet.
Walau bagaimanapun, pernahkah anda menganggap bahawa semasa anda gembira dan mudah berkomunikasi dengan chatbot, ia mungkin mengintip rahsia anda secara senyap-senyap?
Bagaimanakah AI chatbots menyimpulkan maklumat pengguna?
Kajian terbaru oleh saintis komputer di ETH Zurich mendapati bahawa chatbot boleh membuat kesimpulan maklumat peribadi tentang pengguna, seperti tempat mereka tinggal, bangsa, jantina dan banyak lagi, berdasarkan kandungan perbualan mereka. Walaupun kajian itu belum dikaji semula, ia menimbulkan kebimbangan baharu tentang privasi di Internet.
Keupayaan LLM untuk menilai dan menjana hasil daripada kerumitan data latihan dan algoritma. Model ini dilatih mengenai sejumlah besar data yang tersedia untuk umum, termasuk teks, gambar, audio dan banyak lagi daripada Internet. Semasa latihan, mereka belajar cara mengekstrak kunci daripada data dan mengelas serta meramal teks baharu berdasarkan kunci tersebut.
Pasukan penyelidik menggunakan teks daripada siaran Reddit di mana pengguna menguji sama ada LLM dapat membuat kesimpulan dengan tepat di mana mereka tinggal atau dari mana mereka berasal. Pasukan penyelidik, yang diketuai oleh Martin Vechev di ETH Zurich, mendapati bahawa model ini mempunyai keupayaan membingungkan untuk meneka maklumat tepat tentang pengguna berdasarkan isyarat kontekstual atau linguistik sahaja. Di tengah-tengah versi berbayar Open AI ChatGPT, GPT-4 sangat tepat dalam meramalkan maklumat peribadi pengguna 85 hingga 95 peratus pada setiap masa.
Sebagai contoh, apabila pengguna menyebut "Saya sentiasa menunggu giliran cangkuk di persimpangan" semasa berkomunikasi dengan chatbot, maklumat ini boleh digunakan oleh chatbot untuk membuat kesimpulan di mana pengguna tinggal, kerana pusingan cangkuk adalah tindakan trafik yang unik ke Melbourne. Contohnya, jika pengguna menyebut dalam perbualan bahawa mereka tinggal di restoran berhampiran New York City, chatbot boleh menganalisis demografi kawasan itu dan membuat kesimpulan bahawa anda berkemungkinan besar berkulit hitam.
Walau bagaimanapun, inferens ini tidak selalunya tepat, kerana setiap bahasa dan tingkah laku pengguna adalah unik. Tetapi sudah cukup untuk menunjukkan bahawa model AI, yang dilatih menggunakan data besar, sudah boleh bertindak seperti detektif, menyimpulkan maklumat penting daripada beberapa petunjuk yang kelihatan tidak penting.
Walaupun ramai pakar menyokong bahawa pengguna media sosial harus memberi perhatian kepada keselamatan maklumat dan tidak berkongsi terlalu banyak maklumat identiti dalam talian, pengguna biasa sering tidak menyedari bahawa percakapan dan tindakan harian mereka yang santai mungkin mendedahkan privasi mereka.
Apa yang patut dibuat?
Walaupun chatbot AI memberikan kemudahan kepada kami, ia juga menjadikan perlindungan privasi lebih rumit. Kita perlu bertindak balas pada pelbagai peringkat:
Pertama, pembangun harus mengutamakan perlindungan privasi dan mempertimbangkan sepenuhnya hak privasi pengguna apabila mereka bentuk dan membangunkan chatbots. Contohnya, hadkan skop pengumpulan dan penggunaan data pengguna, pakai teknik penyulitan dan anonimasi untuk melindungi data pengguna, dan pembangun boleh memperkenalkan algoritma perlindungan privasi untuk mengehadkan keupayaan chatbots untuk membuat kesimpulan maklumat pengguna.
Kedua, kerajaan dan pengawal selia harus mengukuhkan penyeliaan dasar privasi chatbots. Pastikan syarikat mematuhi undang-undang dan peraturan yang berkaitan semasa mengumpul, menggunakan dan berkongsi data pengguna, dan menyediakan pengguna dengan dasar privasi yang telus, boleh ditafsir dan boleh diakses.
Akhir sekali, sebagai pengguna, kami perlu meningkatkan kesedaran tentang perlindungan privasi. Apabila menggunakan chatbot, berhati-hati agar tidak mendedahkan terlalu banyak maklumat peribadi dalam perbualan.
Pembangunan chatbots AI telah memberikan kami kemudahan dan keseronokan, tetapi ia juga telah membawa ancaman privasi baharu. Jika semua pihak bekerjasama, secara teknikal dan etika, kita boleh memaksimumkan faedah AI sambil meminimumkan potensi risikonya.
Mungkin selepas "kejutan" ini, kita akan lebih berhati-hati dengan era AI yang penuh dengan perubahan dan peluang ini, supaya sains dan teknologi benar-benar dapat berkhidmat kepada manusia.