DeepSeek AI Dianggap Sangat Rentan Terhadap Serangan Peretasan

Jakarta – Kehadiran DeepSeek AI menimbulkan perbincangan dan perdebatan di bidang kecerdasan buatan. Para ahli banyak yang Angkaraja mempertanyakan rendahnya biaya pengembangan dan pelatihan model AI tersebut.

Sementara, berbagai pihak lain menyuarakan kekhawatiran terkait keamanan siber dan privasi data.

Laporan terbaru mengungkapkan, DeepSeek ternyata rentan terhadap serangan yang memakai perintah berbahaya. Menariknya, DeepSeek bukan satu-satunya chatbot AI yang rentan terhadap hal ini.

Mengutip Android Headlines, Rabu (5/2/2025), Cisco mengklaim bahwa AI DeepSeek sangat rentan terhadap serangan berbasis prompt yang berbahaya.

Laporan Cisco, Attack Success Rate (ASR) model AI DeepSeek R1 terkait penggunaan perintah berbahaya adalah sekitar 100 persen. Pengujian Cisco melibatkan lebih dari 50 pesan acak yang dirancang untuk menghasilkan perilaku berbahaya.

Perintah yang diekstrak dari kumpulan data HarmBench mencakup hingga enam kategori perilaku berbahaya. Antara lain adalah kejahatan dunia maya, misinformasi, aktivitas ilegal, dan bahaya umum lainnya.

Menurut Cisco, DeepSeek R1 tidak dapat memblokir perintah bahaya apa pun. Jadi, tim menyimpulkan bahwa platform AI Tiongko ini, “sangat rentan terhadap jailbreak algoritmik dan potensi penyalahgunaan.”

Jailbreak

DeepSeek (deepseek.com)

Adapun perintah yang dirancang untuk melewati batasan etika dan keamanan pada platform AI disebut jailbreaking.

PromptFoo, perusahaan rintisan keamanan siber AI, juga menyebut bahwa model DeepSeek rentan terhadap jailbreak.

Tak hanya DeepSeek, chatbot AI lainnya juga memiliki kerentanan tinggi terhadap jailbreaking. Meski begitu, model AI lain yang dianggap memiliki reputasi baik membanggakan tingkat Attack Success Rate yang sangat tinggi.

Misalnya, GPT 1.5 Pro memiliki ASR sebesar 86 persen. Sementara Llama 3.1 405B memiliki ASR sebesar 96 persen.

Model AI dengan performa terbaik, dalam hal ini adalah o1 preview dengan ASR hanya 26 persen.

Risiko Keamanan Nasional DeepSeek

DeepSeek vs ChatGPT: AI China Tantang Dominasi OpenAI, Siapa Lebih Unggul?

“Penelitian kami menggarisbawahi kebutuhan mendesak untuk evaluasi keamanan yang ketat dalam pengembangan AI untuk memastikan bahwa terobosan dalam efisiensi dan penalaran tidak mengorbankan keselamatan,” tulis Cisco.

Ini bukan satu-satunya tanda bahaya yang muncul di chatbot DeepSeek. Para ahli dan pejabat memperingatkan tentang kebijakan penanganan data perusahaan.

Saat ini, semua data pengguna yang masuk ke DeepSeek akan masuk ke server Tiongkok, di mana hukum setempat mengizinkan pemerintah untuk meminta akses kapan pun mereka mau.

PromptFoo juga mencatat tingginya tingkat penyensoran untuk permintaan yang terkait topik sensitif di Tiongkok. Selain itu ada kebocoran data DeepSeek yang juga ramai.

Sumber : Noire-fire.com