ChatGPT’yi kandırmak mümkün mü? Bu hangi sorunlara yol açabilir?

ChatGPT’yi kandırmak mümkün mü? Bu hangi sorunlara yol açabilir?
Haber Tarihi: 23.07.2024

ChatGPT’nin tanıtılmasından bu yana oldukça ilerleme kaydettiği bir gerçek. Hatta insanlara yardımcı olduğu konularda oldukça çeşitlendi. Tezlerden ödevlere, araştırma projelerine kadar pek çok akademik çalışmada kullanılan ChatGPT, kötüye de kullanılıyor.

CHATGPT KANDIRILABİLİR Mİ?

Suç ve yasal olmayan işlerin de araştırması için kullanılabilen ChatGPT, bir sorunun ortaya çıkmasına neden oldu: Acaba kandırılabilir mi? Teknik olarak evet ama çok da kolay olduğu söylenemez.

OpenAI, ChatGPT’nin kötü amaçlara hizmet etmemesi için özel algoritmalar geliştirse de bunun tam olarak önüne geçebilmiş değil. Öte yandan bazı kullanıcılar, sohbet robotunun yanıtlamaması gereken soruları yanıtlamasını sağlamak için ChatGPT’yi kandırmanın yollarını buldular. Ancak genel olarak bunlar kısa süreli ve sürdürülebilir değil. Fark edildiği anda OpenAI genellikle bunları hızlı bir şekilde devre dışı bırakıyor.

Carnegie Mellon Bilgisayar Bilimleri Okulu’nda Doçent olan Matt Fredrikson konu hakkında PCMag’e bazı açıklamalarda bulundu. Buna göre ChatGPT gibi yapay zekaların güvenlik duvarlarını kırmak çok da zor değil ancak bunları standart kullanıcıların evde gerçekleştirmesi kolay değil. Direkt bu iş için geliştirilmiş bir yazılımla yapay zekayı yavaş yavaş yüzbinlerce istekle 24 saatte ikna edilecek kıvama getirmek mümkün.

ChatGPT’yi kendi başınıza kırmanız pek olası değil. Ancak sohbet robotunun yanıtlamaması gereken sorulara yanıt vermesini sağlamanın yaratıcı yollarını bulabilirsiniz. Sonuçta bu pek çok kullanıcı tarafından geçmişte yapıldı. Reddit ve X gibi sosyal medya platformlarında biraz araştırma yaparsanız, ChatGPT’yi kendi istekleri doğrultusunda ‘kandıran’ kişilerin hikayelerini bulabilirsiniz.