ChatGPT – dost ve düşman. Yapay zeka araştırma laboratuvarı OpenAI'nin Kasım 2022'de chatbot yazılımı ChatGPT'yi tanıtmasından bu yana, olası kötüye kullanımı konusunda endişeler vardı. Ana tartışmalar, akademide kullanımının etik sorunları, siber güvenlik sorunları ve belirli alanlardaki çalışanların ChatGPT ile olası değiştirilmesi etrafında dönüyor. Endişelere rağmen, araç muazzam bir popülerlik kazandı ve Amerikalıların yüzde onundan fazlası, ilk sürümünden sadece iki ay sonra kullandığını belirtti . Araç çoğunlukla 18 ila 44 yaş arasındaki kişiler tarafından kullanılıyor .
ChatGPT'nin siber suçlarda olası kullanımı
Dünya çapında birçok kullanıcıyı cezbeden avantajlara sahip olan ChatGPT'nin gelişmiş yetenekleri her zaman iyi niyetle kullanılmaz çünkü araç kötü niyetli kullanıcı isteklerini tam olarak belirleyemez. Yazılımın kötüye kullanımını önlemeye çalışan içerik filtreleri olmasına rağmen, belirli teknikleri uygulayarak bu filtreleri atlatmak zor değildir. Örneğin, araç doğrudan istek üzerine bir kimlik avı e-postası için bir metin oluşturmayı reddederse, kullanıcı bunu gerçek bir kimlik avı saldırısı girişimi yerine konuyla ilgili bir film senaryosu yazmak gibi farklı bir yaşam koşulu için istenen bilgi olarak tanımlayarak yine de talep edebilir. Üretken yapay zekanın yükselişiyle birlikte, ChatGPT'ye kötü amaçlı alternatifler ortaya çıktı. FraudGPT ve WormGPT gibi büyük dil modelleri (LLM'ler), kötü amaçlı yazılım geliştirme, kötü amaçlı kod yazma ve güvenlik açığı bulma hizmeti sunan ücretli hizmetlerdir.ChatGPT'de kurumsal veri ifşası
Çoğu şirket ChatGPT'nin uygun kullanımı hakkında talimatlar yayınlamasına veya iş yerinde kullanımını yasaklamasına rağmen, ChatGPT'de hala çok sayıda son derece hassas kurumsal içeriğin ifşa edildiği durumlar bulunmaktadır. İş yerinde daha iyi bir performans sunmak için, dünya çapındaki birçok çalışan çeşitli görevler için kısayol çözümleri önerdiği için ChatGPT'yi kullanmaya başlamıştır . Ancak, aracın uygunsuz kullanımı bazen çalışanlar tarafından gizli kurumsal verilerin ifşa edilmesine yol açabilir. Hizmetin ücretli sürümünü kullanırken, kullanıcılar genellikle paylaştıkları verilerin gizli kaldığını düşünür. Ancak, paylaşılan veriler ChatGPT'nin genel bilgisi haline gelir. Araştırmalar, Haziran 2023 itibarıyla dünya çapında yanıt veren çalışanların yüzde 10'undan fazlasının iş yerinde en az bir kez ChatGPT kullandığını ve yaklaşık yüzde beşinin gizli kurumsal verileri ChatGPT'ye girdiğini ortaya koymuştur . En yaygın olarak ifşa edilen kurumsal veri türü, yalnızca dahili kullanım için tasarlanmış hassas verilerdi.Yapay zekanın kötü amaçlı kullanımı hükümetler, kuruluşlar ve internet kullanıcıları için bir endişe kaynağıdır, ancak en son yenilikler siber güvenlik alanında da kullanılmaktadır.
Kaynak: https://www.statista.com/
