chatgpt-ve-daha-fazlası-ki-ai-sohbet-botlarının-cybersecurity'nin-geleceği-için-anlamı-ne-demektir

OpenAI'nin yapay zeka destekli doğal dil işleme aracı olan ChatGPT , e-postalar yazmak gibi basit görevlerden, makaleler yazmak veya kod derlemek gibi daha karmaşık işlere kadar geniş bir ilgi görmektedir.

Bu hiçbir şekilde mükemmel değil, elbette - hatalar yapar ve yanlış yorumlamalar yaparak öğrendiği bilgileri yanlış anlar, ancak birçok kişi bunu ve diğer YZ araçlarını interneti nasıl kullanacağımızın geleceği olarak görüyor.

ChatGPT için OpenAI'nin hizmet şartları, özellikle fidye yazılımı, tuş kaydedici, virüs veya "zarar vermeyi amaçlayan diğer yazılımlar" dahil olmak üzere kötü amaçlı yazılım oluşturmayı yasaklamaktadır. Ayrıca, spam oluşturma girişimlerini ve siber suçlara yönelik kullanım durumlarını da yasaklar.

Ancak herhangi bir yenilikçi çevrimiçi teknoloji gibi, ChatGPT'yi daha karanlık amaçlar için nasıl istismar edebileceklerini deneyen insanlar zaten var.

Lansmandan sonra, Siber suçlular tarafından yeraltı forumlarında ChatGPT'nin nasıl kullanılabileceği hakkında başlıklar yayınlanmaktan uzun sürmedi. Bu başlıklarda, kimlik avı e-postaları yazmaya veya kötü amaçlı yazılımları derlemeye yardımcı olmak gibi zararlı siber etkinlikleri kolaylaştırmak için ChatGPT'nin nasıl kullanılabileceği anlatılıyordu.

Ve bazı endişeler var ki dolandırıcılar ChatGPT ve diğer AI araçlarını, Google Bard gibi, çabalarının bir parçası olarak kullanmayı deneyecekler. Bu AI araçları siber saldırıları devrim yaratmasa da, hala siber suçlulara -hatta bilmeyerek de olsa- kötü amaçlı kampanyalarını daha verimli bir şekilde yapmalarına yardımcı olabilir.

"Kısa vadeli olarak en azından, ChatGPT'nin tamamen yeni tür saldırılar oluşturacağını düşünmüyorum. Odak noktası, günlük operasyonlarını daha maliyet etkin hale getirmek olacak," diyor Siber Güvenlik şirketi Check Point'in tehdit istihbaratı grup yöneticisi Sergey Shykevich.

Ayrıca: ChatGPT nedir ve neden önemlidir? İşte bilmeniz gereken her şey

Phishing saldırıları kötü niyetli hacking ve dolandırıcılık kampanyalarının en yaygın bileşenidir. Saldırganlar, kötü amaçlı yazılım dağıtmak için e-postalar gönderiyor olabilir, phishing bağlantıları veya bir kurbanı para transferi yapmaya ikna etmek için kullanılıyor olabilir. E-posta, başlangıçtaki baskınlığın ana aracıdır.

O e-postaya olan bağımlılık, çetelerin sürekli bir akışta net ve kullanılabilir içeriğe ihtiyaç duymasını gerektirir. Birçok durumda - özellikle kimlik avıyla - saldırganın amacı, bir insanı bir şey yapmaya ikna etmektir, örneğin para transferi yapmak. Neyse ki, bu kimlik avı girişimlerinin birçoğu şu anda istenmeyen posta olarak kolayca fark edilebilir. Ancak verimli bir otomatik metin yazarı bu e-postaları daha çekici hale getirebilir.

Cyber suçu, dünya çapında bir endüstri olup, çeşitli ülkelerdeki suçluların potansiyel hedeflere korsanlık yapan e-postalar göndermesiyle gerçekleşir. Bu, dilin bir engel olabileceği anlamına gelir, özellikle mağdurların güvendikleri bir kişiyle konuştuğuna inandıkları ve daha sofistike fırıldak avı kampanyalarına dayanan durumlarda. Eğer e-postalar alışılmışın dışında yazım ve dil bilgisi hataları veya garip noktalama işaretleriyle doluysa, biri meslektaşıyla konuştuğuna inanmayacaktır.

Ancak yapay zeka doğru bir şekilde kullanılırsa, bir sohbet botu, saldırganın istediği herhangi bir dilde e-postalar için metin yazmak için kullanılabilir.

"Rus siber suçlular için büyük bir engel dil--İngilizce," diyor Shykevich. "Şimdi Rus kolejlerindeki İngilizce bölümü mezunlarını phishing e-postalarının ve çağrı merkezlerinde çalışan kişilerin yazması için işe alıyorlar--ve bunun için para ödemeleri gerekiyor."

Devam ediyor: "ChatGPT gibi bir şey, onlara çeşitli farklı dolandırıcılık mesajlarının oluşturulması konusunda çok para tasarrufu sağlayabilir. Sadece hayatlarını kolaylaştırabilir. Bence aradıkları yol bu olacak."

Teoride, kötüye kullanımı önlemek için korumalar mevcuttur. Örneğin, ChatGPT kullanıcıların bir e-posta adresi kaydetmelerini ve kaydı doğrulamak için bir telefon numarası girmelerini gerektirir.

Ve ChatGPT kötü niyetli e-postalar yazmayı reddetse de, başka mesajlar için e-posta şablonları oluşturması istenebilir. Bu şablonlar siber saldırganlar tarafından sıklıkla sömürülen mesajları içerebilir. Bu çaba, yıllık bir bonusun sunulduğunu iddia eden, önemli bir yazılım güncellemesinin indirilip yüklenmesi gerektiğini iddia eden veya aciliyetle incelenmesi gereken bir ekli belge olduğunu belirten mesajları içerebilir.

"Bir konferans daveti gibi bir şeyi elde etmek için bir bağlantıya tıklamaya ikna etmek için bir e-posta oluşturmak - bu oldukça iyi ve eğer anadilin İngilizce değilse, bu gerçekten iyi görünüyor," diyor Siber güvenlik ve tehdit istihbaratı sağlayıcısı Crowdstrike'ın kıdemli başkan yardımcısı Adam Meyers.

"Eğer anadiliniz İngilizce değilse, bu size, göndermek istediğiniz kişinin dilini tam anlamıyla anlayarak uygun şekilde oluşturulmuş, dilbilgisel olarak doğru bir davetiye oluşturma imkanı sunar."

Ancak bu araçları kötüye kullanmak sadece e-posta için özgü değildir; suçlular herhangi bir metin tabanlı çevrimiçi platformda betik yazmak için de bunu kullanabilirler. Dolandırıcılık yapan saldırganlar veya hatta casusluk kampanyaları yürüten gelişmiş siber tehdit grupları için bu kullanışlı bir araç olabilir - özellikle insanları çekmek için sahte sosyal profiller oluşturmak için.

"LinkedIn'da gerçek bir iş insanı gibi görünmek için inandırıcı bir şekilde iş konuşmaları yapmak isterseniz, ChatGPT bunun için harika," diyor Kelly Shortridge, bir siber güvenlik uzmanı ve bulut bilişim sağlayıcısı Fastly'de üst düzey baş ürün teknoloğu.

Çeşitli hacker grupları, siber casusluk kampanyaları yürütmek için LinkedIn ve diğer sosyal medya platformlarını kullanma girişiminde bulunuyor. Ancak sahte ama gerçek gibi görünen çevrimiçi profiller oluşturmak ve bunları gönderi ve mesajlarla doldurmak zaman alıcı bir süreçtir.

Shortridge, saldırganların, işi manuel olarak yapmaktan daha az emek gerektiren ChatGPT gibi yapay zeka araçlarını kullanarak ikna edici içerik yazabileceğini düşünüyor.

"Bu tür sosyal mühendislik kampanyalarının çoğu, o profilleri kurmanız gerektiği için büyük çaba gerektirir," diyor ve yapay zeka araçlarının giriş engelini önemli ölçüde düşürebileceğini savunuyor.

"ChatGPT'nin gerçekten inandırıcı düşünce liderliği yazıları yazabileceğinden eminim," diyor.

Teknolojik yeniliklerin doğası gereği, her yeni şey ortaya çıktığında, onu kötü niyetli amaçlar için kullanmaya çalışanlar her zaman olacaktır. Ve istismarı önlemek için en yenilikçi yöntemlerle bile, siber suçluların ve dolandırıcıların hileli doğası, korumaları atlatma yöntemleri bulmalarına neden olur.

"Sıfıra tamamen kötüye kullanımları ortadan kaldırmanın bir yolu yok. Hiçbir sistemle bu hiçbir zaman gerçekleşmemiştir," diyor Shykevich. Shykevich, yapay zeka sohbet botlarının yanlış amaçlar için sömürülmesini önlemeye yönelik nasıl daha fazla tartışma olacağı umuduyla potansiyel siber güvenlik sorunlarının vurgulanmasını umuyor.

"Harika bir teknoloji - ama her zaman yeni teknolojilerde riskler vardır ve bu riskleri farkında olmak için bunları tartışmak önemlidir. Ve bence ne kadar çok tartışırsak, OpenAI ve benzer şirketlerin kötüye kullanımı azaltmak için daha fazla yatırım yapması o kadar olası olur," öneriyor.

AI sohbet botları olan ChatGPT gibi AI ile siber güvenlik için de bir avantaj vardır. Özellikle kodlarla uğraşmak ve anlamak konusunda çok iyidirler, bu yüzden saldırganları anlamada ve kötü amaçlı yazılımları tespit etmede savunmacılara yardımcı olmak için kullanılma potansiyeli bulunmaktadır. Ayrıca, yazılım geliştiricilere yardımcı olarak kod yazabilme yetenekleri sayesinde, bu araçlar daha iyi ve daha güvenli kod üretmeye yardımcı olarak herkes için faydalı olabilir.

Forrester baş analisti Jeff Pollard'ın son zamanlarda yazdığı gibi, ChatGPT güvenlik olay raporlarının üretim süresinde büyük bir azalmaya neden olabilir.

"Bu işleri daha hızlı halletmek, güvenlik ekiplerin ölçeklenmesine yardımcı olan test etme, değerlendirme yapma, araştırma yapma ve cevap verme gibi diğer işler için daha fazla zaman demektir," diyor ve bir botun mevcut verilere dayanarak sonraki önerilen işlemleri önerebileceğini ekliyor.

"Eğer güvenlik düzenlemesi, otomasyon ve yanıtlama, parçacıkların hızlı bir şekilde geri alınması için doğru şekilde kurulmuşsa, bu tespit ve yanıtlamayı hızlandırabilir ve [güvenlik operasyon merkezi] analistlerinin daha iyi kararlar vermesine yardımcı olabilir," diyor.

Yani, sohbet botları siber güvenlik konusunda bazıları için işleri zorlaştırabilir, ancak aynı zamanda bazı umut verici yanları da olabilir.

ZDNET, OpenAI'yi yorum için aradı, ancak bir yanıt alamadı. Bununla birlikte, ZDNET, ChatGPT'nin phishing amaçlı kötüye kullanımını önlemek için hangi kurallara sahip olduğunu sordu - ve aşağıdaki metni aldık.

"Önemli bir nokta, ChatGPT gibi yapay zeka dil modellerinin, sahte e-postalara benzer metinler üretebildiği unutulmamalıdır. Ancak bunlar, kendi başlarına kötü niyetli eylemler gerçekleştiremezler ve zarar vermek için kullanıcının niyet ve eylemlerine ihtiyaç duyarlar. Bu nedenle, kullanıcıların yapay zeka teknolojisini kullanırken dikkatli olmaları, iyi bir değerlendirme yapmaları ve sahte e-posta ve diğer kötü niyetli faaliyetlere karşı dikkatli olmaları önemlidir."